Почему интерпретируемый ИИ стал такой горячей темой?
ИИ процветает повсюду с 2012 года, когда начали происходить масштабные прорывы в области компьютерного зрения и обработки естественного языка. С тех пор компании прилагают все усилия, чтобы внедрить ИИ во все отрасли, о которых вы только можете подумать, от здравоохранения до розничной торговли, финансов и беспилотных автомобилей. Искусственный интеллект дает этим компаниям невероятную возможность создавать мощные системы прогнозирования, которые могут автоматизировать практически любую повторяющуюся человеческую задачу, для которой они могут получить данные.
Идея о том, что ИИ должен быть полностью интерпретируемым, возникла, когда люди увидели, что их системы ИИ делают ошибки. Они хотели понять, почему это произошло, чтобы улучшить свои системы.
В некоторых областях отсутствие интерпретируемости приводит к возникновению многих юридических проблем. Что произойдет, если ИИ сделает ошибку? Кто несет ответственность за ущерб? В сфере финансов ошибка может означать потерю дохода в миллиарды долларов. В здравоохранении ошибки стоят человеческих жизней.
Но интерпретируемость - не ответ на эти проблемы. Это может предоставить нам лучшие способы улучшить наши системы искусственного интеллекта или, возможно, дать нам больше уверенности в том, что мы знаем, откуда взялись ошибки системы. Но это не приближает нас к принципиальному решению ИИ, равно как и не решает этических и юридических вопросов.
У нас может быть система искусственного интеллекта, которая игнорирует опасный рак, вызывая смерть пациентов. Если бы этот ИИ был более интерпретируемым, возможно, мы могли бы определить причину его ошибки и использовать ее для улучшения системы. Но мы уже знали, что ошибка исходила от нашего ИИ. Сохраняются те же этические и правовые вопросы, в этом плане ничего не решено.
Что произойдет, если врач сделает эту ошибку?
Несколько месяцев назад я посетил мероприятие по машинному обучению в Торонто. Группе вопросов и ответов был задан интригующий вопрос:
Если бы беспилотному автомобилю пришлось выбирать между наездом на кого-нибудь и врезанием в дерево, убив всех пассажиров, что бы он выбрал?
Ответ, данный одним из членов комиссии, был интригующим: а что бы сделал человек? Однозначного ответа нет. У людей есть свои предубеждения и уникальные внутренние системы принятия решений. Нет правильного ответа на этот вопрос.
Мы не до конца понимаем человеческое мышление, но все же принимаем его ошибки. Если вы допустили ошибку в тесте по математике, вы сможете вернуться назад и выяснить, где произошла ошибка и как исправить ее в следующий раз. Но никто не имеет ни малейшего понятия, как мозг сам внутренне пришел к своим выводам! На самом деле неврологии еще нет, и у нас нет серьезных проблем без этих знаний.
Если мы хотим решить некоторые этические и юридические проблемы ИИ в отраслях, чувствительных к ошибкам, таких как здравоохранение и финансы, тогда нет смысла работать над интерпретируемостью. Это больше о применении ИИ правильным способом.
В принятии решений в сфере здравоохранения есть очень сильные моральные принципы, согласно которым ИИ даже неуместно принимать эти решения. Эти решения должны приниматься опытным человеком. ИИ следует использовать как инструмент, помогающий предоставить эксперту человеческую информацию, которая может помочь в скорости и точности решения, но не для принятия самого решения.
Если это связано с моралью, эмоциями или чем-либо, что изначально человеческое, а не не машинное, оно должно оставаться под полным контролем людей. ИИ - это инструмент, который может протянуть руку помощи, но не капитан корабля.
ИИ не обязательно должен быть полностью интерпретируемым. Важно, чтобы у нас была некоторая интерпретируемость на высоком уровне: как работает система, ее различные части и какая часть допустила ошибку.
Но нам не нужно знать эти мельчайшие подробности. Знание о них не поможет нам решить разведывательные, а также этические и юридические проблемы, которые ИИ по своей сути ставит на стол.
Что поможет нам решить и воспроизвести человеческий интеллект, так это понимание того, как различные части мозга функционируют, образуя единое целое. Как это работает как система.
Любите учиться?
Следуйте за мной в твиттере, где я публикую все о новейших и величайших достижениях искусственного интеллекта, технологий и науки!
