Наша цель в этой серии — дать возможность каждому понять явления ИИ в их повседневной жизни, а также активно формировать растущее влияние ИИ на наше общество. Поэтому мы не рассматриваем никаких технических подробностей и не даем вводных сведений о том, как использовать определенные фреймворки машинного обучения. Вместо этого мы сосредоточимся на объяснении основных идей машинного обучения, которые позволяют каждому понимать и формировать окружающий нас цифровой мир.
Машинное обучение становится все более важным во все большем количестве областей жизни и достигает замечательных результатов. Это еще более впечатляет, учитывая тот факт, что компьютеры не развили настоящего понимания проблемы, а просто определили закономерности и правила в данных.
Однако это означает, что алгоритм машинного обучения обучается для конкретных приложений. Если, например, нашему роботу нужно будет маркировать изображения собак и кошек вместо кирпичей, он будет полностью потерян (без новых обучающих данных).
Кроме того, успех машинного обучения сильно зависит от доступных данных. Поскольку алгоритмы машинного обучения учатся на большом, но ограниченном количестве данных, возможные искажения этих входных данных также переносятся в алгоритм. В случае с нашим роботом мы ожидаем, что распределение кубиков, участвующих в обучении, соответствует распределению строительных блоков в целом — предположение, которое часто не соответствует действительности. Поэтому нам нужно быть осторожными в машинном обучении: подача необъективных данных приведет (скорее всего) к необъективной модели.
Еще одна проблема, связанная с машинным обучением, заключается в том, что принимаемые решения часто трудно понять, учитывая, что часто трудно или невозможно определить, какие закономерности в данных использует алгоритм. Если, например, модель машинного обучения отказывается от кредита, люди не всегда могут восстановить, как был получен этот результат. Это может иметь далеко идущие последствия, особенно в случае ошибки. Подходы к решению таких проблем связаны с объяснимым ИИ. Этот подход пытается сделать результаты машинного обучения понятными для людей, не позволяя моделям ИИ быть черным ящиком.
Однако, когда решения, принимаемые компьютерами, трудно понять или они основаны на искаженных данных, возникают также этические и юридические вопросы. Когда это произойдет, эти вопросы должны быть обсуждены нами как обществом. Поэтому не только инженеры, но и как можно больше людей должны получить возможность понять идеи и концепции, лежащие в основе феномена машинного обучения, чтобы оценить его возможности и ограничения. Итак, поделитесь этой статьей со своими детьми, родителями и даже бабушками и дедушками.
Спасибо за чтение. Это была последняя часть нашей серии. Если у вас есть какие-либо вопросы, не стесняйтесь задавать их в комментариях.
Нажмите здесь, чтобы перейти к другим статьям этой серии.
Написано Стефаном Сигерером, Тильманом Михаэли и Ральфом Ромейке.
Робот адаптирован с https://openclipart.org/detail/191072/blue-robot и лицензирован под CC0. Статья и производная графика находятся под лицензией CC-BY-SA.
