Несмотря на то, что мы любим искусство, мы также понимаем, что новые технологии, особенно цифровые, должны быть чутко интегрированы в аналоговый опыт.

Чтобы по-новому взглянуть на философию таких методов, как машинное обучение, мы изучили лекции Поппера, содержащиеся в Предположениях и опровержениях.

Основная идея Поппера связана с фальсификацией и тем, что теория никогда не может быть полностью доказана. Путем наблюдения вы можете увеличить вероятность того, что теория верна, но вы никогда не сможете утверждать, что какая-либо теория абсолютно верна, потому что следующее наблюдение может доказать, что она ложна.

В качестве части этого аргумента он рассматривает чистую индукционную машину, и именно в этом обсуждении, написанном задолго до того, как машинное обучение стало возможным, вводятся некоторые ключевые концепции.

Юм подверг критике идею индукции. Это идея о том, что знания собираются посредством наблюдения.

Подводя итог этой логической критике юмовской психологии индукции, мы можем рассмотреть идею создания индукционной машины. Помещенная в упрощенный «мир» (например, в одну из последовательностей цветных фишек) такая машина может путем повторения «усвоить» или даже «сформулировать» законы последовательности, которые держат в себе «мир». Если такую ​​машину можно сконструировать (а я в этом не сомневаюсь), то можно утверждать, что моя теория неверна; ведь если машина способна проводить индукции на основе повторения, то не может быть никаких логических причин, мешающих нам делать то же самое.

Аргумент звучит убедительно, но он ошибочен. При конструировании индукционной машины мы, архитекторы машины, должны априори решить, что составляет ее «мир»; какие вещи следует считать подобными или равными; и какие «законы» мы хотим, чтобы машина могла «обнаружить» в своем «мире». Другими словами, мы должны встроить в машину структуру, определяющую, что является важным или интересным в ее мире: машина будет иметь свои «врожденные» принципы отбора. Проблемы подобия будут решены для него его создателями, которые таким образом истолковали «мир» для машины.

Это было из лекции в Кембридже в 1953 году, задолго до того, как компьютеры смогли обрабатывать объемы данных, связанные с машинным обучением. Аргумент состоит в том, что если вы получаете знание посредством наблюдения, то ваше знание основано исключительно на прошлых событиях и, следовательно, не может справиться с будущим событием, которое не является повторением прошлого.

Мало того, вы также приносите «мир» прошлого с его предположениями и предубеждениями и пытаетесь спроецировать их на будущее. Этика машинного обучения достаточно развита, чтобы понять это, но алгоритмы не в состоянии эффективно решать эти проблемы.

Так что же это означает для того, как следует внедрять машинное обучение? Вы должны осознавать предвзятость, созданную в модели, и понимать, что если «мир» изменится, то модель быстро устаревает и, возможно, опасна.