Люди не понимают, что такое понимание. Я пришел к такому выводу после того, как внимательно следил за дебатами о будущем ИИ и впоследствии прочитал тонны литературы.
Существует множество концепций, которые подходят к этому вопросу с разных точек зрения: антропологической, вычислительной, математической, педагогической, физиологической, психологической и даже квантово-физической. Можно попытаться набросать смутный набросок единой теории понимания, наложив друг на друга хотя бы наиболее интересные из них.
Вот моя попытка.
Мое понимание теоремы Байеса более чем наивно. Это примитивно. Тем не менее я позволю себе поделиться им как отправной точкой в топологическом (или метафорическом) наброске идеи понимания.
Возьмем P(A) — это вероятность того, что A истинно. И — это наше убеждение, прежде чем мы сделаем наблюдение. Это наш начальный уровень знаний. Это входной сигнал.
Тогда P(B) — это вероятность того, что B истинно. B — данные, которые мы получаем из наблюдения. Это обновление наших знаний. Это фильтр.
P (B | A) — это вероятность того, что наше наблюдение B верно при условии, что наше убеждение A истинно. Это вероятность того, что результат наблюдения совпадет с имеющимися у нас знаниями. Он показывает, насколько различаются входные данные и данные фильтра.
Теперь нам нужно вычислить значение P (A | B) — вероятность того, что наше убеждение A истинно, если верно наше наблюдение B. Это будет наш новый уровень знаний после учета данных наблюдений.
Итак, мы пришли к формуле:
P (A | B) = P (B | A) * P (A) / P (B)
Мы берем вероятность того, что результаты наблюдений верны, учитывая вероятность того, что наши старые знания верны, умножаем на вероятность того, что наши старые знания верны, и делим на вероятность того, что наблюдение верно. Мы получаем вероятность того, что наши старые знания верны, учитывая вероятность того, что результаты наблюдений верны. Это вероятность того, что наши новые знания верны.
Это прямой байесовский вывод. Оно ничего не говорит о том, откуда берется значение P(A), если мы ничего не знаем заранее. Считается, что он равен 50/50, если мы ничего не знаем.
Но у нас не может быть нулевых знаний. Скорее, у нас могут быть нулевые знания в конкретной области, но мы определенно знаем что-то вне ее.
Вот тут и возникает вопрос понимания. Понимание — это не знание конкретного решения конкретной проблемы. Понимание – это создание алгоритма решения всех задач определенного класса, а не одной конкретной проблемы.
Понимание строится не на нашем непосредственном взаимодействии с окружающей средой, а на отношениях между различными явлениями окружающей среды, которые мы распознаем по ассоциации с тем, что мы уже знаем об окружающей среде. Информация для понимания исходит от наблюдения, а не от веры (старого знания). В понимании мы инвертируем байесовский вывод следующим образом:
P (B | A) = P (A | B) * P (B) / P (A)
Вероятность того, что наше наблюдение истинно при условии, что вероятность нашего убеждения верна, получается путем умножения вероятности того, что наше убеждение истинно при условии, что вероятность нашего наблюдения истинна, умноженной на вероятность того, что наше наблюдение истинно и разделенной вероятностью того, что наше убеждение истинно.
В этом случае мы получаем значение P(A) (вероятность того, что наше предшествующее убеждение истинно) по аналогии между тем, что мы знаем из несвязанных, но метафорически связанных областей, с тем, что мы наблюдаем. Достоверность наших знаний перестает быть равновероятной (то есть полным незнанием) и приобретает реальный вес.
Таким образом, мы начинаем создавать понимание того, чего не понимали. И мы можем продолжать проверять это понимание до тех пор, пока вероятность достоверности наблюдения при условии нашего понимания не станет достаточно высокой, чтобы мы могли начать использовать новое понимание в качестве алгоритма для достижения желаемого наблюдения в аналогичных условиях.
В этой логике мы наблюдаем то, что вызывает у нас любопытство. Мы приходим к пониманию, пытаясь удовлетворить свое любопытство, — мы ищем мысленно по аналогии причину интересующих нас явлений. Мы воображаем то, чего не понимаем, сопоставляя это с вещами, которые мы понимаем.
Метафорическое отображение понимания носит топологический характер. Мы накладываем области известных понятий, чтобы отобразить топологически инвариантные контуры области неизвестного, которую мы можем лишь смутно представить. Наш разум играет с образами, пространствами и формами, а не с символами или статистическими распределениями, чтобы изобрести понимание.
Как только образы устанавливаются в метастабильный порядок конкуренции без победителя, мы исследуем, насколько прочно они стоят. Только получив результат, мы можем перевести его в слова, числа или другие символы.
Это алгоритм действий живого (текучего, образного, априорного, научного, ассоциативного) интеллекта, который порождает (творит, изобретает, воображает) новое понимание на основе наблюдения, воображения и ментальной топографии, а не путем различения результатов наблюдение на основе старых знаний.
Я исследую и пишу все эти вещи, потому что я остро нуждаюсь в целеустремленном, действительно автономном искусственном агенте для питания виртуальной среды, которая поможет людям сохранить человечность, то есть способность понимать других людей. Мне тоже очень интересно узнать, что такое понимание.
