«Лестница причинности», предложенная исследователем-первопроходцем Джудеей Перл, классифицирует различные уровни причинных рассуждений, к которым должны стремиться системы ИИ.

В своей плодотворной книге «Книга почему» Перл выделяет три ступеньки на этой лестнице — ассоциации, вмешательство и контрфактические действия.

Причинно-следственные рассуждения, или способность понимать причинно-следственные связи, являются важной вехой на пути к общему искусственному интеллекту. Однако нынешние программы LLM по-прежнему испытывают трудности с более глубокими формами рассуждений, выходящими за рамки статистических корреляций.

Перл предложил «Лестницу причинности» для классификации различных уровней причинного мышления.

В этой статье я расскажу о методах оснащения студентов-магистрантов возможностями причинно-следственного рассуждения, которые помогут им подняться по этой лестнице.

Ступеньки лестницы

Лестница причинности состоит из трех уровней рассуждений:

Ассоциативность — обнаружение корреляций и закономерностей в наблюдаемых данных. LLM уже преуспевают в этом благодаря предварительному обучению.

Вмешательство — понимание влияния действий и вмешательств на систему. Для этого необходимо моделировать причинно-следственные связи.

Контрфактическое — воображение и рассуждения о гипотетических и альтернативных реальностях. Этот уровень позволяет задать вопрос «а что, если?» вопросы.

Каждая ступень опирается на возможности предыдущей. Освоение всех трех станет важной вехой в развитии причинного ИИ.

Например, крупная авиакомпания решает, приобретать ли новые самолеты у производителя А или Б. Генеральный директор хочет понять, как это решение повлияет на финансы компании в течение следующих 5 лет.

На уровне ассоциации аналитическая группа авиакомпании может просмотреть исторические данные, чтобы увидеть, как операционные расходы, затраты на топливо, затраты на техническое обслуживание и т. д. коррелируют с использованием самолетов групп A и B в разных авиакомпаниях. Это может дать основанный на данных взгляд на ассоциации.

Чтобы рассуждать на уровне вмешательства, команда строит причинно-следственный график, связывающий такие переменные, как доход от билетов, цены на топливо, затраты на приобретение самолетов, эксплуатационные расходы, коэффициенты пассажирской загрузки и т. д. Моделируя эти причинно-следственные связи, они могут моделировать последствия вмешательства в покупку A по сравнению с B. Например, самолеты производителя A могут иметь более высокую стоимость приобретения…