Вы видели рефрен: «Чьи ценности будут встроены в ИИ?»
За этим вопросом, который часто задается с намеком на предчувствие, стоит важное предположение: один набор ценностей будет выбран в качестве победителя каким-то элитным лицом, принимающим решения.
Это взгляд на власть, который ориентирован на государство и имеет нулевую сумму. И все больше похоже, что ничьи ценности будут определять курс, по которому пойдут многие из самых мощных алгоритмов.
Все чаще алгоритмы способны учиться взаимодействовать с другими алгоритмами и людьми. Это взаимное сотрудничество происходит на лету. И это производит взаимодействия с положительной суммой.
Возможность машин, создающих взаимодействия с положительной суммой, раскрывает фундаментальный недостаток мышления, ориентированного на состояния.
Беспокойство о том, что один набор значений будет встроен в алгоритм, упускает возможность алгоритмов изменять свои собственные значения на лету. В самых мощных алгоритмах не будет навязываться какой-то один набор значений. Скорее, их сила будет результатом их способности изменить собственные ценности.
Критики, беспокоящиеся о том, «чьи ценности» будут встроены в ИИ, упускают ключевой момент, потому что подходят к вопросу с неправильной точки зрения.
