Механические умы дебютируют на мировой арене. Искусственный интеллект, ранее державшийся в секрете, как чудовище Франкенштейна, вошел в популярную культуру. Я не могу прожить и дня без того, чтобы кто-нибудь не упомянул большие языковые модели, генераторы изображений или беспилотные автомобили.
Подобно чудовищу Франкенштейна, общественный прием не был приветлив. Некоторые бегут от драки. Они считают неудачи ИИ доказательством того, что механические умы далеки от достижения модели совершенства, представленной Homo sapiens. Вместо того, чтобы участвовать в тонких дискуссиях, они предпочитают идти в ногу со временем. Я сомневаюсь в том, что стоит ждать, пока ИИ обретет сверхчеловеческие боевые способности, но сегодня я пытаюсь убедить в этом не тех людей.
Столкнувшись с разрушением ИИ, другие решили бороться. Их причины имеют заслугу. Мы должны быть обеспокоены тем, что большие языковые модели галлюцинируют неправильные ответы. Мы должны беспокоиться о том, что генераторы изображений обучаются искусству, созданному людьми, без разрешения. Мы должны быть встревожены тем, что автомобили на наших дорогах могут время от времени вести себя хаотично.
Тем не менее, мы, люди, не намного лучше. Многое из того, что мы «помним», является галлюцинацией. Художники-люди черпают вдохновение у других художников-людей и редко спрашивают разрешения. Водители-люди неустойчивы, особенно когда они устали, пишут текстовые сообщения, пьяны или под кайфом.
Однако есть разница между механическим разумом и биологическим мозгом. Машины улучшаются с течением времени благодаря достижениям в области вычислительной мощности, доступности данных и архитектуры моделей. Люди этого не делают. Мы можем изменить то, как мы используем наши 86 миллиардов нейронов, но мы не можем вместить столько вычислительной мощности в наши черепа.
Люди, атакующие ИИ, ведут неправильные сражения. Они сражаются с тенями. Следующее поколение моделей не за горами. Эти модели будут более функциональными и надежными, чем те, которые мы имеем сегодня. Являются ли языковые модели, лежащие в основе последних поисковых продуктов Google и Bing, ошибочными? Конечно, но математические потомки Барда и Сиднея не за горами.
Я понимаю желание бороться с ИИ. Я люблю писать посты, подобные этому, хотя это не приносит мне никакой компенсации. Я не могу себе представить, какой стресс оказали бы на меня большие языковые модели, если бы я оплачивал свои счета именно так. Вам лучше поверить, что я буду бороться с ИИ на каждом шагу.
Тем не менее, борьба с тенями мало что меняет на пути ИИ. Мало кто из тех, кто занимается технологиями, заботится о критике существующих продуктов. Оправдано это или нет, но многие технооптимисты считают, что прогресс решает все проблемы. Существует даже движение под названием «Эффективный акселерационизм» (e/acc), пытающееся оправдать вред на службе термодинамическим законам.
Если вы хотите затеять драку, сосредоточьтесь на будущем. Представьте себе мир, в котором большие языковые модели пишут лучше, чем люди, генераторы изображений создают оригинальные рисунки, а беспилотные автомобили никогда не разбиваются. Проблем еще будет много. Компании, создающие ИИ, будут подвержены коррупции, если их власть не будет контролироваться. Армия низкооплачиваемых работников сферы услуг, стоящих за машинами, будет нуждаться в защите и посредничестве. Целевые функции, используемые при обучении ИИ, должны соответствовать тому, чего мы хотим как люди, а не просто экономической отдаче.
Я не говорю тебе бежать. Я призываю вас сражаться в битвах, которые имеют значение. Монстр Франкенштейна может отбрасывать тень, но это не значит, что он враг.
