Я часто объяснял своим партнерам по продукту и инженерам, что взаимодействие пользователей с продуктом или функцией лучше всего рассматривать как взаимодействие с черным ящиком.

Пользователь сталкивается с интерфейсом, через который он может манипулировать чем-то элементом, будь то с помощью кнопки, словесной или письменной команды. При успешном взаимодействии с указанным продуктом или услугой пользователь будет вознагражден результатом. Это может быть подтверждение — «Ваш заказ отправлен» — , ответ — «Пизанская башня построена 9 августа 1173 года» — или изменение состояния — «Уведомления отключены».

Посредством продолжительных взаимодействий пользователь создает ассоциации между своим действием и результатом. Это процесс, с помощью которого пользователи строят ментальные модели, которые помогают им в будущих взаимодействиях и предсказывают, какие результаты будут получены.

Хотя пользователь может не знать, как работают внутренние функции продукта или функции, и, честно говоря, этого не следует ожидать и не нужно; должна быть четкая связь между вводом и выводом пользователей. Причинно-следственная связь «если-то».

В хорошо сделанном продукте пользовательский опыт должен определяться только тем, с чем он взаимодействует и что воспринимает, подобно тому, как положить четвертак в автомат по производству жевательной резинки, повернуть рукоятку и получить жевательную резинку. «Как это работает», внутренние механизмы, которые регистрируют монету и выпускают жевательную резинку, вторичны по отношению к пользовательскому опыту работы с продуктом.

Однако продукты, использующие искусственный интеллект (ИИ) и машинное обучение (МО), начали разрушать зеркальное лицо пользовательского опыта черного ящика. Каждый раз, когда интеллектуальная технология, такая как цифровые голосовые помощники (Alexa) или генеративный объект ИИ, такой как ChatGPT, выдает неожиданный или желаемый результат, она прерывает эгоцентричный и воплощенный опыт пользователя с указанным продуктом, привлекая внимание и внимание. по отношению к самому продукту.

«Почему ChatGPT отреагировал таким образом?»

«Почему Сири не поставила будильник, который я просил?»

«Почему мне показывают эту рекламу?»

Неопределенность порождает любопытство, на основе которых излагаются теории о том, почему и как. Большинство этих теорий сенсационно. Достаточно лишь выполнить краткий поиск в Интернете, чтобы обнаружить любое количество народных теорий, фактов, наводненных ложными фактами, информации, смешанной с дезинформацией, обвинениями и многим другим. Это нежелательное состояние взаимодействия пользователя с любым продуктом. Шестерни должны быть надежно спрятаны за глянцевой внешностью автомата с жевательной резинкой.

Итак, почему мы не можем сделать это с продуктами, использующими ML и AI? Почему компании по-прежнему терпят неудачу в создании бесшовного пользовательского интерфейса причин и следствий, ввода и вывода?

Давайте рассмотрим два аспекта этого. 1) Изучение среды, в которой эти продукты и функции разрабатываются и выпускаются, и 2) Изжила ли метафора черного ящика свою актуальность.

Огромные вычислительные системы, лежащие в основе моделей искусственного интеллекта и машинного обучения, слабо возвышаются над устаревшей архитектурой (часто настолько устаревшей, что их функционирование остается загадкой), разнообразными языками программирования и кодовыми базами, несколькими платформами хранения данных, а также сочетанием облачных вычислений и локальных сетей. комнатные машины, возможно, с некоторыми граничными вычислениями, добавленными туда для процветания.

Компании, разрабатывающие и запускающие эту технологию, разрознены как внутри, так и снаружи; их сотрудники постоянно увольняются, что приводит к созданию технологий искусственного интеллекта и машинного обучения, которые не понятны никому, даже компании, которые их создают. Поэтому, конечно, конечно, мы не можем ожидать, что будет последовательный и четко связанный набор выходных данных с входными данными нашего пользователя, если и когда создатели указанного продукта даже не знают, кто над чем работает. частью программы или почему для получения указанного вывода были применены определенные наборы логики!

Чтобы получить содержательный и целостный пользовательский опыт, каким бы сложным он ни был внутри, то, с чем взаимодействует пользователь, должно быть четко коррелировано и последовательно с его вводом/действием. Возвращаясь к метафоре черного ящика и к вопросу о том, применима ли она по-прежнему в мире, где мы обсуждаем генеративный ИИ.

Я бы сказал, что это все еще применимо, но теперь нам нужно сместить наше внимание от однонаправленного ввода-вывода к обратной связи или контуру управления как важнейшему компоненту черного коробка. Это изменение фокуса фактически делает его более динамичным между пользователем и самой технологией. Рассмотрим большие языковые модели (LLM) генеративного ИИ с непостижимо большими наборами данных и многогранными наборами моделей, что приводит к новым разговорная динамика для каждого входа. С этими типами технологий взаимодействие с пользователем никогда не должно быть статичным, а должно быть динамичным, реляционным, то есть генеративным.

Таким образом, метафора черного ящика остается актуальной, однако теперь основное внимание уделяется обратной связи между пользователем и технологией. Этот элемент цикла обратной связи и динамика между пользователем и технологией являются основой взаимодействия пользователя с продуктом, в дизайне которого используются AI/ML. Пользователь не должен прерываться в своей реляционной динамике, так же как потребитель, который бросает четвертак в автомат с жевательной резинкой, не ожидает, что его остановят на полпути, чтобы узнать о машине для производства жевательной резинки.

Компании должны замедлить свою гонку ИИ на Луну, э… сингулярность, чтобы опираться на динамику обратной связи для взаимодействия пользователей со сложными технологиями, такими как ИИ и машинное обучение. Как пользователи могут создавать реляционную динамику или вносить свой вклад в сложные системы, не зацикливаясь на вопросах «как» и «почему»? Я думаю, что это манит к новой главе в профессии User Experience, чтобы определить, как динамика отношений между человеком и технологией выглядит материально в продукте и эмпирическом дизайне для генеративного ИИ, такого как ChatGPT. Я также думаю, что компаниям надлежало бы обеспечить сквозную видимость своих конвейеров обработки, инфраструктуры данных и архитектуры кода, чтобы освободить специалистов по пользовательскому опыту, чтобы они могли сосредоточиться на интерактивных компонентах, которые формируют петлю обратной связи между пользователем и [черным]. коробка] -технология.