Почему я отдал свой голос Майкрофту А.И.
Когда я был маленьким, родители давали мне послушать кассеты старых радиопередач. Одним из моих любимых был эпизод 1948 года Тихо, пожалуйста. В Патетической заблуждении инженер по имени Куинн хвастается (на великолепном техническом языке 40-х годов) паре журналистов о гигантской вычислительной машине, построенной его организацией:
Настоящая машина находится за этими стенами. Три комнаты, полные трубок, двигателей, стробоскопов, несколько тысяч миль проводов и некоторых устройств, которые еще не являются общественной собственностью. На создание машины ушло шесть лет, и в течение этого времени на постоянной основе работал восемьдесят один технический специалист. Итак, вы можете понять, что любой человек очень мало знает о реальном устройстве этого гигантского механического мозга.
Состояние Куинна резко падает, когда он понимает, что «машина» обрела самосознание. Он рассердился на него. Он может говорить. Это саботирует его карьеру, пока он почти не меняет свое имя и не скрывается. Наконец, мы узнаем, что машина, представляющая собой могущественный набор механизмов и двигателей, влюблена в Куинна и только желает его любви взамен.
Сегодняшние говорящие машины по сравнению с ними малы, но они столь же разрушительны и непонятны, как машина из моей детской радиопостановки. Как и в случае с видеозвонками и виртуальной реальностью, цифровые помощники завершили переход от научной фантастики 40-х годов к банальному, почти безобидному стандарту. Как и старые машины, цифровые помощники занимают много комнат. Они садятся на наши прикроватные тумбочки, смешиваются с бумажными полотенцами на наших столешницах и приседают перед нашими телевизорами. Ожидается, что к 2021 году 1,8 миллиарда цифровых помощников будут в домах и офисах, терпеливо прислушиваясь к нашим голосам и пытаясь помочь своим компаниям понять наши мысли и желания.
Цифровые помощники сообщают и помогают технологическим компаниям профилировать своих пользователей, чтобы лучше ориентироваться на них с помощью рекламы или строить сервисы. Многие пользователи не осознают, что, помимо безликих алгоритмов, командам людей-подрядчиков поручено просматривать звуковые файлы, извлеченные цифровыми помощниками. Они слышат все мириады записей нашей повседневной жизни, как преднамеренных, так и непреднамеренных, после того, как машина активирована. Эти аналитики сообщают, что слышат то, что мы не хотим, чтобы другие слышали, от пукания до секса и тревожных разговоров за обеденным столом.
Нам сказали, что информационный век - это рост и распространение данных, но каким-то образом предполагалось, что священные, частные мирские дела не будут обсуждаться. Не так много.
Однако везде, где есть опасения по поводу конфиденциальности и опасения перед крупными технологиями, есть лоскутная альтернатива с открытым исходным кодом. В случае цифровых помощников одним из основных проектов с открытым исходным кодом является Mycroft AI. Майкрофт - цифровой помощник наподобие Алекса или Google Ассистент, созданный компанией, которая работает над выпуском потребительского продукта с тех пор, как кампания Kickstarter 2018 собрала 400 000 долларов. На момент написания этой статьи оборудование отложено, но программное обеспечение (которое можно скачать бесплатно) очень доступно.
Технология лучше всего, когда она действует как расширение своего пользователя, существуя исключительно для выполнения определенной функции.
Как и в случае со многими альтернативами с открытым исходным кодом, принятие такого инструмента, как Mycroft, над крупными технологическими конкурентами требует множества компромиссов. Майкрофт иногда изо всех сил пытается понять пользователя, а способность программного обеспечения анализировать реальную человеческую речь во всей ее прерывистой, неструктурированной красоте часто отсутствует. Однако то, что отличает создателей Mycroft от крупных технологических компаний, - это то, как они разрабатывают свой продукт на основе согласия. Отчасти причина того, что Google, Siri и Alexa так хорошо разбираются в людях, заключается в том, что у них есть такой большой корпус, с которым можно работать. Они поглощают миллионы высказываний своих пользователей, улавливая голоса в массе, обычно без ведома пользователя, что их голоса используются для обучения компьютерных моделей. (Разница между Apple и Google или Amazon заключается в том, что связывание данных с личным профилем не является частью бизнес-модели Apple, поэтому необходимо предпринять шаги для анонимизации звуковых файлов. Каждая из этих компаний разработала систему, чтобы люди проверяли звуковые файлы ».) Результат - результат, символизирующий большие технологии - поразительные продукты, которые стоят только конфиденциальности и согласия миллионов на создание и обслуживание.
Напротив, Майкрофт требует, чтобы пользователи соглашались, прежде чем использовать свой голос для построения модели. Майкрофт стал партнером Mozilla по программе Общий голос - инициативе, которая позволяет людям добровольно высказывать свои голоса, чтобы создать механизм преобразования речи в текст, доступный для всех. Эта философия является антитезой старой максиме Facebook двигайся быстро и ломай вещи. Разработчики с открытым исходным кодом склонны двигаться медленно и осторожно, чтобы конечный продукт не требовал для удобства фаустовского обмена конфиденциальностью. В результате получается продукт, который немного шероховат по краям, но гораздо приятнее в использовании.
Я уже писал ранее о том, что компромиссы между инициативами с открытым исходным кодом и уходом от больших технологий на мобильных устройствах часто болезненны, даже мучительны. Мой опыт работы с Майкрофтом был совершенно противоположным - помощник не привязан к какой-либо крупной технической службе, он восхитительно самодостаточен. Несколько лет назад я устроил уик-энд самодельный проект, чтобы подогнать Майкрофта А.И. в пустую книгу. Дешевый Raspberry Pi, микрофон, набор настольных динамиков и небольшой экран объединились, чтобы создать по-настоящему персональный компьютер, искусно созданное устройство, которое было действительно моим, а не придатком большой, жаждущей данных корпорации. Сегодня он стоит возле моего кресла дома, и я получаю от него удовольствие.
Есть что-то невероятно приятное в развитии навыков собственного цифрового помощника. Одним из преимуществ открытой платформы является возможность создавать код, который вы хотите запускать на ней. Например, в качестве эксперимента я разработал сценарий Python для Майкрофта, который собирал и сообщал информацию с веб-сайта, отслеживающего состояние глобальной гражданской свободы. Я сомневаюсь, что кто-то другой воспользуется этим сценарием, но он заставляет меня чувствовать, что устройство действительно мое.
Технология лучше всего, когда она действует как расширение своего пользователя, существуя исключительно для выполнения определенной функции. Это редкость для устройств, подключенных к Интернету. В этом контексте отношения между человеком и машиной чаще всего можно охарактеризовать как обмен: пользователь получает некоторую информацию или услугу в обмен на деньги или личные данные. Хотя есть много пользователей, которые понимают этот обмен с технологическими компаниями, есть много тех, кто не копается в милях соглашений об условиях обслуживания или не знает, как сказать этим компаниям не извлекать ваши данные. У службы есть ценность, которая, как и Mycroft, требует согласия на совместное использование данных, чтобы предоставить пользователям выбор в отношении того, как их данные используются.
Модель плати своими данными позволяет многим технологическим компаниям предлагать свои услуги бесплатно. Напротив, проблемы устойчивости преследуют многие проекты с открытым исходным кодом. Трагедия бесплатного полезного кода в том, что у сопровождающих часто нет ресурсов, чтобы поддерживать себя в долгосрочной перспективе. Печально известный недостаток безопасности Heartbleed, возникший несколько лет назад, стал результатом того, что популярный проект OpenSSL поддерживался всего одним человеком, работающим с пожертвованиями всего на 2000 долларов в год. Поскольку они, как правило, не получают прибыли от пользовательских данных, инициативы с открытым исходным кодом обычно существуют по старинке, когда пользователи дают деньги. А пользователи, обманутые моделями плати за свои данные, общеизвестно, что не хотят мириться.
На этой неделе я пришел к выводу, что стоит поддержать Майкрофта. Как человек, который часто блокирует все трекеры и использует VPN, я сделал, как правило, немыслимое: я согласился на сотрудничество Майкрофта с Mozilla. Мое взаимодействие с машиной будет проанализировано не только Майкрофтом А.И. для улучшения своих моделей человеческой речи, а также любой другой технической компанией, использующей движок Mozilla DeepSpeech. Я также потратил деньги на годовую подписку на Майкрофт за 20 долларов, присоединившись к социальной сети с открытым исходным кодом и инструменту карт с открытым исходным кодом в списке сервисов с открытым исходным кодом, на которые я подписываюсь. Если мы должны использовать наши кошельки для формирования технологического сектора, я хочу использовать свои доллары для продвижения этичного программного обеспечения. Я готов отложить шляпу из фольги и окунуться в бумажник ради дела.
Радиодрама «Патетическая ошибка» заканчивается тем, что инженер Куинн заявляет о своей любви к «машине», говоря математическими фразами, которые являются естественным языком устройства. Возможно, это всего лишь аллегория того, как мы все вместе приняли технологии, непостоянные и невыразимые, какими они могут быть. Каковы наши следующие шаги с машинами, которые мы пригласили в свои дома, неясно. Как и Куинн, мы должны мириться, понимая, что, если нам придется полюбить компьютеры, лучше выбрать те, которые пытаются нас полюбить.
