Во 2-м квартале Программа MSTI в Global Innovation Exchange, Вашингтонский университет у нас был курс под названием История и будущее технологий. Курс направлен на то, чтобы дать нам понимание и оценку прошлых тенденций в области технологий, чтобы понять траектории развития технологий и то, как они меняются с течением времени. Этот документ был частью последнего задания. В статье я исследовал путь развития Amazon Echo / Alexa и его влияние на общество.

Абстрактный

В 2015 году компания Amazon из Сиэтла выпустила Amazon Echo, устройство голосового управления, которое подключается к сервису виртуального помощника Alexa с голосовым управлением. В этой исследовательской статье будет представлен путь развития Amazon Echo / Alexa - как он задумывался, какие были приняты важные решения. Поскольку продукт с голосовым управлением принадлежит к новой категории, его оптимальный подход к исследованиям и разработкам еще не определен; Amazon инициировал приз Alexa Prize для университетских талантов, чтобы оспаривать определенные темы, мы можем получить представление о решающей технической проблеме в продукте разговорного ИИ через этот конкурс. Этот документ также будет охватывать экосистему индустрии услуг голосовых команд, ее влияние на общество, дебаты и разногласия вокруг таких услуг.

Ключевые слова: Amazon Alexa, разговорный ИИ, обработка естественного языка, машинное обучение, виртуальный помощник.

1. Введение

«Алекса, ты кто?»

«Я Алекса, и я спроектирован вокруг твоего голоса. Вы можете попросить меня играть музыку, отвечать на вопросы, рассказывать анекдоты и многое другое ».

Когда вы спрашиваете Amazon Echo, кто он, приведенное выше предложение может быть ответом, который вы получите от цилиндрического устройства. С выпуском Amazon Echo первого поколения в 2015 году линейка продуктов Echo стала большим хитом на потребительском рынке. Только за праздничный сезон 2017 года Amazon продала «десятки миллионов устройств с поддержкой Alexa *, проданных по всему миру» [8].

Как выразились компьютерные ученые Джулия Хиршберг и Кристофер Мэннинг, значительное увеличение вычислительной мощности, доступность очень большого количества лингвистических данных, разработка очень успешных методов машинного обучения и гораздо более глубокое понимание структуры человеческого языка и его развертывание в социальном контексте [4], все это в совокупности позволило голосовому помощнику осмысленно и быстро реагировать на голосовые команды. Продукты разговорного ИИ от Amazon, Google, Apple и Microsoft борются за возможность поговорить с покупателями, а производители бытовой техники настраивают свои продукты, чтобы они имели маркировку «Совместимо с Alexa / Google Home». В то время как этот сектор бизнеса переживает бум, возникают опасения по поводу безопасности и конфиденциальности. Например, велика вероятность неожиданного разглашения содержания календаря или несанкционированной покупки. Между тем, как не допустить, чтобы умные колонки стали зондами технических гигантов? Хотя безопасность и конфиденциальность являются наиболее обсуждаемыми вопросами, я хотел бы привлечь внимание к скрытой социальной проблеме - культурной предвзятости - более низкому положению, с которым сталкиваются меньшинства или определенные демографические группы, когда технологические продукты разрабатываются и управляются сильными / основными культурными группами.

В этом исследовании будет рассказано о создании службы Alexa и устройства Echo, а также рассказана скрытая история решений, принятых для создания цилиндрического динамика. Премия Alexa Prize для университетских команд была горячей темой в сообществе обработки естественного языка (NLP). В документе будет рассмотрен случай, чтобы увидеть, как Amazon успешно организовала конкуренцию и выиграла от нее. Помимо обзора Amazon Alexa, в этом документе также будет наблюдаться и анализироваться влияние продуктов разговорного ИИ на общество, которое исходит из двух аспектов - социальных проблем и возможностей приложений.

2. Создание Alexa

2.1. Концепция и ключевые решения

Вы можете быть удивлены, узнав, что чрезвычайно успешный продукт - Amazon Echo - возник как ветвь приостановленного проекта. В 2004 году Amazon основала Amazon Lab126 в Саннивейле, Калифорния. Число в названии 126 образовано от стрелки на логотипе Amazon, которая указывает от A до Z, начало и конец букв английского алфавита. Лаборатория была основана Греггом Зером, который ранее был вице-президентом по разработке оборудования в Palm и вице-президентом по разработке PowerBook в Apple Computer. С тех пор на Lab126 была возложена миссия по разработке аппаратных продуктов для Amazon.

После трех лет исследований и разработок в 2007 году Lab126 представила свой первый продукт - электронную книгу Amazon Kindle, которая имела большой успех и изменила издательский ландшафт. В последующие годы Lab126 выпустила планшет Kindle Fire, Amazon Fire TV и Fire Phone. Внутри Lab126 каждый проект имеет анонимное кодовое имя, проекты выполняются отдельно, участники одного проекта не общаются с участниками других проектов. Проект Kindle имел кодовое название Project A, а Fire Phone - Проект B. [3] Тем временем существовал проект C. Согласно патентам, поданным компанией Rawles LLC, связанной с Amazon, проект C был технологически агрессивный план. «В одной из первоначальных патентных заявок описывалось устройство, которое отображало бы изображения дополненной реальности, с которыми люди могли бы взаимодействовать; другой предлагал отслеживать движения людей и отвечать, когда они хлопают, свистят, поют или говорят. Взятые вместе, патенты Amazon за этот период указывают на видение дома, в котором виртуальные дисплеи следуют за людьми, которые блуждают из комнаты в комнату, предлагая ряд услуг в ответ на голосовые команды и физические жесты. »[3 ] Однако упомянутый ранее проект B - Fire Phone - потерпел неудачу, что заставило руководство Lab126 усомниться в том, смогут ли они успешно запустить гораздо более сложный проект C. В итоге появился ответвление проекта C - Project D.

В Project D вся визуальная и кинетическая часть Project C была удалена, голос стал единственным каналом взаимодействия для пользователя. Однако к тому времени не существовало точного определения устройства. Джефф Безос ожидал, что это интегрируется с покупками. Перед отправкой покупателям велись дебаты по поводу дизайна продукта. Одно из разногласий касалось того, как четко слушать команду пользователя, одновременно издавая звук. Инженеры рекомендовали построить несколько небольших устройств в форме хоккейной шайбы, которые можно было бы разместить по комнате, чтобы помочь собирать команды пользователя, когда он / она отклоняется от диапазона микрофона основного динамика. Эта идея была отвергнута руководством, которое считало, что не должно быть дополнительных устройств для повышения производительности. В другом случае некоторые инженеры настаивали на том, чтобы пользователь мог разговаривать с пультом в любой точке дома. Руководство снова выступило против этой идеи, они считают, что голос должен быть единственной формой ввода, не нужно добавлять никакого физического взаимодействия между пользователем и устройством. Чтобы разрешить спор, они решили позволить пользователям принимать решение. Первая партия поставляемых динамиков была оснащена пультом дистанционного управления, а аналитические данные об использовании отправлялись обратно на сервер Amazon. Данные об использовании показали, что пульты почти никогда не использовались, поэтому с тех пор никаких дополнительных гаджетов не было связано с основным устройством, голос является единственным каналом взаимодействия. [3]

Amazon Alexa отличается от своих аналогов - Apple Siri, Google Home и Microsoft Cortana - безэкранным сервисом. Это более значительный отход от нынешних вычислительных платформ - iOS, Android, Windows. Отклонение настолько велико, что она стала новой вычислительной платформой после мобильных устройств.

В конце 2014 года инженер приспособил динамик для управления устройством потокового телевидения. Этот случай вдохновил Безоса на то, что он увидел в Echo центр умного дома. Amazon открыла свои API-интерфейсы для разработки Alexa и присоединилась к экосистеме умного дома. К настоящему времени пользователи могут управлять бытовой техникой от лампочки до термостата в своем доме, разговаривая со своими Echos.

2.2. Приз Alexa

Для исследования и разработки диалоговых продуктов, таких как Alexa, над проектом Amazon работало несколько сотен сотрудников в офисах Сиэтла, Сан-Франциско и Кембриджа, Массачусетс. [3] Но этого недостаточно. Alexa часто не понимает очевидного значения речи пользователя, и потребители ищут то, что сейчас не может предоставить голосовой помощник. [1] Помимо набора докторов наук из ведущих школ, в сентябре 2016 года Amazon объявила о присуждении первого приза Alexa Prize в размере 2,5 миллиона долларов, цель которого заключалась в том, чтобы дать пользователям возможность общаться как можно лучше, связно, актуально, интересно, и удерживал пользователей как можно дольше. [5] Они ожидали, что на решение проблемы 20-минутного разговора уйдет несколько лет, поэтому награда Alexa Prize была организована как многолетний конкурс, чтобы обеспечить непрерывное исследование этой проблемы. [5]

12 университетских команд были отобраны для участия в соревнованиях при спонсорской поддержке Amazon. Им были предоставлены API данных новостей и текущих тем, данные автоматического распознавания речи, данные отзывов клиентов, поддержка инфраструктуры, например сервисы AWS, и другие внутренние средства поддержки Amazon. [5] Команда Sounding Board из Вашингтонского университета выиграла соревнование с 19-минутным диалогом - почти достигла цели - связного и последовательного диалога в течение 20 минут. Amazon убила несколько птиц с помощью Alexa Prize. Во-первых, долгосрочная конкуренция привлекает внимание академических кругов, аспиранты из ведущих школ бросали вызов поставленной цели в течение нескольких месяцев, в этот период Amazon воспользовалась возможностью решать инженерные проблемы с помощью различных подходов по относительно низкой цене. Например, победившая команда из UW продемонстрировала хорошо сбалансированную гибридную архитектуру, сочетающую вручную созданные категоризированные входные данные с моделями машинного обучения, которые могут превзойти архитектуры, в значительной степени опирающиеся исключительно на традиционную разработку программного обеспечения или машинное обучение. Во-вторых, был открыт конкурс для пользователей Alexa, чтобы они могли общаться с университетскими социальными ботами, к концу конкурса Amazon собрал 100000 часов чатов. Обилие данных имеет решающее значение для построения эффективной модели разработки машинного обучения. В-третьих, это соревнование дало Amazon возможность выбрать перспективных сотрудников. Борьба за лучшие таланты в области ИИ идет ожесточенно, например, на конференции Neural Information Processing Systems 2017 † половина участников конференции были рекрутерами. Наконец, как и в случае с кампанией Amazon HQ2 по выбору города, премия Alexa Prize оказала влияние не только на технологическое сообщество, но и имела успех в маркетинге.

3. Воздействие

3.1. Социальные проблемы

3.1.1. Безопасность

Благодаря огромному количеству устройств, размещенных в миллионах домов, Alexa получила самые разные комментарии от группы пользователей. Кто-то посчитал это «бесполезным трюком», а кто-то - свидетельством «оруэлловских тенденций» Amazon. [3] Основное беспокойство по поводу диалогового ИИ-продукта, такого как Alexa, - это проблема безопасности и защиты конфиденциальности.

Чтобы в полной мере использовать возможности Alexa, пользователь должен разрешить ему доступ к своему календарю, другим учетным записям или службам, которые являются сугубо личной информацией. После взлома конфиденциальная информация пользователя будет раскрыта. Даже для повседневного использования, если данные напоминания и календаря были синхронизированы с Alexa, любой, кто находится перед устройством Alexa, может запросить данные напоминания или календаря, спросив «Алекса, что в моем календаре сегодня?». Кроме того, поскольку Alexa полагается на голосовой канал для получения команды, можно распространять злонамеренные команды на массовых пользователей, встраивая команды в необнаруживаемые спектры звуковых частот, например, ультразвуковые частоты, через службы вещания, такие как радио или телепрограммы. В середине 2017 года Amazon позволил пользователям размещать заказы, разговаривая со своими динамиками Alexa. Если пользователь включил эту функцию без дополнительных мер авторизации, любой, у кого есть доступ к устройству, может разместить заказ от имени владельца. Если рекламные объявления, транслируемые по радио или телевидению, содержат предложения, которые предписывают устройствам Alexa добавить определенный продукт в корзину, это увеличит продажи этого продукта в макроэкономической перспективе. [4]

Есть две категории угроз безопасности: (1). Слепые зоны в дизайне продукции; (2). Авторизация доступа к данным. Второй риск - это классическая угроза безопасности ИТ-систем, которая присутствует во всех информационных артефактах, а первый риск - это новая и уникальная угроза безопасности диалоговых систем ИИ. В одном случае мужчина построил «умный» механизм, чтобы отпереть входную дверь, попросив Сири сделать эту работу. Но оказалось, что любой, кто стоял за пределами гостиной этого человека, мог сказать Сири, чтобы она впустила их, открыв дверь. [4] Суть этого дела аналогична авторизации покупок через Alexa. К счастью, поставщики услуг разговорного ИИ приняли меры для решения этой проблемы, например, Google обновил свой Ассистент, включив в него технологию проверки голосового отпечатка, которая позволяет узлам Ассистента проверять идентичность каждой полученной речи, Apple учит Siri распознают голос пользователя, и Amazon работает над внедрением проверки голосового отпечатка, чтобы предотвратить несанкционированные покупки. [4]

Исправить никогда не поздно. Технологические инновации в прошлом были свидетелями аналогичной сцены, создатель нового технологического продукта часто считает, что все люди хорошие, и забывают / игнорируют создание механизма безопасности для предотвращения злонамеренных случаев использования. На заре Интернета ресурсы в Интернете были в основном открыты для всего сообщества. В отличие от сегодняшнего дня, не было широко развернутого сложного механизма предосторожности. Но когда сообщество растет, то, что происходит в реальном мире, происходит в киберпространстве. То же самое и в области разговорного ИИ. Когда безэкранный артефакт выходит на рынок, продаются миллионы копий, появляются неожиданные сценарии и варианты использования. Затем создатели начинают выстраивать продуманную систему, чтобы все не сходило с рельсов.

3.1.2. Конфиденциальность

Еще одна проблема - конфиденциальность. Устройство должно постоянно прислушиваться к окружающей среде с помощью всенаправленного массива микрофонов, чтобы заставить диалоговый агент ИИ работать. Чтобы написать преувеличенную метафору, это похоже на установку кибер-камеры в личной комнате, связанной с чужим офисом, на слух. Как правило, не все данные, собранные массивом микрофонов, следует передавать на сервер, он предназначен для отправки на сервер голоса только после «слова пробуждения». Но был хоть один случай. Неисправный Google Home Mini постоянно записывал и отправлял записи на сервер Google. [9] Это было непреднамеренное нарушение, но что, если данные записи были украдены или утекли? В некоторых случаях распространение частной записи голоса является нарушением частной жизни, в других случаях это может иметь юридические или даже политические последствия, вспомните только Уотергейтский скандал. В 2015 году в Арканзасе произошло убийство, в результате которого власти выдали Amazon ордер на получение истории Алекса подозреваемого. Amazon отказалась сотрудничать с правоохранительными органами, но после получения согласия подозреваемого Amazon предоставила данные следователям. В другом случае Mattel планировала создать голосового помощника, ориентированного на детей, но из-за жалоб, связанных с конфиденциальностью, отказалась от этого плана. [4] Эксперты в этой области прогнозируют, что Интернет вещей и искусственный интеллект создадут регулирование конфиденциальности на основе устройств или отраслевое саморегулирование.

3.1.3. Культурные предубеждения

Редко замечаемая и обсуждаемая проблема диалогового ИИ - это культурная предвзятость. Культурная предвзятость продукта разговорного ИИ - это непреднамеренная предвзятость в отношении слабых членов этнической группы или говорящих на диалектах. Например, устная речь в Америке и Европе в основном стандартизирована и удобна для вычислений, что означает, что алгоритмы НЛП могут работать очень хорошо после настройки. Испанский алгоритм НЛП, составленный для Мадрида, работает для Мексиканского города, алгоритм НЛП на английском языке, составленный в Алабаме, хорошо работает в Массачусетсе, алгоритм НЛП на мандаринском языке, составленный в Пекине, работает для всех в мире, кто говорит на стандартном мандаринском китайском языке - вычислительный лингвистический продукт выступает в пользу сильного языка. , стандартизированная культура. Однако у стран с долгой и сложной историей и обширным ландшафтом, таких как Китай, есть много регионов внутри страны. У этих регионов есть свои диалекты.

К 2014 году 30% его 1,3-миллиардного населения все еще не говорили на мандаринском (путунхуа, стандартный китайский язык) [11], а значительная часть людей, которые «могут» говорить на китайском, просто используют его ежедневно, они говорят по-китайски. язык на их диалекте - в отличие от диалектов в Америке, разница в произношении между китайскими диалектами может превосходить разницу в произношении между испанским и итальянским. Поскольку эти диалекты очень разные, люди из одного региона вряд ли смогут понимать разговорный язык в другом регионе; даже их географическое расстояние всего 100 км. Хотя официальный разговорный язык Китая - мандаринский, это характерно только для 300 городов Китая; для большинства населения, проживающего в 2850 районах уездного уровня, их устным языком является диалект. Те, кто может говорить на мандаринском диалекте, если их повседневный разговорный язык - диалект, им неловко и странно разговаривать с машиной на стандартном мандаринском диалекте. Но если они попытаются поговорить с машиной удобным для них тоном, они будут разочарованы, обнаружив, что машина их вообще не понимает. Поскольку каждая диалектная группа относительно мала, разработка диалектно-совместимых моделей НЛП в современных подходах нецелесообразна. Эта ситуация помешает людям в обширном регионе, отличном от мандаринского, испытать разговорный ИИ. Технологический «уклон» в сторону этого огромного и очень разнообразного диалектного языкового населения по всему миру будет продолжать существовать, и ожидаются новые подходы к проблеме.

3.2. Возможности применения

3.2.1. Личные сценарии

20 лет назад, когда Билл Гейтс построил свой Xanadu 2.0 в качестве своего частного особняка в Медине, штат Вашингтон, люди были очарованы его высокотехнологичными функциями, такими как индивидуализированный жизненный опыт, интерактивные цифровые помощники. Сегодня, благодаря развитию сети, алгоритмов машинного обучения, датчиков и протоколов устройств IoT, среднестатистическая семья может построить свой собственный «Умный дом», не копаясь в кармане. И из-за природы разговорного ИИ - повсеместного, естественного, идентифицируемого - он становится идеальным центром для систем умного дома, превосходя планшеты или смартфоны. К настоящему времени диапазон бытовой техники, совместимой с Alexa, варьируется от лампочки до холодильника. [10] Можно ожидать, что, когда возможность подключения бытовой техники достигнет водораздела, откроется новый жизненный сценарий, такой как автоматизированное обслуживание жилья, мониторинг состояния здоровья в реальном времени и т. Д.

Еще один опыт, который принесла Алекса, - это голосовые покупки. После настройки информации об учетной записи в приложении Alexa, пользователи могут просто назвать товар для покупки через голосовую связь, Alexa добавит товар в корзину, если пользователь подтвердит, разместит заказ и оплатит счет. Покупатель доволен элегантным покупательским опытом; Однако не все поставщики довольны этим. В отличие от обычных покупок или покупок с помощью веб-браузера, в сценарии голосового взаимодействия «просмотр» более двух складских единиц (SKU) в одной категории по голосу затруднен и нежелателен с точки зрения взаимодействия с пользователем, поэтому Alexa обычно предлагает менее двух артикулов для категории. Но какой один или два из сотен или тысяч возможных SKU следует установить по умолчанию или «рекомендуется»? Крупные фирмы с известными брендами могут быть счастливы увидеть эту сцену - когда товары более слабых конкурентов могут никогда не получить возможность участвовать в голосовом взаимодействии. Сделает ли это Amazon / Amazon Alexa сообщником олигополии? В мире розничной торговли никогда не было такой ситуации, создаваемой голосовым помощником. Говорят, что Amazon работает над этой проблемой.

3.2.2. Коммерческие сценарии

Помимо увлекательного опыта для потребителей, голосовые помощники, такие как Alexa или чат-боты от Facebook и других разработчиков, обладают большим потенциалом в коммерческих сценариях. Например, если вы наблюдаете за рабочим режимом на кухне McDonald's, все рабочие работают под руководством директоров, если автоматизация продолжается и когда-нибудь автоматизированный кухонный прибор сможет интерпретировать голосовую команду от директора, производительность директора снизится. значительно повысится эффективность обслуживания. Другой вариант использования - обслуживание клиентов, когда раньше отвечать на звонки клиентов было очень дорого. С развитием разговорного искусственного интеллекта такие компании, как Amtrak, Comcast, внедряют эту технологию для предоставления круглосуточных услуг. Чтобы обслуживать корпоративный рынок разговорного ИИ, Microsoft представила чат-ботов и платформу Conversation As a Platform (CAAP), Facebook предложила разработчикам Facebook Bot Engine для создания индивидуальных чат-ботов. [7] В некоторых рекламных объявлениях Alexa Echo Dot позиционировалась как инструмент для офисной коммуникации и координации, а также была испытанием на коммерческом рынке. Кроме того, развлечения и туризм также могут извлечь выгоду из голосовых помощников, таких как Алекса, например, общающихся с персонажами в играх, разговаривая с ними, виртуальных гидов и т. Д.

4. Вывод

В заключение, после более чем десяти лет использования сенсорного экрана для взаимодействия человека с компьютером и бума мобильных приложений пространство визуального взаимодействия людей почти заполнено. Канал для голосового взаимодействия с компьютером еще не разработан. Взаимодействие человека с компьютером по голосу будет следовать за сенсорным экраном и станет новым основным каналом взаимодействия. Такие компании, как Amazon, Google, обладающие суперсилами в области исследований и разработок и в то же время располагающие большим объемом пользовательских данных, будут работать лучше.

Безопасность голосового взаимодействия - новая область в области безопасности. Безусловно, конфиденциальность пользовательских данных зависит от саморегулирования компаний. Для долгосрочного здорового развития отрасли необходим стандарт или протокол для управления данными. Между тем, непреднамеренная предвзятость в отношении носителей нестандартного языка - это культурная предвзятость, которая поднимает вопрос - как сделать технологию более инклюзивной?

Голосовой помощник, такой как Alexa, является оптимальным порталом взаимодействия для умных домов и потенциально способствует олигополии поставщиков в различных секторах. Применение голосового помощника, такого как Alexa, в корпоративных сценариях использования только начинает показывать свой потенциал по снижению затрат и повышению производительности.

Первоначально опубликовано в блоге Райана - Catalium: https://www.catalium.net/brief_history_of_amazon_alexa_and_beyond/

Сноски

* В отличие от физического продукта Echo, Alexa является виртуальным помощником, стоящим за оболочкой. Его можно установить на продукты сторонних производителей.

† NIPS, конференция высшего уровня по машинному обучению и вычислительной нейробиологии.

Ссылки

  1. Джеймс Влахос. Внутри премии Alexa. Wired.com (2018) https://www.wired.com/story/inside-amazon-alexa-prize/
  2. Джеймс Влахос. Гонка сына, дающего своему умирающему отцу искусственное бессмертие. Wired.com (2017) https://www.wired.com/story/a-sons-race-to-give-his-dying-father-artificial-immortality/
  3. Джошуа Бруштейн. Настоящая история того, как Amazon создала эхо. Bloomberg.com (2016) https://www.bloomberg.com/features/2016-amazon-echo/
  4. Мэтью Б. Хой (2018) Alexa, Siri, Cortana и другие: введение в голосовых помощников, ежеквартальные медицинские справочные службы, 37: 1, 81–88, DOI: 10.1080 / 02763869.2018.1404391
  5. Ашвин Рам, Рохит Прасад, Чандра Хатри, Ану Венкатеш, Рэфер Габриэль, Цин Лю, Джефф Нунн, Бехнам Хедаятния, Мин Ченг, Ашиш Нагар, Эрик Кинг, Кейт Блэнд, Аманда Вартик, Йи Пан, Хан Сонг, Ск Джаядеван, Джин Хван , Арт Петтигрю (2018). Разговорный AI: наука за премией Alexa. arXiv: 1801.03604 [cs.AI]
  6. Рам Менон. Расцвет искусственного интеллекта в сфере информационных технологий (2017) https://www.forbes.com/sites/forbestechcouncil/2017/12/04/the-rise-of-conversational-ai/
  7. Джефф Котруп. (2016). Разговорный искусственный интеллект: настало время для нового разговора о стратегических перспективах взаимодействия с клиентами и информации для руководителей (SPIE), том 16, номер 15
  8. Пресс-релиз Amazon. Amazon отмечает самый большой праздник; Более четырех миллионов человек сняли Prime за одну неделю в этом сезоне (2017) http://phx.corporate-ir.net/phoenix.zhtml?c=176060&p=irol-newsArticle&ID=2324045
  9. Лиам Тунг. Google Home Mini Недостаток левых интеллектуальных динамиков, записывающих все ZDNet.com (2017) http://www.zdnet.com/article/google-home-mini-flaw-left-smart-speaker-recording-everything/
  10. Добавьте Робертсона. LG поставила WebOS и Amazon Alexa в холодильник The Verge (2017) https://www.theverge.com/ces/2017/1/4/14166240/lg-webos-amazon-alexa-fridge-announce-ces-2017
  11. Жэньминь жибао. 30% населения Китая по-прежнему не говорит на стандартном мандаринском диалекте (2014) http://finance.people.com.cn/n/2014/0924/c1004-25720746.html