Д-р Ананд Рао, партнер и глобальный руководитель отдела искусственного интеллекта в PwC, является одним из самых уважаемых специалистов в области искусственного интеллекта в отрасли. Он объединяет уникальную точку зрения и уроки, работая над исследованиями, консультированием и реализацией проектов искусственного интеллекта в организациях по всему миру. Вот несколько быстрых выводов, которые я сделал из разговора:

  1. Мы находимся на ранней стадии эры ИИ, а это означает, что организациям следует инвестировать в создание собственных возможностей, чтобы оставаться конкурентоспособными в долгосрочной перспективе.
  2. Продукты, управляемые данными, открыли эру программного обеспечения 2.0, когда продукты представляют собой не просто программное обеспечение, а данные, модели программного обеспечения, а это требует принципиально иного подхода к управлению этими продуктами.
  3. Для организаций, начинающих работу с ИИ, мыслите масштабно, начинайте с малого, а по мере того, как вы обретаете новые знания, масштабируйтесь быстро и масштабируйтесь масштабно. Как только вы добьетесь достаточного успеха, индустриализируйте его с помощью процессов, людей и инструментов.
  4. Внедряйте этические принципы ИИ на этапе проектирования и на каждом этапе создания продуктов на основе данных и ИИ.
  5. Ананд: Да. Итак, еще раз, я думаю, мы знаем о многих возможностях ИИ. Итак, опять же, количество отчетов, количество вещей, и все используют возможности ИИ. Пройдя по крайней мере пару зим ИИ, я думаю, что если мы не посмотрим и не признаем риски ИИ, я думаю, мы попадем в ту же ловушку, что мы так сильно раскручиваем ИИ, не принимая во внимание никаких рисков. Мы рискуем попасть в другую зиму. Так что нам следует быть осторожными оптимистами. С оптимизмом смотрите на все возможности, но давайте будем осторожны со всеми вещами, которые потенциально могут пойти не так, не для того, чтобы предотвратить некоторые из этих вещей, а для того, чтобы снизить некоторые из этих рисков. Вот почему мы снова известны как фирма, не склонная к риску. Мы завоевываем доверие, и мы очень рискованны. фирма. Поэтому, когда мы начали рассматривать ИИ, мы также надели твердую линзу, где речь идет не только о возможностях ИИ, но и о рисках ИИ. И в то же время, я думаю, начиная с 2014/2015 года, когда состоялась конференция Asilomar. Либо 2015/16. Произошла волна этики ИИ, этического ИИ, дискуссий в сообществе, ряде организаций и органов, которые действительно говорят об этичном ИИ. И я думаю, что мы приходим к хорошему консенсусу. Есть также некоторые нормативные документы из ЕС и других стран, в которых основное внимание уделяется нескольким ключевым вещам, на которые каждый должен смотреть с точки зрения риска, выслушивая риски по-разному, а затем анализируя риски. Риски, как правило, связаны со справедливостью и предвзятостью, объясняют способность моделей так, чтобы вы могли объяснить это неспециалисту, статистику или объяснить бизнесмену. Так что это значит? Использование различных методов, которые имеют разную объяснительную силу, рассмотрение безопасности, конфиденциальности, а также надежности, подотчетности, всех этих вопросов, а затем наличие некоторого управления вокруг этого. Поэтому мы определяем это как ответственный ИИ. Некоторые люди называют это заслуживающим доверия ИИ. Они могут немного отличаться в том, как мы это определяем. Но появляется основной набор принципов, которые все идут под этим знаменем. Поэтому мы стараемся не использовать заслуживающий доверия ИИ. Итак, опять же, это просто философская придирка, которая у меня есть. Я думаю, вы можете сделать то, что вы создаете, ответственным, но независимо от того, доверяют этому или нет, исходит от потребителей продукта. Вы не можете пометить что-то как надежное, и поэтому все должны доверять этому. Поэтому я всегда утверждал, что мы должны нести ответственность и позволить клиентам доверять нам, если мы действительно хороши.

Полный выпуск смотрите здесь:

Полная стенограмма: истории ИИ: Корпоративный ИИ, сингулярность, реализация ценности, программное обеспечение 2.0

Ганеш: Добро пожаловать обратно в истории с искусственным интеллектом. Сегодня я разговариваю с Анандом Рао. Он является глобальным руководителем отдела искусственного интеллекта в PwC Consulting. Я знаком с Анандом более четырех лет и следил за его работой над ИИ в его практическом применении, этике в ИИ, управлении. Ананд предлагает очень интересную перспективу, имея докторскую степень по ИИ. Он работает в области ИИ более 35 лет. И у него есть опыт исследований, влияния на предприятия и бизнес-лидеров, создающих центры передового опыта ИИ, а также консультирования организаций по созданию и разработке решений ИИ. Ананд имеет широкое признание в области ИИ. Одна из его статей о многоагентных системах была самой влиятельной в области ИИ, и он вошел в число 50 лучших специалистов по данным и аналитике в США. Ананд имеет докторскую степень Сиднейского университета и степень магистра делового администрирования Мельбурнской школы бизнеса. Он также является адъюнкт-профессором Центра искусственного интеллекта BITS Pilani. Он входит в состав консультативного совета Центра этики и искусственного интеллекта Оксфордского университета. Он также является членом глобального совета по искусственному интеллекту Всемирного экономического форума, ОЭСР, ответственного института искусственного интеллекта, Северного института искусственного интеллекта и многих других.

Ананд — один из тех, к кому мы все должны прислушиваться, когда хотим узнать об ИИ и понять, где он находится сегодня в мире.

У меня был отличный разговор с Анандом. Мы говорили обо всем, от того, как организации подходят к ИИ, о сходствах и различиях между сингулярностью и восточными философиями и концепцией ADVAITA. Мы говорили о том, как организациям следует подходить к своим усилиям по масштабированию своих ИИ-путешествий; мы говорили об этическом ИИ, ответственном ИИ, обо всех проблемах и больших возможностях, которые открываются перед нами с этой замечательной технологией. Мне очень понравился этот разговор. Надеюсь, вы тоже.

Эй, Ананд, добро пожаловать на шоу. Рад снова тебя видеть.

Ананд: Приятно быть здесь, Ганеш. Спасибо за приглашение.

Ганеш: Вот это круто. Прошло, наверное, три или четыре года с тех пор, как мы встретились лично. Вы были в городе в Остине, на уроке учителя в UT. Правильно? Это было потрясающе. И весь мир изменился между всем этим.

Ананд: Да, с тех пор многое произошло.

Ганеш: Еще раз спасибо, что нашли время. Это шоу посвящено попыткам получить истории об ИИ от таких людей, как вы, чтобы вдохновить других на действия. Так почему бы вам не начать с рассказа о том, как вы попали в ИИ и что привело вас сюда?

Ананд: Да, хороший вопрос. Я начал заниматься информатикой еще в 70-х годах в Индии. Я учился в старшей школе, и один из моих двоюродных братьев, который до сих пор является моим наставником, был министром науки, программировал и занимался разными вещами. Так что он фактически научил меня программировать на Фортране с помощью букв. Он был в Лондоне и учил меня через буквы. Без компьютера я программировал, т.е. писал код, толком не зная, будет он работать или нет, как минимум год. Я был настроен в то время. Это был мой 11 класс. В то время я твердо решил заняться информатикой. Так что в конце концов я выбрал компьютерные науки в BITS Pilani. Там я закончил бакалавриат и магистратуру.

Я очень хотел перейти к передовой области компьютерных наук, которой, как ни странно, даже тогда был искусственный интеллект. Сейчас передний край — это ИИ, но даже тогда передовым был ИИ. Я получил стипендию Сиднейского университета в Австралии. Поэтому я переехал туда, защитил докторскую диссертацию и поселился в Австралии. Я поехал в Мельбурн с дочерней компанией ESRI International. Так что я довольно много работал с SRI International и Стэнфордскими группами искусственного интеллекта; они были в НАСА и других аэрокосмических и оборонных подразделениях на протяжении 90-х годов. Я преподавал информатику в Мельбурне. Я делал все это, наверное, 12-13 лет. Вот когда наступила зима ИИ. И с зимним хитом ИИ я также стал больше интересоваться им, потому что это был стартап. Я стал больше интересоваться маркетингом, общением с людьми и более широкими вещами, чем просто технология. И, конечно же, меня заклеймили как «технаря». Поэтому мне пришлось пойти и получить значок MBA. И как только я это сделал, я стал больше интересоваться финансами и некоторыми элементами программного обеспечения. Так что я присоединился к консалтинговой компании в Австралии и провел несколько лет в Лондоне, около 6-7 лет в Лондоне. Потом я переехал в Бостон, где и нахожусь сейчас.

Я бы сказал, что треть моей карьеры связана с основными технологиями искусственного интеллекта, больше — с аэрокосмической и оборонной промышленностью. Следующая 1/3 чисто в сторону стратегии консалтинга и клиентского типа консалтинга. А затем, в 2007/2008 годах, мир снова начал меняться, когда ИИ начал доминировать. Я начал медленно осваивать ИИ для анализа больших данных, а затем начал применять его в деловом мире. И вот где я сейчас. Итак, последняя 1/3 моей карьеры во многом связана с этим.

Ганеш: Это увлекательно. Мой друг, профессор UT, работает над ИИ около 30 с лишним лет. И он рассказал мне анекдот, который ему сказала его дочь: «Ну, папа, ты не должен быть таким хорошим в ИИ, потому что ты работал над этим последние 35 лет. Он до сих пор не взлетел». Теперь я также понимаю вашу связь с Австралией, потому что я видел, что вы также помогаете правительству Австралии формировать их политику в области искусственного интеллекта.

Ананд: Да. Итак, сегодня утром у нас состоялась беседа, на которой Австралия опубликовала свой план по искусственному интеллекту.

Ганеш: Мы подойдем к этому. Я думаю, что еще одна вещь, которую вы сказали о Fortran 77, я получил степень бакалавра по машиностроению в Индии. И хотя я уже программировал на C, в то время Unix был большой вещью. Но мне нужно было сдать экзамены за первый и второй семестр. Одной из вещей, которые мне пришлось пройти, был курс по Фортрану 77, хотя у нас был один станок с ЧПУ, на котором мы действительно могли его запустить. Итак, все мы тоже писали этот код от руки. С этой точки зрения это был очень увлекательный опыт.

Прежде чем мы перейдем к ИИ, я думаю, что одна из вещей, к которым мы оба разделяем страсть, — это Веданта и учения восточной философии. И я видел это во время этой пандемии. У вас был проект, в котором вы начали этот блог или сайт под названием pave, верно? Можете ли вы рассказать нам немного об этом?

Ананд: Да. Так что сайт PAVE предназначен для всех практических применений Веданты в повседневной жизни. И причина, по которой я этим занялся, заключается в том, что сразу после получения докторской степени мне захотелось чего-то солидного. Я много читал о западных философах, когда защитил диссертацию по ИИ, символической логике, модельной логике и так далее. Но была какая-то жажда восточной стороны.

Конечно, вырастая в Индии, вы усваиваете немалую часть общей философии, но на самом деле вы ничего не читаете, верно? Очевидно, я слышал о Гите, но толком ее не читал. Именно тогда я присоединился к одной из групп нашей миссии в Австралии и начал узнавать все больше и больше. И с тех пор я преподаю. Так что мой интерес к восточной философии, я думаю, есть очень интересная связь между этим и тем, что я делаю в области ИИ. И связь, по сути, исходит из сингулярности. Я знаю, что все в мире ИИ слышали о сингулярности, верно? Конечно, здесь есть книга о сингулярности и обо всем, что касается ИИ. Как вы знаете, в Веданте мы называем это адвайтой. Итак, ВАИТА означает два, а «АДХ ВАИТА» означает недвойственный. Так что, если подумать, по смыслу это одно и то же, верно? Итак, восточная философия говорит о недвойственности, что, я думаю, является лучшим способом сказать, что есть только одна вещь: сингулярность. Но это выходит за рамки этого, если вы действительно копнете глубже. Я, наверное, могу говорить об этом час, но я постараюсь закончить. Но если вы посмотрите только на понятие, лежащее в основе этого, вы поймете, что это очень много. Если вы посмотрите на сингулярность, все произойдет; вся материя и энергия связаны с вычислениями. Это тезис по сингулярности. Точно так же, если вы рассматриваете сингулярность с точки зрения физики, это та единственная сингулярная точка, в которой терпят неудачу все математические уравнения и физические уравнения. Исходной точкой Вселенной является сингулярность. А если заглянуть в восточную философию, то именно об этом и говорят. Они говорят о существовании и сознании. И это не что иное, как примитивная форма вычислений. Это просто «Осознавать и быть там». Вот почему они так близки друг к другу. Мне нравится сознание и то, как вы внедряете сознание в машины или ИИ. Такова связь между ними.

Ганеш: Это прекрасная связь. У нас должен быть будущий эпизод, просто чтобы сосредоточиться и углубиться в эту конструкцию. У меня точно такая же история с этой мыслью. Я сам прошел через этот процесс в первые дни, когда я был в восторге от ИИ как технологии, над которой я хотел посвятить следующие пару десятилетий. Это было очень захватывающе. Это было не так давно. Около 10 лет назад. И я смотрел все эти фильмы так, как голливудские картины ИИ. И это было примерно в то время, когда я случайно наткнулся на одну из известных книг по учению Упанишад. И где бы вы ни проходили через всю эту адвайту, вся эта концепция продолжает возвращаться. И мне интересно, это как начало и конец. Вы знаете, когда мы говорим о том, что сингулярность является конечным состоянием. И если вы действительно посмотрите на восточную философию и на начальную стадию адвайты, то увидите, что это всего лишь один большой круг, который, опять же, в любом случае является концепцией, лежащей в основе адвайты. Это увлекательно. Давайте поговорим об ИИ здесь. Вот о чем мы здесь, чтобы поговорить. Так скажите мне, почему ИИ так важен? Сломай это для меня.

Ананд: Да, искусственный интеллект сейчас очень важен. Но ИИ существует, как вы знаете, по крайней мере с 1956 года. Может быть, даже до этого, по крайней мере, слова ИИ были придуманы в 1956 году на Дартмутской конференции. Поэтому я думаю, что причина, по которой ИИ так велик сейчас, заключается в ценности, которую ИИ может создавать. Мы и другие авторы публиковали различные статьи об оценке ИИ. Поэтому, когда мы это сделали, я думаю, это было до пандемии несколько лет назад. Опять же, ИИ может принести прибыль на сумму около 15 триллионов долларов только с точки зрения того, как он может позволить большему количеству предприятий зарабатывать деньги, создавать ценность и создавать потребительский излишек. И что потребительский излишек может достаться потребителям, а не компаниям, некоторые из них будут монетизированы компаниями, а также определенные средства автоматизации, которые сэкономят время. Так что, если вы возьмете такой вид вычислений, это довольно много. Это один аспект. Так что есть много ценности. И, очевидно, мы и другие говорили об этом. В результате этого и всех других событий, которые привели нас к этому. опять же, были волны различных типов ИИ, которые прошли. И мы подходим к той стадии, когда, я думаю, господство ИИ обусловлено рядом различных факторов. Одним из них является, очевидно, огромное количество данных. Так что сравнивать сегодняшние данные с теми, что были даже в 90-х годах, вроде как несовместимо, верно? Так что только объем данных.

Другой ключевой момент, я бы сказал, открытый исходный код того, как мы работаем. Я до сих пор помню, как в конце 80-х, начале 90-х, когда я работал над так называемыми концептуальными графами, по сути, предшественниками графов знаний, вы должны были в основном понимать английский язык, знать грамматику и программировать грамматику в синтаксическом анализаторе, получить что угодно. документы, которые вы можете, и попробуйте разобрать его. Так что это работа на один год. Даже если у вас есть бумаги, вам все равно придется писать код. Нет возможности поделиться данными. Таким образом, даже базовое извлечение слов, существительных или глаголов — это задача на один год. Теперь, как мы все знаем, это однострочный код на Python, NLTK или на том, что вы выберете. Так вот что принципиально изменилось. И, конечно же, все говорят о глубоком обучении и вычислениях, которые оно позволяет. Таким образом, все машинное обучение и глубокое обучение продвинулись вперед. Итак, все эти вещи, вместе взятые, создали этот фундамент. Конечно, компании используют ИИ, поэтому в основном это вызвано технологическими компаниями. И это создало почти эффект домино с другими секторами.

Итак, в целом, есть толчок к тому, что да, здесь есть некоторая ценность, и есть возможность повысить производительность на макроэкономическом уровне. И это как бы подталкивает ИИ в эту новую область. И мы видели страны, последние подсчеты, я думаю, что 45/50 плюс страны теперь имеют национальные стратегии искусственного интеллекта. Я не думаю, что существовала какая-либо другая технология, кроме революции мобильных устройств и 3G, когда у людей была стратегия 3G, 4G или 5G. Но кроме этого, немногие другие технологии имели подобную стратегию на национальном уровне.

Ганеш: Это действительно интересно. И одна из вещей заключается в том, что реализуется не только ценность, как вы сказали, это эффект домино, когда крупные компании осознают ценность и передают ее дальше. А потом вдруг все это стало еще более доступным, как один из исследований с открытым исходным кодом.

Другое дело вычисление, верно? Я уверен, что во время ваших исследований это была статья бюджета, чтобы фактически создать систему глубокого обучения, чтобы сделать это. Теперь с помощью кредитной карты и пары 100 долларов в день у вас есть целая система.

Прежде чем мы углубимся в тему организаций и предприятий, создающих ценность с помощью ИИ, в качестве руководителя отдела искусственного интеллекта в PwC просто опишите свой обычный день, чтобы мы поняли контекст.

Ананд: я играю несколько ролей в PwC. Одним из них является руководитель отдела ИИ или глобальный руководитель отдела ИИ. А второй — это скорее инновационный лидер в нашей группе новых технологий, которая занимается продуктами и технологиями. И в-третьих, я также очень много работаю над доставкой проектов нашим клиентам в группе под названием Analytics Insights. А потом я люблю писать. Поэтому я больше занимаюсь маркетингом, интеллектуальным лидерством, отношениями с аналитиками и так далее. Так что в каком-то смысле мне очень повезло иметь такое обширное портфолио, охватывающее весь путь от исследований. Опять же, из-за инновационной точки зрения я наладил много отношений с нашим университетом. Таким образом, мы работаем как минимум с четырьмя или пятью крупными университетами и учеными. Поэтому я дал эту часть. И это позволяет мне работать со стартапами и университетами, вплоть до клиентских проектов, которые являются исключительно проектами доставки. Таким образом, я вижу спектр перехода от того, что является классной идеей, может быть, теоретической или практической идеей, лежащей в академическом учреждении, до момента, когда она реализуется клиентом, и потребитель использует некоторые рекламные объявления; так что весь спектр.

Мой типичный день, я бы сказал, если вы хотите понять мой день, он полон встреч. Так что встречи, после встреч, с клиентскими проектами, с членами внутренней команды по инновациям. Итак, мы переходим к просмотру статьи, обсуждению алгоритма или клиентского решения, вплоть до разработки содержания курса для собственного внутреннего обучения или идейного лидерства и так далее. Верно. Так что есть целый спектр, я, как правило, получаю больше «продуктивного времени», в нерабочее время или по выходным, как и большинство других людей.

Ганеш: Ты всегда включен. Это увлекательно, и это создало вашу точку зрения на всем пути от исследований до реализации, лидерства мысли и дуэта. Принимали ли вы участие в определении цены и основной работе, которую вы, ребята, проделали за несколько лет?

Ананд: Да. Я очень много ездил на этом. В то время Фрей и другие сотрудники Оксфордского университета проделали большую работу по автоматизации и повышению производительности. Поэтому мы меньше фокусируемся на этой работе. Но я твердо убежден, что дело не только в производительности, но и в принятии решений, и ИИ будет играть роль дополнений. И я думаю, что то, как мы потребляем медиа, то, как мы говорим сейчас. И каждый является производителем контента и потребителем контента, как мы только что говорили. И это в корне изменилось. И в значительной степени это обусловлено технологиями, очевидно, мобильными технологиями, а также технологиями персонализации, которые позволяют нам адаптировать все под себя, и я могу смотреть на вещи по крупицам. Например, я могу просто пойти и перейти точно к тому моменту, когда кто-то упомянул адвайту и ИИ, в течение 30 секунд. Кто еще сделал это? Мы можем сделать это сейчас. Правильно? В предыдущие годы мы никогда не могли этого сделать. Поэтому я думаю, что именно это коренным образом изменило все в моем представлении.

Ганеш: согласен. Мне нравится говорить, что мы наблюдаем не просто революцию в области автоматизации, которой были все прошлые промышленные революции, верно? Эта индустрия для четвертой промышленной революции также является революцией интеллекта. Это о том, что мир стал настолько сложнее, что мы все делаем сами. Поэтому ищем другие варианты. Как мы передаем разум и неживые вещи, которые могут помочь человеческому опыту? И в этом все дело. Итак, я слушал одно из ваших выступлений в ОЭСР, и вы также разместили несколько слайдов в своем LinkedIn. И вы рассказали об очень красивой схеме того, как предприятия реализуют ценность с помощью ИИ. Не могли бы вы рассказать об этом немного подробнее?

Ананд: Да. Итак, в ОЭСР мы больше говорили о вариантах использования, верно? Итак, как вы на самом деле получаете ценность для бизнеса? Итак, опять же, ИИ, как его называют люди, — это технология общего назначения, а это означает, что она применима во всех отраслях промышленности. Будь то высокие технологии, финансовые услуги, вплоть до очень старых отраслей, например, сельского хозяйства. Итак, майнинг; ИИ применим везде. Это также применимо ко всем различным функциональным областям, будь то маркетинг, даже стратегия, операции, управление рисками, управление персоналом и все функциональные области. Итак, возьмите свою отраслевую структуру, возьмите свои функциональные области, а затем начните рассматривать саму технологию, то есть сам ИИ. Итак, мы снова говорим об ИИ, но для меня данные, аналитика, автоматизация и ИИ — это все четыре части одной и той же мозаики. Поэтому, когда вы разделите это и далее разделите ИИ на текстовое видео и аудио, вы начнете получать богатую коллекцию вариантов использования. Это один из методов. Опять же, люди сделали много из этого, так что вам не нужно повторять. И, по сути, существует библиотека вариантов использования и вариантов использования, которые появляются.

Но о чем я также говорю в некоторых своих статьях, так это о том, что в СМИ это хорошо. Но я понял, что то, что сейчас делают компании, — это разработка, основанная на прецедентах, что может быть контрпродуктивным. Другими словами, я хочу сказать, что они скажут: «Позвольте мне выбрать вариант использования обработки естественного языка для моей, скажем, финансовой функции, позвольте мне выбрать чат-бота для моего клиента, и позвольте мне выбрать какой-то другой алгоритм глубокого обучения для моего андеррайтинга». Теперь они выбирают очень разные варианты использования. Они не продумали, что и как они собираются получить от этого масштаба. Таким образом, все становится единой командой, даже если нужны одни и те же данные о клиентах и, возможно, нужны схожие методы.

Поэтому я думаю, что нужно больше думать о людях и о том, какие решения мы принимаем. Затем выровняйте некоторые из ваших вариантов использования по этому спектру, в дополнение к вашей функциональной области и области бизнес-подразделения. Я имею в виду, что мы склонны собирать информацию, систематизировать, синтезировать, обобщать и делать все это. Так что это один кусок. Но затем мы начинаем пытаться что-то предсказать; прогнозирование на основе исторической информации и прогнозирование не на основе исторической информации, а на основе контрфактического типа анализа. В некоторых случаях мы оптимизируем вещи.

Так что просто ищите глаголы, которые люди используют, и рекомендуйте что-то или рекомендуйте решения. Если вы посмотрите на глаголы, то я думаю, что техника, которую использует ИИ или наука о данных, хорошо согласуется с ними. Таким образом, вы можете выбрать один, например, прогнозирование или рекомендацию. Теперь, если вы выберете рекомендательный механизм и рекомендацию в качестве задачи, вы можете пойти и создать рекомендательные механизмы в своей организации. Так что вам не обязательно иметь его только как один вариант использования. Вы можете дать рекомендацию для своих продуктов, вы можете дать рекомендацию для вашей обслуживающей организации, вы можете сделать это для часто задаваемых вопросов, написать это для своего отдела кадров, но основной алгоритм один и тот же. Не пытайтесь выбрать совершенно несопоставимые, а затем ломать голову над тем, как все соединить. Таким образом, есть несколько точек зрения на то, как вы выбираете.

Ганеш: Это очень интересно. Итак, вы затронули масштаб. Правильно? Так что масштаб — неуловимая вещь в ИИ. И часть проблемы в том, что это снежинка отдельных продуктов или проектов, которые не все масштабируют. Похоже, это действительно хорошая структура. Вы рекомендуете поступать таким образом, потому что это позволяет вам создавать возможности, которые действительно могут применяться в широком спектре задач, или это связано с тем, что сбор данных и сбор кураторских функций одинаковы для всех функций? Потому что этого может и не быть, верно? Возможно, вы делаете систему рекомендаций для продукта по сравнению со следующим лучшим действием на веб-сайте. Так что они будут другими.

Ананд: Таким образом, это будет больше основано на возможностях, методах и гармонизации методов, чем на фактическом наличии одного и того же источника данных. То, что мы часто наблюдаем, особенно в крупных организациях, это то, что финансирование идет сверху. Допустим, они хотят потратить x миллионов, они начинают говорить: «Хорошо, давайте разделим группу на эти пять групп, каждая из вас пойдет по варианту использования и продемонстрирует, есть ли у вас ценность». Эти команды не разговаривают друг с другом. Они просто идут снова, организационно, они, вероятно, очень сильно увязли в своих собственных хранилищах, а затем они беспокоятся: «Да, давайте просто получим ценность, между ними не будет никакой связи до тех пор, пока гораздо позже».

Итак, мы вернулись в 1990-е, когда у каждой организации была своя теневая ИТ. Так что централизованного ИТ не было, все так делали. Затем кто-то сказал: «Почему мы тратим все эти усилия впустую?» Так что теперь вместо теневых ИТ у вас повсюду есть теневые науки о данных. Так что каждый может забрать. Как вы сказали ранее, я могу выбрать инструмент или открытый исходный код. И пока у меня есть нужные навыки, я могу просто идти вперед и делать это, не задумываясь о более широких последствиях. Вот почему я думаю, что соединить части воедино и привнести хотя бы еще один поток курирования может быть весьма полезным в дополнение к другим вещам, о которых мы только что говорили.

Ганеш: Понятно. Мне нравится, как вы это сформулировали, думая о людях и думая о людях в аспекте выбора вариантов использования. Я бы также сказал, что, с одной стороны, это становится тем, что значит быть ориентированным на клиента в ИИ.

Что касается наращивания потенциала, вы также рекомендуете всем организациям, которые действительно серьезно рассматривают ИИ, подумать о создании собственного потенциала в области науки о данных или своего рода центра передового опыта? Как вы это делаете? Каков ваш совет?

Ананд: Я бы сказал, что да. Среднесрочное или долгосрочное видение определенно должно состоять в том, чтобы иметь внутреннюю группу, которая может делать все это. То, как я смотрю на ИИ сегодня, очень похоже на то, как компьютеры выглядели в 80-х. Итак, скажем, в 1984 году, когда были представлены ноутбуки. Так что теперь никто не спрашивает: «Ананд, а зачем всем ноутбук?» Но ведь они спрашивали, верно? Некоторые известные люди говорили: «Я не вижу необходимости в более чем четырех компьютерах? Зачем нам персональный компьютер? Что это вообще значит? Зачем человеку компьютер?» Так что это очень похожая вещь. Теперь, конечно, любая организация, даже ферма или деревня в Индии, все еще использует мобильный телефон, чтобы проверять определенные вещи, может общаться, получать данные и получать результаты. Вот к чему, я думаю, мы идем с ИИ. Итак, мы все еще находимся в начале компьютерной революции 1984 года. Вот почему я говорю, что разведка и системы разведки будут встроены во все, что мы делаем. Так что вам лучше начать создавать это, учитывая, что это ваша основная способность. Таким образом, каждая организация опирается на те возможности, которые у них есть, и я думаю, что было бы полезно усилить их с помощью ИИ.

Сейчас навыков в дефиците, и нужно знать, что делать. Возможно, вы захотите развить навыки, чтобы получить помощь извне. Но в конце концов, я думаю, вам нужна внутренняя группа. Даже если вы передаете что-либо из этого на аутсорсинг, вам нужно знать, что именно вы хотите передать на аутсорсинг, как вы хотите управлять этим и так далее. Так что я бы сказал да, определенно развивать свои способности.

Ганеш:Кстати, говоря о создании и возможностях, это отличный совет. Вы сказали, что специалисты по данным с Марса, а инженеры-программисты с Венеры. Объяснить, что.

Ананд: Да. Это то, что я снова начал замечать примерно в 2017/18 году. Кажется, на одной из конференций Open Data Science я говорил об этом. Мы заметили, что нам было гораздо труднее убедить ИТ-отделы и ИТ-директоров в том, почему наука о данных отличается от разработки программного обеспечения. Опять же, исходя из опыта разработки программного обеспечения, а затем приняв науку о данных, я мог видеть различия. Но это было не совсем очевидно. Для делового мира, если вы просто скажете, что это наука о данных, мы работаем с данными, они, вероятно, захотят дать вам пропуск и сказать: «Хорошо, да, вы, ребята, можете отличаться от тех, кто занимается технологиями». Но технологи скажут: «Нет, вы, ребята, пишете программы на Python, мы пишем их на Java, C++ или на любом другом языке, который у нас есть. Так что особой разницы нет». Нет, разница огромная. Итак, мы начали смотреть, что такое программное обеспечение и что такое модель. Например, модель машинного обучения или любая математическая модель. Каковы различия? Опять же, есть ряд отличий.

Но я думаю, что, прежде всего, разница в мышлении. Программисты на самом деле инженеры. Специалисты по данным, по самому своему имени, они ученые, верно? Опять же, вы можете сказать, что это просто терминология. Но если вы посмотрите на то, как разрабатываются модели, вам захочется поэкспериментировать с этим, верно? Поэтому, когда вы начинаете, не имеет значения, сколько данных вы мне дадите и какую проблему вы мне дадите, я не могу сказать вам точно: «Эй, Ганеш, дай мне четыре недели, и я построю для тебя что-то, что Точность 98%. Я не могу этого сказать. Поэтому я могу сказать, что, возможно, я не смогу доставить. Мне нужно попробовать разные вещи. Я мог бы получить исходный набор данных, поэкспериментировать с ним и сказать: «Может быть, я смогу добраться до 80 %». Я также могу сказать: «Я достаточно уверен, что если вы предоставите мне больше данных, я смогу поиграть с некоторыми другими более продвинутыми методами и, вероятно, смогу довести вас до 90». Так что это занимает некоторое время. В некоторых случаях я не смогу этого сделать, даже после того, как я пообещаю вам, моя точность будет просто асимптотной. Вот и все, это очень экспериментально. Это как открытие лекарства, верно? Так что у меня могут быть какие-то временные рамки того, как я это делаю, но я не могу гарантировать успех. Так что один из ключевых элементов, это своего рода более научный конец, где это испытание и обучение в мире. В то время как инженеры-программисты говорят: «Дайте мне масштаб, дайте мне время», и они просто работают в соответствии с ним. Так что это становится очень трудно.

Итак, теперь мы видим, что организации берут специалистов по данным и помещают их в agile-команды в рамках разработки программного обеспечения. Теперь agile-команды могут использовать двухнедельный или четырехнедельный цикл. В любом случае вы приглашаете специалистов по данным и говорите им: «Через две недели дайте мне пару идей». Таким образом, через две недели, когда вы соберете данные, обработаете данные и начнете получать выдержку, вы просто предоставите им некоторую описательную статистику. Так что ни в одном из этих прозрений нет глубины. Так что вам действительно нужно проводить свои эксперименты по науке о данных на отдельном гибком пути. И как только они будут доказаны, поместите их в свою agile-очередь. Итак, мы немного поговорили о том, как объединить эти две вещи. Но есть фундаментальная разница в образе мышления, заключающаяся в том, что человек очень уверен. Таким образом, когда программное обеспечение написано и протестировано, оно будет работать так, как рекламируется, тогда как в случае ИИ модель со временем будет ухудшаться. Так что это неопределенно. И нам особенно сложно для деловых людей сказать: «Мы дадим вам алгоритм, точность которого составляет 98%». Поэтому они говорят: «А как насчет остальных 2%? Вы хотите сказать, что вам нужны все эти деньги в качестве консультанта, и вы хотите дать мне что-то, что может пойти не так в 2% случаев?» Но такова природа программного обеспечения.

Итак, есть целый ряд проблем, которые действительно отличают программное обеспечение от науки о данных. И я думаю, что это все еще очень рано. Люди просто изучают и сообщают некоторые из этих вещей, чтобы мы могли разработать лучшую методологию. И опять же, я очень хорошо это вижу, поскольку в 1990-х годах законодательство о программной инженерии сильно развилось с таким количеством методологий и структур. Поскольку его использовала целая группа людей, а не только несколько человек в лабораториях с кондиционированием или сверхкондиционированием воздуха, теперь его используют все. Так что я думаю, что здесь есть аналогичный переход. Если вам нужно заставить всех использовать ИИ, вам нужно правильно разработать эти методологии.

Ганеш: Интересно. Тоже быстро меняется. Теперь вы получите больше циклов разработки программного обеспечения, включая интеллектуальные системы как его часть. Вы писали об этом в своем блоге: на ПО 2.0. Что такое программное обеспечение 2.0? Что это за эволюция произошла? Что такое 1.0 и каков переход на 2.0?

Ананд:Да, так что этот термин был введен, я думаю, Андре Карпати, когда он был в Стэнфорде.

Основная идея программного обеспечения 1.1 — это своего рода традиционное программирование. Так же, как мы говорили о программном обеспечении, в котором вы в основном пишете код, данные вводятся и производят некоторый результат, верно? Итак, ввод, вывод, и вы пишете код между ними.

Теперь, в программном обеспечении 2.0, модели встроены в программное обеспечение. Так что это усердие программных приложений, основанное на интеллекте.

Теперь, если вы действительно хотите понять программное обеспечение 2.0, я думаю, что есть три вещи, которые сходятся воедино. Итак, первое, я бы сказал, это данные. Второе — это модели. Итак, модели машинного обучения или любой другой тип модели. И третье — это программное обеспечение. Итак, код или вычисления, все три вместе, и это программное обеспечение 2.0. Таким образом, проблема с программным обеспечением 2.0 заключается в том, что если вы просто занимаетесь наукой о данных в пакетном режиме, вы находитесь в своем собственном маленьком мире. У вас есть данные из других групп, вы испробовали различные методы, и у вас есть модель, которая удобна вам и бизнесу удобна. Но когда вы хотите развернуть его, вам нужно беспокоиться о целом ряде других вещей. Поэтому, когда вы развертываете его, его нужно обернуть в какую-то службу API, чтобы его можно было постоянно вызывать каким-то другим программным обеспечением. И тогда ваше программное обеспечение и модели должны быть связаны между собой, чтобы программное обеспечение могло вызывать модель и получать ответы, чтобы модель была встроена. Но потом вы начинаете задаваться вопросом: «Если эта вещь меняется, ничего, если я буду тренировать эту модель три года назад, а сейчас все изменилось?» Так что теперь модель будет неточной. Это не похоже на программное обеспечение предыдущего мира. Итак, мне нужно получить данные. Мне нужен конвейер данных для ввода в мою производственную модель, чтобы я мог учиться с определенной периодичностью в производстве.

Итак, если вы посмотрите на программное обеспечение 2.0, пытаясь определить его, то увидите, что эти три вершины объединяются, чтобы мы могли получать данные, подаваемые в модель, которая постоянно меняется, может быть в реальном времени или периодически, но встроена в программное обеспечение. Итак, каковы методологии для этого? Каковы его развивающиеся роли и возможности? Все эти вещи должны быть, я бы не сказал, должны быть изобретаемыми или новыми, но нам нужно модифицировать то, что мы знаем из мира инженерии данных, мира разработки программного обеспечения и всего мира моделирования, во что-то, что объединяет все вместе.

Ганеш: Интересно. У меня был гость на шоу Ласло Рагнар. Он является частью ранней консалтинговой группы Hypergolic в Великобритании. У него очень провокационная идея, и он из хедж-фонда. Итак, в компаниях, предоставляющих финансовые услуги, вы специалист по данным, и все занимаются этим. Но модели, которые не идут в серию, не пишут. Таким образом, мышление сводится к следующему: «Как мне обучить или переучить специалистов по данным, чтобы они учитывали все возможности разработки программного обеспечения?» Каков один из подходов к решению этой проблемы. Другое дело дисциплины. Как вы на самом деле хотите сказать, что у этого искусственного интеллекта в масштабе есть инженерная проблема? То есть у вас есть данные, которые мы пытаемся решить, мы стали намного лучше за последнее десятилетие, а затем у нас есть моделирование и алгоритмы, которые сейчас демократизированы и доступны для всех, но инженерные практики для индустриализации его и запустить в производство все еще отстает. Таким образом, интересный подход к программному обеспечению 2.0 на самом деле просто осознание того, что это отличается от создания программного обеспечения, которое вы делали раньше, имеет большое значение. Итак, прежде чем я перейду к ролям, одна вещь, которую мы с вами связали три или четыре года назад, — это доверие и этика в ИИ. Так что же такое доверие к ИИ? Что такое этический ИИ? Дайте определение этому и почему организациям и отдельным лицам важно беспокоиться об этом?

Ганеш: у меня похожее замечание по поводу этического ИИ, потому что моя этика и чья-то этика могут отличаться. Теперь у меня так много разных направлений, из которых я хочу взять это, но мы должны осознавать время. Подведите итог: какой полезный и легко выполнимый совет вы можете дать организациям, которые начинают с ИИ? И если они уже в пути к ИИ, как они его масштабируют? А для управления и беспокойства о рисках ИИ, просто разбейте его и дайте мне набор рекомендаций для любой организации.

Ананд: Итак, я бы сказал, что мы видим, что 20–30% крупных корпораций все еще изучают ИИ и узнают об ИИ, и, возможно, 40–50% экспериментируют с ИИ. Итак, если вы экспериментируете с ИИ, я бы назвал пару ключевых принципов.

Итак, думай масштабно, но начинай с малого. Таким образом, у вас может быть видение, вы можете захотеть расширить его до уровня компании, но ищите маленькие кусочки, которые вы можете построить и продемонстрировать ценность.

Второе, что я бы сказал, это когда вы продемонстрировали ценность, затем масштабируйтесь. Масштабируйте быстро и масштабируйтесь по-крупному, чтобы ваша организация работала вместе с вами.

И третье, что я бы добавил, это создание собственных возможностей. Так что приобретайте, но опять же, вы можете попросить других помочь вам, но вам нужно иметь собственные внутренние возможности для роста.

И пока вы его создаете, мантрой для всех ответственных ИИ является разработка медвежьих взяток. Так что не смотрите на ROI для вашего эксперимента, не принимая во внимание какие-либо риски. Вы можете быть очень довольны окупаемостью инвестиций, но связанные с этим риски могут перевесить все преимущества. Так что, чтобы быть действительно правдой, вам нужно принять это во внимание, даже на ранней стадии экспериментов, по крайней мере, на каком-то уровне.

Затем у вас есть компании, которые опять же, по нашим приблизительным оценкам, вероятно, около 20–25% из них действительно масштабируют ИИ. Так что для них, я думаю, гораздо важнее проникнуться заводским менталитетом. Итак, мы называем это фабрикой моделей, но количество клиентов, с которыми мы работаем, фактически сделало это возможным. Так же, как программные приложения разрабатываются несколькими людьми, развернутыми на общей платформе и архитектуре, вы хотите, чтобы модели также вели себя одинаково. Итак, вернемся к нашему программному обеспечению 2.0, вам нужна полная сквозная методология, и вам нужно управление сверху вниз. Вам также потребуются различные возможности, от определения масштаба проекта до проведения экспериментов с данными, ML Ops, Data Ops, DevOps, всех людей, связанных с эксплуатацией, и непрерывного мониторинга.

Итак, начните строить комплексное представление жизненного цикла программного обеспечения 2.0, то есть модель данных и программное обеспечение. И затем очень встраивайте в него ответственные принципы ИИ, чтобы при его масштабировании вы не попали в ловушку и не попали в некоторые из элементов риска и не уменьшили эти риски до того, как они взорвутся. Вот что я бы посоветовал компаниям, которые пытаются масштабироваться.

Ганеш: Это интересно. Если я могу обобщить это, то для меня будет несколько выводов: один: этика и руководящие принципы управления - это не проблема «постфактум оглянуться назад и мониторинг», а то, как вы создаете 10 прямо с самого начала. проблема, правильно? Если вы начали с ИИ и убеждены в его ценности, сосредоточьтесь на быстрых экспериментах, демонстрациях рассказывания историй, убедитесь, что все, кого вы заинтересуете, дайте возможность наращивать потенциал собственными силами. И если вы уже являетесь масштабируемой средой, начните индустриализировать ИИ, внедрите его в фабрику, убедитесь, что вы разрабатываете и продумываете программные инструменты или элементы, чтобы добиться успеха. Красивый. Это восхитительно.

Хорошо, у меня есть куча быстрых вопросов для вас. И что бы ни пришло в голову, пожалуйста, дайте мне знать. Во-первых, над какой проблемой ИИ, по вашему мнению, сегодня должен работать каждый?

Ананд: Я бы сказал, что не все, но лучшие умы должны работать над решением некоторых из наиболее сложных проблем, будь то в области здравоохранения или здоровья планеты. Я думаю, что людей слишком много, и, вероятно, много денег можно получить, заставив людей нажимать на кнопки, а не занимаясь чем-то более осязаемым. Либо соединиться с планетой, либо служить ИИ навсегда, верно? Итак, наука о данных, внося некоторые несоответствия и закрывая разрыв несоответствия.

Ганеш: Понятно. Это забавно. В последние несколько месяцев мы видели эти дебаты, начатые Илоном Маском о влиянии Биткойна на ESG. Я имею в виду, что если кто-то проведет исследование влияния глубокого обучения на ESG, у нас у всех будут проблемы. Итак, еще один вопрос: расскажите мне, как мы будем взаимодействовать с ИИ через 100 лет.

Ананд: Да, 100 лет — это большой скачок. Это что-то. Предсказание чего-либо в ИИ, на мой взгляд, является даже более сложной задачей, чем фактическая разработка ИИ. Так что почти все ошиблись. Я не верю, что понимаю это правильно, но я склонен думать с точки зрения сценариев. Такой большой студент от сценарного планирования и системного мышления. Таким образом, существует очень утопический взгляд на ИИ: «Да, ИИ берет верх. Опять же, у нас может быть общий интеллект, а может и не быть, так что даже не беспокойтесь об этом». Таким образом, у нас может быть ИИ, очень похожий на нашего компаньона. Так как наставник для нас. Так что в значительной степени забота, забота о нас на всем пути от кормления нас, когда мы растем, но мы становимся лучше с ИИ. Так что это расширенный интеллект почти во всех сферах жизни. Поэтому, если я хочу узнать что-то по конкретной теме, я иду и спрашиваю у своего ИИ. И опять же, будь то имплантаты, которые вживляются прямо в ваш мозг, или вас просто обучают классическими методами или что-то в этом роде, я считаю утопическим взглядом, когда мы работаем бок о бок, когда мы работаем вместе. Даже если это сверхразум, он находится под нашим контролем, и мы работаем вместе как некий утопический взгляд.

Антиутопический взгляд, я думаю, что это тоже возможный сценарий. Раньше я не развлекался со всем этим. Я был своего рода технологом: «Да, этого не произойдет». Но чем больше я вижу и чем больше седых волос у меня появляется, тем больше я доверяю антиутопическому взгляду. Итак, мы видели, как некоторые из этих вещей меняются, верно? Просто возьмите персонализацию как один из ее элементов, то, как мы потребляем наши новости, и то, как это поляризует наше общество, то есть США и другие места, но в большей степени в США. Меня действительно шокирует, что все верят в свою версию правды. И я знаю, начиная с Символической логики, есть только одна истина. В противном случае определение не имеет смысла. Факт или истина неприкосновенны. Но теперь у нас все говорят о моей версии правды против вашей версии правды, или они просто не совпадают. Это нормально. Эти вещи, верно? Так что мы все из разных слоев общества. Все нормально. Это сбивает меня с толку. Так что человечеству не на что опираться, если у каждого своя версия правды. И очень скоро у нас будет 7 миллиардов версий этой правды. Итак, это антиутопический взгляд. Мог ли ИИ быть причиной этого? Или мы просто скажем: «Больше никакого ИИ из-за всего того, что он потенциально может вызвать?» Я не знаю.

Ганеш:Это увлекательно. Если вы не пресс-секретарь Дональда Трампа, у вас обычно есть одна версия этого.

Ананд, это было такое удовольствие. Это было потрясающе. Как зрители и слушатели могут связаться с вами в Интернете?

Ананд: Они могут связаться со мной в LinkedIn или в моей публикации на Medium. Я могу дать вам некоторые из этих деталей: LinkedIn, медиум, Twitter или любой из них.

Ганеша: Потрясающе. У меня будет это в заметках о шоу. Итак, Ананд, это было такое удовольствие. Я действительно хотел проводить больше времени, говоря и исследуя многие из этих тем. Я уверен, что в книгах есть будущий эпизод, чтобы продолжить некоторые из этих различных разговоров. Большое спасибо, что нашли время сегодня.

Ананд: Спасибо, что пригласили меня. Мне нравится сегодняшняя беседа.

Корпоративный ИИ, сингулярность, реализация ценности, программное обеспечение 2.0, этика | Доктор Ананд Рао | Истории в ИИ