«Я собрал букет чужих цветов, и ничего, кроме связывающей их нити, не принадлежит мне». — Мишель де Монтень

Случайные находки — это еженедельная подборка моих твитов и отражение моего любопытства.

Чужое знание

В отличном лонгриде Дэвид Вайнбергер пишет, что наши машины теперь обладают знаниями, которые мы никогда не сможем понять.

В 2008 году Крис Андерсон писал: «Новая доступность огромных объемов данных, наряду со статистическими инструментами для обработки этих чисел, предлагает совершенно новый способ понимания мира. Корреляция преобладает над причинно-следственной связью, и наука может развиваться даже без последовательных моделей, единых теорий или вообще какого-либо механистического объяснения».

В то время Андерсон поднял небольшую бурю. Например, в статье в журнале по молекулярной биологии профессор философии Массимо Пиглиуччи спросил: […] если мы перестанем искать модели и гипотезы, будем ли мы по-прежнему заниматься наукой? Судя по всему, ответ на этот вопрос должен был быть: Нет, — пишет Вайнбергер. Но сегодня — даже не прошло и десяти лет после статьи Андерсона — полемика звучит странно. Достижения в компьютерном программном обеспечении, обеспечиваемые нашим новым емким сетевым оборудованием, позволяют компьютерам не только запускаться без моделей — наборов правил, которые выражают, как элементы системы влияют друг на друга, — но и генерировать свои собственные, хотя и не очень похожие на модели. очень похоже на то, что создали бы люди. Это даже становится стандартным методом, поскольку любая уважающая себя технологическая компания теперь приняла этику «машинное обучение прежде всего.

Платон научил нас тому, что истинные убеждения должны быть оправданы. Однако «наша новая опора на непостижимые модели как на источник обоснования наших убеждений ставит нас в странное положение. Если знание включает в себя обоснование наших убеждений, тогда знание не может быть классом ментального содержания, потому что обоснование теперь состоит из моделей, существующих в машинах — из моделей, которые человеческий разум не может постичь», — утверждает Вайнбергер. «Но обещание машинного обучения заключается в том, что бывают времена, когда непостижимые машинные модели будут гораздо более предсказуемыми, чем созданные вручную и понятные человеку. В этих случаях наши знания, если мы решим их использовать, будут зависеть от обоснований, которые мы просто не можем понять.

Но, несмотря на весь успех моделей машинного обучения, теперь мы также учимся быть скептичными. Парадигматические провалы, по-видимому, связаны с тем, что машинное обоснование недостаточно ускользнуло от своего человеческого происхождения».

Вайнбергер приводит пример системы, которая была обучена оценивать риски, связанные с освобождением под залог, которая выпускала закоренелых белых преступников, оставляя в тюрьме афроамериканцев с меньшей судимостью. Алгоритм системы заключался в том, чтобы учиться на предубеждениях людей, чьи решения были частью данных. Майк Уильямс, инженер-исследователь из Fast Forward Labs, сказал Вайнбергеру, что нам нужно быть особенно бдительными в отношении предубеждений, которые часто, а возможно, и всегда влияют на то, какие наборы данных считаются важными и как эти данные собираются.

Также Кэти О’Нил, автор недавно вышедшей книги Оружие математического разрушения, указывает на неявные погрешности в значениях, которые определяют, какие наборы данных мы используем для обучения компьютера. Она привела Вайнбергеру "пример человека, который ищет лучшего человека для работы, с одной желаемой чертой: "человек, который остается на долгие годы и получает продвижение по службе". Используя для этого алгоритмы машинного обучения, вы можете в конечном итоге всегда нанимать мужчин, поскольку женщины, как правило, остаются на работе в течение более коротких промежутков времени». То же самое можно сказать и о выявлении плохих учителей в государственных школах. Но что представляет собой плохой учитель? Средний балл класса по стандартизированным тестам? Сколько студентов заканчивают учебу? Посещать колледж? Зарабатывать? Жить счастливой и полноценной жизнью? Люди могут решить это, но алгоритмы машинного обучения вполне могут восстановить предубеждения, неявные в данных, которые мы выбрали для их оснащения, пишет Вайнбергер.

«Таким образом, мы, скорее всего, пойдем по обоим путям одновременно. С одной стороны, мы продолжим нашу традицию запрета некоторых видов оправдания во избежание нежелательных социальных последствий. В то же время мы, вероятно, продолжим все больше полагаться на оправдания, которые мы просто не можем понять.

И проблема не просто в том, что мы не можем их понять, как неспециалист не может понять идеи струнного теоретика. Скорее дело в том, что природа компьютерного оправдания совсем не похожа на человеческое оправдание. Это чужое.

Но «чужой» не означает «неправильный». Когда дело доходит до понимания того, как обстоят дела, машины могут быть ближе к истине, чем мы, люди».

Дэвид Вайнбергер заканчивает свою статью словами:

«Пока наши компьютерные модели воплощают наши собственные идеи, мы можем сохранять иллюзию, что мир устроен так, как работают наши знания и наши модели. Как только компьютеры начали создавать свои собственные модели, и эти модели превзошли наши умственные способности, мы потеряли это утешительное предположение. Наши машины сделали очевидными наши эпистемологические ограничения и, внося коррективы, открыли истину о Вселенной.

Мир не был создан Богом или по стечению обстоятельств для познания человеческим мозгом. Природа мира ближе к тому, как ее представляет наша сеть компьютеров и сенсоров, чем к тому, как ее воспринимает человеческий разум. Теперь, когда машины действуют независимо, мы теряем иллюзию того, что мир достаточно прост, чтобы мы, крошечные существа, могли его понять.

Потребовалась сеть машин, которую мы сами создали, чтобы мы увидели, что мы инопланетяне».

Рекомендуемая литература (длинные чтения)
Миф о сверхчеловеческом ИИ, Кевин Келли (Backchannel)
The Dark Secret в основе ИИ, Уилл Найт (MIT Technology Review)
Выращивание хороших роботов, Регина Рини (Aeon)

Краткие версии последних двух см. в разделе Случайные находки (2017, неделя 16) — о загадочном разуме ИИ, выращивании хороших роботов и о том, как западная цивилизация может рухнуть

Что делает гения

Гений, — писал немецкий философ «Артур Шопенгауэр, — освещает свой век, как комета, на пути планет». Почему они парят над остальными из нас, мы точно не знаем, но наука предлагает нам подсказки, — говорит Клаудия Кальб в What Makes a Genius?

Философы уже давно размышляют о происхождении гения. Ранние греческие мыслители считали, что избыток черной желчи — одного из четырех телесных соков, предложенных Гиппократом, — наделял поэтов, философов и других выдающихся душ «возвышенными силами, — говорит историк Даррин МакМахон, автор книги Божественная ярость: История гениальности. Френологи пытались найти гениальность в шишках на голове; краниометристы собирали черепа, в том числе черепа философа Иммануила Канта, которые они исследовали, измеряли и взвешивали».

Однако ни один из них не обнаружил ни одного источника гениальности, и вряд ли такое будет найдено. «Гений слишком неуловим, слишком субъективен, слишком привязан к приговору истории, чтобы его можно было легко идентифицировать. И это требует предельного выражения слишком многих черт, чтобы быть упрощенным до высшей точки на одной человеческой шкале. Вместо этого мы можем попытаться понять это, распутав сложные и запутанные качества — интеллект, креативность, настойчивость и простое везение, и это лишь некоторые из них, — которые переплетаются, чтобы создать человека, способного изменить мир».

Гении, кажется, сегодня повсюду, их восхваляют в наших газетах и ​​глянцевых журналах, превозносят в наших телевизионных профилях и в интернет-болтовнях. Изобилие публицистов, хэштегов и шумихи, гений теперь поглощен культурой знаменитостей, которая проводит мало различий между гением в моде, гением в бизнесе и гением во всем остальном. Если «проблема гениальности прошлого заключалась в том, как узнать и как это найти, то наша проблема гениальности сегодня состоит в том, что этого невозможно избежать. Гений остается отношением, но наше отношение к нему изменилось. У каждого могут быть свои пятнадцать минут гениальности. Теперь все могут быть гениями. … [Но] мир, в котором все могли бы стремиться к гениальности, — это мир, в котором гениальность как священное исключение больше не может существовать. Эйнштейн, гений гениев, был последним из титанов. Эпоха гениев прошла. Должны ли граждане демократических стран оплакивать этот уход или радоваться? Наверное, и то, и другое. Гений умер: да здравствует гений человечества». — Даррин МакМахон в Божественной ярости: История гения

Интеллект часто считается критерием гениальности по умолчанию — измеримое качество, порождающее огромные достижения. Но, как обнаружат Льюис Терман, психолог из Стэнфордского университета, который помог создать IQ-тест, и его сотрудники», монументальный интеллект сам по себе не гарантирует монументальных достижений.

«Чарльз Дарвин вспоминал, что его считали «самым обычным мальчиком, интеллектуально ниже общепринятых стандартов». Став взрослым, он разгадал тайну того, как возникло такое великолепное разнообразие жизни», — пишет Калб. «Научные прорывы, такие как дарвиновская теория эволюции путем естественного отбора, были бы невозможны без творчества, гениальной нити, которую Терман не мог измерить».

По словам Скотта Бэрри Кауфмана, научного руководителя Института воображения, Великие идеи обычно не приходят, когда вы узко фокусируетесь на них. Неожиданные вспышки озарения — так называемые моменты ага — часто возникают после периода размышлений. Этот творческий процесс основан на динамическом взаимодействии нейронных сетей, работающих согласованно и одновременно привлекающих внимание из разных частей мозга. Одна из этих сетей культивирует внутренние мыслительные процессы, в том числе мечтания и воображение. Более богатая связь между различными областями мозга также может помочь соединить точки — установить связи между, казалось бы, несовместимыми понятиями.

Но в то время как нейробиологи пытаются понять, как мозг способствует развитию мыслительных процессов, меняющих парадигму, другие исследователи бьются над вопросом, когда и за счет чего развивается эта способность, говорит Калб.

«В течение последних нескольких десятилетий ученые искали гены, отвечающие за интеллект, поведение и даже такие уникальные качества, как абсолютный слух. В случае интеллекта это исследование вызывает этические опасения по поводу того, как его можно использовать; это также чрезвычайно сложно, так как могут быть задействованы тысячи генов — каждый с очень небольшим эффектом. […]

Генетический потенциал сам по себе не предсказывает реальных достижений. Чтобы вырастить гения, также требуется воспитание. Социальные и культурные влияния могут обеспечить эту подпитку, создавая кластеры гениальности в моменты и места в истории: Багдад во время Золотого века ислама, Калькутта во время Бенгальского Возрождения, Силиконовая долина сегодня».

Тем не менее, природные данные и благоприятная среда все еще не могут воспитать гения, если мотивация и упорство не продвигают человека вперед. Эти черты личности вдохновляют работу психолога Анджелы Дакворт. Она считает, что сочетание страсти и настойчивости — выносливости — побуждает людей к достижениям. Каким бы блестящим ни был человек, стойкость и дисциплина имеют решающее значение для успеха. Когда вы действительно смотрите на кого-то, кто достигает чего-то великого, это не легко, — говорит Дакворт.

«Если когда-либо был человек, который олицетворял концепцию гения во всех аспектах, от его составляющих до его далеко идущего воздействия, это был бы Леонардо да Винчи. [Его] интеллект и артистизм парили, как комета Шопенгауэра. Широта его способностей — его художественное озарение, его знания в области анатомии человека, его дальновидная инженерия — не имеют себе равных».

[См. Почему так трудно распознавать гениев вокруг себя Анны Куито для двух недавно опубликованных книг о Леонардо: Леонардо да Винчи Уолтера Айзексона и Стать Леонардо Майка Лэнкфорда.]

Теперь международная группа ученых прослеживает генеалогию Леонардо и охотится за его ДНК, чтобы узнать больше о его происхождении и физических характеристиках, проверить приписываемые ему картины и, что самое примечательное, найти подсказки. за его выдающийся талант».

Одна из их первых целей — изучить возможность того, что гений Леонардо проистекал не только из его интеллекта, творчества и культурного окружения, но и из его образцовой способности восприятия. Точно так же, как у Моцарта был исключительный слух, у Леонардо, по-видимому, была исключительная острота зрения, — говорит Джесси Осубель, ученый-эколог, координирующий Проект Леонардо.

«Команда проекта Леонардо пока не знает, где искать ответы на другие вопросы, например, как объяснить замечательную способность Леонардо визуализировать птиц в полете. «Как будто он создавал стробоскопические фотографии стоп-кадра», — говорит [Томас] Сакмар [специалист в области сенсорной нейробиологии]. Не исключено, что существуют гены, связанные с этой способностью». Он и его коллеги рассматривают свою работу как начало экспедиции, которая поведет их по новым путям по мере того, как ДНК раскроет свои секреты.

Стремление разгадать истоки гениальности может никогда не достичь конечной точки. Как и вселенная, ее тайны будут продолжать бросать нам вызов, даже когда мы тянемся к звездам. Для некоторых так и должно быть. Я вообще не хочу в этом разбираться, — говорит [джазовый пианист] Кит Джарретт, когда я спрашиваю, удобно ли ему не знать, как его музыка закрепится. Если бы кто-то предложил мне ответ, я бы сказал: «Убери его! В конце концов, может оказаться, что путешествие достаточно освещает и что идеи, которые оно открывает по пути — о мозге, о наших генах, о то, как мы думаем, — взрастит проблески гениальности не только в редком индивидууме, но и во всех нас».

«Я полностью отключаю мозг. Меня тянет сила, которой я могу только быть благодарен. … Это огромное пространство, в котором, я верю, будет музыка». — Кит Джарретт

И это …

По случаю Дня Земли философ Керт ван Менсвоорт написал свое Письмо человечеству. Менсвоорт призывает людей не быть рабами или жертвами собственных технологий, а вместо этого использовать технологии для улучшения человечества. Его надежда состоит в том, чтобы поощрить новый взгляд на роль человека на Земле.

«Технологии стали настолько вездесущими на нашей планете, что открыли новую среду, новую обстановку, которая трансформирует всю жизнь на Земле. Техносфера — экология взаимодействующих технологий, развившаяся после вашего прибытия — развилась поверх существующей биосферы. Его влияние на жизнь на Земле трудно недооценить, оно сравнимо, а может быть, даже больше, чем влияние животных, появившихся 500 миллионов лет назад».

«Мы не можем представить будущее человечества, не думая о будущем технологий. Вы должны двигаться вперед, даже если вы только что добрались сюда. Ты подросток, но пора повзрослеть. Технологии — это автопортрет человечества. Это материализация человеческой изобретательности в физическом мире. Давайте сделаем это произведением искусства, которым мы сможем гордиться. Давайте использовать технологии, чтобы построить более естественный мир и наметить путь в будущее, который будет работать не только для человечества, но и для всех других видов, планеты и, в конечном счете, Вселенной в целом».

Стремление рассматривать коммуникационные технологии как лекарство от социальных недугов остается сильным, несмотря на многочисленные психологические и социологические исследования, доказывающие обратное, пишет Николас Карр в статье Как технологии создали глобальную деревню — и заставили нас вцепиться друг другу в глотки .

«Несмотря на широко разрекламированную недавнюю борьбу Facebook за контроль над разжиганием ненависти, пропагандой и фейковыми новостями, [Марк] Цукерберг кажется более чем когда-либо уверенным в том, что «глобальное сообщество» можно построить из программного обеспечения. Центральным элементом его нового проекта является компьютеризированная «социальная инфраструктура», которая будет использовать процедуры искусственного интеллекта для управления информационными потоками таким образом, чтобы все были довольны. Система будет способствовать всеобщему самовыражению, в то же время ограждая людей от «нежелательного контента».

«Проблема такой гиковской грандиозности выходит за рамки отрицания человеческой природы. Это подкрепляет давно преобладавшую в американской культуре идею о том, что технического прогресса достаточно для обеспечения социального прогресса. Если мы добьемся правильной инженерной мысли, наши лучшие ангелы одержат победу. Это приятная мысль, но это фантазия. Продвижение к более дружелюбному миру потребует не технологической магии, а конкретных, кропотливых и в целом человеческих мер: переговоров и компромиссов, нового акцента на гражданственность и аргументированные дебаты, граждан, способных ценить противоположные точки зрения. На личном уровне нам может потребоваться меньше самовыражения и больше самоанализа.

Технология — это усилитель. Он превозносит наши лучшие черты и превозносит наши худшие.

Чего это не делает, так это делает нас лучше. Это работа, которую мы не можем переложить на машины».

Онлайн-компании по доставке еды, такие как Deliveroo и Uber Eats, сделали доставку специально приготовленной еды на ваш рабочий стол верхом роскоши на основе приложений. Подобные стартапы набирают популярность и в Индии. Но здесь даббавалы занимаются этим уже 125 лет, и новичкам есть чему поучиться, пишет Эдд Гент в Непревзойденная 125-летняя сеть, питающая Мумбаи.

Тем не менее, когда удобство служб доставки на основе приложений становится все более популярным, будут ли даббавалы идти в ногу со временем? Доставка еды находится в поле зрения индийских технологических предпринимателей, говорит Панкадж Джейн, партнер американского стартап-акселератора 500 Start Ups. Но он считает, что до любой угрозы еще далеко, и часть проблемы заключается в предположении, что бизнес-модели Кремниевой долины могут быть перенесены в Индию. Многие прожигали деньги инвесторов, создавая модные приложения и предлагая скидки в погоне за долей рынка, вместо того, чтобы строить надежные цепочки поставок и солидный бизнес-план. Он считает, что предприятия пищевой промышленности могли бы извлечь уроки из «сильных основ» даббавал. «Я думаю, что доставка еды 2.0 в Индии будет dabbawalas для технологий», — говорит Джейн.

Низкотехнологичный подход даббавал может быть сильной стороной. «Новые компании делают своим клиентам хорошие предложения, но они просто заинтересованы в захвате рынка. У даббавал есть более глубокие причины для этого. Служить их клиентам — все равно, что служить их богу», — говорит Субодх Сэнгле, координирующий даббавала в Мумбаи.

Увидев мумбайских даббавал за работой, я могу только надеяться, что Сэнгл прав, и что индийские технологические предприниматели дважды подумают, прежде чем заменить это гуманное и человеческое сообщество чем-то вроде этого…

В Beyond Belief (АртФорум, май 2015) статья David Huber об архитектуре Lacaton and Vassal. Они могут быть архитекторами, пишет он, но их настоящая профессия — сомнение. Как объяснила Энн Лакатон в интервью 2003 года: Работа архитектора заключается не только в том, чтобы строить. Первое [что] нужно сделать, это подумать, и только после этого можно сказать, строить или не строить.

Лакатон и Вассал безжалостно подвергали сомнению архитектурные ортодоксии, разрушая навязанные предположения об экономике и практиках, лежащих в основе проектирования, строительства и заселения космоса. Иногда даже, бросая вызов глобальной культуре, которая, кажется, ценит культовую архитектуру любой ценой, они считают само строительство совершенно ненужным.

Но хотя Лакатон и Вассал скептически относятся к предполагаемой роли архитектуры, они не отвергают строительство полностью. В 2009 году был объявлен конкурс проектов по преобразованию послевоенной судостроительной мастерской в ​​Дюнкерке, которая была названа собором, в FRAC Nord-Pas de Calais, филиал французского регионального фонда современного искусства. Однако во время визита Лакатон и Вассал сразу же почувствовали диссонанс в конкурсном мандате: инстинкт сохранения, который пощадил бетонную оболочку здания, был готов, установив внутри музей, разрушить пространство. Заполнять собор было не просто бессмысленно, а ненужно, утверждали архитекторы. Вместо этого они предложили создать новую структуру того же объема и формы рядом с первоначальным зданием, которая в результате освободится, чтобы делать то, что у нее получалось лучше всего: быть пустой. Другими словами, разместить не только гибкий набор арт-инсталляций, но и другие виды деятельности.

«Архитектура не так уж важна в жизни, — заметил Лакатон в 2003 году. — Мы можем прожить жизнь без архитектуры». Кому-то это может показаться безнадежным. Тем не менее странная, чудесная работа Лакатона и Вассала указывает на нечто иное: на большое расширение того, чем могут быть архитектура и архитекторы и чем они могут заниматься. Вместо рефлекторной воли их колебания призывают к поэтике оценки. Представьте себе позицию, в которой архитектура больше не попадает в ловушку сомнительных ортодоксий и априорных обязательств по проектированию, а импульс приспосабливаться — рефлексивный Да — предполагает ловкость Возможно, Я предпочитаю не делать этого и Почему?»

В Нью-Йорке по-прежнему так много шика, потому что люди делают его новым каждый день. Как и все города, он самоорганизуется. Люди, ищущие свидание на Третьей авеню, превращают ее в место, полное надежд и ожиданий, и это не имеет ничего общего с архитектурой. Это эмоции, которые влекут нас в города, и они зависят от того, что все немного грязно. Самое идеально спроектированное место не может конкурировать. Все предусмотрено, что является худшим, что мы можем предоставить. Есть анекдот, который рассказывал отец старого друга, о проповеднике, который предупреждает детей: «В аду будет плач, и плач, и скрежет зубов. дети спрашивают. — Тогда зубы дадут, — сурово говорит он. Вот и все — дух сконструированного города: Зубы вам предоставят». — Джейн Джейкобс в Городе и песнях Адама Гопника (The New Yorker, 2004)