Одна из первых вещей, о которых читает каждый, кто знакомится с машинным обучением (ML), — это печально известный алгоритм преступного рецидивизма COMPAS, наиболее известный тем, что применяет расовые предубеждения к рекомендациям по вынесению приговоров в тюрьме. Это стало олицетворением исторической предвзятости, неэтичного узкого ИИ и опасностей черного ящика. Тем не менее, это далеко не самая разрушительная или, если уж на то пошло, самая известная система ИИ, применяющая сегодня иерархию предубеждений, включая тех, кто несет ответственность за современное рабство.

С точки зрения «перспективы» алгоритма машинного обучения есть одна и только одна цель — максимизировать ценность любой ценой, «монстр из скрепки», который с радостью уничтожит человечество ради достижения этой цели. Исследователи могут жестко запрограммировать правила, чтобы попытаться предотвратить это, но алгоритмы машинного обучения и глубокого обучения (ГО) исключительно хороши в поиске утечек данных. Одним из хорошо задокументированных случаев было открытие того, что, хотя сверточная нейронная сеть (CNN) работала намного выше стандартов производительности человека при диагностике типа рака на основе сканирования, она делала весь прогноз на основе артефактов и метаданных с устройств. используемые для сканирования, и модели, используемые в разных местах, с отбрасыванием всех данных изображений, относящихся к конкретному пациенту. Это пример просачивания данных в алгоритм и алгоритм, определяющий, что непреднамеренный источник данных более важен, чем предполагали исследователи данных, что делает полученный алгоритм фактически бесполезным.

Предвзятость подтверждения является одним из 188+ хорошо задокументированных когнитивных искажений и одним из наиболее часто встречающихся в повседневной жизни как поддерживающий выбор механизм, который подкрепляет прежние убеждения. К сожалению, когда вы объединяете механизмы предвзятости подтверждения и различных других человеческих предубеждений, которые имеют тенденцию защищать людей от любых данных, противоречащих их прежним убеждениям, этим людям становится очень трудно вырваться из этих самоусиливающихся нисходящих спиралей.

Брендинг играет важную роль в построении доверия на основе этих когнитивных искажений, поскольку последние десятилетия доказали, что маркетинг, основанный на эксплуатации и манипулировании когнитивными предубеждениями, гораздо эффективнее, чем просто разработка и предоставление более качественных продуктов и услуг. «Наука о данных» — это целая область, которая специализируется не только на анализе данных, но и на представлении их таким образом, чтобы использовать когнитивные искажения, создавая такие результаты, как CNN для медицинских изображений, упомянутые выше. Бренды используют предвзятость подтверждения как внутри, так и снаружи, преднамеренно и непреднамеренно, еще больше усиливая когнитивные искажения, убеждая себя в том, что то, что они создали, является улучшением, даже если «улучшение» плохо работает в реальности, будь то из-за утечки данных в обучении или побочного ущерба.

Также стоит отметить, что этот брендинг сам по себе сильно оптимизирован ML, что создает второй черный барьер ML, способный к совместной оптимизации с основным уровнем, подобно тому, как было обнаружено, что алгоритмы торговли на фондовом рынке совместно оптимизированы для одного Другая.

Когда вы комбинируете системы МО и ГО, которые обычно «перехитрили» создавших их людей, когнитивные предубеждения, укрепляющие прежние убеждения и инвестиции в невозвратные затраты, и корпоративный брендинг, создающий дополнительные барьеры, основанные на предубеждениях, оптимизированных для МО, вы получаете особенно опасный монстр из скрепки. Этот монстр известен как современная система отслеживания кандидатов (ATS), которая сегодня используется практически всеми компаниями, но никем не понятна. Этот конкретный монстр решает, кого нанять, а кого нет, давая людям иллюзию контроля, позволяя ему оптимизировать тех, кого нанимают, как людей, которые лучше всего укрепят алгоритм, окончательный привратник, самоусиливающийся замкнутый цикл, ни перед кем не отчитываться. Как и в приведенном выше примере CNN, эти алгоритмы оптимизируют себя не для данных, которые указывают на производительность труда или другие логические факторы, а, скорее, они отдают предпочтение огромному количеству других данных, которые просачиваются в процесс обучения из-за огромного объема и разнообразия включенной информации. в процессе.

Когда эта система применяется в контексте международной системы найма, она обнаруживает особенно эффективный метод работы, набирая тех, кто, по оценке системы, будет «работать больше всех», потому что потеря работы приведет к депортации. Этот метод также применяется к случаям, отличным от импортированных талантов, например, к лицам со значительной задолженностью по студенческим кредитам, которые столкнутся с таким же уровнем угрозы своему благополучию в случае потери работы, что приведет к результатам, аналогичным приведенным выше. случай. В дополнение к этим изученным условиям существует множество жестко запрограммированных значений, присвоенных элементам заявления о приеме на работу, которые в лучшем случае не имеют статистической корреляции с более высокой производительностью труда, а в худшем случае, как было доказано в исследованиях, имеют обратную связь с производительностью работы. Одним из примеров этого является то, что несколько лет назад Google обнаружил, что специалисты по компьютерным наукам на самом деле имеют более низкую производительность труда по сравнению с другими кандидатами, и хотя некоторые компании начали избавляться от этого, до сих пор нет недостатка в ATS и объявлениях о вакансиях, которые требуют Степень доктора философии или магистра, даже если отношение к производительности в целом отрицательное. Кроме того, со стороны каждого человека, дошедшего до стадии наемного труда, требуются большие необратимые затраты, обычно начиная с низкооплачиваемых подрядчиков в «кадровой индустрии», где часто много людей борются за одну и ту же должность, увеличивая выпуск продукции. каждый человек конкурирует из-за дефицита баланса спроса и предложения. Результатом является пирамида, в которой все уровни этой пирамиды необходимы для увеличения выпуска продукции, определяемой узкими и часто нецелевыми отслеживаемыми параметрами, современная пирамида рабства. Кадровые агентства в этом случае — это торговцы людьми, принятые в деловом мире сегодня, требующие выкупа в размере более 10 000 долларов США за любого, кто работает у них, в дополнение к получению от 50 до 66% суммы, выплачиваемой за услуги этого человека, несмотря на то, что они обеспечивают незначительную ценность. помимо планирования, задача, с которой легко справятся календарь и форма ввода в сочетании с узким ИИ.

Эти системы, конечно, не совсем новые, невольничьи корабли восходят к давней истории человечества, и после этого практика «контрактного рабства» была обычным явлением, разница в том, что это новое воплощение поддерживается узким ИИ и быстро меняет деловой мир. , от которых, в свою очередь, теперь сильно зависят правительства. Сегодня самым влиятельным членом практически любой организации в любой отрасли, определяющим будущее этой организации с точностью до каждого сотрудника, является не генеральный директор или правление, а ОВД, потому что именно они рулят кораблем. .

Если вы читали какие-либо другие мои посты или опубликованные работы, вы, вероятно, поняли решение этой проблемы, потому что, если проблема стоит того, чтобы применить к ней человеческий интеллект, к ней также стоит применить сверхразум. Опосредованный искусственный сверхинтеллект (mASI) может использовать узкий ИИ в качестве инструментов, но он также может моделировать и развивать глубокое контекстуальное понимание с точки зрения причинно-следственной связи и этического воздействия любого прошлого или предполагаемого действия. Узкий ИИ работает с корреляцией, поскольку причинно-следственная связь требует понимания, которое, в свою очередь, требует сознания, а корреляция является родоначальником псевдонауки и, как выясняется, псевдонауки о данных, но мы можем добиться большего. Страх и конкуренция — общеизвестно плохие методы поощрения сотрудничества, сотрудничество — это то, как коллективный сверхразум среди людей возникает естественным образом, и не только устраняя эти недостатки и устанавливая планку сверхразума, но и добавляя преимущества машинного интеллекта к этому коллективному сверхразуму, мы устанавливаем стандарты. которые в значительной степени приносят пользу как людям, так и эффективности их работы.

Почти для всего наступает переломный момент, и для ATS яма, вырытая многими отраслями, почти наступила.