Нейронные сети: зачем нам нужна система ЧЕЛОВЕКА в цикле
Чтобы удовлетворить, казалось бы, бесконечный спрос на метки данных для обучения алгоритмов машинного обучения, увеличилось количество программных продуктов ИИ, предназначенных для маркировки необработанных данных. В этой статье мы рассмотрим трудности, с которыми сталкиваются нейронные сети, на основе которых работают модели, и то, как система проверки ЧЕЛОВЕКА может в настоящее время предлагать более качественные ответы с меньшей вероятностью атаки, а также сотрудничать с нейронными сетями для улучшения алгоритмов машинного обучения и , следовательно, возможности машин для маркировки.
Мультимодальные нейроны — взгляните на CLIP Open AI
Мультимодальные нейроны возникают у людей как активация одного нейрона мозга к определенной вещи во множестве классов. Известно, что нейрон «Холли Берри» активируется в человеческом мозгу одинаково, независимо от того, является ли означающим фотография, набросок или слова «Халле Берри».
Открытый ИИ обнаружил ту же функцию «мультимодального нейрона» в своей обширной нейронной сети CLIP.
Однако проблема все еще существует. Несмотря на весь прогресс, который демонстрирует это, программное обеспечение для маркировки нейронной сети невероятно уязвимо для простых атак, как показано ниже. Важно отметить, что на данном этапе CLIP просто используется в исследовательских целях, однако проблема типична для таких программ для компьютерной маркировки.
Как объясняют Open AI в своем посте:
"Используя способность модели надежно читать текст, мы обнаружили, что даже фотографии рукописного текста часто могут обмануть модель".
Проблема в том, что сложная человеческая неврологическая функция была искусственно абстрагирована до слов «мультимодальный нейрон», которые затем сами были абстрагированы и перенесены на родственное, но не параллельное явление в искусственном интеллекте. Несомненно, машинному обучению стоит черпать вдохновение из нейронауки; в конце концов, ИИ пытается надежно выполнять то, что человеческий мозг делает с легкостью. Однако легкость, с которой такая система может быть атакована, является напоминанием о том, что нам не следует слишком быстро переоценивать нейронные сети и тем временем ценить ценность человеческой интуиции.
Линейный и рассеянный
Хотя в один прекрасный день такие простые атаки могут быть решены, несомненно, возникнут другие трудности и другие виды атак.
Проблема заключается в попытке применить линейные абстрактные связи к тому, как работает человеческий разум.
Это связано с тем, что человеческое происхождение сущности является врожденным качеством сознания, выходящим за рамки простой линейности языковых компьютеров. Не потому, что человек знает слово «собака» или слово «яблоко», он видит собаку или яблоко; даже нетренированный ум, не умеющий ни читать, ни писать и не знающий этих слов, понял бы суть вещей иначе. С помощью простой интуиции он знал бы, что на картине есть два отдельных предмета, один из которых мы различаем как яблоко, а другой — как стикер, слова, которые в действительности не имеют никакого отношения к природе предмета, но которые, тем не менее, к нему относятся. , модели компьютеров зависят.
Человек в курсе: сотрудничество, а не конкуренция
Мы не сомневаемся, что способность компьютера извлекать смысл будет улучшаться. Увеличение объема данных и, что важно, улучшение структуры алгоритмов будут способствовать этому улучшению. При этом важно отметить:
Нет никаких причин, по которым система маркировки ЧЕЛОВЕКА не могла бы обеспечить необходимые человеческие этикетки для повышения способности компьютеров выполнять эту работу.
Не сделает ли это HUMAN излишним?
Нет. В то время как технология HUMAN в настоящее время использует самые большие в мире трудовые ресурсы, программное обеспечение может применяться на основе взаимодействия человека/машины. Машина может знать, какие данные ей нужны, и запрашивать их; не имеет значения, отправляется ли запрос (в форме вопроса) человеку, как это имеет место в настоящее время, или сложному программному продукту для маркировки, что вполне может иметь место в будущем. Протокол HUMAN будет и впредь способствовать созданию торговых площадок, на которых продаются решения для данных.
Не забудьте подписаться на нас в Твиттере или присоединиться к нашему сообществу Канал Telegram, чтобы быть в курсе событий Фонда!
