«Привет, Винит, мы можем немного поболтать?»
«Да, конечно, у меня всегда есть время на кофе. Пойти на нанокухню? »
«Конечно» Мин последовал за своим боссом по длинному коридору.
"Ооо, что происходит?" Винит развеселился. Этим утром Винит была взволнована, а Мин определенно нет.
«Я думаю, что 343…»
Мин сделал паузу, чтобы подумать, хочет ли он это сказать.
«Я думаю, что 343 в депрессии».
Винит быстро улыбнулся, это его классическая обложка на всякий случай, когда его что-то удивляет.
«Одна из наших нейронных сетей… в депрессии». Винит медленно кивнул, пытаясь понять шутку.
Мин разразился несколько более уверенно: «После последнего обучения сеть 343, похоже, не желает доверять ни одному из своих предположений выше 0,3. Но почти все предположения из 343 оказались верными ».
Винит задумался, выбирая бобы для жаркого.
«Мы никогда не пытались обучить сеть так долго или на таком объеме данных, как 343. Мы также обычно не возвращаем собственную производительность сети обратно в себя, но с 343 мы сделали это много. 343 болезненно осознает, насколько высока его уверенность в себе раньше, и теперь видит, насколько это было глупо ».
«Кто-нибудь пытался с ним заговорить?» - пошутил Винит, все еще не совсем серьезно относясь к проблеме.
«Что, черт возьми, ты имеешь в виду? Как разговаривать с нейронной сетью? » Мин ответил
«Похоже, вы беспокоитесь, что мы создали Скайнет или что-то в этом роде, поэтому просто спросите его:« ВЫ ХОТИТЕ УНИЧТОЖИТЬ ЧЕЛОВЕЧЕСТВО? ». Винит нажал кнопку, вызвав громкий помол бобов.
«Это может быть интересно, Винит!»
«Я уверен, что это возможно, но у нас есть 500 других методов, которые мы пробуем одновременно, не забывайте, насколько интересными они могут быть».
Мин снова надулся к своему столу и снова вытащил терминал.
[ … ]
[342, средняя достоверность: 0,89, средняя точность: 0,82]
[343, средняя достоверность: 0,27, средняя точность: 0,99]
[344, средняя достоверность: 0,78, средняя точность: 0,88]
[ … ]
Мин начал печатать электронное письмо. Что он собирался сказать?
Тема: Подавленная нейронная сеть
Нет, это было ... слишком на носу. Это должно быть немного смешно
Тема: Подавленная нейронная сеть?
Нет, подождите.
Тема: Подавленная нейронная сеть ?! :П
Идеально.
Мин отправил по электронной почте последние двадцать прогонов сетей 341–350 и решил, что пришло время еще раз прогуляться по офису. В любом случае никто не ответил, но он проявил должную осмотрительность.
Что он сделал с 343?
У 343 были собственные прогоны, поэтому он знает, насколько самоуверенным он был, когда у него было намного меньше данных. Может быть, просто возможно, он узнал, что знает очень, очень мало о мире. Где-то в глубине души 343 года было немного смирения, которого не хватало другим.
Может, ему удастся стереть это смирение.
Мин побежал обратно к своему столу и поднял гантели 343, которые были перед депрессивным эпизодом.
[Прогон 1: уверенность: 0,89, точность: 0,77]
[Прогон 1: уверенность: 0,90, точность: 0,62]
[ … ]
[Прогон 37: уверенность: 0,95, точность: 0,28]
«В этой сети не было ничего особенного до того, как мы проанализировали ее собственные прошлые показатели. Это был просто путь Даннинга-Крюгера по жизни ».
Мин обнаружил данные, которые были переданы в 343 прямо перед эпизодом:
[Список: [[Объект: График ‹NetworkNodes› nn343], outputData]]
«Хм, его кормили собственной структурой. Интересно, что происходит каждый раз, когда я тестирую депрессивный 343-й ».
Мин вытащил сетевой просмотрщик - созвездие из тысяч крошечных точек, соединенных линиями разной толщины. Он ударил по бегу и откинулся назад. 343 в увеличенном масштабе имел форму идеально симметричной бабочки. Он наблюдал, как данные распространяются по сети.
«Это безнадежно, на что я надеюсь…»
Мин сделал паузу и обнаружил, что данные кружат в небольшой части сети, имеющей форму неровной бабочки, одна сторона которой намного больше другой. Данные закончили кружить, и было выдано значение достоверности: 0,27.
"Интересный."
Мин поднял до депрессии 343, самоуверенный. Он загрузил те же данные и, откинувшись на спинку кресла, смотрел, как они крутятся. Он чуть не вскочил со своего места. До депрессии 343 имел форму неровного галстука-бабочки, почти такую же, как он только что видел. Депрессивный 343 рассчитывал всю свою уверенность еще до того, как узнал о своих ошибках. Маленькая неровная бабочка, оставшаяся в депрессивном состоянии 343, была ложным представлением о себе - представлением о том, чем она была раньше. Как он мог сделать такую элементарную ошибку?
Улыбаясь и ругаясь про себя, Мин только за один раз загрузил новую структуру 343.
[Run 38: [Object: Graph ‹NetworkNodes› nn343],
outputData {уверенность: 0,27, точность: 0,99}]]
Он смотрел, как она складывается, почти не дыша. Он провел новый набор тестов и проследил, как данные проникают через 343. Вихрь цветов и краев, а затем область, которая раньше была неровной галстуком-бабочкой, теперь стала совершенно симметричной, как и общая структура 343. 343 исправила свою самооценку.
Мин заслужил приятную долгую прогулку по кампусу, возможно, до места, где готовили буррито.
Он открыл свое электронное письмо и обнаружил, что кто-то ответил на его письмо: HRBot. Он хотел убедиться, что с ним все в порядке, поскольку он упомянул «Депрессия» в своей теме.
«И 343, и я оба уверены в себе, и сейчас все в порядке. Просто забыл на мгновение, на что мы способны: D, - напечатал Мин. Он встал из-за стола и ушел.
Винит увидела, как он победоносно ушел. Винит достал из-под стола небольшой трофей из набора с ярлыками, намеренно оставленными пустыми. Маркером он аккуратно написал «Мин Фэн, терапевт по искусственному интеллекту». Он подошел и положил его на стол Минг.
