Когда дело доходит до видеоигр, фильмов или нового динамика на полке, менеджеры могут вытолкнуть качественные товары, не похожие на Pixar, за дверь, и в результате никто не умрет.
С самолетами 737 Max, автомобилями и вообще любым устройством со встроенным ИИ, которое может быть взломано или неисправно, сроки должны быть увеличены в 3-4 раза, чтобы обеспечить качество и 100% непробиваемую безопасность, которая прошла 10-кратное тестирование. Кнопки отключения на ИИ также должны быть легкодоступными, и должно быть несколько источников «Ангельских» контроллеров, которые могут переопределить устройство (полуприцепы, родстер Tesla, …), если оно попадет в неправильный «Шаблон ИИ» или будет захвачено. хакерами с плохими намерениями. Реакция на неисправность или неправильное программирование должна быть быстрой и легко исправимой, что в первую очередь идет вразрез с принципом защиты элементов управления.
Было бы хорошо иметь инициативы сообщества «Открытый исходный код» вокруг «Kill Switch and Safety Design» для механических устройств.
