Риск дождя на параде автоматизации?
Если модели машинного обучения принимают неверные решения, кто виноват? Можно ли управлять моделями машинного обучения? Нужно ли ими как-то управлять?
Я знаю, что в предыдущих сообщениях в блоге я делился своим волнением по поводу больше автоматизации вместо наворотов. Я твердо верю, что автоматизация — это новое движение за юзабилити, и что автоматизация — долгожданное и своевременное облегчение для перегруженных команд. Особенно во время пандемии потребность в всегда на связи возросла, а потребность в эффективности обслуживания постоянно растет в мире, где команды чаще географически распределены. Просто проще выполнять задачи с помощью службы, чем ждать, пока проснутся другие часовые пояса, чтобы помочь продвинуть процессы вперед. Так что, без сомнения, я большой поклонник услуг автоматизации!
Но позвольте мне почистить лук немного. Откуда берется автоматизация? Автоматизация во многих случаях возможна только потому, что вы обучили модель, основанную на шаблонах принятия решений человеком или тоннах собранных данных; не во всех случаях, но во многих. Например, обучите модель машинного обучения языку, используемому в мошеннических заявлениях, чтобы оценивать входящие заявления — на основе языка и нюансов использования слов — какие из них с большей вероятностью будут мошенническими. Таким образом, вы автоматизировали этапы отбора проб человеком или, по крайней мере, ускорили этот процесс для создания более точных наборов проб.
Оттуда вы можете автоматизировать, какое действие инициировать — отправить это мошенническое заявление на обработку человеком или отправить его напрямую, после дальнейших автоматизированных шагов обработки, на немедленное действие по отклонению (или юридический иск). Конечная цель, конечно, состоит в том, чтобы не тратить драгоценное человеческое время на претензии, которые являются пустой тратой времени, и избежать выплат и затрат на судебные иски против мошеннических претензий позже.
Это нирвана для многих организаций, чтобы разгрузить человеческие задачи там, где ошибки могут быть дорогостоящими, или где есть лучшее использование человеческого времени для других дел. Автоматизация растет, поскольку она помогает бизнес-решениям становиться более точными и действовать быстрее, позволяя нам использовать людей там, где они наиболее ценны и полезны.
Пока все хорошо, но теперь допустим, что модель машины была неисправна. Что, если бы он каким-то образом был заражен или обучен на чрезмерно предвзятых данных или данных, которые не должны были быть допущены в процессе обучения этой модели? Или что, если обученная модель работает для одного бизнес-подразделения, но принимает неверные решения для другого бизнес-подразделения? Кто ответственный? Есть ли необходимость в управлении моделями ML? Я только начал заниматься этим и, возможно, через несколько недель найду просвещение, и, скорее всего, в этом случае я напишу следующий блог. Но пока я оставлю это немного открытым. Я не уверен, реальная это проблема или нет — поделитесь своими мыслями. Часто меня озаряют предприниматели, которые уже заметили проблему и начали работать над своим стартапом. Не стесняйтесь ударить меня, если у вас есть! :)
