Прогресс в области ИИ поразительно быстр. То, что было прорывом в исследованиях 5 лет назад, сегодня является общепризнанным отраслевым стандартом. При правильном применении он может принести огромную пользу, и это уже давно было ясно. Такие отрасли, как банковское дело, страхование и телекоммуникации, прокладывают путь к широкому внедрению, часто используя инструменты для разработки и развертывания. Однако реальное использование ИИ в производстве далеко от того уровня, о котором вы читали в Интернете. Что заставляет лиц, принимающих решения, тормозить?

Как и любая технология, меняющая мир, она сопряжена с новым набором рисков, которые лишь постепенно становятся очевидными. Это основная причина, по которой они остаются разлитыми по бутылкам на стадии Proof of Concept. Люди узнают (иногда на горьком опыте), что как только вы запускаете свою модель в реальный мир, все может очень быстро пойти не так. Двумя наиболее важными причинами этого являются тихие сбои и отсутствие информации об интеллектуальных системах, принимающих решения.

Возьмем страховку. Фирма развертывает на своем веб-сайте систему андеррайтинга на базе искусственного интеллекта, чтобы подписывать новых клиентов без вмешательства человека. Проходит 6 месяцев, пока кто-то не замечает, что эта модель предлагает чрезвычайно низкие премии определенным клиентам, поскольку модель не была обучена этой демографической группе. Это пример молчаливого провала. Он бесшумный, потому что сделает свое дело и на первый взгляд все выглядит хорошо, но ошибки, допущенные моделью, могут очень дорого обойтись. Мы рассмотрим молчаливые сбои в подробной технической серии и сосредоточимся здесь на необходимости контроля.

Теперь поговорим об отсутствии понимания. Рассмотрим другой случай изменения цен, на этот раз выше, чем ниже. Это не кажется большой проблемой, не так ли? Что ж, это так. Фирма привлекла новую клиентскую базу в сегменте с высоким риском и низким доходом, который платит более высокие страховые взносы. Раньше эти люди не могли застраховаться в фирме, а теперь зарегистрировались через сайт. Человек-агент понял бы это, но система ИИ этого не сделала. Это не ошибка ИИ, а скорее признак того, что что-то не так со стратегией привлечения клиентов. Это понимание позволяет вам быстро реагировать на допущенные там ошибки, прежде чем еще больше увеличить системный риск.

Возьмем другой пример. Представьте, что вы руководитель службы удержания. Вместе со своей командой вы пытаетесь определить, кто может уйти, и предотвратить это, пока не стало слишком поздно. При этом вы автоматически держите руку на пульсе и замечаете тенденции и отклонения. Перенесемся на пару лет вперед, когда процесс удержания был автоматизирован с помощью ИИ. Теперь, без надлежащего надзора и мониторинга, вы, скорее всего, пропустите важные события, такие как незначительное, но важное изменение предпочтений ваших клиентов. Или новые индикаторы и причины оттока, на которых ваша модель не обучалась.

Надежный мониторинг — это больше, чем просто проверка того, работает ли интеллектуальная система и не приведет ли она к аварии. Он также может предоставить полезную информацию о бизнесе. Продолжая нашу кампанию по удержанию, допустим, вы заметили резкое снижение эффективности скидок. Это может побудить вас копнуть глубже и в конечном итоге скорректировать не только стратегию удержания, но и повлиять на маркетинг и ценообразование продукта.

Наличие хорошей и надежной системы мониторинга ИИ имеет первостепенное значение для предотвращения неприятных сюрпризов. Кроме того, отличная система предоставит вам полезную информацию. При этом шаг после анализа — решение этих выявленных проблем — останется человеческой задачей в обозримом будущем.