Что именно происходит в системах ИИ, страдающих от предубеждений? Проблема предвзятости в области искусственного интеллекта (ИИ) в последнее время вызвала много негативных заголовков. Отчеты показали, что системы ИИ могут непреднамеренно дискриминировать чувствительные подгруппы. Например, было обнаружено, что система набора персонала на базе искусственного интеллекта международной технологической компании систематически отдает предпочтение кандидатам-мужчинам, а не женщинам. В этой..

Обзор трех различных инструментов оценки честности ИИ с открытым исходным кодом и сравнение набора функций Если вы пропустили наши предыдущие публикации о VerifyML, ознакомьтесь со следующими статьями: Введение в VerifyML Краткое руководство по VerifyML (часть 1) Краткое руководство по VerifyML (часть 2) Библиотеки для оценки справедливости моделей являются важной частью набора инструментов специалиста по обработке и анализу данных — они используются во многих..

Как сделать ИИ объяснимым в дизайне Объяснимый искусственный интеллект, который до недавнего времени был предметом исследований, стал мейнстримом . Недавние исследования позволили получить представление о поведении моделей искусственного интеллекта, которые по своей сути являются черными ящиками, которые могут устранить существенные бизнес-риски, связанные с предвзятостью, соблюдением требований и непрозрачными результатами. Однако многие платформы и решения предоставляют эти..

Что такое ответственный ИИ? Как мы на самом деле реализуем это в организациях, разрабатывающих приложения ИИ? Обзор данных. Вопросы для размышления Что такое ответственный ИИ? Существует много определений ответственного ИИ, одно из которых я буду использовать здесь — это упреждающий процесс , когда организации, разрабатывающие ИИ, учитывают предполагаемые и непреднамеренные последствия того, что они создают, исследуют этические вопросы и разместить меры по снижению риска...

Сквозное машинное обучение и автоматизация конвейера — популярная тема в наши дни в сообществе специалистов по данным и инженеров. Компании внедряют все больше моделей в производство, а также постоянно модернизируют, переобучают и повторно калибруют свои модели, чтобы поддерживать их максимальную производительность. Удивительно видеть полностью автоматизированный сквозной конвейер в действии. Наблюдение за тем, как он извлекает последние данные, выполняет предварительную обработку и..

Фреймворк управления с открытым исходным кодом для создания ответственного ИИ Недавно мы приняли участие в конкурсе Global Veritas Challenge , проводимом валютно-кредитным управлением Сингапура (MAS). … Стремится ускорить разработку решений, которые проверяют решения искусственного интеллекта и анализа данных (AIDA) на соответствие принципам справедливости, этики, подотчетности и прозрачности (FEAT) , чтобы укрепить доверие и способствовать более широкому внедрению решений ИИ в..