Публикации по теме 'robustness'


Надежность сверточных нейронных сетей; Обзор Часть I
В настоящее время сверточные нейронные сети (CNN) используются для решения многочисленных задач компьютерного зрения, таких как автономное вождение, вплоть до медицинских приложений. Для таких критичных с точки зрения безопасности доменов наличие « надежной » модели имеет решающее значение. Подождите, что означает «надежный» в этом контексте?🤨 Мы обсудим это через мгновение. А пока рассмотрим надежную модель, модель, способную давать хорошие прогнозы на нечистых данных, которые она..
Возврат: является ли надежность платой за точность?
Бумага: Является ли надежность платой за точность? - Всестороннее исследование надежности 18 моделей классификации глубоких изображений. Архив: https://arxiv.org/abs/1808.01688 Подводя итог, я считаю, что эту статью ОБЯЗАТЕЛЬНО ПРОЧИТАЙТЕ, если вы хотите понять, как оценивать надежность модели и исследовать компромисс между надежностью и точностью. Эта статья является хорошей отправной точкой для вашего дальнейшего изучения в этой области. Смысл Демистифицируйте компромисс между..
Dr.Spider: диагностическая оценка надежности преобразования текста в SQL
[ Ссылка на бумагу ] [ Данные ] [ Слайды ][ Презентация на ICLR 2023 ] Введение Модели преобразования текста в SQL предназначены для перевода вопросов на естественном языке в запросы SQL, которые затем могут выполняться в указанной базе данных. Разработка моделей Text-to-SQL позволяет пользователям запрашивать данные базы данных напрямую, используя естественный язык. Нейронные модели преобразования текста в SQL продемонстрировали замечательные возможности перевода вопросов на..
Решение проблем ИИ в критически важных для безопасности сценариях  — «Обзор надежности глубокого обучения…
0x01 Текущие исследования надежности глубокого обучения Глубокие нейронные сети добились впечатляющих результатов во многих важных визуальных задачах, таких как классификация изображений, с точностью лучше, чем у человека. Однако по сравнению со зрительной системой человека модель глубокого обучения на удивление работает на гораздо более низком уровне на определенных образцах с небольшими отклонениями. Их существование, называемое «состязательными примерами», создает угрозы и..
Понимание надежности машинного обучения: почему это важно и как это влияет на ваши модели
Введение Машинное обучение стало неотъемлемой частью нашей повседневной жизни, поддерживая такие приложения, как распознавание речи, классификация изображений и системы рекомендаций. Поскольку мы продолжаем полагаться на эти технологии, мы должны понимать и обеспечивать надежность базовых моделей. Эта статья является первой в серии, в которой исследуется надежность машинного обучения, ее определение, важность и компромиссы между надежностью и точностью. По мере продвижения в этой..
Почему мы не тестируем машинное обучение так, как тестируем программное обеспечение?
Промышленные записки Почему мы не тестируем машинное обучение так, как тестируем программное обеспечение? Давайте сделаем модели машинного обучения более надежными, черпая вдохновение в тестировании современного программного обеспечения! Новый способ уверенно улучшать свои модели. Системы машинного обучения теперь повсеместно используются в нашей повседневной жизни, поэтому правильность их поведения имеет решающее значение. Ошибки в системе машинного обучения могут не только..
Практический пример: обучение надежного классификатора с использованием подхода инвариантности при проектировании
Данные обучения Здесь мы будем использовать только синтетические данные для обучения. Мы создаем набор данных знаков, используя инструменты рисования openCV. Если мы создадим этот набор данных с достаточным количеством вариаций и рандомизации атрибутов предметной области, сеть будет изучать истинные причинно-следственные особенности и хорошо обобщаться на реальные наборы данных. Данные обучения не имеют большого количества вариаций, и есть ложная корреляция в виде корреляции с цветом...