Первоначально опубликовано на моем веб-сайте
Я слушал подкаст Лекса Фридмана, исследователя искусственного интеллекта, который брал интервью у Джереми Ховарда, основателя fast.ai. Подкаст показался мне очень интересным.
Теория против практики
В середине подкаста Джереми Ховард заявляет, что большинство исследований в области глубокого обучения бесполезны. Поскольку ученым необходимо работать в областях, с которыми знакомы их коллеги. Таким образом, они обычно работают над одной и той же областью исследований. Имеет небольшую практическую ценность.
Одна проблема, которую он привел в качестве примера, - это активное обучение. Когда пользователь явно дает обратную связь модели. Путем маркировки данных. Это важная тема, когда у вас есть собственный набор данных. Так как нужен способ сообщить модели, что именно вы ищете.
Интересная идея, о которой они говорили, заключается в том, что использование большого набора данных может помешать вашему творчеству. Опора на большие наборы данных заставляет людей думать, что им нужно иметь большой объем ресурсов (например, несколько графических процессоров) для обучения глубокому обучению. Кроме того, он исключает людей, которые не думали, что могут использовать глубокое обучение без больших ресурсов.
Кроме того, они добавили, что недавний прогресс, достигнутый в этой области, не затрагивал ресурсы уровня центра обработки данных. Примеры, такие как нормализация партии, выпадение, выпрямленное линейное устройство (ReLU).
В подкасте Джереми спросили, чему он научился, преподавая курс fast.ai. Он ответил, что глубокому обучению может научиться каждый. При этом главный фактор - упорство. После этого Лекс спросил, как человек может стать экспертом в области глубокого обучения. Джереми ответил, что тренирует модели. Но позже добавил, что вы хотите обучить много моделей в своей области.
Джереми заявил, что глубокое обучение уже является мощным инструментом. Итак, пытаемся понять, как добиться постепенных улучшений в нескольких областях. Это не так хорошо, как использование глубокого обучения в других областях для решения проблем и получения новых идей.
Использование предметной экспертизы
Это заставляет меня задуматься об истории компьютеров и Интернета. Где большая часть прибыли была получена не только из-за того, что мы стали быстрее. Да, наличие более быстрых компьютеров и более быстрого интернета полезно. От мэйнфреймов IBM к персональным компьютерам. И коммутируемый доступ в Интернет по оптоволоконному кабелю. Этот прогресс позволил большинству людей получить доступ к технологии. Помогая им решить их собственные проблемы с помощью этих инструментов.
Бухгалтеры пользуются компьютерами. Следить за финансовой информацией компании. Люди размещают видео-уроки на YouTube. Таким образом, они могут изучать новые навыки в Интернете. Художники делятся искусством в Instagram. Для заинтересованной аудитории.
Для того, чтобы эти примеры стали возможными, была проделана внутренняя работа. Но, возможно, это было бы не слишком полезно, если бы многие люди не использовали эти инструменты для решения своих собственных проблем.
Подумайте о современных смартфонах. Смартфоны становятся все быстрее и с каждым годом получают новые функции. Производители телефонов, такие как Apple и Samsung. Люблю танцевать на сцене, чтобы сказать нам это. Но какие-то большие успехи принесли эти современные нововведения. Нет. У большинства людей уже есть достаточно быстрый смартфон, который решает их личные проблемы. Зачем покупателю двусторонний телефон? Или телефон, который гнется? Подсказка: нет.
Когда вышли первые смартфоны, они пришли в восторг. Потому что они решали проблемы, как никогда раньше. А то, что они попали в руки людей, уже само по себе создает большую ценность. Как люди думали о новых способах использования смартфона. Производители телефонов добавляют новые функции в соответствии с привычками людей пользоваться смартфонами. Это создало положительную обратную связь об инновациях.
Я читал пример, когда радиолог обучил модель машинного обучения поиску переломов на рентгеновских снимках. Он был обучен с помощью инструмента машинного обучения Google без кода. Это означает, что решение проблемы не должно быть сложным. Другой пример, из видео, которое я смотрел. Где инженеры-строители обучили модель машинного обучения поиску сломанных труб. Поскольку это то, что инженеры-строители должны много делать в начале своей карьеры. Она нашла способ сделать его более эффективным и решила проблему, преследующую отрасль. Спасение молодых инженеров-строителей от многочасового просмотра видеозаписей через треснувшую трубу.
Моя история об изучении теории, но не практики
Вернемся к машинному обучению. Потому что хоть я и смог многому научиться. Я думаю, что смог только покрыть крахмалом то, что возможно с помощью глубокого обучения. Я смог получить базовое представление о глубоком обучении. Но если я помню, я не делал много нестандартных проектов. Поскольку я просто настраивал примеры TensorFlow и YouTube.
Индивидуальные проекты, если я помню, разваливались или так и не были завершены. Это означает, что мои знания о глубоком обучении в основном теоретические, а не практические. Я могу объяснить конвейер данных для обучения модели. Но я буду изо всех сил пытаться построить его сам. Я могу объяснить, что такое GAN. Но я буду изо всех сил пытаться сделать такой сам. Я знаю, что такое классификатор изображений, но могу ли я отправить вам ссылку на индивидуальный пример?
На большинство этих вопросов ответ отрицательный. Но я хочу это изменить. Недавно я читал и смотрел, как использовать машинное обучение для решения проблемы изменения климата. Меня поразило, насколько велик потенциал для решения самых насущных проблем мира. Решить эти проблемы можно с помощью стандартной модели машинного обучения. Не ультрасовременная модель с 10 миллионами наворотов. Я хочу быть частью этого изменения, которое меняет мир к лучшему. Это делается путем решения проблем в реальном мире.
Джереми говорит, что глубокое обучение - это очень важный навык. Я верю, что мы можем использовать этот инструмент во благо. И для этого мы должны использовать их для решения проблем, с которыми мы имеем дело прямо сейчас. Как я уже упоминал на примерах Интернета и компьютеров. Количество ценности, создаваемой обычными людьми, обучающимися использованию этих инструментов, огромно. То же самое и с глубоким обучением.
