Публикации по теме 'artificial-intelligence'


Ускорение обучения ResNet-50 на IPU: за нашим тестом MLPerf
Техническое руководство по эффективному аппаратному масштабированию, стратегиям оптимизации памяти и инструментам повышения производительности. Автор: Dr. Марио Майкл Крелл , Чжэньинг Лю, Эммануэль Менаж и Бартош Богдански Инженеры Graphcore продемонстрировали выдающуюся производительность в соответствии с последними результатами обучения MLPerf v1.1, опубликованными в декабре 2021 года [9], при этом наш IPU-POD16 превзошел флагман Nvidia DGX A100 на ResNet-50. Здесь мы объясним,..

Python теперь в тысячи раз быстрее
Спасибо новому профилировщику Python, известный своей простотой и универсальностью, часто подвергался критике за относительно низкую скорость выполнения по сравнению с такими языками, как C++ или Java. Хотя Python является популярным выбором для многих разработчиков, его ограничения производительности могут стать узким местом в приложениях, требующих высокой вычислительной эффективности. В попытке увеличить скорость Python были созданы различные методы оптимизации, но, похоже, все..

Во сколько обошлось создание самого быстрого суперкомпьютера в мире?
Новый суперкомпьютер из Японии (названный Fugaku ) пару месяцев назад стал самым быстрым суперкомпьютером в мире с производительностью более 1 экзафлопс для вычислений с половинной точностью и более 500 петафлопс для высокопроизводительных вычислений. точность вычислений в соответствии с эталонным тестом Linpack. С таким уровнем вычислительной мощности это не что иное, как прорыв. Эти суперкомпьютеры способны выполнять более миллиарда вычислений каждую секунду. Это дает ученым и..

Заменит ли ИИ создателей контента?
Семантика интеллектуальных вычислений, конкурирующих с обычными людьми в творческой сфере. Вызывает беспокойство тот факт, что в будущем у нас могут быть развлечения, полностью созданные искусственным интеллектом, потерявшие человеческий аспект онлайн-контента и, что более важно; сами создатели. Есть что-то интуитивное и подлинное в контенте, созданном людьми. В нем есть теплота и индивидуальность, которые трудно воспроизвести с помощью искусственного интеллекта. Существуют также..

Варианты использования тензорной факторизации, часть 1 (машинное обучение)
Кластеризация с несколькими представлениями с помощью полунеотрицательной тензорной факторизации (arXiv) Автор: Цзин Ли , Цюаньсюэ Гао , Цяньцянь Ван , Вэй Ся , Синьбо Гао . Аннотация :: Многоракурсная кластеризация (MVC), основанная на неотрицательной матричной факторизации (NMF) и ее вариантах, привлекла огромное внимание в последние годы из-за их преимуществ в интерпретируемости кластеризации. Однако существующие методы кластеризации с несколькими представлениями на основе NMF..

Выводы из главы 1 Fast.AI
Прохожу новейшую версию курса Fast.AI . Моя цель — задокументировать здесь свои заметки, чтобы сосредоточиться на активном обучении + впитывать как можно больше, объясняя концепции самому себе. Почему я прохожу курс второй раз: Я чувствую себя намного комфортнее с Python и считаю, что теперь я получу больше пользы, когда смогу сосредоточиться на аспекте ИИ, а не на попытках одновременно научиться программировать. Мне было очень любопытно узнать о генеративном ИИ, частично вызванном..

Тонкая настройка LLama2.0 с помощью Magic Single GPU от QLoRA
Эффективная настройка собственной языковой модели Введение В области обработки естественного языка произошли невероятные успехи благодаря большим языковым моделям (LLM), таким как ChatGPT. Однако эти модели имеют свои ограничения. Они могут создавать проблемы с конфиденциальностью, придерживаться фиксированного набора правил и быть ограничены датой своего последнего обучения. Другое ограничение для предварительно обученных LLM, таких как PaLM и GPT-3.5, заключается в том, что они..