Что означает доступ к невременной памяти в x86

Невременные инструкции SSE (MOVNTI, MOVNTQ и т. Д.) Не подчиняются обычным правилам когерентности кэша. Поэтому за невременными хранилищами должна следовать инструкция SFENCE, чтобы их результаты могли своевременно увидеть другие процессоры.

Когда данные создаются, а не (немедленно) снова потребляются, тот факт, что операции хранилища памяти сначала читают полную строку кэша, а затем изменяют кэшированные данные, отрицательно сказывается на производительности. Эта операция выталкивает данные из кешей, которые могут потребоваться снова, в пользу данных, которые не будут использоваться в ближайшее время. Это особенно верно для больших структур данных, таких как матрицы, которые заполняются, а затем используются позже. Перед тем, как последний элемент матрицы будет заполнен, чистый размер вытесняет первые элементы, делая кеширование записей неэффективным.

Для этой и подобных ситуаций процессоры обеспечивают поддержку операций записи вне времени. В этом контексте невременные данные означают, что данные не будут повторно использоваться в ближайшее время, поэтому нет причин для их кэширования. Эти невременные операции записи не читают строку кэша и не изменяют ее; вместо этого новый контент напрямую записывается в память.

Источник: http://lwn.net/Articles/255364/.

Эспо в значительной степени попадает в цель. Просто хотел добавить свои два цента:

Фраза «вневременной» означает отсутствие временной локальности. Кеши используют два типа локальности - пространственную и временную, и, используя невременную инструкцию, вы сигнализируете процессору, что не ожидаете, что элемент данных будет использоваться в ближайшем будущем.

Я немного скептически отношусь к написанной вручную сборке, в которой используются инструкции управления кешем. По моему опыту, эти вещи приводят к большему количеству вредоносных ошибок, чем любое эффективное повышение производительности.

Согласно Руководству разработчика программного обеспечения для архитектур Intel® 64 и IA-32, Том 1: Базовая архитектура, программирование с помощью Intel Streaming SIMD Extensions (Intel SSE), глава:

Кеширование временных и вневременных данных

Данные, на которые ссылается программа, могут быть временными (данные будут использоваться снова) или невременными (данные будут ссылаться один раз и не будут повторно использоваться в ближайшем будущем). Например, программный код обычно является временным, тогда как мультимедийные данные, такие как список отображения в приложении трехмерной графики, часто не являются временными. Чтобы эффективно использовать кеши процессора, обычно желательно кэшировать временные данные, а не кэшировать невременные данные. Перегрузка кешей процессора невременными данными иногда называется загрязнением кешей. Команды управления кэшируемостью SSE и SSE2 позволяют программе записывать невременные данные в память таким образом, чтобы минимизировать загрязнение кешей.

Описание невременных инструкций по загрузке и хранению. Источник: Руководство разработчика программного обеспечения для архитектур Intel 64 и IA-32, Том 2: Справочник по набору инструкций.

LOAD (MOVNTDQA - Load Double Quadword Non-Temporal Aligned Hint)

Загружает двойное четверное слово из исходного операнда (второго операнда) в целевой операнд (первый операнд) с использованием невременной подсказки, если источником памяти является тип памяти WC (объединение записи) [...]

[...] процессор не считывает данные в иерархию кеша и не извлекает соответствующую строку кеша из памяти в иерархию кеша.

Обратите внимание, что, как комментирует Питер Кордес, это бесполезно для обычной памяти WB (с обратной записью) на текущих процессорах, потому что подсказка NT игнорируется (вероятно, из-за отсутствия предварительных выборок HW с поддержкой NT) и применяется полная строго упорядоченная семантика загрузки. . prefetchnta может использоваться как уменьшающая загрязнение нагрузка из памяти WB

СОХРАНИТЬ (MOVNTDQ - сохранять упакованные целые числа с помощью вневременной подсказки)

Перемещает упакованные целые числа в исходном операнде (втором операнде) в целевой операнд (первый операнд), используя невременную подсказку, чтобы предотвратить кэширование данных во время записи в память.

[...] процессор не записывает данные в иерархию кеша и не извлекает соответствующую строку кэша из памяти в иерархию кеша.

Использование терминологии, определенной в Политики записи в кэш и производительность, их можно рассматривать как обратную запись (без выделения-записи, без-выборки-при-записи-промахе).

Наконец, может быть интересно просмотреть Джон Макалпин отмечает о вневременных хранилищах.