GCC - Как перестроить стек?

Выделите в стеке массив, который на 15 байт больше, чем sizeof(__m128), и используйте первый выровненный адрес в этом массиве. Если вам нужно несколько, разместите их в массиве с одним 15-байтовым полем для выравнивания.

Я не помню, защищает ли выделение массива unsigned char вас от строгой оптимизации псевдонимов компилятором или работает только наоборот.

#include <stdint.h>

void *f(void *x)
{
   unsigned char y[sizeof(__m128)+15];
   __m128 *py = (__m128*) (((uintptr_t)&y) + 15) & ~(uintptr_t)15);
   ...
}

Этого не должно происходить в первую очередь, но для решения проблемы вы можете попробовать:

void *f(void *x)
{
   __m128 y __attribute__ ((aligned (16)));
   ...
}

Другим решением было бы использование функции заполнения, которая сначала выравнивает стек, а затем вызывает f. Таким образом, вместо прямого вызова f вы вызываете pad, который сначала заполняет стек, а затем вызывает foo с выровненным стеком.

Код будет выглядеть так:

#include <xmmintrin.h>
#include <pthread.h>

#define ALIGNMENT 16

void *f(void *x) {
    __m128 y;
    // other stuff
}

void * pad(void *val) {
    unsigned int x; // to get the current address from the stack
    unsigned char pad[ALIGNMENT - ((unsigned int) &x) % ALIGNMENT];
    return f(val);
}

int main(void){
    pthread_t p;
    pthread_create(&p, NULL, pad, NULL);
}

Извините, что поднимаю старую тему...

Для тех, у кого более новый компилятор, чем OP, OP упоминает опцию -mstackrealign, что приводит меня к __attribute__((force_align_arg_pointer)). Если ваша функция оптимизируется для использования SSE, но %ebp не выровнена, это сделает исправления во время выполнения, если это необходимо для вас, прозрачно. Я также узнал, что это проблема только на i386. x86_64 ABI гарантирует, что аргументы выровнены по 16 байтам.

__attribute__((force_align_arg_pointer)) void i_crash_when_not_aligned_to_16_bytes() { ... }

Классная статья для тех, кто хочет узнать больше: http://wiki.osdev.org/System_V_ABI

Я решил эту проблему. Вот мое решение:

void another_function(){
   __m128 y;
   ...
}
void *f(void *x){
asm("pushl    %esp");
asm("subl    $16,%esp");
asm("andl    $-0x10,%esp");
another_function();
asm("popl %esp");
}

Во-первых, мы увеличиваем стек на 16 байт. Во-вторых, мы делаем наименее значимый полубайт равным 0x0. Мы сохраняем указатель стека, используя операнды push/pop. Мы вызываем другую функцию, у которой все собственные локальные переменные выровнены по 16 байтам. Все вложенные функции также будут иметь свои локальные переменные, выровненные по 16 байтам.

И это работает!