Я заметил, что маска слоя Gimp, которая, как я считаю, должна быть в худшем случае 8-битным (256 значений) слоем оттенков серого, не имеет полной точности. В режиме 8-битной точности RGB я могу создать непрозрачное изображение с плавным переходом между белым и черным, используя все ожидаемые значения цвета 0-255 R, G, B... т. е. (0,0,0), ( 1,1,1), (2,2,2) ... (255 255 255) 
Когда я создаю слой-маска из него и просмотрите маску слоя, в результате получится немедленный переход с 0,0,0 на 13,13,13. 
Маска слоя должна иметь значения от 0 до 255 от черного до белого, не так ли? Это оттенки серого (вы не можете его раскрасить). Это не проблема с преобразованием, потому что попытка отредактировать маску слоя с плавным градиентом приводит к тому же пятнистому переходу.
Работа с более высокой точностью цвета не требуется, и это помогает только при просмотре изображения. Экспорт PNG в 8-битном RBGA приводит к такой же неточности в канале A.
