Какой алгоритм я мог бы использовать, чтобы применить искажение «рыбий глаз» к изображению?

Как утверждает Мартин, чтобы применить к изображению искажение, а не просто коррекцию цвета, вам нужно каким-то образом сместить пиксели в этом изображении. Обычно вы начинаете с выходного изображения и выясняете, из какого местоположения входного пикселя взять, чтобы заполнить каждое место на выходе.

Например, для создания искажения щипка, показанного в этом ответе, я использую фрагментный шейдер OpenGL ES, который выглядит следующим образом: :

 varying highp vec2 textureCoordinate;

 uniform sampler2D inputImageTexture;

 uniform highp vec2 center;
 uniform highp float radius;
 uniform highp float scale;

 void main()
 {
     highp vec2 textureCoordinateToUse = textureCoordinate;
     highp float dist = distance(center, textureCoordinate);
     textureCoordinateToUse -= center;
     if (dist < radius)
     {
         highp float percent = 1.0 + ((0.5 - dist) / 0.5) * scale;

         textureCoordinateToUse = textureCoordinateToUse * percent;
     }
     textureCoordinateToUse += center;

     gl_FragColor = texture2D(inputImageTexture, textureCoordinateToUse );

 }

Этот код GLSL применяется к каждому пикселю выходного изображения. Что он делает, так это вычисляет расстояние от центра сжимаемой области до текущей координаты пикселя. Затем он берет это входное расстояние и масштабирует его на основе входного параметра scale. Это новое масштабированное расстояние используется для смещения координат во входном изображении, откуда будет считываться выходной цвет.

Выборка цвета из входного изображения со смещенной координатой для каждого выходного пикселя создает искаженную версию входного изображения. Как вы можете видеть в моем связанном ответе, немного разные функции для расчета этого смещения могут привести к очень разным искажениям.

Вы применяете деформацию изображения. По сути, для каждой точки в преобразованном выходном изображении у вас есть математическая формула, которая вычисляет, откуда эта точка взялась бы в исходном изображении, затем вы просто копируете пиксель в этих координатах - opencv имеет функции для этого.

Обычно вы, конечно, пытаетесь удалить оптические эффекты, такие как рыбий глаз, но принцип тот же.

пс. Немного сбивает с толку мысль начать с результата и вернуться к исходному, но вы делаете это таким образом, потому что многие точки исходного изображения могут совпадать с одной и той же точкой результата, и вам нужна ровная сетка результирующих пикселей.