Видео с наложением альфа-канала на фоновое изображение: Альфа показывает черный цвет

Мне нужно воспроизвести видео .mov (ProRes4444) с альфа-каналом в сцене. У сцены есть фоновое изображение, и мне нужно использовать альфа-канал видео, чтобы оно накладывалось на фон.

Если я обычно открываю видео с помощью QMediaPlayer, альфа-канал отображается черным цветом.

экран с фоновым изображением и видео с черной альфой:

экран с фоновым изображением и видео с черной альфой

Как я могу заставить вывод QMediaPlayer (QGraphicsVideoItem) учитывать альфа-канал и сделать возможным эффект наложения?

Ближе всего к ответу, основанному на онлайн-исследованиях, я нашел код в cpp, который показывает необходимость создания подкласса QAbstractVideoSurface, который получает видеокадры, преобразуемые в ARGB, а затем перенаправляет их в QLabel, который их отображает.

Отображение видео с альфа-каналом с помощью qt

Я тоже безуспешно пробовал. Это правильный курс или мне просто не хватает чего-то простого в моем текущем коде?

РЕДАКТИРОВАТЬ: Ссылка на файлы (фоновое изображение и видео .mov) https://drive.google.com/drive/folders/1LIZzTg1E8wkaD0YSvkkcfSATdlDTggyh?usp=sharing

import sys
from PyQt5.QtMultimedia import *
from PyQt5.QtMultimediaWidgets import *
from PyQt5.QtWidgets import *
from PyQt5.QtCore import *
from PyQt5.QtGui import *


class VideoWindow(QMainWindow):
     def __init__(self):
        super(VideoWindow, self).__init__()
        self.setWindowTitle('QMediaPlayer TEST')
        self.resize(1920, 1080)

        self.vista = QGraphicsView(self)
        self.vista.setGeometry(QRect(0, 0, 1920, 1080))

        self.scene = QGraphicsScene(self.vista)
        self.scene.setSceneRect(0, 0, 1920, 1080)
        self.vista.setScene(self.scene)

        self.graphvitem1 = QGraphicsVideoItem()

#SET BACKGROUND IMAGE ON SCENE
        self.tempImg = QPixmap("/Users/elemental/Desktop/pyvids/fons.jpeg")
        self.tempImg = self.tempImg.scaled(self.scene.width(), self.scene.height())
        self.graphicsPixmapItem = QGraphicsPixmapItem(self.tempImg)
        self.scene.addItem(self.graphicsPixmapItem)

#SET VIDEO 1 WITH LOOP
        self.mediaPlayer1 = QMediaPlayer(None, QMediaPlayer.VideoSurface)
        self.mediaPlayer1.setVideoOutput(self.graphvitem1)

        self.playlist1 = QMediaPlaylist(self)
        self.playlist1.addMedia(QMediaContent(QUrl.fromLocalFile("/Users/elemental/Desktop/pyvids/vida1.mov")))
        self.playlist1.setCurrentIndex(1)
        self.playlist1.setPlaybackMode(QMediaPlaylist.CurrentItemInLoop)
        self.mediaPlayer1.setPlaylist(self.playlist1)

        self.graphvitem1.setPos(500, 100)
        self.graphvitem1.setSize(QSizeF(1000, 500))
        self.scene.addItem(self.graphvitem1)

        self.mediaPlayer1.play()
        self.vista.show()


if __name__ == '__main__':
     app = QApplication([])
     window = VideoWindow()
     window.show()
     sys.exit(app.exec_())

person noi    schedule 19.07.2021    source источник
comment
Это кажется выполнимым в Python (но с некоторой потерей производительности). В любом случае, это довольно своеобразный формат, у вас есть базовый файл, которым вы могли бы поделиться с нами, чтобы, если кто-нибудь сможет портировать его, он также мог его протестировать?   -  person musicamante    schedule 19.07.2021
comment
Примечание: вы сказали, что пытались сделать это безуспешно, тогда я предлагаю вам предоставить эту попытку, поскольку мы могли бы понять, правильно вы это сделали или нет. Тем не менее, один вопрос: является ли это видео статической и предопределенной анимацией? Потому что в этом случае вы можете выбрать другие и более простые решения, такие как использование GIF с QMovie или список изображений PNG.   -  person musicamante    schedule 19.07.2021
comment
@musicamante Я все еще пытаюсь найти лучший контейнер и кодек, но пока я пытаюсь использовать ProRes4444. Если есть что-то другое лучше для этой цели, я могу переключиться. Цель состоит в том, чтобы создать большой основной пользовательский интерфейс 4k, который воспроизводит разные (и более мелкие) анимации/видео высокого разрешения с альфа-каналами в разных позициях, но также я должен иметь возможность приостанавливать их до определенной точки и возобновлять воспроизведение. Если png оказывает меньшее влияние на процессор, графический процессор, то это способ точно изучить. Но также я готов перейти на любое необходимое оборудование, чтобы избежать проблем с производительностью, если в конечном итоге я буду делать это с видеофайлами.   -  person noi    schedule 20.07.2021
comment
@musicamante Когда я говорю, что пытался безуспешно, я имею в виду, что я пытался перевести код cpp на python, но мои знания о PyQt все еще очень ограничены, поэтому я застрял на полпути и решил отказаться от маршрута и попросить совета, прежде чем посвящать часы на что-то, я не был уверен, что это было бы ни успешным, ни практичным. Итак, неудачник...   -  person noi    schedule 20.07.2021
comment
@musicamante добавил ссылку для скачивания видео и фонового изображения. Большое спасибо за ваш вклад!   -  person noi    schedule 20.07.2021


Ответы (1)


Из того, что я вижу, QVideoWidget по умолчанию не поддерживает альфа-каналы, поэтому он возвращается к основному черному фону.

Но реализация кажется возможной путем правильного создания подкласса QAbstractVideoSurface.

Учтите, что следующий код является экспериментальным, мои знания QMediaPlayer и видеоповерхности Qt не так уж глубоки (первый является абстрактным для нескольких платформ и нескольких библиотек, которые могут вести себя по-разному на разных конфигурациях), и я мог только протестировать его на двух платформах Linux, поэтому я не знаю, как он ведет себя под Windows или MacOS.

Предполагается, что поверхность видео предоставляет выделенный по умолчанию подкласс QWidget (VideoWidget), если не предоставлен другой класс с подходящим setImage, и обновляет свой image всякий раз, когда этого требует медиаплеер.

Обратите внимание, что я протестировал его только с парой видео (включая предоставленное), и может потребоваться дальнейшее тестирование.

from PyQt5.QtMultimedia import *
from PyQt5.QtMultimediaWidgets import *
from PyQt5.QtWidgets import *
from PyQt5.QtCore import *
from PyQt5.QtGui import *

class VideoWidget(QWidget):
    image = QImage()
    def __init__(self, **kwargs):
        super().__init__(**kwargs)

    def setImage(self, image):
        self.image = image
        self.update()

    def sizeHint(self):
        return QSize(640, 480)

    def paintEvent(self, event):
        qp = QPainter(self)
        # ensure that smooth transformation is used while scaling pixmaps
        qp.setRenderHints(qp.SmoothPixmapTransform)

        # provide compliancy with background set using stylesheets, see:
        # https://doc.qt.io/qt-5/stylesheet-reference.html#qwidget-widget
        opt = QStyleOption()
        opt.initFrom(self)
        self.style().drawPrimitive(QStyle.PE_Widget, opt, qp, self)

        # draw the image, scaled to the widget size; if you need fixed sizes
        # or keep aspect ratio, implement this (or the widget) accordingly
        qp.drawImage(self.rect(), self.image, self.image.rect())


class AlphaVideoDrawer(QAbstractVideoSurface):
    def __init__(self, videoWidget=None, widgetOptions=None):
        super().__init__()
        if videoWidget:
            if not hasattr(videoWidget, 'setImage'):
                raise NotImplementedError(
                    'setImage() must be implemented for videoWidget!')
        else:
            if not isinstance(widgetOptions, dict):
                widgetOptions = {}
            elif not 'styleSheet' in widgetOptions:
                # just a default background for testing purposes
                widgetOptions = {'styleSheet': 'background: darkGray;'}
            videoWidget = VideoWidget(**widgetOptions)
        self.videoWidget = videoWidget

        # QVideoFrame.image() has been introduced since Qt 5.15
        version, majVersion, minVersion = map(int, QT_VERSION_STR.split('.'))
        if version < 6 and majVersion < 15:
            self.imageFromFrame = self._imageFromFrameFix
        else:
            self.imageFromFrame = lambda frame: frame.image()

    def _imageFromFrameFix(self, frame):
        clone_frame = QVideoFrame(frame)
        clone_frame.map(QAbstractVideoBuffer.ReadOnly)
        image = QImage(
            clone_frame.bits(), frame.width(), frame.height(), frame.bytesPerLine(), 
            QVideoFrame.imageFormatFromPixelFormat(frame.pixelFormat()))
        clone_frame.unmap()
        return image

    def supportedPixelFormats(self, type):
        return [QVideoFrame.Format_ARGB32]

    def present(self, frame: QVideoFrame):
        if frame.isValid():
            self.videoWidget.setImage(self.imageFromFrame(frame))

        if self.surfaceFormat().pixelFormat() != frame.pixelFormat() or \
            self.surfaceFormat().frameSize() != frame.size():
                self.setError(QAbstractVideoSurface.IncorrectFormatError)
                self.stop()
                return False
        else:
            return True


class AlphaVideoTest(QMainWindow):
    def __init__(self):
        super().__init__()
        self.setStyleSheet('''
            QFrame#mainFrame {
                background: green;
            }
        ''')

        mainFrame = QFrame(objectName='mainFrame')
        self.setCentralWidget(mainFrame)

        layout = QVBoxLayout(mainFrame)
        self.playButton = QPushButton('Play', checkable=True)
        layout.addWidget(self.playButton)

        self.drawer = AlphaVideoDrawer()
        layout.addWidget(self.drawer.videoWidget)

        self.mediaPlayer1 = QMediaPlayer(self, QMediaPlayer.VideoSurface)
        self.playlist = QMediaPlaylist(self)
        path = QDir.current().absoluteFilePath('vida1.mov')
        self.playlist.addMedia(QMediaContent(QUrl.fromLocalFile(path)))
        self.playlist.setCurrentIndex(1)
        self.playlist.setPlaybackMode(QMediaPlaylist.CurrentItemInLoop)

        self.mediaPlayer1.setPlaylist(self.playlist)
        self.mediaPlayer1.setVideoOutput(self.drawer)

        self.playButton.toggled.connect(self.togglePlay)

    def togglePlay(self, play):
        if play:
            self.mediaPlayer1.play()
            self.playButton.setText('Pause')
        else:
            self.mediaPlayer1.pause()
            self.playButton.setText('Play')

import sys
app = QApplication(sys.argv)
test = AlphaVideoTest()
test.show()
sys.exit(app.exec_())

Я основывал приведенный выше код на следующих источниках:

Обратите внимание, что я ограничил вывод supportedPixelFormats, так как использование полного списка форматов, предоставленных в соответствующем вопросе, не сработало; это не означает, что это будет работать в любом случае, но, вероятно, потребуется дальнейшее тестирование, возможно, на разных машинах и разных конфигурациях ОС / системы и видеоформатах: помните, что QMediaPlayer полностью полагается на базовую ОС и медиа-сервер по умолчанию.

Наконец, если вам это нужно только для ограниченных и предопределенных анимаций, рассмотрите возможность реализации собственного подкласса QWidget, который использует список загруженных изображений PNG и показывает их, реализуя paintEvent(), который будет вызываться обновлениями на основе QVariantAnimation. Хотя такая реализация может оказаться менее производительной или идеальной, она имеет основное преимущество, заключающееся в обеспечении кросс-платформенной совместимости.

person musicamante    schedule 20.07.2021
comment
Вот это да. Не могу отблагодарить вас за ваш код и отзыв. Я пробовал код на Mac, видео работает, но нет альфы. Еще черный. Я пробовал добавлять, переключать поддерживаемые выходы PixelFormats, но безрезультатно. Это крепкая кость. - person noi; 22.07.2021
comment
@noi, к сожалению, Mac часто немного придирчив к этим аспектам. Вы получаете какой-либо вывод в оболочке? - person musicamante; 22.07.2021
comment
Мне очень нравится подход QVariantAnimation. Мне не нужна портативность, так что это не проблема. Мне нравится то, что мне не нужно покадрово заниматься альфой. Я нашел это: stackoverflow.com/questions/56247882/ Звучит как хороший подход. Проблема в том, чтобы достичь 24 кадров в секунду. Я не знаю, возможно ли добиться изменения png каждые 42 мс (x4, если запущено 4 анимации). Что ты об этом думаешь? - person noi; 22.07.2021
comment
ничего в скорлупе - person noi; 22.07.2021
comment
@noi с умной реализацией, что теоретически может быть достигнуто, но это зависит от многих аспектов: используя QVariantAnimation с целочисленным значением (со значением, являющимся индексом кадра), вы можете гарантировать, что анимация обновляется и синхронизируется по времени, несмотря ни на что (поскольку она основана на продолжительности), единственная проблема заключается в том, что обновления изображения не поспевают за ним, в зависимости от возможностей компьютера может быть некоторое выпадение кадров. И, очевидно, могут быть некоторые проблемы с использованием памяти, поскольку, вероятно, все кадры будут загружаться в ОЗУ, если не используется правильная реализация. - person musicamante; 22.07.2021