Каков хороший подход для извлечения частей речи из произвольного аудиофайла?

Детектор энергии

Для обнаружения голосовой активности я использовал программу EnergyDetector компании MISTRAL (была LIA_RAL) набор инструментов для распознавания говорящих, основанный на библиотеке ALIZE.

Он работает с файлами функций, а не с аудиофайлами, поэтому вам нужно будет извлечь энергию сигнала. Обычно я извлекаю кепстральные признаки (MFCC) с параметром логарифмической энергии и использую этот параметр для VAD. Вы можете использовать sfbcep`, служебную часть набора инструментов для обработки сигналов SPro. следующим образом:

sfbcep -F PCM16 -p 19 -e -D -A input.wav output.prm

Он извлечет 19 MFCC + коэффициент логарифмической энергии + дельта-коэффициенты первого и второго порядка. Энергетический коэффициент 19-й, его вы укажете в конфигурационном файле EnergyDetector.

Затем вы запустите EnergyDetector следующим образом:

EnergyDetector --config cfg/EnergyDetector.cfg --inputFeatureFilename output 

Если вы используете файл конфигурации, который вы найдете в конце ответа, вам нужно поместить output.prm в prm/, и вы найдете сегментацию в lbl/.

В качестве справки прикрепляю свой конфигурационный файл EnergyDetector:

*** EnergyDetector Config File
***

loadFeatureFileExtension        .prm
minLLK                          -200
maxLLK                          1000
bigEndian                       false
loadFeatureFileFormat           SPRO4
saveFeatureFileFormat           SPRO4
saveFeatureFileSPro3DataKind    FBCEPSTRA
featureServerBufferSize         ALL_FEATURES
featureServerMemAlloc           50000000
featureFilesPath                prm/
mixtureFilesPath                gmm/
lstPath                         lst/
labelOutputFrames               speech
labelSelectedFrames             all
addDefaultLabel                 true
defaultLabel                    all
saveLabelFileExtension          .lbl
labelFilesPath                  lbl/    
frameLength                     0.01
segmentalMode                   file
nbTrainIt                       8       
varianceFlooring                0.0001
varianceCeiling                 1.5     
alpha                           0.25
mixtureDistribCount             3
featureServerMask               19      
vectSize                        1
baggedFrameProbabilityInit      0.1
thresholdMode                   weight

КМУ Сфинкс

Программное обеспечение для распознавания речи CMU Sphinx содержит встроенный VAD. Он написан на C, и вы можете взломать его, чтобы получить файл этикетки для себя.

Совсем недавним дополнением является поддержка GStreamer. Это означает, что вы можете использовать его VAD в медиаконвейере GStreamer. См. Использование PocketSphinx с GStreamer и Python -> Элемент 'vader'

Другие VAD

Я также использовал модифицированную версию кодека AMR1, которая выводит файл с классификацией речи/не речи, но я не могу найти его источники в Интернете, извините.

webrtcvad – это Python-оболочка для превосходного WebRTC Код обнаружения голосовой активности.

Он поставляется с файлом example.py, который точно что вы ищете: Имея файл .wav, он находит каждый раз, когда кто-то говорит, и записывает его в новый, отдельный файл .wav.

API webrtcvad чрезвычайно прост, если example.py не делает то, что вам нужно:

import webrtcvad

vad = webrtcvad.Vad()
# sample must be 16-bit PCM audio data, either 8KHz, 16KHz or 32Khz,
# and 10, 20, or 30 milliseconds long.
print vad.is_voiced(sample)

Здравствуйте, pyAudioAnalysis имеет функцию удаления тишины.

В этой библиотеке удаление тишины может быть таким простым:

from pyAudioAnalysis import audioBasicIO as aIO from pyAudioAnalysis import audioSegmentation as aS [Fs, x] = aIO.readAudioFile("data/recording1.wav") segments = aS.silenceRemoval(x, Fs, 0.020, 0.020, smoothWindow = 1.0, Weight = 0.3, plot = True)

Внутренняя тишина removal() следует полуконтролируемому подходу: сначала модель SVM обучается различать высокоэнергетические и низкоэнергетические краткосрочные кадры. С этой целью используются 10% кадров с самой высокой энергией вместе с 10% кадров с самой низкой. Затем SVM применяется (с вероятностным выводом) ко всей записи и используется динамическая пороговая установка для обнаружения активных сегментов.

SPro и HTK — это наборы инструментов, которые вам нужны. Вы также можете увидеть там реализацию, используя документацию Alize Toolkit.

http://alize.univ-avignon.fr/doc.html