我正在尝试包装一些方便的C ++代码,旨在使用VFW在Windows上生成视频+音频,C ++库存在here,描述说:
使用Video for Windows(因此它不可移植)。如果您想在某个地方快速录制视频并且不想亲自浏览VfW文档,那就太方便了。
我想在Python上使用那个C ++库,所以我决定使用swig将其包装起来。
事实上,我在编码音频方面遇到了一些问题,出于某种原因,我试图理解为什么生成的视频被破坏,似乎音频还没有在视频文件中正确写入。这意味着,如果我尝试用VLC或任何类似的视频播放器打开视频,我会收到一条消息,说视频播放器无法识别音频或视频编解码器。视频图像很好,所以我将音频写入文件的方式肯定是个问题。
我正在附加swig接口和一个Python试验,试图成为原始c++ test的端口。
aviwriter.i
%module aviwriter
%{
#include "aviwriter.h"
%}
%typemap(in) (const unsigned char* buffer) (char* buffer, Py_ssize_t length) %{
if(PyBytes_AsStringAndSize($input,&buffer,&length) == -1)
SWIG_fail;
$1 = (unsigned char*)buffer;
%}
%typemap(in) (const void* buffer) (char* buffer, Py_ssize_t length) %{
if(PyBytes_AsStringAndSize($input,&buffer,&length) == -1)
SWIG_fail;
$1 = (void*)buffer;
%}
%include "aviwriter.h"
test.朋友
import argparse
import sys
import struct
from distutils.util import strtobool
from aviwriter import AVIWriter
if __name__ == "__main__":
parser = argparse.ArgumentParser()
parser.add_argument("-audio", action="store", default="1")
parser.add_argument('-width', action="store",
dest="width", type=int, default=400)
parser.add_argument('-height', action="store",
dest="height", type=int, default=300)
parser.add_argument('-numframes', action="store",
dest="numframes", type=int, default=256)
parser.add_argument('-framerate', action="store",
dest="framerate", type=int, default=60)
parser.add_argument('-output', action="store",
dest="output", type=str, default="checker.avi")
args = parser.parse_args()
audio = strtobool(args.audio)
framerate = args.framerate
num_frames = args.numframes
width = args.width
height = args.height
output = args.output
writer = AVIWriter()
if not writer.Init(output, framerate):
print("Couldn't open video file!")
sys.exit(1)
writer.SetSize(width, height)
data = [0]*width*height
sampleRate = 44100
samples_per_frame = 44100 / framerate
samples = [0]*int(samples_per_frame)
c1, s1, f1 = 24000.0, 0.0, 0.03
c2, s2, f2 = 1.0, 0.0, 0.0013
for frame in range(num_frames):
print(f"frame {frame}")
i = 0
for y in range(height):
for x in range(width):
on = ((x + frame) & 32) ^ ((y+frame) & 32)
data[i] = 0xffffffff if on else 0xff000000
i += 1
writer.WriteFrame(
struct.pack(f'{len(data)}L', *data),
width*4
)
if audio:
for i in range(int(samples_per_frame)):
c1 -= f1*s1
s1 += f1*c1
c2 += f2*s2
s2 -= f2*c2
val = s1 * (0.75 + 0.25 * c2)
if(frame == num_frames - 1):
val *= 1.0 * (samples_per_frame - 1 - i) / \
samples_per_frame
samples[i] = int(val)
if frame==0:
print(f"i={i} val={int(val)}")
writer.WriteAudioFrame(
struct.pack(f'{len(samples)}i', *samples),
int(samples_per_frame)
)
writer.Exit()
我不认为samples
生成错误,因为我已经将python端生成的值与c ++端生成的值进行了比较,只是为第0帧编写的数据包。
我对错误的一些怀疑是我在swig上创建类型图的方式,也许这不好......或者问题可能存在于writer.WriteAudioFrame(struct.pack(f'{len(samples)}i', *samples), int(samples_per_frame))
行,我不知道可能是什么,绝对是我的方式'将音频缓冲区从Python发送到C ++包装器并不好。
那么,您是否知道如何修复附加代码,以便test.py能够生成具有与c ++测试类似的正确音频的视频?
生成好后,视频将显示一个魔术滚动棋盘,催眠正弦作为音频背景:D
补充说明:
1)似乎上面的代码没有使用writer.SetAudioFormat
,这是函数AVIFileCreateStreamA
和AVIStreamSetFormat
所需要的。问题是我不知道如何在swig上导出这个结构,这样我就可以在Python上以与test.cpp
相同的方式使用它,来自Mmreg.h我看到结构看起来像这样:
typedef struct tWAVEFORMATEX
{
WORD wFormatTag; /* format type */
WORD nChannels; /* number of channels (i.e. mono, stereo...) */
DWORD nSamplesPerSec; /* sample rate */
DWORD nAvgBytesPerSec; /* for buffer estimation */
WORD nBlockAlign; /* block size of data */
WORD wBitsPerSample; /* Number of bits per sample of mono data */
WORD cbSize; /* The count in bytes of the size of
extra information (after cbSize) */
} WAVEFORMATEX;
不幸的是我不知道如何在aviwriter.i上包装那些东西?我已经尝试使用%include windows.i并将这些东西直接包含在块%{
... %}
中,但我所得到的只是一堆错误:/
2)我不想完全修改aviwriter.h && aviwriter.cpp,因为它基本上是外部工作代码。
3)假设我能够包装WAVEFORMATEX
所以我可以在Python上使用它,你如何使用memset类似于test.cpp
?即:memset(&wfx,0,sizeof(wfx));
两个建议:
short
而不是int
作为音频格式。音频数据是16位,而不是32位。使用'h'扩展名作为打包格式。例如,struct.pack(f'{len(samples)}h', *samples)
。WAVEFORMATX
,通过SWIG公开aviwriter.i
。然后从Python调用writer.SetAudioFormat(wfx)
。memset()
不是必需的。从python你可以手动将字段cbSize
设置为零,这应该足够了。其他六个字段是强制性的,因此您无论如何都要设置它们。看起来这个结构在将来不会被修改,因为它没有结构大小字段,并且cbSize
的语义(将任意数据附加到结构的末尾)仍然与扩展冲突。aviwriter.i:
%inline %{
typedef unsigned short WORD;
typedef unsigned long DWORD;
typedef struct tWAVEFORMATEX
{
WORD wFormatTag; /* format type */
WORD nChannels; /* number of channels (i.e. mono, stereo...) */
DWORD nSamplesPerSec; /* sample rate */
DWORD nAvgBytesPerSec; /* for buffer estimation */
WORD nBlockAlign; /* block size of data */
WORD wBitsPerSample; /* Number of bits per sample of mono data */
WORD cbSize; /* The count in bytes of the size of
extra information (after cbSize) */
} WAVEFORMATEX;
%}
test.朋友:
from aviwriter import WAVEFORMATEX
稍后在test.py中:
wfx = WAVEFORMATEX()
wfx.wFormatTag = 1 #WAVE_FORMAT_PCM
wfx.nChannels = 1
wfx.nSamplesPerSec = sampleRate
wfx.nAvgBytesPerSec = sampleRate * 2
wfx.nBlockAlign = 2
wfx.wBitsPerSample = 16
writer.SetAudioFormat(wfx)
关于SWIG的注释:由于aviwriter.h仅提供tWAVEFORMATEX
的前向声明,因此不向SWIG提供其他信息,从而阻止生成get / set包装器。您可以要求SWIG包装声明结构的Windows标头...并打开一堆蠕虫,因为这些标头太大而且复杂,暴露了更多问题。相反,您可以单独定义WAVEFORMATEX
,如上所述。但是,C ++类型WORD
和DWORD
仍未声明。包括SWIG文件windows.i
只创建包装器,例如,允许Python脚本文件中的字符串“WORD”被理解为指示内存中的16位数据。但这并没有从C ++的角度声明WORD
类型。为了解决这个问题,在WORD
的DWORD
语句中为%inline
和aviwriter.i
添加typedef迫使SWIG将该代码直接复制到包装C ++文件中,使声明可用。这也会触发生成get / set包装器。或者,如果您愿意编辑它,可以在aviwriter.h中包含内联代码。
简而言之,这里的想法是将所有类型完全包含在独立标题或声明块中。请记住.i和.h文件具有单独的功能(包装和数据转换,而不是包装的功能)。同样,请注意aviwriter.h
如何在aviwriter.i
中包含两次,一次触发Python生成包装器的生成,一次在C ++生成的包装器代码中声明类型。
从我在代码中看到的,你没有初始化音频格式。这是在原始的test.cpp
代码中通过在第44行调用writer.SetAudioFormat(&wfx);
完成的,然后将其设置为单声道44.1 kHz PCM。我相信,由于您没有初始化,因此会写入空白标题,并且视频播放器无法打开未知格式。
更新
因为您只需要传递二进制头结构,并且您不需要使用该结构并在aviwriter.i
中声明它。您可以直接从Python使用以下代码:
import struct
from collection import namedtuple
WAVEFORMATEX = namedtuple('WAVEFORMATEX', 'wFormatTag nChannels nSamplesPerSec nAvgBytesPerSec nBlockAlign wBitsPerSample cbSize ')
wfx = WAVEFORMATEX(
wFormatTag = 1,
nChannels = 1,
nSamplesPerSec = sampleRate,
nAvgBytesPerSec = sampleRate * 2,
nBlockAlign = 2,
wBitsPerSample = 16,
cbSize = 0)
audio_format_obj = struct.pack('<HHIIHHH', *list(wfx))
writer.SetAudioFormat(audio_format_obj)
这将自动解决您的第二和第三个问题。
至于memset(&wfx,0,sizeof(wfx));
,这只是旧C的一种丑陋方式,它将结构中的所有变量归零。
附:正如@MichaelsonBritt所提到的,您的音频数据格式必须与标题中的声明相匹配。但是,您可以声明2个声道,而不是转换为16位short
,因此您可以通过一个声道静音获得立体声声音。