Choppy通过UDP接收语音数据

Question

我正在尝试通过UDP套接字发送语音数据，但客户端收到的语音数据不稳定。

目前，我在同一台机器上运行server.py和client.py。也许这可能是问题所在？另一种可能性是发送短数据包的语音数据，然后播放得足够快，以便短时间结束。它也可能是硬件问题（我目前正在使用2015 Macbook Pro）。

我已经在TCP中实现了这个程序，它运行完美。但是，该计划的主要目的是处理更多的客户。

我将尝试在不同的机器上运行这些脚本以查看它是否有效。期望的结果是以平滑的方式播放接收的语音数据，而不是以不连续的形式播放音频。

server.朋友

import socket
import pyaudio
import threading
from os import system

system('clear')

# Socket
host = socket.gethostbyname(socket.gethostname())
port = 6000
buffer = 2048
clients = []

# Audio
audio = pyaudio.PyAudio()
chunk = int(1024 * 4)


def client_listener():
    while True:
        data, address = host_socket.recvfrom(buffer)
        if address not in clients:
            print(f'New client: {address[0]}:{address[1]}')
            clients.append(address)
            print(clients)


with socket.socket(socket.AF_INET, socket.SOCK_DGRAM) as host_socket:
    try:
        host_socket.bind((host, port))
        print(f'Server hosted at {host}:{port}\n')

        print('Starting listener thread...')
        listener_thread = threading.Thread(target=client_listener)
        listener_thread.daemon = True
        listener_thread.start()
        print('Listener thread started!')

        print('Initiating microphone...')
        stream = audio.open(format=pyaudio.paInt16,
                            channels=1,
                            rate=44100,
                            input=True,
                            frames_per_buffer=chunk)

        print('Recording!')
        while True:
            voice_data = stream.read(chunk, exception_on_overflow=False)
            for client in clients:
                host_socket.sendto(voice_data, client)
    except socket.error as error:
        print(str(error))
        stream.close()
        host_socket.close()
    except KeyboardInterrupt:
        stream.close()
        host_socket.close()
    finally:
        stream.close()
        host_socket.close()

client.朋友

import socket
import pyaudio
from os import system

# Socket
host = socket.gethostbyname(socket.gethostname())
port = 6000

system('clear')

# Audio
audio = pyaudio.PyAudio()
chunk = int(1024 * 4)

with socket.socket(socket.AF_INET, socket.SOCK_DGRAM) as client_socket:
    try:
        client_socket.sendto(' '.encode('utf-8'), (host, port))

        stream = audio.open(format=pyaudio.paInt16,
                            channels=1,
                            rate=44100,
                            output=True,
                            frames_per_buffer=chunk)

        while True:
            voice_data = client_socket.recv(chunk)
            print(voice_data)
            stream.write(voice_data)
    except socket.error as error:
        print(str(error))
        stream.close()
        client_socket.close()
    except KeyboardInterrupt:
        stream.close()
        client_socket.close()
    finally:
        stream.close()
        client_socket.close()

Answer 1

从网络的角度来看，我可以看到为什么TCP在UDP上完美运行。传输控制协议是一种纠错协议 - 又称无损 - 并跟踪发送的内容以确定错误。如果发送的数据因任何原因未完成，则会要求重新发送。用户数据报协议不是纠错和更多流式传输 - 一个接一个。我不知道python，但我建议如果你创建自己的纠错方法，那么如果要使用UDP，它将获得与TCP相同的效果。像MD5检查之类的东西，接收者会知道“这个信息包是完整的”。

Answer 2

你需要某种抖动缓冲器 - 看看一些开源SIP / RTP应用程序，因为这个功能在实践中可能非常复杂，处理数据包重新排序，再加上某种PLC来补偿数据包丢失和自适应延迟取决于在实际的网络抖动。如果您有多个设备，那么也很难避免时钟偏差。

我也不完全确定python是否是拥有大量客户端的服务器的不错选择。我猜python + pjsip更典型。