根据前一帧创建帧并进行光流处理

Question

我有一个视频，我需要使用光流模拟帧；即具有一帧，并且表示下一帧像素平移的光流将模拟此后续结果帧。

我正在按如下方式使用Python和OpenCV：

1. 在两个连续的灰度帧之间生成流

gray = cv2.cvtColor(frame, cv2.COLOR_BGR2GRAY)
flow = cv2.calcOpticalFlowFarneback(prev_gray, gray, None, pyr_scale = 0.5, levels = 5, winsize = 11, iterations = 5, poly_n = 5, poly_sigma = 1.1, flags = 0)

这是第一帧和第二帧之间的流：

这是以下（目标帧）：

2. 现在，我想使用第一帧和光流来生成第二帧估计。基于this question

height = flow.shape[0]
width = flow.shape[1]
R2 = np.dstack(np.meshgrid(np.arange(width), np.arange(height)))
pixel_map = R2 + flow

prev = original_frames[0].astype("float32")
pixel_map = pixel_map.astype("float32")
new_frame = cv2.remap(prev, pixel_map, None, cv2.INTER_LINEAR)

生成的图像是：

Answer 1

解决了该问题，对代码进行了如下更新：

h = flow.shape[0]
w = flow.shape[1]
flow[:,:,0] += np.arange(w)
flow[:,:,1] += np.arange(h)[:,np.newaxis]

new_frame = cv2.remap(original_frame, flow, None, cv2.INTER_LINEAR)