苹果AR/VR头显专利可实现<5ms的无线串流视频传输
在基站呈现虚拟内容和在设备显示虚拟内容之间提供非常低的延迟(如4-5毫秒)
(映维网 2021年04月30日)苹果曾申请过多份关于可用于VR/AR的视频编码系统专利,这主要是为了节省资源,并以低延迟对高分辨率视频源进行编码和传输。
以“Versatile tile coding for multi-view video streaming”这份苹果专利为例,其主要提到了Sliced Based和Tile Based技术。简单来说,可以将视频图像划分为若干个Slice或划分为若干个Tile,然后根据用户视域每次仅传输特定视域的Slice或Tile,从而达到节省资源的目的。
补充说明,Slice和Tile主要存在两个不同的地方:Slice为条形,Tile为片形;Slice由一系列的SS组成,一个SS由一系列的CTU(编码树单元)组成,而Tile则直接由一系列CTU(编码树单元)组成。
日前,美国专利商标局公布了一份苹果于2019年6月提交的专利申请,而名为“Rate control for low latency video encoding and transmission(用于低延迟视频编码和传输的速率控制)”的发明同样描述了以低延迟对高分辨率视频源进行编码和传输的视频编码系统实施例,并且与上面提到的Sliced Based和Tile Based技术相关。

专利指出:“视频编码系统的示例应用于虚拟现实或混合现实系统。其中,虚拟内容的视频帧由基站渲染、编码和传输到设备以进行解码和显示。”
苹果指出,实现视频编码系统实施例的目标是在最小化错误的同时,在基站呈现虚拟内容和在设备显示虚拟内容之间提供非常低的延迟(如4-5毫秒)和最大限度地利用无线链路的带宽。视频编码系统的实施例可以实现速率控制方法,从而在无线链路维持目标帧速率,并最小化帧渲染、传输和传输中的延迟。
在一个实施例中,视频编码系统可以在编码之前对像素数据执行小波变换,以将像素数据分解为频带。然后将频带组织成Blocks像素块。所述Blocks像素块提供给基于像素块的编码器以进行编码/压缩。编码频率数据随后发送到无线接口,后者将编码频率数据打包并将其发送到接收设备。在接收设备,编码数据解包数据,并通过基于像素块的解码器来恢复频带。接下来,对恢复的频带进行小波合成,重构像素数据以进行显示。
......(全文 1591 字,剩余 839 字)


