版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)
文檔簡(jiǎn)介
1、從5G向6G,新視頻應(yīng)用與新終端的發(fā)
展特點(diǎn)及技術(shù)需求
用戶對(duì)豐富應(yīng)用的需求,驅(qū)動(dòng)了網(wǎng)絡(luò)技術(shù)的不斷升級(jí)。從通信領(lǐng)域提出6G的概念到
今天,6G標(biāo)準(zhǔn)、技術(shù)、應(yīng)用得到快速發(fā)展。
技術(shù)的迭代升級(jí)也加速了應(yīng)用創(chuàng)新,如果說3G推動(dòng)了微博、推特等社交媒體,4G推
動(dòng)了微信、電商等應(yīng)用場(chǎng)景,5G帶來高清的移動(dòng)短視頻、互動(dòng)直播體驗(yàn),也同時(shí)加速垂直
行業(yè)的數(shù)字化轉(zhuǎn)型。6G網(wǎng)絡(luò)正在逐步走來,6G將使用中頻率上段等更多頻段進(jìn)一步提升
網(wǎng)絡(luò)傳輸速率。同時(shí)需要借助新能力、新應(yīng)用場(chǎng)景來兌現(xiàn)網(wǎng)絡(luò)價(jià)值,賦能千行百業(yè),通過
應(yīng)用創(chuàng)新加速產(chǎn)業(yè)和商業(yè)的正循環(huán)。
6G網(wǎng)絡(luò)的峰值傳輸速率將達(dá)到100Gbps以上,大幅超過了5G網(wǎng)絡(luò)的10Gbps,理論
上通信時(shí)延僅為0.1毫秒,也只有5G的十分之一。這樣的技術(shù)規(guī)格,即使是用于專業(yè)超高
清4K/8K廣電視頻制作領(lǐng)域,已經(jīng)能夠達(dá)到有線無壓縮傳輸?shù)募夹g(shù)規(guī)格,理論上可以大幅
降低過去由于視頻信號(hào)深度壓縮帶來的編解碼延時(shí),所以實(shí)際發(fā)生的延時(shí)總量(鏈路+處
理)也將大大降低,過去無線傳輸所帶來的時(shí)延影響對(duì)專業(yè)化制作帶來的不便,也將從根
本解決,同時(shí)也為更多的視頻應(yīng)用創(chuàng)新帶來了可能。
而5G向著6G演進(jìn),將為消費(fèi)者帶來哪些與眾不同的應(yīng)用創(chuàng)新?這些應(yīng)用創(chuàng)新何時(shí)能
實(shí)現(xiàn)規(guī)?;逃寐涞啬兀?/p>
目前圍繞視頻應(yīng)用場(chǎng)景,我們認(rèn)為在6G階段,在原有的5G+4K/8K超高清技術(shù)結(jié)合基
礎(chǔ)之上,裸眼3D的應(yīng)用以及VR/XR等場(chǎng)景隨著新終端不斷升級(jí)將迎來新的爆發(fā)增長(zhǎng)機(jī)會(huì)。
1.13D技術(shù)與應(yīng)用的發(fā)展趨勢(shì)
隨著5G技術(shù)發(fā)展,消費(fèi)者業(yè)務(wù)呈現(xiàn)云化、3D化和智能化的新趨勢(shì)。同傳統(tǒng)2D視頻
相比,3D視頻同樣經(jīng)歷了漫長(zhǎng)的發(fā)展過程,雖然受制于制作技術(shù)的復(fù)雜和成本、播放終端
的技術(shù)局限(包括院線和頭戴式終端)、舒適性體驗(yàn)等不足,市場(chǎng)占有率一直受限,目前尚
不具備替代2D成為主流的實(shí)力。
然而觀眾對(duì)于3D體驗(yàn)的喜愛以及對(duì)3D應(yīng)用場(chǎng)景的消費(fèi)意愿卻始終不減,在主題公園
(迪斯尼樂園、環(huán)球影城等)、電影院線(特別是科幻類、動(dòng)畫等題材)中3D體驗(yàn)和影片
的票房及受歡迎程度,充分證明3D技術(shù)與應(yīng)用具備足夠的市場(chǎng)競(jìng)爭(zhēng)力。事實(shí)上,3D的發(fā)
展和關(guān)注度隨著各種缺陷與不足,雖然不斷經(jīng)歷起伏變化,但隨著鏈路中各個(gè)環(huán)節(jié)技術(shù)的
不斷升級(jí),幾乎每十到十五年都會(huì)迎來一次爆發(fā)。
上一次的爆發(fā)點(diǎn)是2010年前后隨著電影《阿凡達(dá)》的上映,3D數(shù)字院線普及觸發(fā)了
優(yōu)質(zhì)3D體驗(yàn)的升級(jí),以及同階段3D電視面世引發(fā)銷售推廣熱潮,3D電視頻道不斷涌現(xiàn),
帶來了一次3D爆發(fā)式增長(zhǎng)。然而隨著內(nèi)容制作的復(fù)雜性及高昂成本,終端體驗(yàn)的舒適度
和佩戴3D眼鏡帶來的不便,裸眼終端清晰度不足和效果不佳等問題,和后來快速普及的
4K超高清終端相比,3D終端缺乏足夠的市場(chǎng)競(jìng)爭(zhēng)力,在2016年前后3D又步入低潮期。
2021年5月舉行的谷歌I/O大會(huì)上,谷歌公布了全息視頻聊天技術(shù)ProjectStarline
(3D視頻聊天室),基于計(jì)算機(jī)視覺、機(jī)器學(xué)習(xí)、空間音頻和數(shù)據(jù)壓縮技術(shù)打造的突破性
光場(chǎng)顯示系統(tǒng),旨在取代一對(duì)一的2D視頻電話會(huì)議,讓用戶感覺就像坐在真人面前一樣
的溝通交互體驗(yàn),在行業(yè)內(nèi)引發(fā)了巨大反響。
3/32
近兩年來,新一代的3D顯示終端開始逐步成熟,包括中興電子發(fā)布的裸眼3DPAD,
GOOVIS等廠家推出了可以直連5G手機(jī)的“頭戴式家庭影院”便攜型頭顯,將優(yōu)質(zhì)3D內(nèi)容
體驗(yàn)與5G移動(dòng)終端緊密綁定;再加上VR頭顯終端本身也是3D內(nèi)容體驗(yàn)的載體之一,新
一代的便攜型終端出現(xiàn)也為3D再次復(fù)蘇提供了絕佳機(jī)會(huì)。
伴隨3D云化視頻、裸眼3D通話、XR元宇宙等應(yīng)用創(chuàng)新,特別是超高清技術(shù)賦能于
3D內(nèi)容制作與現(xiàn)實(shí),將過去的高清3D提升到4K3D水平,真實(shí)感、沉浸感大幅升級(jí),同
時(shí)對(duì)現(xiàn)有網(wǎng)絡(luò)也提出更高要求,從云到終端的網(wǎng)絡(luò)傳輸要求更快。6G技術(shù)讓消費(fèi)者未來不
僅可在家里觀看裸眼3D視頻,也可在戶外、地鐵、公交車等地方隨時(shí)用手機(jī)、專用設(shè)備
體驗(yàn)3D視頻等豐富應(yīng)用。
裸眼3D產(chǎn)業(yè)發(fā)展,離不開優(yōu)秀的視頻內(nèi)容特別是直播內(nèi)容支撐。6G提供的網(wǎng)絡(luò)高帶
寬,以及快速發(fā)展的AIGC,將大幅提升內(nèi)容創(chuàng)作的效率和質(zhì)量,勢(shì)必將極大促進(jìn)3D裸眼
視頻等的產(chǎn)業(yè)應(yīng)用的快速發(fā)展。
1.2VR/XR技術(shù)與應(yīng)用的發(fā)展趨勢(shì)
在5G時(shí)代,5G+VR已經(jīng)成為了5G標(biāo)準(zhǔn)化應(yīng)用場(chǎng)景之一,而各大視頻和游戲平臺(tái)已
經(jīng)出現(xiàn)一批虛擬現(xiàn)實(shí)(VR)類應(yīng)用,比如VR全景視頻、VR云游戲等。
在8K技術(shù)的加持之下,VR視頻內(nèi)容的呈現(xiàn)效果大幅提升,特別是當(dāng)蘋果VISIONPRO
以單目4Kx4K的LED分辨率加持,在接近100°沉浸視角下實(shí)現(xiàn)了35-37PPD的高解析力,
將VR頭顯終端的還原力提升到了前所未有的高度。可以說,在360°VR的全沉浸視角下,
8K乃至今后更高級(jí)別的清晰度規(guī)格真正成為了剛需。隨著優(yōu)質(zhì)8K及以上分辨率級(jí)別VR直
播內(nèi)容不斷涌現(xiàn),規(guī)?;某两絻?nèi)容實(shí)現(xiàn)高效量產(chǎn),借助于6G大帶寬的傳輸能力和低
延時(shí)優(yōu)勢(shì),為觀眾能夠提供適配8K以上更高分辨率量級(jí)的高碼率實(shí)時(shí)數(shù)據(jù)傳輸能力及低延
時(shí)交互響應(yīng),高清晰的立體空間視頻借助于新一代的VR頭顯終端,可能將真正成為互聯(lián)
網(wǎng)時(shí)代用戶的新寵。
同時(shí),擴(kuò)展現(xiàn)實(shí)(XR)作為元宇宙的重要技術(shù)支撐,越來越受到業(yè)界關(guān)注。隨著頭顯
的輕便化發(fā)展,增強(qiáng)現(xiàn)實(shí)(AR)、混合現(xiàn)實(shí)(MR)類應(yīng)用也越來越多。目前這些頭顯主要
通過有線或者Wi-Fi連接到服務(wù)器,而這限制了用戶使用業(yè)務(wù)的范圍。隨著未來6G網(wǎng)絡(luò)覆
蓋的逐漸完善,6G超大帶寬、超低時(shí)延、超高速率的連接特性可滿足更廣泛的XR業(yè)務(wù)的
需求。
隨著更多新視頻應(yīng)用場(chǎng)景和終端在6G時(shí)代的不斷涌現(xiàn),我們可以預(yù)測(cè)在不遠(yuǎn)的將來,
觀眾無論身處何處,都可以采用不同的體驗(yàn)方式(大屏超高清、手機(jī)豎屏、3D電視、VR
和AR等,或者戶外車載設(shè)備、互聯(lián)網(wǎng)接入設(shè)備、帶有觸覺感知的體驗(yàn)設(shè)備)來觀看節(jié)目
內(nèi)容,并根據(jù)自身的需求和喜好,形成多樣化的觀看及交互體驗(yàn)。
4/32
2、“未來電視”不同終端應(yīng)用場(chǎng)景的特點(diǎn)及
技術(shù)需求
2.1“未來電視”的概念與發(fā)展趨勢(shì)
“未來電視”是一個(gè)廣義的視聽概念,它代表著視聽產(chǎn)業(yè)的未來發(fā)展趨勢(shì)。它不止于電
視,是新的理念模式,是系統(tǒng)性、革命性的迭代升級(jí)。其中的主要特征包括:呈現(xiàn)方式多
樣化、視聽體驗(yàn)沉浸化、應(yīng)用場(chǎng)景全景化、服務(wù)形態(tài)智慧化、服務(wù)供給協(xié)同化。
其中,呈現(xiàn)方式多樣化表示,呈現(xiàn)載體不限于電視機(jī),可能是生活中隨處可見的各種
顯示介質(zhì),包括各種手持終端、可穿戴設(shè)備、室外大屏等各類顯示載體;
視聽體驗(yàn)沉浸化,包括超高清、沉浸式、三維聲、VR/AR、MR、XR、互動(dòng)視頻、自由
視角、立體3D、全息成像等多種體驗(yàn)方式,觀眾可以自由選擇視聽服務(wù)。
應(yīng)用場(chǎng)景全景化希望實(shí)現(xiàn)在生活中需要視聽的各種場(chǎng)景中應(yīng)用,全方位融入群眾的數(shù)
字生活。
服務(wù)形態(tài)智慧化則考慮將實(shí)現(xiàn)現(xiàn)實(shí)世界和虛擬世界的緊密融合,節(jié)目?jī)?nèi)容自由選擇、
實(shí)時(shí)交互、需求定制、智慧分發(fā),高度人性化,將帶來豐富的互動(dòng)體驗(yàn),滿足消費(fèi)者多層
次需求。
服務(wù)供給協(xié)同化,“未來電視”將帶動(dòng)行業(yè)上下、內(nèi)外大協(xié)同、大融合,形成網(wǎng)絡(luò)互聯(lián)、
業(yè)務(wù)互通、數(shù)據(jù)共享的全新制播體系、服務(wù)體系和管理體系。
圖2.1.1視聽體驗(yàn)多樣化和沉浸化,不同終端載體為觀眾提供更豐富的視聽選擇
2.2呈現(xiàn)方式多樣化與視聽體驗(yàn)沉浸化制作的特點(diǎn)
一方面,面向不同媒體終端提供針對(duì)性更強(qiáng)的定制內(nèi)容體驗(yàn),已經(jīng)成為了剛需。無論
5/32
身處何處,觀眾可以采用不同的體驗(yàn)方式(大屏超高清、3D電視、VR和AR等,或者戶外
車載設(shè)備、互聯(lián)網(wǎng)接入設(shè)備、帶有觸覺感知的體驗(yàn)設(shè)備)來觀看相同的節(jié)目?jī)?nèi)容,形成多
樣化的觀看體驗(yàn)。
圖2.2.1“未來電視“場(chǎng)景下將面對(duì)豐富的終端體驗(yàn)
圖2.2.2“元演播室“復(fù)合型節(jié)目制作形態(tài)為“未來電視“提供多形式內(nèi)容
6/32
圖2.2.3不同拍攝前端,基于標(biāo)準(zhǔn)4K/8K制播系統(tǒng)和格式,組成復(fù)合型的制作系統(tǒng)形態(tài)
基于此需求和應(yīng)用場(chǎng)景,面向規(guī)模化的節(jié)目制作需求,可以考慮采用不同的前端拍攝
設(shè)備,如4K/8K訊道轉(zhuǎn)播攝像機(jī)、8KVR攝像機(jī)、4K/3D攝像機(jī)等,遵循同一廣電制作規(guī)
格,連接入4K/8K廣播級(jí)轉(zhuǎn)播系統(tǒng),以實(shí)現(xiàn)高質(zhì)量的節(jié)目制作流程,最終通過編碼器根據(jù)
不同終端及平臺(tái)的具體要求提供相應(yīng)規(guī)格的直播流,再借助5G網(wǎng)絡(luò)或者其他信道方式進(jìn)
行傳輸。
表2.2.1面向不同終端的制作規(guī)格參考值
另一方面,視聽體驗(yàn)的沉浸化,是所有視頻內(nèi)容創(chuàng)作者的終極目標(biāo),也是視聽技術(shù)發(fā)
展的源動(dòng)力。我們希望創(chuàng)造出更加清晰、更為真實(shí)的視覺體驗(yàn),讓觀眾獲得身臨其境的觀
感。終端的技術(shù)演進(jìn)和產(chǎn)品設(shè)計(jì),也希望為觀眾提供更佳的沉浸式體驗(yàn)。
7/32
圖2.2.4采用巨幕提供盡可能大的視角范圍,是提供沉浸感體驗(yàn)的常規(guī)手段
為了獲得視聽體驗(yàn)的沉浸感,我們首先力求為觀眾創(chuàng)造一個(gè)盡可能大的觀影范圍,盡
量覆蓋觀眾的有效視野,最大程度提供有效信息(包括滿足視覺和聽覺需求)。
通常60°水平視角是一個(gè)標(biāo)準(zhǔn),一般電影院、劇場(chǎng)的最佳觀看位置以此定義。4K電視
也以此視角來設(shè)計(jì)合理的分辨率,基于一視角分的原則(1°視角需提供不低于60個(gè)像素以
保證觀看清晰),最終將4K影像分辨率定義為3840x2160(寬高比16:9)。而8K
(7680x4320)則在此基礎(chǔ)上進(jìn)一步提升觀影范圍,加入了更多的環(huán)境邊緣信息,使標(biāo)準(zhǔn)
的觀看視角提升到96°,觀眾相當(dāng)于在1米多遠(yuǎn)的距離來觀看100寸8K電視。
圖2.2.54K和8K分辨率的設(shè)計(jì)和水平視角的關(guān)系
VR頭顯終端雖然體積不大,卻能夠?yàn)橛^眾提供更大的觀看視野,其專門制作拍攝的
VR沉浸式影像內(nèi)容可以達(dá)到180°或者360°的觀看視角,實(shí)現(xiàn)真正意義上“無邊框“的全景體
驗(yàn)?zāi)J健?/p>
8/32
圖2.2.6VR頭顯終端可提供360°的觀看視角,實(shí)現(xiàn)完全沉浸式、無邊界體驗(yàn)
由于VR頭顯終端所配置的LED液晶屏的視野范圍FOV都超過了90°視角,和8K大屏
標(biāo)準(zhǔn)觀看影像視角接近,也就是理論上這塊LED液晶就應(yīng)該具備8K分辨率的顯示能力
(PPD接近60),那么對(duì)應(yīng)于360°的VR全景影像,其清晰度應(yīng)該滿足30K的水平清晰度。
就目前的軟硬件制作與顯示端的處理能力,僅能滿足到8K視頻的編解碼能力,所以目前所
規(guī)定的行業(yè)標(biāo)準(zhǔn)中,建議全景360°視頻達(dá)到8K分辨率,而其LED液晶屏的顯示范圍大約
能接近HD高清水平,距離真正的超高清體驗(yàn)尚有提升空間。
圖2.2.6VR頭顯的觀看視角大于90°,8K分辨率的影像內(nèi)容只能滿足基本清晰要求
隨著蘋果VISIONPRO頭顯終端的問世,“空間視頻”這一概念被廣泛提及。也包括前幾
年由谷歌推出的裸眼3D全息視頻聊天技術(shù)ProjectStarline項(xiàng)目,都可以認(rèn)為是基于雙眼立
體視覺S3D(Stereoscopic3D)呈現(xiàn)技術(shù)的進(jìn)一步升級(jí)和拓展應(yīng)用。
立體影像(這里主要指雙目立體S3D),基于雙眼視覺產(chǎn)生視差和視線匯聚的原理,可
以使觀眾感受到真實(shí)的距離和空間感。采用雙鏡頭攝像機(jī)同步拍攝模擬人的雙眼視覺方式,
可以獲得空間立體視頻,再借助于3D屏幕或者VR頭顯、AR頭顯終端就可以正確顯示出
9/32
具有立體感的3D影像。
3D立體效果是人類感知空間感和沉浸感的重要因素,該技術(shù)可與平面影像技術(shù)、
VR/AR等顯示方式相結(jié)合,根據(jù)不同終端的視場(chǎng)角FOV和PPD需求,輸出如4K/HD雙目
3D或者8K360°或者180°3DVR等信號(hào),提供不同的空間立體效果。
圖2.2.78K3D180°VR的沉浸式節(jié)目?jī)?nèi)容(SidebySide方式)
圖2.2.7180°3DVR與雙目3D的拍攝方式與輸出效果
3D視頻與3DVR視頻相比,最大的區(qū)別在于視場(chǎng)角,3D視頻的視角范圍與普通2D
視頻一致,主要取決于鏡頭的焦段影響,為了獲得較好的立體感,通常會(huì)采用中廣角鏡頭
來覆蓋更多的空間范圍;但是也因?yàn)槠胀ㄧR頭視角范圍以及所采用的16:9畫幅比所帶來的
限制,觀眾在觀看普通3D影像時(shí),空間感和沉浸感會(huì)收到“畫框”的局限,當(dāng)立體空間中的
畫面主體逐漸“走近”觀眾時(shí),由于“畫框”的存在,主體可能無法完整的呈現(xiàn)在觀眾面前,也
就是所謂的無法完整的“出屏”,觀眾會(huì)感覺不能完全融入到創(chuàng)作者所呈現(xiàn)的數(shù)字空間之中。
10/32
圖2.2.8普通3D影像中的主體會(huì)受到“畫框”限制無法完整出屏
3DVR影像是將全景拍攝和雙目立體拍攝兩項(xiàng)技術(shù)與呈現(xiàn)方式的優(yōu)勢(shì)相結(jié)合,觀眾可
以在幾乎無邊框范圍的數(shù)字影像中獲得完全沉浸的效果,同時(shí)借助于3D拍攝帶來的立體
視差,可以獲得極強(qiáng)的空間感,相比于普通3D影像,觀眾就可以完全進(jìn)入到3D數(shù)字空間
之中,獲得真正意義上的沉浸式體驗(yàn)。
當(dāng)然,3DVR與普通3D還有平面大屏幕4K和8K所獲得效果不同,內(nèi)容表現(xiàn)形式和
創(chuàng)作手法也不同,制作的難度也不盡相同,應(yīng)該講各有優(yōu)勢(shì)和不足,不能單純的評(píng)價(jià)孰優(yōu)
孰劣。不同的制作與呈現(xiàn)技術(shù)可以根據(jù)不同內(nèi)容進(jìn)行合理的選擇,也可以在相同的場(chǎng)景下
混合使用,為觀眾帶來不同的體驗(yàn)感受,這也是“未來電視”場(chǎng)景下面向不同終端帶來的復(fù)
合制作模式,讓觀眾根據(jù)自身喜好自由選擇希望的觀影形式。
圖2.2.93D180°VR拍攝,可以將觀眾真正融入虛擬空間,獲得觸手可及的交互感
在這里,超高清視音頻技術(shù)中所涉及的HDR高動(dòng)態(tài)范圍、WCG寬色域技術(shù)、HFR高
幀率和沉浸式空間音頻等,均可以賦能于以上提到各種終端顯示與制作系統(tǒng)中,為不同終
端提供最佳的技術(shù)適配,為觀眾帶來最好的沉浸式體驗(yàn)。
11/32
圖2.2.10數(shù)字視音頻技術(shù)演進(jìn)方向
為了保持制作、播出平臺(tái)和終端播放適配標(biāo)準(zhǔn)的統(tǒng)一性,在4K/8K領(lǐng)域的以上應(yīng)用場(chǎng)
景,可以遵循目前國(guó)內(nèi)的超高清影像制作和傳輸標(biāo)準(zhǔn)規(guī)范??蓞⒖贾醒霃V播電視總臺(tái)于
2021年正式對(duì)外發(fā)布了《8K超高清電視節(jié)目制播技術(shù)要求(暫行)》,其中定義了國(guó)內(nèi)8K
超高清電視節(jié)目視音頻基本技術(shù)參數(shù)執(zhí)行標(biāo)準(zhǔn)。以分辨率7680x4320、幀率50幀/秒、
10bit量化、HDR標(biāo)準(zhǔn)HLG1000、寬色域標(biāo)準(zhǔn)BT.2020等作為8K廣電制播規(guī)格要求。如VR
頭顯等終端可以根據(jù)自身的實(shí)際情況(如VR畫幅比為2:1,8K分辨率實(shí)際為7680x3840)
進(jìn)行局部調(diào)整。
12/32
圖2.2.11中央廣播電視總臺(tái)2021年1月發(fā)布《8K超高清電視節(jié)目制播技術(shù)要求(暫行)》
中定義了8K超高清電視節(jié)目視音頻基本技術(shù)參數(shù)表
同時(shí),總臺(tái)還規(guī)定了8K超高清電視播出信號(hào)編碼標(biāo)準(zhǔn)及碼率:8K超高清電視播出信
號(hào)視頻編碼時(shí),采用AVS3標(biāo)準(zhǔn)《信息技術(shù)智能媒體編碼第2部分:視頻》(T/AI109.2—
2020),對(duì)8K超高清信號(hào)(7680×4320/50P/HDR)采用基準(zhǔn)10位檔(profile)、10.0.60
級(jí)(level),視頻編碼碼率不低于120Mbps。音頻編碼標(biāo)準(zhǔn)及碼率:采用5.1環(huán)繞聲編碼,
編碼碼率為448Kbps。
針對(duì)8K超高清電視互動(dòng)點(diǎn)播,總臺(tái)規(guī)定了文件格式參數(shù)為下表要求,其中視頻編碼
要求AVS3/H.266/H.265,總碼率需高于80Mbps。
可以看到,隨著8K技術(shù)標(biāo)準(zhǔn)的提升,新型應(yīng)用場(chǎng)景對(duì)于高帶寬和低延時(shí)的實(shí)際需求,
對(duì)于制作域還是傳輸域都提出了更高要求,特別是傳輸帶寬、網(wǎng)絡(luò)傳輸和處理時(shí)延、編解
碼的軟硬件性能要求等,對(duì)于當(dāng)下的硬件基礎(chǔ)和網(wǎng)絡(luò)條件都提出了新的要求和挑戰(zhàn)?,F(xiàn)階
段的5G網(wǎng)絡(luò),受限于傳輸速率,及各終端的數(shù)據(jù)處理能力,必須使用高壓縮編碼(如
H.265等)對(duì)4K和8K等視頻內(nèi)容進(jìn)行處理,一方面壓縮與編解碼過程對(duì)于信號(hào)本身的還
原效果會(huì)帶來影響,同時(shí)編解碼所產(chǎn)生的延時(shí)量也會(huì)與信道延時(shí)疊加,從而拉開了無線鏈
路與有線鏈路時(shí)延的差距。在5.5G乃至6G階段,可以逐步考慮采用低壓縮視頻編碼如
JPEG-XS等,使用更低的壓縮比(如對(duì)8K信號(hào)采用10:1壓縮比,將單路數(shù)據(jù)量控制在1-
10Gbps范圍內(nèi))和相對(duì)計(jì)算復(fù)雜度低的編解碼處理過程獲得更高質(zhì)量的信號(hào),同時(shí)降低編
解碼端的整體延時(shí)。
13/32
圖2.2.12中央廣播電視總臺(tái)2021年1月發(fā)布《8K超高清電視節(jié)目制播技術(shù)要求(暫行)》
中定義了8K超高清電視互動(dòng)點(diǎn)播文件格式參數(shù)
2.36G+超高清相關(guān)應(yīng)用場(chǎng)景的發(fā)展
5G發(fā)展初期,將5G+4K作為典型應(yīng)用場(chǎng)景,基于5G無線網(wǎng)絡(luò)“大帶寬”主要特性,滿
足超高清內(nèi)容傳輸?shù)男枨?,同時(shí)借助“切片“技術(shù),實(shí)現(xiàn)可靠穩(wěn)定傳輸鏈路,替代有線專線
網(wǎng)絡(luò)或者光纖、衛(wèi)星傳輸,提供更高性價(jià)比的傳輸方案。
在此基礎(chǔ)之上,進(jìn)一步發(fā)揮網(wǎng)絡(luò)優(yōu)勢(shì),拓展應(yīng)用場(chǎng)景,為觀眾提供“多視角自由切換
“等新交互功能體驗(yàn),實(shí)現(xiàn)多路HD或4K信號(hào)的并行同步傳輸,基于”邊緣計(jì)算“部署,完成
超低延時(shí)的高質(zhì)量信號(hào)同步切換和處理能力,讓觀眾獲得無延遲感的內(nèi)容平滑切換體驗(yàn),
將”大帶寬“帶來的高畫質(zhì)與”低延時(shí)“帶來的強(qiáng)交互能力更好結(jié)合。
14/32
圖2.3.15G+超高清+多視角結(jié)合,帶來更好的交互式用戶體驗(yàn)
圖2.3.25G+4K+多視角制作系統(tǒng)框圖
面向移動(dòng)終端的豎屏制作,其制作系統(tǒng)本質(zhì)與橫屏并無區(qū)別,主要是畫幅和構(gòu)圖的變
化。在制作手段上,可以直接采用攝像機(jī)豎置直接拍攝9:16畫面,也可以基于4K或8K橫
屏拍攝后通過后端進(jìn)行豎屏裁切輸出,也可以兩個(gè)方式組合使用。呈現(xiàn)方式也可以根據(jù)用
戶觀看習(xí)慣和導(dǎo)演設(shè)計(jì),發(fā)揮豎屏觀看的特點(diǎn)及用戶交互式需求,引入一些新的表現(xiàn)方式,
如雙屏縱向顯示帶來多視角、多場(chǎng)景體驗(yàn)等,與橫屏的觀看形式和內(nèi)容形成更好的差異化。
15/32
圖2.3.32024中央廣播電視總臺(tái)春晚豎屏直播采用了豐富的鏡頭拼接組合,為豎屏營(yíng)造不
同于橫屏的豐富體驗(yàn)
5G+VR的應(yīng)用同樣是最先出現(xiàn)的5G落地場(chǎng)景之一,而隨著8K技術(shù)逐漸成熟,VR頭
顯終端的配置逐步升級(jí)并支持8K信號(hào)的實(shí)時(shí)解碼能力,相比于4KVR在全景視頻下的清晰
度依然稍顯不足,8K的高分辨率真正實(shí)現(xiàn)了VR體驗(yàn)的清晰真實(shí)感受,5G+8K+VR成為剛
需。
字節(jié)跳動(dòng)旗下的VR平臺(tái)PICO在2022年4月舉辦的王晰演唱會(huì)中首次實(shí)現(xiàn)8K3DVR
實(shí)時(shí)互動(dòng)演唱會(huì),而后鄭鈞、汪峰的演唱會(huì)也均采用8K3D180°VR+實(shí)時(shí)互動(dòng)的形式。這
幾次演唱會(huì)在清晰度、視角設(shè)置、場(chǎng)景交互等關(guān)鍵觀感因素方面實(shí)現(xiàn)巨大突破,VR直播體
驗(yàn)大幅提高。
圖2.2.4PICO8K3DVR鄭鈞演唱會(huì)直播虛實(shí)結(jié)合體驗(yàn)效果
2023年,4K花園與中國(guó)移動(dòng)咪咕合作,面向移動(dòng)終端咪咕VR平臺(tái)和頭顯終端咪咕
云VR平臺(tái)用戶,提供定制化演藝內(nèi)容8KVR直播,包括LIVEHOUSE和CGT48女團(tuán)現(xiàn)場(chǎng)等
精彩內(nèi)容,為VR平臺(tái)注入不斷更新的高質(zhì)量、高清晰的直播VR節(jié)目。區(qū)別于以往節(jié)目的
現(xiàn)場(chǎng)VR套拍模式,該檔節(jié)目的制作方式完全以VR終端用戶的沉浸式和臨場(chǎng)感體驗(yàn)為優(yōu)先,
還加入了虛實(shí)結(jié)合的制作手段,提供了“觀眾藝人面對(duì)面“近距離、沉浸式和交互式體驗(yàn)。
16/32
圖2.2.54K花園與中國(guó)移動(dòng)咪咕合作推出8KVR現(xiàn)場(chǎng)奔赴計(jì)劃,為VR觀眾提供面對(duì)面的沉
浸交互體驗(yàn)
除了線上用戶的VR頭顯終端,8KVR直播應(yīng)用場(chǎng)景還可以面向線下用戶設(shè)計(jì)更多沉
浸式場(chǎng)景和體驗(yàn)方式。包括將全景直播影像通過大尺寸半球幕LED屏方式呈現(xiàn),以類似XR
的技術(shù)方式,觀眾無需佩戴VR眼鏡就可以獲得如同身臨現(xiàn)場(chǎng)的真實(shí)體驗(yàn)。
圖2.2.68KVR直播也可以在全景式LED屏上投放,為線下觀眾提供現(xiàn)場(chǎng)沉浸體驗(yàn)
4K花園與中國(guó)傳媒大學(xué)合作在2023級(jí)中傳開學(xué)典禮中,使用多機(jī)位8KVR直播系統(tǒng)
及VR群播呈現(xiàn)方案,實(shí)現(xiàn)線下群體沉浸直播觀影體驗(yàn),該場(chǎng)景也可應(yīng)用于更廣泛的跨行
業(yè)應(yīng)用中,如文旅和商業(yè)活動(dòng)、醫(yī)療教學(xué)直播、工業(yè)現(xiàn)場(chǎng)檢測(cè)、教育教學(xué)和沉浸式體育健
身等。
17/32
圖2.2.74K花園與中國(guó)傳媒大學(xué)合作在開學(xué)典禮中實(shí)現(xiàn)多機(jī)位VR直播和現(xiàn)場(chǎng)群體
VR觀看
圖2.2.86G+8KVR多機(jī)位直播及線上、線下觀影體驗(yàn)系統(tǒng)框圖
18/32
圖2.2.96G+8KVR直播場(chǎng)景的多行業(yè)跨領(lǐng)域應(yīng)用方式
2023年起一批新的3D顯示終端逐漸涌現(xiàn),特別是移動(dòng)端手機(jī)、PAD、便攜AR頭顯
等產(chǎn)品,可以基于5G、5.5G技術(shù)加持實(shí)現(xiàn)更好的移動(dòng)式立體觀影體驗(yàn),無論是3D空間視
頻體驗(yàn),或者是基于商用3D模型應(yīng)用開發(fā)等,在娛樂、教育、工業(yè)、醫(yī)療等場(chǎng)景中均能
廣泛應(yīng)用。其終端特點(diǎn)相對(duì)于VR頭顯來說,更偏輕量級(jí),制作復(fù)雜度也相對(duì)較低,更利
于普及。
圖2.2.103DLED大屏、裸眼3DPAD、3D頭戴頭顯等新型3D顯示終端
目前市面上常見的AR頭顯和3D裸眼PAD等移動(dòng)終端,屏幕的3D顯示分辨率通常在
高清1080P水平,也可以支持4K3D的解碼,所以制作端可以根據(jù)需要來輸出4K或HD級(jí)
別的雙目3D信號(hào),其直播系統(tǒng)設(shè)計(jì)與3DVR多機(jī)位直播系統(tǒng)類似,主要差異在鏡頭選擇
(VR使用魚眼鏡頭,3D一般使用中廣角鏡頭)。在制作端需要支持實(shí)時(shí)的立體匯聚調(diào)整
(3D出入屏控制)、3D畫面誤差校正(如雙鏡頭垂直、旋轉(zhuǎn)誤差等)以及保證高精度的雙
目畫面同步等功能,以避免觀眾在觀看3D時(shí)出現(xiàn)不適感。
19/32
圖2.2.11小型化多機(jī)位5G+4K/HD3D直播系統(tǒng)
3、8KVR沉浸式視頻直播的技術(shù)流程與特
點(diǎn)
本章節(jié)主要針對(duì)“未來電視“場(chǎng)景下的8K直播應(yīng)用中,較為復(fù)雜的典型應(yīng)用場(chǎng)景8KVR
沉浸式視頻直播流程的技術(shù)特點(diǎn)進(jìn)行分析和描述。
3.18KVR直播系統(tǒng)整體框架
圖3.1.18KVR直播系統(tǒng)整體框架
如圖3.1.1所示,常規(guī)8KVR直播系統(tǒng)分為8KVR內(nèi)容采集、8K實(shí)時(shí)拼接和編碼、視
頻流媒體處理,CDN(ContentDeliveryNetwork)分發(fā)傳輸,終端流媒體傳輸和渲染等。
主要工作流程如下:現(xiàn)場(chǎng)直播團(tuán)隊(duì)通過8KVR攝像機(jī)采集會(huì)場(chǎng)多路視頻信號(hào)并回傳到8K拼
接和編碼服務(wù)器;8K拼接和編碼服務(wù)器進(jìn)行實(shí)時(shí)全景視頻拼接,并編碼成8K視頻流,然
20/32
后通過SRT等傳輸協(xié)議推流到直播流媒體服務(wù)器;直播流媒體服務(wù)器對(duì)8K全景直播信號(hào)
進(jìn)行實(shí)時(shí)處理和編碼,生成適合傳輸和終端播放的編碼格式;直播云CDN將已經(jīng)編碼的直
播流分發(fā)到用戶最近的邊緣服務(wù)器;最后終端進(jìn)行VR全景直播流的下載、解碼、渲染和
呈現(xiàn)。
下面對(duì)上述關(guān)鍵業(yè)務(wù)流程進(jìn)行介紹。
3.2VR內(nèi)容采集與拼接
VR直播要求實(shí)時(shí)的內(nèi)容生產(chǎn),內(nèi)容采集依靠360°或180°8K攝像機(jī)。全景攝像機(jī)通常
具有多個(gè)鏡頭,覆蓋當(dāng)前場(chǎng)景全部視角。生成的視頻分辨率越高,則需要攝像機(jī)具有越高
的分辨率以及越多的鏡頭數(shù)量。直播時(shí)多個(gè)攝像頭同步拍攝生成多個(gè)不同角度的畫面內(nèi)容,
隨后在內(nèi)置模塊或外置服務(wù)器上進(jìn)行拼接。
目前,主流的全景攝像頭基本自帶內(nèi)置拼接模塊,支持較低分辨率的實(shí)時(shí)全景拼接。
而高清晰度的8K視頻畫面由于計(jì)算復(fù)雜度較高,則需要在外置的服務(wù)器上進(jìn)行拼接。常用
的視頻拼接算法可分為基于變換的圖像拼接算法和基于拼接線的圖像拼接算法。基于變換
的圖像拼接算法的核心思想是通過對(duì)單應(yīng)性矩陣進(jìn)行調(diào)整,通過網(wǎng)格化的扭曲使重合區(qū)域
拼接的縫隙盡可能減小,該算法適合小視角變換的情況?;谄唇泳€的圖像拼接算法核心
思想是通過對(duì)圖像拼接線部分的重新調(diào)整,確保拼接的自然性,該算法適合大視角變換的情
況。
為了達(dá)到全方位、沉浸式渲染效果,全景視頻實(shí)際上是以球面形式呈現(xiàn),然而其傳輸
過程必須遵守現(xiàn)有的視頻編碼標(biāo)準(zhǔn),即多相機(jī)拍攝的分視角視頻在經(jīng)過拼接后,需要映射
成平面矩形幀。目前主流的映射方式有圓柱型映射ERP(Equi-RectangularProjection)和
立方體映射CMP(Cube-MapProjection)兩種。圓柱型映射ERP方式與世界地圖的產(chǎn)生
相類似。立方體映射CMP首先將完整球面均分為六個(gè)區(qū)域,分別投影到立方體的六個(gè)面上,
其中底面、背面和頂面需要再通過特定的旋轉(zhuǎn)操作與其他三個(gè)面共同排列成矩形幀。為了
提高編碼效率,三個(gè)旋轉(zhuǎn)面的操作原則是使排列時(shí)面與面銜接處的媒體內(nèi)容保持連貫性。
3.3VR視頻編碼
VR直播系統(tǒng)中存在兩個(gè)編碼環(huán)節(jié),一是拼接映射的視頻需要編碼為8K的直播信號(hào),
方便再次傳輸至云端流媒體服務(wù)器;二是流媒體服務(wù)器需要將信號(hào)編碼為不同目標(biāo)碼率的
適合傳輸和終端播放的編碼格式。全景視頻的編碼與2D視頻編碼方法相似,都需要采用
混合編碼框架對(duì)序列進(jìn)行壓縮,但是全景視頻高分辨率、高形變的特點(diǎn)又使其比2D視頻
編碼面臨更多困難。將傳統(tǒng)編碼方案直接用于全景視頻主要會(huì)產(chǎn)生以下問題:1)全景視頻
或多或少地存在不均勻采樣,由此引入了幾何失真;2)全景視頻由球到面的投影增加了人
工邊界并導(dǎo)致不連續(xù),影響空間預(yù)測(cè)效率,編碼后視頻碼率高。以上兩點(diǎn)都會(huì)降低視頻編
碼效率。為了克服這些困難,研究者開發(fā)了各種專用于全景視頻的編碼工具,以在編碼效
率和視覺質(zhì)量之間取得更好的折衷,這些工作可分為以下幾類:
區(qū)域自適應(yīng)平滑技術(shù)。該技術(shù)的出發(fā)點(diǎn)是在ERP投影平面中,兩個(gè)極點(diǎn)附近的區(qū)
域要比球形區(qū)域中實(shí)際對(duì)應(yīng)的區(qū)域大很多,而實(shí)際上人眼對(duì)其不是很敏感,因此
這些區(qū)域的變形變得不那么重要。具體方案是在編碼之前對(duì)ERP投影平面的頂部
和底部區(qū)域進(jìn)行平滑處理,經(jīng)過平滑處理后的編碼可以節(jié)省很多比特,因?yàn)槠交?/p>
區(qū)域只需要較少的變換系數(shù)。該方案的優(yōu)點(diǎn)在于在節(jié)約碼率的同時(shí)幾乎不會(huì)引起
21/32
感知質(zhì)量的下降;缺點(diǎn)在于難以推廣到其他投影方式中。
率失真優(yōu)化技術(shù)。通過分析球面上的失真變化并探討其對(duì)率失真優(yōu)化過程的影響,
采用修改編碼優(yōu)化目標(biāo),實(shí)現(xiàn)了在球面上進(jìn)行率失真優(yōu)化。由于該算法是基于全
景視頻的質(zhì)量評(píng)價(jià)指標(biāo)的修改,因此可應(yīng)用于各種投影。但是率失真模型的建立
十分困難,由于目前它使用的依然是基于像素變化的評(píng)價(jià)指標(biāo),并不能很好地表
示人的真實(shí)主觀感受,優(yōu)化效果仍有待提高。
在流媒體服務(wù)器側(cè),流媒體服務(wù)器在接收到8K直播視頻流后,需要通過轉(zhuǎn)碼、封裝等
操作,形成適合在互聯(lián)網(wǎng)上進(jìn)行傳輸?shù)腄ash、HLS等流媒體格式,并通過CDN網(wǎng)絡(luò)進(jìn)行
分發(fā)和傳輸。VR常用的視頻流有兩種方式:全畫幅傳輸和基于FoV(FieldofView)的分
塊傳輸。全畫幅傳輸方式將360°環(huán)繞畫面都傳輸給終端,當(dāng)用戶頭部轉(zhuǎn)動(dòng)需要切換畫面時(shí),
不需額外下載任何視頻分塊,因此能夠較好地響應(yīng)用戶頭部運(yùn)動(dòng)。該方案的缺點(diǎn)在于傳輸
帶寬需求非常大,現(xiàn)有網(wǎng)絡(luò)條件難以有效承載。
如圖3.3.1所示,基于FoV的分塊傳輸將視頻在時(shí)間上切分為多個(gè)分片(Segment),
將分片在空間上劃分多個(gè)分塊(Tile),每個(gè)分塊擁有不同的碼率等級(jí)。服務(wù)器對(duì)源視頻進(jìn)
行轉(zhuǎn)碼,以Tile為基本單元保存不同碼率等級(jí)的視頻文件??蛻舳丝梢愿鶕?jù)需要進(jìn)行碼率
選擇,向服務(wù)器請(qǐng)求指定碼率等級(jí)的分塊。碼率選擇的基本思路是為視窗內(nèi)的分塊請(qǐng)求高
碼率,不請(qǐng)求或僅以較低碼率請(qǐng)求視窗外分塊。
圖3.3.1分塊VR視頻編碼
基于FoV的分塊傳輸方案雖然能在最大程度上利用帶寬,但高度依賴于視窗預(yù)測(cè)
(ViewportPrediction)。預(yù)測(cè)窗口較長(zhǎng)時(shí),F(xiàn)oV預(yù)測(cè)算法的精度非常有限,預(yù)測(cè)視窗和實(shí)
際視窗偏差較大,因此終端側(cè)的接收端緩沖區(qū)不宜過大;而網(wǎng)絡(luò)帶寬劇烈波動(dòng)時(shí),接收端
需要較大長(zhǎng)度的緩沖區(qū)以應(yīng)對(duì)抖動(dòng)。兩者之間存在的天然矛盾極易造成視頻黑邊和卡頓的
發(fā)生。
圖3.3.2分層VR視頻編碼
為了解決該問題,一種分層傳輸方式開始被廣泛使用。它將視頻的每個(gè)分段編碼成一
個(gè)低分辨率(比如2K)、全畫幅的基礎(chǔ)質(zhì)量分段,以及多個(gè)高分辨率的增強(qiáng)質(zhì)量分塊。終
端在觀看上述編碼的VR視頻時(shí),需要首先下載全畫幅、低分辨率的基礎(chǔ)質(zhì)量分段,以獲
得基礎(chǔ)觀看體驗(yàn);根據(jù)實(shí)際網(wǎng)絡(luò)條件,選擇性下載視場(chǎng)內(nèi)的增強(qiáng)質(zhì)量分塊。如果視窗預(yù)測(cè)
是正確的,并且增強(qiáng)質(zhì)量分塊按時(shí)交付,這樣視窗內(nèi)的視頻質(zhì)量得以增強(qiáng)。如果預(yù)測(cè)是錯(cuò)
22/32
誤的,或者增強(qiáng)質(zhì)量分塊從遠(yuǎn)端取回后已經(jīng)錯(cuò)過了播放時(shí)限,用戶仍然可以觀看基于基礎(chǔ)
質(zhì)量分段渲染的低質(zhì)量視頻。因此,這種分層全景視頻傳輸方式流在應(yīng)對(duì)動(dòng)態(tài)網(wǎng)絡(luò)和視窗
預(yù)測(cè)誤差方面都具備了較高的魯棒性。
3.4VR內(nèi)容分發(fā)
編碼后的多碼率全景視頻將會(huì)采用與傳統(tǒng)直播類似的方式進(jìn)行CDN分發(fā)。CDN通常
采用層次化網(wǎng)絡(luò)結(jié)構(gòu),包括中心節(jié)點(diǎn)、區(qū)域節(jié)點(diǎn)和邊緣節(jié)點(diǎn)。通過CDN分發(fā)網(wǎng)絡(luò),可以快
速地將8KVR直播視頻內(nèi)容推流至更接近用戶的邊緣節(jié)點(diǎn),從而大量減少直播數(shù)據(jù)流在骨
干鏈路中的并發(fā)數(shù)量,在提升用戶體驗(yàn)的同時(shí),可以有效降低網(wǎng)絡(luò)流量壓力。
隨著5G/6G和MEC(Multi-accessEdgeComputing)技術(shù)快速發(fā)展,CDN邊緣節(jié)點(diǎn)
可以部署在距離用戶更近的地方,比如熱點(diǎn)區(qū)域、5G接入網(wǎng)側(cè)等,因此更能適應(yīng)8KVR視
頻直播的低時(shí)延、高帶寬需求。同時(shí),借助虛擬化技術(shù)和人工智能技術(shù),CDN邊緣節(jié)點(diǎn)可
以更為高效地管理計(jì)算、存儲(chǔ)和網(wǎng)絡(luò)等資源,提供智能化的內(nèi)容緩存、超分辨率視頻增強(qiáng)、
云渲染等能力。
3.5VR流媒體傳輸
在8KVR直播視頻流媒體傳輸中,自適應(yīng)碼率選擇和下載調(diào)度是重要的關(guān)鍵技術(shù)之一。
考慮到不同的編碼方式,自適應(yīng)碼率選擇是指在VR客戶端在下載高分辨率Tile分塊時(shí),
根據(jù)動(dòng)態(tài)的網(wǎng)絡(luò)鏈路條件,如何選擇以哪個(gè)碼率來下載相應(yīng)的分塊;而下載調(diào)度是指,應(yīng)
該何時(shí)下載基礎(chǔ)質(zhì)量分段,何時(shí)下載增強(qiáng)質(zhì)量分塊。
自適應(yīng)碼率選擇和下載調(diào)度算法的目標(biāo)是如何在有限的帶寬下為用戶提供更好的用戶
體驗(yàn),考慮視頻卡頓、清晰度,以及對(duì)用戶頭部運(yùn)動(dòng)的響應(yīng)速度等因素。自適應(yīng)碼率選擇
和下載調(diào)度算法依賴于視場(chǎng)預(yù)測(cè)的結(jié)果,為視場(chǎng)內(nèi)的不同Tile選擇合適的碼率進(jìn)行下載。
由于Tile碼率的選擇會(huì)影響到視頻質(zhì)量、卡頓、視頻質(zhì)量波動(dòng)等決定用戶最終QoE的因素,
因此上述問題是一個(gè)復(fù)雜的動(dòng)態(tài)規(guī)劃問題。目前解決方案主要分為基于規(guī)則的啟發(fā)式方法
和基于學(xué)習(xí)的方案。傳統(tǒng)基于規(guī)則的啟發(fā)式方案計(jì)算復(fù)雜度低,但由于其通常僅考慮短期
優(yōu)化,總體性能差強(qiáng)人意;近年來,基于深度強(qiáng)化學(xué)習(xí)的方案引起了研究人員極大的興趣,
其優(yōu)勢(shì)在于在特定場(chǎng)景下能夠?qū)W習(xí)到更優(yōu)的策略,但往往會(huì)面臨魯棒性差、計(jì)算復(fù)雜度高
等問題。因此,設(shè)計(jì)低復(fù)雜度、高魯棒性的VR碼率自適應(yīng)和下載調(diào)度算法對(duì)于提升8KVR
直播用戶體驗(yàn)至關(guān)重要。
視場(chǎng)預(yù)測(cè)是8KVR直播視頻流媒體傳輸?shù)牧硪豁?xiàng)關(guān)鍵技術(shù),視場(chǎng)預(yù)測(cè)的準(zhǔn)確性將直接
影響用戶體驗(yàn)和傳輸效率。目前視場(chǎng)預(yù)測(cè)主要有兩種方式:一是基于用戶頭部運(yùn)動(dòng)歷史軌
跡進(jìn)行未來視場(chǎng)的預(yù)測(cè);二是基于內(nèi)容本身的視覺顯著性特征進(jìn)行預(yù)測(cè)?;陬^部運(yùn)動(dòng)軌
跡的預(yù)測(cè)方式僅適用于短時(shí)預(yù)測(cè),即未來1~2秒的視場(chǎng)預(yù)測(cè),長(zhǎng)期預(yù)測(cè)的準(zhǔn)確性不足;而
基于視覺顯著性特征的預(yù)測(cè)方式可以反映用戶的共同關(guān)注區(qū)域,能夠用于長(zhǎng)時(shí)預(yù)測(cè),但是
難以體現(xiàn)用戶的個(gè)性化行為,并且計(jì)算復(fù)雜度較高。因此,近年來視場(chǎng)預(yù)測(cè)的技術(shù)發(fā)展趨
勢(shì)是將二者結(jié)合起來進(jìn)行聯(lián)合預(yù)測(cè),包括采用邊端協(xié)同的視場(chǎng)預(yù)測(cè)方法。盡管如此,低復(fù)
雜度、高準(zhǔn)確性的視場(chǎng)預(yù)測(cè)方法仍然是當(dāng)前面臨的重要技術(shù)挑戰(zhàn)。
23/32
3.6云VR
8KVR通常需要在終端側(cè)進(jìn)行解碼和實(shí)時(shí)渲染,因此對(duì)于終端性能要求較高。為了降
低VR終端成本,云VR方案引起了人們的廣泛關(guān)注。云VR是指云端對(duì)交互行為進(jìn)行計(jì)算,
并實(shí)時(shí)渲染和編碼壓縮后,以視頻流形式推流到終端。依托于云渲染技術(shù),云VR將VR虛
擬現(xiàn)實(shí)的內(nèi)容和計(jì)算能力部署在云端,利用高速網(wǎng)絡(luò)將渲染后的圖像和聲音傳輸?shù)接脩艚K
端,實(shí)現(xiàn)無需高性能設(shè)備也能享受沉浸式8KVR體驗(yàn)。云VR可大幅降低用戶所需投入的
硬件成本與使用門檻,用戶僅需一款輕便的頭戴顯示器或智能手機(jī),通過云端強(qiáng)勁的GPU
渲染能力,用戶可盡情享受高清晰、高幀率、低延遲的VR體驗(yàn),提升了VR的普及程度和
便利性。
云VR涵蓋的關(guān)鍵技術(shù)包括:
分布式計(jì)算和渲染。云VR將計(jì)算和圖形渲染任務(wù)從終端設(shè)備卸載到云服務(wù)器上,
通過云端強(qiáng)大的計(jì)算資源進(jìn)行高效處理,減輕終端設(shè)備的負(fù)擔(dān)??紤]到8KVR直
播場(chǎng)景,單用戶對(duì)計(jì)算資源和網(wǎng)絡(luò)帶寬需求比較高,在并發(fā)用戶較多下,分布式
計(jì)算和渲染將成為一項(xiàng)重要關(guān)鍵技術(shù)。
低時(shí)延傳輸技術(shù)。利用5G/6G網(wǎng)絡(luò)的高帶寬和低延遲,實(shí)現(xiàn)對(duì)云端渲染的視頻流
進(jìn)行快速、穩(wěn)定地傳輸?shù)浇K端設(shè)備,將有助于保障用戶體驗(yàn)的即時(shí)性和流暢性。
另外,將CDN等計(jì)算資源下沉到網(wǎng)絡(luò)邊緣,通過在邊緣節(jié)點(diǎn)進(jìn)行數(shù)據(jù)處理,減
少傳輸延遲,提高用戶體驗(yàn)的響應(yīng)速度,特別是在處理實(shí)時(shí)的交互和渲染任務(wù)時(shí)。
用戶交互技術(shù)。實(shí)時(shí)交互,確保云端執(zhí)行的應(yīng)用能夠?qū)崟r(shí)響應(yīng)用戶的交互操作,
包括手勢(shì)、頭部運(yùn)動(dòng)等,使用戶在虛擬環(huán)境中獲得自然而流暢的交互體驗(yàn)。手勢(shì)
識(shí)別和追蹤,實(shí)現(xiàn)對(duì)用戶手勢(shì)和頭部動(dòng)作的高精度識(shí)別和追蹤,以提供更真實(shí)的
用戶交互體驗(yàn),增強(qiáng)虛擬現(xiàn)實(shí)的沉浸感。
3.78KVR現(xiàn)場(chǎng)直播系統(tǒng)的技術(shù)特點(diǎn)
前面重點(diǎn)討論了基于云端處理的8KVR直播流程。本章節(jié)討論的直播主要以面向B端
用戶的8KVR本地化直播系統(tǒng)服務(wù),其系統(tǒng)和制作標(biāo)準(zhǔn)需求以專業(yè)級(jí)內(nèi)容制作規(guī)格為主。
這里的8KVR直播,根據(jù)不同場(chǎng)景需要,既可以是單機(jī)位直播,也可以是多機(jī)位大轉(zhuǎn)
播系統(tǒng)級(jí)別直播??紤]到節(jié)目?jī)?nèi)容制作的實(shí)際需求,這里介紹的拍攝方案主要以180°2D
或3D為主;360°更適合無主體的全景影像(如風(fēng)光人文類VR紀(jì)錄片)或轉(zhuǎn)播現(xiàn)場(chǎng)中表現(xiàn)
環(huán)境的全景機(jī)位。
專業(yè)級(jí)的8KVR單機(jī)位直播系統(tǒng),可以由以下部分組成:
24/32
圖3.7.1單機(jī)位180°8KVR直播系統(tǒng)示意框圖
系統(tǒng)可以支持單鏡頭2D(4Kx4K50P)或雙鏡頭3D(4Kx4Kx250P),可以實(shí)現(xiàn)所有的
參數(shù)控制和影像處理。針對(duì)于8K3DVR攝像機(jī)信號(hào),可以完成實(shí)時(shí)的VRERP校正(將魚
眼180°畫面拉伸為等距柱狀投影畫面)、3D雙目影像誤差校正(如光軸垂直誤差的數(shù)字校
正)、攝像機(jī)影調(diào)控制(畫質(zhì)優(yōu)化處理)、攝像機(jī)參數(shù)遙控調(diào)整(如攝像機(jī)光圈、白平衡、
ISO、視音頻延時(shí)等關(guān)鍵參數(shù)等)。
另外,考慮到VR現(xiàn)場(chǎng)制作的用戶需求,本系統(tǒng)還可以直接連接VR頭顯,將8KVR信
號(hào)轉(zhuǎn)換至VR頭顯進(jìn)行實(shí)時(shí)高質(zhì)量監(jiān)看,幫助導(dǎo)演確認(rèn)VR拍攝效果,做到“所見即所得”。
單機(jī)位直播制作方式,比較適合表演方向固定的中小型舞臺(tái)類表演或者類似場(chǎng)景的活
動(dòng)(如商業(yè)電商直播、醫(yī)療工業(yè)教育類培訓(xùn)等),觀眾在一個(gè)視點(diǎn)位置基本可以獲得現(xiàn)場(chǎng)全
貌也可以關(guān)注到細(xì)節(jié)。
圖3.7.2單機(jī)位8KVR現(xiàn)場(chǎng)直播的機(jī)位設(shè)計(jì)和拍攝效果(咪咕歌舞青春8KVR現(xiàn)場(chǎng))
在單機(jī)位系統(tǒng)基礎(chǔ)上,可以擴(kuò)展為多機(jī)位大型8K2D/3DVR現(xiàn)場(chǎng)轉(zhuǎn)播系統(tǒng)。用途一般
是大型體育賽事、大型演藝活動(dòng)等。
25/32
圖3.7.3可用于小型節(jié)目3機(jī)位8K2D360°VR直播的小型系統(tǒng)(前180°3機(jī)位切換+后
180°虛擬包裝縫合為360°全景)
圖3.7.4籃球比賽中3機(jī)位VR轉(zhuǎn)播機(jī)位點(diǎn)設(shè)計(jì)
圖3.7.5支持8K3DVR50P制作的大型多機(jī)位沉浸式直播系統(tǒng)
26/32
圖3.7.6在動(dòng)感地帶街舞大賽中采用6機(jī)位8K3DVR進(jìn)行直播的機(jī)位設(shè)計(jì)
將多套8K3D180°VR相機(jī)直播設(shè)備,連接到廣播級(jí)8K切換臺(tái)即可進(jìn)行專業(yè)級(jí)的8K
VR直播制作。
由于8K3DVR信號(hào)標(biāo)準(zhǔn)為7680x3840(2:1)寬高比,需要8KVR攝像機(jī)控制處理單
元在信號(hào)輸出時(shí),采用信箱模式(上下加黑邊填充)將輸出格式轉(zhuǎn)為廣電8K分辨率標(biāo)準(zhǔn)
7680x4320(16:9),才可以進(jìn)行信號(hào)傳輸和制作;但在前端直播系統(tǒng)末級(jí),建議在編碼器
端,將最終的輸出VR信號(hào)格式再調(diào)整回2:1寬高比7680x3840信號(hào),以適配VR頭顯終端,
避免由于輸出格式不當(dāng)造成終端顯示畫面出現(xiàn)變形。一般根據(jù)現(xiàn)場(chǎng)節(jié)目呈現(xiàn)和終端輸出效
果的需求,也可以將2D攝像機(jī)拍攝畫面(如2D直播的PGM或者特寫鏡頭)以及賽事數(shù)
據(jù)模板或演藝節(jié)目介紹等信息,通過VR處理器轉(zhuǎn)換為VR適配的球面效果,再嵌入進(jìn)VR
直播畫面中;或者疊加到通過VR信號(hào)處理單元生成的后180°虛擬包裝畫面,再與前180°
實(shí)拍畫面縫合為360°的VR全景直播影像。
圖3.7.7.8K3DVR格式轉(zhuǎn)換鏈路圖
制作完成的8KVR信號(hào),接入主備路兩臺(tái)8K編碼器中,即可進(jìn)行推出8K流媒體信號(hào)。
目前在4K花園與咪咕合作的8KVR直播場(chǎng)景中,主要是基于SRT(SecureReliable
Transport)協(xié)議進(jìn)行編碼傳輸,在8K50PVR視頻規(guī)格下傳輸速率為80Mbps,以保證足
夠的8K畫面品質(zhì)。
27/32
圖3.7.8.8K3DVR直播信號(hào)處理流程
RTMP(Real-TimeMessagingProtocol)流媒體傳輸協(xié)議作為公網(wǎng)下在高清和4K階段
使用較多、平臺(tái)支持度較高的協(xié)議標(biāo)準(zhǔn),通常被用于較為穩(wěn)定的網(wǎng)絡(luò)環(huán)境中,對(duì)網(wǎng)絡(luò)質(zhì)量
要求較高。對(duì)于8K編碼直播推流,其高分辨率和高碼率可能會(huì)需要更高的帶寬和更強(qiáng)大的
服務(wù)器支持,RTMP在不穩(wěn)定網(wǎng)絡(luò)條件下可能會(huì)出現(xiàn)問題。盡管RTMP沒有設(shè)定固定的視
頻碼率上限,但在面對(duì)非常高的碼率時(shí)可能會(huì)受到限制,特別是在不穩(wěn)定的網(wǎng)絡(luò)條件下。
另外,RTMP在傳輸時(shí)可能會(huì)有較大的延遲,對(duì)于要求較低延遲的應(yīng)用場(chǎng)景可能不太合適。
SRT被設(shè)計(jì)用于在不穩(wěn)定網(wǎng)絡(luò)條件下提供可靠的流媒體傳輸,它包含了多種技術(shù),例
如錯(cuò)誤糾正、動(dòng)態(tài)調(diào)整帶寬、重傳機(jī)制等,這些特性使得SRT在處理高碼率視頻時(shí)表現(xiàn)更
為穩(wěn)定和魯棒。在傳輸8K視頻這樣高分辨率和高碼率的內(nèi)容時(shí),SRT可能比RTMP更適合。
因SRT有能力在網(wǎng)絡(luò)條件不佳的情況下,保持較高的傳輸品質(zhì),而且能夠靈活地調(diào)整帶寬
以適應(yīng)不同的網(wǎng)絡(luò)狀況。即使在網(wǎng)絡(luò)不穩(wěn)定的情況下,SRT也有可能更好地維持高碼率視
頻的傳輸穩(wěn)定性和質(zhì)量。
4.未來電視對(duì)6G移動(dòng)網(wǎng)絡(luò)的需求
6G移動(dòng)網(wǎng)絡(luò)和5G網(wǎng)絡(luò)相比,最顯著的優(yōu)勢(shì)在于用戶的實(shí)際體驗(yàn)速率可以躍升至Gbps
這個(gè)級(jí)別,包括更低的時(shí)延,這也是5G網(wǎng)絡(luò)所不具備的條件。
用戶體驗(yàn)速率時(shí)延
>=1Gbps<2.5ms
在“未來電視”應(yīng)用場(chǎng)景中,前端制作域所需的實(shí)時(shí)數(shù)據(jù)處理和傳輸量級(jí)是遠(yuǎn)遠(yuǎn)大于用
戶接收和觀看需求的。由于廣電級(jí)別視音頻信號(hào)制作對(duì)于信號(hào)質(zhì)量和傳輸處理延時(shí)都有極
高要求,過往在現(xiàn)場(chǎng)轉(zhuǎn)播系統(tǒng)中,基本都是采用非壓縮視頻信號(hào)規(guī)格,其10bit4:2:2標(biāo)準(zhǔn)
下的高清50i、高清50P、4K50P和8K50P的信號(hào)數(shù)據(jù)碼率分別達(dá)到1.5Gbps、3Gbps、
12Gbps、48Gbps。如此大的數(shù)據(jù)量對(duì)于無線傳輸來說,在6G時(shí)代以前,無論是5G還是
微波等,都不可能滿足,所以就必須使用高壓縮編解碼流程來降低數(shù)據(jù)量以便傳輸,而這
樣的代價(jià)除了圖像質(zhì)量下降之外,還有就是會(huì)額外增加高壓縮復(fù)雜處理算法所帶來的編解
28/32
碼處理延時(shí),從而導(dǎo)致為了使用5G無線網(wǎng)絡(luò)進(jìn)行傳輸,所產(chǎn)生的實(shí)際延時(shí)總量可能遠(yuǎn)遠(yuǎn)
超出了理論值或者理想預(yù)期。
6G移動(dòng)網(wǎng)絡(luò)所帶來的實(shí)際用戶體驗(yàn)速率指標(biāo),大于1Gbps,也就意味著,無需采用復(fù)
雜高壓縮編碼,特別是針對(duì)大數(shù)據(jù)量的4K乃至8K視頻,采用10:1左右的前壓縮比,將實(shí)
際數(shù)據(jù)量降低到1.2Gbps和4.8Gbps這個(gè)量級(jí),如JPEG-XS前壓縮編碼方式,就可以兼顧
高質(zhì)量圖像和高編碼效率,同樣帶來更低的編碼延時(shí)。
JPEG-XS是JPEG國(guó)際委員會(huì)制定的新國(guó)際標(biāo)準(zhǔn),該標(biāo)準(zhǔn)可在低壓縮比的場(chǎng)景下,實(shí)現(xiàn)
視覺無損壓縮。JPEG-XS是一種
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
- 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 人人文庫(kù)網(wǎng)僅提供信息存儲(chǔ)空間,僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
- 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。
最新文檔
- 2025年河北省公需課學(xué)習(xí)-環(huán)境保護(hù)稅征收管理實(shí)務(wù)1727
- 2025年會(huì)計(jì)應(yīng)用軟件題庫(kù)及答案
- 民生銀行筆試題庫(kù)及答案
- 山東醫(yī)師職稱考試題及答案
- 適合初中寫的試卷及答案
- 外包剪輯合同范本
- 安徽自考會(huì)計(jì)真題及答案
- 鴻基租房中介合同范本
- 私宅和土地合同范本
- 石材直播供貨合同范本
- 2025年河北地質(zhì)大學(xué)第二次公開招聘工作人員65人備考題庫(kù)完整答案詳解
- 2025年勞動(dòng)合同(兼職設(shè)計(jì)師)
- 2025至2030中國(guó)牙科高速手機(jī)行業(yè)調(diào)研及市場(chǎng)前景預(yù)測(cè)評(píng)估報(bào)告
- 2025年監(jiān)理工程師考試《土建案例》真題及答案解析(完整版)
- 土地整治考試試題及答案
- 2026屆上海市寶山區(qū)高三上學(xué)期一模數(shù)學(xué)試卷及答案解析
- 毛筆書法春聯(lián)課程
- 遼寧執(zhí)法考試題庫(kù)及答案
- 喉水腫護(hù)理課件
- 電大建筑??啤督ㄖ茍D基礎(chǔ)》期末上機(jī)考試題庫(kù)
- 管理崗位工作述職報(bào)告
評(píng)論
0/150
提交評(píng)論