虛擬現(xiàn)實技術(shù)主講：吳慧欣課程的主要內(nèi)容虛擬現(xiàn)實與系統(tǒng)仿真的基本概念和術(shù)語虛擬現(xiàn)實與系統(tǒng)仿真的基礎(chǔ)方法

虛擬現(xiàn)實有關(guān)的人的因素，虛擬現(xiàn)實的接口設(shè)備和計算機設(shè)備虛擬現(xiàn)實的建模技術(shù)虛擬現(xiàn)實的應(yīng)用相關(guān)知識背景虛擬現(xiàn)實技術(shù)學(xué)習(xí)的知識背景是什么樣的？計算機原理、體系結(jié)構(gòu)、操作系統(tǒng)、網(wǎng)絡(luò)、軟件工程、程序設(shè)計、數(shù)據(jù)結(jié)構(gòu)、電子學(xué)、圖形學(xué)與CAD、系統(tǒng)分析、人工智能虛擬現(xiàn)實概述虛擬現(xiàn)實的接口設(shè)備虛擬現(xiàn)實的計算機技術(shù)虛擬現(xiàn)實的建模和仿真技術(shù)虛擬現(xiàn)實的應(yīng)用課程目錄學(xué)習(xí)重點和難點虛擬現(xiàn)實的基本概念；人的視覺系統(tǒng)和虛擬現(xiàn)實的視覺顯示技術(shù)；各類位姿跟蹤系統(tǒng)的技術(shù)；力覺和觸覺反饋技術(shù)；虛擬現(xiàn)實的計算機系統(tǒng)；虛擬現(xiàn)實的工具軟件系統(tǒng)；分布式虛擬現(xiàn)實系統(tǒng)。第一章虛擬現(xiàn)實概述

課前索引

第一節(jié)虛擬現(xiàn)實的基本概念

第二節(jié)虛擬現(xiàn)實有關(guān)的人的因素

章節(jié)小結(jié)

課后習(xí)題課前索引兩個問題1．什么是虛擬現(xiàn)實？2．虛擬現(xiàn)實與人有什么關(guān)系？點擊觀看VRML演示第一節(jié)虛擬現(xiàn)實的基本概念虛擬現(xiàn)實的概念有關(guān)的其它概念虛擬現(xiàn)實的特點虛擬現(xiàn)實的應(yīng)用領(lǐng)域虛擬現(xiàn)實的技術(shù)1虛擬現(xiàn)實虛擬現(xiàn)實這個概念最早是由誰在什么時間提出的？1989年，美國VPLResearch公司創(chuàng)始人JaronLanier提出了“VirtualReality”（虛擬現(xiàn)實）的概念。如何理解“虛擬”這個詞？“Virtual”說明，這個世界或環(huán)境是虛擬的，不是真實的。這個世界或環(huán)境是人工構(gòu)造的，是存在于計算機內(nèi)部的。用戶應(yīng)該能夠“進(jìn)入”這個虛擬的環(huán)境中。所謂“進(jìn)入”這個虛擬的環(huán)境中，是指用戶以自然的方式與這個環(huán)境交互如何理解“交互”這個詞？包括感知環(huán)境并干預(yù)環(huán)境，從而產(chǎn)生置身于相應(yīng)的真實環(huán)境中的虛幻感，沉浸感，身臨其境的感覺。虛擬現(xiàn)實或虛擬環(huán)境系統(tǒng)包括哪些？包括人類操作者、人機接口和計算機問題請給出正確與錯誤的判別使用虛擬現(xiàn)實系統(tǒng)的標(biāo)志就是使用頭盔式立體顯示器和數(shù)據(jù)手套。虛擬現(xiàn)實系統(tǒng)應(yīng)用最多的專用設(shè)備是頭盔式立體顯示器和數(shù)據(jù)手套。于是，有人以使用這些專用設(shè)備為虛擬現(xiàn)實系統(tǒng)的標(biāo)志。這種觀點是不準(zhǔn)確的。頭盔式立體顯示器和數(shù)據(jù)手套等設(shè)備，只是當(dāng)前已經(jīng)實現(xiàn)的一部分虛擬顯示設(shè)備。它們還很不完善。例如，頭盔的視場，分辨率，造成眩暈等問題還有待解決。聽覺接口和力覺接口等設(shè)備還在研究，應(yīng)用還不多。味覺，嗅覺，運動覺等技術(shù)，還缺乏研究。關(guān)于虛擬仿真虛擬現(xiàn)實系統(tǒng)中的虛擬環(huán)境，都是現(xiàn)實世界不存在的場景嗎？不是，可能有下列幾種情況：第一種情況是模仿真實世界中的環(huán)境。例如，建筑物，武器系統(tǒng)，或戰(zhàn)場環(huán)境。這種真實環(huán)境，可能是已經(jīng)存在的，也可能是已經(jīng)設(shè)計好但還沒有建成的。為了逼真地模仿真實世界中的環(huán)境，要求逼真地建立幾何模型和物理模型。環(huán)境的動態(tài)應(yīng)符合物理規(guī)律。這一類虛擬現(xiàn)實系統(tǒng)的功能，實際是系統(tǒng)仿真。點擊觀看居室環(huán)境的仿真和漫游例子2和虛擬現(xiàn)實有關(guān)的幾個概念虛擬環(huán)境(VirtualEnvironment)系統(tǒng)或虛擬現(xiàn)實(VirtualReality)系統(tǒng)包括人類操作者、人機接口和計算機遙操作(Teleoperator)系統(tǒng)包括人類操作者、人機接口和遙機器人增強現(xiàn)實(AugmentedReality)系統(tǒng)組合了虛擬環(huán)境和真實環(huán)境合成環(huán)境(SyntheticEnvironment)系統(tǒng)是遙操作系統(tǒng)、虛擬環(huán)境系統(tǒng)、增強現(xiàn)實系統(tǒng)等的總稱。關(guān)于虛擬現(xiàn)實系統(tǒng)對于虛擬現(xiàn)實系統(tǒng)，與用戶交互的環(huán)境實際是人工構(gòu)造的，存在于計算機內(nèi)部的環(huán)境。這種虛擬的環(huán)境，可能有幾種情況：一種情況是真實環(huán)境的仿真。例如，仿真真實建筑物的虛擬建筑物。這種真實建筑物可能是已經(jīng)建成的，也可能是已經(jīng)設(shè)計好但尚未建成的。一種情況是完全虛擬的人造環(huán)境。例如在虛擬風(fēng)洞中，借助可視化技術(shù)構(gòu)造的虛擬風(fēng)洞環(huán)境。又如在三維動畫中，人工構(gòu)造的虛擬環(huán)境。關(guān)于遙操作系統(tǒng)為什么要針對虛擬現(xiàn)實系統(tǒng)提出這么多概念？概念之間的區(qū)別？這些概念之間的區(qū)別在于與用戶交互的環(huán)境不同。虛擬現(xiàn)實系統(tǒng)的環(huán)境是怎樣的？真實環(huán)境的仿真完全虛擬的人造環(huán)境遙操作系統(tǒng)的環(huán)境是怎樣的？對于遙操作系統(tǒng)，與用戶交互的環(huán)境實際是在遠(yuǎn)地的一個真實的環(huán)境。用戶通過類似虛擬現(xiàn)實系統(tǒng)的人機接口，與遠(yuǎn)處的真實環(huán)境交互。也就是看到真實環(huán)境的場景，聽到真實環(huán)境的聲音，感到與環(huán)境中物體的接觸。遙操作系統(tǒng)實際上是高級的遙控系統(tǒng)，是采用了先進(jìn)的虛擬現(xiàn)實技術(shù)的遙控系統(tǒng)。3虛擬現(xiàn)實的特點基于虛擬現(xiàn)實的基本概念，可以得到虛擬現(xiàn)實的下列三個特點。1．人機接口的內(nèi)容計算機提供“環(huán)境”,不是“數(shù)據(jù),信息”。這改變了人機接口的內(nèi)容。2．人機接口的形式操作者由視覺,聽覺,力覺感知環(huán)境,由自然的動作操作環(huán)境,不是由屏幕,鍵盤,鼠標(biāo)和計算機交互。這改變了人機接口的形式。3．人機接口的效果逼真的感知和自然的動作，使人產(chǎn)生身臨其境的感覺。這改變了人機接口的效果。

人機接口內(nèi)容的改變計算機提供“環(huán)境”,不是“數(shù)據(jù),信息”。這改變了人機接口的內(nèi)容。虛擬現(xiàn)實的這個特點體現(xiàn)了計算機應(yīng)用的新方向。計算機的名稱體現(xiàn)了它的最早應(yīng)用是計算。當(dāng)時，計算機和用戶交互的是計算有關(guān)的數(shù)值。此后，計算機擴大到處理數(shù)值，字符串，文本等各類數(shù)據(jù)。以后，計算機更擴大到處理圖像，圖形，聲音，語言等多種媒體的信息。虛擬現(xiàn)實系統(tǒng)則以環(huán)境為計算機處理的對象和人機交互的內(nèi)容。這開拓了計算機應(yīng)用的新思路。

數(shù)值--------各類數(shù)據(jù)---------多媒體信息---------環(huán)境人機接口的內(nèi)容的變化：人機接口的形式的改變操作者由視覺,聽覺,力覺感知環(huán)境,由自然的動作操作環(huán)境,不是由屏幕,鍵盤,鼠標(biāo)和計算機交互。這改變了人機接口的形式這個特點體現(xiàn)了計算機人機接口的新方向。至今為止的計算機人機接口都是面向機器的。人機接口有哪些？終端，鍵盤，鼠標(biāo)，打印機等接口設(shè)備，都是適應(yīng)計算機的專用設(shè)備。這些設(shè)備很好地完成了各類數(shù)據(jù)和多媒體信息的交互。

虛擬現(xiàn)實中的人機接口，則是面向用戶的。虛擬現(xiàn)實系統(tǒng)中，用戶以自然的方式與虛擬環(huán)境交互。如何理解自然的方式呢？所謂自然的方式，是指用戶通過視覺，聽覺，觸覺等感覺虛擬環(huán)境，使用戶產(chǎn)生在真實環(huán)境中的幻覺。同時，用戶通過在真實環(huán)境中的行為，去干預(yù)虛擬環(huán)境。于是，虛擬現(xiàn)實的人機接口設(shè)備，完全不同于現(xiàn)有計算機的人機接口設(shè)備。這也是虛擬現(xiàn)實技術(shù)中最有特色的內(nèi)容。人機接口的效果的改變逼真的感知和自然的動作，使人產(chǎn)生身臨其境的感覺。這改變了人機接口的效果這個特點體現(xiàn)了計算機人機接口的新要求。用戶通過人機接口與虛擬環(huán)境交互的結(jié)果，是使用戶產(chǎn)生身臨其境的虛幻感，沉浸感。虛擬現(xiàn)實的概念中有三個I：（1）Immersion(沉浸)，是指逼真的，身臨其境的感覺。（2）Interaction(交互)，是指用戶感知與操作環(huán)境（3）Imagination(想象)，是指創(chuàng)造性。4虛擬現(xiàn)實的應(yīng)用領(lǐng)域1．娛樂2．國防3．設(shè)計、制造和銷售4．醫(yī)療和健康5．危險操作6．訓(xùn)練7．教育8．信息可視化9．遠(yuǎn)程交往與遠(yuǎn)程游歷

關(guān)于“超越時空的紫禁城”“故宮博物院與IBM合作的文化遺產(chǎn)項目———“超越時空的紫禁城”正式啟動。這一為期兩年的合作項目旨在創(chuàng)建一個在線的虛擬復(fù)制的紫禁城，將運用全球領(lǐng)先的觀眾互動體驗系統(tǒng)和實時高科技手段，把故宮本身及其散布于各處的文物集中展示在一個三維的網(wǎng)上“紫禁城”里?！?虛擬現(xiàn)實的技術(shù)1．VR的人機接口2．VR的計算機系統(tǒng)3．VR的建模和仿真

VR的人機接口VR的人機接口的作用是什么？其一是給人類操作者提供環(huán)境信息通過什么方式提供環(huán)境信息？視覺、聽覺和觸覺包括哪些通道接口？視覺通道、聽覺通道、觸覺通道、運動接口和其他接口其二是感覺人類操作者的動作和響應(yīng)通過哪些方式來實現(xiàn)？位置跟蹤和映射，語音識別等。（1）位置跟蹤和映射“位置跟蹤和映射”如何感覺人類操作者的動作和相應(yīng)？測量人體各部位的位置和姿態(tài)分析判斷人面部的表情“位置跟蹤和映射”它的目的是什么？了解人的身體行為這是為了實現(xiàn)人機交互所必需的系統(tǒng)功能。VR系統(tǒng)由此了解人的行為，然后做出適當(dāng)?shù)捻憫?yīng)，實現(xiàn)交互。“位置跟蹤和映射”要完成的基本目標(biāo)有哪些？基本目標(biāo)是精確完成位置和姿態(tài)的測量。三個主要的要求：大范圍的線性響應(yīng)高帶寬（1kHz）允許頭和身體的運動。“位置跟蹤和映射”常用的技術(shù)包括：機械鏈接磁傳感器聲傳感器光傳感器慣性傳感器

（2）視覺通道視覺通道的作用是什么？給人的視覺系統(tǒng)提供圖形顯示。為了提供身臨其境的逼真感覺，視覺通道應(yīng)該滿足的要求有哪些？顯示的像素應(yīng)該足夠小，使人不至于感覺到像素的不連續(xù)顯示的頻率應(yīng)該足夠高，使人不至于感覺到畫面的不連續(xù)給兩眼提供具有雙目視差的圖形，形成立體視覺。應(yīng)該具有足夠大的視場，理想情況是顯示畫面充滿整個視場。視覺通道的顯示表面目前有哪些種類？基于CRT基于LCD。視覺通道的光學(xué)系統(tǒng)有哪些種類？頭盔顯示(HMD)非頭盔顯示(OHD)專用頭盔圖（3）聽覺通道聽覺通道的作用是什么？給人的聽覺系統(tǒng)提供聲音顯示。為了提供身臨其境的逼真感覺，聽覺通道應(yīng)該滿足哪些要求？使人感覺置身于立體的聲場之中能識別聲音的類型和強度能判定聲源的位置。

聽覺通道的關(guān)鍵技術(shù)有哪些？合成由接口提供的虛擬聲音信號聲音在虛擬空間定位問題發(fā)聲設(shè)備。（4）觸覺通道觸覺通道的作用是什么？給人體表面提供觸覺和力覺。當(dāng)人體在虛擬空間中運動時，如果接觸到虛擬物體，虛擬顯示系統(tǒng)應(yīng)該給人提供這種觸覺和力覺。觸覺通道涉及操作以及感覺包括哪些？觸覺反饋力覺反饋。觸覺通道的設(shè)備分類？安裝在身體上的設(shè)備安裝在地面的設(shè)備。（5）運動接口人體在環(huán)境中的運動是如何分類的？身體的被動運動如在車上的運動身體主動運動漫游，如散步。人在運動中，人體內(nèi)部的運動感覺器官可以感知運動信息。感知運動信息的器官有哪些？前庭系統(tǒng)運動系統(tǒng)視覺聽覺系統(tǒng)本體感受，動覺和觸覺

運動接口的作用是什么？應(yīng)該給這些器官提供運動信息。（6）其它類型接口還有那些其它類型接口？嗅覺、味覺通道感覺熱、風(fēng)及濕度的接口還包括語音通訊（語音識別與合成）以及直接心理感覺和控制。其他類型的接口的研究現(xiàn)狀？目前還缺乏研究2．VR的計算機系統(tǒng)現(xiàn)有的虛擬現(xiàn)實系統(tǒng)，主要的通道是什么？現(xiàn)有的虛擬系統(tǒng)現(xiàn)實主要考慮視覺通道。聽覺通道和觸覺通道還處于研究階段。VR的計算機系統(tǒng)主要考慮的通道是什么？所以，VR的計算機系統(tǒng)主要考慮視覺通道的要求。

VR的計算機系統(tǒng)的視覺通道（1）視覺通道對計算機系統(tǒng)硬件的要求首先是要求維持足夠的圖形幀速率這要求在指定的時間內(nèi)（約為0.1秒）計算出兩眼的兩幅圖像。同時要求提供足夠好質(zhì)量的圖像這一般體現(xiàn)在圖像中顯示的多邊形或三角形的數(shù)目。因此，往往需要專用硬件。圖形硬件應(yīng)提供快速幾何變換、截取、消隱、多邊形填充和表面紋理等多項處理。（2）視覺通道對計算機系統(tǒng)軟件的要求VR系統(tǒng)中的軟件主要包括下列幾種：交互軟件：利用人機控制設(shè)備的輸出去修改VE。視覺漫游軟件：控制用戶在VE中運動時看到的場景。建模軟件：定義虛擬物體形狀、外觀和屬性的模型。操作系統(tǒng)支持VE的實時多模態(tài)要求。（3）視覺通道對計算機系統(tǒng)網(wǎng)絡(luò)的要求分布式交互仿真分布式交互仿真已經(jīng)成為現(xiàn)代仿真技術(shù)，特別是軍事仿真的潮流。通訊網(wǎng)絡(luò)可以把VE轉(zhuǎn)換成共享的分布式計算環(huán)境。

3．VR的建模和仿真（1）VR的建模包括：幾何建模和物理建模VR的幾何建模一般的VR工具軟件都具有幾何建模功能。利用現(xiàn)有的CAD建模工具也是常用的方法。市場上已有商業(yè)模型庫出售。對實際物體的建模，則采用激光掃描等專用設(shè)備。VR的物理建模物理建模是基于物理方程的建模。一般考慮剛體建模，鏈接物體的建模，以及非剛體的建模。智能體建模不是基于物理方程，而是基于人為的物體智能思考題什么是剛體？在任何力的作用下，體積和形狀都不發(fā)生改變的物體叫做“剛體”(Rigidbody)。它是力學(xué)中的一個科學(xué)抽象概念，即理想模型。事實上任何物體受到外力，不可能不改變形狀。實際物體都不是真正的剛體。若物體本身的變化不影響整個運動過程，為使被研究的問題簡化，可將該物體當(dāng)作剛體來處理而忽略物體的體積和形狀，這樣所得結(jié)果仍與實際情況相當(dāng)符合。例如，物理天平的橫梁處于平衡狀態(tài)，橫梁在力的作用下產(chǎn)生的形變很小，各力矩的大小都幾乎不變。對于形變，實際是存在的，但可不予考慮。為此在研究天平橫梁平衡的問題時，可將橫梁當(dāng)作剛體。什么是智能體？智能體，顧名思義：就是具有智能的實體，英文名是Agent.

智能體是人工智能領(lǐng)域中一個很重要的概念。任何獨立的能夠思想并可以同環(huán)境交互的實體都可以抽象為智能體?？梢钥醋魇悄軌蛲ㄟ^傳感器感知其環(huán)境，并借助于執(zhí)行器作用于該環(huán)境的任何事物。例如對于人Agent，其傳感器為眼睛耳朵和其他感官，其執(zhí)行器為手、腿、嘴和身體的其他部分。對于軟件Agent，則同過編碼位的字符串進(jìn)行感知和作用。

3．VR的建模和仿真（2）仿真仿真包括：圖形繪制和三維動畫。圖形繪制是把三維環(huán)境，相對于虛擬攝像機（虛擬視點）投影，形成圖像的過程。圖形繪制要求為了提供連續(xù)運動的錯覺，幀速率必須大于每秒8到10幀。為了保持瞬間交互控制的錯覺，響應(yīng)時間的延遲必須小于0.1秒。為了繪制人眼可分辨的所有細(xì)節(jié)，這要求有8千萬個多邊形。然而，用今天的硬件，每個畫面8千萬多邊形的系統(tǒng)對真正的實時交互是太慢了，于是存在真實圖像與實時交互間的折衷。某些應(yīng)用（如建筑和藝術(shù)）可能要求照片一樣真實的繪制。制造和醫(yī)療應(yīng)用要求更高層次的實時交互。（2）仿真仿真包括：圖形繪制和三維動畫。三維動畫可以用兩種途徑實現(xiàn):1：基于物理模型的數(shù)值計算。屬于滿足物理規(guī)律的仿真技術(shù)，用于軍事和工業(yè)等方面。2：數(shù)學(xué)插值。這種技術(shù)在三維動畫電影中獲得了巨大的成功。

虛擬現(xiàn)實開發(fā)系統(tǒng)的方塊圖用戶通過輸入輸出設(shè)備與輸入輸出軟件交互。輸入軟件通過形狀編輯器完成幾何建模，通過聲音編輯器完成虛擬聲音系統(tǒng)建模。然后，在世界編輯器完成虛擬環(huán)境的建模。其中的虛擬剪切器，用于模型的剪切。建立的模型，保存在虛擬世界中。整個工作在計算機系統(tǒng)中完成第二節(jié)虛擬現(xiàn)實有關(guān)的人的因素為什么要討論人的因素？計算機，接口和用戶是VR系統(tǒng)中的三個組成部分。接口設(shè)計必須考慮人的因素，人的因素與VR系統(tǒng)性能直接相關(guān)。虛擬現(xiàn)實中有關(guān)的人的因素具體有哪些方面？人眼人耳身體感覺虛擬現(xiàn)實有關(guān)的人的因素----人眼1．視覺生理結(jié)構(gòu)2．立體視覺3．屈光度4．瞳孔5．分辨力6．明暗適應(yīng)7．周圍視覺和中央視覺8．視覺暫留9．視場1．視覺生理結(jié)構(gòu)

大腦皮層（CerebralCortex）是大腦半球的最外層，它負(fù)責(zé)各種形式的感覺。視網(wǎng)膜（Retina）是在每只眼背部的神經(jīng)細(xì)胞的多層膜，它把光轉(zhuǎn)成電信號，并通過視神經(jīng)和管道傳給大腦。

下圖表示，視網(wǎng)膜的解剖圖。圖中顯示了層，管道和神經(jīng)。

光感受器（Photoreceptor）是每只眼睛視網(wǎng)膜中1.25億個神經(jīng)細(xì)胞中的一部分，它在受到特定波長的光的刺激時，會發(fā)出電信號。視網(wǎng)膜是眼的光敏層，幾百微米厚，有10層。光線通過其中8層，被另外兩層的視桿細(xì)胞和視錐細(xì)胞的光接收器（Photoreceptor）吸收。每只眼的視網(wǎng)膜上有1.25億個神經(jīng)細(xì)胞。脊椎動物有兩種光感受器，：視桿細(xì)胞（rods）負(fù)責(zé)低分辨率的、單色的、夜間的視覺。視錐細(xì)胞（cones）負(fù)責(zé)高分辨率的、彩色的、白天的視覺。它花費25ms把光轉(zhuǎn)成電信號，再送給大腦。右圖表示，視網(wǎng)膜內(nèi)光感受器的解剖圖。圖中桿狀細(xì)胞和錐狀細(xì)胞在上部，通向大腦的視神經(jīng)纖維在下部。2．立體視覺視覺的另一個重要因素是立體視覺能力。提供給人類視覺的圖像，必須使人感覺是立體的。這樣，觀看者的視覺系統(tǒng)就可以計算出被看物體的遠(yuǎn)近。對同一個場景，兩眼得到稍有差別的視圖。左視區(qū)的信息，送到兩眼視網(wǎng)膜的右側(cè)。在視交叉處，左眼的一半神經(jīng)纖維交叉到大腦的右半球，左眼的另一半神經(jīng)纖維不交叉，直接到大腦的左半球。這樣，兩眼得到的左視區(qū)的所有信息，都送到右半球。右圖表示，人類立體視覺的原理圖。HMD（頭盔顯示器）提供兩個顯示，不但應(yīng)保持雙目視差，而且應(yīng)該重疊。實際上,由于兩眼有6.5cm的瞳距，所以兩者視場總有些差別,有不重疊的區(qū)域。對中央凹區(qū)域，深度感在150m時減弱。對周圍視覺，深度感在100m減弱。而在這個距離上，雙目視差不是最有用的，運動視差和透視可能更有用。

3．屈光度與眼的光學(xué)部分有關(guān)的一個度量是"屈光度"（dioptre）。有1個屈光度的鏡頭，可以聚焦平行光線在1米距離。人眼的聚焦能力約60屈光度，這表明聚焦平行光在17mm距離，這就是眼球尺寸，是晶狀體和視網(wǎng)膜的距離。年