CN114979418B 圖像處理裝置(株式會(huì)社東芝)_第1頁(yè)
CN114979418B 圖像處理裝置(株式會(huì)社東芝)_第2頁(yè)
CN114979418B 圖像處理裝置(株式會(huì)社東芝)_第3頁(yè)
CN114979418B 圖像處理裝置(株式會(huì)社東芝)_第4頁(yè)
CN114979418B 圖像處理裝置(株式會(huì)社東芝)_第5頁(yè)
已閱讀5頁(yè),還剩52頁(yè)未讀, 繼續(xù)免費(fèi)閱讀

下載本文檔

版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)

文檔簡(jiǎn)介

(12)發(fā)明專利2021-0288302021.02.25(72)發(fā)明人柏木正子三島直關(guān)晃仁審查員張述照?qǐng)D像處理裝置2測(cè)區(qū)域3圖像中的被攝體的距離而非線性地變化的模糊使在第二圖像中表現(xiàn)的顏色的數(shù)量降低的顏色2存儲(chǔ)單元,保存統(tǒng)計(jì)模型,該統(tǒng)計(jì)模型通過學(xué)習(xí)模糊而被生成,該模糊是在受到光學(xué)系統(tǒng)的像差的影響的第一圖像中產(chǎn)生的、根據(jù)到該第一圖像中的被攝體的距離而非線性地變化的模糊;圖像取得單元,取得受到了所述光學(xué)系統(tǒng)的像差的影響的第二圖像;修正單元,以所述第二圖像中包含的預(yù)先確定的尺寸的第一區(qū)域?yàn)閱挝粚?duì)該第二圖像距離取得單元,將對(duì)所述第二圖像進(jìn)行了白平衡修正后得到的第三圖像輸入至所述統(tǒng)計(jì)模型,并取得第一距離信息,該第一距離信息表示到該第三圖像中的被攝體的距離,所述第一區(qū)域是對(duì)所述像差與到所述被攝體的距離之間的關(guān)系性不造成影響的區(qū)域。2.根據(jù)權(quán)利要求1所述的圖像處理裝置,其中,對(duì)所述像差與到所述被攝體的距離之間的關(guān)系性不造成影響的區(qū)域是所述第二圖像中包含根據(jù)到所述被攝體的距離而產(chǎn)生的模糊在內(nèi)的尺寸的區(qū)域。3.根據(jù)權(quán)利要求2所述的圖像處理裝置,其中,所述修正單元基于包含第一像素的所述第一區(qū)域所包含的多個(gè)第二像素的像素值來計(jì)算針對(duì)該第一像素的第一修正系數(shù),使用該第一修正系數(shù)進(jìn)行針對(duì)該第一像素的像素值的白平衡修正。4.根據(jù)權(quán)利要求1至3中任一項(xiàng)所述的圖像處理裝置,其中,還具備輸出單元,所述統(tǒng)計(jì)模型推定到所述第三圖像中的被攝體的距離,并且計(jì)算第一不可靠度,該第一不可靠度表示針對(duì)所推定出的所述距離的不可靠度的程度,所述輸出單元輸出第一距離信息,該第一距離信息表示所述第一不可靠度為閾值以下的距離。5.根據(jù)權(quán)利要求1所述的圖像處理裝置,其中,所述統(tǒng)計(jì)模型推定到所述第三圖像中的被攝體的距離,并且計(jì)算第一不可靠度,該第一不可靠度表示針對(duì)所推定出的所述距離的不可靠度的程度,所述修正單元根據(jù)基于所述第一不可靠度的用戶的操作,以尺寸與所述第一區(qū)域不同的第二區(qū)域?yàn)閱挝粚?duì)所述第二圖像進(jìn)行白平衡修正,所述距離取得單元將以所述第二區(qū)域?yàn)閱挝粚?duì)所述第二圖像進(jìn)行了白平衡修正后的第四圖像輸入至所述統(tǒng)計(jì)模型,取得第二距離信息,該第二距離信息表示到該第四圖像中的被攝體的距離。6.根據(jù)權(quán)利要求5所述的圖像處理裝置,其中,還具備輸出單元,所述統(tǒng)計(jì)模型推定到所述第四圖像中的被攝體的距離,并且計(jì)算第二不可靠度,該第二不可靠度表示針對(duì)所推定出的所述距離的不可靠度的程度,所述輸出單元根據(jù)基于所述第二不可靠度的所述用戶的操作,來輸出所述第二距離信7.根據(jù)權(quán)利要求1所述的圖像處理裝置,其中,所述統(tǒng)計(jì)模型推定到所述第三圖像中的被攝體的距離,并且計(jì)算第一不可靠度,該第3一不可靠度表示針對(duì)所推定出的所述距離的不可靠度的程度,所述修正單元在所述第一不可靠度不為閾值以下的情況下,以尺寸與所述第一區(qū)域不同的第二區(qū)域?yàn)閱挝粚?duì)所述第二圖像進(jìn)行白平衡修正,所述距離取得單元將以所述第二區(qū)域?yàn)閱挝粚?duì)所述第二圖像進(jìn)行了白平衡修正后的第四圖像輸入至所述統(tǒng)計(jì)模型,取得第二距離信息,該第二距離信息表示到該第四圖像中的被攝體的距離。8.根據(jù)權(quán)利要求7所述的圖像處理裝置,其中,還具備輸出單元,所述統(tǒng)計(jì)模型推定到所述第四圖像中的被攝體的距離,并且計(jì)算第二不可靠度,該第二不可靠度表示針對(duì)所推定出的所述距離的不可靠度的程度,所述輸出單元在所述第二不可靠度為閾值以下的情況下,輸出所述第二距離信息。4圖像處理裝置[0001]本申請(qǐng)以日本專利申請(qǐng)2021-028830(申請(qǐng)日:2021年2月25日)為基礎(chǔ),從該申請(qǐng)享有優(yōu)先的利益。本申請(qǐng)通過參照該申請(qǐng)而包括該申請(qǐng)的全部?jī)?nèi)容。技術(shù)領(lǐng)域[0002]本發(fā)明的實(shí)施方式涉及圖像處理裝置。背景技術(shù)[0003]通常,為了取得到被攝體的距離,已知有使用由2個(gè)攝像裝置(相機(jī))或立體相機(jī)(多目相機(jī))攝像到的圖像的技術(shù),但近年來,開發(fā)了使用由1個(gè)攝像裝置(單目相機(jī))攝像到的圖像來取得到被攝體的距離的技術(shù)。[0004]然而,需要提高從由1個(gè)攝像裝置攝像到的圖像取得的距離的精度以及從該圖像取得距離時(shí)的環(huán)境魯棒性。發(fā)明內(nèi)容[0005]本發(fā)明要解決的技術(shù)問題在于,提供能夠使從圖像取得的距離的精度以及從該圖像取得距離時(shí)的環(huán)境魯棒性提高的圖像處理裝置。[0006]實(shí)施方式的圖像處理裝置具備保存單元、圖像取得單元、修正單元和距離取得單元。所述保存單元保存統(tǒng)計(jì)模型,該統(tǒng)計(jì)模型通過學(xué)習(xí)在受到光學(xué)系統(tǒng)的像差的影響的第一圖像中產(chǎn)生的、根據(jù)到該第一圖像中的被攝體的距離而非線性地變化的模糊而生成。所述圖像取得單元取得受到所述光學(xué)系統(tǒng)的像差的影響的第二圖像。所述修正單元對(duì)該第二圖像進(jìn)行使在所述第二圖像中表現(xiàn)的顏色的數(shù)量降低的顏色修正。所述距離取得單元將對(duì)所述第二圖像進(jìn)行了顏色修正后的第三圖像輸入至所述統(tǒng)計(jì)模型,取得表示到該第三圖像中的被攝體的距離的距離信息。附圖說明[0007]圖1是表示包含第一實(shí)施方式的圖像處理裝置的測(cè)距系統(tǒng)的結(jié)構(gòu)的一例的圖。[0008]圖2是表示圖像處理裝置的系統(tǒng)結(jié)構(gòu)的一例的圖。[0009]圖3是用于說明測(cè)距系統(tǒng)的動(dòng)作的概要的圖。[0010]圖4是表示使用單透鏡的情況下的到被攝體的距離與因色差而在圖像中產(chǎn)生的模糊之間的關(guān)系性的圖。[0011]圖5是表示使用消色差透鏡的情況下的到被攝體的距離與因色差而在圖像中產(chǎn)生的模糊之間的關(guān)系性的圖。[0012]圖6是表示攝像裝置的光學(xué)系統(tǒng)所具備的光圈機(jī)構(gòu)的開口部的大小與PSF形狀之間的關(guān)系性的圖。[0013]圖7是表示在各通道的圖像中產(chǎn)生的PSF形狀的一例的圖。[0014]圖8是表示在各通道的圖像中產(chǎn)生的PSF形狀的另一例的圖。5[0015]圖9是表示在圖像中的各位置產(chǎn)生的PSF形狀的一例的圖。[0016]圖10是用于具體說明與透鏡的類別對(duì)應(yīng)的PSF形狀的位置依賴性的圖。[0017]圖11是表示PSF形狀的非線性與光圈機(jī)構(gòu)的開口部的形狀之間的關(guān)系的圖。[0018]圖12是表示取得距離信息的動(dòng)作的概要的圖。[0019]圖13是用于說明根據(jù)攝像圖像來推定距離的第一方式的圖。[0020]圖14是表示在第一方式中向統(tǒng)計(jì)模型輸入的信息的一例的圖。[0021]圖15是用于說明根據(jù)攝像圖像來推定距離的第二方式的圖。[0022]圖16是表示在第二方式中向統(tǒng)計(jì)模型輸入的信息的一例的圖。[0023]圖17是用于說明根據(jù)攝像圖像來推定距離的第三方式的圖。[0024]圖18是用于具體說明根據(jù)攝像圖像來推定的到被攝體的距離的圖。程圖。[0026]圖20是表示預(yù)覽畫面的一例的圖。[0027]圖21是表示按下了測(cè)距區(qū)域選定按鈕的情況下的預(yù)覽畫面的一例的圖。[0028]圖22是用于說明依賴于環(huán)境的PSF的圖。[0029]圖23是用于說明白平衡修正的概要的圖。[0030]圖24是用于說明對(duì)攝像圖像中包含的像素計(jì)算出的修正系數(shù)的圖。[0031]圖25是用于說明由統(tǒng)計(jì)模型計(jì)算出的不可靠度的圖。[0032]圖26是表示設(shè)定了可靠度確認(rèn)模式的情況下的預(yù)覽畫面的一例的圖。[0033]圖27是表示統(tǒng)計(jì)模型的學(xué)習(xí)處理的一例的圖。[0034]圖28是表示生成統(tǒng)計(jì)模型的處理的處理順序的一例的流程圖。[0035]圖29是表示包含第二實(shí)施方式的圖像處理裝置的測(cè)距系統(tǒng)的結(jié)構(gòu)的一例的圖。[0036]圖30是用于說明從攝像圖像取得距離信息時(shí)的圖像處理裝置的處理順序的一例的圖。[0037]圖31是表示包含測(cè)距裝置的移動(dòng)體的功能結(jié)構(gòu)的一例的圖。[0038]圖32是用于說明移動(dòng)體為汽車的情況的圖。[0039]圖33是用于說明移動(dòng)體為無人機(jī)的情況的圖。[0040]圖34是用于對(duì)移動(dòng)體為自主型的移動(dòng)機(jī)器人的情況進(jìn)行說明的圖。[0041]圖35是用于說明移動(dòng)體為機(jī)械臂的情況的圖。[0042](附圖標(biāo)記說明)[0043]1…測(cè)距系統(tǒng),2…攝像裝置(攝像部),3…圖像處理裝置(圖像處理部),21…透鏡,22…圖像傳感器,31…統(tǒng)計(jì)模型保存部,32…顯示處理部,33…測(cè)距區(qū)域選定部,34…圖像評(píng)價(jià)部,221…第一傳感器,222…第二傳感器,223…第三傳感器,301…CPU,302…非易失性存儲(chǔ)器,303…RAM,303A…圖像處理程序,304…通信設(shè)備,305…輸入設(shè)備,306…顯示設(shè)備,307…總線。具體實(shí)施方式[0044]以下,參照附圖對(duì)各實(shí)施方式進(jìn)行說明。6[0046]首先,對(duì)第一實(shí)施方式進(jìn)行說明。圖1表示包含本實(shí)施方式的圖像處理裝置的測(cè)距系統(tǒng)的結(jié)構(gòu)的一例。圖1所示的測(cè)距系統(tǒng)1被使用于攝像圖像,并使用該攝像到的圖像來取得(測(cè)定)從攝像地點(diǎn)到被攝體的距離。[0047]如圖1所示,測(cè)距系統(tǒng)1具備攝像裝置2以及圖像處理裝置3。在本實(shí)施方式中,設(shè)為測(cè)距系統(tǒng)1具備作為獨(dú)立的裝置的攝像裝置2及圖像處理裝置3而進(jìn)行說明,但該測(cè)距系統(tǒng)1也可以作為攝像裝置2作為攝像部發(fā)揮功能、且圖像處理裝置3作為圖像處理部發(fā)揮功能的1個(gè)裝置(以下,表述為測(cè)距裝置)來實(shí)現(xiàn)。在測(cè)距系統(tǒng)1的情況下,例如能夠使用數(shù)碼相機(jī)等作為攝像裝置2,使用個(gè)人計(jì)算機(jī)、智能手機(jī)或者平板電腦等作為圖像處理裝置3。在該情況下,圖像處理裝置3例如也可以作為執(zhí)行云計(jì)算服務(wù)的服務(wù)器裝置而進(jìn)行動(dòng)作。另一方面,在測(cè)距裝置1的情況下,能夠使用數(shù)碼相機(jī)、智能手機(jī)及平板電腦等作為該測(cè)距裝置1。[0048]攝像裝置2用于攝像各種圖像。攝像裝置2具備透鏡21和圖像傳感器22。透鏡21及圖像傳感器22相當(dāng)于攝像裝置2的光學(xué)系統(tǒng)(單目相機(jī))。另外,在本實(shí)施方式中,透鏡21與用于通過調(diào)整該透鏡21的位置來控制焦點(diǎn)位置的機(jī)構(gòu)及透鏡驅(qū)動(dòng)電路等、具有用于調(diào)節(jié)向攝像裝置2的光學(xué)系統(tǒng)取入的光的量(進(jìn)光量)的開口部的光圈機(jī)構(gòu)及光圈控制電路等、以及供預(yù)先保持與該透鏡21有關(guān)的信息(以下,表述為透鏡信息)的存儲(chǔ)器等(未圖示)搭載的控制電路等一起構(gòu)成透鏡單元。[0049]另外,在本實(shí)施方式中,攝像裝置2也可以構(gòu)成為能夠手動(dòng)將透鏡21(透鏡單元)更換為其他透鏡。在該情況下,用戶例如能夠?qū)?biāo)準(zhǔn)透鏡、望遠(yuǎn)透鏡及廣角透鏡等多個(gè)種類的透鏡中的1個(gè)透鏡安裝于攝像裝置2來使用。此外,在更換了透鏡的情況下,焦點(diǎn)距離、F值(光圈值)改變,能夠攝像出與攝像裝置2中使用的透鏡對(duì)應(yīng)的圖像。[0050]在本實(shí)施方式中,焦點(diǎn)距離是指,從透鏡到在光相對(duì)于該透鏡平行地入射時(shí)該光收斂的位置為止的距離。另外,F(xiàn)值是指將根據(jù)光圈機(jī)構(gòu)而取入到攝像裝置2的光的量數(shù)值大小變大)。[0051]向透鏡21入射由被攝體反射后的光。入射到透鏡21的光透射透鏡21。透射透鏡21后的光到達(dá)圖像傳感器22,由該圖像傳感器22受光(檢測(cè))。圖像傳感器22通過將接收到的光轉(zhuǎn)換(光電轉(zhuǎn)換)為電信號(hào),由此生成由多個(gè)像素構(gòu)成的圖像。[0052]另外,圖像傳感器22通過例如CCD(ChargeCoupledDevice:電荷耦合器件)圖像傳感器及CMOS(ComplementaryMetalOxideSemiconductor:互補(bǔ)金屬氧化物半導(dǎo)體)圖像傳感器等來實(shí)現(xiàn)。圖像傳感器22例如包括檢測(cè)紅色(R)的波段的光的第一傳感器(R傳感器)221、檢測(cè)綠色(G)的波段的光的第二傳感器(G傳感器)222及檢測(cè)藍(lán)色(B)的波段的光的第三傳感器(B傳感器)223。圖像傳感器22能夠通過第一~第三傳感器221~223接收對(duì)應(yīng)的[0053]另外,在本實(shí)施方式中,設(shè)為圖像傳感器22包含第一~第三傳感器221~223而進(jìn)行說明,但圖像傳感器22只要構(gòu)成為包含第一~第三傳感器221~223中的至少1個(gè)即可。另外,圖像傳感器22也可以構(gòu)成為包括用于生成例如單色圖像的傳感器來代替第一~第三傳感器221~223。7[0054]在本實(shí)施方式中,基于透射了透鏡21的光而生成的圖像是受到光學(xué)系統(tǒng)(所包含的透鏡21)的像差的影響的圖像,包含因該像差而產(chǎn)生的模糊。另外,關(guān)于在圖像中產(chǎn)生的[0055]圖像處理裝置3包括統(tǒng)計(jì)模型保存部31、顯示處理部32、測(cè)距區(qū)域選定部33、圖像取得部34、圖像修正部35、距離取得部36、可靠度確認(rèn)模式設(shè)定部37及輸出部38作為功能結(jié)[0056]在統(tǒng)計(jì)模型保存部31中保存有被使用于從由攝像裝置2攝像到的圖像中取得到被攝體的距離的統(tǒng)計(jì)模型。保存在統(tǒng)計(jì)模型保存部31中的統(tǒng)計(jì)模型通過學(xué)習(xí)在上述的受到光學(xué)系統(tǒng)的像差的影響的圖像中產(chǎn)生的、根據(jù)到該圖像中的被攝體的距離而非線性地變化的模糊而生成。統(tǒng)計(jì)模型保存部31可以保存多個(gè)統(tǒng)計(jì)模型。[0057]此外,統(tǒng)計(jì)模型設(shè)為能夠應(yīng)用例如神經(jīng)網(wǎng)絡(luò)、或者隨機(jī)森林等已知的各種機(jī)器學(xué)習(xí)算法來生成。另外,在本實(shí)施方式中能夠應(yīng)用的神經(jīng)網(wǎng)絡(luò)例如可以包含卷積神經(jīng)網(wǎng)絡(luò) (CNN:ConvolutionalNeuralNetwork)、全耦合神經(jīng)網(wǎng)絡(luò)及遞歸型神經(jīng)網(wǎng)絡(luò)等。[0058]顯示處理部32依次顯示由上述的攝像裝置2連續(xù)攝像到的多個(gè)圖像作為預(yù)覽顯[0059]測(cè)距區(qū)域選定部33選定由顯示處理部32顯示的圖像(即,由攝像裝置2攝像到的圖像)中的區(qū)域。此外,在本實(shí)施方式中,取得了到由測(cè)距區(qū)域選定部33選定的區(qū)域所包含的被攝體為止的距離(信息)。另外,由測(cè)距區(qū)域選定部33選定的區(qū)域例如基于用戶的操作等而被決定。[0060]即,在本實(shí)施方式中,上述的預(yù)覽顯示是指為了用戶確認(rèn)成為取得距離的對(duì)象的被攝體等而事先顯示圖像。[0061]圖像取得部34在由測(cè)距區(qū)域選定部33選定了由顯示處理部32顯示的圖像中的區(qū)[0062]圖像修正部35對(duì)由圖像取得部34取得的圖像進(jìn)行顏色修正。在該情況下,圖像修正部35對(duì)由圖像取得部34取得的圖像進(jìn)行減少在該圖像中表現(xiàn)的顏色的數(shù)量(能夠減少顏色變化)的修正。[0063]距離取得部36取得距離信息,該距離信息表示到由圖像修正部35進(jìn)行了顏色修正后的圖像(由測(cè)距區(qū)域選定部33選定的區(qū)域)中的被攝體的距離。在該情況下,距離取得部36如后述那樣,通過將由圖像修正部35進(jìn)行了顏色修正后的圖像輸入至保存于統(tǒng)計(jì)模型保存部31的統(tǒng)計(jì)模型來取得距離信息。[0064]可靠度確認(rèn)模式設(shè)定部37根據(jù)用戶的操作,設(shè)定可靠度確認(rèn)模式??煽慷却_認(rèn)模式是用于由用戶確認(rèn)相對(duì)于到被攝體的距離而言的可靠度(不可靠度的程度)的模式。在由可靠度確認(rèn)模式設(shè)定部37設(shè)定了可靠度確認(rèn)模式的情況下,用戶例如能夠在上述的預(yù)覽畫面中確認(rèn)相對(duì)于由通過距離取得部36取得的距離信息表示的距離而言的可靠度。[0065]輸出部38取得由距離取得部36取得的距離信息。另外,距離信息例如既可以經(jīng)由顯示處理部32顯示,也可以輸出到圖像處理裝置3的外部。[0066]圖2表示圖1所示的圖像處理裝置3的系統(tǒng)結(jié)構(gòu)的一例。如圖2所示,圖像處理裝置38及顯示設(shè)備306相互連接的總線307。[0067]CPU301是用于控制圖像處理裝置3內(nèi)的各種組件的動(dòng)作的處理器。CPU301既可以是單一的處理器,也可以由多個(gè)處理器構(gòu)成。CPU301執(zhí)行從非易失性存儲(chǔ)器302加載到裝置2攝像到的圖像來取得從該攝像裝置2到該圖像中的被攝體的距離的圖像處理程序[0068]非易失性存儲(chǔ)器302是被用作輔助存儲(chǔ)裝置的存儲(chǔ)介質(zhì)。RAM303是被用作主存儲(chǔ)裝置的存儲(chǔ)介質(zhì)。在圖2中,僅示出了非易失性存儲(chǔ)器302及RAM303,但圖像處理裝置3也可以具備例如HDD(HardDiskDrive:硬盤驅(qū)動(dòng)器)及SSD(SolidStateDrive:固態(tài)驅(qū)動(dòng)器)等其他存儲(chǔ)裝置。[0069]此外,在本實(shí)施方式中,圖1所示的統(tǒng)計(jì)模型保存部31例如通過非易失性存儲(chǔ)器302或者其他存儲(chǔ)裝置等來實(shí)現(xiàn)。[0070]另外,在本實(shí)施方式中,圖1所示的顯示處理部32、測(cè)距區(qū)域選定部33、圖像取得部34、圖像修正部35、距離取得部36、可靠度確認(rèn)模式設(shè)定部37及輸出部38的一部分或者全部,通過使CPU301(即,圖像處理裝置3的計(jì)算機(jī))執(zhí)行圖像處理程序303A、即通過軟件來實(shí)現(xiàn)。該圖像處理程序303A既可以保存在計(jì)算機(jī)可讀取的存儲(chǔ)介質(zhì)中發(fā)布,也可以通過網(wǎng)絡(luò)而下載到圖像處理裝置3。此外,這些各部32~38的一部分或者全部既可以通過IC(IntegratedCircuit:集成電路)等硬件來實(shí)現(xiàn),也可以通過軟件及硬件的組合來實(shí)現(xiàn)。[0071]通信設(shè)備304是構(gòu)成為執(zhí)行有線通信或無線通信的設(shè)備。通信設(shè)備304執(zhí)行經(jīng)由網(wǎng)絡(luò)的與外部設(shè)備的通信等。該外部設(shè)備包括攝像裝置2。在該情況下,圖像處理裝置3經(jīng)由通信設(shè)備304從攝像裝置2接收?qǐng)D像。[0072]輸入設(shè)備305包括例如鼠標(biāo)或鍵盤等。顯示設(shè)備306包括例如液晶顯示器(LCD:LiquidCrystalDisplay)等。另外,輸入設(shè)備305及顯示設(shè)備306也可以如例如觸摸屏顯示器那樣一體地構(gòu)成。[0073]接著,參照?qǐng)D3,對(duì)本實(shí)施方式中的測(cè)距系統(tǒng)1的動(dòng)作的概要進(jìn)行說明。[0074]在測(cè)距系統(tǒng)1中,攝像裝置2(圖像傳感器22)如上述那樣生成受到光學(xué)系統(tǒng)(透鏡21)的像差的影響的圖像。[0075]圖像處理裝置3取得由攝像裝置2生成的圖像,并將該圖像輸入至被保存在統(tǒng)計(jì)模型保存部31中的統(tǒng)計(jì)模型。另外,雖然在圖3中未示出,但在本實(shí)施方式中輸入至統(tǒng)計(jì)模型的圖像是進(jìn)行了顏色修正后的圖像。關(guān)于對(duì)圖像進(jìn)行的顏色修正的詳細(xì),在后面進(jìn)行敘述。[0076]圖像處理裝置3(距離取得部36)取得距離信息,該距離信息表示從被輸入了圖像的統(tǒng)計(jì)模型輸出的到該圖像中的被攝體的距離。[0077]這樣,在本實(shí)施方式中,能夠使用統(tǒng)計(jì)模型從由攝像裝置2攝像到的圖像取得距離信息。[0078]在此,在本實(shí)施方式中,在由攝像裝置2攝像到的圖像中,如上述那樣產(chǎn)生由該攝像裝置2的光學(xué)系統(tǒng)的像差(透鏡像差)引起的模糊。[0079]以下,對(duì)在由攝像裝置2攝像到的圖像中產(chǎn)生的模糊進(jìn)行說明。首先,對(duì)由攝像裝置2的光學(xué)系統(tǒng)的像差引起的模糊中的色差進(jìn)行說明。[0080]圖4示出到被攝體的距離與因色差而在圖像中產(chǎn)生的模糊之間的關(guān)系。在以下的9說明中,將在攝像裝置2中對(duì)焦的位置稱為焦點(diǎn)位置。[0081]由于透射具有像差的透鏡21時(shí)的光的折射率按每個(gè)波段而不同,因此例如在被攝體的位置從焦點(diǎn)位置偏離這樣的情況下,各波段的光不集中在1點(diǎn)而到達(dá)不同的點(diǎn)。這在圖像上表現(xiàn)為色差(模糊)。[0082]圖4的上段表示被攝體相對(duì)于攝像裝置2(圖像傳感器22)的位置比焦點(diǎn)位置遠(yuǎn)(即,被攝體的位置位于比焦點(diǎn)位置靠里側(cè)的位置)的情況。[0083]在該情況下,關(guān)于紅色的波段的光401,在圖像傳感器22(第一傳感器221)中生成包含比較小的模糊b的圖像。另一方面,關(guān)于藍(lán)色的波段的光402,在圖像傳感器22(第三傳感器223)中生成包含比較大的模糊b的圖像。此外,關(guān)于綠色的波段的光403,生成包含模糊bR與模糊b?的中間大小的模糊的圖像。因此,在這樣的在被攝體的位置比焦點(diǎn)位置遠(yuǎn)的狀態(tài)下攝像到的圖像中,在該圖像中的被攝體的外側(cè)觀察到藍(lán)色的模糊。[0084]另一方面,圖4的下段表示被攝體相對(duì)于攝像裝置2(圖像傳感器22)的位置比焦點(diǎn)位置近(即,被攝體的位置位于比焦點(diǎn)位置靠近前的位置)的情況。[0085]在該情況下,關(guān)于紅色的波段的光401,在圖像傳感器22(第一傳感器221)中生成包含比較大的模糊b的圖像。另一方面,關(guān)于藍(lán)色的波段的光402,在圖像傳感器22(第三傳感器223)中生成包含比較小的模糊b的圖像。此外,關(guān)于綠色的波段的光403,生成包含模糊bR與模糊b的中間大小的模糊的圖像。因此,在這樣的在被攝體的位置比焦點(diǎn)位置近的狀態(tài)下攝像到的圖像中,在該圖像中的被攝體的外側(cè)觀察到紅色的模糊。[0086]在此,圖4示出了透鏡21為單純的單透鏡的例子,但一般而言,在攝像裝置2中,有時(shí)使用例如被實(shí)施了色差修正后的透鏡(以下,表述為消色差透鏡)。另外,消色差透鏡是組合了低色散的凸透鏡和高色散的凹透鏡而成的透鏡,是作為修正色差的透鏡而透鏡片數(shù)最少的透鏡。[0087]圖5示出使用上述的消色差透鏡作為透鏡21的情況下的到被攝體的距離與因色差而在圖像中產(chǎn)生的模糊之間的關(guān)系性。在消色差透鏡中,進(jìn)行了使藍(lán)色的波長(zhǎng)和紅色的波長(zhǎng)的焦點(diǎn)位置一致的設(shè)計(jì),但色差不能完全去除。因此,在被攝體的位置比焦點(diǎn)位置遠(yuǎn)的情況下,如圖5的上段所示,產(chǎn)生綠色的模糊,在被攝體的位置比焦點(diǎn)位置近的情況下,如圖5[0088]另外,圖4及圖5的中段表示被攝體相對(duì)于攝像裝置2(圖像傳感器22)的位置與焦點(diǎn)位置一致的情況。在該情況下,在圖像傳感器22(第一~第三傳感器221~223)中生成模糊較少的圖像。[0089]在此,在攝像裝置2的光學(xué)系統(tǒng)(透鏡單元)中如上述那樣具備光圈機(jī)構(gòu),但由該攝像裝置2攝像到的圖像中產(chǎn)生的模糊的形狀根據(jù)該光圈機(jī)構(gòu)的開口部的大小而不同。另外,模糊的形狀被稱為PSF(PointSpreadFunction:點(diǎn)擴(kuò)散函數(shù))形狀,示出了在攝像了點(diǎn)光源時(shí)產(chǎn)生的光的擴(kuò)散分布。[0090]圖6的上段按被攝體的位置距攝像裝置2從近到遠(yuǎn)的順序從左起表示在使用了焦點(diǎn)距離為50mm的透鏡的攝像裝置2(的光學(xué)系統(tǒng))中將焦點(diǎn)位置設(shè)為1500mm、將F值(光圈)設(shè)為F1.8的情況下、由該攝像裝置2攝像到的圖像的中央部產(chǎn)生的PSF形狀。圖6的下段按被攝體的位置距攝像裝置2從近到遠(yuǎn)的順序從左起表示在使用了焦點(diǎn)距離為50mm的透鏡的攝像裝置2(的光學(xué)系統(tǒng))中將焦點(diǎn)位置設(shè)為1500mm、將F值(光圈)設(shè)為F4的情況下、由該攝像裝置2攝像到的圖像的中央部產(chǎn)生的PSF形狀。另外,圖6的上段及下段的中央表示被攝體的位置與焦點(diǎn)位置一致的情況下的PSF形狀。[0091]圖6的上段及下段的對(duì)應(yīng)位置所示的PSF形狀是被攝體相對(duì)于攝像裝置2的位置相同的情況下的PSF形狀,但即使在該被攝體的位置相同的情況下,在上段的PSF形狀(將F值設(shè)為F1.8而攝像到的圖像中產(chǎn)生的PSF形狀)和下段的PSF形狀(將F值設(shè)為F4而攝像到的圖像中產(chǎn)生的PSF形狀)中形狀也不同。[0092]并且,如圖6的最左側(cè)的PSF形狀和最右側(cè)的PSF形狀所示,即使在例如從被攝體的位置到焦點(diǎn)位置的距離為相同程度的情況下,在該被攝體的位置比焦點(diǎn)位置近的情況和該被攝體的位置比焦點(diǎn)位置遠(yuǎn)的情況下,PSF形狀也不同。[0093]此外,如上所述,PSF形狀根據(jù)光圈機(jī)構(gòu)的開口部的大小、被攝體相對(duì)于攝像裝置2的位置而不同的現(xiàn)象,在各通道(RGB圖像、R圖像、G圖像及B圖使用了焦點(diǎn)距離為50mm的透鏡的攝像裝置2中將焦點(diǎn)位置設(shè)為1500mm、將F值設(shè)為F1.8的情況下由該攝像裝置2攝像到的各通道的圖像中產(chǎn)生的PSF形狀分為被攝體的位置比焦點(diǎn)位置近(位于近前)的情況和被攝體的位置比焦點(diǎn)位置遠(yuǎn)(位于里側(cè))的情況進(jìn)行表示。圖8將在使用了焦點(diǎn)距離為50mm的透鏡的攝像裝置2中將焦點(diǎn)位置設(shè)為1500mm、將F值設(shè)為F4的情況下由該攝像裝置2攝像到的各通道的圖像中產(chǎn)生的PSF形狀分為被攝體的位置比焦點(diǎn)位置近的情況和被攝體的位置比焦點(diǎn)位置遠(yuǎn)的情況進(jìn)行表示。[0094]進(jìn)而,由攝像裝置2攝像到的圖像中產(chǎn)生的PSF形狀根據(jù)該圖像中的位置也不同。[0095]圖9的上段將在使用了焦點(diǎn)距離為50mm的透鏡的攝像裝置2中將焦點(diǎn)位置設(shè)為1500mm、將F值設(shè)為F1.8的情況下由該攝像裝置2攝像到的圖像中的各位置產(chǎn)生的PSF形狀分為被攝體的位置比焦點(diǎn)位置近的情況和被攝體的位置比焦點(diǎn)位置遠(yuǎn)的情況進(jìn)行表示。[0096]圖9的中段將在使用了焦點(diǎn)距離為50mm的透鏡的攝像裝置2中將焦點(diǎn)位置分為1500mm、將F值設(shè)為F4的情況下由該攝像裝置2攝像到的圖像中的各位置產(chǎn)生的PSF形狀分為被攝體的位置比焦點(diǎn)位置近的情況和被攝體的位置比焦點(diǎn)位置遠(yuǎn)的情況進(jìn)行表示。[0097]如圖9的上段及中段所示,在由攝像裝置2攝像到的圖像的端部附近(特別是左上等角部附近),例如能夠觀察與位于圖像中央附近的PSF形狀不同的PSF形狀。[0098]另外,圖9的下段將在使用了焦點(diǎn)距離為105mm的透鏡的攝像裝置2中將焦點(diǎn)位置設(shè)為1500mm、將F值設(shè)為F4的情況下由該攝像裝置2攝像到的圖像中的各位置產(chǎn)生的PSF形狀分為被攝體的位置比焦點(diǎn)位置近的情況和被攝體的位置比焦點(diǎn)位置遠(yuǎn)的情況進(jìn)行表示。[0099]上述圖9的上段及中段表示使用同一透鏡攝像到的圖像中產(chǎn)生的PSF形狀,但如圖9的下段所示,在使用焦點(diǎn)距離不同的透鏡的情況下,觀察到與該透鏡對(duì)應(yīng)的不同的PSF形狀(與圖9的上段及中段不同的PSF形狀)。[0100]接著,參照?qǐng)D10,對(duì)與上述的攝像裝置2的光學(xué)系統(tǒng)中使用的透鏡的類別對(duì)應(yīng)的PSF形狀(透鏡的像差)的位置依賴性進(jìn)行具體說明。圖10將分別使用焦點(diǎn)距離不同的多個(gè)透鏡而攝像到的圖像的中央附近(畫面中央)及端部附近(畫面端)產(chǎn)生的PSF形狀分為被攝體的位置比焦點(diǎn)位置近的情況和被攝體的位置比焦點(diǎn)位置遠(yuǎn)的情況進(jìn)行表示。[0101]如圖10所示,在圖像的中央附近產(chǎn)生的PSF形狀即使在透鏡的類別不同的情況下也大致為圓形且相同,但在圖像的端部附近產(chǎn)生的PSF形狀具有與在圖像的中央附近產(chǎn)生的PSF形狀不同的形狀,并且根據(jù)透鏡的類別而特性(特征)分別不同。另外,在上述的圖5中11說明的被攝體的位置比焦點(diǎn)位置近的情況下,在PSF的邊緣附近產(chǎn)生紫色的模糊,在被攝體的位置比焦點(diǎn)位置遠(yuǎn)的情況下,在PSF的邊緣附近產(chǎn)生綠色的模糊,關(guān)于這一點(diǎn),即使在透鏡的類別不同的情況下也是共通的。[0102]另外,在圖10中,關(guān)于焦點(diǎn)距離為50mm的透鏡,示出了2個(gè)例子(#1及#2),這表示焦鏡也是同樣的。[0103]在本實(shí)施方式的圖像處理裝置3(測(cè)距系統(tǒng)1)中,使用著眼于上述那樣的根據(jù)到圖像中的被攝體的距離(即,被攝體相對(duì)于攝像裝置2的位置)而非線性地變化的模糊(顏色、尺寸及形狀)而生成的統(tǒng)計(jì)模型,從圖像取得到被攝體的距離。[0104]另外,本實(shí)施方式中的根據(jù)到被攝體的距離而非線性地變化的模糊包括:上述圖4和圖5中說明的根據(jù)攝像裝置2的光學(xué)系統(tǒng)的色差而產(chǎn)生的模糊、在圖6~圖8中說明的根據(jù)對(duì)向攝像裝置2的光學(xué)系統(tǒng)取入的光的量進(jìn)行調(diào)節(jié)的光圈機(jī)構(gòu)的開口部的大小(即,F(xiàn)值)而產(chǎn)生的模糊、在圖9和圖10中說明的根據(jù)由攝像裝置2攝像到的圖像中的位置而變化的模糊[0105]此外,PSF形狀也根據(jù)光圈機(jī)構(gòu)的開口部的形狀而不同。在此,圖11表示PSF形狀的非線性(非對(duì)稱性)與光圈機(jī)構(gòu)的開口部的形狀之間的關(guān)系。上述的PSF形狀的非線性在光圈機(jī)構(gòu)的開口部的形狀為圓以外的情況下容易產(chǎn)生。特別是,PSF形狀的非線性在開口部的形狀為奇數(shù)邊形、或者相對(duì)于圖像傳感器22的水平或垂直軸非對(duì)稱地配置的偶數(shù)邊形的情況下更容易產(chǎn)生。[0106]另外,在上述的圖9中,在圖像上表示到圖像中的被攝體的距離及依賴于該圖像中的位置的PSF形狀(即,具有距離依賴性及位置依賴性的模糊),但該圖像分別被稱為像差映射(map)。像差映射是表示模糊的分布的映射形式的信息,該模糊是在受到光學(xué)系統(tǒng)的像差的影響的圖像中產(chǎn)生的模糊、且為到該圖像中的被攝體的距離及依賴于該圖像中的位置的模糊。換言之,像差映射是表示由于像差而產(chǎn)生的圖像中的模糊(即光學(xué)系統(tǒng)的像差)的距離依賴性和位置依賴性的信息。這樣的像差映射可以在推定到圖像中的被攝體的距離(即,取得表示該距離的距離信息)時(shí)被利用。[0107]圖12表示在本實(shí)施方式中取得距離信息的動(dòng)作的概要。在以下的說明中,將為了取得距離信息(到被攝體的距離)而由攝像裝置2攝像到的圖像稱為攝像圖像。[0108]在圖12所示的攝像圖像501中產(chǎn)生的模糊(模糊信息)502成為與到被攝像體503的距離有關(guān)的物理的線索。具體而言,模糊的顏色、PSF的尺寸及形狀成為與到被攝像體503的距離有關(guān)的線索。[0109]在本實(shí)施方式的圖像處理裝置3(距離取得部36)中,通過使用統(tǒng)計(jì)模型對(duì)作為物理線索的在攝像圖像501中產(chǎn)生的模糊502進(jìn)行分析(解析)來推定到被攝體503的距離504。[0110]以下,對(duì)在本實(shí)施方式中通過統(tǒng)計(jì)模型根據(jù)攝像圖像來推定距離的方式的一例進(jìn)[0111]首先,參照?qǐng)D13對(duì)第一方式進(jìn)行說明。在第一方式中,距離取得部36從攝像圖像501中提取局部區(qū)域(圖像補(bǔ)片)501a。[0112]在該情況下,例如可以將攝像圖像501的整個(gè)區(qū)域(或規(guī)定的區(qū)域)分割成矩陣狀,并將該分割后的部分區(qū)域作為局部區(qū)域501a依次提取,也可以識(shí)別攝像圖像501,并以包羅檢測(cè)到被攝像體(像)的區(qū)域的方式提取局部區(qū)域501a。另外,局部區(qū)域501a也可以與其他的局部區(qū)域501a之間一部分重疊。[0113]距離取得部36針對(duì)提取出的每個(gè)局部區(qū)域501a,將與該局部區(qū)域501a有關(guān)的信息(攝像圖像501的信息)輸入至統(tǒng)計(jì)模型,由此推定到該局部區(qū)域501a中的被攝體的距離[0114]這樣被輸入了與局部區(qū)域501a有關(guān)的信息的統(tǒng)計(jì)模型,按構(gòu)成該局部區(qū)域501a的每個(gè)像素來推定距離。[0115]在此,例如在特定的像素屬于第一局部區(qū)域501a及第二局部區(qū)域501a雙方(即,在第一局部區(qū)域501a和第二局部區(qū)域501a之間包含該像素的區(qū)域重疊)的情況下,存在該像素被推定為是屬于第一局部區(qū)域501a的像素的距離與作為該像素被推定為是屬于第二局部區(qū)域501a的像素的距離不同的情況。[0116]因此,例如在如上述那樣提取出一部分重疊的多個(gè)局部區(qū)域501a的情況下,構(gòu)成該多個(gè)局部區(qū)域501a相重疊的區(qū)域的像素的距離例如也可以設(shè)為針對(duì)該重疊的一方的局部區(qū)域501a的一部分的區(qū)域(像素)推定出的距離與針對(duì)另一方的局部區(qū)域501a的一部分的區(qū)域(像素)推定出的距離的平均值。另外,在提取出一部分重疊的3個(gè)以上的局部區(qū)域501a的情況下,構(gòu)成該3個(gè)以上的局部區(qū)域501a相重疊的區(qū)域的像素的距離也可以通過基于針對(duì)該重疊的3個(gè)以上的局部區(qū)域501a的一部分的每個(gè)區(qū)域而推定出的距離而進(jìn)行的多數(shù)決來決定。[0117]圖14表示在上述的第一方式中被輸入至統(tǒng)計(jì)模型的與局部區(qū)域501a有關(guān)的信息的一例。[0118]距離取得部36針對(duì)攝像圖像501所包含的R圖像、G圖像及B圖像的每一個(gè),生成從該攝像圖像501提取出的局部區(qū)域501a的梯度數(shù)據(jù)(R圖像的梯度數(shù)據(jù)、G圖像的梯度數(shù)據(jù)及B圖像的梯度數(shù)據(jù))。這樣由距離取得部36生成的梯度數(shù)據(jù)被輸入至統(tǒng)計(jì)模型。[0119]另外,梯度數(shù)據(jù)表示各像素和與該像素相鄰的像素之間的像素值的差分(差分值)。例如,在局部區(qū)域501a被提取為n像素(X軸方向)×m像素(Y軸方向)的矩形區(qū)域的情況下,生成將針對(duì)該局部區(qū)域501a內(nèi)的各像素計(jì)算出的例如與右相鄰的像素之間的差分值配置為n行×m列的矩陣狀而得到的梯度數(shù)據(jù)。[0120]統(tǒng)計(jì)模型使用R圖像的梯度數(shù)據(jù)、G圖像的梯度數(shù)據(jù)、B圖像的梯度數(shù)據(jù),根據(jù)在該各圖像中產(chǎn)生的模糊來推定距離。在圖14中,示出了將R圖像、G圖像及B圖像各自的梯度數(shù)據(jù)被輸入至統(tǒng)計(jì)模型的情況,但也可以是攝像圖像501(RGB圖像)的梯度數(shù)據(jù)被輸入至統(tǒng)計(jì)模型的結(jié)構(gòu)。[0121]接著,參照?qǐng)D15對(duì)第二方式進(jìn)行說明。在第二方式中,作為第一方式中的與局部區(qū)域501a有關(guān)的信息,將每個(gè)該局部區(qū)域(圖像補(bǔ)片)501a的梯度數(shù)據(jù)及攝像圖像501中的該局部區(qū)域501a的位置信息輸入至統(tǒng)計(jì)模型。[0122]位置信息501b例如既可以是表示局部區(qū)域501a的中心點(diǎn)的信息,也可以是表示左上邊等預(yù)先確定的一邊的信息。另外,作為位置信息501b,也可以使用構(gòu)成局部區(qū)域(圖像補(bǔ)片)501a的像素各自在攝像圖像501上的位置信息。[0123]如上所述,通過將位置信息501b進(jìn)一步輸入至統(tǒng)計(jì)模型,例如能夠考慮由透射透鏡21的中心部的光成像的被攝體像的模糊和由透射該透鏡21的端部的光成像的被攝體像的模糊之間的差異來推定距離504。[0124]即,根據(jù)該第二方式,能夠基于模糊、距離及圖像上的位置的相關(guān)性,根據(jù)攝像圖像501更可靠地推定距離。[0125]圖16表示在上述的第二方式中被輸入至統(tǒng)計(jì)模型的與局部區(qū)域501a有關(guān)的信息的一例。[0126]例如在提取n像素(X軸方向)×m像素(Y軸方向)的矩形區(qū)域作為局部區(qū)域501a的情況下,距離取得部36取得與該局部區(qū)域501a的例如中心點(diǎn)對(duì)應(yīng)的攝像圖像501上的X坐標(biāo)值(X坐標(biāo)數(shù)據(jù))和與該局部區(qū)域501a的例如中心點(diǎn)對(duì)應(yīng)的攝像圖像501上的Y坐標(biāo)值(Y坐標(biāo)數(shù)據(jù))。[0127]在第二方式中,這樣由距離取得部36取得的X坐標(biāo)數(shù)據(jù)及Y坐標(biāo)數(shù)據(jù)與上述的R圖像、G圖像及B圖像的梯度數(shù)據(jù)一起被輸入至統(tǒng)計(jì)模型。[0128]進(jìn)而,參照?qǐng)D17,對(duì)第三方式進(jìn)行說明。在第三方式中,不進(jìn)行如上述的第一方式及第二方式那樣的來自攝像圖像501的局部區(qū)域(圖像補(bǔ)片)501a的提取。在第三方式中,距離取得部36例如將與攝像圖像501的全部區(qū)域(或者規(guī)定的區(qū)域)有關(guān)的信息(R圖像、G圖像及B圖像的梯度數(shù)據(jù))輸入至統(tǒng)計(jì)模型。[0129]與按每個(gè)局部區(qū)域501a推定距離504的第一方式及第二方式相比較,第三方式存在基于統(tǒng)計(jì)模型的推定的不確定性變高的可能性,但能夠減輕距離取得部36的負(fù)荷。[0130]在以下的說明中,為了方便,將在上述的第一~第三方式中向統(tǒng)計(jì)模型輸入的信息稱為與圖像有關(guān)的信息。[0131]在此,參照?qǐng)D18,具體說明根據(jù)攝像圖像來推定的到被攝像體的距離。[0132]在圖18中,將在被攝體比焦點(diǎn)位置近(位于近前)的情況下產(chǎn)生的模糊的尺寸在X軸上用負(fù)值表示,將在被攝體比焦點(diǎn)位置遠(yuǎn)(位于里側(cè))的情況下產(chǎn)生的模糊的尺寸在X軸[0133]在圖18中,示出了在被攝體的位置比焦點(diǎn)位置近的情況及被攝體的位置比焦點(diǎn)位置遠(yuǎn)的情況下的任意情況下都是被攝體越遠(yuǎn)離焦點(diǎn)位置則模糊的尺寸(像素)的絕對(duì)值越大這一情況。[0134]在圖18所示的例子中,假定攝像了圖像的光學(xué)系統(tǒng)中的焦點(diǎn)位置為約1500mm的情況。在該情況下,例如約-4.8像素的模糊與距光學(xué)系統(tǒng)約1000mm的距離對(duì)應(yīng),0像素的模糊[0135]在此,為了方便,對(duì)在X軸上表示模糊的尺寸(像素)的情況進(jìn)行了說明,但如上述的圖6~圖10中說明的那樣,關(guān)于在圖像中產(chǎn)生的模糊的形狀(PSF形狀),在該被攝體比焦點(diǎn)位置近的情況與該被攝體比焦點(diǎn)位置遠(yuǎn)的情況之間不同,且根據(jù)圖像中的位置也不同。因此,在圖18中,X軸上所示的值實(shí)際上是反映了該模糊的形狀(PSF形狀)的值。[0136]上述的到被攝體的距離與模糊的顏色、尺寸及形狀具有由例如圖18的線段d1所示那樣的相關(guān)性,因此,推定距離和推定模糊的顏色、尺寸及形狀(以正負(fù)進(jìn)行表示的模糊值)是同義的。[0137]另外,與使統(tǒng)計(jì)模型直接推定距離的情況相比,使該統(tǒng)計(jì)模型推定模糊的顏色、尺寸及形狀的情況下,更能夠提高基于統(tǒng)計(jì)模型的推定的精度。在該情況下,統(tǒng)計(jì)模型例如設(shè)為,按n像素(X軸方向)×m像素(Y軸方向)的每個(gè)局部區(qū)域,將與該局部區(qū)域(圖像)有關(guān)的信息輸入至該統(tǒng)計(jì)模型,由此輸出將針對(duì)構(gòu)成該局部區(qū)域的各像素推定出的模糊的顏色、尺寸及形狀(表示的模糊值)排列為n行×m列而得到的距離。[0138]接著,參照?qǐng)D19的流程圖,對(duì)從攝像圖像取得距離信息時(shí)的圖像處理裝置3的處理順序的一例進(jìn)行說明。[0139]首先,攝像裝置2(圖像傳感器22)通過連續(xù)地?cái)z像被攝體,生成包含該被攝體的多個(gè)攝像圖像。此外,在攝像裝置2的焦點(diǎn)位置被固定的情況下,透射了透鏡21的光具有根據(jù)到被攝體的距離而不同的點(diǎn)擴(kuò)散函數(shù)(PSF)或點(diǎn)像分布函數(shù)的響應(yīng)形狀,通過用圖像傳感器22檢測(cè)這樣的光,由此生成受到攝像裝置2的光學(xué)系統(tǒng)的像差的影響的攝像圖像。[0140]顯示處理部32將如上述那樣在攝像裝置2中生成的多個(gè)攝像圖像依次顯示于例如顯示設(shè)備306,由此進(jìn)行預(yù)覽顯示(步驟S1)。[0141]在此,圖20表示在步驟S1中進(jìn)行預(yù)覽顯示時(shí)的圖像處理裝置3(顯示設(shè)備306)的畫面(以下,表述為預(yù)覽畫面)的一例。[0142]如圖20所示,在預(yù)覽畫面306a上設(shè)置有圖像顯示區(qū)域306b、測(cè)距區(qū)域選定按鈕306c及可靠度確認(rèn)模式按鈕306d。[0143]圖像顯示區(qū)域306b是用于依次顯示在上述的攝像裝置2中生成的多個(gè)攝像圖像的區(qū)域。[0144]測(cè)距區(qū)域選定按鈕306c是用于指示在圖像顯示區(qū)域306b中顯示的攝像圖像中的區(qū)域、即取得距離信息的區(qū)域(以下,表述為測(cè)距區(qū)域)的選定的按鈕。[0145]可靠度確認(rèn)模式按鈕306d是用于指示可靠度確認(rèn)模式的設(shè)定的按鈕。[0146]在上述的圖像顯示區(qū)域306b顯示有攝像圖像的狀態(tài)下由用戶按下(指定)了測(cè)距區(qū)域選定按鈕306c的情況下,圖20所示的預(yù)覽畫面306a遷移到圖21所示的預(yù)覽畫面306e,用戶能夠在設(shè)置于該預(yù)覽畫面306e的圖像顯示區(qū)域306b上進(jìn)行指定測(cè)距區(qū)域的操作。[0147]具體而言,例如在設(shè)置于預(yù)覽畫面306e的圖像顯示區(qū)域306b上顯示矩形形狀的框306f,用戶通過借助輸入設(shè)備305進(jìn)行使該框306f的尺寸變化的操作,由此能夠?qū)⒃摽?06f所包含的區(qū)域指定為測(cè)距區(qū)域。由此,用戶能夠?qū)〉镁嚯x信息的被攝體那樣的區(qū)域指定為測(cè)距區(qū)域。[0148]再返回到圖19,測(cè)距區(qū)域選定部33根據(jù)上述的用戶的操作來判定是否選定測(cè)距區(qū)域(步驟S2)。在步驟S2中,在用戶按下了設(shè)置在上述預(yù)覽畫面上的測(cè)距區(qū)域選定按鈕的情[0149]在判定為未選定測(cè)距區(qū)域的情況下(步驟S2的否),返回到步驟S1,重復(fù)進(jìn)行處理。[0150]另一方面,在判定為選定測(cè)距區(qū)域的情況下(步驟S2的是),測(cè)距區(qū)域選定部33將通過上述的用戶的操作(例如,使框306f的尺寸變化的操作)指定的區(qū)域選定為測(cè)距區(qū)域。此外,在執(zhí)行了步驟S2的處理的情況下,測(cè)距區(qū)域選定部33取得表示在該步驟S2中選定的測(cè)距區(qū)域的信息(以下,表述為測(cè)距區(qū)域信息)。測(cè)距區(qū)域信息包括能夠確定由攝像圖像上的該測(cè)距區(qū)域信息表示的測(cè)距區(qū)域的信息(例如,坐標(biāo)值等)。[0151]此外,在此設(shè)為由用戶指定的區(qū)域被選定為測(cè)距區(qū)域而進(jìn)行了說明,但例如也可以構(gòu)成為在用戶進(jìn)行了對(duì)圖像顯示區(qū)域306b(攝像圖像)上的位置進(jìn)行指定的操作的情況下,進(jìn)行基于該像素的像素值等對(duì)與該所指定的位置對(duì)應(yīng)的像素的周圍的各個(gè)像素進(jìn)行類別分類的語(yǔ)義分割。在該情況下,能夠自動(dòng)地檢測(cè)包含與由用戶指定的位置對(duì)應(yīng)的特定的被攝體在內(nèi)的區(qū)域,并將該檢測(cè)出的區(qū)域選定為測(cè)距區(qū)域。即,在本實(shí)施方式中,也可以是將包含基于通過用戶的操作而指定的攝像圖像中的位置而檢測(cè)出的被攝體在內(nèi)的區(qū)域選定為測(cè)距區(qū)域的結(jié)構(gòu)。[0152]另外,例如在攝像裝置2(測(cè)距裝置1)具有對(duì)特定的被攝體進(jìn)行對(duì)焦的自動(dòng)對(duì)焦(AF)功能的情況下,也可以將包含通過該自動(dòng)對(duì)焦功能提取的被攝體在內(nèi)的區(qū)域選擇為測(cè)距區(qū)域。測(cè)距區(qū)域也可以根據(jù)對(duì)攝像圖像執(zhí)行的其他圖像處理等來選定。[0153]另外,在步驟S3中選定可以不是攝像圖像中的一部分區(qū)域,而是該攝像圖像的全部區(qū)域。另外,測(cè)距區(qū)域的形狀也可以不是矩形形狀,例如可以是圓形形狀等。[0154]接著,圖像取得部34取得在步驟S3中被選定了測(cè)距區(qū)域的攝像圖像(步驟S4)。以下,將在步驟S4中取得的攝像圖像稱為對(duì)象攝像圖像。[0155]當(dāng)執(zhí)行步驟S4的處理時(shí),圖像修正部35進(jìn)行針對(duì)對(duì)象攝像圖像的顏色修正(步驟[0156]以下,對(duì)由圖像修正部35進(jìn)行的顏色修正具體地進(jìn)行說明。另外,在本實(shí)施方式中,設(shè)為進(jìn)行白平衡修正來作為顏色修正而進(jìn)行說明。[0157]首先,本實(shí)施方式中的對(duì)象攝像圖像是如上述那樣受到光學(xué)系統(tǒng)的像差的影響的圖像,但已知在該對(duì)象攝像圖像中表現(xiàn)的顏色根據(jù)光源的色溫的影響而變化(產(chǎn)生偏差)。另外,色溫是表示光源發(fā)出的光的顏色的尺度,關(guān)于該色溫,例如在室外成為光源的太陽(yáng)光與在室內(nèi)成為光源的熒光燈之間不同。即,可以說對(duì)象攝像圖像(中表現(xiàn)的顏色)受到攝像裝置2的周圍的環(huán)境的影響。進(jìn)而,在攝像圖像中表現(xiàn)的顏色例如也根據(jù)圖像傳感器22(第一~第三傳感器221~223)的特性(傳感器RGB特性)而變化。[0158]具體而言,圖22所示的白色點(diǎn)的PSF(點(diǎn)擴(kuò)散函數(shù))表現(xiàn)為透鏡特性h(λ)×物體表22所示,白點(diǎn)的PSF受光源E(λ)及傳感器RGB特性(傳感器靈敏度)q。(λ)的影響,因此在對(duì)象攝像圖像中,觀察到依賴于由透鏡特性h(λ)×物體表面反射光S(λ)×光源E(λ)×傳感器RGB特性q。(λ)而表示的環(huán)境的PSF。另外,圖22所示的光源E(λ)表示來自光源的光的波長(zhǎng)[0159]即,如果沒有光源和傳感器RGB特性的影響,則應(yīng)該得到RGB像素值一致的白色點(diǎn)[0160]如上所述,在對(duì)象攝像圖像中,顏色由于光源的色溫、傳感器RGB特性而產(chǎn)生偏差,觀察到依賴于環(huán)境的PSF,但在從這樣的對(duì)象攝像圖像取得距離(信息)的情況下,存在該距離的精度低下的情況。具體而言,例如,若設(shè)為即使是相同的顏色也根據(jù)光源的色溫、傳感器RGB特性而顯示(表現(xiàn))不同的顏色,則難以取得(推定)精度高的距離。在這樣的情況下,為了提高距離的精度,例如考慮生成學(xué)習(xí)了對(duì)由光源的色溫、傳感器RGB特性帶來的影響加以考慮的全部顏色(顏色變化)的模糊的統(tǒng)計(jì)模型,但這樣的學(xué)習(xí)需要巨大的勞力,因此難以提高從圖像取得距離時(shí)的環(huán)境魯棒性。[0161]因此,在本實(shí)施方式中,如圖23所示,計(jì)算針對(duì)對(duì)象攝像圖像(依賴于環(huán)境的PSF)的修正系數(shù),使用該修正系數(shù)進(jìn)行恢復(fù)上述的白色PSF這樣的修正,由此吸收由光源的色溫等帶來的影響,減少在對(duì)象攝像圖像中表現(xiàn)的顏色的數(shù)量(顏色變化)。另外,修正系數(shù)例如相當(dāng)于為了使彩色圖像中表現(xiàn)的灰色那樣的顏色成為白色而與該彩色圖像所包含的R圖[0162]另外,上述的白平衡修正以對(duì)象攝像圖像中包含的預(yù)先確定的區(qū)域?yàn)閱挝贿M(jìn)行。在該情況下,針對(duì)對(duì)象攝像圖像(測(cè)距區(qū)域)所包含的每個(gè)像素,基于包含該像素的預(yù)先確定的尺寸的區(qū)域(以下,表述為單位區(qū)域)所包含的多個(gè)像素各自的像素值來計(jì)算修正系數(shù)。[0163]在此,對(duì)圖24所示那樣的針對(duì)對(duì)象攝像圖像501所包含的像素P計(jì)算出的修正系數(shù)進(jìn)行說明。[0164]首先,圖像修正部35確定包含像素P在內(nèi)的預(yù)先確定的尺寸的單位區(qū)域A,。在該情況下,例如確定出像素P位于中央的矩形形狀的單位區(qū)域A,但既可以確定出該像素P位于角部的單位區(qū)域A,也可以確定出矩形形狀以外的形狀的單位區(qū)域A。[0165]接著,圖像修正部35從對(duì)象攝像圖像501取得所確定的單位區(qū)域A所包含的多個(gè)像素各自的像素值。該單位區(qū)域A,中包含的多個(gè)像素中也包含像素P。此外,在如上述那樣對(duì)象攝像圖像501是彩色圖像的情況下,由圖像修正部35取得的像素值分別包含該彩色圖像所包含的R圖像的像素值、G圖像的像素值及B圖像的像素值。[0166]圖像修正部35基于所取得的多個(gè)像素各自所包含的R圖像的像素值,計(jì)算該R圖像的像素值的平均值(以下,表述為R圖像的平均像素值)。同樣地,圖像修正部35基于所取得的多個(gè)像素各自所包含的G圖像的像素值,計(jì)算該G圖像的像素值的平均值(以下,表述為G圖像的平均像素值)。進(jìn)而,圖像修正部35基于所取得的多個(gè)像素各自所包含的B圖像的像素值,計(jì)算該B圖像的像素值的平均值(以下,表述為B圖像的平均像素值)。[0167]進(jìn)而,圖像修正部35確定計(jì)算出的R圖像的平均像素值、G圖像的平均像素值及B圖像的平均像素值中的最大值(以下,表述為RGB平均像素值的最大值)。[0168]在該情況下,針對(duì)像素P的修正系數(shù)通過以下的式(1)式(1)[0172]即,在本實(shí)施方式中,RGB平均像素值的最大值除以R圖像的平均像素值而得到的值是針對(duì)像素P的像素值所包含的R圖像的像素值而言的修正系數(shù)(以下,表述為gain(R))。另外,RGB平均像素值的最大值除以G圖像的平均像素值而得到的值是針對(duì)像素P的像素值所包含的G圖像的像素值而言的修正系數(shù)(以下,表述為gain(G))。另外,RGB平均像素值的最大值除以B圖像的平均值而得到的值是針對(duì)像素P的像素值所包含的B圖像的像[0173]在如上述那樣計(jì)算出針對(duì)像素P的修正系數(shù)的情況下,使用該修正系數(shù)來修正該像素P的像素值。具體而言,當(dāng)將像素P的像素值所包含的R圖像的像素值、G圖像的像素值及B圖像的像素值設(shè)為P(R,G,B),將進(jìn)行了白平衡修正后的像素P的像素值設(shè)為P?'(R,G,[0175]pi'=pi(R,G,B)×gain(R,G,B)式(2)[0176]即,當(dāng)進(jìn)行白平衡修正時(shí),像素P的像素值P(R,G,B)被修正像素值P'(R,G,B),該像素值P;'(R,G,B)包含通過將像素P的像素值所包含的R圖像的像素值乘以gain(R)而得到的值、通過將像素P的像素值所包含的G圖像的像素值乘以gain(G)而得到的值、通過將像素P的像素值所包含的B圖像的像素值乘以gain(B)而得到的值。[0177]在此,關(guān)于對(duì)象攝像圖像501所包含的像素P進(jìn)行了說明,但關(guān)于該對(duì)象攝像圖像501所包含的其他像素也執(zhí)行同樣的處理。[0178]另外,如上述那樣被修正像素值的像素至少是測(cè)距區(qū)域所包含的像素,但也可以對(duì)對(duì)象攝像圖像所包含的全部像素的像素值進(jìn)行修正。[0179]另外,在此,設(shè)為單位區(qū)域是包含對(duì)像素值進(jìn)行修正的像素在內(nèi)的對(duì)象攝像圖像的一部分區(qū)域進(jìn)行了說明,但單位區(qū)域也可以是對(duì)象攝像圖像的整體的區(qū)域。[0180]此外,例如在顏色變化豐富的圖像是對(duì)象攝像圖像那樣的情況下,以微小的區(qū)域?yàn)閱挝粎^(qū)域更能夠進(jìn)行有效的白平衡修正。然而,在本實(shí)施方式中,由于是將在對(duì)象攝像圖像中產(chǎn)生的模糊作為物理的線索來取得(推定)到被攝體的距離的結(jié)構(gòu),因此,優(yōu)選將對(duì)光學(xué)系統(tǒng)的像差與到被攝體的距離之間的關(guān)系不造成影響(即,不使模糊的顏色等變化)的區(qū)域設(shè)為單位區(qū)域。另外,對(duì)光學(xué)系統(tǒng)的像差與到被攝體的距離之間的關(guān)系不造成影響的區(qū)域例如包括包含在對(duì)象攝像圖像中產(chǎn)生的模糊在內(nèi)的尺寸的區(qū)域,但在執(zhí)行上述的步驟S5的處理的時(shí)刻,到測(cè)距區(qū)域所包含的被攝體的距離(即,模糊的尺寸)不明,因此例如將能夠包含在該對(duì)象攝像圖像(測(cè)距區(qū)域)中可能產(chǎn)生的模糊在內(nèi)的程度的尺寸的區(qū)域作為單位區(qū)域。另外,由于在對(duì)象攝像圖像中產(chǎn)生的模糊具有位置依賴性,因此單位區(qū)域的尺寸例如也可以基于測(cè)距區(qū)域的位置等來確定。[0181]再返回到圖19,距離取得部36基于上述測(cè)距區(qū)域信息及步驟S5中進(jìn)行了白平衡修正(顏色修正)后的對(duì)象攝像圖像,取得表示到測(cè)距區(qū)域所包含的被攝體的距離的距離信息[0182]在該情況下,距離取得部36將與由測(cè)距區(qū)域信息所示的測(cè)距區(qū)域有關(guān)的信息(梯度數(shù)據(jù))輸入至保存在統(tǒng)計(jì)模型保存部31中的統(tǒng)計(jì)模型。由此,在統(tǒng)計(jì)模型中推定到測(cè)距區(qū)域中的被攝體的距離,該統(tǒng)計(jì)模型輸出該推定出的距離。此外,到被攝體的距離是按構(gòu)成測(cè)距區(qū)域的每個(gè)像素而被推定并被輸出的。由此,距離取得部36能夠取得距離信息,該距離信息表示從統(tǒng)計(jì)模型輸出的距離。[0183]在此,例如如圖25所示,統(tǒng)計(jì)模型在根據(jù)與攝像圖像(對(duì)象攝像圖像)501有關(guān)的信息推定距離504時(shí),有時(shí)按每個(gè)像素來計(jì)算該推定的不可靠度的程度(以下,表述為不可靠度)601,并將該不可靠度601與距離504一起輸出。該不可靠度601的計(jì)算方法不限定于特定的方法,能夠應(yīng)用已知的各種方法。[0184]在該情況下,距離取得部36將不可靠度與在步驟S6中取得的距離信息一起取得[0185]但是,在用戶進(jìn)行了將在上述圖20所示的預(yù)覽畫面306a中設(shè)置的可靠度確認(rèn)模式按鈕306d按下的操作的情況下,可靠度確認(rèn)模式設(shè)定部37設(shè)定可靠度確認(rèn)模式。此外,用戶進(jìn)行將可靠度確認(rèn)模式按鈕306d按下的操作的定時(shí)例如既可以是在上述的步驟S1中進(jìn)行了預(yù)覽顯示的定時(shí),也可以是例如執(zhí)行了步驟S7的處理后。在由可靠度確認(rèn)模式設(shè)定部37設(shè)定了可靠度確認(rèn)模式的情況下,表示設(shè)定了該可靠度確認(rèn)模式這一情況的信息(以下,表述為可靠度確認(rèn)模式設(shè)定標(biāo)記)被保持在圖像處理裝置3的內(nèi)部。[0186]當(dāng)執(zhí)行上述步驟S7時(shí),基于上述的可靠度確認(rèn)模式設(shè)定標(biāo)志,判定是否設(shè)定了可靠度確認(rèn)模式(步驟S8)。[0187]在判定為設(shè)定了可靠度確認(rèn)模式的情況下(步驟S8的是),通過顯示處理部32對(duì)在步驟S7中取得的不可靠度進(jìn)行預(yù)覽顯示(步驟S9)。[0188]在該情況下,上述的圖21所示的預(yù)覽畫面306e遷移到圖26所示的預(yù)覽畫面306g。[0189]如圖26所示,在預(yù)覽畫面306g中設(shè)置的圖像顯示區(qū)域306b中,如上所述按每個(gè)像素計(jì)算出的不可靠度作為可靠度而被重疊顯示在對(duì)象攝像圖像上。[0190]此外,在本實(shí)施方式中針對(duì)特定的像素計(jì)算出的不可靠度高的情況下,表示到與該特定的像素對(duì)應(yīng)的被攝體的距離的可靠度低。另一方面,在針對(duì)特定的像素計(jì)算出的不可靠度低的情況下,表示到與該特定的像素對(duì)應(yīng)的被攝體的距離的可靠度高。[0191]另外,在圖像顯示區(qū)域306b中,不可靠度以與該不可靠度對(duì)應(yīng)的不同的顏色顯示。由此,用戶能夠直觀地掌握在對(duì)象攝像圖像上顯示的不可靠度(可靠度)。[0192]另外,不可靠度例如既可以通過與該不可靠度對(duì)應(yīng)的顏色的濃淡等來表示,也可以通過對(duì)測(cè)距區(qū)域或者該測(cè)距區(qū)域所包含的被攝體的輪廓(邊緣部)實(shí)施加工(例如,變更輪廓的粗細(xì))來進(jìn)行顯示。另外,不可靠度既可以僅作為數(shù)值等顯示,也可以以其他形式顯[0193]在此,在預(yù)覽畫面306g中還設(shè)置有決定按鈕306h及再次執(zhí)行按鈕306i。決定按鈕306h是用于指示將在步驟S6中取得的距離信息輸出的按鈕。再次執(zhí)行按鈕306i是用于指示將距離信息的取得再次執(zhí)行的按鈕。[0194]用戶參照如上述那樣顯示了不可靠度(可靠度)的預(yù)覽畫面306g(圖像顯示區(qū)域306b),在能夠判斷為到測(cè)距區(qū)域所包含的被攝體的距離的可靠度高(即,不可靠度低)的情況下,進(jìn)行按下決定按鈕306h的操作(即,指示將距離信息輸出的操作)。另一方面,用戶在能夠判斷為到測(cè)距區(qū)域所包含的被攝體的距離的可靠度低(即,不可靠度高)的情況下,進(jìn)行按下再次執(zhí)行按鈕306i的操作(即,指示再次執(zhí)行距離信息的取得的操作)。[0195]在該情況下,距離取得部36根據(jù)用戶的操作來判定是否將在步驟S6中取得的距離信息輸出(步驟S10)。在步驟S10中,在上述預(yù)覽畫面306g中進(jìn)行了按下決定按鈕306h的操作的情況下判定為輸出距離信息,在進(jìn)行了按下再次執(zhí)行按鈕306i的操作的情況下判定為不輸出距離信息。[0196]在判定為輸出距離信息的情況下(步驟S10的是),輸出部38輸出在步驟S6中取得的距離信息(步驟S11)。在該情況下,輸出部38能夠?qū)⒕嚯x信息作為與對(duì)象攝像圖像中的測(cè)距區(qū)域在位置上建立對(duì)應(yīng)地配置的映射形式的圖像數(shù)據(jù)(由將由距離信息表示的距離設(shè)為像素值的像素構(gòu)成的圖像數(shù)據(jù))而輸出。此外,距離信息既可以僅作為數(shù)值等輸出,也可以以其他形式輸出。[0197]另外,距離信息既可以顯示于上述預(yù)覽畫面,也可以顯示于與該預(yù)覽畫面不同的畫面。并且,距離信息例如也可以與對(duì)象攝像圖像組合顯示。另外,距離信息也可以保存在圖像處理裝置3內(nèi)部或外部的服務(wù)器裝置等中。[0198]另一方面,在判定為不輸出距離信息的情況下(步驟S10的否),返回到步驟S5重復(fù)進(jìn)行處理。在該情況下,在上述的步驟S5中變更進(jìn)行了白平衡修正(在修正系數(shù)的計(jì)算中使用的)單位區(qū)域的尺寸,再次執(zhí)行步驟S5的處理。[0199]在此,如上述那樣進(jìn)行白平衡修正的單位區(qū)域優(yōu)選為不對(duì)光學(xué)系統(tǒng)的像差與到被攝體的距離之間的關(guān)系造成影響(即,不使模糊的顏色等變化的)的區(qū)域,但在執(zhí)行上述步驟S5的處理的時(shí)刻,到被攝體的距離(即,模糊的尺寸)不明,因此在該步驟S5中,將能夠包含在攝像圖像(測(cè)距區(qū)域)中可能產(chǎn)生的模糊在內(nèi)的程度的尺寸的區(qū)域作為單位區(qū)域進(jìn)行白平衡修正。與此相對(duì),在再次執(zhí)行的步驟S5的處理中,通過執(zhí)行上述的步驟S6的處理,根據(jù)統(tǒng)計(jì)模型來推定模糊的尺寸。因此,在再次執(zhí)行的步驟S5中,將包含由統(tǒng)計(jì)模型推定出的模糊(即,根據(jù)到測(cè)距區(qū)域所包含的被攝體為止的距離而產(chǎn)生的模糊)的尺寸的區(qū)域設(shè)為單位區(qū)域。由此,能夠在適合于實(shí)際在對(duì)象攝像圖像中產(chǎn)生的模糊的尺寸的單位區(qū)域(微小的區(qū)域)進(jìn)行更有效的白平衡修正,因此能夠期待在之后再次執(zhí)行的步驟S6中取得表示不可靠度低(即,可靠度高)的距離的距離信息。[0200]即,在本實(shí)施方式中,在重復(fù)執(zhí)行步驟S5的處理的情況下,以不可靠度(或推定出可靠性低的距離的像素的比例)減少的方式計(jì)算修正系數(shù)(即,單位區(qū)域被變更)。[0201]在此,設(shè)為在進(jìn)行了按下再次執(zhí)行按鈕306i的操作的情況下返回到步驟S5執(zhí)行處理而進(jìn)行了說明,但在進(jìn)行了按下該再次執(zhí)行按鈕306i的操作的情況下,例如也可以返回到步驟S3再次選定不同的測(cè)距區(qū)域。[0202]另外,在本實(shí)施方式中,主要說明了在統(tǒng)計(jì)模型保存部31中保存有1個(gè)統(tǒng)計(jì)模型,但在該統(tǒng)計(jì)模型保存部31中也可以保存有多個(gè)統(tǒng)計(jì)模型。具體而言,如上所述,由于透鏡的類別,特別是圖像的端部附近的PSF形狀大不相同,所以在使用不考慮該透鏡的類別而生成的1個(gè)統(tǒng)計(jì)模型來取得距離信息的結(jié)構(gòu)中,有時(shí)從圖像取得的距離的精度低下。因此,統(tǒng)計(jì)模型保存部31可以保存有例如每個(gè)透鏡的統(tǒng)計(jì)模型。在這樣的結(jié)構(gòu)的情況下,也可以在如上述那樣進(jìn)行了按下再次執(zhí)行按鈕306i的操作時(shí),將在上述的步驟S6的處理中使用的統(tǒng)計(jì)模型變更為例如與由透鏡信息(透鏡21的規(guī)格值)確定的透鏡21對(duì)應(yīng)的統(tǒng)計(jì)模型。此外,在這樣變更統(tǒng)計(jì)模型的情況下,例如也可以利用通過解析對(duì)象攝像圖像而得到的像差映射等。在該情況下,通過將像差映射和適于得到該像差映射的圖像的統(tǒng)計(jì)模型預(yù)先建立對(duì)應(yīng),由此能夠變更為與通過解析對(duì)象攝像圖像而得到的像差映射對(duì)應(yīng)的統(tǒng)計(jì)模型。另外,統(tǒng)計(jì)模型也可以根據(jù)在步驟S6中取得的距離信息而變更。[0203]例如,變更為通過得到了一次距離信息的以包含模糊尺寸的單位區(qū)域進(jìn)行了顏色修正后的圖像進(jìn)行了學(xué)習(xí)后的統(tǒng)計(jì)模型。[0204]另外,雖然在圖19中未示出,但在如上述那樣變更統(tǒng)計(jì)模型的情況下,也可以不變更單位區(qū)域(修正系數(shù))而執(zhí)行步驟S6以后的處理。[0205]另一方面,在步驟S8中判定為未設(shè)定可靠度確認(rèn)模式的情況下(步驟S8的否),不執(zhí)行步驟S9及S10的處理,執(zhí)行步驟S11的處理。在該情況下,例如也可以僅輸出在步驟S6中取得的距離信息中的對(duì)不可靠度為閾值以下(可靠度為閾值以上)的距離進(jìn)行表示的距離信息(即,丟棄表示不可靠度為閾值以下的距離的距離信息),但也可以將在該步驟S6中取得的距離信息全部輸出。[0206]根據(jù)上述的圖19所示的處理,基于用戶的操作來選定測(cè)距區(qū)域,在對(duì)于對(duì)象攝像圖像進(jìn)行了白平衡修正之后,使用統(tǒng)計(jì)模型來取得距離信息及不可靠度,并在預(yù)覽畫面中顯示不可靠度(可靠度),但這樣的一系列動(dòng)作也可以交互地進(jìn)行。例如,在圖像處理裝置3(測(cè)距裝置1)由智能手機(jī)等實(shí)現(xiàn)的情況下,用戶能夠進(jìn)行如下操作:一邊參照預(yù)覽畫面一邊指定測(cè)距區(qū)域,在該測(cè)距區(qū)域所包含的距離的可靠度低的情況下再次取得距離信息,并在得到期望的距離信息的時(shí)刻將該距離信息輸出。[0207]此外,在本實(shí)施方式中,設(shè)為根據(jù)用戶對(duì)預(yù)覽畫面(圖像顯示區(qū)域)的操作來選定測(cè)距區(qū)域而進(jìn)行了說明,但該測(cè)距區(qū)域既可以不依賴于用戶的操作而設(shè)為攝像圖像的整體的區(qū)域,也可以設(shè)為包含通過圖像處理自動(dòng)地提取出的被攝體在內(nèi)的區(qū)域。在該情況下,可以設(shè)為圖1所示的測(cè)距區(qū)域選定部33被省略的結(jié)構(gòu),圖19所示的步驟S2及S3的處理也可以被省略。[0208]進(jìn)而,在本實(shí)施方式中,設(shè)為根據(jù)用戶的操作來設(shè)定可靠度確認(rèn)模式而進(jìn)行了說明,但也可以進(jìn)行始終設(shè)定有可靠度確認(rèn)模式的動(dòng)作或者始終未設(shè)定可靠度確認(rèn)模式的動(dòng)作。在該情況下,也可以設(shè)為圖1所示的可靠度確認(rèn)模式設(shè)定部37被行始終設(shè)定有可靠度確認(rèn)模式的動(dòng)作的情況下,省略圖19所示的步驟S8的處理。另一方面,在進(jìn)行始終未設(shè)定可靠度確認(rèn)模式的動(dòng)作的情況下,省略圖19所示的S8~S10的處理。[0209]另外,在本實(shí)施方式中,對(duì)統(tǒng)計(jì)模型被構(gòu)建(生成)為計(jì)算不可靠度的情況進(jìn)行了說明,但該統(tǒng)計(jì)模型也可以構(gòu)建為在推定到被攝體的距離時(shí)不計(jì)算不可靠度。在該情況下,例如能夠省略圖19所示的步驟S7~S10的處理。[0210]進(jìn)而,在本實(shí)施方式中,假定了用戶一邊參照預(yù)覽畫面一邊對(duì)圖像處理裝置3(測(cè)距裝置1)進(jìn)行操作的使用方式,但本實(shí)施方式也可以構(gòu)成為執(zhí)行不進(jìn)行預(yù)覽顯示、而僅輸出對(duì)到由攝像裝置2攝像到的攝像圖像所包含的被攝體的距離進(jìn)行表示的距離信息的、更簡(jiǎn)單的處理。在該情況下,只要執(zhí)行圖19所示的步驟S4~S6及S11的處理即可。[0211]如上所述,在本實(shí)施方式中,能夠使用統(tǒng)計(jì)模型來從攝像圖像取得到被攝體的距離,但該統(tǒng)計(jì)模型通過執(zhí)行學(xué)習(xí)處理而生成。[0212]以下,對(duì)用于生成統(tǒng)計(jì)模型的學(xué)習(xí)處理(以下,簡(jiǎn)單表述為統(tǒng)計(jì)模型的學(xué)習(xí)處理)進(jìn)行說明。圖27表示本實(shí)施方式中的統(tǒng)計(jì)模型的學(xué)習(xí)處理(學(xué)習(xí)方法)的一例。在此,對(duì)使用了由攝像裝置2攝像到的圖像的統(tǒng)計(jì)模型的學(xué)習(xí)處理進(jìn)行說明,但該統(tǒng)計(jì)模型的學(xué)習(xí)處理也可以使用例如由具有與攝像裝置2的光學(xué)系統(tǒng)相同的光學(xué)系統(tǒng)的其他設(shè)備(相機(jī)等)攝像到的圖像來進(jìn)行。[0213]另外,在上述的說明中,為了取得距離信息而將由攝像裝置2攝像到的圖像作為攝像圖像,但在本實(shí)施方式中,為了方便地將統(tǒng)計(jì)模型學(xué)習(xí)根據(jù)距離而非線性地變化的模糊所用的圖像稱為學(xué)習(xí)用圖像。[0214]在使用參照上述的圖13說明的第一方式、參照?qǐng)D15說明的第二方式、參照?qǐng)D17說明的第三方式的任意方式的情況下,統(tǒng)計(jì)模型的學(xué)習(xí)處理基本上通過將與學(xué)習(xí)用圖像701有關(guān)的信息輸入至統(tǒng)計(jì)模型,并將由該統(tǒng)計(jì)模型推定出的距離(距離信息)702與正確值703的誤差反饋到該統(tǒng)計(jì)模型來進(jìn)行。另外,反饋是指更新統(tǒng)計(jì)模型的參數(shù)(例如權(quán)重系數(shù))以使誤差減少。[0215]在應(yīng)用第一方式作為上述的根據(jù)攝像圖像來推定距離的方式的情況下,在統(tǒng)計(jì)模型的學(xué)習(xí)處理時(shí)也是,按從學(xué)習(xí)用圖像701提取出的每個(gè)局部區(qū)域(圖像補(bǔ)片),將與該局部區(qū)域有關(guān)的信息(梯度數(shù)據(jù))輸入至統(tǒng)計(jì)模型,通過該統(tǒng)計(jì)模型來推定各局部區(qū)域內(nèi)的各像素的距離702。通過將這樣推定出的距離702與正確值703進(jìn)行比較而得到的誤差被反饋到統(tǒng)計(jì)模型。[0216]同樣地,在應(yīng)用第二方式作為根據(jù)攝像圖像來推定距離的方式的情況下,在統(tǒng)計(jì)模型的學(xué)習(xí)處理時(shí)也是,按從學(xué)習(xí)用圖像701提取出的每個(gè)局部區(qū)域(圖像補(bǔ)片),將梯度數(shù)據(jù)及位置信息作為與該局部區(qū)域有關(guān)的信息而輸入至統(tǒng)計(jì)模型,通過該統(tǒng)計(jì)模型來推定各局部區(qū)域內(nèi)的各像素的距離702。通過將這樣推定出的距離702與正確值703進(jìn)行比較而得到的誤差被反饋到統(tǒng)計(jì)模型。[0217]另外,在應(yīng)用第三方式作為根據(jù)攝像圖像來推定距離的方式的情況下,在統(tǒng)計(jì)模型的學(xué)習(xí)處理時(shí)也是,與學(xué)習(xí)用圖像701的全部區(qū)域有關(guān)的信息(梯度數(shù)據(jù))一并被輸入至統(tǒng)計(jì)模型,通過該統(tǒng)計(jì)模型來推定該學(xué)習(xí)用圖像701內(nèi)的各像素的距離702。通過將這樣推定出的距離702與正確值703進(jìn)行比較而得到的誤差被反饋到統(tǒng)計(jì)模型。[0218]另外,在如上述那樣與學(xué)習(xí)用圖像701有關(guān)的信息被輸入至統(tǒng)計(jì)模型的情況下,與在上述的圖25中說明的情況同樣地,計(jì)算相對(duì)于距離702而言的不可靠度602。在該情況下的統(tǒng)計(jì)模型的學(xué)習(xí)處理中,反饋將距離702與正確值703的誤差除以不可靠度602的平方而得到的誤差。在該情況下,在將不可靠度602設(shè)為無限大時(shí),誤差成為零,因此將不可靠度602的平方作為補(bǔ)償(penalty)與誤差相加。[0219]根據(jù)上述的統(tǒng)計(jì)模型的學(xué)習(xí)處理,以通過不可靠度602對(duì)距離702與正確值703的誤差進(jìn)行修正而得到的值減少的方式來更新統(tǒng)計(jì)模型的參數(shù)(例如權(quán)重系數(shù))。[0220]在此,例如在由統(tǒng)計(jì)模型推定出的距離702與正確值703的誤差不存在、另一方面不可靠度602高的情況下,能夠推測(cè)出該距離702有可能偶然被推定出。在該情況下,能夠識(shí)別出距離702(正確值703)的學(xué)習(xí)不足。[0221]在這樣使用了由統(tǒng)計(jì)模型計(jì)算出的不可靠度的情況下,還能夠減少學(xué)習(xí)的偏差。[0222]另外,本實(shí)施方式中的統(tǒng)計(jì)模型例如通過重復(fù)執(zhí)行使用在將焦點(diǎn)位置固定的狀態(tài)下一邊使從攝像裝置2到被攝體的距離變化一邊攝像到的學(xué)習(xí)用圖像的學(xué)習(xí)處理來生成。另外,在針對(duì)1個(gè)焦點(diǎn)位置的學(xué)習(xí)處理完成的情況下,對(duì)于其他焦點(diǎn)位置也同樣地執(zhí)行學(xué)習(xí)處理,由此能夠生成精度更高的統(tǒng)計(jì)模型。[0223]另外,在上述的圖18中說明了推定距離與推定模糊的顏色、尺寸及形狀是同義的,但在統(tǒng)計(jì)模型的學(xué)習(xí)時(shí)將與學(xué)習(xí)用圖像有關(guān)的信息輸入至統(tǒng)計(jì)模型的情況下,將與攝像到該學(xué)習(xí)用圖像時(shí)的到被攝體的實(shí)際的距離對(duì)應(yīng)的模糊的顏色、尺寸及形狀(以正負(fù)進(jìn)行表示的模糊值)用作正確值。根據(jù)進(jìn)行了這樣的學(xué)習(xí)的統(tǒng)計(jì)模型,作為到圖像中的被攝體的距離而輸出上述的模糊值。[0224]接著,參照?qǐng)D28的流程圖,對(duì)生成在本實(shí)施方式的圖像處理裝置3中使用的統(tǒng)計(jì)模型的處理(即,統(tǒng)計(jì)模型的學(xué)習(xí)處理)的處理順序的一例進(jìn)行說明。另外,圖28所示的處理既可以在例如圖像處理裝置3中執(zhí)行,也可以在其他裝置等中執(zhí)行。[0225]首先,取得預(yù)先準(zhǔn)備的學(xué)習(xí)用圖像(步驟S21)。該學(xué)習(xí)用圖像例如是基于透射了攝像裝置2所具備的透鏡21的光由圖像傳感器22生成的圖像,而且是受到攝像裝置2的光學(xué)系統(tǒng)(透鏡21)的像差的影響的圖像。具體而言,在學(xué)習(xí)用圖像中,產(chǎn)生圖4~圖10中說明的根據(jù)到被攝體的距離而非線性地變化的模糊。[0226]另外,在統(tǒng)計(jì)模型的學(xué)習(xí)處理中,預(yù)先準(zhǔn)備從在圖像處理裝置3中能夠取得(推定)的距離的下限值(近前)到上限值(里側(cè))為止以盡可能細(xì)的粒度、以各距離對(duì)被攝體攝像而[0227]在此,在本實(shí)施方式中,從如上述那樣進(jìn)行了顏色修正(白平衡修正)的攝像圖像取得到被攝體的距離(予以表示的距離信息)。因此,對(duì)在步驟S1中取得的學(xué)習(xí)用圖像也同樣地進(jìn)行顏色修正(步驟S22)。另外,步驟S22的處理不是必須的,但為了提高在上述的統(tǒng)計(jì)模型中推定的距離的精度,優(yōu)選對(duì)學(xué)習(xí)用圖像也進(jìn)行顏色修正。步驟S22的處理是與上述圖19所示的步驟S5的處理相同的處理,因此在此省略其詳細(xì)說明。[0228]當(dāng)執(zhí)行步驟S22的處理時(shí),

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁(yè)內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫(kù)網(wǎng)僅提供信息存儲(chǔ)空間,僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。

最新文檔

評(píng)論

0/150

提交評(píng)論