點擊上方“小白學(xué)視覺”，選擇加"星標(biāo)"或“置頂”
重磅干貨，第一時間送達
多傳感器融合面臨的主要挑戰(zhàn)是如何將收集來的大量數(shù)據(jù)集中在一起，并做出正確決策。多傳感器信息融合（Multi-sensor Information Fusion，MSIF），就是利用計算機技術(shù)將來自多傳感器或多源的信息和數(shù)據(jù)，在一定的準(zhǔn)則下加以自動分析和綜合，以完成所需要的決策和估計而進行的信息處理過程。多傳感器信息融合技術(shù)的基本原理就像人的大腦綜合處理信息的過程一樣，將各種傳感器進行多層次、多空間的信息互補和優(yōu)化組合處理，最終產(chǎn)生對觀測環(huán) 境的一致性解釋。在這個過程中要充分地利用多源數(shù)據(jù)進行合理支配與使用，而信息融合的最終目標(biāo)則是基于各傳感器獲得的分離觀測信息，通過對信息多級別、多方面組合導(dǎo)出更多有用信息。這不僅是利用了多個傳感器相互協(xié)同操作的優(yōu)勢，而且也綜合處理了其它信息源的數(shù)據(jù)來提高整個傳感器系統(tǒng)的智能化。在信息融合處理過程中，根據(jù)對原始數(shù)據(jù)處理方法的不同，信息融合系統(tǒng)的體系結(jié)構(gòu)主要有三種：集中式、分布式和混合式。1.集中式：集中式將各傳感器獲得的原始數(shù)據(jù)直接送至中央處理器進行融合處理，可以實現(xiàn)實時融合，其數(shù)據(jù)處理的精度高，算法靈活，缺點是對處理器要求高，可靠性較低，數(shù)據(jù)量大，故難于實現(xiàn)。2.分布式：每個傳感器對獲得的原始數(shù)據(jù)先進行局部處理，包括對原始數(shù)據(jù)的預(yù)處理、分類及提取特征信息，并通過各自的決策準(zhǔn)則分別作出決策，然后將結(jié)果送入融合中心進行融合以獲得最終的決策。分布式對通信帶寬需求低、計算速度快、可靠性和延續(xù)性好，但跟蹤精度沒有集中式高。3.混合式：大多情況是把上述二者進行不同的組合，形成一種混合式結(jié)構(gòu)。它保留了上述兩類系統(tǒng)的優(yōu)點，但在通信和計算上要付出較昂貴的代價。但是，此類系統(tǒng)也有上述兩類系統(tǒng)難以比擬的優(yōu)勢，在實際場合往往采用此類結(jié)構(gòu)。多傳感器融合 系統(tǒng)具有四個顯著的特點：1.信息的冗余性：對于環(huán)境的某個特征，可以通過多個傳感器（或者單個傳感器的多個不同時刻）得到它的多份信息，這些信息是冗余的，并且具有不同的可靠性，通過融合處理，可以從中提取出更加準(zhǔn)確和可靠的信息。此外，信息的冗余性可以提高系統(tǒng)的穩(wěn)定性，從而能夠避免因單個傳感器失效而對整個系統(tǒng)所造成的影響。2.信息的互補性：不同種類的傳感器可以為系統(tǒng)提供不同性質(zhì)的信息，這些信息所描述的對象是不同的環(huán)境特征，它們彼此之間具有互補性。如果定義一個由所有特征構(gòu)成的坐標(biāo)空間，那么每個傳感器所提供的信息只屬于整個空間的一個子空間，和其他傳感器形成的空間相互獨立。3.信息處理的及時性：各傳感器的處理過程相互獨立，整個處理過程可以采用并行導(dǎo)熱處理機制，從而使系統(tǒng)具有更快的處理速度，提供更加及時的處理結(jié)果。4.信息處理的低成本性：多個傳感器可以花費更少的代價來得到相當(dāng)于單傳感器所能得到的信息量。另一方面，如果不將單個傳感器所提供的信息用來實現(xiàn)其他功能，單個傳感器的成本和多傳感器的成本之和是相當(dāng)?shù)摹?/span>自動駕駛車上使用了多種多樣的傳感器，不同類型的傳感器間在功用上互相補充，提高自動駕駛系統(tǒng)的安全系數(shù)。自動駕駛要求傳感器融合具備一個必須的性質(zhì)——實時性。MSDF面臨的主要挑戰(zhàn)是如何將收集來的大量數(shù)據(jù)集中在一起，并做出正確決策。如果MSDF出錯，意味著下游階段要么沒有必要的信息，要是使用了錯誤的信息做出了錯誤的決策。可以看到，自動駕駛汽車會通過安裝在車身周圍的攝像頭收集視覺數(shù)據(jù)，也會通過雷達（激光雷達、毫米波雷達等）來收集諸如周圍物體運動速度的數(shù)據(jù)，但是這些數(shù)據(jù)是從不同角度來描述現(xiàn)實世界的同一樣或不同樣的物體。使用越多的傳感器，對計算能力的要求就越高，這意味著自動駕駛汽車必須搭載更多的計算機處理器和內(nèi)存，這也會增加汽車的重量，需要更多的功率，還會產(chǎn)生更多的熱量。諸如此類的缺點還有很多。智能汽車的顯著特點在于智能，意思就是說汽車自己能通過車載傳感系統(tǒng)感知道路環(huán)境，自動規(guī)劃行車路線并控制車輛到達預(yù)定目標(biāo)。目前而言，車載感知模塊包括視覺感知模塊、毫米波雷達、超聲波雷達、360°環(huán)視系統(tǒng)等，多源傳感器的協(xié)同作用識別道路車道線、行人車輛等障礙物，為安全駕駛保駕護航。因此，感知信息也需要融合，感知信息也需要相互補充。
假設(shè)有兩種不同的傳感器，稱它們?yōu)閭鞲衅鱔和傳感器Z。它們都能夠感知自動駕駛汽車的外部世界。在現(xiàn)實世界中存在一個物體，這個物體可能是人，也可能是車，甚至是一條狗，傳感器X和傳感器Z都能夠檢測到這個物體。這就意味著傳感器對這個物體進行了雙重檢測，這種雙重檢測意味著兩種不同類型的傳感器都有關(guān)于該物體的數(shù)據(jù)報告，對于該物體有兩個維度不同地認知。假設(shè)，傳感器X表示該物體高6英尺，寬2英尺；傳感器Z表示該物體以每秒3英尺的速度正朝著自動駕駛車輛方向移動。結(jié)合兩個傳感器采集到的數(shù)據(jù)，就可以得出一條相對準(zhǔn)確的信息：有一個高約6英尺，寬2英尺的物體正在以每秒鐘3英尺的速度移動。假設(shè)這兩自動駕駛汽車上只安裝了X傳感器，那么就無法得知該物體的大??；若Z傳感器壞了，那么就只有物體的大小信息，無法檢測該物體的運動狀態(tài)。這也就是最近業(yè)內(nèi)廣泛討論的“在自動駕駛汽車上應(yīng)該安裝哪些傳感器”的問題。此前，特斯拉埃隆?馬斯克(Elon Musk)旗幟鮮明地聲稱，特斯拉不會安裝激光雷達。盡管馬斯克自己也認為，L5自動駕駛不會通過激光雷達來實現(xiàn)這個想法最終可能被驗證為錯誤的，這依舊沒有改變馬斯克的決定。一些反對的聲音稱，不配備激光雷達的特斯拉，無法通過其他的傳感器獲取如同激光雷達效果相同的感官輸入，也無法提供補償和三角測量。但是另一些支持者認為，激光雷達不值得花費如此高昂的費用成本，不值得為其增大計算能力，也不值得為其增加認知時間。在同一個視場(Field of View，F(xiàn)OV)內(nèi)，假設(shè)傳感器X探測到一個物體，而傳感器Z沒有探測到。注意，這與物體完全在傳感器Z的FOV之外的情況有很大的不。一方面，系統(tǒng)會認為傳感器X是正確的，Z是錯誤的，可能是因為Z有故障，或者有模糊探測，或者是其他的一些什么原因。另一個方面，也許傳感器X是錯誤的，X可能是報告了一個“幽靈”（實際上并不存在的東西），而傳感器Z報告那里沒有東西是正確的。假設(shè)我們有兩個物體a和b，分別在傳感器X和傳感器Z的視場FOV內(nèi)（a在X視場內(nèi)，b在Z視場內(nèi)）。也就是說，Z無法直接檢測到a，X也無法直接檢測到b。目前，想要實現(xiàn)的效果是，能否將X和Z的報告整合在一起，讓它們在各自的視場內(nèi)探測物體同時，判斷是否為X視場中的物體正在向Z視場移動，預(yù)先提醒Z將有物體進入探測區(qū)域。第四種方法Synthesize是將感知數(shù)據(jù)融合在一起，你可能會遇到這樣的情況，傳感器X和傳感器Z都沒有在各自的視場內(nèi)探測到物體。在這種情況下，沒有傳感器知道這個物體的存在，但是可以通過一些其他的感觀數(shù)據(jù)，比如聲音，間接地弄清楚在視場之外的物體情況。自動駕駛汽車是時刻運動的，所以要求這種預(yù)判是瞬間發(fā)生的，像上文提到的一樣，是實時的。多傳感器信息融合技術(shù)應(yīng)用至今，有著非常多的應(yīng)用方法，在所有方法當(dāng)中較為成熟的方法包括了聚類分析法、證據(jù)理論法、DS 算法、最優(yōu)理論法等。下載1：OpenCV-Contrib擴展模塊中文版教程
在「小白學(xué)視覺」公眾號后臺回復(fù)：擴展模塊中文教程，即可下載全網(wǎng)第一份OpenCV擴展模塊教程中文版，涵蓋擴展模塊安裝、SFM算法、立體視覺、目標(biāo)跟蹤、生物視覺、超分辨率處理等二十多章內(nèi)容。下載2：Python視覺實戰(zhàn)項目52講在「小白學(xué)視覺」公眾號后臺回復(fù)：Python視覺實戰(zhàn)項目，即可下載包括圖像分割、口罩檢測、車道線檢測、車輛計數(shù)、添加眼線、車牌識別、字符識別、情緒檢測、文本內(nèi)容提取、面部識別等31個視覺實戰(zhàn)項目，助力快速學(xué)校計算機視覺。在「小白學(xué)視覺」公眾號后臺回復(fù)：OpenCV實戰(zhàn)項目20講，即可下載含有20個基于OpenCV實現(xiàn)20個實戰(zhàn)項目，實現(xiàn)OpenCV學(xué)習(xí)進階。交流群
歡迎加入公眾號讀者群一起和同行交流，目前有SLAM、三維視覺、傳感器、自動駕駛、計算攝影、檢測、分割、識別、醫(yī)學(xué)影像、GAN、算法競賽等微信群（以后會逐漸細分），請掃描下面微信號加群，備注：”昵稱+學(xué)校/公司+研究方向“，例如：”張三 + 上海交大 + 視覺SLAM“。請按照格式備注，否則不予通過。添加成功后會根據(jù)研究方向邀請進入相關(guān)微信群。請勿在群內(nèi)發(fā)送廣告，否則會請出群，謝謝理解~
