麻省理工的神經(jīng)網(wǎng)絡(luò)知道自己什么時(shí)候可以被信任
深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)是一種人工智能系統(tǒng),正在被用于越來越重要的決策,例如從自動駕駛到診斷醫(yī)療條件等各種任務(wù)。這種類型的網(wǎng)絡(luò)擅長識別大型和復(fù)雜數(shù)據(jù)集中的模式,以幫助決策。一個(gè)很大的挑戰(zhàn)是確定神經(jīng)網(wǎng)絡(luò)的判斷是否正確。麻省理工學(xué)院和哈佛大學(xué)的研究人員開發(fā)了一種快速的方法,讓神經(jīng)網(wǎng)絡(luò)在數(shù)據(jù)中提供預(yù)測資深對其答案的信心水平。 該項(xiàng)目的研究人員認(rèn)為,他們的系統(tǒng)可以拯救生命,因?yàn)樯疃葘W(xué)習(xí)已經(jīng)部署在現(xiàn)實(shí)世界中。 目前,神經(jīng)網(wǎng)絡(luò)的不確定性來自于計(jì)算成本往往很高,而且對于瞬間的決策來說速度太慢。研究人員設(shè)計(jì)的方法被稱為 "深度證據(jù)回歸",加快了這一過程,可能會帶來更安全的結(jié)果。該項(xiàng)目的研究人員表示,我們需要有能力擁有高性能的模型,并了解何時(shí)不能信任模型的結(jié)果。 深度學(xué)習(xí)已經(jīng)在各種任務(wù)中表現(xiàn)出令人印象深刻的性能。在某些情況下,它已經(jīng)能夠超越人類的準(zhǔn)確性。這些網(wǎng)絡(luò)擅長在99%的時(shí)間內(nèi)找到正確的答案,但在生命攸關(guān)的情況下,任何錯(cuò)誤都是不可接受的。研究人員設(shè)計(jì)了一種使用神經(jīng)網(wǎng)絡(luò)的單次運(yùn)行來估計(jì)不確定性的方法。該網(wǎng)絡(luò)設(shè)計(jì)了一個(gè)增加的輸出產(chǎn)生一個(gè)決定和一個(gè)新的概率分布捕捉支持其決定的證據(jù)。這些分布被稱為證據(jù)分布,直接捕獲模型對其預(yù)測的信心。 研究人員使用一個(gè)具有挑戰(zhàn)性的計(jì)算機(jī)視覺任務(wù)來測試他們的系統(tǒng)。他們訓(xùn)練神經(jīng)網(wǎng)絡(luò)分析雙目彩色圖像,并估計(jì)每個(gè)像素的距離值,這是一個(gè)自主駕駛車輛可能執(zhí)行的任務(wù),結(jié)果顯示新網(wǎng)絡(luò)的性能與之前最先進(jìn)的模型相當(dāng),并增加了估計(jì)其不確定性的能力。 |