阿里安全專家發(fā)布了一項新研究,只要用簡單的
激光筆,就可以讓AI模型不再有效。在這個研究中,他們設計了一種算法,可
模擬光束對AI模型進行“攻擊”,這種測試方法在現(xiàn)實世界中得到了驗證,且“攻擊”極易操作,對現(xiàn)有基于AI的視覺
系統(tǒng)更具威脅,例如基于AI視覺的
自動駕駛。
Yrxk Kw# vG~+r<: 當不同頻譜的光束打在同一個物體上,AI可能將該物體識別錯誤,比如將停車標識識別成順利通行。
Nt~x&s (0OM"`j ]boE{R!I 圖說:一束激光可能讓自動駕駛汽車對交通標識識別錯誤
7(C