講個(gè)笑話：谷歌的AI把3D打印烏龜認(rèn)成了一桿槍

南極熊越來(lái)越感受到，人工智能AI火得一塌糊涂，在地鐵里坐一兩個(gè)站，總會(huì)聽(tīng)到身邊的人在談AI，比3D打印火得多，應(yīng)用領(lǐng)域也廣泛并且深刻很多。

△3D打印的玩具烏龜

不知不覺(jué)中，AI技術(shù)以各種各樣的形式融入了人們的生活，并逐漸贏得了當(dāng)今人類社會(huì)的信任。但是，這些技術(shù)應(yīng)用起來(lái)還是會(huì)出現(xiàn)各種差錯(cuò)。就以我們熟悉的“機(jī)器視覺(jué)識(shí)別”技術(shù)來(lái)舉例，它雖然十分耐用且擅長(zhǎng)捕捉細(xì)節(jié)，但是距離百分百精確還是有很長(zhǎng)的路要走。近日，谷歌的一款專用于進(jìn)行機(jī)器視覺(jué)識(shí)別的神經(jīng)網(wǎng)絡(luò)就鬧出了天大的笑話，它將玩具烏龜認(rèn)成了一桿槍。

這只烏龜可不普通，是由3D打印機(jī)制造出來(lái)的，也是“對(duì)抗性圖像”的一種實(shí)例。這種圖像內(nèi)嵌著一些特殊的紋理，是專門用來(lái)測(cè)試 AI 的視覺(jué)辨別精準(zhǔn)度的，就如同“光幻覺(jué)”對(duì)于計(jì)算機(jī)一樣。我們也可以使用該技術(shù)來(lái)做出一副“對(duì)抗性”眼鏡，戴上它，就可以騙過(guò)面部識(shí)別系統(tǒng)了。雖然對(duì)于人類的肉眼來(lái)說(shuō)并沒(méi)有特別大的區(qū)別，但對(duì)于 AI 來(lái)說(shuō)這便有天壤之別了。

△南極熊配圖：3D打印的金屬槍
如何消除“對(duì)抗性紋理”對(duì)于機(jī)器視覺(jué)的影響，可以說(shuō)是近年來(lái)比較熱門的研究項(xiàng)目了。研究表明，雖然這些紋理對(duì)于 AI 影響很大，但是解決這一問(wèn)題的方法其實(shí)很簡(jiǎn)單。對(duì)于“對(duì)抗性圖像”，我們可以通過(guò)放大或者旋轉(zhuǎn)的方式來(lái)讓 AI 正確地識(shí)別出圖像的真面目。但是為什么這只烏龜還是會(huì)騙過(guò)系統(tǒng)呢？是因?yàn)檫@只烏龜是一個(gè) 3D 物體，它身上的“對(duì)抗性紋理”對(duì) AI 進(jìn)行了多角度的干擾。

研究報(bào)告的作者、麻省理工學(xué)院（MIT）學(xué)生組織 Labsix 在報(bào)告中提到：“拿自動(dòng)駕駛汽車來(lái)舉例，人類肉眼中的街邊小攤，在 AI 視覺(jué)中就很可能變成了行人正在橫穿馬路。‘對(duì)抗性紋理’對(duì)于 AI 的影響應(yīng)該得到相應(yīng)的重視，否則在神經(jīng)網(wǎng)絡(luò)的應(yīng)用中可能會(huì)對(duì)人類造成很大的影響，甚至帶來(lái)危險(xiǎn)�！盠absix 將他們的方法稱為“Expectation over Transformation”，詳情可以在他們的報(bào)告中參考。除了這只烏龜以外，他們還做出了被 AI 認(rèn)成茶杯的棒球。

Labsix 將他們做出的“對(duì)抗性圖像”放在 Inception-v3（谷歌研發(fā)的一款圖像識(shí)別器）下測(cè)驗(yàn)。雖說(shuō)這次測(cè)試并不是完全針對(duì)機(jī)器視覺(jué)軟件，但是到目前為止，還沒(méi)有可以完全解決“對(duì)抗性圖像”問(wèn)題的方法。谷歌并沒(méi)有對(duì) Labsix 的報(bào)告發(fā)表任何評(píng)論，但是谷歌的一位發(fā)言人說(shuō)，他們的研究員們已經(jīng)將一些針對(duì)“對(duì)抗性圖像”的解決辦法上傳至互聯(lián)網(wǎng)。

來(lái)源：搜狐