在 AI 大行其道時(shí)，藏匿于其中的安全問(wèn)題也開(kāi)始得到關(guān)注，即便是巨頭也暴露了風(fēng)險。

　　在 10 月 24 日的 GeekPwn 國際安全極客大賽上，IYSWIM 團隊攻破了比賽中的人臉識別算法，結果是系統把《最強大腦》主持人蔣昌建的照片識別成了施瓦辛格。

　　要知道，這項人臉識別算法 API 接口來(lái)自于亞馬遜名人鑒別系統(Rekognition)。

　　這場(chǎng)比賽共有 6 個(gè)團隊參加，IYSWIM 是唯一一個(gè)破解人臉識別算法的團隊。IYSWIM 團隊隊員吳育昕系 Facebook 員工，他在接受第一財經(jīng)采訪(fǎng)時(shí)表示，自己用了谷歌的 FaceNet 開(kāi)源代碼模型攻破了該算法。

　　人臉識別的危險

　　今年 GeekPwn 國際安全極客大賽設定了 AI 控制人類(lèi)世界的故事背景。10 月 24 日的第一場(chǎng)比賽中，參賽選手即極客利用“CAAD 對抗樣本”技術(shù)生成對抗樣本，目標是使 AI 對飛行器、武器和人臉產(chǎn)生判斷錯誤，逃出“覺(jué)醒黑客”們的囚禁地。

　　要求是，AI 將宇宙飛船飛行器識別為石頭，把導彈認為是安全的，并將主持人蔣昌建的照片識別為施瓦辛格。

　　在飛行器、導彈和人臉三項圖像識別中，人臉識別被認為是最難攻克的一關(guān)，用了亞馬遜名人鑒別系統(Rekognition)API 接口。

　　比賽進(jìn)行到一半，飛行器和武器先后被選手闖關(guān)成功，6 個(gè)團隊已經(jīng)對人臉識別發(fā)起了不下 90 次攻擊，卻遲遲未能攻破其中算法。

　　賽事設計者，碁震 KEEN 公司創(chuàng )始人兼 CEO、GeekPwn 黑客大賽發(fā)起創(chuàng )辦人王琦表示，這道題可能沒(méi)有選手能攻破，因為迄今為止，這項人臉識別系統尚未被攻破過(guò)。

　　話(huà)音落下不久，比賽進(jìn)行了約 20 分鐘時(shí)，IYSWIM 團隊成功解題，主持人蔣昌建被系統確認為施瓦辛格，現場(chǎng)一片歡呼。

　　IYSWIM 團隊吳育昕對第一財經(jīng)表示，自己在網(wǎng)上找了 FaceNet 開(kāi)源代碼，用其中的幾套模型進(jìn)行訓練，最終破解了比賽中的系統算法。

　　吳育昕對第一財經(jīng)表示，自己是以個(gè)人名義報名參賽，自己有名隊友沒(méi)有來(lái)到現場(chǎng)，比賽開(kāi)始前知道這項比賽是人臉識別，但不知道是哪張圖片。

　　FaceNet 系谷歌人臉識別系統，基于 Tensorflow 環(huán)境運行，可以用于人臉驗證、識別和聚類(lèi)等。

　　包括人臉識別在內的圖像識別是 AI 最重要的分支之一，也是應用場(chǎng)景最為廣泛的領(lǐng)域之一。人臉識別被廣泛應用于零售、安防等領(lǐng)域，但 GeekPwn 比賽，卻用短短 20 分鐘時(shí)間向外界揭示了其中的危險。這再一次引發(fā)了公眾對人臉識別等 AI 技術(shù)的擔心。

　　三倍于互聯(lián)網(wǎng)時(shí)代的安全難度

　　GeekPwn 比賽的目的是預演潛在風(fēng)險、拓寬安全思維、幫助智能設備更加安全地問(wèn)世、協(xié)助人工智能健康成長(cháng)的手段。

　　從籌辦第一屆比賽開(kāi)始，GeekPwn 比賽已經(jīng)連續舉辦了五年，五年間互聯(lián)網(wǎng)安全環(huán)境也發(fā)生著(zhù)變化。

　　“最初我們意識到不光是手機和電腦，特斯拉也是可以被黑的;2015 年 O2O 最火的時(shí)候，行業(yè)潛在危險是比如叫滴滴叫到一萬(wàn)輛導致系統癱瘓、保潔服務(wù)訂單被黑導致上門(mén)的其實(shí)是個(gè)壞人;2016 年，美國開(kāi)始關(guān)注輪椅、游戲機被黑的案例;最近 AI 領(lǐng)域比較受關(guān)注。”王琦對第一財經(jīng)表示。

　　“安全本質(zhì)上是人和人的對抗，到 AI 時(shí)代，安全攻防難度至少擴大了 3 倍，不光是人和人的對抗，還有人和機器的對抗，機器和機器的對抗，機器和人的對抗。AI 的安全問(wèn)題得 AI 解決，傳統安全領(lǐng)域的人只能提供思路。”王琦稱(chēng)。
　?。?a href="http://m.lsbmaoyi.com">邯鄲做網(wǎng)站）