最近西北大學和麻省理工學院的沃森人工智慧實驗室（MIT-IBM
Watson AI Lab）開發出一種印有特殊圖案的T恤，只要穿上就能躲過AI系統的監控，讓一個大活人在監控鏡頭前「消失」。
這是怎麼做到的？其實原理並不複雜，研究人員使用一種稱為對抗性機器學習的方法來欺騙AI，因為電腦視覺辨識系統一般依賴大量數據訓練在提高辨識的準確率，透過同樣的方法也能找出能夠欺騙系統的圖案。
但這種欺騙AI系統的方式有一個缺陷，只要圖案的角度和形狀發生變化，就會輕易被識破。這次麻省理工研發的T恤的突破在於，即便衣服上的圖案追隨著人的姿勢變化而變形，一樣能欺騙AI系統。
當人臉辨識等AI演算法與人類的矛盾日漸凸顯，未來這種欺騙AI的需求可能會越來越多，甚至成為一種新的職業。
◎觀點：道高一尺，魔高一丈！
Source：https://is.gd/UKdryZ
沒有留言:
張貼留言