麻省理工研發特殊 T 恤 可避開 AI 人臉辨識監控

| 何兆洋 | 11-11-2019 19:13 | |

人面辨識和 AI 人工智能,都是近年經常談及的科技議題,但同時亦引來私隱上的爭議。日前,美國西北大學(Northeastern University)和麻省理工學院華森人工智慧實驗室(MIT-IBM Watson AI Lab)便研發出印有特殊圖案的 T 恤,稱穿上後就有可能避開監控。

  • 美國西北大學和麻省理工學院華森人工智慧實驗室研發出印有特殊圖案的 T 恤,稱穿上後就有可能避開監控
  • 考慮到人體姿勢變化引起的變形,所以他們採用「薄板樣條線」(TPS)的資料內插和平滑技術
  • T 恤只能針對特定的演算法,而且不一定成功

【科技】科技引發監控疑慮 特殊眼鏡衣物可破解人臉識別系統?

其實這技術不是全新的概念,以往亦有不同研究人員指出,可利用圖案瞞騙 AI 監控系統。今次由麻省理工研發,印有特殊圖案的 T 恤,證實了就算因穿上後有姿態變化,但同樣可以混淆 AI 的圖樣分類系統。

研究人員表示,「欺騙」AI 的對抗性轉換(transformations),常用的方法包括:縮放、平移、旋轉、亮度、噪音和飽和度調整等,但考慮到人體姿勢變化引起的變形,所以他們採用「薄板樣條線」(TPS)的資料內插和平滑技術,從而讓柔性物體也能模擬剛性物體,藉此「欺騙」 AI。

不過這 T 恤不一定必然成功,研究人員在現實和虛擬環境中進行測試,單人情況下準確率分別 63% 和 79%。如果在同一畫面內出現多個穿著特殊 T 恤的人,混淆 AI 系統的成功率會降低。另外 T 恤只對特定的辨識演算法有效,對 Amazon Web Services、Google Cloud Platform 和 Microsoft Azure 等辨識系統則會失效。

【科技】蒙面都認到!中國 AI 企業發布首個步態識別系統

【科技】三藩市禁令 杜絕臉部辨識監控

Source:arxiv.org

相關文章

Page 1 of 21