人工智能監控的興起令人擔憂。政府集體追蹤和識別公民的能力可能意味著公眾隱匿的終結。但是，但正如研究人員一再證明的那樣，有一些方法可以欺騙這樣的系統。
最新的例子來自比利時KU Leuven大學的一組工程師。 在上周在preprint服務器arXiv上分享的一篇論文中，這些學生展示了簡單的印刷圖案如何能夠欺騙人工智能系統，該系統旨在識別圖像中的人物。
從人工智能的角度來看，如果你打印出一個學生特別設計的圖片，并把它掛在你的脖子上，你就像披了一件隱形衣。
正如研究人員所寫：“我們相信，如果我們把這項技術與復雜的服裝模擬技術結合起來，我們就能設計出一款T恤，它能讓一個人在自動監控攝像頭面前幾乎隱形。”（他們沒有提到，但眾所周知，這是威廉吉布森（William Gibson）的科幻小說《零歷史》（Zero History）中一個重要的情節設置。）
這可能看起來很奇怪，但它實際上是人工智能世界中一個眾所周知的現象。這類模式被稱為對抗性的例子，它們利用計算機視覺系統脆弱的智能來欺騙它們，讓它們看到不存在的東西。
在過去，對抗性的例子被用來愚弄面部識別系統。（只要戴上一副特殊的眼鏡，人工智能就會認為你是米拉·喬沃維奇（Milla Jovovich）。）它們被做成貼紙，印在3D物體上，甚至被用來制作可以愚弄算法的藝術品。
許多研究人員警告說，對立的例子有潛在的危險。例如，它們可以被用來欺騙自動駕駛汽車，讓它們把停車標志當作燈柱來閱讀，或者它們可以欺騙旨在識別疾病的醫療人工智能視覺系統。這可能是為了醫療欺詐的目的，甚至是故意造成傷害。
在最近的這項研究中，我們通過谷歌研究人員David Ha發現的確實有一些需要注意的地方。最重要的是，學生們開發的對抗性補丁只能欺騙一個名為YOLOv2的特定算法。它甚至不能與谷歌或其他科技公司開發的現成計算機視覺系統相媲美，當然，如果一個人在看圖像，它也不能工作。
這意味著，一件T恤能讓你隱身于所有監控系統之外的想法，至少目前還只存在于科幻小說中。隨著人工智能監控在世界各地的部署，我們中越來越多的人可能渴望找到一種方法來恢復我們的隱匿性。誰知道呢，這些令人產生幻覺的反面例子可能會成為下一個流行趨勢。
https：//www.theverge.com/2019/4/23/18512472/fool-ai-surveillance-adversarial-example-yolov2-person-detection
來源：theverge
