沙巴体育盈禾体育|沙巴体育平台结算太慢

易搜關鍵詞排名優化 讓客戶更容易搜索到您!

立即致電: 體驗易搜關鍵詞排名優化為您帶來的高效服務。

當前位置:易搜網絡技術公司 >> 關鍵詞排名 >> 關鍵詞排名優化 >> 瀏覽文章

人工智能看走眼的圖像都長什么樣?

文章標簽:人工,人工智能,智能,能看,看走,看走眼,走眼,眼的

威廉·吉布森(William Gibson)寫于 2010 年的小說《零歷史(Zero History)》中有如許一個場景:一個角色穿著迄今為止「最丑陋的T-shirt」睜開了傷害的突襲,T-shirt 可使其對閉路電視(CCTV)隱身。在尼爾·斯蒂芬森(Neal Stephenson)的小說《雪崩(Snow Crash)》中,一個位圖圖像被用來傳遞可擾亂黑客大腦頻率的病毒,借助計算機加強的視覺神經以腐蝕目標者的心智。諸如此類的故事形成了一種循環往復的科幻比喻:一張通俗的圖像具有摧毀計算機的能力。

不管怎樣,這個概念并非完全假造。去年,研究者僅僅帶上花式眼鏡(patterned glasses),一個商用面部識別體系就做出了錯誤識別。花式眼鏡就是在鏡框上貼上迷幻色彩的貼紙,花式的扭曲和曲線在人看來是隨機的,但計算機卻要在帶有花式眼鏡的人臉上分辨出五官,而且這些人臉的輪廓很相似。花式眼鏡不會像吉布森「最丑陋的 T-shirt」那般將其從閉環電視中抹去,但是它可使人工智能錯認為你是教皇,或者其他人。

人工智能看走眼的圖像都長什么樣?

帶有花式眼鏡的研究者以及人臉識別體系的對應識別效果。

這些類型的打擊包含在被稱為「對抗機器學習(adversarial machine learning)」(之所以如此稱呼是因為對手之類的存在,在該情況中,對手是黑客)大量網絡安全類別中。在這一領域,「最丑陋的 T-shirt」以及腐蝕大腦的位圖的科幻比喻體現為「對抗性圖像」或者「愚弄式圖像」,但是對抗性打擊具有情勢,如音頻甚至是文本。2010 年早期,大量的團隊各自自力發現了這一征象的存在,他們通常把可對數據進行分類的機器學習體系「分類器」作為目標,比如谷歌圖片中的算法可為你的照片打上食物、假期和寵物等標簽。

對于人而言,愚弄式圖像就像是一個隨機的扎染圖案或者突發的電視噪點;但是對圖像分類器而言,它卻可以自傲的說出:「看,那是一只長臂猿」或者「一個如此亮眼的紅色摩托車」。就像花邊眼鏡使人臉識別體系發生了錯誤識別,分類器處理了紊亂到人類永久無法識別的圖像視覺特性。

這些圖案可以各種體例繞過人工智能體系,并對將來的安全體系、工業機器人和主動駕駛汽車等必要人工智能識別物體的領域有龐大意義。2015 年有關愚弄式圖像論文的聯合作者 Jeff Clune 告訴 The Verge:「想象一下你身處軍隊淄博網站建設,正在使用一個主動鎖定目標的武器體系,你絕不盼望敵人把一張對抗性圖像放在了醫院的樓頂,體系鎖定并攻擊了醫院;或者你正在使用統一個體系追蹤敵人,你也絕不喜好被愚弄式圖像騙了,[并] 開始用你的無人機緊盯著錯誤的目標車輛。」

人工智能看走眼的圖像都長什么樣?

愚弄式圖像以及人工智能識別的對應效果。

這些情節是假設的,但卻特別很是具有可行性,假如繼承沿著當前的人工智能路徑發展。Clune 說:「沒錯,這是一個研究社區必要共同面對的大題目。」防御對抗性攻擊的挑釁有兩方面:我們不僅不確定如何有用地反擊現有攻擊,而且更多高效的攻擊變體在持續增加。Clune 及其聯合作者 Jason Yosinski 和 Anh Nguyen 描述的愚弄式圖像容易被人類發現,它們就像是視覺幻覺或者早期的網絡藝術,滿是斑駁的色彩與圖案重疊,但是有更為玄妙的方法運用它們。

攝動可像 Instagram 濾鏡一樣平常被用于圖像

有一類被研究者稱為「攝動(perturbation)」的對抗性圖像幾乎對人眼不可見,它作為照片外觀上的像素漣漪(ripple of pixels)而存在,并可像 Instagram 濾鏡一樣平常被用于圖像。這些攝動發現于 2013 年,在 2014 年一篇名為「詮釋和行使對抗性實例(Explaining and Harnessing Adversarial Examples)(鏈接:https://arxiv5682/abs/1412.6572)」的論文中,研究者演示了攝動的天真性。攝動有能力愚弄一整套不同的分類器,即使沒有被訓練來攻擊的分類器。一項名為「通用對抗性攝動(Universal Adversarial Perturbations)(鏈接:https://arxiv5682/pdf/1610.08401v1.pdf)」改進研究通過成功地在大量不同的神經網絡上測試攝動,使得這一特性明確起來,上個月引起了浩繁研究者們的關注。

人工智能看走眼的圖像都長什么樣?

左邊是原始圖像,中心是攝動,右邊被攝動的圖像。

使用愚弄式圖像黑進人工智能體系有其局限性:第一,必要花費更多時間制作加擾的圖像,使得人工智能體系認為其看到的是一張特別的圖像而不是產生了隨機錯誤。第二,為了在起初生成攝動,你經常——但不總是——必要獲取你要操控的體系的內部代碼。第三,攻擊并不是一向高效。就像論文「通用對抗性攝動」所述,在一個網絡中成功率為 90% 的攝動大概在另外一個網絡之中只有 50-60% 的成功率。(也就是說,假如一個存在題目的分類器正在指引一輛主動駕駛半式卡車,甚至 50%的錯誤率都是災禍性的。)

為了更好地防御愚弄式圖像,工程師開始了「對抗性訓練」。這必要為分類器輸入對抗性圖像,從而讓分類器可以學習識別并忽略它們,就像保鏢通過臉面照片識別酒吧禁止入內之人。不幸的是,正如賓夕法尼亞州立大學卒業生 Nicolas Papernot(關于對抗性攻擊他寫了大量論文)所詮釋的,在「計算密集型策略」面前,即使這種訓練也很脆弱(即,向體系輸入充足的圖像南寧印刷公司,它最終仍會出錯)。

人工智能看走眼的圖像都長什么樣?

被攝動的圖像,以及對應的人工智能識別的效果。

更困難的是,這類攻擊見效或失敗的緣故原由并不清晰。一種詮釋是對抗性圖像行使一種被稱為「決策邊界」的特性,其在許多人工智能體系中都存在。這些邊界是不可見的規則,它們調控了體系如何判別,如,獅子和豹子之間的不同。一個很簡單的只區分這兩類動物的人工智能項目將最終創造出一個意境地圖。想像在一個 X-Y 平面內:右上角分布著所有該人工智能體系見過的豹子,而左下角分布著獅子。將這兩個部分分開的直線——獅子變成豹子,豹子變成獅子的邊界——稱作決策邊界。

Clune 說道,對于分類來說,決策邊界方法的難題是它太絕對,太果斷。「你對神經網絡所做的所有事情僅僅是訓練它們在各類數據間畫線,而不是對它們建模以識別出它們代表了豹子照舊獅子。」像如許的體系可以通過一個確定的、用各種體例操作。為了愚弄獅子-豹子分析器,你可以拍一張獅子的照片并把它的特性推到奇特的極端,但仍然讓它變現為正常的獅子:給它如同發掘裝備的,和校車一樣平常大小的爪子,以及如同燃燒的太陽一樣平常的長鬃毛。對人類來說,這是無法識別的,但對一個檢查決策邊界的人工智能體系來說,這只是一只極端的獅子罷了。

據我們所知,對抗性圖像從未在真實世界形成過危害。但谷歌大腦的研究科學家網站優化,聯合著述了《詮釋和行使對抗性實例》的 Ian Goodfellow 認為這種潛在的威脅從未被忽視。「研究社區,尤其是谷歌,正在嚴正地對待這個題目,」Goodfellow 說道。「并且我們正努力致力于發展更好的防御措施。」大量組織,如伊隆·馬斯克創立的 OpenAI,目前正在進行或提議關于對抗性攻擊的研究。目前的結論是臨時沒有新技術,但關于這些攻擊在真實世界中能造成多大威脅,研究者們并未達成共識。例如,已存在大量攻擊主動駕駛汽車的方法,它們并不依靠于計算復雜的攝動。

Papernot 認為,廣泛存在于人工智能體系中的不足并不令人驚奇——分類器被訓練成「擁有好的平均體現,而并不總是針對最壞情況的體現——這是典型的從安全角度出發的觀點。」也就是說,比起它的平均體現,研究者較少憂慮體系發生災禍性的錯誤。「一種處理棘手的決策邊界的方法,」Clune 說道,「是使得影像分類器知曉它們無法分類什么目標德龍駕駛室,而不是試圖將數據擬合進某一類。」

與此同時,對抗性攻擊也激發了更深層與概念化的思考。雷同的愚弄式圖像可以擾亂谷歌、Mobileye 或 Facebook自力開發的人工智能體系的「心智」,團體上揭示了現代人工智能特有的不足。

「仿佛所有這些不同的網絡圍坐一路,互相訴說為什么這些愚笨的人類熟悉不到這個噪點圖里現實上是一個海星,」Clune說道。「那相稱風趣且神秘;所有這些網絡都贊成這些瘋狂和非天然的影像現實上屬于同類。那種程度的收斂真讓人驚奇。」

對 Clune 的同事 Jason Yosinski來說,在愚弄式圖像上的研究注解人工智能和天然界創造的智能之間存在令人驚奇的共同點。他細致到人工智能及它們的決策邊界所犯的同類錯誤也存在于動物世界中,在這里動物們被「超常刺激」所愚弄。

這些刺激是天然界征象的人工版,慫恿動物違反它們的天性。這一舉動首先于二十世紀五十年代被發現,當時研究者們用它使得鳥類忽視它們本身的蛋而更偏愛顏色更美麗的贗品,或者使得紅肚棘魚將垃圾當作競爭對手而進行爭斗。只要有大的紅肚繪在垃圾上面,魚就將與其爭斗。一些人曾認為人類成癮舉動,如快餐和色情文學,也是超常刺激的例子。鑒于此,人們可以認為人工智能犯的錯誤是天然而然的。但遺憾的是,我們必要人工智能有能力避免這些錯誤,體現得更好。

原文地址:http://www.theverge2164/2017/4/12/15271874/ai-adversarial-images-fooling-attacks-artificial-intelligence

注:相干網站建設技巧閱讀請移步到建站教程頻道。

沙巴体育盈禾体育 超及大乐透周一走势图 浙江6十1开奖规则 北京赛车pk10冠军稳赢 北单上下单双交流 北单投注技巧 518彩票网址 淘宝快3属于什么意思 沈阳棋牌麻将游戏大厅 七星彩今天预测号 捕鱼大亨官方下载