 |
| 不只是縮時，還有粉塵、噪音、位移偵測 |
 |
| 啟動圖示8如何使用人工智慧技術，建立假臉的縮時動畫。經過近 70 個人類模型肖像的訓練，一個名為 StyleGAN 的人工智慧系統，被用於在一天內生成一百萬張臉孔。 （圖示8） |
約會應用 app 需要女性。 廣告商需要多樣性。人工智慧公司提供解決方案：假人
人工智慧新創企業正在出售看起來，像真實事物的電腦生成面孔的影像，為公司提供機會，在不需要人類的情況下建立影像中的模型並「增加廣告的多樣性」。
一家公司提議為行銷小冊子銷售各種照片，並且已經註冊了客戶，包括一個打算在聊天機器人中，使用這些影像的約會應用 app。另一家公司表示，早在本月，它就開始擺脫人工智慧生成的爆頭，進入了完整的複製人體。
用於建立此類面孔的人工智慧軟體是免費的，並且正在迅速改進，允許小型新創企業輕鬆建立如此令人信服的假貨，他們可以愚弄人眼。這些系統在大量實際臉孔的資料庫上進行訓練，然後試圖在新設計中複製其功能。
但人工智慧專家擔心，假貨將賦予新一代騙子、機器人和間諜的能力，他們可以利用這些照片，來建構虛構的線上人物角色，掩蓋招聘中的偏見，並損害為行業帶來多樣性的努力。事實上，這種軟體現在具有商業模式，這也可能助長網際網路上的信任受到更大的侵蝕，網際網路已經受到虛假資訊運動、「深度偽造」影像和其他欺騙性技術的影響。
加州大學洛杉磯分校法學院人工智慧、法律和政策方面的研究員 Elana Zeide 表示，這項技術「展示了使用者在網上看到的現實中，擁有的權力和知識是多麼少。」
她說：「沒有客觀現實可以與這些照片進行比較。」「我們已經習慣了帶有感官輸入的實體世界 ...... 但有了這個，我們沒有任何本能或教導的響應來檢測什麼是真實的，什麼是非真實的。這讓人筋疲力盡。」
總部位於阿根廷的銷售數位插圖和庫存照片的設計公司 Icons8，推出了其線上業務 Generended.photos，提供「使用人工智慧的無憂、多樣化的按需模型」。
該網站允許任何人根據年齡（從「嬰兒」到「老年人」）、種族（包括「白人」、「拉丁裔」、「亞洲人」和「黑人」）和情感（「歡樂」、「中性」、「驚喜」）以及性別、眼睛顏色和頭髮長度過濾假照片。 然而，該系統顯示出一些奇怪的差距和偏差：例如，嬰兒唯一可用的膚色是白色。
 |
| 出售人工智慧生成的臉孔拼貼畫。 （圖示8） |
該公司表示，對於需要製作促銷材料、填寫原型或說明對人類模型來說，過於敏感的概念的客戶來說，其臉孔可能很有用，例如「令人尷尬的情況」和「刑事訴訟」。其線上指南還向客戶承諾，他們可以透過在你的專案中，包含「許多不同的種族背景」來「增加多樣性」和「減少偏見」。
公司透過隨意增加多樣性的嘗試而讓自己感到尷尬，像威斯康星大學麥迪遜分校，在一本本科小冊子上所做的那樣，將一名黑人男性 Photoshop 化成全白人人群，或將女性疊合成男性的集體照片。
但是，雖然人工智慧新創公司擁有一個簡單的解決方案 —— 為公司提供多樣性的幻覺，而不與一群多樣化的人合作 —— 但他們的系統有一個關鍵的缺陷：他們只模仿他們已經看到的相似之處。總部位於洛杉磯的人才機構 Role Models Management 的聯合創始人 Valerie Emanuel 表示，她擔心這種假照片可能會將媒體變成一種單一文化，其中大多數面孔看起來都是一樣的。
Emanuel 說：「我們希望在未來的廣告中創造更多的多樣性，並展示獨特的面孔。」「這是將一個外觀同質化。」
該公司創始人 Ivan Braun 說，Icons8 首先在世界各地的工作室拍攝了數萬張約 70 名模特的照片，從而創造了它的面孔。Braun 的同事在美國、義大利、以色列、俄羅斯和烏克蘭遠端工作，然後花了幾個月時間準備資料庫，清理影像，標記資料，並根據電腦的精確規格組織照片。
假色情影片被武器化，以騷擾和羞辱女性：「每個人都是潛在的目標」
在這些影像準備就緒後，工程師們使用名為 StyleGAN 的人工智慧系統輸出了大量的新照片，在一天內生成 100 萬張圖像。然後，他的團隊選擇了 10 萬張最令人信服的圖像，這些圖像可供公眾使用。未來幾個月將產生更多。
Braun 說，該公司在第一週就簽下了三個客戶：一所美國大學、一個約會應用程式和一家人力資源規劃公司。Braun 拒絕說出客戶的名字。
客戶每月最多可以下載 10,000 張照片，起價為 100 美元。Braun 說，這些模型不會為從他們的照片拍攝中，建構的任何新的人工智慧生成的圖像獲得剩餘費用。
另一家總部位於舊金山的新創公司 Rosebud AI，為客戶提供了 25,000 張「不同種族的 AI 客製化「模型」照片的機會。公司創始人 Lisha Li —— 她以她小時候為人物模擬遊戲《模擬人生》喜歡的無限金錢作弊程式命名了它 —— 她說，她首先將這些照片，作為線上購物網站上的小企業發明時尚模型的一種方式，而不需要昂貴的攝影。
主要人工智慧研究人員競相檢測「深度偽造」影片：「我們被淘汰了」
她公司的源圖像來自免費和無版權照片的線上資料庫，該系統允許客戶輕鬆地將不同的臉孔，疊加在一組不斷變化的身體上。她將該系統推廣為增強攝影師能力的強大工具，讓他們輕鬆地根據觀眾的國籍或種族，客製化時尚拍攝的模特。 她說：「臉部是技術可以解決的痛點。」
該系統提供給有限的客戶群體，她說該公司會單獨評估這些客戶，希望阻止不良行為者。大約 2000 名潛在客戶在等待名單上。
兩家公司都依靠被稱為「生成對抗網路」的人工智慧突破，該突破使用決鬥演算法來完善他們的工作：創作者系統輸出一個新的圖像，然後評論家系統將其與原作進行比較，告知創作者的下一個設計。每次迭代往往會得到比上一個更好的副本。
但這些系統是不完美的藝術家，沒有接受過人體解剖學基礎的培訓，只能嘗試比對他們以前處理過的所有臉孔的圖案。 一路上，人工智慧創造了一支由布勞恩所謂的「怪物」組成的軍隊：噩夢般的臉孔被非人類的畸形和超現實的突變所包圍。常見的例子包括手指過度的手、沒有特徵的臉和嘴巴對眼睛的人。
 |
| 上面顯示的人工智慧生成臉孔的早期、未經提煉的版本拼貼。該公司將這些變異的創作稱為「怪物」。 （圖示8） |
近幾個月來，該軟體已成為人工智慧研究人員，最閃亮和最病毒式的突破之一，大大減少了藝術家和研究人員，創造夢幻般的風景和虛構人物所需的時間和精力。在 thispersondoesnotexist.com 上可以看到看似無限的假貨流，以及一個由貓影像訓練的伴侶人工智慧系統，稱為thiscatdoesnotexist.com。為了測試人們是否能分辨出生成的假貨和真實的東西，華盛頓大學的人工智慧研究人員還建立了並排網站whichfaceisreal.com。
0 comments:
張貼留言