本報導是針對美國國家安全人工智慧委員會聯合主席羅伯特·沃克和埃裡克·施密特發出的徵求意見的呼籲而提交的。你可以在這裡找到蘭德公司提交的所有檔案。
2016 年，三分之一接受調查的美國人告訴研究人員，他們認為政府正在隱瞞他們對「北達科他州崩潰」（North Dakota Crash） 的瞭解，這是研究人員自己為調查目的而編造的陰謀。這次崩潰從未發生過，但它凸顯了人類在決定什麼是真實的，或不真實的缺陷。
網際網路和其他技術，使武器化和利用這些缺陷變得更容易，比以往任何時候都更快、更引人注目地吸引更多的人。人工智慧可能會被用於以前所未有的規模、速度和有效性，來利用人性中固有的弱點。像俄羅斯這樣的對手，可以追求利用這些操縱，來巧妙地重塑目標對周圍世界的看法，有效地製造現實。 即使我們的一些預測是準確的，所有依賴輿論、大眾認知或公民參與的治理都面臨風險。
人類的一個特徵弱點是，我們多麼容易錯誤地重新定義，我們所經歷的東西。這個被稱為湯馬斯定理（Thomas Theorem）的缺陷顯示：「如果男人將情況定義為真實的，那麼他們的後果就是真實的。」換句話說，人類不僅會回應自己情況的客觀特徵，還會回應自己對這些情況的主觀解釋，即使這些信念在事實上是錯誤的。其他缺點包括我們願意相信不真實的資訊，以及傾向於像理性一樣容易受到情感訴求的影響，正如「北達科他州崩潰」謊言所顯示的那樣。
機器也可以被教導比人類更有效地利用這些缺陷：人工智慧演算法可以高速測試數百萬人一次又一次地執行哪些內容有效，哪些內容不有效，直到他們的目標做出所需的反應。
考慮俄羅斯在 2016 年英國退出歐盟（英國脫歐）投票中的作用。有證據表明，與俄羅斯有關聯的推特賬戶在投票當天從 3800 個賬戶中傳送了 1000 多條推文，推動了支援脫歐的投票。隨著時間的推移，這些推文似乎在推特上煽動了支援脫歐陣營的火焰，反脫歐陣營在選舉前幾天做出了反應。
人工智慧演算法可以高速測試數百萬人身上哪些內容有效，哪些內容不工作，直到他們的目標做出所需的反應。
在推特上分享包括生成對抗性網路、自然語言處理和量子計算在內的新興技術可以使此類場景更加有效。例如，在未來，俄羅斯演員可以根據他們從資料經紀人合法購買的使用者資料、他們從駭客那裡購買的非法資料，以及他們自己檢索的資料，使用收件人的特點和他們在各種線上平台上的行為，來客製化這些推文中的資訊。
這些機會今天已經出現，其中一些可能越來越容易被人工智慧利用。例如，在未來，像俄羅斯這樣的對手，可以查詢這些資料流，來客製化他們的資訊，並在社交媒體平台上測試它們，以確定最有效的資訊。然後，這些對手可以相應地更改這些經過測試的訊息，並透過各種線上媒體（例如傳統社交媒體平台、擴增實境、虛擬實境裝置，或非侵入性腦電腦介面）將其佈署到使用者及其社交網路中的人。
目前，其中大部分是手動完成的，但人工智慧允許規模的變化。新興技術將使這種迭代完善循環幾乎瞬間、即時地發生，其影響人數的規模遠遠超過英國脫歐投票期間所看到的人。
製造業現實並不新鮮
人類現在和現在都容易受到欺騙、挑釁、限制、欺騙或其他操縱。至少自 20 世紀 60 年代以來，蘇聯軍隊和隨後的俄羅斯組織，都認識到利用這種脆弱性的機會。這就是為什麼蘇聯人開發了一個正式的研究計劃 —— 稱為反身控制理論 —— 來模擬人們，如何操縱目標對現實的感知。該理論側重於以巧妙地改變其決策動機，和邏輯的方式策略性地將資訊傳遞給目標的方法。最終目標是讓人們做一些事情，讓他們相信這符合他們的最大利益，即使事實並非如此。當俄羅斯人將反身控制理論武器化時，麥迪遜大道使用類似的邏輯來喚起情感，並向美國消費者銷售產品。
俄羅斯人使用反身控制的例子不勝列舉。例如，1993 年 10 月，俄羅斯立法者接管了自己的議會，倡導回歸共產主義。當局決定允許叛軍佔領一個警察通訊哨所，讓他們進入一個安全通訊管道，然後被警方用來傳輸政府官員之間關於衝進被佔領的議會大廈計劃的虛假對話。在聽到這一訊息後，叛軍主管人之一、議會議長魯斯蘭·卡什布拉託夫呼籲支持者人群奪取當地電視台，這是政變的第一步。透過讓 Kashbulatov 公開提出暴力請求，俄羅斯當局為突襲議會和逮捕持不同政見者創造了理由。
人類現在和現在都容易受到欺騙、挑釁、制約、欺騙或其他操縱。
在推特上分享同樣，東德人認識到人造現實對維持內部控制的力量。從 20 世紀 70 年代左右開始，他們被稱為斯塔西的國家安全部將他們的工作範圍從對目標的身體虐待（如酷刑或處決）擴大到包括某種心理虐待。Stasi 將這種技術稱為 Zersetzung，鬆散地翻譯為「分解」。這是一項有組織的科學努力，目的在收集有關人們的資訊，然後以破壞他們在私人和公共生活中的自我意識的方式使用它。斯塔西闖入目標的家，重新佈置他們的傢俱，偷竊衣服或關閉他們的時鐘。他們會向親人傳送妥協的照片，詆譭工作場所的人，將孩子從持不同政見的父母手中趕走，或欺騙他們認為自己患有精神病，這在今天被稱為煤氣燈。分解的受害者很難理解，為什麼他們的生活變得無法辨認。
但這些俄羅斯和斯塔西的戰術需要仔細的研究和執行，以一次一個地擾亂或操縱目標。當代資訊環境和現代工具，包括人工智慧，可能會降低此類操縱的交易成本。以下方法使資訊武器化能夠顯著擴大。
製造現實與現代工具相遇
大數據
到 2025 年，一些人預測人類每天將產生約 463 EB，足以填充 2.12 億張DVD。他們的個人資料描述了一個可怕的細節。透過從合法和非法資料經紀人那裡訪問此類資料，人工智慧可以合併和比對他們的亞馬遜購買、谷歌搜尋、推文、Facebook 照片、401k 帳戶餘額、信用歷史記錄、他們的 Netflix 觀看習慣、線上搜尋等。
精確行銷和微定位
大數據可以幫助根據狀態更新、釋出影像草稿、臉部辨識資料、電話和簡訊來確定哪些個人與其他人相似，哪些相似之處很重要。人工智慧將使這在未來變得越來越容易。如果操縱者對一個人有足夠的瞭解，可以傳送他或她的資訊來挑釁或激勵，那麼向類似的人傳送相同的資訊，應該會大規模產生類似的結果。
Shallowfakes、Deepfakes 和社會機器人
Shallowfakes 是透過手動篡改圖像、影像或音訊來建立的。Deepfakes 使用人工智慧將圖像、影像和音訊疊加到源檔案中，以巧妙地改變誰在做什麼。人工智慧驅動的「社會機器人」可以像真人一樣進行對話。人工智慧將使這種不真實的「人」數量急劇增加，並使人類對話與人工對話更加困難。
生成對抗性網路
幫助深度偽造如此逼真的技術之一，是使用一類稱為生成對抗網路（GAN）的機器學習系統。這些網路有兩個神經網路模型，一個生成器和鑑別器。生成器接收訓練資料並學習如何重新建立它，而判別器試圖區分訓練資料與生成器生成的重新建立資料。這兩個人工智慧演員反覆玩遊戲，每個演員在工作上都變得更好。
目前，生成的對抗性網路正被用來建立偽造色情影片和政治諷刺的深度偽造。但他們操縱的能力應該讓我們擔心，原因有幾個。首先，他們可以使用大數據和精密行銷等輸入，來擴充深度偽造等內容的製造。其次，生成器和鑑別器神經網路之間的迭代競爭以機器速度進行，並且是準確的。第三，支撐生成對抗網路的相同邏輯可以應用於其他實踐。
結論
現在向你傳送汽車或護膚廣告的人工智慧驅動的社交機器人，可能會開始與你聊天 —— 實際上是在你身上進行實驗 —— 以測試哪些內容會引起最強烈的反應。你的反應將被回饋到一個生成性的對抗性網路 —— 類似於系統，你和無數其他人在其中發揮了歧視者的作用，所有這些都有助於人工智慧學習如何在未來的刺激中更好地操縱你。你或像你這樣的人，可能會慢慢被迫改變你對其他群體或外國或國內政策問題的態度、偏好或行為。無論誰率先開發和使用此類系統，都可以在未來幾年內輕易地掠食廣大公眾。
鑑於當前的社交媒體格局，抵禦這種大規模操縱將特別棘手，這允許透過使用機器人或其他形式的自動化，來輕鬆增加不真實的個人、人物角色和帳戶。有幾種可能的方法可以開發保護措施，防止使用人工智慧對人類進行實驗。政府監管是一種方式。政府可以規範社交媒體公司的身份認證標準。這可以透過對不符合這些標準的公司進行罰款，為符合這些標準的公司提供稅收減免，或為每個開設新社交媒體帳戶的使用者向公司徵稅。此外，美國證券交易委員會可以為上市公司制訂標準，在檔案中報告真實、活躍的使用者。例如，2016 年，美國證券交易委員會對推特在其平台上，報告每日和每月活躍使用者的方式表示擔憂。證券交易委員會可以制訂報告真實使用者的標準，這不僅可以保護投資者，還可以確保這些平台上，誰是哪個賬戶的背後的透明度。
現在向你傳送汽車或護膚廣告的人工智慧驅動的社交機器人可以與你聊天 —— 對你進行實驗 —— 以測試哪些內容會引起最強烈的反應。
在推特上分享或者，社交媒體提供商可能會主動採取措施限制多個或不真實的帳戶。 如果這些公司認為這樣做符合他們的利益，他們有很多方法可以減少不真實賬戶的傳播。 這些措施可能包括更嚴格的身份驗證和驗證，或者可能收取與開立每個帳戶相關的名義費用。 合法使用者只會因為這種成本而感到不便，但機器人牧民可能會發現這種成本令人望而卻步，或者為無數虛假賬戶安排付款的程序障礙是一個障礙。此外，存在金錢線索將是辨識不真實賬戶甚至追溯到肇事者的另一種方式。
結合起來，這些步驟將使成本和激勵措施，與使用者開啟數千個人工智慧支援的不真實帳戶保持一致。無論技術的新技術如何發展，不真實內容的製作者總是需要一種方法來分發他們的操縱資訊。正是這些分銷通路將成為我們現實武器化的第一道防線。
不幸的是，目前的激勵結構幾乎沒有給社交媒體公司，採取此類步驟的動力，因為廣告收入的性質獎勵了更多的活躍帳戶，無論它們是否由真人管理還是透過自動化管理。然而，人們可以想像，重視與真實人物互動的使用者獎勵社交媒體公司，這些公司採取措施確保其業務和流量帳戶的真實性。真實性可以成為一些社交媒體平台的寶貴品牌屬性，並受到消費者行為的激勵。
如果三分之一的美國人確實認為，政府在隱瞞了關於虛構的「北達科他州崩潰」的事情，想像一下，在網際網路上以精確的準確性，準確地瞄準了大量機器人、生成的對抗網路和深度偽造後，還有多少人會相信這個虛構事件？
商機探索 —— 橋樑巡檢必須用上哪些技術和設備？
0 comments:
張貼留言