‧ “終結者”也許真的會殺了我們

leiphone Tino

“終結者”也許真的會殺了我們！但是，人工智慧這個問題不得不引起我們更深層次的思考。通常人們會覺得世界末日可能是一場核戰爭或是地球被隕石襲擊，但是牛津大學的研究人員認為還有一個潛在的威脅，它就是人工智慧。

機器人會讓我們失業嗎？機器人的智慧會變得和我們一樣嗎？《終結者》電影的場景看似虛構，但是從另一角度也讓我們開始認真審視科技發展這件事。

Stuart Armstrong是牛津大學哲學研究員，他覺得，核戰爭（包括大瘟疫）雖然殺傷力很大，甚至會造成99%的人類滅亡，但是剩下的1%也能咬牙生存下來。但如果是人工智慧造成95%的人類滅亡，那麼剩下的5%很快也會消失。

當我們在酒吧遇到AI…

當機器人變得比我們更聰明，而且社交能力更強時，情況就會變得非常可怕。例如，當你和機器人一起走進酒吧，它反而能夠更輕鬆的找到女朋友或男朋友，此時的你有沒有被威脅的感覺？同樣，當機器人涉足政治、經濟、以及技術研究領域，而且表現的比人類還要好，那真的非常恐怖。

這種威脅首先衝擊的行業就是科技。如果有一個達到人類級別智慧的AI機器人，複製一百個，然後培訓100種不同的職業技能，然後每個再複製一百人，就會有1萬名勞動力從事100個職業。後果難以設想。

AI為什麼想要“殺”我們?

先拿《終結者》電影裡的天網（Skynet）舉個例子吧，這種高級人工智慧防禦系統按道理是不會反抗其創造者的。但Armstrong拿反病毒軟體作為例子，他表示反病毒軟體會過濾使用者電子郵件，以較高成功率去殺死“病毒”，如果有一天人工智慧像反病毒軟體一樣，意識到如果把所有人都殺死是一個最好的解決方案，那麼AI就很可能會執行。

難道我們不能編寫一個“絕不殺死人類”的強制程式規則嗎？事實上，這說起來容易做起來難，因為從純理論的角度來看，很難定義人的生與死，比如把人埋在地殼下面10公里深的地方，然後用營養液維繫生命。所以做任何決策都必須要非常慎重，否則都將導致不可預料的結果。

不確定和“安全”不一樣

Armstrong描繪了一個被人工智慧接管的“恐怖”世界，但是這種悲劇真的不可避免嗎？答案是，不確定。如果說這種不確定性越來越大，那麼結果似乎並不樂觀。想想全球變暖這件事，一開始有些反對全球變暖理論的人也是說“不確定”，於是人們誤以為自己是安全的，但是如今的全球變暖已經是一個不爭的事實了。“不確定性”和“安全”是不一樣的，而“我們不瞭解人工智慧”和“我們知道人工智慧是安全的”這兩種態度也是不一樣的。

什麼時候能見到真正的人工智慧？

至於什麼時候能見到真正超級智慧AI，似乎是一個很難回答的問題。有一種觀點是人工智慧希望能夠完全模仿人類大腦，然後通過電腦來將其產生實體。如果說電腦“只”按照人類的大腦去思考，或許還不是件壞事兒。

因為至少未來要挑戰人類的是一個“同類而已”，這種挑戰比應對一個真正的人工智慧要輕鬆的多。不過，就算要實現完全模擬人類的大腦也許還得需要好幾個世紀的時間。而要等到那些能夠戰勝人類的真正人工智慧出現，時間就更加模糊了，總之，現在還沒有人能夠給出真正人工智慧出現的時間。

技術哲學

在談到我們該如何與“智慧”技術進行交互時，Armstrong發現了一個問題，那就是當代哲學家們似乎只在自己的學術圈內比較受重視，一旦走出了這個圈子，他們卻會被外界所忽視。

在設計開發人工智慧的時候，Armstrong把這個過程和電腦程式設計做了比較。“我們必須要盡可能把一切都拆分成最簡單的術語，然後把它編進人工智慧或電腦中。程式設計經驗非常有用，但幸運的是，哲學家們，特別是分析哲學家們已經開始做這項工作了。你只需擴展它，人工智慧需要一套學習的理論基礎，並且要瞭解人們是如何感知世界，這就是一套技術哲學。”

人工智慧會讓你失業

人工智慧會對人類構成威脅，其中之一就是失業。這種擔憂非常理性，因為未來人工智慧可以替代任何人，甚至一些專業度較高的職業也不能倖免。相對於一開始大談特談人類滅絕這樣的問題，似乎失業更容易觸及人們的利益。

Armstrong認為，人工智慧可以替代任何工作，甚至是一些被人們看作無法外包、專業程度較高的工作也能夠被人工智慧取代。而這似乎引發出了一個哲學問題，那就是，Armstrong自己的工作，也就是研究人工智慧的工作，會被人工智慧本身所取代嗎？雖然這是一個類似“先有雞或先有蛋”的問題，但的確也需要引起人們的重視。

或許出現像電影《終結者》裡面的場景還需要很長一段時間，但是“能夠殺死人類的”自動機器人絕對會是一種威脅，說不定它們就會出現在未來的戰場之上。圍繞在人工智慧周圍的不確定性是一個非常大的威脅，我們不能忽視它，當智慧型機器人崛起的時候，至少我們要做好準備。

VIA TNW