騰訊數碼 易靜
許多汽車商都在開發無人駕駛汽車，在不久的未來，無人駕駛汽車必將進入我們的生活。在一些人興奮地期待之時，另一些人卻表示擔憂。難道我們真的願意將自己的生命交給幾行代碼嗎？這些代碼到底由誰來控制？
英國《衛報》最近刊文對此問題進行探討，下面是文章節選：
繞不開的有軌電子難題
1967年時，哲學家菲利帕.福特(Philippa Foot)曾提出一個關於有軌電子的倫理學難題：
一個瘋子將5個無辜的人綁在軌道上。一輛失控的電車迎面開來，即將碾過這5個人，幸好可以拉下火車的控制杆，將它轉向另一個方向。問題在於，在另一條軌道上也有1個無辜的人。拉下控制杆的確可以救下5個人，但會犧牲另外那1個人。你應該怎麼做才符合倫理？
這個難題後來還演化出許多版本，比如讓你選擇撞死5無辜的人，或者將一個胖子推下去阻止電車前進；又比如這個胖子剛好就是將5個無辜者綁在電軌上的人，等等。
同樣的，我們可以將類似的爭論引入到無人駕駛汽車的討論中來。討論的問題可以這樣概括：你的無人駕駛汽車即將與一輛巴士相撞，車上全是學生，車子意識到要麼犧牲你去挽救一車的學生，要麼救你而放棄那些學生，在設計程式時我們應該怎麼選擇呢？
借鑒iPhone模式能保證無人駕駛汽車安全嗎？
我們可以換一個方式來看待這個問題：如果你想設計一輛汽車，讓它在特定環境下故意謀殺司機，你如何保證司機不會修改程式，讓他的汽車無法故意謀殺人？
其實我們已經有了一個明顯的答案，那就是借鑒iPhone模式。我們可以設計一輛汽車，只允許它安裝運輸部（或者製造商）提供的軟體，然後製訂嚴格的法規，誰修改軟體就處以重罪。這就是目前iPhone王國推行的法規，遊戲主機和許多其它設備也都這樣做，它們紛紛配上數位鎖，即內部人說的“DRM”（數字版權管理）。《數字千年版權法案》（Digital Millennium
Copyright Act）等法律禁止人們移除數字鎖，防止受版權保護的著作被盜版，如果誰膽敢發佈資訊説明他人解除數位鎖，同樣也逃不過法律的制裁。
自動駕駛汽車程式必須對公路上高速移動的目標負責，尤其是那些脆弱的人類，這似乎是理所當然的，但它會帶來一個很大的問題：在現實中根本行不通。
每個被鎖定的設備都可以輕易“越獄”。早期的數位鎖法規之所以製訂，最主要目的並不是為了阻止人們重新配置設備，而是確保沒有企業和設備説明他們破解。給手機解鎖並不是什麼難事，你可以從網上輕易下載軟體解鎖手機，也可以讓非法破解手機的企業幫你代勞。
沒有製造商的允許無人可以重置自動駕駛汽車，如果說這就是確保無人駕駛汽車安全的前提條件，那麼無人駕駛汽車將永遠不會安全，因為總會有人能破解軟體的。
不要忘了是軟體就有漏洞！
即使我們可以鎖定汽車的設置，它也同樣不安全。數位鎖會在電腦程式中佔據一個特定區域，就連電腦所有者也無法進入。要讓數位鎖管用，它的相關檔必須連所有者都看不到。當我們命令作業系統列出數位鎖所在目錄的檔時，系統要掩蓋或者忽略數位鎖檔，以防止用戶刪除或者替換它。當我們命令作業系統列出所有運程程式的清單時，數位鎖程式也應該被忽略，以防止使用者終止程式。
不要忘了，所有的電腦都有漏洞。就算是那些使用多年的軟體，它的原始程式碼已經被無數程式師檢查過，也存在微小的漏洞。汽車體格龐大，行駛速度快，它的破壞力很大，可以殺死司機及周圍的人。如果軟體不夠安全，攻擊者就可以劫持刹車、加速器或轉向裝置，最終導致悲劇發生。相反，如果我們設計出用戶無法修改的無人駕駛汽車，將汽車使用者修改程式視為自私（比如在碰到有軌電車難題時只求自保）的行為，情況會更糟糕。
無論無人駕駛汽車有什麼問題，當它將自己的乘客當成敵人時，問題會變得更嚴重。
執法者留下的漏洞被恐怖分子利用
在連網設備的世界裡已經出現“合法攔截”，設備常常留下一些後門供員警監管，這些後門又往往成為安全威脅的根源。儘管如此，執法者仍然希望留下更多的後門。以後的自駕汽車也會留下後門，員警可以向你的車發信號，強迫它停在路邊。漏洞會帶來更多問題，騙子和殺人犯可以在車中內置相似功能，乘客將成為他們的“禮物”，恐怖分子也可以利用這種功能進行攻擊。
問題還不只這些。城市規劃者之所以關注自動駕駛汽車，主要是因為它有可能降低路上的汽車數量，將私家車轉為公用分享的車，被Uber等企業控制。我們可以乘車，但車不是我們自己的，我們無法修改，上面談的問題會變得更複雜。Uber等企業會指定協力廠商來修改。它們也可能會允許用戶作出一些修改，比如增加用戶控制的緊急刹車功能，它可能會委託給保險商管理，不用想也知道，保險商肯定不希望這樣的功能出現。
讓我們忘了電車吧，最終無人駕駛汽車會改變勞工關係，增加監聽能力，重新分配財富！
來源：theguardian
沒有留言:
張貼留言