人工智能的危機

（本文僅代表Raymond Lui雷子謙先生個人觀點分享）

在最近美國總統初選，我們看到有透過人工智能製造出來的不同宣傳片段，而這些片段上的真實性也廣泛受到不同討論，其中一個候選人甚至公開地批評這些片段部分是虛假製造。我自己本身也特地去觀看這些片段，從觀看的片段中難以分辨其真假。加州大學柏克萊分校電腦科學教授歐布萊恩（James O'Brien）說：「總有一天，AI系統可以輸出與真實畫面無異的影像。屆時，就再無法偵測到影像是否由AI產生了。」 這導致一個很嚴重的反思，究竟在人工智能學習的過程裡邊所讀取的大數據，甚至乎會牽涉個人隱私及虛假資訊。而最大問題人工智能並不會自動刪除這些虛假的資訊之餘，也可能製造與真實資訊相似度極高的假訊息。舉一個例子，當我們去外地旅遊搭飛機的時候，如果一個不法分子可以取得外遊紀錄，然後利用我們對家人的關心去製造一段虛假綁架片段，目的是要短時間騙取我們去交付贖金。當我們並不能分辨人工智能製造的片段真假的時候就會很容易墮入陷井。所以我們必須要清楚知道應如何安全保護個人隱私信息，在社交媒體大數據風行的時代，如何有效規範人工智能讀取及學習有關隱私的處理，以及怎樣有效地用法律規管人工智能所製造的假訊息是非常值得我們去探討及即時制定。

第二方面安全風險，人工智能系統如果沒有足夠的保護底下，極有可能受到駭客攻擊，而導致系統失控或造成傷害。現今時代，駭客攻擊並不是新鮮事，而現今大部份的駭客都是為了得到公司內部或客人資料而攻擊。如果將來駭客的目標轉移是人工智能系統而導致失控，洩漏的不單單是客戶的數據，更會令人工智能發出錯誤的訊息。一個簡單的例子現在大部份公司都會使用人工智能來協助客戶服務的回應。假如針對客戶服務的人工智能系統來攻擊，不單單短時間內使系統癱瘓，甚至乎更可能利用人工智能系統去得到更多客戶信息，又或者可以向客戶提供本身公司的利益而導致損失。假如將來一家上市公司的人工智能系統被攻擊，分分鐘駭客可以捏造上市公司動向而導致股價波動，最後損失的不只是公司本身更會擴大範圍到投資者。