『眼見為實』？這一人們辨別真偽的通用法則，可能因為人工智能(AI)的到來而失效。
例如，充斥在互聯網上的人類『水軍』未來可能要被人工智能取代了。芝加哥大學計算機科學教授趙燕斌團隊發現，人工智能可以被用來生成復雜的點評信息。這些虛假的點評不僅機器無法檢測出來，就連人類也分辨不出來。
科技與人性博弈的『黑鏡』正在向人類撲面而來，人工智能可能是最鋒利的雙刃劍。
在上周末，俄羅斯總統普京在一場演講中罕見地評論人工智能。他說，『誰主導人工智能領域，誰就將成為世界的統治者』。『鋼鐵俠』埃隆·馬斯克於9月4日也再次發聲稱，各國都在竭力爭取AI競爭的優勢，纔是最有可能導致第三次世界大戰的原因。
點評裡隱藏的『玄機』
近期一則『人工智能已經學會自動編寫虛假點評』的消息廣為流傳。『我喜歡這個地方。我跟我哥一起去的，我們點了素食意大利面，很好吃。啤酒不錯，服務也很棒。推薦這個地方，是個吃早餐的好去處。地兒小但是買賣大』。這個如假包換由AI操刀的點評，足以騙倒很多讀者。
消息源於趙燕斌等發表的一篇題為《在線點評系統中的自動眾包攻擊和防御》的論文。在研究中，趙燕斌團隊發現，人工智能可以被用來生成復雜的點評信息。這些虛假的點評不僅機器無法檢測出來，就連人類讀者也分辨不出來。
這篇論文今年晚些時候會在計算機安全頂級會議——ACMCCS(美國計算機協會計算機與通信安全會議)上展示。早在2014年，趙燕斌團隊還發表了題為《惡意眾包工作者的實際對抗性檢測》的論文，分析了怎樣用人工智能檢測社交網絡中的人類『水軍』。
趙燕斌接受了第一財經記者的采訪。他的實驗室一直在從事和網絡安全相關的課題。最新的研究歷時一年左右，是過去研究的延伸。『人工智能的技術很先進，好處也顯而易見，但是我們的目的是提前預測出人工智能對於社會潛在的威脅，因此當這些威脅真正來臨的時候，人們不會猝不及防。』趙燕斌對第一財經記者表示。
他進一步解釋道，在獲得了美國的『大眾點評網』Yelp的公開用戶評論數據後，團隊就開始做實驗。具體而言，是從亞馬遜上僱了600位用戶，讓他們對真人和人工智能編寫的點評進行辨別。
『結果是幾乎沒有人看得出來哪些是機器撰寫的點評。』趙燕斌對第一財經記者說道，『更讓我們吃驚的是，用戶不僅分辨不出真假，而且還覺得機器撰寫的這些點評對他們很有幫助。』
他表示：『目前這種技術仍較新，還無法做到十分精准。比如已經在微博或者Twitter上出現的有些基於簡單模板產生的評論。』
趙燕斌認為，雖然他們無從得知是否已經有一些公司試圖大規模利用人工智能的編程軟件撰寫虛假評論，但是這無疑會成為不法分子未來的一個『必要選項』，因為人工智能相比人類水軍的優勢非常明顯。
首先，人類『水軍』發送虛假評論的時間控制不了，因為『水軍』一見了工作都上去搶，所以很容易在被攻擊的網頁上發現異常，而人工智能發送消息的時間是可以控制的。其次，僱傭人類『水軍』撰寫評論的成本在增長，而人工智能可以反復頻繁地被使用。
讓人揪心的是，反抄襲軟件也對這些虛假點評無能為力，因為這些『高段位』的AI點評是逐字生成的，而不是簡單地替換已有點評中的用詞。如果使用反抄襲軟件檢測，不但很難檢測出虛假點評，而且會『誤傷』一大批真實的點評。
『社交網站已經開始利用人工智能技術發布一些虛假的消息或評論。』人工智能初創公司WorkFusion創始人、CEO揚格列維奇(MaxYankelevich)告訴第一財經記者，『這些消息只有通過人工智能的手段纔能加以制止。這不僅僅需要政府的努力，更需要科技公司和整個社會的努力。』
好消息是，人工智能有可能識別出機器中的『水軍』。趙燕斌團隊研究發現，用計算機去分析字符的分布等特征，他們就會發現真假點評之間存在著細微的差異。
假點評是從真實點評裡學出來的，在這個過程中，難免會有信息流失。假點評注重的是流暢、可信，但像字符分布這種平時沒人關注的特征，就做得不那麼好了。
當然，攻擊者也可以騙過檢測。換好一點的硬件，做更復雜一點的神經網絡就行。但這種檢測至少提高了攻擊的門檻，為攻擊者設置了障礙。趙燕斌對第一財經記者表示：『這就是一種勝利，所有的安全工作都是這樣，提高攻擊的門檻。』
不過，趙燕斌強調，雖然越來越多的研究致力於防御『假新聞』，但是並不是一切問題都能夠用技術的手段來解決的。『我們需要更多地和社會學科學家以及心理學家合作，尋求共同的解決方案。』趙燕斌告訴第一財經記者。
福音還是災難？
趙燕斌還提醒道，『更值得注意的是，一些攻擊當然是出於商業營利的目的，但是也不排除一些組織甚至政府機構利用虛假評論當做宣傳的武器，這一旦發生，會很可怕。』
他認為，人工智能技術如果被濫用，對整個社會是一個巨大的威脅，不但會讓依靠點評信息的用戶失望，而且會以假亂真，破壞社會秩序，這樣的後果更為嚴重。
趙燕斌給記者舉例說道，在去年的CCS大會上，卡內基梅隆大學的研究人員就展示了一個場景：只要人們戴上一副經過特殊打造的眼鏡，人工智能對於人臉的辨認就會失敗，比如一個白人女性可以被認為是一個黑人男性。
事實上，隨著AI和計算機圖像合成技術的發展，未來任何人都可以制造以假亂真的新聞、圖片或者視頻、音頻。專家表示，這令信息『武器化』大戰一觸即發。
今年7月，華盛頓大學的研究人員就曾利用人工智能制作了一個關於美國前總統奧巴馬演講的假視頻，該視頻是基於對奧巴馬過去幾十個小時演講的視頻分析合成的，圖像和聲音都能達到以假亂真的水平。
更可怕的是，人工智能已經可以做到『基於事實的胡編亂造』，這些內容在臉書(Facebook)和其他社交網站上廣泛地流傳開，很少有人會質疑它們的真偽。就在上個月底，Facebook開始正式出手打擊假新聞：將會禁止散布假新聞的主頁在其網站上投放廣告。
美國政府也開始加大對研發的資助來打擊『假新聞』。9月初，賓夕法尼亞州的兩名教授獲得了美國國家自然科學基金會(NSF)資助的30萬美元資金，以開發偵測『假新聞』的數字化設備。
近日，杭州的某著名連鎖快餐門店率先推出了『刷臉支付』服務，支付過程無需手機，只需由3D攝像頭對准顧客的面部進行掃描就能驗證身份、點餐付款。
但在趙燕斌看來，這種人臉支付的方式很容易受到攻擊。『對抗這種攻擊，不僅僅要大數據分析，還可能要用到計算機視覺。跨學科的融合是未來研究的趨勢。』趙燕斌對第一財經記者表示。
