人工智能與信息安全——從柯潔大戰(zhàn)AlphaGo說起

據(jù)媒體最新消息，圍棋人工智能程序AlphaGo將于2017年5月22—27日在浙江烏鎮(zhèn)與包括柯潔在內(nèi)的中國頂尖棋手對決，這可能是人類最頂尖棋手與人工智能程序的“終極對決”。不過，這次終極對決的焦點不是棋藝，而是兩種不同方式產(chǎn)生的智能誰更強。本文將揭開人工智能的神秘面紗。

人工智能

人工智能（Artificial Intelligence, AI）是研究、開發(fā)用于模擬、延伸和擴展人類智能的理論、方法、技術(shù)及應(yīng)用系統(tǒng)的一門新的科學(xué)技術(shù)，是計算機科學(xué)的一個分支，試圖了解智能的實質(zhì)，并生產(chǎn)出一種新的能以人類智能相似的方式做出反應(yīng)的智能機器。AI的主要研究內(nèi)容包括：機器學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)、計算機視覺、智能機器人、自然語言理解、自動推理和搜索方法等。總體來說，AI研究的一個主要目標是使機器能夠勝任一些通常需要人類智能才能完成的“復(fù)雜工作”，即以前繁重的科學(xué)和工程計算本來是要人腦來承擔(dān)的，如今計算機不但能完成這種計算，而且能夠比人腦做得更快。

人工智能與信息安全

隨著技術(shù)革新，AI逐漸走入千家萬戶，一些看似只有在電影中出現(xiàn)的場景正在成為現(xiàn)實，隨之而來的安全漏洞問題同樣不容忽視，有些甚至已經(jīng)顯現(xiàn)。傳統(tǒng)網(wǎng)絡(luò)漏洞帶來的損失一般是信息泄露、銀行卡盜刷等欺詐、盜竊行為，這些損失往往可以用金錢衡量。而隨著技術(shù)的逐漸完善，AI已越來越多地進入到工業(yè)、生活等諸多領(lǐng)域。針對AI的網(wǎng)絡(luò)攻擊所帶來的損失，有可能迅速傳導(dǎo)給消費者，嚴重時甚至危及生命。特斯拉去年已經(jīng)在利用AI來研究無人駕駛，依靠遍布車身的上百個傳感器將源源不斷的數(shù)據(jù)發(fā)送給車的自動駕駛系統(tǒng)，來實現(xiàn)等紅燈、保持車距、躲避障礙物、并線等一系列安全駕駛功能。然而研究發(fā)現(xiàn)，可利用數(shù)據(jù)欺詐等手段遠程控制汽車，讓汽車偏航，甚至逼停汽車造成事故。這種AI的網(wǎng)絡(luò)攻擊就不僅僅是財產(chǎn)損失了，有時還將威脅到生命。此外，相比人類而言，AI很難從極少數(shù)的例子上學(xué)到有價值的信息，并針對某個情境獨立建造一個抽象模型進行具有一定高度的歸納總結(jié)。“小數(shù)據(jù)”的不穩(wěn)定性給AI帶來了不可靠、不準確和不公平，而且還存在較大的安全風(fēng)險。簡言之，AI目前還存在著很多漏洞，尚無法確保其的絕對安全性。

（作者：康雙勇，原載于《保密科學(xué)技術(shù)》2017年第4期）