未來(lái)的人工智能將會(huì)越來(lái)越聰明，甚至能夠無(wú)限接近人類，可以獨(dú)立思考，擁有情感。面對(duì)人工智能帶來(lái)的無(wú)限未知，我們?cè)谙硎芗夹g(shù)進(jìn)步的同時(shí)一樣要心存危機(jī)感。

今年3月8日，著名物理學(xué)家史蒂芬·霍金向英國(guó)《獨(dú)立報(bào)》提出：人類必需創(chuàng)建有用機(jī)制及早辨認(rèn)威脅所在，防備新科技(人工智能)對(duì)人類帶來(lái)的危機(jī)進(jìn)一步加深。他說(shuō)，人工智能會(huì)以多種形式展開對(duì)人類的毀滅，比如生化戰(zhàn)爭(zhēng)或核子戰(zhàn)爭(zhēng)，聰慧醒目的人工智能會(huì)讓人類滅亡?；艚鸢凳荆阂粋€(gè)超級(jí)聰慧的人工智能可以很是好地實(shí)現(xiàn)它的目的，如果這些目的沒(méi)有與咱們?nèi)祟愅?，咱們?nèi)祟惥驮庋炅恕?/p>

其實(shí)除了霍金，很多人都表示出對(duì)于未來(lái)人工智能會(huì)威脅人類的擔(dān)憂。許多關(guān)于人工智能帶來(lái)世界末日的電影場(chǎng)面恢宏而燦爛，人類在科技帶來(lái)的毀滅面前顯得又是無(wú)比的脆弱，在那一刻人們是否會(huì)后悔沒(méi)有對(duì)人工智能危機(jī)早作打算？

人工智能在高速發(fā)展的社會(huì)上會(huì)給人們帶來(lái)多大的便利毋庸贅言，我們?nèi)绾蝸?lái)對(duì)待霍金的警告呢？首先，霍金本人也是人工智能技術(shù)的支持者，霍金認(rèn)為，如今人工智能似乎已經(jīng)滲透到各個(gè)領(lǐng)域。人工智能甚至可幫助根除長(zhǎng)期存在的社會(huì)挑戰(zhàn)，比如疾病和貧困等。

人工智能技術(shù)是當(dāng)今新技術(shù)革命的領(lǐng)頭羊。事實(shí)上，人工智能技術(shù)的發(fā)展已歷經(jīng)三次浪潮。第一次浪潮以“手工知識(shí)”為特征，典型范例如智能手機(jī)應(yīng)用程序等。第二次浪潮以“統(tǒng)計(jì)學(xué)習(xí)”為特征，典型范例如人工神經(jīng)網(wǎng)絡(luò)系統(tǒng)，并在無(wú)人駕駛汽車等領(lǐng)域取得進(jìn)展。雖然這些人工智能技術(shù)，對(duì)明確的問(wèn)題有較強(qiáng)的推理和判斷能力，但不具備學(xué)習(xí)能力。第三次浪潮則以“適應(yīng)環(huán)境”為特征，人工智能能夠理解環(huán)境并發(fā)現(xiàn)邏輯規(guī)則，從而進(jìn)行自我訓(xùn)練并建立自身的決策流程。今年年初，谷歌AlphaGO的升級(jí)版Master以60∶0的戰(zhàn)績(jī)，擊潰當(dāng)世所有圍棋頂級(jí)高手；就在5月25日，AlphaGO又接連兩局擊敗中國(guó)圍棋職業(yè)九段棋手柯潔；我以為，這些都是人工智能第三次浪潮的標(biāo)志。

其次，人工智能技術(shù)也是一把雙刃劍。一方面，借助人工智能技術(shù)實(shí)現(xiàn)自動(dòng)化，將極大提高生產(chǎn)率，節(jié)省勞動(dòng)成本；通過(guò)優(yōu)化行業(yè)現(xiàn)有產(chǎn)品和服務(wù)，開拓更廣闊的市場(chǎng)空間。正由于人工智能對(duì)社會(huì)經(jīng)濟(jì)無(wú)可替代的重要推動(dòng)作用，在我國(guó)兩會(huì)上已將人工智能寫進(jìn)了政府工作報(bào)告。

另一方面，人工智能技術(shù)對(duì)社會(huì)也帶來(lái)了近期和遠(yuǎn)期的風(fēng)險(xiǎn)。在不遠(yuǎn)的將來(lái)，那些重復(fù)、耗時(shí)、乏味的工作；在快速變化的復(fù)雜環(huán)境中進(jìn)行的工作以及超出人類極限的工作，都有可能被人工智能系統(tǒng)所代替，從而沖擊勞動(dòng)力市場(chǎng)?？梢灶A(yù)測(cè)，由于人工智能的發(fā)展，多數(shù)人的智能將低于或接近人工智能的水平，如果沒(méi)有政策的有效控制，財(cái)富就會(huì)集中到少數(shù)智能超過(guò)人工智能的人手中，這將進(jìn)一步擴(kuò)大社會(huì)的貧富差別，引發(fā)社會(huì)的撕裂。

至于說(shuō)到霍金警告的人工智能引發(fā)的人類生存風(fēng)險(xiǎn)，即人工智能將來(lái)會(huì)從整體上超越人類智能，據(jù)外媒報(bào)道，最新研究預(yù)測(cè)，10年內(nèi)，人工智能將在語(yǔ)言翻譯、駕駛卡車甚至高中作文寫作方面勝過(guò)人類，在2049年之前，機(jī)器可以創(chuàng)作暢銷小說(shuō)。50年內(nèi)，人工智能將會(huì)在各種任務(wù)的執(zhí)行中戰(zhàn)勝人類。

研究人員指出，“人工智能的進(jìn)步將會(huì)帶來(lái)巨大的社會(huì)后果。無(wú)人駕駛科技可能會(huì)在接下去10年內(nèi)取代數(shù)百萬(wàn)從事駕駛工作的人。除了可能會(huì)發(fā)生的人類失業(yè)，這一轉(zhuǎn)變將會(huì)帶來(lái)新挑戰(zhàn)，例如重建基礎(chǔ)設(shè)施、保護(hù)車輛網(wǎng)絡(luò)安全、修改法律法規(guī)。對(duì)人工智能開發(fā)商和決策者來(lái)說(shuō)，在執(zhí)法、軍事技術(shù)和營(yíng)銷方面的應(yīng)用也將帶來(lái)新的挑戰(zhàn)?！?/p>

但這并不是個(gè)壞消息。在調(diào)查中研究人員同時(shí)也確認(rèn)了“極壞”結(jié)果產(chǎn)生的可能性，例如人工智能導(dǎo)致人類滅絕，幾率只有5%。

許多自然科學(xué)家認(rèn)為，目前人工智能離上述水平還很遠(yuǎn)很遠(yuǎn)，其危險(xiǎn)遠(yuǎn)不足慮；而某些社會(huì)科學(xué)家卻有擔(dān)憂，認(rèn)為隨著技術(shù)變革的深入，人工智能所引發(fā)的鏈?zhǔn)椒磻?yīng)，就會(huì)出現(xiàn)無(wú)法控制的局面。上述認(rèn)識(shí)的差異，正好體現(xiàn)了人類對(duì)智能認(rèn)識(shí)的多樣性。從這個(gè)角度看，科學(xué)家全面認(rèn)識(shí)人類智能，并將其復(fù)現(xiàn)，只是時(shí)間問(wèn)題。鑒于人工智能有可能超越人類智能，以及由此產(chǎn)生十分嚴(yán)重的后果，再加上科學(xué)技術(shù)發(fā)展的內(nèi)在不確定性，就充分說(shuō)明了研究人工智能安全問(wèn)題的必要性。

早在1950年出版的美國(guó)著名科幻小說(shuō)家艾薩克·阿西莫夫撰寫的《我，機(jī)器人》小說(shuō)中，就提出了著名的“機(jī)器人三大定律”：第一定律，機(jī)器人不得傷害人類個(gè)體，或者目睹人類個(gè)體將遭受危險(xiǎn)而袖手旁觀；第二定律，機(jī)器人必須服從人給予它的命令，當(dāng)該命令與第一定律沖突時(shí)例外；第三定律，機(jī)器人在不違反第一、第二定律的情況下要盡可能保護(hù)自己的生存。此后，這“三大定律”不斷激發(fā)出對(duì)于人工智能安全性的新思考。由于人工智能最終必將會(huì)具備自主意識(shí)，到那時(shí)人類與人工智能系統(tǒng)之間的關(guān)系，必須服從普適、可靠的準(zhǔn)則。特別是在軍事領(lǐng)域要更加小心，否則極有可能出現(xiàn)科幻電影中描述的人機(jī)大戰(zhàn)的場(chǎng)景。

因此，我們?cè)诎l(fā)展人工智能系統(tǒng)的同時(shí)，還要確保其在預(yù)先制定的相關(guān)準(zhǔn)則下進(jìn)行工作，以防止其出現(xiàn)越規(guī)行為。

更多資訊請(qǐng)關(guān)注工業(yè)機(jī)器人頻道

以上內(nèi)容由傳動(dòng)網(wǎng)整理，部分資料來(lái)自戰(zhàn)略機(jī)器人網(wǎng)、機(jī)器人庫(kù)、智能制造網(wǎng)、圖片來(lái)自網(wǎng)絡(luò)。