近段時(shí)間以來(lái)，來(lái)自ChatGPT的信息模型發(fā)展了全球藝術(shù)智能技術(shù)的發(fā)展。寫(xiě)作，寫(xiě)作，自動(dòng)創(chuàng )建文章。。。好消息是，人們的工作、學(xué)習和生活都非常重要。

我們離“無(wú)所不能”的通用人工智能還有多遠？人工智能的發(fā)展帶來(lái)了哪些安全風(fēng)險和挑戰？在最近舉行的2023北京致遠會(huì )議上，來(lái)自世界各地的人工智能專(zhuān)家學(xué)者就相關(guān)議題進(jìn)行了討論。

通用人工智能路途尚遠

“想象一下，未來(lái)10年，通用人工智能（AGI）幾乎在每一個(gè)領(lǐng)域都超過(guò)人類(lèi)的專(zhuān)業(yè)知識，最終可能超過(guò)所有大型公司的總體生產(chǎn)力，這將提高人們的生活水平?！監penAI首席執行官山姆·阿爾特曼展現了一幅人工智能的未來(lái)圖景。

所謂AGI，是指能夠像人類(lèi)一樣在各種領(lǐng)域進(jìn)行智能任務(wù)的人工智能系統。這與目前人工智能應用只聚焦于特定任務(wù)或領(lǐng)域（如圖像識別、語(yǔ)音識別、自然語(yǔ)言處理等）不同，對人工智能技術(shù)提出了更高要求。

“通用人工智能可以比人類(lèi)更好、更快地學(xué)習和執行任務(wù)，包括人類(lèi)無(wú)法處理的任務(wù)。由于機器在速度、內存、通信和帶寬方面的巨大優(yōu)勢，未來(lái)通用人工智能幾乎在所有領(lǐng)域都將遠超人類(lèi)的能力?！泵绹又荽髮W(xué)伯克利分校計算機科學(xué)教授斯圖爾特·羅素說(shuō)。

盡管人工智能已經(jīng)有了“超越”人類(lèi)的“時(shí)間表”，但在很多專(zhuān)家看來(lái)，目前的人工智能距離AGI還有不小的距離。

羅素認為，當下火熱的大語(yǔ)言模型并不“理解世界”，只是通用人工智能的一塊“拼圖”——“我們并不了解如何將它與其他部分連接起來(lái)，甚至還有一些缺失的拼圖還沒(méi)有找到?！?/p>

北京智源人工智能研究院院長(cháng)黃鐵軍指出，要實(shí)現通用人工智能，有3條技術(shù)路線(xiàn)：第一是大模型，通過(guò)海量高質(zhì)量數據，讓人工智能具備智能涌現能力；第二是具身智能，通過(guò)強化學(xué)習方法，訓練出具身模型；第三是類(lèi)腦智能，讓機器達到或類(lèi)似于人腦能力。

對于人工智能的發(fā)展，圖靈獎得主、紐約大學(xué)教授楊立昆提出了“世界模型”的概念——人工智能系統可以通過(guò)這一模型理解世界的運轉方式，并以最優(yōu)化、成本最小的方式來(lái)行動(dòng)。

加強安全治理領(lǐng)域國際合作

根據普華永道會(huì )計師事務(wù)所預測，到2030年，人工智能將創(chuàng )造15.7萬(wàn)億美元的經(jīng)濟價(jià)值。人工智能為經(jīng)濟發(fā)展提供了重要機遇，但也引發(fā)了安全性方面的擔憂(yōu)和爭議。

圖靈獎得主、多倫多大學(xué)教授杰弗里·辛頓認為，目前的人工智能已經(jīng)可以通過(guò)學(xué)習，掌握“欺騙”人類(lèi)的方式?！耙坏┤斯ぶ悄芫邆淞恕垓_’的能力，就有了‘控制’人類(lèi)的能力。這樣的超級智能可能會(huì )比預想中發(fā)生得更快?！?/p>

在通用人工智能時(shí)代到來(lái)之前，人工智能的安全風(fēng)險主要來(lái)自于“人”?！拔覀儾粦摷僭O機器是公正的，因為機器可能會(huì )試圖改變人類(lèi)的行為。更準確地說(shuō)，是機器的所有者想要改變其他人的行為?！眻D靈獎得主、中國科學(xué)院院士姚期智說(shuō)，當前人工智能的發(fā)展處于重要窗口期，各國應共同合作，搭建人工智能的治理結構。

隨著(zhù)人工智能的本事越來(lái)越大，人工智能的“對齊”問(wèn)題浮上水面。所謂“對齊”，即人工智能系統的目標要和人類(lèi)的價(jià)值觀(guān)與利益“對齊”，保持一致。

如何讓人工智能與人類(lèi)“對齊”？阿爾特曼認為，人們應當負責任地將人工智能應用到世界中，重視和管理好安全風(fēng)險。他建議在人工智能技術(shù)研發(fā)過(guò)程中建立平等、統一的國際規范和標準，并通過(guò)國際合作，以可驗證的方式建立人工智能系統安全開(kāi)發(fā)的信任體系。

黃鐵軍認為，人工智能雖然會(huì )產(chǎn)生預料之外的新能力，但這并不意味著(zhù)人類(lèi)無(wú)法對人工智能進(jìn)行管理?！叭绾喂芾砣斯ぶ悄苓@樣一個(gè)創(chuàng )造性極強的系統，社會(huì )學(xué)、歷史學(xué)等學(xué)科都能提供很好的借鑒意義?！?/p>

今年2月，中國在《全球安全倡議概念文件》中提出加強人工智能等新興科技領(lǐng)域國際安全治理，預防和管控潛在安全風(fēng)險。在此次智源大會(huì )上，專(zhuān)家學(xué)者積極評價(jià)中國在推動(dòng)人工智能?chē)H治理上的貢獻。

阿爾特曼說(shuō)，中國在人工智能領(lǐng)域擁有大量?jì)?yōu)秀的人才和產(chǎn)品系統，在人工智能的安全方面應發(fā)揮關(guān)鍵作用。

麻省理工學(xué)院人工智能與基礎交互研究中心教授馬克斯·泰格馬克表示，中國在塑造全球人工智能議程上的能力日益增長(cháng)，可以在人工智能安全治理領(lǐng)域發(fā)揮領(lǐng)導作用。