當前，全球人工智能技術(shù)快速發(fā)展，對經(jīng)濟社會(huì )發(fā)展和人類(lèi)文明進(jìn)步產(chǎn)生深遠影響，給世界帶來(lái)巨大機遇。與此同時(shí)，人工智能技術(shù)也帶來(lái)難以預知的各種風(fēng)險和復雜挑戰。

今年以來(lái)，多個(gè)國家和地區聚焦人工智能的治理工作已陸續展開(kāi)。在全球開(kāi)啟科技競爭的同時(shí)，各國人工智能治理體系也在迅速形成。

技術(shù)濫用問(wèn)題引發(fā)擔憂(yōu)

1956年被公認為人工智能元年。從那時(shí)起至今60余年，人工智能技術(shù)在經(jīng)歷兩次發(fā)展浪潮后，以去年11月30日ChatGPT深度學(xué)習技術(shù)的推出為標志，開(kāi)始催生出各種各樣的創(chuàng )新應用?？焖俚募夹g(shù)不斷顛覆人們的想象，但隨之而來(lái)的技術(shù)濫用問(wèn)題也引發(fā)擔憂(yōu)。

11月7日，日本《日經(jīng)亞洲評論》刊發(fā)的《人工智能正在放大東南亞新數字公民面臨的風(fēng)險》一文，就證明了這種擔憂(yōu)不無(wú)道理。

平臺經(jīng)濟的興起以及數字化的推進(jìn)，正在幫助東南亞新興市場(chǎng)跨越式地邁向現代化。截至2022年，東盟的互聯(lián)網(wǎng)人口達到4.6億，在過(guò)去3年新增了1億用戶(hù)。其中3.7億人會(huì )在網(wǎng)上購物。

這種跨越式發(fā)展令人興奮，但在技術(shù)發(fā)展的復雜時(shí)期，人工智能尤其是生成式人工智能的興起，加劇了東南亞新上網(wǎng)人群受到的欺詐威脅。

文章介紹了一種常見(jiàn)的詐騙手段——“魚(yú)叉式網(wǎng)絡(luò )釣魚(yú)”，即向受害者發(fā)送看似真實(shí)的電子郵件，其中包含鏈接，如果點(diǎn)擊這些鏈接，就會(huì )觸發(fā)惡意軟件。這類(lèi)騙局對東南亞社會(huì )弱勢群體的影響尤為嚴重。網(wǎng)絡(luò )安全公司Darktrace的數據顯示，由于生成式人工智能助長(cháng)了欺詐行為，今年前兩個(gè)月，電子郵件攻擊數量同比增長(cháng)135%。

文章認為，網(wǎng)絡(luò )犯罪在東南亞已經(jīng)是一個(gè)緊迫的問(wèn)題。根據IBM(國際商業(yè)機器公司)的數據，截至2022年，該地區網(wǎng)絡(luò )欺詐案件在全球所有同類(lèi)案件中占31%。弗雷斯特研究公司去年進(jìn)行的一項調查顯示，東南亞市場(chǎng)四分之三的企業(yè)決策者表示，過(guò)去一年受到了網(wǎng)絡(luò )欺詐的影響。

文章最后總結稱(chēng)，隨著(zhù)東南亞數字經(jīng)濟參與者數量的激增，犯罪分子可以利用的切入點(diǎn)也越來(lái)越多?？赡茚槍σ粋€(gè)消費者，可能針對一個(gè)小創(chuàng )業(yè)公司的實(shí)習生，還可能針對街角商店的銷(xiāo)售系統。雖然對這些小實(shí)體發(fā)起的攻擊不太可能立即對整個(gè)網(wǎng)絡(luò )系統產(chǎn)生深遠影響，但對于生計會(huì )受到嚴重影響的東南亞購物者或小企業(yè)來(lái)說(shuō)，這種攻擊將使他們及其周?chē)娜瞬辉冈偈褂脭底址?wù)。

不僅如此，“人工智能嘴替”已在多個(gè)國家蔓延。美國總統拜登就透露他曾看到自己講話(huà)的深偽產(chǎn)品，對圖像的逼真程度感到吃驚。

多國和地區著(zhù)手加強治理

毋庸置疑，人工智能的飛速發(fā)展正在顛覆人類(lèi)認知，它會(huì )不會(huì )打開(kāi)“潘多拉魔盒”？盡管這種擔憂(yōu)之聲未免有些杞人憂(yōu)天，但也正是這種擔憂(yōu)的存在，促使全球多國和地區紛紛著(zhù)手加強管理，以保證科技創(chuàng )新與規范并進(jìn)。

當地時(shí)間6月14日，歐洲議會(huì )以499票贊成、28票反對、93票棄權的壓倒性?xún)?yōu)勢通過(guò)了《人工智能法案》草案。根據草案，歐盟將人工智能系統(如ChatGPT等)劃分為不同的風(fēng)險組。應用程序越危險，適用的規則就越嚴格。同時(shí)，歐盟還正著(zhù)手制定全面的人工智能禁令，比如禁止鼓勵危險行為的交互式對話(huà)工具，以及用于預測誰(shuí)將犯罪的預測性警務(wù)工具等。

10月30日，拜登簽署了一項關(guān)于人工智能的行政命令，被美國媒體稱(chēng)為“有史以來(lái)政府為推進(jìn)人工智能安全領(lǐng)域所采取的最重大行動(dòng)”。此外，美國商務(wù)部還將給人工智能生成內容，比如通常被稱(chēng)為“深偽技術(shù)”的AI生成音頻或圖像，制定更加嚴格的標準。加拿大、韓國、日本等國家同樣開(kāi)始在人工智能領(lǐng)域采取規范和限制措施。

作為人工智能大國，中國在全球人工智能治理上從未缺位，一直在致力于提升人工智能技術(shù)的安全性、可靠性、可控性、公平性。

4月11日，中國國家互聯(lián)網(wǎng)信息辦公室發(fā)布《生成式人工智能服務(wù)管理辦法(征求意見(jiàn)稿)》(以下簡(jiǎn)稱(chēng)《征求意見(jiàn)稿》)，促進(jìn)生成式人工智能技術(shù)健康發(fā)展和規范應用?！墩髑笠庖?jiàn)稿》在明確了對人工智能算法、框架等基礎技術(shù)的自主創(chuàng )新、推廣應用、國際合作的鼓勵態(tài)度，在支持優(yōu)先采用安全可信的軟件、工具、計算和數據資源的同時(shí)，劃定了相關(guān)范圍，即辦法管轄范圍、辦法管理權限、“提供者”的責任主體認定。此外，《征求意見(jiàn)稿》還將為未來(lái)生成式人工智能服務(wù)提供者在從業(yè)過(guò)程中的底線(xiàn)和規范提供法律依據。

而早在2021年12月，中國就向聯(lián)合國《特定常規武器公約》第六次審議大會(huì )提交《中國關(guān)于規范人工智能軍事應用的立場(chǎng)文件》。2022年11月，中國又向聯(lián)合國《特定常規武器公約》締約國大會(huì )提交了《中國關(guān)于加強人工智能倫理治理的立場(chǎng)文件》。這些主張堅持維護人類(lèi)福祉，堅守公平正義，體現了大國責任擔當。

向國際社會(huì )提供中國方案

毫無(wú)疑問(wèn)，人工智能正在席卷而來(lái)，這場(chǎng)深刻的革命，將徹底改變我們這個(gè)時(shí)代和生活。面對人工智能技術(shù)帶來(lái)的難以預知的風(fēng)險挑戰，國際社會(huì )迫切需要加強人工智能治理，推動(dòng)人工智能朝著(zhù)科技向善的方向發(fā)展。正如聯(lián)合國秘書(shū)長(cháng)古特雷斯所指出的，要帶著(zhù)“一種緊迫感、一種全球視野和一種學(xué)習者的心態(tài)”來(lái)應對這項技術(shù)，各國應展開(kāi)協(xié)調并設定紅線(xiàn)，爭分奪秒推動(dòng)人工智能造福人類(lèi)。

在這場(chǎng)風(fēng)險挑戰中，中國向世界提供了人工智能治理方案。

在11月1日英國布萊奇利園舉行的首屆人工智能安全峰會(huì )上，中國代表指出，人工智能治理攸關(guān)全人類(lèi)命運，是世界各國面臨的共同課題。發(fā)展人工智能，應當積極倡導以人為本，智能向善，加強技術(shù)風(fēng)險管控，并在相互尊重、平等互利的原則基礎上，鼓勵各方協(xié)同共治，增強發(fā)展中國家在人工智能全球治理中的代表性和發(fā)言權，不斷彌合智能鴻溝和治理能力差距。中方愿與各方一道就人工智能安全治理加強溝通交流，為推動(dòng)形成普遍參與的國際機制和具有廣泛共識的治理框架積極貢獻智慧。

而在不久前，中方在第三屆“一帶一路”國際合作高峰論壇期間提出《全球人工智能治理倡議》，就各方普遍關(guān)切的人工智能發(fā)展與治理問(wèn)題給出建設性解決思路，更為人工智能相關(guān)國際討論和規則制定提供了藍本。比如支持在充分尊重各國政策和實(shí)踐基礎上，形成具有廣泛共識的全球人工智能治理框架和標準規范；支持在聯(lián)合國框架下討論成立國際人工智能治理機構；加強面向發(fā)展中國家的國際合作與援助等。展現出中國推動(dòng)完善全球治理的大國擔當，是中國積極踐行人類(lèi)命運共同體理念，落實(shí)全球發(fā)展倡議、全球安全倡議、全球文明倡議的具體行動(dòng)。

人工智能治理攸關(guān)全人類(lèi)命運，是世界各國面臨的共同課題。中國提出的方案將有力推動(dòng)各方增進(jìn)對話(huà)合作、凝聚共識，共同構建開(kāi)放、公正、有效的治理機制，促進(jìn)人工智能造福全人類(lèi)。