人工智能安全危機(jī)的臨界點(diǎn)似乎正加速到來(lái)。本周二OpenAI和Google DeepMind員工聯(lián)名發(fā)表公開(kāi)信，呼吁重視人工智能技術(shù)帶來(lái)的嚴(yán)重風(fēng)險(xiǎn)，包括導(dǎo)致人類(lèi)滅絕的風(fēng)險(xiǎn)。
公開(kāi)信還呼吁AI巨頭不對(duì)“吹哨”員工進(jìn)行報(bào)復(fù)（根據(jù)OpenAI的保密協(xié)議，離職員工如果批評(píng)公司將失去既得股權(quán)）。簽署公開(kāi)信的員工警告說(shuō)，人工智能已經(jīng)帶來(lái)了嚴(yán)重風(fēng)險(xiǎn)，包括“進(jìn)一步加劇現(xiàn)有的不平等，操縱和誤導(dǎo)信息，以及失去對(duì)自主人工智能系統(tǒng)的控制，可能導(dǎo)致人類(lèi)滅絕”。
這封公開(kāi)信激起了全球?qū)Α拜p安全，重發(fā)展”的人工智能技術(shù)爆發(fā)安全危機(jī)的普遍擔(dān)憂。
業(yè)界大咖集體發(fā)出警告
在OpenAI和谷歌員工發(fā)表聯(lián)名公開(kāi)信之前，已經(jīng)有多位人工智能領(lǐng)軍人物聯(lián)名撰文警告人工智能安全存在嚴(yán)重安全隱患，呼吁管理人工智能極端風(fēng)險(xiǎn)。
近日，來(lái)自美國(guó)、中國(guó)、英國(guó)、加拿大和以色列的，包括圖靈獎(jiǎng)獲得者在內(nèi)的20多位重量級(jí)教授及學(xué)者在《科學(xué)》期刊聯(lián)名撰文《在快速進(jìn)步中管理人工智能極端風(fēng)險(xiǎn)》，直指人工智能領(lǐng)域重發(fā)展輕安全的現(xiàn)狀，呼吁立即調(diào)整方向，有效監(jiān)管，遠(yuǎn)離災(zāi)難。
這份文章的作者包括人工智能“教父”杰弗里·辛頓（Geoffrey Hinton）、圖靈獎(jiǎng)得主約書(shū)亞·本吉奧（Yoshua Bengio）、姚期智（Andrew Yao）、素有“計(jì)算機(jī)安全教母“之稱(chēng)的宋曉東（Dawn Song）和《人類(lèi)簡(jiǎn)史》三部曲作者尤瓦爾·赫拉利（Yuval Harari）等。
學(xué)者們?cè)谖恼轮兄赋觯?/span>
人工智能正在黑客攻擊、社會(huì)操縱和戰(zhàn)略規(guī)劃等關(guān)鍵領(lǐng)域取得進(jìn)展，并可能很快帶來(lái)前所未有的控制挑戰(zhàn)。一旦自主人工智能系統(tǒng)開(kāi)始追求人類(lèi)不想要的目標(biāo)，人類(lèi)可能無(wú)法控制。
文章警告稱(chēng)：“需要警惕的是，與人類(lèi)相似，高級(jí)人工智能系統(tǒng)可能會(huì)在（人類(lèi)對(duì)其的）評(píng)估中‘撒謊’，故意表現(xiàn)不同，假裝與人類(lèi)期望一致，因此這種AI行為評(píng)估可能無(wú)法奏效?！?/span>
值得注意的是，包括Yoshua Bengio、Geoffrey Hinton和Stuart J. Russell在內(nèi)的知名AI專(zhuān)家還支持OpenAI和谷歌“吹哨”員工的公開(kāi)信觀點(diǎn)（人工智能對(duì)人類(lèi)生存構(gòu)成威脅）。然而，也有一些專(zhuān)家，如Meta的楊立昆（Yann LeCun），對(duì)AI構(gòu)成人類(lèi)生存風(fēng)險(xiǎn)的說(shuō)法持異議，認(rèn)為“AI接管”論分散了對(duì)當(dāng)前AI危害（如偏見(jiàn)和危險(xiǎn)幻覺(jué)）的關(guān)注。
人工智能安全監(jiān)管雷聲大雨點(diǎn)小
澳大利亞ABC中文網(wǎng)近日發(fā)表題為“我們是否站在人工智能安全監(jiān)管的關(guān)鍵節(jié)點(diǎn)？”的文章，認(rèn)為當(dāng)前各國(guó)的人工智能安全監(jiān)管“雷聲大，雨點(diǎn)小”。
報(bào)道指出，人工智能全球生成式人工智能投資正呈井噴式激增。2023年，生成式人工智能的資金比2022年增長(zhǎng)了近八倍，達(dá)到252億美元。
根據(jù)斯坦福大學(xué)《2024人工智能指數(shù)報(bào)告》，美國(guó)的人工智能模型搖搖領(lǐng)先于中國(guó)、歐盟和英國(guó)。2023年，全球有61個(gè)著名的人工智能模型來(lái)自美國(guó)的機(jī)構(gòu)，遠(yuǎn)遠(yuǎn)超過(guò)歐盟的21個(gè)和中國(guó)的15個(gè)。
但人工智能安全研究則嚴(yán)重滯后，只有大約1%到3%的人工智能出版物與安全有關(guān)。
新加坡國(guó)立大學(xué)教育創(chuàng)新副校長(zhǎng)、新加坡國(guó)家人工智能核心項(xiàng)目人工智能管理高級(jí)總監(jiān)、《我們，機(jī)器人？人工智能監(jiān)管及其法律局限》一書(shū)作者陳西文教授（Simon Chesterman）認(rèn)為，當(dāng)前正值監(jiān)管人工智能的黃金時(shí)代，但各方言行卻背道而馳。
報(bào)告顯示，各國(guó)開(kāi)始重視對(duì)人工智能的監(jiān)管。法律中包含人工智能一詞的國(guó)家數(shù)量大幅增加，從2022年的25個(gè)國(guó)家增加到2023年的127個(gè)國(guó)家。
但是，由于各國(guó)政府出臺(tái)的人工智能法規(guī)在人工智能潛在收益和風(fēng)險(xiǎn)監(jiān)管之間搖擺權(quán)衡，導(dǎo)致全球?qū)θ斯ぶ悄艿陌踩O(jiān)管可謂雷聲大、雨點(diǎn)小。
歐盟、美國(guó)與中國(guó)的監(jiān)管博弈
在兩周前舉行的首爾峰會(huì)上，人工智能安全問(wèn)題再次成為焦點(diǎn)。其中，處于人工智能發(fā)展最前沿的美國(guó)、歐盟和中國(guó)對(duì)人工智能安全監(jiān)管的態(tài)度尤為值得關(guān)注。
歐盟正致力于成為全球人工智能監(jiān)管的領(lǐng)跑者和規(guī)則制定者。本月，全球首部人工智能全面監(jiān)管法規(guī)——?dú)W盟的《人工智能法》將正式生效。
根據(jù)歐盟網(wǎng)站介紹，這部《人工智能法》將人工智能的應(yīng)用劃分為三大風(fēng)險(xiǎn)類(lèi)別：
首先，造成不可接受風(fēng)險(xiǎn)的應(yīng)用和系統(tǒng)將被禁止，例如由政府管理的社會(huì)評(píng)分類(lèi)型。
其次，高風(fēng)險(xiǎn)應(yīng)用，如對(duì)求職者進(jìn)行排名的簡(jiǎn)歷掃描工具，須遵守特定的法律要求。
最后，未被明確禁止或列為高風(fēng)險(xiǎn)的應(yīng)用程序基本上不受監(jiān)管。
歐盟的《人工智能法》采用的是金字塔式風(fēng)險(xiǎn)監(jiān)管，對(duì)高風(fēng)險(xiǎn)人工智能系統(tǒng)實(shí)施全生命周期風(fēng)險(xiǎn)管控，被廣泛視為迄今為止最嚴(yán)厲的人工智能監(jiān)管法案。
與歐盟相比，美國(guó)也頒布了多項(xiàng)人工智能法案，例如《2020年國(guó)家人工智能倡議法案》、2023年《人工智能權(quán)利法案藍(lán)圖》和兩個(gè)指導(dǎo)國(guó)會(huì)未來(lái)立法的政策框架。斯坦福大學(xué)報(bào)告稱(chēng)，2016年至2022年間，美國(guó)14個(gè)州通過(guò)了與人工智能相關(guān)的立法，其中馬里蘭州居首，通過(guò)了七項(xiàng)法案，加利福尼亞州隨后，通過(guò)了六項(xiàng)法案。
斯坦福大學(xué)報(bào)告指出，美國(guó)的法案更多強(qiáng)調(diào)人工智能的權(quán)利和機(jī)遇，鼓勵(lì)人工智能技術(shù)創(chuàng)新發(fā)展，采取的是審慎監(jiān)管原則和聯(lián)邦與州雙線監(jiān)管問(wèn)責(zé)機(jī)制，出臺(tái)的法案不具約束性。
“美國(guó)采取的是一種市場(chǎng)方法，立法很少，不過(guò)隨著風(fēng)險(xiǎn)變得越來(lái)越大，這種情況可能會(huì)發(fā)生變化，”新加坡國(guó)立大學(xué)副校長(zhǎng)陳西文教授說(shuō)。
在歐盟發(fā)布《人工智能法》之前，中國(guó)被廣泛看作是人工智能監(jiān)管的領(lǐng)跑者，在ChatGPT問(wèn)世僅僅數(shù)月內(nèi)就頒布了生成式人工智能的法律法規(guī)。
事實(shí)上，早在2021年，中國(guó)就發(fā)布了《新一代人工智能倫理規(guī)范》將倫理道德融入人工智能全生命周期進(jìn)行監(jiān)管。之后，中國(guó)又陸續(xù)發(fā)布了《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》、《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》和《生成式人工智能服務(wù)管理暫行辦法》，從算法、深度偽造、生成式人工智能等方面對(duì)相關(guān)技術(shù)的開(kāi)發(fā)和發(fā)布者提出監(jiān)管要求。
澳大利亞廣播公司ABC指出，在全球主要經(jīng)濟(jì)體中，中國(guó)政府對(duì)人工智能技術(shù)（風(fēng)險(xiǎn)）的反應(yīng)表現(xiàn)最為敏捷迅速，因此目前全球普遍觀望，中國(guó)是否會(huì)效仿歐盟出臺(tái)全面的《人工智能法》？
墨爾本大學(xué)的帕特森教授指出：“歐盟、美國(guó)、英國(guó)和中國(guó)采用不同監(jiān)管模式來(lái)應(yīng)對(duì)人工智能風(fēng)險(xiǎn)。歐盟的《人工智能法》干預(yù)力度最大，以法律監(jiān)管體系為基礎(chǔ)，涵蓋全面的隱私保護(hù)和人權(quán)保護(hù)，歐盟還制定了《數(shù)字服務(wù)和數(shù)字平臺(tái)法》，對(duì)大型數(shù)字平臺(tái)進(jìn)行特別監(jiān)管，這使其與干預(yù)較少的美國(guó)截然不同”。
