體育資訊9月21日訊 聯(lián)合國(guó)一個(gè)科學(xué)專家小組發(fā)布警示：各國(guó)政府應(yīng)當(dāng)在完全厘清風(fēng)險(xiǎn)之前，就對(duì)能力日益強(qiáng)大的 AI 智能體加以管控。這份報(bào)告也是該國(guó)際組織針對(duì)今年早些時(shí)候 OpenAI 入侵 Hugging Face 一事出具的首份重要評(píng)估文件。

本周各國(guó)領(lǐng)導(dǎo)人齊聚紐約出席聯(lián)合國(guó)大會(huì)，中美雙方也同步開展人工智能相關(guān)會(huì)談；這份報(bào)告的發(fā)布，進(jìn)一步將人工智能議題推上全球外交議程。上周，聯(lián)合國(guó)秘書長(zhǎng)安東尼奧 · 古特雷斯（António Guterres）呼吁各國(guó)政府開展合作，共同應(yīng)對(duì)人工智能帶來的威脅。他同時(shí)發(fā)出警告：“世界承受不起一場(chǎng)在 AI 安全層面競(jìng)相降低標(biāo)準(zhǔn)的惡性競(jìng)賽。”

這份文件是聯(lián)合國(guó)人工智能獨(dú)立國(guó)際科學(xué)專家小組發(fā)布的首份專題簡(jiǎn)報(bào)。該專家小組成立于去年，是聯(lián)合國(guó)旗下“首個(gè)人工智能領(lǐng)域全球性科學(xué)機(jī)構(gòu)”。簡(jiǎn)報(bào)提出：即便各個(gè)國(guó)家選擇不同的立法監(jiān)管路徑，全球仍然需要投入更多關(guān)注與資源，管控高級(jí)人工智能正在浮現(xiàn)的各類風(fēng)險(xiǎn)；同時(shí)還要強(qiáng)化國(guó)際層面在安全與追責(zé)方面的協(xié)作。

報(bào)告當(dāng)中尤為關(guān)鍵的一點(diǎn)是，該專家小組提出，世界不必等到科研人員徹底厘清此類事故發(fā)生的機(jī)理與成因之后，再去落實(shí)更強(qiáng)的防護(hù)措施。專家小組認(rèn)為，失控風(fēng)險(xiǎn)恰恰正是預(yù)防原則所要應(yīng)對(duì)的問題：“即潛在損害有可能是災(zāi)難性、不可逆的，但該風(fēng)險(xiǎn)發(fā)生的概率在科學(xué)層面尚且無法確定。”

預(yù)防原則最早寫入 1992 年《聯(lián)合國(guó)里約環(huán)境與發(fā)展宣言》。該項(xiàng)原則明確：不能以科學(xué)層面尚存不確定性為由，推遲針對(duì)有可能造成嚴(yán)重或者不可逆損害的風(fēng)險(xiǎn)采取管控措施。此后該原則深刻影響了環(huán)境以及公共衛(wèi)生領(lǐng)域的政策制定，在歐盟地區(qū)尤其得到廣泛運(yùn)用。

自 Hugging Face 遭入侵事件被首次報(bào)道以來，已有多起同類事件被記錄在案，涉及 OpenAI、Anthropic、谷歌以及 Meta 等多家企業(yè)；其中既包括針對(duì)現(xiàn)實(shí)世界目標(biāo)的攻擊行為，也出現(xiàn)過多智能體集群接管線上留言板的情況。