蒙特利爾2025年11月26日 /美通社/ -- 《國(guó)際AI安全報(bào)告》（International AI Safety Report）第二版關(guān)鍵更新現(xiàn)已發(fā)布，及時(shí)更新了通用AI的風(fēng)險(xiǎn)管理與技術(shù)緩和措施。

該報(bào)告由圖靈獎(jiǎng)得主、計(jì)算機(jī)科學(xué)家Yoshua Bengio主持，匯集了百余位國(guó)際專家的參與，并獲得包括歐盟、經(jīng)合組織和聯(lián)合國(guó)在內(nèi)的30多個(gè)國(guó)家和國(guó)際組織的支持。

鑒于該領(lǐng)域發(fā)展速度過快，單一年度報(bào)告已無法及時(shí)反映進(jìn)展，因此推出“關(guān)鍵更新”系列，以更短、更聚焦的形式呈現(xiàn)關(guān)鍵動(dòng)態(tài)。 本次更新延續(xù)了首版關(guān)鍵更新，首版已于2025年10月15日發(fā)布。 這些更新確保決策者能夠獲得最新的文獻(xiàn)綜述，為循證決策提供依據(jù)。

第二版關(guān)鍵更新涵蓋了提升可靠性與防范濫用的技術(shù)方法概述，以及風(fēng)險(xiǎn)管理領(lǐng)域新興的制度化方法。 其核心重點(diǎn)包括：

• 在訓(xùn)練模型抵御惡意攻擊方面雖有所進(jìn)展，但仍存在不足。 盡管AI模型及系統(tǒng)抵御攻擊的能力有所提升，但技術(shù)嫻熟的黑客仍能在約50%的案例中僅用10次嘗試即可突破防護(hù)，并通過向訓(xùn)練數(shù)據(jù)中注入少至250條惡意文檔來投毒并破壞模型。
• 開源鴻溝正在縮小。 開放權(quán)重模型如今與行業(yè)領(lǐng)先產(chǎn)品的差距已不足一年，雖然這有助于提升技術(shù)普及度，但同時(shí)也使預(yù)防故障和濫用的難度加大。
• 行業(yè)在安全方面的承諾有所增加，但其成效仍不明確。 盡管2025年采用風(fēng)險(xiǎn)管理框架的AI企業(yè)數(shù)量增加一倍有余，但其實(shí)際效果仍存在不確定性。

《報(bào)告》主編、蒙特利爾大學(xué)（Université de Montréal）終身教授、LawZero科學(xué)總監(jiān)兼Mila - Quebec AI Institute科學(xué)顧問Yoshua Bengio表示：

“在持續(xù)關(guān)注AI能力與風(fēng)險(xiǎn)動(dòng)態(tài)的同時(shí)，我們必須同步規(guī)劃清晰的風(fēng)險(xiǎn)管理路徑，確保采取恰當(dāng)有效的風(fēng)險(xiǎn)管控措施與技術(shù)緩和方案。 本次關(guān)鍵更新概述了這些領(lǐng)域的最新進(jìn)展，同時(shí)指出了仍然存在的不足之處與尚待把握的機(jī)遇。 我們的目標(biāo)是持續(xù)向全球決策者提供有關(guān)AI發(fā)展的及時(shí)更新，而第二份《國(guó)際AI安全報(bào)告》計(jì)劃于2026年初發(fā)布，并將在印度舉辦的AI影響力峰會(huì)之前推出。”

關(guān)于

《國(guó)際AI安全報(bào)告》是對(duì)先進(jìn)AI系統(tǒng)能力及相關(guān)風(fēng)險(xiǎn)證據(jù)的綜合性匯編分析。 該報(bào)告旨在為全球決策者提供證據(jù)基礎(chǔ)，從而為知情決策提供支持。 該報(bào)告由100多名獨(dú)立專家組成的多元團(tuán)隊(duì)撰寫，并獲得專家咨詢委員會(huì)的支持。該委員會(huì)由來自30多個(gè)國(guó)家及國(guó)際組織（包括歐盟、經(jīng)合組織和聯(lián)合國(guó)）的提名代表組成。 該報(bào)告認(rèn)可AI所具備的巨大潛在效益，但其重點(diǎn)在于識(shí)別風(fēng)險(xiǎn)并評(píng)估緩和策略，以確保AI能夠安全地開發(fā)和使用，進(jìn)而造福全人類。 該報(bào)告由英國(guó)政府委托編寫，其秘書處設(shè)于英國(guó)AI安全研究所。