上海2025年8月1日 /美通社/ -- 7月28日，2025世界人工智能大會(huì)"大模型智塑全球產(chǎn)業(yè)新秩序"論壇在上海徐匯西岸成功召開。開源大模型為全球產(chǎn)業(yè)帶來新的變革和潛力，技術(shù)加速迭代創(chuàng)新，應(yīng)用與產(chǎn)品大量涌現(xiàn)。然而在安全方面，倫理規(guī)范、權(quán)責(zé)界定、識(shí)別與防御技術(shù)等方面仍未完善，大規(guī)模行業(yè)應(yīng)用面臨著隱患。如何確保AI的安全性、可靠性、可控性、公平性，構(gòu)建兼顧創(chuàng)新活力與風(fēng)險(xiǎn)防范的治理范式，已成為關(guān)乎技術(shù)可持續(xù)發(fā)展的關(guān)鍵命題。

以國(guó)際標(biāo)準(zhǔn)構(gòu)建可信AI未來

國(guó)際領(lǐng)先標(biāo)準(zhǔn)、測(cè)試及認(rèn)證機(jī)構(gòu)BSI英國(guó)標(biāo)準(zhǔn)協(xié)會(huì)全球認(rèn)證總裁Harold Pradal先生應(yīng)邀出席大會(huì)，并圍繞"Shaping TRUST in AI"發(fā)表主題演講，強(qiáng)調(diào)人工智能的快速發(fā)展必須建立在責(zé)任與信任的基石之上。

Harold指出，隨著AI技術(shù)深度重塑經(jīng)濟(jì)社會(huì)各領(lǐng)域，建立基于責(zé)任與倫理的信任體系已成為當(dāng)務(wù)之急。這一目標(biāo)的實(shí)現(xiàn)首先依托于國(guó)際標(biāo)準(zhǔn)的引領(lǐng)作用 —— ISO/IEC 42001作為全球首個(gè)AI管理體系標(biāo)準(zhǔn)，為組織提供了可落地的實(shí)施框架，而ISO 42005等配套標(biāo)準(zhǔn)則建立起評(píng)估AI社會(huì)影響的指標(biāo)體系。

面對(duì)技術(shù)迭代的加速度，Harold特別強(qiáng)調(diào)治理體系的動(dòng)態(tài)適配性，他以中英通過標(biāo)準(zhǔn)化合作委員會(huì)開展的聯(lián)合實(shí)踐為例，展示了跨國(guó)協(xié)作在政策協(xié)調(diào)與知識(shí)共享方面的關(guān)鍵價(jià)值。在技術(shù)倫理層面，他深入剖析了透明算法、數(shù)據(jù)溯源等基礎(chǔ)要求，同時(shí)指出必須將防止歧視、保障人類決策權(quán)等社會(huì)倫理原則嵌入治理全流程，這一過程中需要兼顧不同文化背景的價(jià)值訴求。

在AI應(yīng)用規(guī)模化擴(kuò)張的當(dāng)下，企業(yè)證明其技術(shù)應(yīng)用的倫理性正在從合規(guī)要求演變?yōu)楹诵母?jìng)爭(zhēng)力，這使得國(guó)際標(biāo)準(zhǔn)的價(jià)值超越傳統(tǒng)認(rèn)證范疇，轉(zhuǎn)而成為驅(qū)動(dòng)創(chuàng)新與市場(chǎng)增長(zhǎng)的戰(zhàn)略工具?；谶@些洞察，Harold呼吁建立政府、企業(yè)與公眾的多方參與機(jī)制，通過BSI等專業(yè)機(jī)構(gòu)的橋梁作用，最終構(gòu)建起既促進(jìn)技術(shù)創(chuàng)新又守護(hù)人類價(jià)值觀的AI生態(tài)體系。

《大模型開源安全倡議》

論壇上，為防范人工智能大規(guī)模應(yīng)用安全風(fēng)險(xiǎn)，進(jìn)一步加強(qiáng)開源大模型的安全與治理，《大模型開源安全倡議》（以下簡(jiǎn)稱"倡議"）面向全球正式發(fā)布。中國(guó)信通院人工智能研究所所長(zhǎng)魏凱、中國(guó)信通院華東分院副院長(zhǎng)廖運(yùn)發(fā)、 上海聯(lián)通副總經(jīng)理姚健、上海儀電（集團(tuán)）有限公司副總裁、上海智能算力科技有限公司董事長(zhǎng)劉山泉、螞蟻集團(tuán)技術(shù)戰(zhàn)略與執(zhí)行部副總經(jīng)理彭晉、BSI英國(guó)標(biāo)準(zhǔn)協(xié)會(huì)全球認(rèn)證總裁Harold Pradal、聯(lián)合國(guó)工業(yè)發(fā)展組織投資與技術(shù)促進(jìn)辦公室（中國(guó)?上海）主任趙曉蕾、上海庫帕思科技有限公司CTO王長(zhǎng)冕、 模速空間副總經(jīng)理劉勃、MiniMax商業(yè)化解決方案負(fù)責(zé)人張如歡、魔搭社區(qū)周潔琪握起雙手，共同發(fā)布倡議。

倡議發(fā)布儀式照片

本倡議在開源大模型廣泛應(yīng)用的關(guān)鍵階段，針對(duì)開源生態(tài)繁榮伴隨的多維度、跨行業(yè)的復(fù)雜安全風(fēng)險(xiǎn)，旨在倡導(dǎo)人工智能產(chǎn)學(xué)研各界加快形成開源安全與治理共識(shí)，充分發(fā)揮大模型產(chǎn)業(yè)與應(yīng)用賦能價(jià)值?！洞竽Ｐ烷_源安全倡議》發(fā)布后迅速獲得各界廣泛響應(yīng)。國(guó)內(nèi)外標(biāo)準(zhǔn)組織、科研學(xué)術(shù)機(jī)構(gòu)、大模型產(chǎn)業(yè)鏈企業(yè)及開源社區(qū)平臺(tái)均表示高度認(rèn)同。各方將圍繞落實(shí)倡議展開持續(xù)合作，積極推動(dòng)標(biāo)準(zhǔn)評(píng)測(cè)體系共建、治理經(jīng)驗(yàn)共享與高質(zhì)量創(chuàng)新要素流通，凝聚全球智慧構(gòu)建開源安全生態(tài)信任基石，為大模型產(chǎn)業(yè)高質(zhì)量發(fā)展與應(yīng)用保駕護(hù)航。

BSI成為經(jīng)認(rèn)可的人工智能管理體系認(rèn)證機(jī)構(gòu)

2016年，BSI首次發(fā)布了一份關(guān)于人工智能倫理管理的標(biāo)準(zhǔn)BS 8611:2016 — 機(jī)器人系統(tǒng)的倫理設(shè)計(jì)，在AI奇點(diǎn)時(shí)刻出現(xiàn)之前，從標(biāo)準(zhǔn)方面率先規(guī)范了對(duì)AI發(fā)展的監(jiān)督管控。 國(guó)際標(biāo)準(zhǔn)化組織ISO充分意識(shí)到快速發(fā)展的人工智能（AI）應(yīng)用所帶來的社會(huì)性調(diào)整，將人工智能管理標(biāo)準(zhǔn)納入制定計(jì)劃，由IEC國(guó)際電工委員會(huì)帶頭起草編纂了ISO/IEC 42001:2023人工智能管理體系標(biāo)準(zhǔn)，BSI是其技術(shù)委員會(huì)ISO/IEC JTC 1/SC42的成員之一。

2024年12月9日，BSI獲得荷蘭認(rèn)可委員會(huì)（RvA）的認(rèn)可，成為ISO/IEC 42001人工智能管理體系受認(rèn)可的認(rèn)證機(jī)構(gòu)。