上海2025年8月1日 /美通社/ -- 7月28日，2025世界人工智能大會"大模型智塑全球產業(yè)新秩序"論壇在上海徐匯西岸成功召開。開源大模型為全球產業(yè)帶來新的變革和潛力，技術加速迭代創(chuàng)新，應用與產品大量涌現(xiàn)。然而在安全方面，倫理規(guī)范、權責界定、識別與防御技術等方面仍未完善，大規(guī)模行業(yè)應用面臨著隱患。如何確保AI的安全性、可靠性、可控性、公平性，構建兼顧創(chuàng)新活力與風險防范的治理范式，已成為關乎技術可持續(xù)發(fā)展的關鍵命題。
以國際標準構建可信AI未來
國際領先標準、測試及認證機構BSI英國標準協(xié)會全球認證總裁Harold Pradal先生應邀出席大會，并圍繞"Shaping TRUST in AI"發(fā)表主題演講，強調人工智能的快速發(fā)展必須建立在責任與信任的基石之上。
Harold指出，隨著AI技術深度重塑經濟社會各領域，建立基于責任與倫理的信任體系已成為當務之急。這一目標的實現(xiàn)首先依托于國際標準的引領作用 —— ISO/IEC 42001作為全球首個AI管理體系標準，為組織提供了可落地的實施框架，而ISO 42005等配套標準則建立起評估AI社會影響的指標體系。
面對技術迭代的加速度，Harold特別強調治理體系的動態(tài)適配性，他以中英通過標準化合作委員會開展的聯(lián)合實踐為例，展示了跨國協(xié)作在政策協(xié)調與知識共享方面的關鍵價值。在技術倫理層面，他深入剖析了透明算法、數(shù)據(jù)溯源等基礎要求，同時指出必須將防止歧視、保障人類決策權等社會倫理原則嵌入治理全流程，這一過程中需要兼顧不同文化背景的價值訴求。
在AI應用規(guī)?；瘮U張的當下，企業(yè)證明其技術應用的倫理性正在從合規(guī)要求演變?yōu)楹诵母偁幜?/b>，這使得國際標準的價值超越傳統(tǒng)認證范疇，轉而成為驅動創(chuàng)新與市場增長的戰(zhàn)略工具?；谶@些洞察，Harold呼吁建立政府、企業(yè)與公眾的多方參與機制，通過BSI等專業(yè)機構的橋梁作用，最終構建起既促進技術創(chuàng)新又守護人類價值觀的AI生態(tài)體系。
《大模型開源安全倡議》
論壇上，為防范人工智能大規(guī)模應用安全風險，進一步加強開源大模型的安全與治理，《大模型開源安全倡議》（以下簡稱"倡議"）面向全球正式發(fā)布。中國信通院人工智能研究所所長魏凱、中國信通院華東分院副院長廖運發(fā)、 上海聯(lián)通副總經理姚健、上海儀電（集團）有限公司副總裁、上海智能算力科技有限公司董事長劉山泉、螞蟻集團技術戰(zhàn)略與執(zhí)行部副總經理彭晉、BSI英國標準協(xié)會全球認證總裁Harold Pradal、聯(lián)合國工業(yè)發(fā)展組織投資與技術促進辦公室（中國?上海）主任趙曉蕾、上海庫帕思科技有限公司CTO王長冕、 模速空間副總經理劉勃、MiniMax商業(yè)化解決方案負責人張如歡、魔搭社區(qū)周潔琪握起雙手，共同發(fā)布倡議。
倡議發(fā)布儀式照片
本倡議在開源大模型廣泛應用的關鍵階段，針對開源生態(tài)繁榮伴隨的多維度、跨行業(yè)的復雜安全風險，旨在倡導人工智能產學研各界加快形成開源安全與治理共識，充分發(fā)揮大模型產業(yè)與應用賦能價值?！洞竽Ｐ烷_源安全倡議》發(fā)布后迅速獲得各界廣泛響應。國內外標準組織、科研學術機構、大模型產業(yè)鏈企業(yè)及開源社區(qū)平臺均表示高度認同。各方將圍繞落實倡議展開持續(xù)合作，積極推動標準評測體系共建、治理經驗共享與高質量創(chuàng)新要素流通，凝聚全球智慧構建開源安全生態(tài)信任基石，為大模型產業(yè)高質量發(fā)展與應用保駕護航。
BSI成為經認可的人工智能管理體系認證機構
2016年，BSI首次發(fā)布了一份關于人工智能倫理管理的標準BS 8611:2016 — 機器人系統(tǒng)的倫理設計，在AI奇點時刻出現(xiàn)之前，從標準方面率先規(guī)范了對AI發(fā)展的監(jiān)督管控。 國際標準化組織ISO充分意識到快速發(fā)展的人工智能（AI）應用所帶來的社會性調整，將人工智能管理標準納入制定計劃，由IEC國際電工委員會帶頭起草編纂了ISO/IEC 42001:2023人工智能管理體系標準，BSI是其技術委員會ISO/IEC JTC 1/SC42的成員之一。
2024年12月9日，BSI獲得荷蘭認可委員會（RvA）的認可，成為ISO/IEC 42001人工智能管理體系受認可的認證機構。
下載文檔
