根據(jù)澎湃新聞報道，近日歐洲議會兩個委員會通過了《The AI Act》提案的談判授權(quán)草案。草案就對 ChatGPT 等生成式人工智能大模型的一系列要求達成一致，標志著歐盟對人工智能實施強監(jiān)管方面又邁出了一步。

草案嚴格禁止了「對人類安全造成不可接受風險的人工智能系統(tǒng)」，包括有目的地操縱技術(shù)、利用人性弱點或根據(jù)行為、社會地位和個人特征等進行評價的系統(tǒng)等。草案提出了新的保障措施，并禁止各種危險用例，包括禁止在公共場所進行大規(guī)模面部識別程序，以及禁止使用預測性警務系統(tǒng)(即AI犯罪預測系統(tǒng))。草案還要求建立一個公共數(shù)據(jù)庫，記錄政府部門部署的“高風險”人工智能系統(tǒng)，公開數(shù)據(jù)，以便公民能夠了解他們將何時以及如何受到這項技術(shù)的影響。

預計該草案將于 6 月中旬提交歐洲議會全會表決，之后歐洲議會將與歐盟理事會就法律的最終形式進行談判。歐洲議會的聲明說，一旦獲得批準，這將成為全世界首部有關(guān)人工智能的法規(guī)。

該草案由兩個關(guān)鍵委員會批準：內(nèi)部市場委員會(Internal Market Committee)和公民自由委員會(Civil Liberties Committee)。這些委員會由負責監(jiān)督立法制定的歐洲議會議員組成。他們最終以84票贊成、7票反對、12票棄權(quán)批準了完成的草案。

歐洲議會表示，在草案中，歐洲議會議員旨在確保人工智能系統(tǒng)由人監(jiān)督，且確保其安全、透明、可追溯、非歧視和環(huán)保。他們還希望對人工智能有一個統(tǒng)一的定義，旨在保持技術(shù)中立，以便其可以適用于現(xiàn)在和以后出現(xiàn)的人工智能系統(tǒng)。

修正案包括擴大禁止行為清單，以禁止對人工智能系統(tǒng)的“侵入性”和“歧視性”使用，禁止行為包括：在公共可訪問空間建立實時遠程生物特征識別系統(tǒng);使用遠程生物特征識別系統(tǒng)，唯一的例外是執(zhí)法部門起訴嚴重犯罪，并且只有在司法授權(quán)后;使用敏感特征(例如性別、種族、民族、公民身份、宗教、政治取向)的生物識別分類系統(tǒng);預測性警務系統(tǒng)(基于貌相、地點或過去的犯罪行為預測犯罪);執(zhí)法、邊境管理、工作場所和教育機構(gòu)中的情感識別系統(tǒng);從社交媒體或監(jiān)控攝像頭中抓取生物特征數(shù)據(jù)以創(chuàng)建面部識別數(shù)據(jù)庫(侵犯人權(quán)和隱私權(quán))。

除了禁令之外，更新后的草案還引入了旨在監(jiān)管“通用人工智能”的新措施，適用于由微軟、谷歌和OpenAI等科技巨頭構(gòu)建的資源密集型人工智能系統(tǒng)，其中包括GPT-4和ChatGPT等語言模型，以及Stable Diffusion、Midjourney和DALL-E等人工智能圖像生成器。

根據(jù)擬議的立法，人工智能大模型的創(chuàng)建者需要在人工智能使用之前進行評估并減輕各種風險，包括評估訓練人工智能系統(tǒng)可能造成的環(huán)境損害。相關(guān)公司必須公開訓練人工智能使用的數(shù)據(jù)，以確保其使用受版權(quán)法保護的數(shù)據(jù)訓練。

有業(yè)內(nèi)人士認為，版權(quán)問題可能會在美國產(chǎn)生重大影響。在美國，版權(quán)所有者已經(jīng)對未經(jīng)同意使用其數(shù)據(jù)的人工智能圖像生成器提起了一系列訴訟，許多科技公司，如谷歌和OpenAI，都通過拒絕披露訓練系統(tǒng)的數(shù)據(jù)(通常聲稱這些信息是商業(yè)機密)來避免這類法律挑戰(zhàn)，若歐盟要求公開訓練數(shù)據(jù)，則可能會產(chǎn)生新的訴訟。