撰稿人：Lia ／ 責任編輯：Zaphyra
2023年12月8日，經過一場持續近40小時、異常艱鉅的馬拉松式談判，歐盟立法者就全球首部全面性《人工智慧法案》（AI Act）的內容達成了臨時政治協議。這項里程碑式的協議，使歐盟在全球競賽中處於領先地位，有望成為第一個為人工智慧技術制定具有法律約束力規則的主要經濟體。此次協議由歐洲議會、歐盟理事會（代表27個成員國）及歐盟執委會三方共同達成，旨在為AI技術的發展與應用，建立一個兼顧促進創新與保障公民基本權利、安全和民主價值的法律框架。歐洲內部市場執委蒂埃里·布雷頓（Thierry Breton）在會後形容這一天為「歷史性的一天」，認為歐洲藉此確立了其作為「全球標準制定者」的關鍵角色。法案的核心精神，是採取一種「基於風險」的監管模式，依據AI系統可能對社會造成的危害程度，對其施加不同等級的法律義務。
該法案的監管架構，形同一個金字塔，其基礎是對不同AI應用進行風險分類。位於金字塔頂端的是「不可接受的風險」，這類AI應用因其對基本權利的潛在威脅而被完全禁止。禁令清單包括：利用潛意識或操縱性技術扭曲個人行為的AI系統；對個人的可靠性進行評分的「社會評分系統」；以及從網路或閉路電視畫面中無差別抓取臉部圖像，以建立臉部辨識資料庫的行為。金字塔的第二層是「高風險」AI系統，它們將面臨最嚴格的監管要求。這類系統涵蓋了關鍵基礎設施、醫療設備、教育、就業、執法、司法及民主程序等敏感領域的應用。開發者在將這些系統投入市場前，必須進行嚴格的風險評估、確保數據品質、建立詳盡的技術文件、保障人類監督，並滿足高度的準確性與網路安全標準。對於以ChatGPT為代表的通用AI（GPAI）及基礎模型，法案在談判的最後階段，引入了一套雙軌制監管方案：所有基礎模型都必須遵守透明度義務，例如提供用於模型訓練內容的詳細摘要並遵守歐盟版權法；而那些被認定具有「系統性風險」的「高影響力」基礎模型，則需承擔更嚴格的責任，包括進行模型評估、對抗性測試、通報嚴重事件並評估與減輕系統性風險 。
協議中最具爭議、也是談判最為艱難的部分，集中在執法部門對生物辨識監控技術的使用上。歐洲議會最初力主全面禁止在公共場所使用即時遠端生物辨識（如臉部辨識），而代表各國政府的歐盟理事會則堅持為執法需求保留例外。最終達成的妥協方案，對此進行了極為嚴格的限制：執法機構只有在預防恐怖攻擊等真實且可預見的威脅、尋找特定犯罪的受害者，或搜捕犯下最嚴重罪行的嫌疑人等極少數情況下，並在獲得司法授權後，才能使用即時生物辨識監控 。儘管設下了重重關卡，但這項妥協依然引發了公民自由團體的強烈批評。歐洲數位權利組織（EDRi）指出，該法案首次在歐盟層面為公共場所的即時臉部辨識合法化開了後門，認為相關的保障措施「充其量只是不溫不火」。與此同時，部分科技產業團體也對法案表達了憂慮，認為對基礎模型的監管，偏離了原先「基於應用」的風險評估原則，可能為歐洲的AI創新生態系統帶來不必要的負擔 。這份充滿艱難妥協的協議，凸顯了歐盟在駕馭這項革命性技術時，所面臨的內在張力。
全文
Lia. Independent Media 台北報導
在生成式人工智慧以驚人速度席捲全球的時代背景下，歐盟以其特有的立法節奏，完成了一項旨在為這項顛覆性技術確立規則的艱鉅工程。2023年12月8日達成的《人工智慧法案》政治協議，不僅是歐盟內部歷時超過兩年立法辯論的結晶，更是全球範圍內首次由主要民主政體，對AI進行全面性、具有法律約束力規範的嘗試。此舉的深遠意義在於，它試圖在美國相對自由放任的市場驅動模式與中國國家主導的監管模式之間，開創一條以人為本、以權利為核心的「第三條道路」。
這部法案的哲學核心，是一種精細的風險分級管理體系，其設計理念並非一刀切地限制AI技術本身，而是精準地規範其具體應用場景可能帶來的社會風險。這個被稱為「風險金字塔」的架構，將AI系統分為四個等級：
一、不可接受的風險 (Unacceptable Risk): 這是法案的絕對紅線。任何被歸入此類的AI應用都將被嚴格禁止在歐盟市場上使用。這份「黑名單」旨在防範那些與歐盟基本價值觀和基本權利根本不相容的AI系統。被禁止的應用包括：
認知行為操縱： 利用AI技術，透過潛意識或欺騙性手段，扭曲個人或群體的行為，從而可能造成身心傷害。
利用弱勢群體： 針對特定弱勢群體（如因年齡、身心障礙或經濟狀況）的弱點，對其行為施加影響並造成傷害的系統。
社會評分系統： 由政府主導的、基於個人社會行為或個人特徵，對其進行廣泛評分，從而導致不公平待遇的系統。
無差別的生物辨識資訊抓取： 從網際網路或閉路電視錄影中，大規模、無目標地抓取臉部圖像，以建立或擴充臉部辨識資料庫。
敏感特徵的生物辨識分類： 根據個人的生物辨識資料，來推斷其政治觀點、宗教信仰、性取向或種族等敏感個人資訊的系統。
二、高風險 (High Risk): 這是法案監管的核心。被歸類為「高風險」的AI系統本身並不被禁止，但其開發者、提供者與使用者，必須遵守一套嚴格的法律義務，才能將其投入市場或使用。高風險領域的清單涵蓋了對公民安全、基本權利與生活機會有重大影響的關鍵場景，例如：
關鍵基礎設施： 用於管理水、電、交通等系統的AI。
教育與職業培訓： 用於評估學生或決定錄取資格的系統，以及用於招聘篩選、評估員工績效的AI。
基本服務的獲取： 用於評估個人信用分數、決定其是否有資格獲得公共福利或貸款的系統。
執法與司法： 用於風險評估、證據分析或作為司法判決輔助工具的AI系統。
移民與邊境管理： 用於測謊、風險評估或審查簽證申請的AI。
對於這些系統，法案要求在整個生命週期中進行嚴格的風險管理，包括使用高品質的訓練數據以減少偏見、建立詳盡的技術文件供監管機構審查、確保系統運作的透明度與可解釋性、並設計有效的人類監督機制，以隨時進行干預或修正。
三、有限風險 (Limited Risk): 此類AI系統的風險相對較低，法案主要對其施加透明度義務。目標是確保用戶能夠意識到自己正在與AI系統互動，從而做出知情的決定。例如：
聊天機器人 (Chatbots): 必須明確告知用戶其正在與AI對話。
深度偽造 (Deepfakes): 生成或操縱的圖像、音訊或影片內容，必須標明其為人工生成。
四、極低或無風險 (Minimal or No Risk): 絕大多數目前普遍使用的AI應用，如垃圾郵件過濾器、AI驅動的電玩遊戲或庫存管理系統，都屬於此類。法案對這些應用不施加額外的法律義務，允許其自由發展與創新。
艱難的妥協：基礎模型與生物辨識監控的爭議
儘管風險金字塔的框架在立法早期就已確立，但兩大議題幾乎讓此次談判功敗垂成：一是如何監管以GPT-4等為代表的強大基礎模型；二是在多大程度上允許執法部門使用生物辨識監控。
關於基礎模型的辯論，凸顯了歐盟內部在「支持本土創新」與「防範未來風險」之間的緊張關係。以法國、德國為首的一些成員國，鑑於其國內已有像法國的Mistral AI和德國的Aleph Alpha等具潛力的AI新創公司，因而主張對基礎模型採取較為寬鬆的「自我監管」模式，擔心過於嚴苛的規則會扼殺這些歐洲冠軍企業的成長。然而，歐洲議會的立法者則認為，這些模型作為眾多下游應用的基礎，其本身就可能產生系統性的風險，因此必須從源頭進行監管。最終達成的雙軌制妥協—這是在談判的最後階段才敲定的方案—試圖化解這一矛盾，它為所有基礎模型設定了基本的透明度門檻，同時為那些能力最強大、可能影響整個社會的「高影響力」模型，施加了類似於「高風險」系統的嚴格義務。
而關於生物辨識監控的爭議，則觸及了安全與自由這一更為根本的價值衝突。公民自由團體與歐洲議會中的綠黨、左派黨團，將公共場所的即時臉部辨識視為通往大規模監控社會的滑坡，主張徹底禁止。然而，代表各國政府的歐盟理事會，在來自執法部門的巨大壓力下，堅持認為在應對恐怖主義與嚴重犯罪等極端威脅時，這項技術是不可或缺的工具。最終協議中那些極其嚴格且需逐案審批的豁免條款，正是這兩種對立觀點激烈碰撞後的結果。它既未完全禁止，也未輕易放行，而是試圖在法律文本中，為每一次潛在的使用，都設置一道極高的門檻。
全球影響：「布魯塞爾效應」的再臨？
與2018年生效的《一般資料保護規範》（GDPR）相似，《人工智慧法案》被普遍預期將產生強大的「布魯塞爾效應」。由於歐盟是全球最大的單一市場之一，任何希望進入此市場的跨國科技公司，無論其總部位於美國矽谷還是亞洲，都必須使其AI產品與服務符合歐盟的標準。與其為不同市場開發和維護多套合規系統，許多公司可能會選擇直接將歐M盟的最高標準，應用於其全球業務。
這將使歐盟的AI治理模式，在全球範圍內形成事實上的標竿，為其他國家在制定本國AI法規時，提供一個現成的、以權利為中心的藍圖。此舉將直接挑戰美國目前更傾向於由產業自願遵守、側重於促進創新的指導性框架，以及中國由國家全面控制、側重於社會治理與數據主權的模式。
然而，這份協議的最終文本仍需在未來數週內進行技術性微調並正式批准，預計將在2024年初生效，並在兩年後全面實施。在這段過渡期內，AI技術的發展仍將一日千里。歐盟的立法者們完成了一項歷史性的創舉，但他們所建立的這座監管大廈，能否經受住技術快速迭代與全球激烈競爭的考驗，將是未來數年中最值得關注的議題。
資料來源
Reuters: Europe agrees landmark AI regulation deal
https://www.reuters.com/technology/eu-lawmakers-clinch-landmark-ai-rules-deal-sources-2023-12-08/
European Parliament: AI Act: deal on comprehensive rules for trustworthy AI
https://www.europarl.europa.eu/news/en/press-room/20231206IPR15699/ai-act-deal-on-comprehensive-rules-for-trustworthy-ai
Politico Europe: EU negotiators strike a deal on the world’s first major AI law
https://www.politico.eu/article/eu-ai-act-deal-agreement-details-negotiations/
Financial Times: EU agrees to landmark artificial intelligence rules
https://www.ft.com/content/138252f3-c529-48f3-85e2-9de83265a6c1
The Verge: The EU’s AI Act deal is done — here’s what we know
https://www.theverge.com/2023/12/8/23994608/eu-ai-act-agreement-provisional-deal-regulation-europe-gpt-4
The Guardian: EU agrees landmark rules on artificial intelligence
https://www.theguardian.com/technology/2023/dec/09/eu-agrees-landmark-rules-on-artificial-intelligence
Carnegie Endowment for International Peace: The EU AI Act: A Primer
https://carnegieendowment.org/2023/06/21/eu-ai-act-primer-pub-90021