台灣時間4月21日晚間，歐盟執委會發布了《人工智慧管理法草案》，將交由歐洲議會等機關審議。此法案的影響全面且深遠，卻也非橫空出世，除已醞釀三年之久，相關內容也有跡可循。
 

本文將從歐盟對人工智慧的思維脈絡，初步解析該草案；由於草案內容甚多，本文將不涉及太多細節的制度說明，而是分析歐盟這次立法的背景與決心。
 

2018年起，歐盟從就開始探討人工智慧的發展策略，並制定了會員國的合作計畫。當時列出的目標，就是要吸引投資、人才，並維護歐洲人權價值，但具體的做法並不明朗；當時只知道，最重要的是，歐盟會員國在此事上必須集體行動，不能被美、中的商業力量分化。
 

簡言之，因為科技的變化太快速了，當時的歐盟對人工智慧發展前景，只有「抱團」心態是確定的，其餘都不確定。
 

而在2019年，歐盟的高級專家小組則提出了〈可信任的AI之倫理綱領〉，內容針對人工智慧技術開發與應用該遵守的倫理原則，提出具體七項要素。歐盟執委會強調，這份文件僅是專家小組發布的建議，沒有法律拘束力；而在發布後陸續蒐集各界回饋意見，卻已可嗅出準備立法的風向。
 

對於將來的立法架構，這份文件扮演了重要的標竿角色，將科技、人權與倫理的交錯進行了議題錨定。
 

接著在2020年，執委會以前述各界回饋意見為基礎，頒布了《人工智慧白皮書》，明確提出未來歐盟將規範人工智慧，管制模式是「根據風險區分管制」 （risk-based approach）。
 

至此，歐盟已對於用法規管制人工智慧有明確的意向與方法——為兼顧科技發展與人權價值，優先管制高風險的人工智慧應用，低風險的人工智慧就以該領域既有的法規來規範即可，不必因為是人工智慧科技就另立規範；此原則也具體落實在這次公布的《人工智慧管理法》草案架構中。
 

既然是根據風險區分管制，哪些人工智慧技術會被列為高風險，就是重點。這次公布的草案，將規範對象分為三層次：完全禁止使用的技術、高風險應受事前管制的技術，有限風險和最小風險的技術，則受到最低度規範。
 

因此，只要充分了解該草案定義的第一類和第二類技術，就可大致出評估這法律對人工智慧業界的衝擊了（嚴格言之，規範客體可區分為技術本身或特定領域應用，例如生物辨識是一種技術，而將生物辨識用於防範犯罪則是一種司法應用。本文為行文方便統一稱為「技術」）。
 

「完全禁止的技術」即針對絕對違反歐洲人權價值的類型，本草案第五條列出四項絕對禁止的人工智慧技術，分別是：

1. 該技術透過操控人類潛意識，達到扭曲其行為且造成身心傷害者。
2. 該技術針對年齡（老人或兒童）或身心障礙之特殊群體加以剝削，扭曲其行為造成身心傷害者（這兩項定義不明確，要如何判斷是否構成身心傷害？）。
3. 該技術提供公務機關對人採用社會信用評分，造成對其個人不合理的差別待遇（即中國施行的「社會評分制度」）。
4. 在公共場合基於法律執行目的，而進行遠端即時性生物辨識技術（也是中國施行的那一套）。例外允許條件，是尋找失蹤兒童之類的犯罪受害人，或基於防範恐怖攻擊，以及針對已被鎖定的重大刑案嫌疑犯。

由此分類可知，第三和第四類技術主要防範國家濫權，第一和第二類技術則可能禁止某些商業行為的人工智慧應用；但執行上需要主管機關更明確的認定標準。但該草案要求各會員國須指定法案的專責機關，有助釐清適用標準。
 

至於高風險的人工智慧技術，雖不被禁用，但會受到嚴格管制；包括事前須先做測試與評估報告，確保訓練資料集的品質，並經主管機關列管核准才可使用。此外，也有嚴格的事後監控、通報與改善義務（詳細的管制規定在此文無法細述）。
 

高風險技術的類型規定在草案第六條，主要引用此次同時公布的附件二及附件三。
 

附件二列出歐盟既有的各種風險相關管制規範，只要人工智慧技術是這些安全規範的核心技術，就會被列為高風險技術。
 

邏輯是，現行風險管制規範的存在有其道理（亦即涉及重要的社會利益保護必要）；若交由人工智慧技術落實其規範，則該技術的可靠度就攸關社會重大利益，應嚴格管制該技術的使用條件。
 

附件三更列出了特定技術或應用方式構成的八大類高風險技術，分別是：

1. 遠端生物辨識技術（不限公務機關使用）；
2. 做為道路、水電等基礎公共設施安全維護的技術；
3. 在教育與職訓中發揮挑選或評分功能的技術；
4. 在職場對員工進行管理目的的技術（包括雇用決定與績效評分）；
5. 用來決定可近用特定服務之優先順序的技術，包括社會福利、金融信用、消防或醫療緊急服務；
6. 作為法律執行輔助的技術，包括類似測謊功能、評估被告或受刑人再犯機率等多種技術應用；
7. 用於移民、庇護、邊境管制目的之技術；
8. 提供司法機關法規調查使用的技術。

前述界定的高風險科技類型，無論是技術提供者使用者都須嚴守管制規範，違反者最高將被處罰3,000萬歐元罰鍰或全球營收的6%（以較高金額者處罰）。
 

需要遵守此規範的業者不限於歐盟國家成立的企業；歐盟以外的企業若提供AI產品或AI服務給歐盟地區，或在歐盟地區販售在歐盟境外使用該技術產生的產品，都受到該法律規範。因此，台灣的廠商也必須正視此規範的衝擊。
 

雖然此草案後續審議時間可能長達數年，但AI技術開發也需要相當時程；開發過程應切實做好相關紀錄，否則很難符合該規範要求的透明性等文件要求。
 

此草案將來的立法進度，牽動全球人工智慧科技發展的命運，也與國際政治經濟因素相互糾葛。台灣哪些人工智慧開發方向會受此規範衝擊，也應儘速標定，並提高其技術與產業標準。
 

例如，台灣有科技業者開發員工面試與管理的AI系統，這明顯屬於前述第四類的高風險技術；台灣在醫療AI也投資甚多，若其中應用於急診室之檢傷分類或留院觀察與否之傷病預測，也可能屬於前述第五類的高風險技術。
 

台灣業者開發的技術要推廣到歐洲市場，開發階段就應做好法遵規劃。基於此，本專欄今後將持續對該草案內容進行更深入解析，並從國際政治、科技競爭與台灣角色戰略的不同角度，提出觀點。