人工智慧風險治理新模式之建構

總體而言，隨著產業科技型態推進到所謂第四波產業革命(Fourth Industrial Revolution)，在科技型態與社會運行模式皆有重大轉型，則風險治理也必然從政府主管機關單向把關之方式，逐步調整成更多面向的治理合作。然而產業革命帶來的制度轉型往往初期會陷入社會分歧，因此許多新觀念之提出需要各方探討爭辯後才能形成社會共識。對此，日本經產省在2019年初提出了一份針對Society5.0的治理創新政策報告，其中揭示了非常全面適用性且徹底改造性的風險治理模式，非常值得參考引介。
 

何謂日本Society5.0？

首先要理解日本所稱之Society5.0是何義，這是因第四次產業革命而衍生之社會轉型，有別於第三波產業革命（資訊科技革命）所帶來的資訊社會（在日本稱為情報社會）。在資訊社會階段只是人類大量運用資訊科技進行運算，各種社會生活模式並未改變人與人互動的方式，但逐漸進入高度網路化社會之後，開始出現虛擬空間社會之觀念。而第四次產業革命的特徵就是大數據科技與人工智慧，因此數位空間與物理空間並行的現象更為普遍，機器與機器之間的互動對話（物聯網模式）成為常態。此種社會運作形態的根本轉變，勢必使得政府治理能力受限，必須採取新的治理模式，此所以日本邀集眾多學者研商後，頒布一份完整的治理創新報告。而在探討日本之治理創新模式之前，必須先介紹美國著名學者Lawrence Lessig所提出的規範架構理論，這是日本這份治理創新模式的理論基礎。
 

Lessig教授在其1999年出版的「網路自由與法律」(Code and Other Laws of Cyberspace)一書中提出一個多元的規範架構，就是結合了法律、市場、社會規範、技術架構這四個規範力量的結構。Lessig以香菸管制為例指出，限制一個人的抽菸行為乃是來自這四種力量共同作用之結果。首先是法律會限制一定年齡以下者不可抽菸，零售商也不能賣菸給他，因此取得香菸的管道受限。其次，社會規範使我們知道在車內必須獲得同車乘客們的許可才能點菸，在餐廳或其他室內場合也是（雖然我國有菸害防制法之規範，但在沒有此法律的國家仍會有此種不同強度的社會規範存在）。而市場結構也決定了你能買到什麼樣的菸品，包括品項與價格都可能構成你抽菸的限制。最後則是技術架構之限制，香菸要是開發成電子菸可能給予抽菸者更大程度的選擇權。Lessig主要以此規範架構圖討論網路上的言論自由等規範型態，而其背後最重要的洞見是，所謂的規範並不是只有靠法律才可達成，不同的規範力量可在不同情形下成為最主要的規範力量。
 

Lessig的論著係針對資訊社會的網路空間，探討其規範力量之多元性，尤其著重在言論自由。而到了第四波產業革命的虛擬與實體交錯空間，Lessig的理論提供了基本的思考出發點，日本經產省發布的前述報告則將其架構出更為複雜型態多規範結構。
 

日本「Society5.0治理創新報告」之管制模式

日本「Society5.0治理創新報告」所提出之觀念仍處於相當理論性的階段，對於實際該有的法制改造尚未有具體性的建議，本文在摘錄其內容後亦會針對該理論於現實適用上之條件與侷限提出評論意見。
 

首先在現行管制模式的侷限性方面，該報告提出以下幾點。
 

日本在治理中的核心角色，一直以來都以國家制定的法律和政府為主。

（1）規則制定：國家頒布法規，對具體對象（業務）加以規定，並指定應採取的行動。

（2）監督：受監管機構應定期報告經營狀況，包括有無違規情況，數據由檢查人員實地蒐集。

（3）執法：假如企業涉及違法或侵權，監管機構和法院通常會判斷行為人是否故意或過失，以及是否應受法律制裁（刑事處罰、行政處分、剝奪許可等）。
 

在這種治理模型下，將自然語言中的法律義務轉化為虛擬世界的程式之工作完全由企業負責，因此在過程中企業自己決定如何遵守規則以及如何將遵循法令的狀態「視覺化」，社區或個人根據企業提供的訊息決定是否使用產品或服務。如有問題，可以直接與企業進行談判或中止使用，並不會對企業構成重大影響。然而隨著虛擬空間的影響日益增強，也就是在四種規範力量中，技術架構的規範力量膨脹，很大程度地決定了物理空間的活動，則法律規範的語言和技術的程式語言之間的轉換就會出問題。程式語言的變化日益快速，也不夠透明，相較而言就會和現實的規範脫節。
 

圖1 現行虛擬與物理空間之規範模式與示意圖

資料來源：日本經產省，作者翻譯繪製
 

在當代以軟體為中心的社會中，僅約束物理空間的傳統法規將很難監督，因為資訊的蒐集、判斷、通訊、演算法皆變為自動化，而且活動跨越國界。在科技日新月異，複雜度提高的情況下，很難找出風險在哪裡，並且預先規定如何控制風險。傳統的規定可能過度約束低風險的活動，導致創新活動受到抑制。而透過數據和A.I.的使用，各企業有很高的自主性，以獨自的方法保障使用者的安全，因此法律難以要求使用某些特定的技術和方法。隨著商業模式的動態化、分層化和模組化，「行業」也變得很難定義。例如財務結算法律目前以業務的型態劃分（銀行業務、資金轉帳等），但因為同時需要考慮到靈活的用戶需求，並且降低風險，正討論如何以機能為導向來建立跨領域的法規。
 

尤其，A.I.所下的判斷不經過人類，但對於物理空間中的活動會構成影響，包括對人的生命安全及財產。從前，系統只需要經過一次確認就大概能保障品質，但A.I.在輸入數據後還會不斷學習及自我更新，因此在預測安全性的難度有所提升。以傳統系統為前提的方法難以確保A.I.軟體的可預測性和可解釋性。在難以預測個別系統所下的判斷將如何影響的情形下，假如產生不利後果，也很難以鎖定法律責任的所在。再者，就算制裁了某特定對象，也不一定能對今後事故的預防起到作用。從政策面考量，若不考慮在科技發展下的流動化社會，而將自主機器系統所引起的事故完全歸咎於「人的過失」，可能不利於創新。
 

圖2 既有治理方式因現實社會面臨之變化與趨勢示意圖

資料來源：日本經產省，作者翻譯繪製
 

日本新的管制思維

基於前述以政府的法規為核心的管制模式面臨難題，日本提出新的管制思維革新方向如下：

(1)關於規則制定，為了克服法律追不上社會進步和複雜化的問題，應將規則的建立基於達成最終目標(goal-based)，呈現最終實現的價值，而不是規制行為的細項(rule-based)。對於規則的實效性和影響，也應不斷進行回饋，以便改善。

(2)關於監督，因為政府難以全盤且具體的掌握裝載軟體服務的守法狀況，以及如何影響人的行動，因此努力促進企業公開和說明。另外也可以考慮設計一套制度，鼓勵政府、企業、社區和個人使用即時數據監控風險，以及促進企業開放API 和導入軟體系統。

(3)關於執法，為了能具體鎖定執行對象（人的行為、設備、機器的狀態等），政府與民間應合作建立系統和制度，作為線上ID 基礎設施。對於裝載A.I.的複雜系統，應設計規則和監督體系，讓企業更能配合執法過程，而非將焦點置於對人的問責。在Society5.0的時代，也應建構更便捷且更實際的紛爭解決方法。

(4) 基於企業和個人活動的全球化，共同制定適用於領土外和國際的規則，並在執法方面進行合作。
 

這些改革皆難以由政府單獨實現，例如架構的設計，用於監控的即時數據蒐集，執法階段的資訊提供等，皆需要借助企業、社區和個人的力量合作完成。數位技術漸漸發達，透過網路增強社區與個人的溝通能力。這降低了對法律的依賴，增加從架構、市場及社會規範的層面來促進創新與保護社會價值的機會。同時，政府藉由和民間合作積極使用尖端技術也相當重要。在Society5.0中，國家統一制定法律、監督和執法的模式已不再適用。相反的，有必要建立重視利益關係人間水平關係的軟性治理模式，其架構之新治理可以下圖表示之。
 

圖3 Society5.0規範架構關係圖

資料來源：日本經產省，作者翻譯繪製
 

總體而言，新的風險與創新治理模式固然有其必要，且日本政府已經勾勒出相當全面的制度理想，但從既有的規範體系過渡到新的治理模式，不會是同時進行全盤的翻轉，在當代法治國原則的法理運作基礎上，必然是逐步調整修訂其部分原則。另一方面，目前已貫徹於行政與司法運作中的法律原則，也不是全部都具有等價地位，其中有些最核心的原理原則暫時不宜放棄或變動，但比較次要性的原則可調整變動性較高，實際上也早已不被認為是固定不可修正的原則。總體而言，從一個理想型的新治理模式作為目標，進而檢討哪些法律原則是可以配合調整修訂，以利過渡到新型態的行政治理與專業共治，應該是今後最主要的法學課題。

本文摘錄自人工智慧競爭與法制—第六章