科技部在九月份公佈了「人工智慧科研發展指引」，內有揭示八項倫理原則，分別是：「共榮共利」、「公平與非歧視性」、「自主權與控制權」、「安全性」、「個人隱私與數據治理」、「透明性與可追溯性」、「可解釋性」、「問責與溝通」。

我想光看這些字詞的表面意義以及該指引所提供的極簡短解釋，社會大眾或科研工作者應該很難理解這些詞語的具體內涵精神，後續仍需要專家對此文本進行更多的闡釋或辯論，才能發揮此指引之作用。本文暫且先不討論這些原則的具體內涵，而是要放在更大的全球及兩岸發展脈絡上來討論此份指引的意義與未來方向。
 

就在今年五月，中國也有幾個代表性學術機構共同發表了一份「人工智能北京共識」，內有十五項人工智能倫理原則，分別針對研發、使用、治理三方面提出倫理原則。這是由北京大學、清華大學及中國科學院等幾個龍頭機構所討論決議的，其性質頗有比照美國加州在2017年出現的Asilomar人工智慧倫理原則，都是由學術機構所發起，內容也大同小異。就此點而言，台灣是由科技部所主動發布，頗有其特殊之處。表示科技部在大力推動人工智慧研發之同時，也體認到人工智慧的倫理議題與社會衝擊必須儘早帶動社會討論，才能促成在制度面有所回應，也可避免科研成果最終因社會疑慮而無法落地應用。
 

然而故事並未到此結束，考量到中國政府是目前使用人工智慧進行政治監控的大國，讓人對於其學術機構所提出的人工智慧倫理原則究竟在實際上有何作用感到懷疑。不僅如此，今年七月中共的中央全面深化改革委員會第九次會議上，也正式通過了「國家科技倫理委員會組建方案」，其意旨在於針對近年出現的基因編輯技術、換頭手術、人工智慧技術等要加強倫理審查管制。換言之，中國的倫理治理模式終究不是像美國一樣只是由學術界去發起自律規範，而是由國家建立起科技管制體制。相較於台灣只是由單一部會所提出的倫理指引，且未提出任何審核機制之構想，中國的模式顯然是中央管制模式，而這樣的管制會帶來怎樣的政治意涵呢？
 

實際上各國的國家級倫理委員會向來都是政治的產物，不是純粹的科學或倫理目的。例如美國在2001年成立的總統生命倫理委員會，就是因為人類胚胎幹細胞研究的倫理爭議已經升級為總統選戰議題，因此小布希總統上任後就成立此委員會召集專家研討，定期出版報告，以表現白宮對生命倫理的重視（小布希的當選就是因受到反對此研究之團體大力支持）。而韓國在2003年制定生命倫理與生物安全法，並設立國家生命倫理委員會，也是基於幹細胞研究推動之需要，並且在2005年黃禹錫事件後，該委員會就不再核准任何有關人類胚胎幹細胞的研究。

由此可知，生命倫理相較於一般科技倫理，具有明顯的政治意涵，必須要從這個脈絡去理解各種國家級生命倫理委員會的設立。而中國政府在此時成立國家層級的科技倫理委員會，難道會是因為開始重視科技倫理了？就像現在一反文化大革命時期打倒孔家店的說法，開始在全球普設孔子學院，難道是改邪歸正的表現？還是惡狼打造了合身的羊皮？
 

研究科技社會學的都知道，科技向來代表了權力，科技的分散或集中隱含了權力的流動變化。過去的通訊科技、能源科技皆是如此，而生命科技尤其是涉及終極性的權力分配，那就是對生命的控制權。自古以來當皇帝的都想追求長生不老之術，且皇帝權力的極致也不過就是摧毀政敵的肉體。生命科技發展至今，已經開始要跨入最根本性的生命本質之控制，這才是賀建奎事件的政治本質。像這樣可以操控生命的技術，怎能是在沒有國家控制的前提下任由個別科學家去操作。賀建奎的行為不僅觸怒國際生命科學界，也干犯了中共政治控制的界線。

再看到新興的人工智慧技術以及大腦科學技術，其政治意涵甚至比生命科學更為明顯。人工智慧已經是中國政治控制的「最強外掛」，透過大數據及臉部辨識等技術讓反對的聲音無所遁形，人人自我審查。將來腦科學操控技術發展後，極權統治將會獲得「終極武器」，政治權力將可直接改造異議者的思想與記憶。這樣的科技並不遙遠，而極權統治者對新科技的掌握必須永遠跑在民間社會之前。國家科技倫理委員會就在各界普遍疑慮這些新科技的倫理風險之背景下登場，儼然充滿了正當性。不僅在中國內部，就連國際社會也普遍歡迎中國政府此一象徵著重視科技倫理之舉。
 

由中共中央政府審查科技倫理，實際上等於由黨中央定義倫理的內涵。我從網路上搜尋這個組建方案，只有一片叫好聲，卻完全看不到該委員會是要如何組成。這不意外，中國的政府組織向來是不透明的，不需要交代這些「滴滴答答」的小事。不像德國的聯邦倫理委員會(German Ethics Council)就明文規定其26位委員，不可同時擔任中央或地方的議員或行政部門人員。韓國也是透過法律去設立國家級委員會。中國的這個委員會，必然是權力集中於領導人一身。因此這個委員會實際運作上所定義的倫理，必然是要符合於「皇帝」的意志與利益，何須多問。
 

從生命科學到人工智慧，再到將來的腦科學，以全球治理的角度而言，不僅面臨的是科技與產業的競爭，更是倫理治理的競爭。中國不僅在人權議題上向來主張中國式的人權觀，將來也會有中國式的科技倫理觀，這對所有的倫理學者來說是個重大的挑戰。在這樣的發展脈絡下，台灣除了科技部頒布的科研倫理指引外，更要思考如何因應這個全球倫理治理的新變局，找到自身的定位與路線。這份指引只是個起點，我們該做的事還很多。

原文刊登於未來城市＠天下「人工智慧淪為極權操控生命的工具，你是忘記了，還是害怕想起來？」經作者授權轉載