講題:The Master’s Tools Will Never Dismantle the Master’s House: A Critical Analysis on AI Governance and the Pursuit of Freedom and Empowerment in the 21st Century
政大創新國際學院(創國學院)、人文社會與科技前瞻人才培育計畫-「『心˙機』共融」計畫,以及政大台灣研究中心於5月17日共同舉辦了「The Master’s Tools Will Never Dismantle the Master’s House: A Critical Analysis on AI Governance and the Pursuit of Freedom and Empowerment in the 21st Century」的英語講座(中文題名:以自由與賦權為初衷之AI治理),由創國暨法學院助理教授陳柏良主持,邀請現職為國際特赦組織台灣分會法務的黃寬心律師演講,和學生分享AI治理與人民自由與權力的關係。
本講座以線上的方式進行。首先由陳柏良教授進行開場,邀請在座聽眾參與一同思考 AI治理和民主自由的關係。黃寬心一開始即表明,在這個資訊爆炸的時代,她希望這場演講能讓聽眾一起以宏觀的視角思考,不只是單方面給予資訊而已。同時巧妙地結合其現職的國際人權組織Amnesty International(國際特赦組織)的英語縮寫AI與同樣縮寫為AI人工智慧科技,希望從人權的角度切入探討人工智慧治理。
黃寬心在講座前半段向聽眾提出一個問題:AI對於自由的意義是什麼。AI需要兩種集中資源,其一是大量的數據,二是龐大的電腦處理能力,也就是機器學習的部分,這兩者都需要巨量資本與資源的支撐。從政治經濟學的角度,政治權力與財富資本之間的循環轉換,富有者掌握政治權力,政治權力通常又為既得利益者服務,循環往復。黃寬心邀請大家一同思考,在當代社會結構下,既有之權力集中化與循環往復,並考量到AI開發階段本身就須要巨量資本與資源,容易演變成AI科技被少數擁有金權者所壟斷,甚而成為資本家對大眾榨取利益的工具,或是威權政權支配人民的利器。因此,要如何減輕如此權力懸殊日漸加速的情勢,如何維護人們的自由與自主性(freedom and autonomy),如何實踐權力制衡(check and balance)實踐民主社會的價值,是AI治理的核心議題。
此外,黃寬心指出霸權(hegemony)和權力結構無所不在卻又不可見(invisibility)的特性。而這所謂的不可見性並不是因為它不存在,而是觀者本身看到不到它(You cannot make people see what is invisible by showing it to them. Why? Because invisibility lies in the eye of the viewer.)。黃寬心藉由哲學家齊澤克(Slavoj Zizek )分析經典電影《極度空間》(They Live, 1988 )的短片,試圖讓聽眾看見那看不見的東西,並期許大家鍛鍊那看見權力結構的能力,進而能夠有清晰而系統性的理解、分析、解構,一同重建更加自由平等的民主社會。
黃寬心提到,AI的本質—機器學習,其與過往科技的最大的差別,在於其具有強大的模組識別力( “pattern matching on steroids”)。而AI模組識別(pattern matching)的先決要件,就是立基於巨量的資料。但需要特別注意的是,這些巨量的資料是從哪裡來的呢?掌握在誰的手裡呢?這些基於高度商業動機而蒐集眾人日常生活的一舉一動,甚至是所思所想,如此加劇的權力懸殊,是否正在侵蝕民主自由呢?
在講座的後半段,黃寬心提出,討論AI治理時,絕對不可以真空於以下三個脈絡:一、功能與應用脈絡(The Functional and Implementation Context);二、資訊科技的脈絡(The Information Technology Context);三、社會脈絡(Social Context)。黃寬心進而分享監控資本主義(Surveillance Capitalism)與數位威權主義(Digital Authoritarianism)的概念。黃寬心從公共層面切入,談到這些對公民無所不在、無所遁形的行為數據(behavioral data)的蒐集與監控,正在不斷掏空個人的自由和群體的民主實踐。
黃寬心說,當我們將AI治理的思考和視角拉升到自由民主和權力結構這個更深層的問題時,我們會發現,除了當前AI治理的主流議題(AI潛在的偏見與歧視、自駕車車禍的責任歸屬等)之外,我們必須正視這些權力結構的問題,並且理解到AI科技的本質與社會應用在這之中扮演的角色。最後,黃寬心認為,AI治理的核心目標,是透過法律—政策—科技這三面向,共同打造出一個讓大眾真正可以獲益於AI並同時兼顧政治上和經濟上的自由與自主性的社會情境。期許AI治理能帶我們走向AI of the people, by the people, for the people。
演講最後的問答時間,主持人陳柏良從臺灣的語境發想,探討臺灣如何面對數位身份證的爭議,並詢問對臺灣的數位通訊傳播服務法草案的想法。黃寬心從美國過去對於網路服務提供者的規範的脈絡來探討,指出近年Google和Facebook等網路搜尋平台與社群網路平台等的發展,已經將網路問題的討論層次擴大且複雜化,無法將過去的規範等同套用現在的狀況。同時,黃寬心認為台灣不宜單純地橫向移植外國立法例,而應該要基於台灣在地社會脈絡 “Think globally, act locally”來設計相應的法規與政策。