Alexa
  • En
  • Directory of Taiwan

美民主黨推「反演算法歧視法案」 社交巨頭需說明演算法及資訊收集作法

AI不中立,演算法充斥種族與性別歧視,更被用於搭載虛假訊息操控美國大選。

  138
美民主黨推「反演算法歧視法案」 社交巨頭需說明演算法及資訊收集作法

(台灣英文新聞/ 張雅鈞 綜合外電報導) 華盛頓郵報27日在一篇分析文章中指出美國民主黨推動《演算法正義與線上平台透明度》法案,揭露演算法歧視與虛假信息的操作如何傷害美國社會。

社交網路與科技工具如何加劇種族主義與性別歧視,並傷害社會弱勢族群成國會立法者們越發關注的議題。美國民主黨籍參議員馬基(Ed Markey)與松井桃樂絲(Doris Matsui)27日在國會中推動法案,禁止線上演算法基於種族、性別、年齡、能力等本該受保護的階層產生歧視。該法案也著重在通過要求科技公司以通俗易懂的文字,解釋其演算法的運作方式與所收集訊息的類型,為數位平台創造更高的透明度。

這部《演算法正義與線上平台透明度法案》(the Algorithmic Justice and Online Platform Transparency Act),將附帶成立一個聯邦機構跨部門工作小組,包括涵蓋聯邦貿易委員會(Federal Trade Commission)以及美國住房及城市發展部(United States Department of Housing and Urban Development)等,來調查演算法中潛藏的偏見情形。

馬基在給華盛頓郵報的一份聲明中表示,現在是時候揭開科技巨頭的黑布,針對有害社會的演算法制定嚴格禁令,並在實現平台問責的過程中,為那些長期遭受線上歧視的族群匡扶正義。


不中立的演算法與撕裂社會的種族問題

演算法正義聯盟(AJL)創辦者、麻省理工學院媒體實驗室(MIT Media Lab)的迦納裔電腦科學家喬伊.布蘭薇妮(Joy Buolamwini)打破人工智慧(AI)的中立神話,以其於2018至2019年間發表兩項重大研究,揭露多家科技公司的AI技術存在性別與人種歧視。該研究引發美國商務部國家標準暨技術研究院(NIST)於2019年,針對商用臉部辨識技術,進行史上最大規模演算法歧視的審查,在逐一審查近百家公司的演算法技術後,發現AI對亞裔、非裔臉孔的誤判率為白色人種的10到100倍。亞馬遜、微軟停止向警方提供人臉辨識技術,IBM則決定完全退出該領域業務。

去(2020)年震驚全美的喬治·佛洛伊德(George Floyd)謀殺案,更引發美國史上規模最大的群眾抗議運動,將「黑人的命也是命(Black Lives Matter)」運動推向全球,更引發人們對演算法可能存在偏見或被濫用來傷害少數族群的重視。國會中檢討隱藏在科技中的歧視成主流聲音。佔執政優勢的民主黨援引近來與科技巨頭的聽證會,強調這些議題應被重視。

馬基強調科技公司在消除歧視上的扮演重要角色,「當我們努力消除社會中的不公平時,不能忽略網路的生態系統。」

他在官網上指出,演算法是內置於平台基礎建構的自動化系統,它決定用戶在網上看到的內容,用戶也許在知情或不知情的情況下看到系統依其使用行為所演算的結果。該法案包括禁止熱門網站上的破壞性演算法,因為它可能會構成歧視,包括平台以先入為主觀念(或帶有種族偏見)提供住房廣告,以及排除某些性別身份的用戶觀看到求職廣告。馬基呼籲其他立法者協力推動法案,「帶有偏見的人工智慧系統已經嵌入我們的數位社會結構中,它們必須被根除。」

搭載虛假訊息的演算法也導致種族歧視。華盛頓郵報指出,研究發現在干擾2016年美國總統大選的網路行動中,俄羅斯的干擾行為尤其針對抑制黑人選民的投票率,在臉書廣告的目標受眾中,黑人遠高於其他族群。

法案與演算法規範

經過多年關於如何監管社交媒體公司的辯論,立法迫使主要科技平台進行內容審核以及演算法透明化成跨黨共識。

馬基和松井的提案除了要求禁止演算法歧視、增加演算法與訊息收集的透明度外,還將要求科技公司發佈年度報告,詳細說明其內容控制做法,包括Facebook在內的一些大公司已經這樣做了。這些公司還必須保持詳細記錄,描述其算法過程,供聯邦貿易委員會審查。由於隱私和商業方面的考慮,公司一般都非常嚴格地保護這些程序。

民運人士多年來積極要求科技公司應確保其的產品與服務不會傷害有色人種,如今他們向國會施壓,要求對科技公司進行監管,並指科技公司應積極處理關於選舉的仇恨言論和虛假信息。本次推動的法案也將特別禁止干擾個人投票權的演算法。

在人工智慧與演算法盛行的世代,如何在科技與社會議題交融之中,處置演算法中的偏見與歧視,成這世代立法者與科技巨頭的重要的課題。


更新時間 : 2021-06-19 11:21 GMT+08:00