AILI News
Meta監督委員會週二表示正在審查該公司處理兩張在其Facebook和Instagram服務上流傳的兩張女性名人的性暗示AI生成圖像的處理狀況。
該委員會是由社交媒體巨頭資助但獨立於其運作，委員會在一篇部落格文章中表示，將使用這兩個案例來評估Meta防範使用人工智慧創造的色情假圖方面的政策以及執行實踐的整體效果。
該委員會發言人表示，為了「防止進一步傷害」，它提供了有關問題圖像的描述，但沒有公開這些圖像中所描繪知名女性的名字。
人工智慧技術的進步使得偽造的圖像、音訊和影片幾乎無法與真實的人類創作內容區分開來，導致網路上大量傳播性假圖，主要描繪的是女性和女孩。
在今年早些時候的一個特別引人注目的案例中，伊隆·馬斯克(Elon Musk)擁有的社交媒體平台X短暫地封鎖了用戶搜索美國流行歌手泰勒·斯威夫特(Taylor Swift)的所有圖像以努力控制虛假色情圖像的傳播。
一些行業高階管理人員呼籲立法將製作有害的「深度偽造」視為犯罪行為，並要求科技公司防止其產品被用於此類目的。
根據監督委員會對案例的描述，其中一個案例涉及一張AI生成的裸體女性圖像，類似於一位印度公眾人物，該圖像是由一個僅分享印度女性AI生成圖像的Instagram帳戶上發布的。
該委員會表示，另一張圖像出現於一個用於分享AI創作的Facebook群組中，其中包含一幅類似「一位美國公眾人物」的AI生成的裸體女性圖像，一名男子正在摸她的胸部。
因違反了其欺凌和騷擾政策，Meta刪除了描繪美國女性的圖像，該政策禁止「貶義的性化Photoshop或圖畫」，但最初未刪除描繪印度女性的那張圖像，直到委員會選中該圖像進行審查後才改變了立場。
在另一篇文章中，Meta承認了這些案例，並承諾實施委員會的決定。
反思：
AI潮流興起，AI創作也越來越興盛，AI創作的風險也隨之而來，若AI將圖片加工成原本不存在的人像或影像，對於這些深度偽造、以假亂真的圖片在各大社群平台流傳發酵，是否會造成刑事責任或是民事賠償呢？
假若AI圖片變成有心人士利用的工具，用來惡意中傷或造謠等，對特定之人產生負面的效果，或有汙名化某特定族群之風險，文中AI生成名人露骨的照片，該名人的人格權（姓名權、生命權、身體權、健康權、名譽權、自由權）則受到嚴重的侵害。以台灣為例：網紅小玉Deepfake事件就是濫用人工智慧合成技術所造成的社會問題，網紅小玉非於法律規定之必要範圍內利用他人個資，觸犯了個資法、刑法販賣猥褻影像罪以及加重誹謗罪等。
AI用於深度偽造是否需要一定的刑事、民事相關法規來嚇阻此類風險產生？AI倫理的教育宣導是否有待加強，使普羅大眾能更妥善地使用AI？此外，AI風險管理也是當今炙手可熱的議題！如何正確使用資料並避免觸法可能，值得省思。