Grok性深偽問題擴散 日本政府行動遲緩

source: 広がる被害、動き鈍い日本政府 Grokの性的ディープフェイク | 毎日新聞

真實人物的照片被擅自加工成性相關圖像，並持續在與Grok連動的社群網站（SNS）X（推特）上發布。

各國政府紛紛向X提出抗議和改善要求，但日本政府的行動仍然遲緩。

在X上向全世界擴散

Grok是生成式AI，X的用戶在發文時標記Grok並提出問題或請求生成圖像時，它會以自動回覆的形式做出回應。

去年12月下旬左右，Grok新增了圖像編輯功能，即使是他人發布的照片，第三方也能僅透過文字指示就輕易進行修改。

今年進入後，使用Grok加工發布在X上的女性等照片，生成性相關圖像並發布的案例在包括日本在內的全球範圍內急速增加。

有人指示Grok將照片中穿著的衣服更換成布料面積較小的比基尼或內衣等，並實際輸出了這類圖像。其中包括看起來幾乎全裸的、臉上被潑灑體液等性侵害內容的，以及疑似加工未成年人圖像的內容。

利用生成式AI製作真實人物的性圖像或影片的「性深偽」（sexual deepfake）技術，至今已是嚴重的問題。另一方面，據說過去多數案例是在成員有限的SNS等平台上分享。

透過Grok的生成和發布，性圖像在擁有大量用戶且公開發文較多的X上被分享，造成了新型態的受害。

在這種情況下，馬斯克本人卻指示Grok生成自己穿著女用比基尼的圖像，並對生成的圖像在X上發文「完美」，展現出玩樂的態度。

印度、歐洲……迅速行動

各國政府等立即採取行動應對。

根據多家歐美媒體報導，印度政府向X發送了要求改善的信函，並要求回報對應措施。

法國政府強烈批評Grok，檢察機關表示將開始調查擴散情況。

歐盟的歐盟委員會表示，經Grok加工的性圖像屬於違法行為。

英國通訊管理局也要求X說明為何能夠生成性圖像等原因。

據說馬來西亞負責執行監管的通訊與多媒體委員會表示將傳喚X公司的負責人。

日本政府「避免評論」

另一方面，日本政府的具體對應措施尚未明朗。

木原稔官房長官在6日的例行記者會上，被問及政府是否打算向X公司要求改善時，回應「這涉及個別企業的服務，現階段避免評論」，迴避了回答。

在此基礎上，他提到政府一直以來持續進行性深偽的實態調查，「將活用這些調查經驗，根據AI法掌握受害情況和服務實態等，包括實態掌握的方法在內進行整理，認識到需要相關部會協調進行適切的應對」，終始以模糊的說明帶過。

每日新聞再次向主管AI政策的內閣府詢問見解。

內閣府的負責人被問及是否有抗議或要求改善的方針時回答「首先需要從技術面掌握為何Grok會輸出這樣的內容的實際情況」。

2025年9月全面施行的「AI法」規定，當發生侵害國民權利或利益的重大事件時，可要求AI提供企業進行原因調查和提供資訊，國家可進行調查、指導及建議等。

負責人表示「根據法律，必須基於資訊收集內容判斷為不適當後，才能進行指導等」，強調根據AI法要求改善需要依循順序。

另一方面，關於是否會實際對X公司進行聽取調查，他只表示「認識到有此必要，但也要看對方會如何應對。至少，包括Grok以外的觀點在內，我們希望與xAI公司和X公司進行『對話』」。

薄弱的「護欄」

對AI技術有深入研究的國立情報學研究所越前功教授談到Grok問題發生的原因時表示「可能是『護欄太薄弱』」。

所謂護欄，是指即時監控和管制生成式AI輸入輸出的機制。當有不適當的輸出要求時能夠偵測，並設計讓AI不遵循該指示等。

此外，越前教授說明，像X這樣擁有大量用戶且具有影響力的SNS「在某種意義上接近社會基礎設施的定位」。

關於與其連動的AI Grok，他指出特別需要努力抑制違反公序良俗的輸出，「當問題發生時，之後必須立即採取不再輸出的對應措施」。

受害仍未停止

X打算如何應對？

每日新聞於4日向xAI公司發送電子郵件，詢問該公司的見解和今後的對應等，但只收到「Legacy Media Lies」（傳統媒體在說謊）的自動回覆訊息。

X的官方帳號於4日表示，對於包含兒童性虐待圖像等違法內容的貼文，將實施刪除貼文、永久凍結帳號等嚴厲措施，並視需要與行政機關及執法機關合作。

曾發表輕視事態的貼文的馬斯克，現在也開始對用戶就生成違法內容發出警告。

另一方面，並未提及自家公司的責任或改善措施。截至8日下午4點，仍持續確認到新的經Grok進行性加工的圖像。【町野幸】