社交網絡分析公司Graphika透露，僅在9月份就有高達2400萬人次訪問這些脫衣網站，凸顯了由人工智慧進步驅動的非自願色情內容激增的令人擔憂現象。以下是詳細信息。
引起研究人員和隱私倡導者關注的一項報告顯示，使用人工智慧將照片中的女性脫衣的應用程式和網站的流行度急劇上升。社交網絡分析公司Graphika透露，僅在9月份就有高達2400萬人次訪問這些脫衣網站，突顯了由人工智慧進步驅動的非自願色情內容的令人擔憂激增。
這些所謂的“脫衣”服務一直在利用流行的社交網絡進行營銷，自今年初以來，在像X和Reddit等平台上，宣傳脫衣應用程式的鏈接數量激增超過2400％。這些服務利用AI技術將個人數字化脫衣，主要集中在女性身上。這種激增帶來了嚴重的法律和道德挑戰，因為這些圖片通常是未經主題同意或知曉從社交媒體中取得的。
令人擔憂的趨勢還涉及潛在的騷擾，因為一些廣告表明客戶可以創建裸照並將其發送給數字脫衣的人。作為回應，Google已聲明其反對廣告中的性內容的政策，並正在主動刪除違規材料。然而，X和Reddit尚未回應有關評論的請求。
隱私專家對由AI技術進步促成的深度偽造色情內容的不斷增加的可訪問性發出警告。電子前線基金會的網絡安全主任Eva Galperin指出，人們開始將這些技術應用於日常目標，包括中學和大學的學生。許多受害者可能對這些被操縱的圖像一無所知，而那些知曉的人在尋求執法干預或提起法律訴訟方面面臨挑戰。
儘管日益增長的擔憂，目前在美國並沒有明確禁止創建深度偽造色情內容的聯邦法律。最近北卡羅來納州的一起案件中，一名兒童精神病醫生因使用脫衣應用程式在患者照片上被判處40年徒刑，這是根據一項禁止深度偽造生成兒童性虐待材料的法律的首次起訴。
為應對這一令人擔憂的趨勢，TikTok和Meta Platforms Inc.已採取措施封鎖與這些脫衣應用程式相關的關鍵字。TikTok警告用戶，術語“脫衣”可能與違反其指南的內容有關，而Meta Platforms Inc.則拒絕對其行動進一步置評。
隨著技術的發展，由深度偽造色情內容引起的道德和法律挑戰凸顯了迫切需要全面法規來保護個人免受人工智慧生成內容的非自願和有害使用。
