deepfake

ChainCatcher 消息，据 decrypt 報導，美國總統特朗普簽署成為法律的兩黨《Take It Down Act》，該法案將非自願在線發布親密圖像（包括真實圖像或 AI 生成圖像）和 deepfake 色情內容定為刑事犯罪行為，並要求主要科技平台在接到通知後 48 小時內刪除此類內容。第一夫人梅拉尼婭·特朗普稱該法案是保護兒童免受網絡剝削的"全國性勝利"。深度偽造和報復性色情的受害者現在將受到美國聯邦法律的保護。

ChainCatcher 消息，据鳳凰網報導，中國香港警方近日捣破以 deepfake（深度偽造）技術透過社交平台誘騙他人投資虛擬貨幣詐騙集團，涉案約 3400 萬元。香港警方商罪科根據情報於上週，在九龍灣兩座工廠大廈拘捕 31 人，介乎 20 至 34 歲，部分報稱學生及無業人士，涉及同一詐騙集團，並檢獲他們預設的"劇本"。該集團會招攬想"賺快錢"的年輕人加入，訓練他們以虛假人設在交友平台開設帳戶，假裝有好樣貌及奢華生活，認識境外包括台灣及東亞地區的人士，按"劇本"聊天。在了解對方背景後，會投其所好並發展成網絡情人，甚至以深偽技術進行視像通話，其後誘騙對方投資虛擬貨幣，聲稱有可觀回報，要求存入虛假平台，集團收到虛擬貨幣後會立刻轉走，並與受害人斷絕來往。香港商業罪案調查科署理總警司孔慶勳指："他們租用了兩個位於九龍灣毗鄰工廠大廈的詐騙中心，以分散風險及增加保密性。最重要我們留意到這兩個詐騙中心，分了上下兩更運作，目的不分晝夜吸納更多受害人。千萬不要認為參與一些犯罪集團部分工作只是小事，即使僅被安排在網上認識受害人，而沒有直接接觸虛擬貨幣投資工作，同樣都是違法。"警方稱，該詐騙集團已運作至少一年，犯罪獲利已超過 3400 萬元。詐騙集團主腦、中心負責人及骨幹成員共 5 人已被落案起訴串謀詐騙及洗黑錢，周一在東區裁判法院提堂。

ChainCatcher 消息，Zhu Su 在 X 平台發文表示，"我認為最具爭議的性別問題之一將圍繞使用 AI 生成深度偽造色情內容。雖然已經存在圍繞未經同意的深度偽造色情內容的法律，但由於難以監管任何類型的 AI 內容，此類內容的 AI 製作可能會激增。"

ChainCatcher 消息，加密社區發現 Youtube 平台上出現大量 Ripple 首席執行官 Brad Garlinghouse 的 Deepfake 欺詐視頻，視頻中一個由人工智慧生成的 Brad Garlinghouse 肖像邀請用戶參加 XRP 活動並要求觀眾將代幣發送到"指定地址"。據悉，Youtube 母公司谷歌並未刪除該欺騙性廣告，其信任與安全團隊反饋稱該廣告並未違反相關協議。鑑於此，Brad Garlinghouse 強調只有來自 Ripple 官方帳戶的經批准的消息才能被視為真實有效，用戶在面對潛在詐騙時需要謹慎和驗證。