AI造假氾濫 陸社群平台：加大打擊仿冒知名人士行銷

anex

AI造假氾濫，名人以及社群媒體使用者都成為受害者。中國大陸社群平台今天公告，將持續對「利用AI仿冒知名人士進行營銷宣傳」等違規行為增加打擊力度，目前已處置內容532條。

anex

公眾號「珊瑚安全」今天發布公告稱，結合用戶檢舉、日常巡查等線索，「從速從嚴」打擊了一批利用人工智慧（AI）仿冒知名人士進行不當行銷、惡意博取流量的違規行為，並針對相關情況展開專項治理。

截至目前，方面累計處置內容532條，關閉帳號209個。下一步，將持續對「利用AI仿冒知名人士進行營銷宣傳」等違規行為增加打擊力度。

anex

陸媒第一財經10月曾報導，造假影音背後的技術是深度偽造（Deepfake），隨著AI技術的進步，這一技術工具越來越普遍，名人明星有更大機率被用於合成。

10月23日，港星黃百鳴在社群媒體上發布了一則聲明，提及自己被AI偽造用於代言。他說，發現有人盜用過去的影片，並利用人工智慧技術替換聲音，假借黃百鳴的名義代言一個不知名的藥膏品牌，「這種行為純屬欺詐，旨在誤導公眾並從中取利」。

anex

十一」長假期間，小米集團董事長雷軍的偽造「AI語音包」在社群媒體上引發關注。在這些影音裡，「雷軍」犀利評論社會熱門話題，甚至還帶著不雅謾罵。對此事件，雷軍本人曾在自己個人社群帳號的評論區回覆了憤怒表情，表達態度。