每經編輯｜陳柯名 潘海福    

剛剛，抖音集團副總裁李亮發(fā)文：今年一季度我們發(fā)現(xiàn)平臺出現(xiàn)大量利用AI仿冒“于東來”語音、形象，違規(guī)營銷帶貨的賬號和內容，這些黑灰產的行為不僅侵犯了相關企業(yè)的權益，還嚴重誤導了消費者。封禁這1000多個黑灰產團伙賬號的同時，我們還把相關線索舉報給了監(jiān)管部門。經過調查，泉州市豐澤區(qū)市監(jiān)局沒收相關企業(yè)違法所得并處罰款15萬元。AI帶來技術進步的同時也被很多黑灰產盯上，針對這些濫用AI的行為抖音一直在重點治理。對于相關違法違規(guī)內容，歡迎大家共同監(jiān)督。

隨后，抖音黑板報轉發(fā)響應：如果發(fā)現(xiàn)違規(guī)賬號和內容，可以通過以下方式舉報，我們會第一時間核實處理。1、點擊視頻轉發(fā)按鈕，在“舉報”中選擇“AI生成內容問題”進行舉報；2、發(fā)送詳情至舉報郵箱：feedback@douyin.com。

此前，有商家用AI仿冒運動員及其家人帶貨、利用AI虛假宣傳，抖音采取下架、清退措施。

胖東來此前發(fā)文追責

2025年2月，胖東來商貿集團發(fā)布“胖東來關于侵權行為的處理公示(四)”，稱目前網絡和實體經營中出現(xiàn)大量利用胖東來名義的各種侵權行為。公示第二條明確指出，胖東來在網絡平臺發(fā)現(xiàn)個別商家，通過AI仿冒于東來先生聲音，利用于東來先生肖像博取流量熱度，使得相關公眾誤以為該產品來自胖東來超市，以此進行牟利，此行為不僅侵犯了于東來先生肖像權，也涉嫌虛假商品宣傳，胖東來法務正在通過法律途徑進行追責和維權，最大限度的防止大家被誤導。

圖片來源：視覺中國

而在更早的2024年11月，胖東來商貿集團就曾發(fā)布聲明，稱公司在第三方網絡平臺發(fā)現(xiàn)多個賬號，未經授權擅自利用AI技術手段生成于東來先生的聲音，并對于東來先生或公司享有著作權的視頻內容進行非法剪輯和篡改，加入AI生成聲音及誤導性文案后發(fā)布，對公眾造成誤導和混淆。

聲明明確表示，“前述行為已侵犯了于東來先生的人格權及著作權，對公司品牌形象造成消極影響。”

胖東來表示，對于此類未經授權，擅自利用AI技術手段和生成畫面，實為博取流量而采取的違法侵權行為，對公眾造成了誤導，破壞了網絡生態(tài)健康和秩序，表示嚴厲譴責！嚴正警告存在上述行為的賬號立即停止侵權行為！對于為博取網絡關注、獲取流量而嚴重侵犯于東來先生及公司合法權益的，將堅決采取法律措施追究其法律責任！

典型AI內容濫用案例

9月2日，抖音電商安全與信任中心發(fā)布了關于加強治理AI內容濫用的公告。公告稱，平臺已對違規(guī)視頻和賬號采取下架、清退等措施，并強調AI應用必須合規(guī)，任何誤用、濫用行為將被嚴厲打擊。

抖音電商近期發(fā)現(xiàn)，少數商家和達人存在濫用或誤用AI技術的情況，甚至借助AI生成誤導內容，損害消費者合法經濟權益，擾亂平臺正常交易秩序。

具體表現(xiàn)如下：

少數商家利用AI技術生成虛假商品展示、夸大不實的功能宣傳內容，誤導消費者購買，造成用戶財產損失。

利用AI生成虛擬人物冒充真實身份，冠以權威專家、名人的虛假人設進行帶貨，損害消費者信任，違規(guī)變現(xiàn)。

在商品詳情頁、直播間使用AI生成的虛構測評、編造使用體驗，刻意制造虛假口碑，影響消費者理性判斷。

以下將通過典型AI內容濫用案例，幫助各位商家及達人理解平臺的電商 AI 內容治理規(guī)則：

典型違規(guī)案例一：

AI仿冒名人帶貨

少數視頻創(chuàng)作者利用AI仿冒名人形象、聲音和口型，用于商品宣傳，誤導不了解的用戶下單購買。例如，有賬號合成某知名運動員父親、哥哥的聲音，并使用相同文案稱“家里要蓋新房”，借此博取流量。在這些AI合成視頻中，往往掛載駱駝奶粉、土雞蛋、洗衣液等商品鏈接，誤導消費者下單。目前站內已及時處置相關視頻，也呼吁廣大創(chuàng)作者尊重名人肖像權，共同維護平臺的營商環(huán)境。

合規(guī)解析：創(chuàng)作者不得利用AI生成虛擬人物或仿冒社會名人、特定專業(yè)身份（如軍警等），進行帶貨變現(xiàn)，或通過賣慘方式違規(guī)營銷。

典型違規(guī)案例二：

生成違背常識的AI內容

創(chuàng)作者利用AI創(chuàng)作不符合現(xiàn)實或不存在的商品內容，甚至夸大商品大小、量產等，涉嫌虛假宣傳。如，少數創(chuàng)作者在直播間利用AI展示樟樹港辣椒豐收的場景，辣椒的數量、分布和植株生長規(guī)律完全不符合現(xiàn)實農業(yè)，并在口播中夸大種苗的量產，誤導消費者下單。

合規(guī)解析：創(chuàng)作者不得利用AI生成違背常識、虛構編造等內容，如與農業(yè)現(xiàn)實完全違背的內容等。

典型違規(guī)案例三：

AI內容與售賣商品完全無關

少數視頻創(chuàng)作者利用AI制作與售賣商品完全無關的內容，從而吸引消費者關注。如，創(chuàng)作者實際售賣產品為硫磺潤膚露，但利用AI更改各地方新聞報道畫面作為素材吸引用戶關注后，講解推銷相關商品。

合規(guī)解析：創(chuàng)作者不得使用與商品無關的虛假或誤導性素材，如篡改新聞報道為虛假商品測評等來吸引關注。

典型違規(guī)案例四：

缺少AI自主聲明

少數視頻創(chuàng)作者未主動添加AI視頻聲明。

合規(guī)解析：用戶發(fā)布 AI 生成的內容時，需自主聲明，不做自主聲明，平臺會根據規(guī)則進行識別和治理。

此前據界面新聞報道，《人工智能生成合成內容標識辦法》9月1日正式生效。

微博：對識別到的AI生成內容添加隱式標識及顯式標識

微博發(fā)布公告稱，站方依據《辦法》要求，通過升級產品功能及技術識別手段，對平臺內識別到的的AI生成內容依規(guī)添加隱式標識及顯式標識。

微博還在公告中表示，如用戶發(fā)表的文本、圖片、音視頻等內容由人工智能生成合成，用戶應在“選擇內容聲明”功能欄中選擇“內容由AI生成”。站方在用戶自主聲明的基礎上，還在投訴側增加 ?“未添加AI標識”投訴分類，如發(fā)現(xiàn)平臺用戶發(fā)布的微博內容包含AI 生成內容但未進行AI 內容標記聲明，可以選擇此分類進行投訴。

快手：已上線AI內容標識

快手發(fā)布公告稱，平合已上線AI內容標識，會在AI生成的內容中添加“AI生成”顯式標識以及嵌入文件元數據中的隱式標識。如果用戶上傳的內容明確由AI生成或疑似由AI生成，平臺會在內容周邊進行顯著提示。

抖音：升級AI內容標識功能

抖音發(fā)布《關于升級AI內容標識功能的公告》，進一步規(guī)范平臺上的AI內容創(chuàng)作與傳播。《公告》顯示，抖音已上線兩項核心功能：一是AI內容標識功能，協(xié)助創(chuàng)作者為AI內容添加提示標識，方便用戶辨別；二是AI內容元數據標識讀寫功能，可識別并寫入AI內容的元數據信息，為內容溯源提供技術支撐。

編輯|陳柯名 潘海福

校對|程鵬

封面圖來源：視覺中國

每日經濟新聞綜合自抖音黑板報、抖音電商安全與信任中心、

中新經緯、界面新聞等