9月1日消息，如今AI技術(shù)雖然給生活、工作帶來許多便利，但也成了造謠的好工具，各種虛假不實、仿冒侵權(quán)、低質(zhì)內(nèi)容等問題層出不窮，很多能以假亂真的圖片、視頻在網(wǎng)絡(luò)上傳播。

比如今年1月就有人通過AI生成地震小男孩被埋圖，在網(wǎng)上廣泛傳播，并配文日喀則地震等關(guān)鍵詞，其中，一張“戴著帽子的小男孩被壓在廢墟下”的圖片在多個賬號發(fā)布，獲得大量轉(zhuǎn)評贊。

但事實上，這張圖是通過AI生成的圖片，警方查證后將發(fā)布謠言的用戶行政拘留。

為了避免此類事件再次發(fā)生，抖音今天發(fā)布《抖音關(guān)于升級AI內(nèi)容標(biāo)識功能的公告》，協(xié)助創(chuàng)作者理解抖音AI內(nèi)容標(biāo)識規(guī)則，通過AI內(nèi)容標(biāo)識提醒用戶辨別虛假信息，維護(hù)抖音用戶及創(chuàng)作者的合法權(quán)益，使AIGC技術(shù)更好服務(wù)于社會。

結(jié)合《人工智能生成合成內(nèi)容標(biāo)識辦法》的要求，抖音已上線兩項核心功能：

一是AI內(nèi)容標(biāo)識功能，協(xié)助創(chuàng)作者為AI內(nèi)容添加提示標(biāo)識，方便用戶區(qū)分辨別；

二是AI內(nèi)容元數(shù)據(jù)標(biāo)識讀寫功能，可識別并寫入AI內(nèi)容的元數(shù)據(jù)信息，為內(nèi)容溯源提供技術(shù)支撐。

在抖音注冊的賬號若制作、發(fā)布AI內(nèi)容，需使用抖音提供的標(biāo)識功能主動添加顯式標(biāo)識；同時，抖音將核驗、檢測站內(nèi)未主動標(biāo)識的內(nèi)容是否由AIGC技術(shù)生成，對疑似AI內(nèi)容或元數(shù)據(jù)中已包含AI內(nèi)容標(biāo)識的作品，補充添加顯式標(biāo)識。

若創(chuàng)作者未主動標(biāo)識，抖音將通過技術(shù)檢測疑似AI內(nèi)容，添加“疑似使用了AI生成技術(shù)，請謹(jǐn)慎甄別”的顯式標(biāo)識；若核驗到內(nèi)容元數(shù)據(jù)中已含AIGC服務(wù)提供者添加的隱式標(biāo)識，則補充“作品含AI生成內(nèi)容”標(biāo)識。

同時，所有AI內(nèi)容均會被同步添加或更新隱式標(biāo)識，包含傳播要素等關(guān)鍵信息，該標(biāo)識需專業(yè)技術(shù)提取，主要用于溯源。

該標(biāo)識規(guī)則將于2025年9月1日起試行并生效。

本文轉(zhuǎn)載于快科技，文中觀點僅代表作者個人看法，本站只做信息存儲