隨著人工智能技術(shù)的迅猛發(fā)展，AI生成內(nèi)容已越來(lái)越多出現(xiàn)在互聯(lián)網(wǎng)上，然而對(duì)AI技術(shù)的不當(dāng)使用也頻頻引起社會(huì)關(guān)注。3月26日，抖音安全中心發(fā)布不當(dāng)利用AI生成虛擬人物的治理公告，指出將嚴(yán)格處罰違規(guī)使用AI生成虛擬人物發(fā)布違背科學(xué)常識(shí)、弄虛作假、造謠傳謠的內(nèi)容。
根據(jù)公告，此次抖音將重點(diǎn)治理利用AI生成假外國(guó)人、假精英及利用AI生成形象騙互動(dòng)等三類(lèi)內(nèi)容：
一是生成境外虛假人設(shè)，消費(fèi)愛(ài)國(guó)心理、博取關(guān)注。用虛假外國(guó)人的形象，以想嫁給中國(guó)、想到中國(guó)生活、評(píng)價(jià)社會(huì)事件等言論博取眼球。
二是生成俊男美女虛假形象，騙取互動(dòng)，交友導(dǎo)流。直接稱(chēng)用戶(hù)為“你”“娘”“媽媽”“老公”等，發(fā)布情感誘導(dǎo)、唱情歌、為你謀福利等表達(dá)虛假情感的內(nèi)容，將用戶(hù)導(dǎo)流至私人聊天工具，甚至進(jìn)行詐騙。
三是生成精英人士虛假人設(shè)，發(fā)布心靈雞湯、財(cái)商、偽國(guó)學(xué)、厚黑學(xué)、偽成功學(xué)等不良內(nèi)容，低質(zhì)吸粉，甚至引流到站外以賣(mài)課、入群等方式獲利。
值得注意的是，除了封號(hào)等常規(guī)處罰手段，抖音此次在公告中特別提到了“平臺(tái)已掌握部分黑產(chǎn)團(tuán)伙不當(dāng)使用AI生成虛擬人物用于犯罪的線(xiàn)索，將報(bào)警打擊�！边@種嚴(yán)厲的措辭在抖音過(guò)往的公告中并不常見(jiàn)，顯示抖音此次治理的力度或?qū)⑾喈?dāng)大。