字節(jié)跳動(dòng)旗下最新視頻生成模型Seedance 2.0近日在即夢(mèng)、豆包、小云雀等平臺(tái)啟動(dòng)內(nèi)部測(cè)試，迅速成為科技領(lǐng)域焦點(diǎn)話題。該模型憑借高度逼真的畫面生成效果引發(fā)國(guó)內(nèi)外用戶熱議，部分網(wǎng)友擔(dān)憂其可能模糊虛擬與現(xiàn)實(shí)的界限，甚至被用于制造誤導(dǎo)性內(nèi)容。

針對(duì)用戶反饋的潛在風(fēng)險(xiǎn)，平臺(tái)運(yùn)營(yíng)團(tuán)隊(duì)于2月9日在創(chuàng)作者社群發(fā)布公告，明確表示將暫停接受真人圖像或視頻作為生成主體的功能。公告指出："我們正在根據(jù)測(cè)試反饋進(jìn)行緊急優(yōu)化，確保技術(shù)發(fā)展始終以社會(huì)責(zé)任為前提。創(chuàng)意的邊界在于尊重事實(shí)，調(diào)整后的產(chǎn)品將以更嚴(yán)謹(jǐn)?shù)淖藨B(tài)回歸。"

此次調(diào)整反映出科技企業(yè)在技術(shù)創(chuàng)新與倫理規(guī)范之間的平衡考量。Seedance 2.0通過(guò)深度學(xué)習(xí)算法實(shí)現(xiàn)動(dòng)態(tài)畫面生成，其真實(shí)感已達(dá)到行業(yè)領(lǐng)先水平，但如何在開放測(cè)試階段建立有效的內(nèi)容審核機(jī)制，成為開發(fā)團(tuán)隊(duì)面臨的核心挑戰(zhàn)。目前平臺(tái)已組建專項(xiàng)小組，重點(diǎn)研究如何通過(guò)技術(shù)手段預(yù)防虛假信息傳播。