字節(jié)跳動推出的視頻生成模型Seedance 2.0近日在即夢、豆包、小云雀等平臺開啟內(nèi)測，憑借多模態(tài)輸入和超強參考能力迅速引發(fā)國內(nèi)外關(guān)注。游戲科學(xué)CEO、《黑神話：悟空》制作人馮驥公開評價其為“當(dāng)前地表最強的視頻生成模型”，并認為這一技術(shù)突破標志著“AIGC的童年時代結(jié)束”。然而，隨著模型真實感表現(xiàn)的突出，關(guān)于技術(shù)濫用的爭議也隨之浮現(xiàn)。

針對用戶對模型可能混淆現(xiàn)實的擔(dān)憂，字節(jié)跳動迅速調(diào)整策略。2月9日，即夢創(chuàng)作者社群發(fā)布公告稱，因內(nèi)測期間反饋遠超預(yù)期，為保障創(chuàng)作環(huán)境健康可持續(xù)，平臺已暫停支持輸入真人圖片或視頻作為主體參考，并強調(diào)“創(chuàng)意的邊界是尊重”。目前，即夢web端和小云雀平臺已明確提示暫不支持真人人臉參考；即夢APP和豆包APP則要求用戶通過活體認證錄制本人形象與聲音后，方可生成數(shù)字分身參與視頻創(chuàng)作。

一名參與內(nèi)測的AI創(chuàng)作者透露，平臺早在測試初期就禁止上傳名人明星形象作為參考，顯示出對安全性的重視。他坦言，限制真人人臉上傳后，部分創(chuàng)作構(gòu)想無法實現(xiàn)，但從行業(yè)長遠發(fā)展看，“當(dāng)下的限制是負責(zé)任的選擇”。北京航空航天大學(xué)人工智能研究院教授沙磊分析指出，Seedance 2.0目前處于小范圍內(nèi)測階段，字節(jié)通過活體認證、限制真人素材輸入等措施，試圖在技術(shù)創(chuàng)新與風(fēng)險防控間尋找平衡點，“這種嘗試體現(xiàn)了企業(yè)技術(shù)狂奔中應(yīng)守住的底線”。

沙磊進一步表示，AI技術(shù)的進步不會因爭議停滯，但如何在突破創(chuàng)新的同時確保數(shù)據(jù)合規(guī)、保護版權(quán)，是字節(jié)跳動乃至全球AI產(chǎn)業(yè)需要共同面對的課題。目前，Seedance 2.0的內(nèi)測調(diào)整已引發(fā)行業(yè)對技術(shù)倫理的廣泛討論，其后續(xù)功能開放與監(jiān)管措施或?qū)锳I視頻生成領(lǐng)域提供重要參考。