字節(jié)跳動旗下最新視頻生成模型Seedance 2.0近日在即夢、豆包、小云雀等平臺啟動內(nèi)部測試，憑借多模態(tài)交互與高精度參考能力迅速成為科技圈焦點。該模型不僅引發(fā)國內(nèi)用戶熱議，更在國際范圍內(nèi)獲得廣泛關(guān)注，游戲科學(xué)創(chuàng)始人馮驥公開稱贊其為"當(dāng)前最強(qiáng)的視頻生成工具"，認(rèn)為其標(biāo)志著生成式AI進(jìn)入全新發(fā)展階段。

隨著測試范圍擴(kuò)大，模型引發(fā)的倫理爭議逐漸顯現(xiàn)。部分用戶發(fā)現(xiàn)，當(dāng)上傳知名博主的人臉圖像時，系統(tǒng)能生成與本人高度相似的語音內(nèi)容。有技術(shù)專家推測，這可能與該博主過往視頻在互聯(lián)網(wǎng)廣泛傳播有關(guān)，其影像數(shù)據(jù)可能已被納入模型訓(xùn)練集。這種"數(shù)字克隆"現(xiàn)象引發(fā)公眾對AI技術(shù)濫用的擔(dān)憂，擔(dān)心可能造成現(xiàn)實與虛擬的界限模糊。

針對用戶反饋，字節(jié)跳動迅速調(diào)整產(chǎn)品策略。2月9日，即夢平臺運營團(tuán)隊發(fā)布公告稱："我們高度重視創(chuàng)作者權(quán)益，即日起暫停真人圖像視頻輸入功能，將集中優(yōu)化內(nèi)容審核機(jī)制。"目前，即夢網(wǎng)頁端和小云雀平臺已明確提示不支持真人人臉生成，移動端用戶則需通過活體認(rèn)證才能創(chuàng)建數(shù)字分身，且生成的虛擬形象僅限本人使用。

北京航空航天大學(xué)人工智能研究院教授沙磊指出，當(dāng)前AI技術(shù)發(fā)展必須平衡創(chuàng)新與合規(guī)。他分析稱："Seedance 2.0的內(nèi)測限制措施，體現(xiàn)了企業(yè)在技術(shù)推進(jìn)中的責(zé)任意識。通過活體認(rèn)證、使用限制等手段，能有效降低技術(shù)濫用風(fēng)險。"這位專家強(qiáng)調(diào)，如何在保障創(chuàng)作自由的同時建立倫理規(guī)范，已成為全球AI產(chǎn)業(yè)共同面臨的課題。

據(jù)測試用戶反饋，調(diào)整后的模型仍保持較高創(chuàng)作質(zhì)量，在動畫生成、場景構(gòu)建等方面表現(xiàn)突出。即夢平臺數(shù)據(jù)顯示，內(nèi)測開啟首周已有超過12萬創(chuàng)作者參與體驗，生成作品涵蓋影視預(yù)告、廣告短片等多個領(lǐng)域。字節(jié)跳動相關(guān)負(fù)責(zé)人表示，將持續(xù)優(yōu)化技術(shù)防護(hù)體系，確保AI工具在合規(guī)框架內(nèi)服務(wù)創(chuàng)作需求。