字節(jié)跳動旗下最新視頻生成模型Seedance 2.0近日在即夢、豆包、小云雀等平臺啟動內部測試,其逼真的生成效果引發(fā)國內外科技圈熱議。該模型通過深度學習技術實現(xiàn)的高精度畫面渲染能力,在測試階段即展現(xiàn)出突破性表現(xiàn),但同時也因可能帶來的現(xiàn)實混淆風險引發(fā)公眾討論。
針對用戶反饋的潛在風險,開發(fā)團隊迅速采取應對措施。即夢平臺運營方在創(chuàng)作者社群發(fā)布公告稱,將暫停接受真人圖像或視頻作為創(chuàng)作主體參考,并強調"創(chuàng)意的邊界在于尊重現(xiàn)實"。目前該限制已覆蓋即夢網頁端及小云雀平臺,用戶嘗試上傳真實人物素材時會收到明確提示。移動端應用則采取更嚴格的驗證機制,用戶需完成活體認證方可創(chuàng)建數(shù)字分身。
參與內測的AI創(chuàng)作者李明(化名)透露,平臺在測試初期就已屏蔽名人明星形象生成功能,此次進一步限制普通用戶素材上傳,顯示出對技術倫理的重視。他坦言:"雖然部分創(chuàng)作構想因此擱置,但從行業(yè)健康發(fā)展角度,這種謹慎態(tài)度值得肯定。"據(jù)其演示,當前版本在風景、動畫等非人物場景生成方面仍保持優(yōu)異表現(xiàn)。
北京航空航天大學人工智能研究院沙磊教授分析指出,Seedance 2.0目前處于小范圍測試階段,開發(fā)方通過功能限制構建技術防護網,這種"發(fā)展式監(jiān)管"模式值得關注。他特別提到活體認證機制的引入,認為這種動態(tài)驗證方式有效提升了風險防控精度,為行業(yè)提供了技術治理參考樣本。
技術文檔顯示,該模型采用多模態(tài)融合架構,在保持畫面真實感的同時,通過內置的倫理審查模塊對生成內容進行實時過濾。開發(fā)團隊表示,后續(xù)版本將在保障創(chuàng)作自由與維護現(xiàn)實秩序之間尋求更優(yōu)解,相關優(yōu)化方案已進入測試階段。















