媒體界 - 推動中國媒體行業創新,促進業內人士交流分享!

蘋果發布HUGS技術:短視頻AI生成全新動作和角度

   發布時間:2023-12-20 09:12

【媒體界】12月20日消息,蘋果近期公布了一項名為HUGS的全新生成式AI技術,能夠在短短30分鐘內分析短視頻并創造新的動作和角度。

蘋果的研究員Anurag Ranjan發布了一則推文,詳細介紹了HUGS技術,全稱為Human Gaussian Splats,它采用了機器學習和計算機視覺,能夠在輸入數據有限的情況下生成逼真的人像元素。

據媒體界了解,盡管神經渲染技術已經取得了長足的進步,但目前最適合的應用場景仍然是靜態場景的攝影測量,尚不能適用于自由移動的人類環境。

HUGS采用了3D Gaussian Splatting技術,可以在場景中創建出可移動的人類形象。這一方法所需的主體視頻數量較少,通常只需要在場景中進行移動并盡可能多地顯示表面,系統就能夠工作。

在某些情況下,HUGS技術對原始輸入數據的需求非常低,最低要求可以達到50到100幀的單目視頻,相當于2到4秒的24fps視頻。

蘋果聲稱,他們的系統已經經過訓練,能夠在30分鐘內生成靜態場景和完全可動畫化的人類形象。

官方表示,雖然他們使用了SMPL體模型來初始化人類高斯模型,但無法捕捉每一個細節。對于未建模的元素,如布料和頭發,該技術可以填補模型中的空白。

據蘋果透露,從訓練視頻到以60fps的渲染速度輸出,可以在半小時內完成人體建模并實現"最先進的渲染質量"動畫,比NeuMan和Vid2Avatar等其他方法快了100倍。

 
 
更多>同類內容
全站最新
熱門內容
本欄最新