來(lái)源：IT之家
據(jù)谷歌 DeepMind 新聞稿，DeepMind 近日公布了一項(xiàng)利用 AI 為無(wú)聲視頻生成背景音樂(lè)的 "video-to-audio" 技術(shù)。
IT 之家獲悉，當(dāng)前 DeepMind 這款 AI 模型依然存在局限性，需要開發(fā)者使用提示詞為模型預(yù)先 " 介紹 " 視頻可能的聲音，暫時(shí)不能直接根據(jù)視頻畫面添加具體音效。
據(jù)悉，該模型首先會(huì)將用戶輸入的視頻進(jìn)行拆解，此后結(jié)合用戶的用戶文字提示，利用擴(kuò)散模型反復(fù)運(yùn)算，最終以生成與視頻畫面協(xié)調(diào)的背景聲音，例如輸入一條 " 在黑暗中行走 " 的無(wú)聲視頻，再添加 " 電影、恐怖片、音樂(lè)、緊張、混凝土上的腳步聲 " 等文字提示，相關(guān)模型就能生成恐怖風(fēng)格的背景音效。
DeepMind 同時(shí)表示，該 "video-to-audio" 模型可以為任何視頻生成無(wú)限數(shù)量的音軌，還能夠通過(guò)提示詞內(nèi)容判斷生成的音頻 " 正向性 " 或 " 反向性 "，從而令生成的聲音更貼近某些特定場(chǎng)景。
展望未來(lái)，DeepMind 表示研究人員正進(jìn)一步優(yōu)化這款 "video-to-audio" 模型，計(jì)劃未來(lái)能夠讓模型直接根據(jù)視頻內(nèi)容，無(wú)須通過(guò)提示詞即可生成視頻背景音，同時(shí)還將改善視頻中人物對(duì)白的口型同步能力。
