AI 影片生成如何運作:從文字和參考圖到連續畫面

弄清影片模型從你的指令裡取走什麼、自行補上什麼,以及為什麼一格影格看著可信,整段鏡頭仍可能無法使用。

OmniArt 團隊發佈於 閱讀時間 8 分鐘
AI 影片生成如何運作:從文字和參考圖到連續畫面

AI 影片生成不只是提示詞#

AI 影片生成依據學到的規律和你提供的指令,造出一個可能的運動場面。提示詞總會留下未明確的細節:袖子怎麼折、手後面藏著什麼、反光會走到哪裡。看清這些空隙,你才能導演並審看一個鏡頭。工作台裡的具體步驟,見第一支影片指南。

設想修理台上有一隻虛構的發條鳥。你希望黃銅翅膀抬起,同時攝影機保持不動。這是一次未實測的概念練習,沒有附帶任何已生成的示範。我們用這個瞬間,把經常混在一起的五個概念拆開。

條件給模型證據#

條件是指提供會影響生成的資訊。文字可以點明一個動作,圖片可以確立外觀。這些輸入必須先變成數值,模型才能使用。在已發表的 Video Diffusion Models 研究 (在新分頁中開啟)裡,條件與正在被細化的帶噪影片一起進入網路。這描述的是一種有文獻紀錄的設計,不是每一家商業模型的實作。

對這隻鳥來說,「黃銅翅膀」說的是材料和部件。一張參考圖還可以顯示鉸鏈位置和刮痕。兩者都不會告訴模型,看不見的機構究竟怎麼動。先決定每項要求由哪一份證據承擔:外觀交給圖片,你要求的變化交給提示詞。

提示詞
A small wind-up tin bird rests on a dark repair mat. Its single visible brass wing rises slowly while the bird's body stays on the mat. Locked close-up from the side, soft window light from the left, one continuous action.

這段原創指示讓鳥與墊子的接觸始終可見。即使金屬看起來很吸引人,鳥一旦漂起來,你也有具體的理由拒絕它。

取樣造出一個結果,檢索是找到一個#

檢索是找到已有的東西,像在影片資料庫裡搜一段影像。取樣是從模型學到的分布裡產出一個結果,也就是模型學到的一系列可能情況。按 Ho 與合作者的論文 (在新分頁中開啟)所寫的擴散做法,生成從雜訊開始,在給定條件下反覆細化,直到成為一段影片。

這個區別在給回饋時很要緊。在資料庫裡,「找出翅膀抬起來的那條」說得通。在生成裡,你必須先定義怎樣的抬起才算能用,再去檢查這一版片段。取樣也不確立原創性或權利許可;它描述的是機制,不是授權。

擴散只是一種有文獻紀錄的做法,不能穩妥地假定每個模型都如此。Stable Video Diffusion (在新分頁中開啟)描述的是在壓縮視覺表示裡生成,並在圖像模型基礎上加上時間層。單看產品介面,看不出它的架構。

時間一致性是變化之中仍然對得上#

時間一致性是指細節隨時間推移仍然彼此相容。翅膀的角度在變,鉸鏈應當還在;鳥的影子應當跟著這個運動走。Ho 與合作者描述的時間注意力,是把各影格之間的資訊連起來。一段影片不必先生成互不相關的畫面,再事後拼接。可看該研究的架構 (在新分頁中開啟)。

審看時跟著一個固定的觀察點走,不要只評整體好不好看。從第一格影格追到最後一格,看鉸鏈還在不在。再看腳有沒有貼著墊子。開頭和結尾都像那麼回事,中間仍可能斷掉:翅膀短暫脫離,然後又回來。所以完整播放,和挑一張縮圖,是兩種不同的檢驗。

隨機性解釋差異,解釋不了每一次失敗#

在擴散流程裡,隨機值會影響起始雜訊。如果所用工具提供 Seed 設定,Seed 就控制這條隨機序列。Hugging Face 的可重現文件 (在新分頁中開啟)說明,即使 Seed 相同,執行條件一變,結果仍不能保證一致。

把再跑一次當成另一版片段,不是一條糾正指令。如果好幾條都把翅膀放在錯誤的一側,先檢查參考圖的角度和措辭,再要求更多條。留下輸入和設定紀錄,才能分清你改的是要求,還是只是在試另一種可能。Seed 無法充當可複用的角色身份標識。

為什麼參考圖不能保證這個鏡頭#

一張靜照只給出某一瞬間的一個視角。這隻鳥的底面、被擋住的鉸鏈,以及接下來翅膀會到的位置,都不在裡面。實際推論很直接:模型必須補上這份證據之外的細節。要求一個反打角度,會比保持現有視角引入更多未知。

修改之前先把要求分開。如果開場剪影就不對,重新考慮輸入。如果身份還在、翅膀卻在空轉,就把動作簡化。如果鏡頭在攝影機繞到背後之前都成立,可以考慮固定機位。這些是收窄不確定性的辦法,不能保證模型完全按要求生成。

常見問題#

更長的提示詞能去掉不確定性嗎?

只有新增的詞解決了一個看得見的含糊時才行。先寫明哪一側翅膀在動,再去加氣氛形容詞。下一版片段上,仍檢查同一個鉸鏈和接觸點。

先定一個看得見的檢驗#

寫下一條你能在整段鏡頭裡檢查的要求,再把它帶到影片工作台。若要連成一個故事,繼續看兩分鐘連續性練習。

開始創作

繼續閱讀

返回分類