Как добавить диалог и липсинк в видео, созданное нейросетью
Как добавить диалог и липсинк в ИИ-видео тремя путями: нативные реплики, отдельный голос или закадровый голос. А затем режиссируйте синтетический голос, как актёра.
В этом уроке вы узнаете
- Три пути к диалогу в ИИ-видео: нативный, отдельный голос и закадровый голос
- Как написать нативную реплику в промпте: слова, язык и подача
- Как загрузить голосовой файл в ScreenWeaver через кнопку персонажа "Add Voice" и аудио-ноду
- Как режиссировать синтетический голос с помощью письменной актёрской заметки
- Почему закадровый голос часто оказывается самым простым и самым кинематографичным путём
- Правило согласия при клонировании голоса реального человека
Реплики персонажей ломают ИИ-фильмы чаще всего: не тот голос, не тот тайминг, губы не попадают в слова. Этот урок разбирает три пути к диалогу в ИИ-видео и объясняет, когда выбирать каждый. Нативный диалог генерируется вместе с изображением: голос, движение губ и фоновая атмосфера получаются в одном дубле, именно так сделана реплика Thomas в The Photo. Отдельный голос, созданный заранее моделью синтеза речи (text-to-speech), даёт контроль над игрой и таймингом, а в ScreenWeaver он попадает в аудио-ноду, которую можно отправить видеомоделям, принимающим звук. Закадровому голосу липсинк вообще не нужен, и эту идею использует Lost Garden: у его рыцарей нет ни лиц, ни ртов. Вы также научитесь режиссировать синтетический голос актёрской заметкой, сохранять звучание каждого персонажа так, чтобы это был один и тот же человек, и соблюдать правило согласия при клонировании голоса.
Полная расшифровка
Расшифровка английского закадрового текста.
0:04Spoken lines are where AI films break most often – the wrong voice, the wrong timing, lips that don't match. In this lecture you'll learn the three routes for dialogue, when to use each one and how to direct a synthetic voice like an actor.
0:19Route 1 – native dialogue, generated with the picture. Some video models produce the voice, the lip movement and the ambience in the same take. That's how Thomas' line in the photo was made. The words are in the prompt, in quotes, with the language and the delivery, softly. Keep native lines short, one or two sentences, and keep the speaker clearly in frame.
1:02Route 2 – a separate voice, then the picture. You generate the voice first, with a text -to -speech model, so you control the performance and the timing, then the voice drives the video. In Screenweaver, a character's story element has an Add Voice button. It creates an audio node, where you upload the voice file, and that audio can be sent as a reference to the video models that accept audio. Dedicated lip -sync tools exist, too, outside the app, for shots that need frame -perfect sync.
1:31Note that the app doesn't generate voices itself – you bring the audio file. For a short film, a text -to -speech service with voice design is usually enough. For recurring characters, save the voice settings of each one, so every scene sounds like the same person.
1:46Whichever read you choose, direct the voice like an actor. Write an acting note in words – calm, grounded, a little tired, a southern English accent. The narration of this course was generated exactly that way, from a single voice and a single acting note. Keep one voice per character for the whole film. Generate a full scene in one pass, so the time beholds, and listen for mispronounced names before you move on.
2:12For Thomas's line, the note could be quiet, almost a whisper, a man who has rehearsed this sentence for days and still isn't ready to say it. A few words of direction change everything about a line.
2:26Route 3 – voiceover, with no lips to sync at all. An inner monologue, an orator, a letter read over images. It's the easiest route, and often the most cinematic one. Lost Garden uses a version of this idea. Its nights have no faces and no mouths, so there is nothing to sync. Emotion comes from posture, light and voice.
2:54One rule with no exception – never clone a real person's voice without their written consent. And check the rules of the platform where your film will play – some require you to disclose synthetic voices.
3:09Your exercise? Pick one line of dialogue from your script and produce it two ways – native, inside the generated shot, and as a separate voice with an acting note. Compare them in the cut. In the next lecture, we'll build the full soundtrack, edit the film and export it.
Весь курс
Плейлист на YouTubeРаздел 1 · Добро пожаловать в ИИ-кино
Раздел 2 · Сценарий для ИИ-фильма
Раздел 3 · Облик вашего фильма
Раздел 4 · Список планов и раскадровка
Раздел 5 · Генерация фильма
- 5.1Как выбрать видеомодель для каждого плана5:18
- 5.2Промпт глазами режиссёра: камера, действие, игра5:55
- 5.3Видео по референсам: персонажи и декорации не теряют облик5:13
- 5.4Исправляем неудачные планы: починить, перекадрировать, перегенерировать4:53
- 5.5Практикум, часть 1: сценарий и раскадровка шаг за шагом6:21
- 5.6Практикум, часть 2: продакшн шаг за шагом5:02