見出し画像

AIでMV制作を自動化!Antigravityとエージェント達の挑戦

「自分で作った曲に素敵なミュージックビデオ(MV)をつけたいけれど、編集が大変そう……」そんな悩みを持っていませんか?

最近はSUNOなどのAIで誰でも簡単に曲が作れるようになりましたが、それに合わせた映像を作るのは、まだまだ手間がかかる作業です。そこで今回は、AIエージェントの力を借りて**「紙芝居型MV」の作成を自動化した体験談**をお届けします。

この記事を読むことで、最新のAIツール「Antigravity」がいかに賢く、私たちの「やりたいこと」を形にしてくれるかが分かりますよ!


結論:AIエージェントの「チーム」がMV制作を劇的に変える

結論から言うと、Antigravityを使えば、指示を出すだけで専門的なMV制作チームを擬似的に作り出し、動画完成までを自動化することが可能です。

これまでAntigavity先生と、Remotionを使った動画作成やLRCファイル(歌詞のタイムスタンプ情報)の生成してくれるアプリ作成に挑戦してきました。そこで!「一本の動画」を自動的に作成するAIにお願いできないかとチャレンジしてみました。


理由:役割分担された「4人のエージェント」の連携

なぜ自動化が可能なのか。それは、Antigravityが単なるチャットAIではなく、役割を持った「エージェント(分身)」のチームを組んで作業してくれるからです。

今回、私のリクエストに対して、Antigravity先生は以下の4人のプロフェッショナルを召喚してくれました。

1. 🎬 MV Director(企画・構成ディレクター)

  • 役割: 楽曲の世界観を構築し、MV全体の「設計図(絵コンテ)」を作ります。
    ※プロジェクトの開始時には、必ずユーザーに対して「アニメ調」か「実写調」かを確認する質問を行います。

  • ユーザーが渡すもの(Input):

    • 楽曲名(楽曲名から自動的にinputフォルダーへ探しに行きます。)

    • 希望する画風・トーン(アニメ調 / 実写調の回答)

    • LRCファイル(歌詞とタイムスタンプ、自作アプリで作成)

    • 楽曲ファイル(wavでもmp3でもOK!)

  • 生成されるもの(Output):

    • `input/[楽曲名]/storyboard.csv`(全シーンの長さ、情景、画像生成AI用のプロンプトキーワード)

start_time,end_time,section,lyrics,action,camera,lighting,prompt_en
00:00.00,00:08.04,イントロ,,窓から差し込む朝の光。部屋のカーテンが微かに揺れている。,フィックス,明るく爽やかな朝の光,"scenery, no human, bedroom, window, white curtains blowing in wind, morning sunlight beams, dust motes, soft lighting, cozy atmosphere"
00:08.04,00:12.04,Aメロ,カーテン開けたら光があふれて,アリサが勢いよくカーテンを開ける。眩しそうに目を細める。,ミディアムショット,眩しい逆光,"1girl, solo, blue eyes, brown hair, long hair, wavy hair, messy hair, wearing pajamas, opening curtains, bright morning sunlight reflected in eyes, lens flare"
00:12.04,00:18.00,Aメロ,眠たい目をこすって,ベッドの上で眠たそうに目をこするアリサ。,クローズアップ,柔らかな朝の光,"1girl, solo, blue eyes, brown hair, long hair, wavy hair, messy hair, in bed, rubbing eyes, sleepy expression, pajamas, soft focus"
00:18.00,00:22.58,Aメロ,のびをする,大きくのびをするアリサ。清々しい朝の表情。,ミディアムショット,明るい,"1girl, solo, blue eyes, brown hair, long hair, wavy hair, messy hair, stretching arms up, smiling, happy expression, bedroom background"
00:22.58,00:29.04,Aメロ,コーヒーの香りが部屋に広がって,コーヒーカップから立ち上る湯気。アリサがその香りを嗅いでリラックスしている。,クローズアップ,温かみのある光,"1girl, solo, blue eyes, brown hair, long hair, wavy hair, messy hair, holding coffee mug, steam rising, smelling coffee, kitchen background, warm lighting"
00:29.04,00:36.80,Aメロ,今日もいい一日が始まる気がする,鏡に向かって微笑むアリサ。身支度を整えている。,ミディアムショット,自然光,"1girl, solo, blue eyes, brown hair, long hair, wavy hair, messy hair, looking at mirror, smiling at herself, getting ready, bathroom background"
00:36.80,00:43.42,Bメロ,ちょっとだけ不安でも 大丈夫って言い聞かせ,靴を履き、玄関で自分に気合を入れるアリサ。,ローアングル,玄関の光,"1girl, solo, blue eyes, brown hair, long hair, wavy hair, messy hair, putting on shoes, determined expression, entrance of house, casual clothes"
00:43.42,00:50.76,Bメロ,空が青くて眩しいから 走り出せる気がしてる,外に出て青空を見上げるアリサ。風が髪を揺らす。,見上げショット,鮮やかな青空,"1girl, solo, blue eyes, brown hair, long hair, wavy hair, messy hair, looking up at blue sky, hair fluttering in wind, bright sunlight, outdoor"
00:50.76,00:58.20,サビ1,さあ行こう 朝の風が呼んでるよ,並木道を軽やかな足取りで歩くアリサ。,トラッキングショット,爽やかな外光,"1girl, solo, blue eyes, brown hair, long hair, wavy hair, messy hair, walking on tree-lined street, dynamic pose, morning breeze, green leaves, park background"
00:58.20,01:05.62,サビ1,胸いっぱい 深呼吸して踏み出そう,大きく深呼吸をして、一歩を踏み出すアリサの足元。,クローズアップから全身へ,明るい太陽光,"1girl, solo, blue eyes, brown hair, long hair, wavy hair, messy hair, taking a deep breath, walking forward, full body, energetic, sun dappled light"
01:05.62,01:12.92,サビ1,失敗してもまた笑えばいい,花屋の前を通るアリサ。色とりどりの花に目を留める。,ミディアムショット,色彩豊かな光,"1girl, solo, blue eyes, brown hair, long hair, wavy hair, messy hair, walking past flower shop, looking at flowers, colorful petals, city street"
01:12.92,01:24.64,サビ1,今日という日はあなたのためにある,道端で可愛い犬を見つけて微笑むアリサ。,ミディアムショット,温かい光,"1girl, solo, blue eyes, brown hair, long hair, wavy hair, messy hair, smiling at a small dog, cute dog, heartwarming scene, residential area"
01:24.64,01:31.20,Aメロ,駅のホームでイヤホン外したら,駅のホームに立つアリサ。イヤホンを外して周囲の音に耳を傾ける。,クローズアップ,駅の陰影,"1girl, solo, blue eyes, brown hair, long hair, wavy hair, messy hair, standing on train station platform, taking off earphones, listening, urban background"
01:31.20,01:38.90,Aメロ,知らない誰かが鼻歌うたってた,賑やかな駅の様子。楽しそうな人々。,ワイドショット,活気ある光,"scenery, no human, busy train station, people walking, blurred background, morning rush hour, sunlight through station roof"
01:38.90,01:45.68,Aメロ,なんだかそれが可笑しくて笑えて,思わずクスクスと笑ってしまうアリサ。,クローズアップ,自然な光,"1girl, solo, blue eyes, brown hair, long hair, wavy hair, messy hair, giggling, covering mouth with hand, joyful expression, station platform background"
01:45.68,01:52.88,Aメロ,ひとりじゃないって気づいた朝の駅,ホームに入ってくる電車。アリサがそれを見つめる。,ロングショット,ダイナミック,"1girl, solo, blue eyes, brown hair, long hair, wavy hair, messy hair, watching train arrive at platform, back view, wind from train, station atmosphere"
01:52.88,02:00.02,Bメロ,うまくいかない日だって ちゃんと意味があるはずで,電車の中で窓の外を見つめるアリサ。少し物思いにふける。,プロファイルショット,車内に差し込む光,"1girl, solo, blue eyes, brown hair, long hair, wavy hair, messy hair, sitting in train, looking out window, pensive expression, cityscape passing by, window reflections"
02:00.02,02:06.66,Bメロ,悩んだ分だけ強くなれる そう信じて歩いてく,駅から出て、街の中を力強く歩き出すアリサ。,ローアングル,都会の光,"1girl, solo, blue eyes, brown hair, long hair, wavy hair, messy hair, walking out of station, determined walk, urban city street, skyscrapers"
02:06.66,02:13.94,サビ2,さあ行こう 朝の風が呼んでるよ,人混みを抜けて駆け出すアリサ。,ダイナミックショット,躍動感のある光,"1girl, solo, blue eyes, brown hair, long hair, wavy hair, messy hair, running through city crowd, looking forward, motion blur, energetic, bright day"
02:13.94,02:21.20,サビ2,胸いっぱい 深呼吸して踏み出そう,高い場所から街を見下ろし、風を感じるアリサ。,俯瞰ショット,突き抜けるような青空,"1girl, solo, blue eyes, brown hair, long hair, wavy hair, messy hair, standing on rooftop balcony, overlooking city, wind blowing, vast blue sky, sense of freedom"
02:21.20,02:30.00,サビ2,失敗してもまた笑えばいい,朝の光に照らされた美しい街並み。,ワイドショット,煌びやかな光,"scenery, no human, beautiful city skyline, morning sun, lens flare, skyscrapers, urban landscape, cinematic anime style"
02:30.00,02:39.94,サビ2,今日という日はあなたのためにある,目的地に向かって歩くアリサの後ろ姿。,ロングショット,爽やかな光,"1girl, solo, blue eyes, brown hair, long hair, wavy hair, messy hair, back view, walking toward a modern building, morning light, future-oriented vibe"
02:39.94,02:45.92,Cメロ,どんな朝も同じ太陽が昇って,空高く昇った太陽。眩い光。,見上げショット,強烈な光,"scenery, no human, glowing sun in clear sky, sun rays, lens flare, bright light, clouds, cinematic"
02:45.92,02:53.38,Cメロ,あなたのことを照らし続けてる,太陽の光を浴びて、神々しく見えるアリサ。,ミディアムショット,バックライト,"1girl, solo, blue eyes, brown hair, long hair, wavy hair, messy hair, standing in sunlight, rim lighting, glowing hair, peaceful expression"
02:53.38,03:01.44,Cメロ,完璧じゃなくていい そのままでいい,ショウウィンドウに映る自分の姿を見て、満足そうに頷くアリサ。,クローズアップ,柔らかな反射光,"1girl, solo, blue eyes, brown hair, long hair, wavy hair, messy hair, reflection in shop window, looking at self, nodding, gentle smile, self-acceptance"
03:01.44,03:05.94,Cメロ,ただ前を向いて歩いて行けばいい,まっすぐ前を見据えて歩くアリサのアップ。,クローズアップ,強い意志を感じる光,"1girl, solo, blue eyes, brown hair, long hair, wavy hair, messy hair, close up on face, looking straight ahead, confident eyes, walking, blurred city background"
03:05.94,03:14.66,サビ3,さあ行こう 朝の風が呼んでるよ,公園の広場でくるりと回るアリサ。,ダイナミックショット,キラキラした光,"1girl, solo, blue eyes, brown hair, long hair, wavy hair, messy hair, spinning around in park, smiling, scattered petals or leaves, sunlight through trees"
03:14.66,03:22.24,サビ3,胸いっぱい 深呼吸して踏み出そう,突き抜けるような笑顔のアリサ。,クローズアップ,最高の笑顔,"1girl, solo, blue eyes, brown hair, long hair, wavy hair, messy hair, huge radiant smile, looking at camera, sparkles, extremely detailed eyes, joyful atmosphere"
03:22.24,03:37.74,サビ3,失敗してもまた笑えばいい 今日という日はあなたのためにある,街を見渡す場所で、視聴者に向かって手を振るアリサ。,ミディアムショット,爽やかな朝の光,"1girl, solo, blue eyes, brown hair, long hair, wavy hair, messy hair, waving hand at camera, overlooking city, smiling, symbolic morning setting, hope"
03:37.74,03:45.00,アウトロ,そう 今日もあなたのためにある,どこまでも続く青い空と白い雲。,フィックス,清々しい空,"scenery, no human, endless blue sky, fluffy white clouds, high altitude, peaceful, vanishing point, cinematic anime style"

2. 🎨 Visual Creator(ビジュアルクリエイター)

  • 役割: ディレクターが作った設計図(CSV)をもとに、ローカル環境のComfyUIを操り、実際に映像に使う素材(アセット)を大量に生成します。

  • 受け取るもの(Input):

    • `storyboard.csv`

  • 生成されるもの(Output):

    • `input/[楽曲名]/scene_01.png`, `scene_02.png` ...(欠番のない連番画像または動画素材)

3. 🎞️ Video Editor(映像編集コンポジター)

  • 役割: 生成された大量のバラバラな素材と、SUNOの音楽ファイルを組み合わせて、1本の動画ファイル(.mp4)にレンダリングします。

  • 受け取るもの(Input):

    • `audio.mp3`(音源ファイル)

    • `storyboard.csv`(表示秒数を計算するため)

    • `scene_XX.png`(連番の素材画像/動画)

  • 生成されるもの(Output):

    • `output/[楽曲名]/[楽曲名]_base.mp4`(テロップの無いベース動画)

4. ✍️ Lyric Animator(テロップ・字キー焼き付け)

  • 役割: 完成したベース動画の上に、曲のタイミングに寸分狂わず歌詞(テロップ)を合成します。見やすい縁取り文字やフェード効果も担当します。

  • 受け取るもの(Input):

    • `[楽曲名]_base.mp4`(動画ファイル)

    • `.lrc`(歌詞タイムスタンプ)

  • 生成されるもの(Output):

    • `output/[楽曲名]/[楽曲名]_final.mp4`(最終成果物となる完全版MV)

このように、人間が実際の制作現場で行うような「分業」をAI同士が行うため、非常にスムーズに作業が進むのです。

📁 ディレクトリ(フォルダ)構成

システムをスムーズに動かすために、以下のフォルダ構成を前提として各エージェントは動作します。下準備として、inputフォルダーに楽曲名にしたフォルダーを作成し、Sunoで作成したwavもしくはmp3とLRCファイルをいれておけば、OK!あと、MVの主人公キャラ設定用ファイル(Character.md)を作成して、skillファイルと同じ層に置いておくと、主人公も呼び出せるようになります。

/home/user/work/MV/
 ├── mv_director_skill.md       # ディレクターのスキル定義
 ├── visual_creator_skill.md    # クリエイターのスキル定義
 ├── video_editor_skill.md      # エディターのスキル定義
 ├── lyric_animator_skill.md    # アニメーターのスキル定義
 │
 ├── input/
 │    └── はじまりの朝/        # プロジェクト単位のフォルダ
 │        ├── はじまりの朝.lrc   # (User Input)
 │        ├── はじまりの朝.wav   # (User Input)
 │        ├── storyboard.csv    # (Output from Director)
 │        ├── scene_01.png      # (Output from Visual Creator)
 │        └── scene_02.png          ...
 │
 └── output/
      └── はじまりの朝/
          ├── lyrics.ass             # (Subtitle settings)
          ├── はじまりの朝_base.mp4   # (Output from Video Editor)
          └── はじまりの朝_final.mp4  # ✨ (Output from Lyric Animator)

具体例:より高品質な動画を目指したカスタマイズ

制作の過程では、いくつかのこだわりをAIに伝え、ブラッシュアップしていきました。

1. ローカル環境(ComfyUI)への切り替え

当初はクラウド上の画像生成(Nano Banana2)を使う仕様でしたが、枚数が多いので、より自由度の高いローカルのComfyUIを使用するよう変更をお願いしました。ComfyUIのワークフローも、AIはあっという間に作成してくれます。

2. 解像度と画質の向上

最初は一般的なフルHD(1920x1080)で生成していましたが、illustriousは適した解像度以外だと絵が崩れやすいという弱点があります。そこで、以下の工夫を取り入れました。

  • 1344x768で生成

  • その後、アップスケール(1976x1128)して高画質化

3. 細かなこだわり(FaceDetailer)の挿入

人物の顔を綺麗に整える「FaceDetailer」の追加もお願いしました。最初はアップスケール後の工程に入れられそうになりましたが、**「アップスケール前にお願い」**と伝えると、すぐさま最適な順序に修正してくれました。Antigavity先生はComfyUIのワークフローを理解していたので、ビックリ😮

最終的な動画の組み立てには、PythonのライブラリであるMoviePyを使用し、音楽と映像を同期させ、ffmpegで歌詞を焼き付けする仕組みを構築しました。

完成した紙芝居型MVがこれ!いくつかのイラストは???となりますが、最初のバージョンとしては、自分としては大満足😆いつか動画のつなぎ合わせを自動化してみたいですが、所有PCのスペックではキツイ…


まとめ:AIは「指示を出すパートナー」へ

MV自動化フロー

今回のポイント

  • 多才なエージェントチームが自動で役割分担して動く

  • ComfyUIやMoviePyなど、高度なツールも使いこなす

  • 人間のフィードバックを即座に反映し、精度を高められる

「自分には難しいかも」と思っていた動画制作も、AIエージェントと協力すれば実現できるかもしれません。まずは、あなたの作りたい動画のイメージをAIに相談することから始めてみませんか?


次は、あなたもAntigravityで「自分だけの制作チーム」を作ってみてください!

いいなと思ったら応援しよう!