多模型协同短视频生产引擎 —— 从选题到配音到视频,5分钟出片。
一个人做短视频,从选题 → 写脚本 → 录音频 → 找素材 → 剪视频,大半天就没了,产出还不稳定。
MiMo Content Factory 把这个流程拆成 4 个专门的 AI Agent,用小米 MiMo 系列模型 + 火山引擎 Seedance 驱动:
| 指标 | 人工 | Agent 管线 |
|---|---|---|
| 单条视频耗时 | 2-4 小时 | ~5 分钟 |
| 日产量 | 1-2 条 | 30+ 条 |
| 质量一致性 | 不稳定 | 审稿闭环保障 |
┌──────────────────────────────────────────────────────────────────────┐
│ MiMo Content Factory │
│ 调度 · 状态管理 · 异常处理 · 质量闭环 │
├──────────────┬──────────────┬──────────────┬─────────────┬───────────┤
│ Step 1 │ Step 2 │ Step 3 │ Step 4 │ Step 5 │
│ 编剧 Agent │ 配音 Agent │ 视频 Agent │ 审稿 Agent │ 合并输出 │
│ MiMo-V2.5-Pro│ MiMo-V2.5-TTS│ Seedance │ MiMo-V2.5 │ ffmpeg │
│ │ │ 1.5 Pro │ │ │
├──────────────┼──────────────┼──────────────┼─────────────┼───────────┤
│ 脚本 JSON │ .wav 音频 │ .mp4 视频 │ 评分+建议 │ 最终视频 │
└──────────────┴──────────────┴──────────────┴─────────────┴───────────┘
| Agent | 模型 | 职责 | API |
|---|---|---|---|
| 编剧 | MiMo-V2.5-Pro | 脚本创作、分镜拆解、视频提示词 | MiMo Token Plan |
| 配音 | MiMo-V2.5-TTS | 语音合成、情绪控制 | MiMo Token Plan |
| 视频 | Seedance 1.5 Pro | 文生视频(竖屏9:16,含音频) | 火山引擎方舟 |
| 审稿 | MiMo-V2.5 | 质量评分、内容审核 | MiMo Token Plan |
选题:夏日芒果椰椰冰饮品推广
编剧 Agent 输出(基于联网搜索的真实产品信息):
{
"title": "三层热带风暴|一口喝到夏天!",
"shots": [
{"narration": "满杯果肉打底,还有爆爆珠惊喜!", "duration": 7, "emotion": "惊喜、期待"},
{"narration": "椰乳慢悠悠地漫上来,太治愈了!", "duration": 6, "emotion": "舒缓、治愈"},
{"narration": "看这金黄沙冰盖上去!绝美分层!", "duration": 8, "emotion": "兴奋、惊叹"},
{"narration": "三层喝到底,每一口都超满足!", "duration": 9, "emotion": "满足、强烈推荐"}
]
}视频生成(Seedance 1.5 Pro,每段 8 秒):
| 镜头 | 内容 | 时长 | 大小 |
|---|---|---|---|
| 1 | 芒果丁+爆爆珠特写,手部动作 | 8s | 11MB |
| 2 | 椰乳从椰子壳倒入,杯壁水珠 | 8s | 4.9MB |
| 3 | 沙冰倒入形成分层,冰晶闪烁 | 8s | 6.8MB |
| 4 | 完成品展示,薄荷叶装饰 | 8s | 11MB |
性能统计:
| 指标 | 数据 |
|---|---|
| 总耗时 | ~5 分钟 |
| 编剧 Agent | 20s / 1,482 tokens |
| 配音 Agent | 50s / 4 段音频 |
| 视频 Agent | ~4min / 4 段视频 (33MB) |
| 合并输出 | ~30s |
| 最终视频 | 32 秒 / 21MB |
# Python 3.10+
python3 -m venv venv
source venv/bin/activate
pip install openai requests
# ffmpeg(音视频处理)
sudo apt install ffmpeg # Ubuntu/Debiancp .env.example .env
# 编辑 .env 填入:
# MIMO_API_KEY=你的MiMo Token Plan Key (tp-xxx)
# ARK_API_KEY=你的火山引擎方舟 Key (ark-xxx)git clone https://github.com/XiaoMi/MiMo.git ~/MiMo-Skillssource .env
# 四模型管线(含视频)
python3 scripts/full_pipeline.py --topic "芒果椰椰冰 — 夏日必喝" --voice "冰糖"
# 三模型管线(仅音频,无需火山引擎Key)
python3 scripts/demo_pipeline.py --topic "芒果椰椰冰" --voice "冰糖"ls /tmp/mimo-*/
# script.json — 脚本结构化数据
# shot_1~4.wav — 各镜头配音
# video_1~4.mp4 — 各镜头视频
# final_with_voice.mp4 — 完整版含配音
# final_compressed.mp4 — 压缩版
# review.json — 审稿评分
# stats.json — 性能统计
# run_log.txt — 完整运行日志编剧 Agent 在创作前先通过 MiMo 联网搜索获取真实产品信息(配方、制作过程、外观特征),确保视频提示词基于真实产品而非凭空想象。
编剧 Agent 为每个镜头标注情绪("惊喜""治愈""兴奋""满足"),配音 Agent 将情绪注入 TTS,让同一音色在不同镜头呈现不同情感。
视频提示词基于真实产品配方(精确到克数),描述真实的颜色层次、制作动作、光线角度,而非抽象的艺术描述。
审稿 Agent 从 5 个维度评分,如果总分低于阈值可以自动触发重写。
mimo-content-pipeline/
├── README.md # 本文档
├── requirements.txt # Python 依赖
├── setup.py # 包安装
├── .env.example # 配置模板
├── LICENSE # MIT
├── docs/
│ ├── architecture.md # 架构详解
│ └── performance.md # 性能数据
├── examples/
│ ├── sample_script.json # 芒果椰椰冰案例
│ ├── yangzhiganlu.json # 杨枝甘露案例
│ └── shuangpinai.json # 双皮奶案例
└── scripts/
├── full_pipeline.py # 四模型管线(含视频,推荐)
├── demo_pipeline.py # 三模型管线(仅音频)
├── multi_agent_pipeline.py # 三模型管线(旧版)
└── video_pipeline.py # 四模型管线(旧版)
| 组件 | 技术 | 说明 |
|---|---|---|
| LLM | MiMo-V2.5-Pro / MiMo-V2.5 | 小米 Token Plan API |
| TTS | MiMo-V2.5-TTS | 8 种音色、情绪控制 |
| 视频 | Seedance 1.5 Pro | 火山引擎方舟 API |
| 音频 | ffmpeg | 音频合并与处理 |
| 调度 | Python pipeline | 状态管理、异常处理 |
- Seedance 视频生成每段 60-75 秒,4 段约 4-5 分钟
- 视频质量受限于 AI 生成能力,与真实拍摄有差距
- TTS 配音时长与视频时长需要手动对齐
- 需要 MiMo Token Plan + 火山引擎方舟两个 API Key
- 图生视频模式 — 用真实产品照片作为首帧,提升视频真实感
- 批量生产模式 — 一次输入多个选题,批量生成
- 平台发布集成 — 自动适配抖音/快手/B站的格式和标题
- 数据反馈闭环 — 根据视频播放数据优化脚本策略
MIT