Files
tps-dashboard/ai-labeling
simonkoson 81b331d6d7 ai-labeling: Prompt 1 v0.3(80%) + Prompt 3 v0.2(90%) + GT v0.4.2
Prompt 1 迭代 v0.1→v0.3:
- 多选字段加显著篇幅门槛+从属零件反例教学
- 前沿科技vs横切类比拆清(技术主角测试)
- 装备深解加同类体系/窄类别测试
- 跨域改为传播分类框(≥3域即标,非军事术语)
- 全对率 40%→80%

Prompt 3 开篇钩子 v0.1→v0.2:
- 阅读范围扩至3段(导视+主持人+首段解说)
- 强判定从紧迫感硬门槛改为6条独立路径
- 弱判定区分信息性提问vs悬念式提问
- 命中率 50%→90%

ground-truth v0.4.2:ep008补标跨域 + 20期opening_hook全标注
脚本:run_labeling/summarize 支持 opening_hook,summarize改从源GT读取

Co-Authored-By: Claude Opus 4.6 <noreply@anthropic.com>
2026-06-25 13:26:42 +08:00
..

AI Labeling 实验工作区

用途

为《军事科技》栏目 AI 自动打标做模型选型实验。 基准答案集 = 10 期已审稿的标准答案。

目录结构

  • benchmark-set/transcripts/ 10 期文稿
  • benchmark-set/ground-truth.json 10 期的标准答案
  • prompts/ prompt 模板
  • scripts/ 实验脚本(含 import_transcripts.py
  • experiments/ 每次跑出来的结果(不入 git)

使用步骤

1. 安装依赖

pip install -r scripts/requirements.txt

2. 配置 API Key

cp .env.example .env
# 填入真实 MIMO_API_KEY

3. 导入文稿

python scripts/import_transcripts.py

将源目录(刘瑞桦收集)的 10 期 docx 文稿解析并清洗,落入 benchmark-set/transcripts/

4. 跑单期打标

python scripts/run_labeling.py --ep 4 --model mimo-v2.5-pro

当前版本

  • v0.1: Prompt 2(叙事结构)含 3 示例 + 10 期 ground-truth
  • 生产模型: mimo-v2.5-pro / 备用: DeepSeek V4 Pro

ground-truth 版本

  • v0.1 (2026-06-11): 锁定 10 期 narrative_structure + opening_hook 标准答案
  • 其他字段(program_format / equipment_domain / scene_tags / tech_tags)待 Prompt 1 阶段补