zzzz7788990213-ops/EvoVLM
Evolving Multimodal Inference Programs: LLM-guided evolutionary search for accurate and efficient vision-language inference.
Star 增长趋势(本站收录历史)
zzzz7788990213-ops/EvoVLM
深度介绍
它是什么
EvoVLM 是一个用 LLM 引导进化搜索来优化视觉语言模型推理流程的框架。它把多模态推理程序视为可进化的对象,通过迭代变异与选择,自动找到更准、更省的推理路径。
核心亮点
- LLM 当“进化引擎”:用大模型生成候选推理程序变体,而非随机变异,搜索方向更精准。
- 精度与效率双目标:同时优化准确率和推理开销,避免只堆算力换效果。
- 程序级抽象:把预处理、视觉编码、融合、解码等步骤统一为可组合程序,便于灵活替换。
为什么火
多模态推理成本高、调参靠经验,EvoVLM 把“手工设计流程”变成“自动搜索”,508 星说明社区对自动化 VLM 优化的需求真实存在。
适合谁用
做多模态应用、想压低推理成本又不想牺牲精度的工程师;以及研究 LLM 驱动程序搜索的学者。
快速上手
git clone https://github.com/zzzz7788990213-ops/EvoVLM
cd EvoVLM && pip install -r requirements.txt
python run_evo.py --config configs/default.yaml
建议先跑默认配置观察进化日志,再替换自己的 VLM 后端。
