nokia-applied-research/AnyJev
Turn any LLM into a Jev-style decision model: typed decisions, real probabilities, no training. (continue updating, welcome any issue and PR request)
Star 增长趋势(本站收录历史)
nokia-applied-research/AnyJev
深度介绍
它是什么
AnyJev 是诺基亚应用研究团队开源的工具,能把任意 LLM 改造成 Jev 风格的决策模型——输出带类型的决策和真实概率,全程无需训练。
核心亮点
- 零训练改造:不改权重、不做微调,直接包装现有模型
- 类型化决策:输出结构化的决策对象,而非自由文本
- 真实概率:强调校准(calibration),概率可直接用于下游决策
- 兼容主流推理栈:支持 Transformers 与 vLLM
为什么火
LLM 做决策时常见两大痛点:输出不可解析、置信度不可信。AnyJev 用"类型 + 校准概率"直击这两点,且零训练成本,对工程团队极具吸引力。
适合谁用
需要把 LLM 接入自动化决策流程的工程师、做 agent 与风控策略的团队,以及关注模型校准的研究者。
快速上手
pip install anyjev
参考仓库 README 中的示例,将目标 LLM 包装为 Jev 决策模型即可调用。项目仍在活跃更新,欢迎提 Issue 与 PR。
