Rizzo-AI-Academy/rizzo-flow
The open, local take on Jev: typed decisions from an LLM, without generating a single token
Star 增长趋势(本站收录历史)
Rizzo-AI-Academy/rizzo-flow
深度介绍
它是什么
rizzo-flow 是一个 Python 开源框架,用本地化方式实现类似 Jev 的能力:让 LLM 输出带类型的结构化决策,而不是自由文本。核心卖点是"不生成一个 token"——模型只负责决策,输出直接映射为程序可用的类型化数据。
核心亮点
- 零 token 生成:跳过文本生成环节,直接产出结构化决策结果,省时省钱
- 类型安全:决策结果带类型约束,可直接接入下游业务逻辑
- 本地优先:全流程可本地运行,数据不出域
- Apache-2.0:商用友好
为什么火
LLM 应用的一大痛点是"解析模型输出"——正则、JSON 修复、重试,繁琐且脆弱。rizzo-flow 换了个思路:不让模型"说话",只让它"做选择",从源头消除解析成本。686 星的增长说明这个方向戳中了不少开发者的痛点。
适合谁用
需要 LLM 做分类、路由、决策判断,但厌倦了 prompt 工程和输出解析的后端/ML 工程师;以及对数据隐私敏感、倾向本地部署的团队。
快速上手
pip install rizzo-flow
参考仓库 README 中的示例,定义决策 schema 后即可调用。
