laya:开源AI决策模型复刻Jev,选择题打分本地部署+多语言,GitHub项目地址
背景
Jev 最近在 AI 圈爆火,但它是个闭源 API,模型拿不到手,数据还得传到 TypeSafe 的服务器。发布才两天,GitHub 就冒出至少六个复刻项目,涨得最快的是一个叫 laya 的开源决策模型。

laya 是干啥的
它和 Jev 干一样的活:喂一段内容、提几个问题,几百毫秒就返直结回选哪个、打几分、有几成把握。不聊天、不写长文,专做选择题、打分题、是非题这类决策任务。
开源带来的好处
采用 Apache 2.0 协议,模型权重支侍本地下载,参数最高 0.4B,普通电脑就能跑。Jev 得把数据发云端,本地化这块 laya 直接胜出。
效果到底如何
微调后 laya 在 typed-decisions 基准准确率 0.766,Jev 0.727;AG News 分类 0.950 对 0.910。T4 显卡单题 33 毫秒。不过选项一多 Jev 仍占优,Banking77 这种 77 分类 Jev 0.870,laya 只有 0.425。
上手门槛
内置 Router 识语种再派模型,支持 100 多种语言。带模型路由、提示词防护、内容审核、工单分诊等现成模板,拿来就用。微调 notebook 也开源了,Kaggle 双 T4 跑 4-5 小时能训完。
项目下载:https://pan.quark.cn/s/a6611bfcf360
GitHub 项目地址:github.com/NandhaKishorM/laya