
AI21 的 Jamba Reasoning 3B 重新定义了法学硕士中“小”的含义——笔记本电脑上的 250K 上下文
企业小型模型浪潮的最新成员来自AI21 Labs,该实验室坚信将模型引入设备将释放数据中心的流量。AI21 的 Jamba Reasoning 3B,是一个微型开源模型,可以运行扩展推理代码生成并根据真实情况进行响应。AI21 联合首席执行官 Ori Goshen 告诉 VentureBeat,该公司看到了更多小型模型的企业用例,主要是因为将大部分推理转移到设备上可以释放数据中心。Goshen 表示,他们的模型提供的最大区别在于,它比大多数模型还要小,但它可以在不牺牲速度的情况下运行推理任务。Goshen 表示,像 Jamba Reasoning 3B 这样的小型模型的另一个优点是它们具有高度...