快乐彩app下载 百灵大模子开源 Ling-2.6-flash, 提供 BF16、FP8、INT4 等版块

IT之家4月29日音讯,蚂勾通团旗下的百灵大模子本日告示,Ling-2.6-flash持重开源。同步提供BF16、FP8、INT4等多个版块,便捷建树者笔据不同硬件环境、推理资本和部署需求纯真遴荐。

Ling-2.6-flash是一款总参数目104B、激活参数7.4B的Instruct模子,两周前以ElephantAlpha的匿名身份登陆OpenRouter。

官方暗意,往时两周里捏续收罗来自建树者的着实响应,并针对Ling-2.6-flash的使用体验进行了多轮优化,博亚体育中国一站式服务官网进一步改善了中英文当然切换智商,并赞助了其在主流Coding框架中的适配箝制。

据先容,Ling-2.6-flash的中枢智商体面前三个方面:

夹杂线性架构,开释推理效用:通过引入夹杂线性架构,快乐彩app模子从底层优化狡计效用,在4卡H20条目下推理速率最快可达到340tokens/s,Prefill详尽达到Nemotron-3-Super的2.2倍

Token效用优化,赞助智效比:在西席经过中对Token效用进行了针对性校准,悉力以更精简的输出完成既定观念。在ArtificialAnalysis的完竣评测中,Ling-2.6-flash仅毁坏15Mtokens,约为Nemotron-3-Super等模子的1/10

面向Agent场景进行定向增强:针对面前需求最焕发的Agent行使,在器用调用、多步缠绵与任务扩充智商上捏续打磨,使模子在BFCL-V4、TAU2-bench、SWE-benchVerified、Claw-Eval、PinchBench等评测中,即使靠近激活参数更大的模子,照旧约略赢得邻近致使SOTA级别的发达

IT之家附开源连气儿如下:

HuggingFace:https://huggingface.co/inclusionAI/Ling-2.6-flash

ModelScope:https://www.modelscope.cn/models/inclusionAI/Ling-2.6-flash快乐彩app下载

开运体育中国官网入口