IBM发布Granite 4.0,混合架构降低企业模型运行成本
10月2日,IBM发布Granite 4.0模型家族。新系列采用Mamba与Transformer混合架构,希望在保持语言与工具能力的同时降低显存占用和推理成本。
传统Transformer在长上下文场景下计算量增长明显,混合架构则尝试将不同结构的优势组合起来。IBM将Granite 4.0定位为企业级开放模型,强调效率、可控部署和业务适配。
对于内部知识问答、资料分类和流程自动化,较低资源需求有助于企业在自有基础设施中运行更多任务。但模型性能仍会受到硬件、量化方式和业务数据影响。
部署前应使用真实文档和工具接口测试准确率、吞吐量与稳定性,不宜仅依据公开参数判断成本。
*本文为基于官方发布信息的中文摘要,详情以原文链接为准。