首页 >> 社会动态 > 每日快讯 >

通义千问开源千亿级参数模型

2024-04-28 15:21:19 来源: 用户: 

格隆汇4月28日丨通义千问开源1100亿参数模型Qwen1.5-110B,成为全系列首个千亿级参数开源模型。通义千问1100亿参数模型延续了Qwen1.5系列的Transformer解码器架构,采用了分组查询注意力方法(GQA),使得模型在推理时更加高效。110B模型支持32K上下文长度,具备优秀的多语言能力,支持中、英、法、德、西、俄、日、韩、越、阿拉伯等多种语言。

阿里巴巴-SW 3.15%

阿里巴巴 0.59%

文章转载自:互联网,非本站原创

  免责声明:本文由用户上传,与本网站立场无关。财经信息仅供读者参考,并不构成投资建议。投资者据此操作,风险自担。 如有侵权请联系删除!

 
分享:
最新文章