您的位置 凯发k8ag旗舰 科研

蚂蚁集团开源ming-凯发k8ag旗舰

蚂蚁集团旗下百灵大模型团队在近期蚂蚁技术日上宣布重大决定:将统一多模态大模型ming-lite-omni进行全面开源。这一举措不仅标志着蚂蚁集团在ai领域的又一次重大开放,更被业界…

蚂蚁集团旗下百灵大模型团队在近期蚂蚁技术日上宣布重大决定:将统一多模态大模型ming-lite-omni进行全面开源。这一举措不仅标志着蚂蚁集团在ai领域的又一次重大开放,更被业界视为首个在模态支持方面能够与gpt-4o相媲美的开源模型。

220亿参数的技术突破

ming-lite-omni基于ling-lite构建,采用先进的moe(专家混合)架构,拥有220亿总参数和30亿激活参数的强大配置。这一参数规模在开源多模态模型中达到了新的高度,展现了蚂蚁集团在大模型技术上的深度积累。

目前,ming-lite-omni的模型权重和推理代码已向公众全面开放,后续的训练代码和训练数据也将陆续发布,为全球开发者提供完整的凯发k8ag旗舰的技术支持。

持续开源战略显成效

今年以来,百灵大模型团队已连续开源多个重要模型产品,包括ling-lite、ling-plus等大语言模型,多模态大模型ming-lite-uni以及预览版ming-lite-omni。

其中,五月中旬开源的ling-lite-1.5版本能力已接近同水位sota水平,性能介于千问4b和8b之间,成功验证了300b尺寸sota moe大语言模型在非高端算力平台上训练的可行性。

性能对标国际顶级模型

在多项理解和生成能力评测中,ming-lite-omni的性能与10b量级领先的多模态大模型相当或更优。蚂蚁集团表示,这是目前已知首个在模态支持方面能够与gpt-4o相媲美的开源模型,为全球开发者提供了重要的技术选择和参考标准。

百灵大模型负责人西亭介绍了团队的技术路线:”我们坚定地在语言大模型和多模态大模型上统一使用moe架构,并大量使用非高端算力平台,成功证明了国产gpu在训练可比拟gpt-4o模型方面的能力。”

免责声明:文章内容不代表本站立场,本站不对其内容的真实性、完整性、准确性给予任何担保、暗示和承诺,仅供读者参考,文章凯发k8ag旗舰的版权归原作者所有。如本文内容影响到您的合法权益(内容、图片等),请及时联系本站,我们会及时删除处理。

作者: 崔玉华

账户发布的文章都是来源于网络整合!内容仅代表提供方的观点,不代表本人的观点和看法,与本人立场无关,相关责任提供方自负。如有侵权联系站内删除!
没有了

已是最早文章

为您推荐

“闽宁1号”水稻新品种拍卖成交,创宁夏水稻品种转让最高价

“66万元一次,66万元两次,66万元三次,成交!”11月22日,宁夏农林科学院科技成果拍卖会上,随着拍卖师一锤定音,1...

番茄能变甜,让番茄变甜的基因找到了

11月14日,中国农业科学院蔬菜花卉研究所、深圳农业基因组研究所及国内科研单位合作,鉴定到抑制番茄果实糖积累的刹车基因c...

优必选上市,能否撑起人形机器人第一股?

史上第一次!人形机器人在港交所现场同人类一起敲锣。 这架势,这阵仗吸引了无数关注,成为在场所有人类的焦点。现场,熊猫机器...

农业农村部:长江流域水生生物资源量呈恢复态势

近日,农业农村部长江流域渔政监督管理办公室联合水利部长江水利委员会、生态环境部长江流域生态环境监督管理局、交通运输部长江...

高质量发展调研行 | 重庆果园港:散杂货码头成“世界中转站”

古有丝绸之路的驼铃声声,今有中欧班列的汽笛长鸣。江面上船来船往、货物装卸运转不停、集卡车来回穿梭,机械声和船只鸣笛声交织...

发表评论

返回顶部
网站地图