首页 > 科技 > 正文

苏州大学推出开源通知函 大模型OpenBA,具备150亿参数


更新日期:2023-09-25 18:39:51来源:网络点击:1992531
据 Arxiv 页面显示,来自苏州大学的一个研发团队近日推出一款名为 OpenBA 的开源 seq2seq 模型。

据悉, OpenBA 是一款具有150亿参数的双语非对称seq2seq模型,也是首个加入中国开源模型社区的大语言模型变体。论文显示,研究者采用高效的技术以及采用三阶段的训练策略,从头开始训练了OpenBA模型。

实验显示,OpenBA 在 BELEBELE 基准测试中的性能优于 LLaMA-70B,在 MMLU 基准测试中的性能优于 BLOOM-176B,在 C-Eval(hard)基准测试中的性能优于 GLM-130B。


相关:

两则重大爆料, 暴露美国险恶用心美国正欲加速将亚太地区打造成岌岌可危的“火药桶”。最新事例显示,一方面,美国有意取代俄罗斯,向越南出口F-16战机;另一方面,美国和菲律宾已开始讨论扩大美国在菲律宾东部沿海地区的军事部署。军事专家认为,..

《贝肯熊》主创谈本土化创作 配音演员回应质疑 9月23日晚,电影《贝肯熊:火星任务》在北京举行首映礼,导演王超携编剧团队以及配音演员梁晓强、郭政建、张东等主创现身映后见面会,分享了《贝肯熊》系列的创作故事。在最新一集《贝肯熊:火星任务》中,“熊熊..

上一篇: 泽连斯基是否竞选连任?乌克兰“第一夫人”回应
下一篇: 理想汽车为何推出大批“套娃”式车型?李想揭秘