近日,虎博科技发布开源大模型TigerBot-13B,此模型在Llama-2的基础上以虎博积累的技术和数据继续训练,不但保持了Llama-2出色的英文能力,更是在中文能力填补了Llama-2的不足,各项主流中文任务中超过Llama-2 的49%,在开源同类模型中具有竞争力。虎博的理论和实验探索表明,TigerBot的训练方法,计算效率和数据达到世界上SOTA水平,本着open innovation的精神,虎博科技将这些成果分享给大模型社区,继续开源和免费商用TigerBot-13B大模型。
本次发布包括以下三点:
TigerBot-13B-base: 基于Llama-2-13B继续预训练300B tokens,扩充了中文词表到60K vocabulary, 并采用holistic training在预训练中直接使模型具有9成的指令完成能力。在主流英文基准测试中超过Llama-2-13B-base的7%,在中文测试中综合能力超过Llama-2-13B-base的49%,在国内主流开源基座模型中处于领先位置。
TigerBot-13B-chat: 基于TigerBot-13B-base用5M指令数据微调,并采用rejection sampling fine-tune对齐人类需求。在主流英文基准测试中达到Llama-2-13B-chat的 101%,在中文测试中综合能力超过Llama-2-13B-chat的47%,在国内主流开源模型中亦处于领先位置。
TigerBot-API: chat和summarization api 将自动升级到TigerBot-13B-chat,对科研教育用户免费,对商用开发者保持价格不变。
- 重磅!2025上海VR/AR产业博览会完整日程提前公布
- 小鸟独立游戏《玛卡之歌》参展2025 ChinaJoy INDIE GAME展区!
- 轻语游戏(WhisperGames)确认参展2025 ChinaJoy Express游戏试玩区
- ARTPRO STUDIO亮相ChinaJoy-Game Connection INDIE GAME展区,探索游戏美术新未来!
- 【游·见】专访喵吉托工作室:在 “传统养宠束缚” 与 “AI 社交新潮” 的碰撞中,以创新解锁宠物社交游戏新魅力
- 热力再燃!2025 NEPCON China万人沸腾的电子制造盛宴,今日收官倒计时!
- 聚焦投资、技术与可持续发展——中国—东南亚数字基础设施合作论坛圆满举行
- 北京InfoComm China 2025:聚合产业动能,共谱视听未来新篇章
- 热爱让“她力量”无限进阶,2025璀璨女性影响力大会北京圆满举办
- 华为、地平线、大众、东风、起亚等引领汽车技术变革,来AMTS 2025了解更多未来汽车开发解决方案!
免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,应及时向本网站提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后,将会依法尽快联系相关文章源头核实,沟通删除相关内容或断开相关链接。