繁中支援!台智云结合 Meta 开源技术,新推出 FFM-Llama 2 模型

繁中支援!台智云结合 Meta 开源技术,新推出 FFM-Llama 2 模型

华硕旗下台智云在今年 5 月中国台湾 AI 超算年会,以开源大型语言模型 BLOOM 为基础推出“福尔摩沙大语言模型”(FFM-176B 和 FFM-7B),现在进一步全球首发“繁体中文强化版 FFM-Llama 2 大语言模型”。

台智云 FFM-Llama 2Meta 旗下开源的 Llama 2 模型为基础,包括参数量 70B、13B、7B 全系列,支援 Code Llama 程式开发与 Embedding 增强语意搜寻模型,提供云端、地端以及 AI PC 等多模态大型语言模型,还有完整 AFS(AI Foundry Service)服务。

借由 AIHPC(AI and High Performance Computing)、高效平行运算环境以及大型语言模型切割技术,台智云 FFM-Llama 2 训练大量中国台湾在地语料,大幅提升其繁体中文能力。全系列模型可进行微调、部署、推论,企业用户也能以自订系统提示词,让 AI 模型思考更在地化、更精准回应企业需求。

繁中支援!台智云结合 Meta 开源技术,新推出 FFM-Llama 2 模型 AI与大数据 图2张

▲ 台智云 FFM-Llama 2 使用大量繁中语料进行训练,中文能力更好。

台智云 AFS 推出全参数和高效率模型微调(Parameter-Efficient Fine-Tuning,PEFT)功能,在 GPTQ 4-bit 高性能压缩技术支持下,提供经济实惠的云端或地端模型推论方案。

值得一提的是,“福尔摩沙大模型”发布至今已服务超过 70 个大型企业,电信业者如中国台湾大哥大便将智能客服导入生成式 AI 应用,未来可望扩展至集团不同产业面,以精进客服效率。

“台智云以开放模式提供可信赖大型语言模型,累积 AI 超算功能和完整 AI 工具平台,降低企业进入门槛,加速 AI 2.0 应用”,华硕云端暨台智云总经理吴汉章表示,期待华硕能与合作伙伴延续中国台湾产业优势,实现普惠 AI、发展以人为本的智慧科技。

(首图为华硕云端暨台智云总经理吴汉章,图片来源:华硕)

延伸阅读:

  • 华硕发表福尔摩沙大语言模型,GPT-3.5 同级、强化繁中语料

   特别声明    本页内容仅供参考,版权终归原著者所有,若有侵权,请联系我们删除。