晶圆代工、IC 设计龙头都是客户！硕网资讯衔接 ChatGPT 落地企业应用
▼
全球掀起生成式 AI 风潮，科技大厂展开聊天机器人大战，微软有 ChatGPT、Google 有 Bard、百度有文心一言，但是要实际落地到企业端的应用，仍有最后一哩路的整合工作需要合作伙伴来完成，威盛集团旗下的硕网资讯（Intumit）正是扮演这个关键辅助的角色，为数十家金融业客户导入 AI 客服对话机器人，更为晶圆代工、IC 设计龙头运用对话式 AI 技术，协助人资管理世界各地区的员工。
ChatGPT 背后两大技术
由 OpenAI 开发的 ChatGPT 掀起热潮，硕网资讯总经理邱仁钿分享，ChatGPT 这类大型语言模型(LLM) 背后有两大支撑，一个是巨量文字资料，目前全世界有能力可以累积足够巨量资料的屈指可数，不外乎谷歌、微软、Meta 等，另一重要的支撑就是算力的提升，运用 GPU（图形处理器），ChatGPT 就是透过巨量资料和算力结合所衍生出具有非常庞大参数的语言模型。
以生成型 AI 做为出发点，邱仁钿指出，虽然现在的模型看起来像在对话，但其实是 AI 根据输入的问题当作指令，创作出可以理解的文章、照片、影像，甚至可以写成故事、新闻、小说，完全没有任何限制，而这样的生成式 AI，随着模型越来越大，算力越来越快，未来想像空间无穷。
邱仁钿表示，相较之下，过去传统的 AI 聊天机器人是从资料库挑出既有的答案，主要是比对型的 AI 应用，而 ChatGPT 是生成型，所以 ChatGPT 需要写作时间，导致反应速度没有比对型快，而从资料量的参数基础来说，ChatGPT 的参数量已经庞大到超过 BERT 的好几百倍，因为参数量越大，理解能力越强，但是背后需要付出的代价，便是训练模型的成本远比 BERT 要高。
硕网衔接 ChatGPT 落地应用
邱仁钿指出，硕网自 1999 年成立，专注在对话式 AI 的自然语言处理，初期发展具备以文找文、自动分类等简单 AI 功能的知识管理系统，累计超过 600 家客户，遍布中国台湾、内地、日本，并从 2015 年开始切入 AI 聊天机器人的企业应用，从早期以模糊搜寻的 AI 聊天机器人，逐步演进到具备机器学习、深度学习，一路到近年开始利用大数据模型，为企业客户打造最先进的对话式 AI 应用。
ChatGPT 的爆红让越来越多企业客户询问落地应用，邱仁钿表示，硕网其实早在 2017 年就开始积极进入国际大厂的生态体系，成为科技大厂微软、谷歌的合作伙伴，扮演先进对话式 AI 具体落地的辅助角色，举例来说，硕网就为晶圆代工龙头导入企业内部应用的 AI 聊天机器人，整合人资管理系统，当员工针对特休、育婴假、旅游补助等发问， AI 聊天机器人就会从内部规章来挑出答案回应。
邱仁钿指出，硕网企业应用 AI 聊天机器人，客户广泛涵盖到科技业、制造业、金融业、零售业、公部门，举例来说，刚开始应用在金融业，主要是提供消费者针对信用卡回馈、机场停车、身分核对、帐户余额、刷卡纪录做回应，并分析消费者特性，进行下一步的互动，像是消费者问到日圆兑换，AI 聊天机器人就可以推荐出国需要的旅平险，为金融业创造更大的价值。
生成式 AI 多元应用
生成式 AI 多元应用从 AI 聊天机器人到生成式 AI，硕网资讯发言人晏毓聪表示，硕网从 2015 年开始帮客户开发对话式 AI 机器人，起初必须耗费大量人工建立训练资料，才能让对话机器人能够有聪明的大脑可以回应用户的需求，后来硕网在 2020 年开始运用 Google 释出的 BERT 预训练模型，透过移转式学习逐渐降低人工训练的时间，并持续提升对话式 AI 的服务品质与正确性。
晏毓聪指出，现在透过生成式 AI，可以依照适当的提示指令（Prompt）生成大量资料，以前可能一个问题有 20 种问法，后来 BERT 只要 10 种，再到 ChatGPT，只要输入的提示指令下得好，就可以让 ChatGPT 为训练人员自动生成各种问法，降低企业导入 AI 聊天机器人的时间与成本。
晏毓聪分享，原本的聊天机器人训练要半年到一年，现在只要一到三个月，预估未来 ChatGPT 更是只要一个月，而且 ChatGPT 同样一个答案，可以生成很多不同的描述方式，像是针对 20~30 岁年轻族群的活泼生动语调，或是面对 65 岁以上长者的严谨口吻，针对客户进行属性区隔，甚至未来可望增加对话温度，以及更人性化的体验。
ChatGPT 最大挑战
ChatGPT 主要是透过大型语言模型（LLM）开发而成，晏毓聪表示，其实早在 2019 年就有很多研究论文探讨，过去 AI 是从无到有，累积资料来训练模型，但是要做到生成式 AI 必须要有大型的资料和财力来训练模型，并非所有企业都有能力来建置。
晏毓聪指出，数年前 Google 所释出 BERT 的模型，还能让一般企业自行运用来做语意学习，进行个别企业所需的模型训练，而硕网资讯就是从 2020 年开始结合 BERT 的预训练模型，为企业导 AI 资料做移转式学习的落地应用，就可以透过相对较小的资料量达到理想的效果。
ChatGPT 现在最大的问题就是错误率，晏毓聪表示，如果企业直接把生成的答案回复给客户会有相当高的风险，因为 ChatGPT 所生成的文字内容虽然乍看之下逻辑清楚，但是仔细分析其内容正确性往往有待商榷，甚至出现虚构的内容，但是企业不能承担回答错误的风险，所以硕网提供的企业对话式 AI 平台，具备透过人工挑选的机制来做最后把关，留下适合的内容提供给终端客户，确保答案的内容无误，并做好引导式的提示工程，协助 ChatGPT 产出有效的回答。
ChatGPT 未来应用
谈到生成式 AI 未来应用，邱仁钿表示，现在不仅可以转换成活泼答案、严肃答案，甚至可以做到分类、标注，透过对话内容寻找潜在的需求，像是从客户的提问，判断年龄、性别、婚姻、投资需求等等，汇到 CRM（客户管理系统）分析，相信未来有 ChatGPT 的辅助，可以将个人化服务做得更细致，让终端消费客户能够更具温度的互动体验。
邱仁钿分享，其实生成式 AI 除文字、语音、影像外，还能写程式语言，目前团队已经有资深工程师借此提高工作效率，只要输入指示就能生成程式语言，但是这需要有经验的工程师，因为 ChatGPT 存在错误率，所以仍需要一定的经验调整，才能作为实际开发系统之用，相信善用生成型 AI 来辅助程式撰写，未来可能会成为每为工程师都需要具备的基础技能之一。
邱仁钿强调，硕网资讯身在 AI 的浪潮之中，以自然语言 AI 应用为主，未来可能有机会结合影像，像是下半年就将与专门做 AR/VR 的厂商合作，希望让虚拟助理不再是小图标，而是虚拟真人影像，并相信未来 ChatGPT 的应用有无限可能。
（首图来源：AI资源网）
延伸阅读：
- ChatGPT 掀 AI 近兆美元商机！法人：加速云端服务产业需求
- 归类为 ChatGPT 概念股狂飙！外资喊买宜鼎目标价 332 元
- 最新 AI 生成文本技术 GPT-4 升级程度？专家：超级多语言的口译员
▼
特别声明 本页内容仅供参考，版权终归原著者所有，若有侵权，请联系我们删除。
