SKT推进多重LLM布局，进军企业与公共领域生成式AI市场

by Oh Yukyo

Published 23 Aug.2023 10:02(KST)

Adot携Anthropic、Konan等多模型LLM基础
利用大规模AI基础设施与LLM合作伙伴
推进发掘政府部门等各行业客户

SK电信于23日发布了面向企业和公共领域“生成式人工智能市场”的“多重大型语言模型（LLM，Large Language Model）”战略。SK电信表示，正推进技术和业务层面的准备工作，计划将以对话和客服等电信运营商基础服务为中心自主开发的 A.Dot LLM、在伦理回答和大容量文本（Text）输入方面具备优势的 Anthropic 公司的 LLM、以及拥有丰富韩语数据的 Konan LLM 等进行组合，以客户定制方式提供服务。

大型语言模型基础模型（Foundation Model）是具备文档摘要、文档生成、问答（Q&A）等基本功能的人工智能软件。SK电信在自有 LLM 之外，还将业界认可的其他公司 LLM 纳入产品阵容，宣布推进“多重 LLM”业务计划。公司预计，从功能集成工作完成后的第四季度起，将有望正式提供相关服务。

依托强大基础设施与生态体系提供全栈服务

包含 LLM 在内的人工智能服务，必须以训练用数据为基础，并有稳定服务所需的 GPU 服务器基础设施作坚实支撑。SK电信拥有在全国范围运营信息技术基础设施的经验和庞大的人工智能开发者人才库（Pool），因此认为，在从硬件基础设施到 LLM 软件的整个企业级人工智能领域，有能力实现“全栈服务（Full Stack Service/Approach）”。公司近期通过股权投资成为 PersonaAI 的第三大股东，并在联络中心（人工智能联络中心，AI Contact Center）领域推进 LLM 构建业务合作等，计划以多种方式构建并扩展支持 LLM 业务推进的生态体系。

面向各产业提供专用化 LLM 服务

SK电信拟向企业及公共（Enterprise）领域提供的 LLM 服务，将致力于提供“按产业专用化的 LLM 服务”，即把各个 LLM 的服务匹配到其最能发挥独特优势的领域。例如，A.Dot LLM 由于其训练数据及服务属性，主要在对话或聊天机器人等方面具备服务优势。Anthropic LLM 则因预先对人工智能进行了应遵守的伦理原则训练，具有能够给出符合既定伦理原则回答的特点。此外，在资料输入方面，它具备一次性整体输入相当于一本小说的文本（10万标记，7.5万单词）的优势。

发掘各领域客户需求

SK电信目前正优先准备参与行政安全部、科学技术信息通信部等政府部门正在推进的基于 LLM 的试点项目及正式项目。以金融业为中心的基于 LLM 的服务构建项目也正与各个客户企业共同推进中。公司还在与 SK集团内大型制造子公司等就将基于 LLM 的人工智能技术应用于制造领域进行协商。负责领导 SK电信企业业务的 Kim Kyeongdeok CIC 长（副社长）在参加多重 LLM 培训课程的公司内部成员面前表示：“关键在于客户的需求（Needs），基于多样的多重 LLM 组合，快速向客户提供其真正需要的服务至关重要。”