SKT将于6月推出电信专用LLM：“年内将应用于呼叫中心”(综合)

by Hwang Seoyul

Published 30 Apr.2024 15:28(KST)

30日SKT举办通信业专用Telco LLM说明会
与OpenAI“GPT”、Anthropic“Claude”合作
年底前应用客服中心…打造生成式AI平台

SK电信将于今年6月推出一款学习了电信运营商服务、产品、会员体系等内容的电信服务特化“大型语言模型（LLM）”。公司计划在年内将其应用于电信运营商的客户咨询业务，大幅提升业务效率。

30日上午，在首尔中区 T Tower 举行的 SKT“电信大语言模型说明会”上，负责 SKT AI 技术协作的 Eric Davis 正在进行发布会演讲。照片由记者 Hwang Seoyul chestnut@ 提供

30日，SKT在首尔中区T Tower Supex Hall举行“Telco LLM”说明会并表示，将在6月完成Telco LLM的开发，并于年内应用于呼叫中心业务。Telco LLM是一款面向电信行业的大型语言模型，已学习第五代移动通信（5G）资费套餐、T会员、公告补贴等电信专业术语，以及人工智能（AI）伦理价值等电信运营商内部指引。

Jung Minyoung（音）SKT人工智能平台负责人表示：“按业务单元划分的Telco LLM开发完成时间点是6月初”，“在内部落地之前还需进行测试和评估等准备工作，因此预计在年内应用到客户中心。”

为打造Telco LLM，SKT与OpenAI、Anthropic等公司合作进行数据收集，从中筛选结构化与非结构化数据，将其输入通用模型“A.Dot X”“GPT”“Claude”进行训练，并在此基础上追加电信相关数据进行再学习和微调。

随后，通过人工评估Telco LLM给出的回答是否有用，并以此进行强化学习；再对其语言能力、推理能力以及执行电信特化任务的能力等进行模型评估（基准测试）。如果Telco LLM在咨询类型选择等项目上得分较低，SKT将进一步构建相关数据并持续训练，从而不断提升技术水平。

Eric Davis SKT人工智能技术协作负责人表示：“仅依靠一个通用LLM来解决电信运营商希望提供的服务和要解决的问题并不容易”，“根据电信数据和领域知识进行微调和基准测试，打造多种Telco LLM，并可根据情境灵活选用，这是SKT独有的多LLM战略。”

负责SKT人工智能平台的 Jeong Minyeong 正在介绍“Telco LLM”。照片由记者 Hwang Seoyul 提供

SKT认为，以Telco LLM为基础，电信运营商的客户咨询业务将得到大幅改善。因为在座席人员与客户通话期间，LLM可以协助完成咨询内容摘要、解决方案提示等工作。一般而言，处理一通咨询电话大约需要3分钟与客户沟通，通话结束后的业务处理还需30秒以上。基于Claude版本的Telco LLM还能准确把握人工智能伦理原则、我国新造词、辱骂、威胁性恶语等语境和语气，这也是一大优势。

该模型在电信运营商网络基础设施运维方面同样实用。由于Telco LLM可基于设备手册、应对案例等信息，提供符合情境的回答，相比由基础设施运维人员等人工查找信息，可缩短响应时间。除此之外，SKT认为，在市场营销与渠道、法务、人力资源等公司内部业务等运营商运营的各个领域，Telco LLM都可以提升业务效率。

当天，SKT还公开了“智能平台”，帮助电信运营商高效构建和开发面向电信行业特化的多LLM。该平台是一套涵盖多LLM、多模态、编排、检索增强生成（RAG）等功能的“企业级AI开发与运维套件”。

目前，SKT正在将智能平台应用于A.(A.Dot)等服务，并计划扩大应用案例。可应用的服务包括客户中心语音机器人、聊天机器人、渠道助手、基础设施助手以及公司内部业务创新等。