[AI革命](27) ChatGPT引发安全威胁，我们来应对…Jiranjigyo Data
Jiranjigyo Data 推出“AI过滤器”防止ChatGPT泄露个人信息
 ChatGPT引发安全威胁，我们来应对…Jiranjigyo Data](http://www.asiae.co.kr/news/img_view.htm?img=2023050406134620407_1683148427.png)
近期，试图将OpenAI的“ChatGPT”用于业务的企业越来越多。但也有不少企业因为担心内部信息泄露而对引入ChatGPT持犹豫态度。像ChatGPT这样的基于大语言模型（LLM）的生成式人工智能服务，是在已学习的数据基础上回答用户问题，并通过学习用户对问答内容的评价，不断提升回答水平。然而，正因为会学习用户的提问内容，企业机密信息一旦被学习，便有可能向不特定多数公开。
实际上，国内某企业就出现了因使用ChatGPT导致内部信息泄露的案例。在解决程序错误的过程中使用ChatGPT的事实，在公司内部监控环节中被发现。该企业随即向员工公告，要求在使用ChatGPT时务必注意，并采取了限制提问时上传容量等防止再次发生的措施。同时，部分部门甚至禁止使用ChatGPT。
数据保护专业企业Jiranjigyo Data为防止此类ChatGPT滥用引发的机密信息及个人信息泄露，推出了基于人工智能的数据保护解决方案“AI FILTER”。
AI FILTER集成了多项技术：▲针对非结构化文本数据的个人信息与机密信息检测及去标识化处理技术 ▲针对图像及视频数据的个人信息检测及去标识化处理技术 ▲利用合成数据生成增强学习数据的技术 ▲针对ChatGPT等人工智能服务，为保护机密信息及个人信息而对提问与回答内容进行过滤的技术。该产品以API（Application Programming Interface，应用程序接口）形式提供，可与组织内部系统联动加以利用。
AI FILTER以API方式提供是其一大特点。不仅可与Jiranjigyo Data的数据及个人信息保护产品系列“FILTER系列”联动，还可与协同办公工具、集团软件等多种解决方案对接，从而防止个人信息及企业关键信息泄露。
Jiranjigyo Data代表Jo Wonhee表示，为应对ChatGPT等新IT技术带来的安全威胁，公司设定了两个目标：一是开发类似AI FILTER这样，防止机密信息及个人信息被输入、被泄露的过滤技术；二是高度化在人工智能学习等数据利用过程中，防止个人及机密信息受到侵害的保护技术。
Jo代表解释称：“我们持续高度化去标识化技术，以确保在人工智能学习过程中不侵犯个人信息和机密信息，而基于这一思路开发的产品就是‘ID FILTER’。”2021年推出的“ID FILTER”是一款个人信息去标识化解决方案，可将个人信息转换为无法识别个人身份的伪匿名或匿名信息，支持在不侵犯隐私的前提下利用数据。随着社会对数据利用的关注日益提高，对这款解决方案的关注度和需求也在快速增长。
Jiranjigyo Data能够快速应对由ChatGPT引发的安全威胁，得益于其在业界积累逾15年的经验。早在《个人信息保护法》制定之前的2006年起，Jiranjigyo Data便开始推出个人信息及数据保护解决方案产品系列，帮助各机构和企业安全保护数据及个人信息。
自2006年推出个人信息及不良帖子过滤解决方案“WEBFILTER”起，公司先后在2010年推出个人信息保护解决方案“PCFILTER”、2011年推出服务器个人信息诊断解决方案“SERVERFILTER”、2021年推出ID FILTER等数据及个人信息保护解决方案“FILTER”系列产品，并持续对外提供。
Jiranjigyo Data今后将持续开展基于人工智能的个人信息保护技术研究与开发。Jo代表表示：“个人信息及机密信息以各种形式存储在海量数据之中，要识别并保护这些数据中的个人信息及机密信息，人工智能技术必不可少。我们将继续开展相关人工智能技术研究，确保不仅数据库及文档文件，还包括图像、视频等多种数据中所含的个人信息及机密信息，都能得到安全、便捷的保护。”
版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。
