[THE VIEW]人工智能，什么最重要

Published 24 Jan.2024 07:53(KST)

Updated 23 Jun.2025 16:07(KST)

open/close

与其指望AI给出标准答案，
不如把它视为辅助人类判断的工具

随着人工智能（AI）技术的快速发展，AI在商业模式中已不再是可有可无的选项，而是必不可少的核心要素。在汹涌而来的数据洪流中，服务提供者借助AI技术能够进行更为细致、精密的用户分析，从而提供高性能的定制化服务。由此，消费者享受到的信息搜索成本大幅降低、信息获取更加便捷等优势。

从表面上看，AI似乎只在服务提供者和消费者双方扮演着积极角色。然而，现阶段的AI技术虽然会根据输入数据输出结果，但其数据运作原理及处理过程却无法得知，存在“黑箱”式的局限。由于这一特性，即便输入相同的数据，也可能生成不同的结果，而且对结果的解读也变得更加困难。

为克服上述局限，最重要且不可忽视的一点，就是“可解释人工智能（XAI：eXplainable AI）”与“AI的透明性（transparency）”。这意味着，人们不应只是被动接受黑箱式的结果，而是应当能够理解数据是如何被处理的，并获得足以让人类理解和判断结果的依据。近期，美国联邦贸易委员会（FTC）和美国国家标准与技术研究院（NIST）已经提交了有关训练数据透明性的规则立法提案，围绕AI“正确”使用方式的监管也在全球范围内持续扩大。

与此相应，近期围绕可解释人工智能的研究在多个方向上正如火如荼地展开，但看上去距离所谓的“标准答案”仍存在差距——当然，前提是这个问题真的存在标准答案。即便AI技术的输出结果被认为是可解释的，关于该解释是否准确、以及对“准确解释”的定义，依然需要无休止的讨论与争论。

笔者想要强调的是，与其期待当前的AI给出标准答案或作出绝对正确的判断，不如将其视为让人类判断更为便捷的工具。这种视角的转变是必要的。尽管金融、医疗、教育等不同领域之间会存在差异，但在最终决策阶段，分析师或专家的意见仍应被重要地加以考虑。所谓可解释人工智能，与其说是接近标准答案的技术，不如说是在帮助人类解读情境、做出正确判断这一层面上具有价值。这意味着，人类与AI技术可以通过协作，进而产出更为优异的结果。

AI技术退步或消失的可能性极低，相反，其发展速度很可能会更加迅猛。然而，AI技术不可能成为解决所有问题的“万能钥匙”。我们需要对AI技术本身有全面的理解，对其适当的应用方案有深入的认识，并在“正确”使用AI技术方面付出持续而系统的努力。