随着企业越来越依赖数据驱动的决策，将人工智能（AI）应用于业务流程已成为确保数据准确性和及时性的重要手段。不论是内部生成的数据还是外部来源的数据，AI的应用加速了这一需求，然而，这也带来了一系列挑战和风险。

不良数据的代价

使用质量不佳的数据可能导致巨大的经济损失。根据Gartner的估计，企业因使用低质量数据而平均每年损失1290万美元。IBM的计算显示，糟糕的数据每年给美国经济造成的损失超过3万亿美元，其中大部分费用涉及企业内部在数据通过和跨部门传递时检查和更正数据的工作。这不仅浪费了大量的资源，还影响了企业的运营效率。

除了内部成本外，不良数据还可能导致声誉损害。一些组织因为基于虚假或误导性数据而采取不当行为，从而受到客户、监管机构和供应商的责难。一例是《体育画报》的CEO因为使用AI生成的图像和虚假作者的文章而失去工作，导致母公司市值损失20%。

AI黑匣子

尽管纠正和检查使用在企业决策和业务运营中的数据已成为行业标准，但对大型语言模型（LLM）的训练过程的了解变得越来越重要。虚假信息可能导致严重后果，如一位澳大利亚地区市长因ChatGPT虚假声称而面临诉讼。对LLM进行可信数据培训和采用迭代查询、检索增强生成或推理等方法是减少幻觉危险的有效途径，但不能完全保证其不会发生。

合成数据的培训

企业寻求竞争优势通过AI系统部署时，专有数据的获取变得至关重要。然而，许多企业无法获得足够和相关的专有数据来训练模型。一种解决方案是增加对合成训练数据的使用。Gartner估计，到2030年，AI模型中合成数据将超过真实数据的使用。然而，过度依赖合成数据可能加速产生不准确的结果和决策失误的风险。数据质量混乱可能导致更长期的问题，因为AI模型是在不符合标准的合成数据上进行训练的，这可能会影响后续模型的输出。

谨慎行事

虽然AI为企业带来了无法想象的商业变革，但获取规模化、可靠和可信的数据已成为CIO和其他企业领导人必须在为时已晚之前解决的关键问题。谨慎行事，确保对数据的可靠性和质量进行充分的审查和验证，将是确保企业在数字时代取得成功的关键因素。只有通过合理的数据管理和透明的AI应用，企业才能真正发挥人工智能的潜力，推动业务的创新和发展。