在 Esri，我们优先考虑 AI 开发和部署中的信任问题。 ArcGIS 中的可信 AI 关注安全性、隐私、透明度、公平性、可靠性和责任制。 这体现了 Esri 的价值观及其对负责任创新的承诺，旨在弥合 AI 信任鸿沟并促进积极的社会变革。 请于此处进一步了解 Esri 在 ArcGIS 中推进可信 AI 发展的详细信息。
Geo AI 与 AI 助手
Esri 在 ArcGIS 中利用了两大类 AI 技术：
- GeoAI：使用预训练的深度学习模型执行要素提取、模式识别和预测分析等任务。 GeoAI 与地理空间工作流集成，使用户能够借助先进的计算工具分析空间数据。
- 生成式 AI：包括 AI 助手和其他生成式技术，它们能够支持创意生成、提升用户生产力并自动化工作流。
在过去几年生成式 AI 迅速发展之前，人们提到 AI 时通常指的是用于模式识别、预测分析、对象检测、变化检测等任务的机器学习和深度学习模型。 早在十多年前，Esri 就开始使用机器学习对空间数据进行聚类、回归和分类操作。 近年来，Esri 进一步推动了机器学习和深度学习的发展，并引入了预训练深度学习模型，以简化要素提取、点云分类、图像去标识化等任务的实现。 这些工作均属于 Esri 所称的 GeoAI 领域。
生成式 AI 是一种类型的机器学习模型，旨在通过学习大规模数据集中的模式来创建新内容或提供有见地的建议。 生成式 AI 模型通常基于海量数据进行了训练，可能包括特定领域的大规模数据和/或互联网数据。 与专注于预测分析的传统 AI 模型不同，生成式 AI 模型用于生成创意输出，如文本、图像或其他形式的内容。
与上述生成式 AI 相比，GeoAI 侧重于分析和解读地理空间数据，以使用输入数据揭示模式并执行预测分析。 可以将生成式 AI 视为一种被训练来创建新数据的机器学习模型，而不是对特定数据集进行预测。由于生成式 AI 更具非确定性，所以它能够提供更具创意的解决方案。 生成式 AI 系统是一种学习生成更多与其训练数据相似的对象的系统。 ArcGIS 中的 AI 助手是一项结合了生成式 AI 技术的 ArcGIS 功能示例。
生成式 AI 和其他类型 AI 的实际机制通常采用相同的算法，这可能会模糊各类型之间的区别。 生成式 AI 的快速普及和广泛应用促使监管要求加速落地，同时客户对更高透明度和更强控制力的需求也在不断增长。
形势
AI 领域正快速发展。 各国政府正在通过颁布新法律和框架来塑造 AI 的未来。 例如，欧盟最近通过了《欧盟人工智能法案》，制定了针对高风险 AI 应用程序的相关法规。 美国则推出了多项 AI 治理倡议和行政措施，以应对 AI 系统中的潜在风险、偏见和安全问题，尽管相关政策仍在不断演变。
Esri 充分认识到遵循不断变化的法律要求、推进负责任的发展以及考虑伦理因素的重要性。 我们积极使 AI 实践与关键法规及行业认可的框架保持一致。 其中包括遵循上述法律法规的指导方针。
指导原则
Esri 的可信 AI 框架建立在六个核心原则之上：
- 安全性：我们致力于通过安全设计方法保障 AI 系统的安全性，降低风险，并确保 AI 能够负责任地主动防范安全威胁。
- 隐私：我们优先保护用户数据，确保 AI 生命周期中的隐私安全，并通过隐私设计方法、数据匿名化和数据最小化措施，确保符合全球隐私标准。
- 透明度：我们提供清晰的信息，使用户能够了解我们的 AI 模型，支持对 AI 过程、局限性和结果做出明智决策。
- 公平性：Esri 长期在实践中坚持公平、伦理和社会责任原则。 这些核心价值观贯彻在决策、产品开发和社区互动中。
- 可靠性：我们的 AI 经过严格测试和验证，确保在不同环境和应用场景中提供稳定可靠的结果。
- 责任制：我们的责任制通过以下方式实现，建立明确的治理框架，确保 AI 开发和监控的责任落实到位，并保持人工监督在所有 AI 相关决策中的核心作用。
Esri 的方法
设计与开发Esri 采用风险评估流程对 AI 功能进行评估，确保符合隐私和安全标准。 通过“人在环中”设计、伦理保障机制、红队测试以及全面的实验室测试，Esri 在降低风险的同时确保包容性和用户可控性。
客户选择ArcGIS 中的 AI 助手为可选功能，用户可以自主决定何时以及如何使用 AI 功能。 客户可通过管理设置启用或限制 AI 功能，以确保符合组织政策。
数据处理客户数据隐私是 Esri AI 策略的核心：
- 除非获得用户明确授权（例如在应用程序内提供反馈），否则，Esri 不会使用客户数据训练 AI 模型。
- 客户拥有其在 ArcGIS 产品中提供的 AI 分析提示和数据的所有权。
AI 功能遵循数据分割和匿名化原则，以保护数据的所有权和完整性。
元数据与透明度Esri 开发了 AI 透明度卡，可详细说明 AI 功能的作用、验证过程及安全保障措施。 这些卡片为负责任的 AI 使用提供背景信息，并与 AI 模型卡等行业标准相辅相成。
治理2023 年，Esri 成立 AI 治理委员会来监控 AI 是否符合可信 AI 原则。 该协作性举措确保创新符合伦理和监管要求。
保障措施
以下措施适用于我们产品中的所有生成式 AI 功能：
- 生成式 AI 功能在 ArcGIS 产品中默认处于禁用状态：
- 最终用户或管理员必须主动启用才能使用生成式功能。
- 除非用户明确授权 Esri（例如在应用程序内提供反馈），否则用于 AI 助手的数据和提示：
- 不会用于训练 AI 模型。
- 仅限用户使用，绝不会被共享。
- 当使用第三方 AI 服务时：
- 采用企业级 AI 实例来分割和保护用户数据。
- 生成式 AI 功能具有以下局限性：
- 由于生成式 AI 的创造性，输出结果可能存在不一致。
- 客户应始终通过人工审核来评估 AI 输出，以确保适宜性。
深度学习
Esri 多年来一直提供 GeoAI 功能，例如 Living Atlas 中的深度学习包。 这些深度学习包包含一个项目描述页面，其中可能包括以下字段：适用场景、模型架构、训练数据、调整指南、性能指标、样本、输入/输出信息以及可能的局限性。 此外，我们强烈建议仅从标记为权威的来源下载深度学习包，该标记意味着发布内容的组织已通过 Esri 验证。 在下载内容之前，应联系您希望使用的内容的发布者，并要求其完成验证。
非产品功能
除了 ArcGIS 产品，Esri 还提供如 Esri 支持 AI 聊天机器人和产品营销聊天机器人等生成式 AI 功能。 这些工具可帮助用户更高效地使用 Esri 生态系统。 但由于这些聊天机器人并未嵌入 ArcGIS 产品，其使用可能涉及独立的条款和数据处理方式，例如与市场营销相关的追踪。
协作
构建可信 AI 是一项共同责任。 Esri 与客户合作实施最佳实践，包括数据治理、符合伦理要求的 AI 使用以及人工监督。 用户的反馈有助于增强我们的解决方案，推动建立一个以信任和创新为核心的协作环境。 有关详细信息，请参阅我们客户的 AI 实施最佳做法指南。
Esri 始终致力于应用可信 AI，并持续推进 GeoAI 及 AI 助手的功能发展。 通过负责任地整合这些技术，我们正在构建一个既能使 AI 助力积极变化，又能保持最高可信标准的未来。
参考资料
- 欧盟人工智能法案：：首个人工智能监管法规
- Four principles of explainable Artificial Intelligence: NIST.IR.8312.pdf
- Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile NIST.AI.600.1.pdf
- Esri 参考：在 ArcGIS 中推进可信 AI 的发展
- Esri 参考：AI 透明度卡结构