Skip To Content

ArcGIS での信頼性の高い AI

Esri では、AI の開発と配置に対する信頼を優先しています。 ArcGIS での信頼性の高い AI は、セキュリティ、プライバシー、透明性、公平性、信頼性、説明責任に重点を置いています。 これは、Esri の価値と、責任のある革新、AI の信頼のギャップの解消、ポジティブな社会変化の促進への取り組みを反映しています。 Esri の「ArcGIS での信頼性の高い AI の促進」の詳細については、こちらをご参照ください。

Geo AI とアシスタント

Esri は ArcGIS 内で 2 つの主要な AI のカテゴリを利用します。

  • GeoAI: フィーチャ抽出、パターン認識、予測解析などのタスクに事前トレーニング済みのディープ ラーニング モデルを使用します。 GeoAI は地理空間ワークフローに統合されます。これにより、ユーザーは高度な計算ツールを使用して空間データを解析できます。
  • 生成 AI: 創造性、ユーザーの生産性、自動ワークフローをサポートする、AI アシスタントとその他の生成技術を組み込みます。

ここ数年の生成 AI ブーム以前は、AI についての話は、一般的に、パターン認識、予測、オブジェクトの検出、変化の検出などで使用される機械学習やディープ ラーニング モデルを指していました。 10 年以上前に、Esri は、空間データでクラスタリング、回帰、分類を実行する機械学習を開始しました。 最近では、機械学習とディープ ラーニング分野での研究が続けられており、フィーチャ抽出、点群分類、画像墨消しなどのタスクを開始しやすくするための事前トレーニング済みディープ ラーニング モデルなどが導入されています。 これは、Esri が GeoAI と呼んでいるものの一環です。

生成 AI は、大規模なデータセットからのパターンを学習することにより、新しいコンテンツまたは見識のある推奨を作成するように設計された機械学習モデルの一種です。 生成 AI モデルは、広範囲なデータセットでトレーニングされ、ドメイン固有の大規模データやインターネットからのデータを含む可能性があります。 予測解析にフォーカスする従来の AI モデルとは異なり、生成 AI モデルは、テキスト、画像、他の形式のコンテンツなどのクリエイティブな出力を生成するために使用されます。

前述の生成 AI とは異なり、GeoAI は、パターンを検出し、入力データを使用して予測解析を実行するために、地理空間データを解析および解釈することにフォーカスしています。 生成 AI は、特定のデータセットについて予測をするよりも、新しいデータをつくるためにトレーニングされ、よりクリエイティブ ソリューションが可能な、より非決定的な機械学習モデルとして考えることができます。 生成 AI システムは、トレーニングしたデータのようなオブジェクトをさらに生成するように学習するシステムです。 生成 AI を組み込んだ ArcGIS 機能の例として、ArcGIS 内の AI アシスタントがあります。

生成 AI の基になる実際の機械と他のタイプの AI は、同じアルゴリズムを使用することがよくあり、タイプ間の区別があいまいになる可能性があります。 生成 AI の急速な普及と広範な使用例により、規制要件の迅速化と、より強力な透明性と管理を求めるお客様の要求が生じています。

環境

AI 環境は急速に進化しています。 世界中の政府は、新しい法律とフレームワークを制定することにより、AI の将来を積極的に定めています。 たとえば、欧州連合は最近、高リスクのアプリケーションに対する規制を定める EU AI Act を採択しました。 米国は、AI システムにおける潜在的なリスク、バイアス、安全性に対する懸念に対処するさまざまな AI ガバナンス イニシアティブと大統領令を発表しましたが、これらのポリシーは進化し続けています。

Esri は、これらの進化している法的要件や規制、責任ある開発、倫理的な考慮事項に先んじることの重要性を認識しています。 Esri は積極的に、AI 手法を重要な規制および業界が認定したフレームワークに合わせます。 これには、上記の法律や規制によって定められたガイダンスに従うことも含まれます。

指針となる原則

Esri の信頼性の高い AI フレームワークは、6 つの基本原則に基づいています。

  • セキュリティ: セキュリティの脅威から積極的に保護を行う責任のある AI を確保しながら、セキュア バイ デザイン アプローチによる AI システムでのセキュリティの保護およびリスクの軽減に取り組んでいます。
  • プライバシー: AI のライフサイクル全体を通じてユーザー データの保護と AI のプライバシーの確保を優先し、プライバシー バイ デザイン手法、データ匿名化、データの最小化を通じて世界的なプライバシー標準に確実に準拠します。
  • 透明性: AI モデルについて明確な可視性を提供し、AI プロセス、制限事項、結果について情報に基づく意思決定を支援します。
  • 公平性: Esri は、日々の実践における公平性、倫理性、社会的責任の原則を長い間支持してきました。 これらの中核となる価値は、意思決定、製品開発、コミュニティの関与に向けた Esri のアプローチに組み込まれています。
  • 信頼性: Esri の AI は、さまざまな環境と使用例で一貫性があり信頼できる結果を提供するよう、慎重にテストおよび検証されています。
  • 説明責任: 明確なガバナンス フレームワークを確立することにより説明責任を維持し、AI の配置と監視を担当するチームを保持して、人間による監視が AI に関連するすべての決定の中核をなすようにしています。

Esri のアプローチ

設計と開発

Esri は、AI 機能を評価するリスク評価プロセスを採用しているため、プライバシーおよびセキュリティ標準を満たすことができます。 人間参加型の設計、レッド チーミング、全体的なラボ テストを通じて、Esri は、包括性とユーザー制御を確保しながらリスクを最小限に抑えます。

お客様の選択

ArcGIS の AI アシスタントはオプトイン方式のため、ユーザーは AI 機能を使用するタイミングと方法を制御できます。 お客様は、管理設定を介して AI 機能を有効化または制限することができるため、組織のポリシーに適合できます。

データの取り扱い

お客様のデータ プライバシーは、Esri の AI 戦略の中核をなします。

  • (アプリケーション内でフィードバックを提供するなど) ユーザーが明示的に許可しない限り、Esri は明示的な許可なくお客様のデータを使用して AI モデルをトレーニングしません。
  • お客様は、ArcGIS 製品内の AI 解析用に提供したプロンプトとデータの所有権を保持します。

AI 機能は、データのセグメンテーションと匿名化手法に従い、データの所有権と整合性を保護します。

メタデータと透明性

Esri は、AI 機能の機能、検証、保護対策を詳しく説明する AI 透明性カードを開発しました。 これらのカードは、責任のある AI の使用に対してコンテキストを提供し、AI モデル カードのような業界標準を補完します。

ガバナンス

2023 年に、Esri は、信頼できる AI の原則への順守を管理する AI Governance Board を設立しました。 この共同イニシアティブにより、イノベーションが倫理および規制に関する考慮事項によって導かれることが保証されます。

保護対策

次の側面は、製品に組み込んだすべての生成 AI 機能に当てはまります。

  • ArcGIS 製品では、生成 AI 機能はデフォルトで無効になっています。
    • 生成機能を使用するには、エンド ユーザーと管理者はオプトインする必要があります。
  • (アプリケーション内でフィードバックを提供するなど) ユーザーが明示的に Esri に許可しない限り、AI アシスタントで使用するデータとプロンプトは次のようになります。
    • AI モデルのトレーニングに使用されません。
    • 自分専用のままになり、共有されません。
  • サードパーティの AI サービスを利用した場合:
    • データのセグメント化と保護に、エンタープライズクラスの AI インスタンスが使用されます。
  • 生成 AI 機能には次の制限があります。
    • 生成 AI のクリエイティブな結果の出力部分が一貫していない可能性があります。
  • お客様は、妥当性を保証するために、AI 出力を評価する人員を常に組み込む必要があります。

ディープ ラーニング

Esri は、Living Atlas 内で使用できるディープ ラーニング パッケージなどの GeoAI 機能を、長期にわたって提供してきました。 これらのディープ ラーニング パッケージには、用途、モデル アーキテクチャ、使用されるトレーニング データ、調整のガイダンス、パフォーマンスの指標、サンプル、入力/出力、潜在的な制限などのフィールドを含むアイテム説明ページが含まれています。 また、信頼できるとマークされたソースからのみパッケージをダウンロードすることを強くおすすめします。これは、コンテンツを公開する組織が Esri により確認されたことを意味します。 利用するコンテンツの公開者に連絡して、コンテンツをダウンロードする前に確認を完了するよう依頼する必要があります。

製品以外の機能

ArcGIS 製品だけでなく、Esri は、Esri Support AI Chatbot や Product Marketing Chatbot などの生成 AI 機能を提供しています。 これらのツールは、ユーザーが Esri のエコシステムを効率よく操作するのに役立ちます。 ただし、これらのチャットボットは ArcGIS 製品に組み込まれていないため、マーケティング関連のトラッキングなど、別の利用規約やデータの取り扱いが含まれる場合があります。

コラボレーション

信頼性の高い AI の実現は共同責任です。 Esri は、お客様と連携して、データ ガバナンス、倫理的な AI の使用、人間による監視に関するベスト プラクティスを実装します。 ユーザーからのフィードバックは、ソリューションを強化し、信頼と革新を達成する共同環境を促進します。 詳細については、お客様の AI 実装のベスト プラクティスに関するガイダンスをご参照ください。

信頼性の高い AI に対する Esri の取り組みは、GeoAI と AI アシスタントの機能を向上させても変わらないままです。 責任をもってこれらのテクノロジを統合することにより、信頼性の最も高い標準を維持しながら、AI がポジティブな変化を支援する未来を構築しています。

参考文献