Trusted AI in ArcGIS

Esri legt bei der KI-Entwicklung und -Bereitstellung großen Wert auf Vertrauen. Trusted AI in ArcGIS konzentriert sich auf Sicherheit, Datenschutz, Transparenz, Fairness, Zuverlässigkeit und Rechenschaftspflicht. Dies steht im Einklang mit den Werten und dem Engagement von Esri für verantwortungsvolle Innovation, die Schließung der Vertrauenslücke bei KI und die Förderung eines positiven gesamtgesellschaftlichen Wandels. Weitere Informationen zu Advancing Trusted AI von Esri in ArcGIS finden Sie hier.

Geo AI und Assistenten

Esri nutzt zwei Hauptkategorien der KI in ArcGIS:

• GeoAI: Verwendet vorab trainierte Deep-Learning-Modelle für Tasks wie die Extraktion von Features, Mustererkennung und vorhersagende Analysen. GeoAI lässt sich in räumliche Workflows integrieren und ermöglicht es Benutzern, räumliche Daten mit fortschrittlichen rechnergestützten Werkzeugen zu analysieren.

• Generative AI: Enthält KI-Assistenten und andere generative Technologien, die Kreativität, Benutzerproduktivität und automatisierte Workflows unterstützen.

Vor dem Boom generativer KI in den letzten Jahren waren mit KI in der Regel maschinelles Lernen und Deep-Learning-Modelle gemeint, die in der Mustererkennung, Vorhersage, Objekterkennung, Änderungserkennung und mehr zum Einsatz kommen. Vor über einem Jahrzehnt begann Esri mit dem maschinellen Lernen, um Cluster-Bildung, Regression und Klassifizierung von räumlichen Daten durchzuführen. Auch in jüngster Zeit wurde die Arbeit sowohl im Bereich des maschinellen Lernens als auch des Deep Learning fortgesetzt, einschließlich der Einführung vorab trainierter Deep-Learning-Modelle, um den Einstieg in Tasks wie die Extraktion von Features, die Klassifizierung von Punktwolken und die Bildbearbeitung zu erleichtern. Dieser Arbeitsbereich fällt unter das, was Esri als GeoAI bezeichnet.

Generative AI bezieht sich auf eine Art Modell des maschinellen Lernens, das darauf ausgelegt ist, neue Inhalte oder aufschlussreiche Empfehlungen zu erstellen, indem es Muster aus umfangreichen Datasets lernt. Generative AI-Modelle werden anhand umfangreicher Datasets trainiert, die sehr große, domänenspezifische Daten und/oder Daten aus dem Internet enthalten können. Im Gegensatz zu herkömmlichen KI-Modellen, die sich auf vorausschauende Analysen konzentrieren, werden generative KI-Modelle verwendet, um kreative Ausgaben wie Texte, Bilder oder andere Formen von Inhalten zu schaffen.

Im Gegensatz zur oben beschriebenen Generative AI konzentriert sich GeoAI auf die Analyse und Interpretation von Geodaten, um Muster zu erkennen und mithilfe der Eingabedaten vorausschauende Analysen durchzuführen. Generative AI kann als ein Modell des maschinellen Lernens betrachtet werden, das darauf trainiert ist, neue Daten zu generieren, anstatt eine Vorhersage über ein bestimmtes Dataset zu treffen. Sie ist weniger deterministisch und ermöglicht kreativere Lösungen. Ein generatives KI-System ist ein System, das lernt, mehr Objekte zu generieren, die wie die Daten aussehen, mit denen es trainiert wurde. Ein Beispiel für die Fähigkeiten von ArcGIS, die generative KI beinhalten, sind KI-Assistenten in ArcGIS.

Die eigentlichen Systeme, die der generativen KI und anderen KI-Arten zugrunde liegen, verwenden oft dieselben Algorithmen, was die Unterscheidung zwischen den Arten verwischen kann. Die schnelle Verbreitung generativer KI und umfassendere Anwendungsfälle haben zu verschärften regulatorischen Anforderungen und Kundenforderungen nach mehr Transparenz und Kontrolle geführt.

Landschaft

Die KI-Landschaft entwickelt sich rasant weiter. Regierungen auf der ganzen Welt gestalten die Zukunft der KI aktiv mit, indem sie neue Gesetze und Rahmenbedingungen verabschieden. So hat die Europäische Union beispielsweise kürzlich das EU-KI-Gesetz verabschiedet, das Vorschriften für KI-Anwendungen mit hohem Risiko festlegt. Die Vereinigten Staaten haben verschiedene Initiativen und Maßnahmen zur KI-Governance eingeführt, um potenzielle Risiken, Einseitigkeiten und Sicherheitsbedenken in KI-Systemen anzugehen, wobei diese Richtlinien jedoch ständig weiterentwickelt werden.

Esri hat erkannt, wie wichtig es ist, sich an die Spitze dieser sich entwickelnden gesetzlichen Anforderungen und regulatorischen, verantwortungsvollen Entwicklungs- und ethischen Überlegungen zu setzen. Proaktiv stimmen wir unsere KI-Praktiken auf die wichtigsten Vorschriften und branchenweit anerkannten Rahmenbedingungen ab. Dies beinhaltet die Befolgung der Richtlinien, die durch die oben genannten Gesetze und Vorschriften festgelegt sind.

Leitprinzipien

Das Trusted AI-Framework von Esri basiert auf sechs Grundprinzipien:

• Sicherheit: Wir sind bestrebt, die Sicherheit zu gewährleisten und Risiken in unseren KI-Systemen durch einen Secure-by-Design-Ansatz zu minimieren, während wir gleichzeitig eine verantwortungsvolle KI sicherstellen, die proaktiv vor Sicherheitsbedrohungen schützt.
• Datenschutz: Wir legen großen Wert auf den Schutz von Benutzerdaten und die Gewährleistung der Privatsphäre von KI während des gesamten KI-Lebenszyklus. Wir stellen die Compliance mit globalen Datenschutzstandards durch Privacy-by-Design-Methoden, Datenanonymisierung und Datenminimierung sicher.
• Transparenz: Wir bieten vollständige Transparenz über unsere KI-Modelle und ermöglichen so eine fundierte Entscheidungsfindung in Bezug auf unsere KI-Prozesse, -Grenzen und -Ergebnisse.
• Fairness: Esri hat sich in seiner täglichen Arbeit schon immer an die Grundsätze der Fairness, Ethik und gesellschaftlichen Verantwortung gehalten. Diese Grundwerte sind in unserem Ansatz für die Entscheidungsprozesse, die Produktentwicklung und das Engagement in der Community verankert.
• Zuverlässigkeit: Unsere KI wird sorgfältig getestet und validiert, um konsistente und zuverlässige Ergebnisse in verschiedenen Umgebungen und Anwendungsfällen zu liefern.
• Rechenschaftspflicht: Wir stellen die Rechenschaftspflicht sicher, indem wir klare Governance-Rahmenbedingungen festlegen, unsere Teams für die Bereitstellung und Überwachung von KI verantwortlich machen und sicherstellen, dass die menschliche Aufsicht bei allen KI-bezogenen Entscheidungen im Mittelpunkt steht.

Der Ansatz von Esri

Design und Entwicklung

Esri stellt einen Risikobewertungsprozess bereit, um die Funktionen von KI zu bewerten und sicherzustellen, dass sie den Datenschutz- und Sicherheitsstandards entsprechen. Durch das Human-in-the Loop-Design, ethische Richtlinien, Red Teams und ganzheitliche Labortests minimiert Esri Risiken und gewährleistet gleichzeitig Inklusivität und Benutzerkontrolle.

Wahlmöglichkeit für Kunden

KI-Assistenten in ArcGIS sind optional und ermöglichen es den Benutzern, zu steuern, wann und wie KI-Funktionen genutzt werden. Kunden können KI-Funktionalitäten über administrative Einstellungen aktivieren oder einschränken und so die Übereinstimmung mit den Richtlinien der Organisation sicherstellen.

Data Handling

Der Schutz der Kundendaten ist ein zentraler Bestandteil der KI-Strategie von Esri:

• Sofern nicht ausdrücklich von Ihnen autorisiert (z. B. durch Feedback in der Anwendung), verwendet Esri keine Kundendaten für das Training von KI-Modellen ohne ausdrückliche Genehmigung.
• Kunden behalten das Eigentum an den Prompts und Daten, die sie für die KI-Analyse in ArcGIS-Produkten bereitstellen.

Die KI-Funktionalitäten entsprechen den Praktiken der Datensegmentierung und -anonymisierung und schützen das Eigentum und die Integrität der Daten.

Metadaten und Transparenz

Esri hat KI-Transparenz-Übersichten entwickelt, die die Funktionalität, Überprüfung und Schutzmaßnahmen von KI-Funktionen detailliert beschreiben. Diese Übersichten bieten einen Kontext für den verantwortungsvollen Einsatz von KI und ergänzen Industriestandards wie KI-Modellübersichten.

Governance

Im Jahr 2023 hat Esri ein AI Governance Board eingerichtet, um die Einhaltung vertrauenswürdiger KI-Prinzipien zu überwachen. Diese gemeinschaftliche Initiative stellt sicher, dass Innovationen von ethischen und regulatorischen Überlegungen geleitet werden.

Schutzmaßnahmen

Die folgenden Aspekte gelten für alle generativen Funktionen der künstlichen Intelligenz, die wir in unsere Produkte integrieren:

• Generative KI-Features sind in ArcGIS-Produkten NICHT standardmäßig aktiviert:
  • Endbenutzer und/oder Administratoren können sich für die Nutzung generativer KI-Funktionen frei entscheiden.
• Sofern Sie Esri nicht ausdrücklich dazu autorisieren (z. B. durch Feedback innerhalb der Anwendung), gelten für Daten und Prompts, die Sie mit KI-Assistenten verwenden, folgende Bedingungen:
  • Die Daten werden nicht für das Training von KI-Modellen verwendet.
  • Die Daten bleiben privat und werden niemals freigegeben.
• Bei der Nutzung von KI-Services von Drittanbietern:
  • KI-Instanzen der Enterprise-Klasse werden zur Segmentierung und zum Schutz Ihrer Daten eingesetzt.
• Generative KI-Funktionen haben Einschränkungen:
  • Das Potenzial für inkonsistente Ausgaben ist Teil der Konsequenzen, die sich aus der kreativen generativen KI ergeben.
• Kunden sollten immer Menschen einbeziehen, um die Ausgabe der KI zu bewerten und die Richtigkeit sicherzustellen.

Deep Learning

Esri stellt seit Jahren GeoAI-Funktionen zur Verfügung, wie z. B. die Deep-Learning-Pakete, die zusammen mit dem Living Atlas verfügbar sind. Diese Deep-Learning-Pakete enthalten eine Seite mit einer Beschreibung der Elemente, die Felder wie Verwendungszweck, Modellarchitektur, verwendete Trainingsdaten, Anleitung zur Optimierung, Performance-Kennwerte, Beispiele, Eingabe/Ausgabe und potenzielle Einschränkungen enthalten kann. Darüber hinaus empfehlen wir dringend, nur Pakete von Quellen herunterzuladen, die als verlässlich gekennzeichnet sind, d. h. die Organisation, die den Inhalt veröffentlicht, wurde von Esri überprüft. Sie sollten sich an die Anbieter der Inhalte wenden, die Sie nutzen möchten, und sie bitten, die Prüfung abzuschließen, bevor Sie ihre Inhalte herunterladen.

Über Produkte hinausgehende Funktionen

Neben den ArcGIS-Produkten bietet Esri generative KI-Funktionen wie den Esri Support AI Chatbot und den Product Marketing Chatbot. Diese Werkzeuge ermöglichen es den Benutzern, sich effizienter im Ökosystem von Esri zurechtzufinden. Da diese Chatbots jedoch nicht in ArcGIS-Produkte eingebettet sind, kann ihre Nutzung mit separaten Bedingungen und Datenpraktiken verbunden sein, wie z. B. marketingbezogenes Tracking.

Zusammenarbeit

Die Schaffung einer Trusted AI ist eine gemeinsame Verantwortung. Esri arbeitet mit Kunden zusammen, um Best Practices in den Bereichen Data Governance, ethische KI-Nutzung und menschliche Kontrolle umzusetzen. Das Feedback der Benutzer verbessert unsere Lösungen und fördert eine kollaborative Umgebung, in der Vertrauen und Innovation wachsen können. Weitere Informationen finden Sie in unserem AI Implementation Best Practice Guidance für Kunden.

Das Engagement von Esri für vertrauenswürdige KI bleibt unverändert, während wir die Fähigkeiten von GeoAI und KI-Assistenten weiterentwickeln. Durch die verantwortungsvolle Integration dieser Technologien schaffen wir eine Zukunft, in der KI positive Veränderungen ermöglicht und gleichzeitig die höchsten Standards der Vertrauenswürdigkeit eingehalten werden.

Referenzen

• EU-KI-Gesetz: erste Regulierung der künstlichen Intelligenz
• Vier Prinzipien der erklärbaren künstlichen Intelligenz: NIST.IR.8312.pdf
• Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile NIST.AI.600.1.pdf
• Esri-Referenz: Advancing Trusted AI in ArcGIS
• Esri-Referenz: AI Transparency card structure