Esri setzt sich für Transparenz in der KI ein, indem es detaillierte Einblicke in die Funktionalität der KI-Funktionen, Datenquellen und Datenschutz-/Sicherheitsmaßnahmen bereitstellt. Mithilfe der Übersichten zur KI-Transparenz können Kunden fundierte Entscheidungen über die Nutzung generativer KI in ArcGIS-Produkten treffen. Einen vollständigen Überblick über die Abschnitte und Details der Übersichten finden Sie im Dokument Transparency Card Structure.
Modellübersichten im Vergleich zu Transparenz-Übersichten
Viele in ArcGIS-Produkten verwendete KI-Modelle verfügen über KI-Modellübersichten – ein sich entwickelnder Industriestandard. Die Modellübersichten dokumentieren jedoch in erster Linie das Modell selbst und bieten keinen produktspezifischen Kontext, wie z. B. die Art und Weise, wie Esri die KI-Funktion in ArcGIS integriert, die beabsichtigten Anwendungsfälle und die vorhandenen Verfahren zur Risikominderung.
Um hier Abhilfe zu schaffen, hat Esri KI-Transparenz-Übersichten für ArcGIS-Produkte entwickelt, die generative KI verwenden. Diese KI-Transparenz-Übersichten erweitern die Informationen auf den Modellübersichten um folgende Angaben:
- Feature-Funktionalität: Die Art und Weise, wie KI in ArcGIS-Produkten implementiert ist.
- Datenquellen: Daten, die die KI-Funktion verarbeitet und der Umgang mit diesen Daten.
- Validierung und Risikominderung: Getroffene Sicherheitsvorkehrungen zur Gewährleistung von Sicherheit, Genauigkeit und Compliance.
- Datenschutz- und Sicherheitsmaßnahmen: Schutz von Kundendaten und ob diese aufbewahrt oder in Modelltrainings verwendet werden.
- Bekannte Einschränkungen: Transparenz in Bezug auf potenzielle Verzerrungen, Einschränkungen bei der Genauigkeit oder Überlegungen zur verantwortungsvollen Nutzung.
Diese Übersichten enthalten wichtige Details, die es unseren Kunden ermöglichen, solche KI-Funktionen auf verantwortungsvolle Weise zu integrieren und zu nutzen.
Übersichten zur KI-Transparenz - Aufbau
Derzeit sind generative KI-Features in Produkten von Esri noch nicht zur vollen Produktionsreife entwickelt. Wir stellen jedoch Transparenz-Übersichten für KI-Features in der Beta-Phase zur Verfügung, um eine frühzeitige Sensibilisierung zu fördern und eine fundierte Entscheidungsfindung zu ermöglichen. Wir freuen uns über Kundenfeedback, während wir die KI-Transparenz-Übersichten im Laufe der Zeit auf weitere Features ausdehnen.
Jede Transparenz-Übersicht enthält strukturierte Abschnitte mit Beschreibungen und Antworten. Zur besseren Übersichtlichkeit enthalten bestimmte Abschnitte vordefinierte Optionen, die in der PDF-Datei AI Transparency Card Structure zusammengefasst sind.