Zaangażowanie firmy Esri w przejrzystość użycia AI wyraża się przez określenie szczegółowych informacji na temat funkcji AI, źródeł danych oraz środków zapewnienia prywatności i bezpieczeństwa. Karty przejrzystości AI ułatwiają klientom podejmowanie świadomych decyzji na temat użycia generatywnej AI w produktach ArcGIS. Pełny przegląd pól karty przejrzystości oraz ich szczegóły można znaleźć w dokumencie dotyczącym struktury karty przejrzystości.
Karty modelu a karty przejrzystości
Wiele modeli AI używanych w produktach ArcGIS jest wyposażonych w karty modelu AI stanowiące rozwijający się standard branżowy. Jednakże karty modelu dokumentują przede wszystkim sam model i nie udostępniają kontekstu związanego z konkretnym produktem, takiego jak sposób, w jaki firma Esri integruje funkcje AI z oprogramowaniem ArcGIS, zamierzone przypadki użycia oraz stosowane środki łagodzenia ryzyka.
W celu rozwiązania tego problemu firma Esri opracowała karty przejrzystości AI dla produktów ArcGIS korzystających z funkcji generatywnej AI. Te karty przejrzystości AI rozszerzają karty modelu o następujące informacje:
- Funkcjonalność – Sposób implementacji AI w produktach ArcGIS.
- Źródła danych – Jakie dane są przetwarzane przez funkcje AI i jak są obsługiwane.
- Weryfikacja i łagodzenie ryzyka – Jakie zabezpieczenia są stosowane dla zapewnienia bezpieczeństwa, dokładności i zgodności.
- Środki bezpieczeństwa i zapewnienia prywatności – Jak chronione są dane klientów oraz czy są przechowywane lub używane do trenowania modeli.
- Znane ograniczenia – Przejrzystość w zakresie potencjalnych uprzedzeń, ograniczonej dokładności i odpowiedzialnego korzystania.
Karty te udostępniają kluczowe informacje pozwalające klientom na wdrażanie i korzystanie z tych funkcji w odpowiedzialny sposób.
Struktura karty przejrzystości AI
Obecnie funkcje generatywnej AI nie są jeszcze dostępne w pełnej wersji produkcyjnej w produktach firmy Esri. Jednak udostępniamy karty przejrzystości funkcji AI w wersji beta, by pozwolić na wczesne zapoznanie się z nimi i świadome podjęcie decyzji. Stale rozszerzamy zakres kart przejrzystości AI dotyczących funkcji naszych produktów i zachęcamy klientów do wyrażania opinii na ich temat.
Każda karta przejrzystości zawiera uporządkowane sekcje zawierające opisy i odpowiedzi. Dla jasności niektóre sekcje zawierają wstępnie zdefiniowane opcje, które są podsumowane w dokumencie PDF Struktura karty przejrzystości AI.