Godna zaufania sztuczna inteligencja w ArcGIS

Podczas opracowywania i wdrażania rozwiązań AI stawiamy w Esri przede wszystkim na zaufanie. Godna zaufania AI w ArcGIS koncentruje się na bezpieczeństwie, prywatności, przejrzystości, uczciwości, niezawodności i odpowiedzialności. Odzwierciedla to wartości firmy Esri i jej zaangażowanie w odpowiedzialne innowacje, które wypełniają lukę w zaufaniu do AI oraz wspierają pozytywne zmiany społeczne. Więcej informacji na temat postępów firmy Esri w zaufanej AI można znaleźć tutaj.

Geograficzna AI i aplikacje asystenckie

Firma Esri wykorzystuje dwie główne kategorie AI na platformie ArcGIS:

• GeoAI: użycie wytrenowanych modeli Deep Learning do wykonywania takich zadań jak wyodrębnianie obiektów, rozpoznawanie wzorców i analiza prognostyczna. GeoAI integruje się z geoprzestrzennymi procedurami wykonywania zadań, zwiększając możliwości użytkowników w zakresie analizy danych przestrzennych dzięki zaawansowanym narzędziom obliczeniowym.

• Generatywna AI: obejmuje asystenty i inne technologie generatywnej AI, które wspierają kreatywność, produktywność użytkowników oraz automatyczne procedury wykonywania zadań.

Zanim w kilku ostatnich latach nastąpił gwałtowny boom związany z generatywną AI, o sztucznej inteligencji mówiło się zwykle, myśląc o modelach Deep Learning używanych do rozpoznawania wzorców, prognozowania, wykrywania obiektów, wykrywania zmian itp. Już ponad dziesięć lat temu firma Esri rozpoczęła prace nad wykorzystaniem uczenia maszynowego przy klastrowaniu, regresji i klasyfikacji danych przestrzennych. W ostatnim czasie prace są kontynuowane w obszarze uczenia maszynowego oraz Deep Learning i obejmują wprowadzenie wstępnie wytrenowanych modeli Deep Learning, które ułatwiają wykonywanie takich zadań jak wyodrębnianie obiektów, klasyfikacja chmury punktów i redagowanie obrazów. Zagadnienia te są w firmie Esri ujmowane w jednym ogólnym terminie GeoAI.

Generatywna AI odnosi się do typu modelu uczenia maszynowego, który jest przeznaczony do tworzenia nowych zasobów lub szczegółowych rekomendacji na podstawie rozpoznawania wzorców występujących w dużych zestawach danych. Modele generatywnej AI są trenowane na obszernych zestawach danych, które mogą zawierać bardzo duże ilości informacji dotyczących konkretnych zagadnień, lub na danych z internetu. W odróżnieniu od tradycyjnych modeli AI, które koncentrują się na analizie prognostycznej, modele generatywnej AI są używane do generowania kreatywnych wyników, takich jak tekst, obrazy lub zasoby innego rodzaju.

W przeciwieństwie do opisanej powyżej generatywnej AI GeoAI koncentruje się na analizie i interpretowaniu danych geoprzestrzennych w celu wykrywania występujących w nich wzorców i przeprowadzania analizy prognostycznej przy użyciu danych wejściowych. Generatywną AI można uważać za model uczenia maszynowego, który został wytrenowany do tworzenia nowych danych, a nie do generowania prognoz dotyczących konkretnego zestawu danych. Jest ona niedeterministyczna i pozwala na uzyskanie kreatywniejszych rozwiązań. System generatywnej AI to system, który uczy się generowania większej liczby obiektów wyglądających jak dane, na których został wytrenowany. Przykładem funkcji platformy ArcGIS, które wykorzystują generatywną AI, są aplikacje asystenckie AI w systemie ArcGIS.

Rzeczywisty mechanizm leżący u podstaw generatywnej AI i innych rodzajów AI często korzysta z tych samych algorytmów, które mogą zacierać różnice między tymi rodzajami. Szybkie rozpowszechnianie i coraz szersze zastosowania generatywnej AI spowodowały konieczność jak najszybszego określenia wymogów regulacyjnych i wymagań klientów w celu zapewnienia przejrzystości oraz silniejszej kontroli.

Krajobraz

Krajobraz AI ulega bardzo szybkim zmianom. Rządy na całym świecie aktywnie kształtują przyszłość AI, uchwalając nowe przepisy i ramy regulacyjne. Na przykład Unia Europejska przyjęła niedawno ustawę dotyczącą AI, która określa przepisy w zakresie zastosowań AI w obszarach wysokiego ryzyka. W Stanach Zjednoczonych wprowadzono szereg inicjatyw dotyczących zarządzania AI oraz podjęto działania wykonawcze, aby uniknąć potencjalnych zagrożeń i uprzedzeń oraz złagodzić obawy o bezpieczeństwo w systemach AI. Wszystkie te działania podlegają ciągłemu rozwojowi.

Firma Esri zdaje sobie sprawę ze znaczenia, jakie ma wyprzedzanie rozwoju wymogów i przepisów prawnych oraz odpowiedzialne projektowanie. Zwraca też bardzo dużą uwagę na kwestie etyczne. Aktywnie dostosowujemy nasze zasady dotyczące AI do najważniejszych regulacji i stosowanych w branży ram regulacyjnych. Obejmuje to postępowanie zgodnie z wytycznymi określanymi przez przepisy ustawowe i wykonawcze wymienione powyżej.

Zasady przewodnie

Platforma godnej zaufania AI firmy Esri opiera się na sześciu podstawowych zasadach:

• Bezpieczeństwo: Angażujemy się w bezpieczeństwo i ograniczanie ryzyka w naszych systemach AI, stosując podejście „bezpieczeństwo już na etapie projektu”. Prowadzi to do rozwoju odpowiedzialnej AI, która aktywnie chroni przed zagrożeniami.
• Prywatność: Ochronę danych użytkowników oraz zapewnienie bezpieczeństwa i prywatności w całym cyklu życia AI stawiamy na pierwszym miejscu. Dbamy o zgodność z globalnymi standardami ochrony danych osobowych dzięki stosowaniu metodologii „prywatność już na etapie projektu”, anonimizacji danych oraz minimalizacji ilości danych.
• Przejrzystość: Zapewniamy pełny wgląd w informacje o naszych modelach AI, co ułatwia świadome podejmowanie decyzji dotyczących naszych procesów AI, ich ograniczeń oraz uzyskiwanych wyników.
• Uczciwość: Firma Esri od dawna kieruje się zasadami uczciwości, etyki i odpowiedzialności społecznej w codziennych w działaniach. Te podstawowe wartości są wbudowane w nasze podejście do podejmowania decyzji, rozwoju produktów i zaangażowania w życie społeczności.
• Niezawodność: Nasza AI jest starannie testowana i weryfikowana tak, by dawała spójne oraz wiarygodne wyniki w różnych środowiskach i zastosowaniach.
• Odpowiedzialność: Ustanowienie jasnych ram zarządzania, rozliczanie naszych zespołów odpowiedzialnych za wdrażanie rozwiązań AI oraz monitorowanie sprawiają, że nadzór ludzki pozostaje kluczowy przy podejmowaniu wszystkich decyzji dotyczących AI.

Podejście firmy Esri

Projektowanie i rozwój

Firma Esri stosuje proces oceny ryzyka wynikającego z użycia funkcji AI, by zapewnić ich zgodność ze standardami bezpieczeństwa i ochrony prywatności. Stosowanie zasady projektowania „człowiek w pętli”, barier etycznych, ofensywnych technik testowania (red teaming) oraz całościowych testów laboratoryjnych pozwalają firmie Esri minimalizować ryzyko przy zachowaniu integracji i kontroli użytkownika.

Wybór klienta

Asystent AI w systemie ArcGIS to narzędzie opcjonalne, które pozwala użytkownikom decydować o tym, kiedy i jak korzystać z możliwości AI. Klienci mogą włączać lub ograniczać funkcje AI za pomocą ustawień administracyjnych, aby zapewnić ich zgodność z zasadami instytucji.

Obsługa danych

Prywatność danych klientów ma kluczowe znaczenie dla strategii firmy Esri związanej z AI:

• Firma Esri nie trenuje modeli AI przy użyciu danych klientów bez ich wyraźnej autoryzacji (wyrażonej na przykład przez udostępnienie opinii w aplikacji).
• Klienci pozostają właścicielami promptów i danych udostępnianych na potrzeby analizy AI w produktach ArcGIS.

Funkcje AI są zgodne z zasadami segmentacji i anonimizacji, które zapewniają prawo własności danych oraz ich integralność.

Metadane i przejrzystość

Firma Esri opracowała karty przejrzystości AI, które szczegółowo opisują możliwości, weryfikację i zabezpieczenia funkcji AI. Karty te określają kontekst dla odpowiedzialnego użycia AI, uzupełniając standardy branżowe, takie jak karty modeli AI.

Nadzór

W 2023 roku firma Esri powołała radę zarządzającą AI, która nadzoruje zgodność z zasadami godnej zaufania AI. Ta wspólna inicjatywa dba o to, by innowacje były zgodne z zasadami etyki i przepisami prawa.

Zabezpieczenia

We wszystkich funkcjach generatywnej AI, w które wyposażamy nasze produkty, uwzględniane są następujące aspekty:

• Funkcje generatywnej AI NIE są domyślnie włączone w produktach ArcGIS:
  • Użytkownicy końcowi lub administratorzy muszą wyrazić zgodę na korzystanie z funkcji generatywnej AI.
• Bez wyraźnej autoryzacji klientów (wyrażonej na przykład przez udostępnienie opinii w aplikacji) dane i prompty używane podczas korzystania z asystentów AI:
  • Nie są używane do trenowania modeli AI.
  • Pozostają prywatną własnością użytkownika i nie są nigdy udostępniane.
• Podczas korzystania z zewnętrznych usług AI:
  • Instancje AI klasy korporacyjnej są używane do segmentowania i ochrony danych.
• Funkcje generatywnej AI mają ograniczenia:
  • Możliwość niespójności w danych wynikowych, która jest konsekwencją kreatywności generatywnej AI.
• Wyniki generowane przez AI dla klientów powinny zawsze podlegać weryfikacji przez człowieka.

Deep Learning

Firma Esri od lat oferuje funkcje GeoAI, takie jak pakiety Deep Learning dostępne w atlasie Living Atlas. Te pakiety Deep Learning zawierają strony opisu elementu, w których mogą być takie pola, jak: przeznaczenie, architektura modelu, używane dane treningowe, wskazówki dotyczące dostrajania, wskaźniki wydajności, przykłady, dane wejściowe/wynikowe oraz potencjalne ograniczenia. Ponadto zalecamy pobieranie pakietów wyłącznie ze źródeł oznaczonych jako wiarygodne, co oznacza, że instytucja publikująca zasoby została zweryfikowana przez firmę Esri. Przed pobraniem zasobów, z których chcesz korzystać, skontaktuj się z podmiotami je publikującymi i poproś o przeprowadzenie weryfikacji.

Funkcje niezwiązane z produktami

Firma Esri oferuje funkcje generatywnej AI nie tylko w produktach ArcGIS. Są na nich oparte czatbot AI działu wsparcia firmy Esri oraz czatbot marketingu produktów. Narzędzia te pomagają użytkownikom w nawigacji po ekosystemie firmy Esri. Czatboty te nie są jednak wbudowane w produkty ArcGIS. Ich użycie może podlegać osobnym warunkom i zasadom dotyczącym obsługi danych, takim jak śledzenie związane z marketingiem.

Kooperacja

Osiągnięcie godnej zaufania AI to wspólna odpowiedzialność. Firma Esri współpracuje z klientami przy wdrażaniu najważniejszych wskazówek dotyczących zarządzania danymi, etycznego użycia AI oraz nadzoru ludzkiego. Opinie użytkowników doskonalą nasze rozwiązania, wspierając środowisko współpracy, w którym kwitnie zaufanie i innowacyjność. Więcej informacji na ten temat zawierają najważniejsze wskazówki dotyczące wdrażania AI dla klientów.

Zaangażowanie firmy Esri w godną zaufania AI niezmiennie towarzyszy rozwojowi możliwości technologii GeoAI i asystentów AI. Integrując odpowiedzialnie te technologie, tworzymy przyszłość, w której sztuczna inteligencja ułatwia wprowadzanie korzystnych zmian przy zachowaniu najwyższych standardów wiarygodności.

Odniesienia

• Unijna ustawa o sztucznej inteligencji: First regulation on artificial intelligence (Pierwsza regulacja dotycząca sztucznej inteligencji)
• Cztery zasady sztucznej inteligencji, którą można wyjaśnić: NIST.IR.8312.pdf
• Platforma zarządzania ryzykiem związanym ze sztuczną inteligencją: profil generatywnej sztucznej inteligencji NIST.AI.600.1.pdf
• Materiały referencyjne Esri: Rozwój godnej zaufania AI w ArcGIS
• Materiały referencyjne Esri: Struktura karty przejrzystości AI