Důvěryhodná AI v ArcGIS

Ve společnosti Esri je pro nás důvěra při vývoji a nasazování umělé inteligence prioritou. Důvěryhodná umělá inteligence v ArcGIS se zaměřuje na bezpečnost, soukromí, transparentnost, spravedlnost, spolehlivost a odpovědnost. To odráží hodnoty a závazek společnosti Esri k odpovědným inovacím, k překonávání nedůvěry v umělou inteligenci a k podpoře pozitivních společenských změn. Další informace o projektu Esri Advancing Trusted AI in ArcGIS najdete zde.

Geo AI a asistenti

Společnost Esri v rámci ArcGIS využívá dvě hlavní kategorie umělé inteligence:

• GeoAI: Používá předučené modely deep learning pro úlohy, jako je extrakce prvků, rozpoznávání vzorů a prediktivní analýza. GeoAI se integruje do geoprostorových pracovních postupů a umožňuje uživatelům analyzovat prostorová data pomocí pokročilých výpočetních nástrojů.

• Generativní AI: zahrnuje asistenty AI a další generativní technologie, které podporují kreativitu, produktivitu uživatelů a automatizované pracovní postupy.

Před masivním nástupem generativní umělé inteligence v posledních několika letech se při zmínkách o umělé inteligenci obvykle pojednávalo o strojovém učení a modelech hlubokého učení neboli deep learning používaných při rozpoznávání vzorů, prognózách, detekci objektů, detekci změn apod. Před více než deseti lety začala společnost Esri používat strojové učení k provádění shlukování, regrese a klasifikace prostorových dat. V poslední době pokračují práce v oblasti strojového učení i deep learning, včetně zavedení předem naučených modelů deep learning, které usnadňují zahájit řešení úloh, jako je extrakce prvků, klasifikace mračen bodů a redigování obrázků. Tato práce spadá do oblasti, kterou Esri označuje jako GeoAI.

Pojem Generativní AI označuje typ modelu strojového učení, který je určen k vytváření nového obsahu nebo zasvěcených doporučení pomocí naučených vzorů z rozsáhlých souborů dat. Generativní modely umělé inteligence se uči na rozsáhlých souborech dat, které mohou zahrnovat velmi rozsáhlá data specifická pro danou oblast nebo data z internetu. Na rozdíl od tradičních modelů umělé inteligence, které se zaměřují na prediktivní analýzu, se generativní modely umělé inteligence používají ke generování kreativních výstupů, jako je text, obrázky nebo jiné formy obsahu.

Na rozdíl od výše popsané generativní umělé inteligence se GeoAI zaměřuje na analýzu a interpretaci geoprostorových dat s cílem odhalit vzory a provádět prediktivní analýzu pomocí vstupních dat. Generativní umělou inteligenci si lze představit jako model strojového učení, který je naučen vytvářet nová data, spíše než aby předpovídal konkrétní soubor dat, a je více nedeterministický, což umožňuje kreativnější řešení. Systém generativní umělé inteligence je systém, který se učí generovat další objekty, které vypadají jako data, na nichž byl vyškolen. Příkladem možností ArcGIS využívajících generativní umělou inteligenci jsou AI asistenti v rámci ArcGIS.

Skutečné prostředky, na nichž je generativní umělá inteligence založena, i ostatní typy umělé inteligence často využívají stejné algoritmy, což může stírat rozdíly mezi těmito typy. Rychlé šíření generativní umělé inteligence a širší případy jejího využití vedly ke zrychlení regulačních požadavků a požadavků zákazníků na větší transparentnost a kontrolu.

Krajina

Oblast umělé inteligence se rychle vyvíjí. Vlády po celém světě aktivně utvářejí budoucnost umělé inteligence přijímáním nových zákonů a rámců. Evropská unie například nedávno přijala Akt EU o umělé inteligenci, který stanoví pravidla pro vysoce rizikové aplikace umělé inteligence. Spojené státy zavedly různé iniciativy a exekutivní opatření v oblasti správy umělé inteligence s cílem řešit potenciální rizika, předsudky a bezpečnostní problémy systémů umělé inteligence, i když se tyto zásady nadále vyvíjejí.

Společnost Esri si uvědomuje, že je důležité držet krok s těmito vyvíjejícími se právními požadavky a regulačními, odpovědnými vývojovými a etickými hledisky. Naše postupy v oblasti umělé inteligence proaktivně přizpůsobujeme klíčovým předpisům a uznávaným rámcům v oboru. To zahrnuje dodržování pokynů stanovených výše uvedenými zákony a předpisy.

Hlavní zásady

Rámec důvěryhodné umělé inteligence (Trusted AI) společnosti Esri je založen na šesti základních principech:

• Bezpečnost: Jsme odhodláni zajistit bezpečnost a zmírnit rizika v našich systémech umělé inteligence prostřednictvím přístupu secure-by-design a zároveň zajistit zodpovědnou umělou inteligenci, která proaktivně chrání před bezpečnostními hrozbami.
• Ochrana osobních údajů: Prioritou je pro nás ochrana uživatelských dat a zajištění soukromí AI v průběhu celého životního cyklu AI, což zajišťuje soulad s globálními standardy ochrany soukromí prostřednictvím metodik ochrany soukromí od návrhu, anonymizace dat a minimalizace dat.
• Transparentnost: Poskytujeme jasný přehled o našich modelech umělé inteligence, což umožňuje informované rozhodování o našich procesech, omezeních a výsledcích umělé inteligence.
• Spravedlnost: Esri ve své každodenní praxi dlouhodobě dodržuje zásady spravedlnosti, etiky a společenské odpovědnosti. Tyto základní hodnoty jsou zakotveny v našem přístupu k rozhodování, vývoji produktů a zapojení komunity.
• Spolehlivost: Naše umělá inteligence je pečlivě testována a ověřována, aby poskytovala konzistentní a spolehlivé výsledky v různých prostředích a případech použití.
• Odpovědnost: Udržujeme odpovědnost tím, že zavádíme jasné rámce řízení a odpovědnost našich týmů za nasazení a monitorování AI a zajišťujeme, že lidský dohled zůstává ústředním bodem všech rozhodnutí týkajících se AI.

Přístup společnosti Esri

Návrh a vývoj

Společnost Esri používá proces hodnocení rizik pro posouzení funkcí umělé inteligence a zajišťuje, aby splňovaly standardy ochrany osobních údajů a zabezpečení. Pomocí návrhu s využitím principu human-in-the-loop, etických zábran, red teamingu a komplexního laboratorního testování Esri minimalizuje rizika a zároveň zajišťuje inkluzivitu a kontrolu uživatelů.

Volba zákazníka

AI asistenti v ArcGIS jsou volitelní a umožňují uživatelům řídit, kdy a jak používat funkce AI. Zákazníci mohou povolit nebo omezit funkce AI prostřednictvím administrativních nastavení a zajistit tak soulad se zásadami organizace.

Zpracování dat

Ochrana osobních údajů zákazníků je pro strategii společnosti Esri v oblasti umělé inteligence klíčová:

• Pokud výslovně neposkytnete oprávnění (např. poskytnutím zpětné vazby v rámci aplikace), netrénuje společnost Esri modely umělé inteligence pomocí dat zákazníků bez výslovného souhlasu.
• Zákazníci si zachovávají vlastnictví podnětů a dat, které poskytují pro analýzu AI v produktech ArcGIS.

Funkce umělé inteligence dodržují postupy segmentace a anonymizace dat a zajišťují jejich vlastnictví a integritu.

Metadata a transparentnost

Společnost Esri vytvořila karty transparentnosti AI, které podrobně popisují funkce, validace i ochranná opatření funkcí AI. Tyto karty poskytují kontext pro zodpovědné používání umělé inteligence a doplňují průmyslové standardy, jako jsou karty modelů umělé inteligence.

Správa

V roce 2023 společnost Esri zřídila Radu pro správu umělé inteligence (AI Governance Board), která dohlíží na dodržování zásad důvěryhodné umělé inteligence. Tato kolaborativní iniciativa zajišťuje, že se inovace budou řídit etickými i regulačními hledisky.

Ochranná opatření

Pro všechny generativní funkce umělé inteligence, které do svých produktů začleňujeme, platí následující aspekty:

• Generativní funkce umělé inteligence NEJSOU v produktu ArcGIS ve výchozím nastavení povoleny:
  • Koncoví uživatelé nebo správci se musí přihlásit, aby mohli využívat generativní funkce.
• Pokud k tomu společnost Esri výslovně neudělíte souhlas (například poskytnutím zpětné vazby v rámci aplikace), pak data a výzvy, které používáte v souvislosti s AI asistenty:
  • nelbudou použty k učení modelů umělé inteligence,
  • zůstanou pro vás soukromé a nebudou nikdy sdíleny.
• Při využívání služeb AI třetích stran:
  • K segmentaci a ochraně dat se používají instance umělé inteligence podnikové třídy.
• Funkce generativní AI mají svá omezení:
  • Součástí tvůrčích důsledků generativní umělé inteligence je potenciálně nekonzistentní výstup.
• Zákazníci by měli vždy zapojit člověka, který posoudí výstup umělé inteligence, aby byla zajištěna jeho vhodnost.

Deep Learning

Společnost Esri již několik let poskytuje funkce GeoAI, například balíčky Deep Learning, které jsou k dispozici v rámci Living Atlas. Tyto balíčky deep learning obsahují stránku s popisem položky, která může obsahovat pole, jako jsou: zamýšlené použití, architektura modelu, použitá tréninková data, pokyny pro ladění, metriky výkonnosti, vzorky, vstup/výstup a případná omezení. Kromě toho důrazně doporučujeme stahovat balíčky pouze ze zdrojů označených jako spolehlivé, což znamená, že organizace publikující obsah byla ověřena společností Esri. Před stažením obsahu byste měli oslovit vydavatele obsahu, který chcete využívat, a požádat je o dokončení ověření.

Funkce, které se netýkají produktů

Kromě produktů ArcGIS nabízí Esri i funkce generativní AI, jako je Esri Support AI Chatbot a Chatbot pro produktový marketing. Tyto nástroje poskytují uživatelům efektivnější orientaci v ekosystému Esri. Protože však tito chatboti nejsou součástí produktů ArcGIS, může jejich používání zahrnovat samostatné podmínky a postupy zpracování dat, například marketingové sledování.

Spolupráce

Dosažení důvěryhodné umělé inteligence je společná odpovědnost. Esri spolupracuje se zákazníky na zavádění osvědčených postupů v oblasti správy dat, etického používání AI a lidského dohledu. Zpětná vazba od uživatelů posiluje naše řešení a podporuje prostředí spolupráce, ve kterém se daří důvěře a inovacím. Další informace naleznete v našich pokynech k zavádění osvědčených postupů v oblasti AI pro naše zákazníky.

Závazek společnosti Esri k důvěryhodné umělé inteligenci zůstává neměnný, protože rozšiřujeme možnosti GeoAI a AI asistentů. Odpovědnou integrací těchto technologií budujeme budoucnost, v níž umělá inteligence umožní pozitivní změny a zároveň zachová nejvyšší standardy důvěryhodnosti.

Reference

• Akt EU o umělé inteligenci: První nařízení týkající se umělé inteligence
• Čtyři principy vysvětlitelné umělé inteligence: NIST.IR.8312.pdf
• Rámec řízení rizik umělé inteligence: Profil generativní umělé inteligence NIST.AI.600.1.pdf
• Reference Esri: Pokrok v důvěryhodné umělé inteligenci v ArcGIS
• Reference Esri: Struktura karty transparentnosti AI