Společnost Esri se zavázala k transparentnosti v oblasti AI tím, že poskytuje podrobné informace o funkcích AI, zdrojích dat a opatřeních na ochranu soukromí/bezpečnosti. Karty transparentnosti AI pomáhají zákazníkům činit informovaná rozhodnutí o použití generativní AI v produktech ArcGIS. Úplný přehled polí a podrobností o kartách transparentnosti naleznete v dokumentu Struktura karty transparentnosti.
Karty transparentnosti vs. karty modelu
Mnoho modelů AI používaných v produktech ArcGIS má karty modelů AI, což je vyvíjející se průmyslový standard. Karty modelu však dokumentují především samotný model a neposkytují kontext specifický pro daný produkt, například způsob, jakým společnost Esri integruje funkci AI do ArcGIS, zamýšlené případy použití a zavedená opatření pro snížení rizik.
Společnost Esri vyvinula pro produkty ArcGIS, které využívají generativní AI, karty transparentnosti AI. Tyto karty transparentnosti AI rozšiřují karty modelu o následující informace:
- Funkce prvků - jak je umělá inteligence implementována v produktech ArcGIS.
- Zdroje dat - jaká data funkce AI zpracovává a jak s nimi nakládá.
- Validace a zmírňování rizik - jaká ochranná opatření zajišťují bezpečnost, přesnost a soulad s předpisy.
- Ochrana soukromí a bezpečnostní opatření - jak jsou údaje zákazníků chráněny a zda jsou uchovávány nebo používány při učení modelů.
- Známá omezení - transparentnost ohledně možných zkreslení, omezení přesnosti nebo odpovědného používání.
Tyto karty poskytují klíčové údaje, které našim zákazníkům umožňují odpovědně začlenit a využívat tyto AI funkce.
Struktura karty transparentnosti AI
V současné době ještě nejsou funkce generativní AI v produktech Esri v plné produkční verzi. Pro funkce AI ve fázi beta však poskytujeme karty transparentnosti, abychom podpořili včasnou informovanost a informované rozhodování. Uvítáme zpětnou vazbu od zákazníků, protože postupně rozšiřujeme pokrytí karty transparentnosti AI napříč funkcemi produktu.
Každá karta transparentnosti obsahuje strukturované oddíly s popisy a reakcemi. Pro přehlednost obsahují některé oddíly předdefinované možnosti, které jsou shrnuty v PDF dokumentu Struktura karty transparentnosti AI.