IA affidabile in ArcGIS

In Esri diamo priorità alla fiducia nello sviluppo e nell'installazione dell'IA. L'IA affidabile in ArcGIS si concentra su sicurezza, privacy, trasparenza, equità, affidabilità e responsabilità. Questo riflette i valori e l'impegno di Esri per un'innovazione responsabile, per colmare il divario di fiducia nell'IA e per promuovere un cambiamento positivo della società. Ulteriori informazioni su Progresso dell'IA affidabile in ArcGIS di Esri qui.

Geo AI e Assistenti

Esri sfrutta due principali categorie di IA all'interno di ArcGIS:

• GeoAI: utilizza modelli di deep learning pre-formati per attività quali l'estrazione feature, il riconoscimento di modelli e l'analisi predittiva. GeoAI si integra nei flussi di lavoro geospaziali, consentendo agli utenti di analizzare i dati spaziali con strumenti di calcolo avanzati.

• IA generativa: integra gli assistenti IA e altre tecnologie generative che supportano la creatività, la produttività degli utenti e i flussi di lavoro automatizzati.

Prima del boom dell'IA generativa degli ultimi anni, quando si parlava di IA ci si riferiva in genere ai modelli di apprendimento automatico e di deep learning utilizzati per il riconoscimento di modelli, le previsioni, il rilevamento di oggetti, il rilevamento di modifiche e altro ancora. Più di dieci anni fa, Esri ha iniziato a utilizzare l'apprendimento automatico per eseguire clustering, regressione e classificazione sui dati spaziali. Più di recente, il lavoro è proseguito sia nello spazio dell'apprendimento automatico che in quello del deep learning, con l'introduzione di modelli di deep learning pre-formati per facilitare l'avvio di attività come l'estrazione feature, la classificazione di cloud di punti e la rielaborazione di immagini. Questo lavoro rientra nell'ambito di ciò che Esri definisce GeoAI.

L'IA generativa si riferisce a un tipo di modello di apprendimento automatico progettato per creare nuovo contenuto, o raccomandazioni utili, attraverso l'apprendimento di modelli da dataset su larga scala. I modelli di IA generativa vengono formati su ampi dataset, che possono includere dati molto estesi e specifici per il dominio e/o dati provenienti da Internet. A differenza dei modelli di IA tradizionali che si concentrano sull'analisi predittiva, i modelli di IA generativa sono utilizzati per generare output creativi come testi, immagini o altre forme di contenuto.

A differenza dell'IA generativa descritta in precedenza, la GeoAI si concentra sull'analisi e sull'interpretazione dei dati geospaziali per scoprire modelli ed eseguire analisi predittive utilizzando i dati di input. L'IA generativa può essere considerata come un modello di apprendimento automatico formato per creare nuovi dati, piuttosto che fare una previsione su un dataset specifico, ed è più non deterministica, consentendo soluzioni più creative. Un sistema di IA generativa è un sistema che impara a generare altri oggetti che assomigliano ai dati su cui è stato formato. Un esempio delle funzionalità di ArcGIS che integrano l'IA generativa sono gli Assistenti IA all'interno di ArcGIS.

I macchinari alla base dell'IA generativa e di altri tipi di IA utilizzano spesso gli stessi algoritmi, il che può confondere la distinzione tra i due tipi. La rapida proliferazione dell'IA generativa e l'ampliamento dei casi d'uso hanno determinato un'accelerazione dei requisiti normativi e delle richieste dei clienti di maggiore trasparenza e controllo.

Paesaggio

Il panorama dell'IA è in rapida evoluzione. I governi di tutto il mondo stanno plasmando attivamente il futuro dell'IA promulgando nuove leggi e strutture. Ad esempio, l'Unione Europea ha recentemente adottato l'EU AI Act, che stabilisce norme sulle applicazioni AI ad alto rischio. Gli Stati Uniti hanno introdotto diverse iniziative di governance dell'IA e azioni esecutive per affrontare potenziali rischi, pregiudizi e problemi di sicurezza nei sistemi di IA, anche se queste politiche continuano ad evolversi.

Esri ha riconosciuto l'importanza di stare al passo con l'evoluzione dei requisiti legali e delle considerazioni normative, di sviluppo responsabile ed etiche. Allineiamo proattivamente le nostre pratiche di IA alle principali normative e ai framework riconosciuti dal settore. Ciò include l'osservanza delle linee guida stabilite dalle leggi e dai regolamenti sopra citati.

Principi guida

Il quadro di riferimento dell'IA affidabile di Esri si basa su sei principi fondamentali:

• Sicurezza: ci impegniamo a salvaguardare la sicurezza e a mitigare i rischi nei nostri sistemi di IA attraverso un approccio sicuro dal punto di vista della progettazione, garantendo al contempo un'IA responsabile che protegga in modo proattivo dalle minacce alla sicurezza.
• Privacy: la nostra priorità è proteggere i dati degli utenti e garantire la privacy dell'IA durante l'intero ciclo di vita della stessa, assicurando la conformità agli standard globali sulla privacy attraverso metodologie di tutela della privacy fin dalla progettazione, l'anonimizzazione dei dati e la loro minimizzazione.
• Trasparenza: forniamo una chiara visibilità sui nostri modelli di IA, consentendo di prendere decisioni informate sui nostri processi di IA, sui limiti e sui risultati.
• Equità: Esri sostiene da tempo i principi di correttezza, etica e responsabilità sociale nelle sue pratiche quotidiane. Questi valori fondamentali sono radicati nel nostro approccio al processo decisionale, allo sviluppo dei prodotti e all'impegno nella comunità.
• Affidabilità: la nostra IA è accuratamente testata e convalidata per fornire risultati coerenti e affidabili in diversi ambienti e casi d'uso.
• Responsabilità: manteniamo la responsabilità stabilendo quadri di governance chiari, ritenendo i nostri team responsabili dell'installazione e del monitoraggio dell'IA e assicurando che la supervisione umana mantenga un ruolo centrale in tutte le decisioni relative all'IA.

L'approccio di Esri

Progettazione e sviluppo

Esri impiega un processo di valutazione dei rischi per valutare le feature dell'IA, assicurando che soddisfino gli standard di privacy e sicurezza. Grazie alla progettazione con l'essere umano inserito all'interno del ciclo, ai controlli etici, al red teaming e ai test di laboratorio olistici, Esri riduce al minimo i rischi, garantendo al contempo l'inclusività e il controllo da parte degli utenti.

Scelta del cliente

L'assistente IA in ArcGIS è di tipo opzionale e consente agli utenti di controllare quando e come vengono utilizzate le funzionalità IA. I clienti possono attivare o limitare le funzionalità dell'IA tramite impostazioni amministrative, garantendo l'allineamento con le politiche organizzative.

Gestione dei dati

La privacy dei dati dei clienti è al centro della strategia IA di Esri:

• A meno che non sia stato esplicitamente autorizzato dall'utente (ad esempio fornendo un feedback all'interno dell'applicazione), Esri non forma modelli di IA utilizzando i dati dei clienti senza un'autorizzazione esplicita.
• I clienti mantengono la proprietà dei suggerimenti e dei dati forniti per l'analisi dell'IA all'interno dei prodotti ArcGIS.

Le funzionalità IA rispettano le pratiche di segmentazione e anonimizzazione dei dati, salvaguardandone la proprietà e l'integrità.

Metadati e trasparenza

Esri ha sviluppato schede di trasparenza sull'IA che illustrano in dettaglio le funzionalità, la validazione e le misure di salvaguardia delle feature dell'IA. Queste schede forniscono un contesto per un uso responsabile dell'IA, integrando gli standard di settore come le schede modello dell'IA.

Governance

Nel 2023, Esri ha istituito un Consiglio di governance dell'IA per supervisionare l'adesione ai principi dell'IA fidata. Questa iniziativa di collaborazione garantisce che l'innovazione sia guidata da considerazioni etiche e normative.

Misure di salvaguardia

I seguenti aspetti sono applicabili a tutte le funzioni di IA generativa che integriamo nei nostri prodotti:

• Le feature dell'IA generativa NON sono abilitate per impostazione predefinita nel prodotto ArcGIS:
  • Gli utenti finali e/o gli amministratori devono scegliere di utilizzare le feature generative.
• A meno che l'utente non autorizzi esplicitamente Esri (ad esempio fornendo un feedback all'interno dell'applicazione), i dati e i suggerimenti utilizzati dall'utente con gli assistenti IA:
  • Non possono essere utilizzati per addestrare modelli IA.
  • Rimangono privati e non saranno mai condivisi.
• Quando si utilizzano servizi di IA di terze parti:
  • Le istanze IA di classe enterprise vengono utilizzate per segmentare e proteggere i dati.
• Le feature dell'IA generativa presentano dei limiti:
  • Il potenziale di output incoerente rientra nelle conseguenze creative dell'IA generativa.
• I clienti dovrebbero sempre coinvolgere un essere umano per valutare i risultati dell'IA e garantirne l'adeguatezza.

Apprendimento profondo

Esri fornisce da anni funzionalità GeoAI, come i pacchetti di Deep Learning disponibili nel Living Atlas. Questi pacchetti di deep learning contengono una pagina di descrizione dell'elemento che può contenere campi quali: uso previsto, architettura del modello, dati di formazione utilizzati, guida alla messa a punto, metriche delle prestazioni, campioni, input/output e potenziali limitazioni. Si consiglia inoltre di scaricare i pacchetti solo da fonti contrassegnate come autorevoli, il che significa che l'organizzazione che pubblica il contenuto è stata verificata da Esri. È opportuno contattare gli editori del contenuto che si desidera consultare e chiedere loro di completare la verifica prima di procedere al download del loro contenuto.

Features non di prodotto

Oltre ai prodotti ArcGIS, Esri offre funzioni di IA generativa come l'Esri Support AI Chatbot e il Product Marketing Chatbot. Questi strumenti aiutano gli utenti a navigare nell'ecosistema di Esri in modo più efficiente. Tuttavia, poiché questi chatbot non sono integrati nei prodotti ArcGIS, il loro utilizzo può comportare termini e pratiche di dati separati, come il tracciamento legato al marketing.

Collaborazione

Raggiungere un'IA affidabile è una responsabilità condivisa. Esri collabora con i clienti per implementare le migliori prassi nella governance dei dati, nell'uso etico dell'IA e nella supervisione umana. Il feedback degli utenti rafforza le nostre soluzioni, favorendo un ambiente collaborativo in cui prosperano la fiducia e l'innovazione. Per maggiori informazioni, consultare la nostra guida all'implementazione delle migliori prassi in materia di IA per i clienti.

L'impegno di Esri nei confronti dell'IA fidata rimane costante, mentre facciamo progredire le capacità di GeoAI e Assistenti IA. Integrando queste tecnologie in modo responsabile, stiamo costruendo un futuro in cui l'IA favorisce un cambiamento positivo, mantenendo i più alti standard di affidabilità.

Riferimenti

• EU AI Act: Primo regolamento sull'intelligenza artificiale
• Quattro principi dell'Intelligenza artificiale spiegabile: NIST.IR.8312.pdf
• Quadro di gestione del rischio dell'intelligenza artificiale: profilo dell'Intelligenza artificiale generativa NIST.AI.600.1.pdf
• Riferimento Esri: Progresso dell'IA affidabile in ArcGIS
• Riferimento Esri: Struttura della scheda IA per la trasparenza