IA digne de confiance dans ArcGIS

Chez Esri, nous donnons la priorité à la confiance lors du développement et du déploiement de l’IA. L’IA digne de confiance dans ArcGIS met l’accent sur la sécurité, la confidentialité, la transparence, l’équité, la fiabilité et la responsabilité. Cela reflète les valeurs et l’engagement d’Esri en faveur de l’innovation responsable, en restaurant la confiance dans l’IA et en favorisant un changement sociétal positif. Découvrez des informations supplémentaires dans le document Advancing Trusted AI in ArcGIS d’Esri ici.

Geo AI et assistants

Esri utilise principalement deux catégories d’IA dans ArcGIS :

• GeoAI : utilise des modèles de Deep Learning pré-entraînés pour des tâches telles que l’extraction d’entités, la reconnaissance des modèles et l’analyse prédictive. GeoAI s’intègre à des processus géospatiaux, ce qui permet aux utilisateurs d’analyser les données spatiales avec des outils algorithmiques avancés.

• IA générative : incorpore les assistants IA et d’autres technologies génératives qui soutiennent la créativité, la productivité des utilisateurs et les processus automatisés.

Avant l’essor de l’IA générative de ces quelques dernières années, lorsque les gens parlaient de l’IA, ils faisaient généralement référence aux modèles de Machine Learning et de Deep Learning utilisés dans la reconnaissance des modèles, la prévision, la détection des objets, la détection des changements et plus encore. Il y a plus de dix ans, Esri a commencé à utiliser le Machine Learning pour les opérations d’agrégation, de régression et de classification sur les données spatiales. Plus récemment, il a continué sur sa lancée dans le domaine du Machine Learning et du Deep Learning, notamment avec l’introduction de modèles de Deep Learning pré-entraînés pour simplifier des tâches comme l’extraction d’entités, la classification de nuages de points et l’édition d’image. Ce travail fait partie de ce qu’Esri appelle GeoAI.

L’IA générative fait référence à un type de modèle de Machine Learning conçu pour créer du nouveau contenu, ou des recommandations pertinentes, en générant des modèles à partir de jeux de données à grande échelle. Les modèles d’IA générative sont entraînés sur des jeux de données étendus, qui peuvent inclure des données très volumineuses propres au domaine et/ou des données provenant d’Internet. Contrairement aux modèles d’IA traditionnels qui se concentrent sur l’analyse prédictive, les modèles d’IA générative sont utilisés pour générer des sorties créatives telles que du texte, des images ou d’autres formes de contenu.

Par opposition à l’IA générative décrite ci-dessus, GeoAI met l’accent sur l’analyse et l’interprétation de données géospatiales pour découvrir des modèles et effectuer une analyse prédictive à l’aide des données en entrée. L’IA générative peut être envisagée en tant que modèle de Machine Learning entraîné pour créer de nouvelles données plutôt que pour réaliser une prévision sur un jeu de données spécifique et est moins déterministe, autorisant ainsi des solutions plus créatives. Un système d’IA générative apprend à générer davantage d’objets qui ressemblent aux données sur lesquelles il a été entraîné. Les assistants IA dans ArcGIS constituent un exemple de fonctionnalités d’ArcGIS incorporant l’IA générative.

La véritable machinerie sous-jacente à l’IA générative et à d’autres types d’IA utilise souvent les mêmes algorithmes, qui peuvent atténuer la distinction entre les types. La prolifération rapide de l’IA générative et des cas d’utilisation plus larges ont provoqué l’accélération de la mise en place d’exigences réglementaires et des demandes des clients pour renforcer la transparence et le contrôle.

Paysage

Le paysage de l’IA évolue rapidement. Les gouvernements du monde entier façonnent activement le futur de l’IA en édictant de nouvelles lois et structures. Par exemple, l’Union européenne a récemment adopté la Loi sur l’IA de l’UE, qui établit des réglementations pour les applications d’IA à haut risque. Les États-Unis ont présenté diverses initiatives en matière de gouvernance d’IA et d’actions exécutives pour répondre aux risques éventuels, aux biais et aux préoccupations de sécurité dans les systèmes d’IA, bien que ces stratégies continuent à évoluer.

Esri a reconnu l’importance d’anticiper l’évolution de ces exigences juridiques et des considérations en matière de réglementation, de développement responsable et d’éthique. Nous alignons de façon proactive nos pratiques concernant l’IA avec des réglementations clés et des structures reconnues par l’industrie. Cela inclut le respect des directives définies par les lois et les réglementations énoncées ci-dessus.

Principes directeurs

La structure de l’IA digne de confiance d’Esri se décompose en six principes essentiels :

• Sécurité : nous nous engageons à protéger la sécurité et à atténuer les risques dans nos systèmes d’IA via une approche de sécurisation par la conception, tout en garantissant une protection proactive contre les menaces de sécurité par l’IA responsable.
• Confidentialité : nous donnons la priorité à la protection des données utilisateur et assurons la confidentialité de l’IA tout au long de son cycle de vie en garantissant la conformité avec les normes internationales en matière de confidentialité grâce à des méthodologies de confidentialité par conception, d’anonymisation des données et de minimisation des données.
• Transparence : nous fournissons une visibilité claire sur nos modèles d’IA, en permettant de prendre des décisions avisées en matière de processus d’IA, de limitations et de résultats.
• Équité : Esri a adopté depuis longtemps les principes d’équité, d’éthique et de responsabilité sociétale dans ses pratiques quotidiennes. Ces valeurs essentielles sont intégrées à notre approche de prise de décision, de développement de produit et d’implication de la communauté.
• Fiabilité : notre IA est soigneusement testée et validée pour fournir des résultats cohérents et fiables dans divers environnements et cas d’utilisation.
• Responsabilité : nous gérons la responsabilité en établissant des structures de gouvernance claires, en confiant le déploiement et la surveillance de l’IA à nos équipes, et en veillant à ce que la supervision humaine reste au cœur de toutes les décisions liées à l’IA.

Approche d’Esri

Conception et développement

Esri emploie un processus d’évaluation des risques pour évaluer les entités d’IA, en s’assurant qu’elles respectent les normes de confidentialité et de sécurité. Grâce à l’intervention humaine, à des garde-fous éthiques, au Red Teaming et à des tests holistiques en laboratoire, Esri réduit les risques tout en assurant l’inclusivité et le contrôle utilisateur.

Choix du client

L’assistant IA dans ArcGIS est accepté, ce qui permet aux utilisateurs de contrôler quand et comment utiliser les fonctionnalités de l’IA. Les clients peuvent activer ou restreindre des fonctionnalités IA via les paramètres d’administration, en garantissant le respect des stratégies de l’organisation.

Gestion des données

La confidentialité des données du client occupe une place centrale dans la stratégie relative à l’IA d’Esri :

• Sauf autorisation explicite de votre part (par exemple en fournissant des commentaires dans l’application), Esri n’entraîne pas les modèles d’IA à l’aide des données client sans autorisation explicite.
• Les clients conservent la propriété des invites et des données qu’ils fournissent pour l’analyse IA dans les produits ArcGIS.

Les fonctions IA respectent les pratiques de segmentation et d’anonymisation des données, en protégeant la propriété et l’intégrité des données.

Métadonnées et transparence

Esri a développé des cartes de transparence d’IA qui détaillent les fonctions, la validation et la protection des entités d’IA. Ces cartes fournissent du contexte pour une utilisation responsable de l’IA, en plus des normes en vigueur comme les fiches de modèle d’IA.

Gouvernance

En 2023, Esri a mis en place un conseil de gouvernance de l’IA pour superviser la conformité aux principes de l’IA digne de confiance. Cette initiative collaborative garantit que l’innovation est guidée par des considérations éthiques et réglementaires.

Protections

Les aspects suivants sont applicables à toutes les entités d’IA générative que nous intégrons à nos produits :

• Les entités d’IA générative NE sont PAS activées par défaut dans le produit ArcGIS :
  • Les utilisateurs finaux et/ou les administrateurs doivent accepter d’utiliser des entités génératives.
• Sauf si vous autorisez explicitement Esri à le faire (par exemple en fournissant des commentaires dans l’application), les données et les invites que vous utilisez avec les assistants IA :
  • Ne seront pas utilisées pour entraîner les modèles d’IA.
  • Resteront privées pour vous et ne seront jamais partagées.
• Lorsque des services d’IA tiers sont utilisés :
  • Des instances d’IA de classe entreprise sont utilisées pour segmenter et protéger vos données.
• Les entités d’IA générative comportent des limitations :
  • Le potentiel de sortie incohérente fait partie des conséquences créatives de l’IA générative.
• Les clients doivent toujours faire appel à un humain pour évaluer la sortie d’IA afin de garantir qu’elle est correcte.

Apprentissage profond

Esri fournit des fonctionnalités GeoAI depuis des années, comme les paquetages de Deep Learning disponibles dans Living Atlas. Ces paquetages de Deep Learning contiennent une page de description d’éléments qui peut comporter des champs semblables aux suivants : utilisation prévue, architecture du modèle, données d’entraînement utilisées, conseils d’optimisation, mesures de performance, échantillons, entrée/sortie et limitations éventuelles. En outre, nous recommandons vivement de télécharger uniquement des paquetages à partir de sources marquées comme officielles, ce qui signifie que l’organisation qui publie le contenu a été vérifiée par Esri. Vous devez contacter les éditeurs du contenu que vous souhaitez utiliser et leur demander une vérification complète avant de télécharger leur contenu.

Entités hors produit

Outre les produits ArcGIS, Esri propose des entités d’IA générative comme l’agent conversationnel de support technique Esri et l’agent conversationnel marketing du produit. Ces outils aident les utilisateurs à naviguer plus efficacement dans l’écosystème d’Esri. Toutefois, comme ces agents conversationnels ne sont pas incorporés aux produits ArcGIS, leur utilisation peut impliquer des conditions et des pratiques de données distinctes, comme le suivi marketing.

Collaboration

Parvenir à une IA digne de confiance est une responsabilité partagée. Esri travaille en collaboration avec ses clients pour mettre en œuvre les pratiques conseillées en matière de gouvernance des données, d’utilisation d’IA éthique et de supervision humaine. Les commentaires des utilisateurs renforcent nos solutions, en favorisant un environnement collaboratif où la confiance et l’innovation prospèrent. Pour plus d’informations, consultez les conseils en matière de pratiques conseillées pour la mise en œuvre de l’IA de notre client.

L’engagement d’Esri en faveur de l’IA digne de confiance reste constant à mesure que nous appréhendons les fonctionnalités de GeoAI et des assistants IA. En intégrant ces technologies de manière responsable, nous créons un futur dans lequel l’IA génère un changement positif tout en maintenant les normes de fiabilité les plus élevées.

Bibliographie

• Loi sur l‘IA de l’UE : première réglementation de l’intelligence artificielle
• Four principles of explainable Artificial Intelligence: NIST.IR.8312.pdf
• Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile NIST.AI.600.1.pdf
• Référence Esri : Advancing Trusted AI in ArcGIS
• Référence Esri : AI Transparency card structure