Esri s’engage pour la transparence dans l’IA en fournissant des informations détaillées sur les fonctions, les sources de données et les mesures de confidentialité/sécurité des entités d’IA. Les cartes de transparence d’IA aident les clients à prendre des décisions avisées concernant l’utilisation de l’IA générative dans les produits ArcGIS. Consultez le document Structure des cartes de transparence pour obtenir une vue d’ensemble complète des champs et des détails des cartes de transparence.
Fiches de modèle et cartes de transparence
De nombreux modèles d’IA utilisés dans les produits ArcGIS comportent des fiches de modèle d’IA, une norme du secteur en constante évolution. Toutefois, les fiches de modèle documentent principalement le modèle lui-même et ne fournissent pas de contexte propre au produit, comme la façon dont Esri intègre la fonctionnalité IA à ArcGIS, ses cas d’utilisation prévus et les atténuations des risques en place.
Pour remédier à cela, Esri a développé des cartes de transparence d’IA pour les produits ArcGIS qui utilisent l’IA générative. Ces cartes de transparence d’IA y viennent compléter les fiches de modèle en fournissant des informations sur les éléments suivants :
- Fonctions de l’entité : la façon dont l’IA est mise en œuvre dans les produits ArcGIS.
- Sources de données : les données traitées par la fonctionnalité IA et leur mode de traitement.
- Validation et atténuation des risques : les protections mises en place pour garantir la sécurité, l’exactitude et la conformité.
- Mesures de confidentialité et de sécurité : la façon dont les données client sont protégées et si elles sont conservées ou utilisées dans l’entraînement du modèle.
- Limitations connues : la transparence autour des éventuels biais, les contraintes en matière d’exactitude ou la prise en compte d’une utilisation responsable.
Ces cartes fournissent des détails clés qui permettent à nos clients d’incorporer et d’utiliser ces entités d’IA de façon responsable.
Structure des cartes de transparence d’IA
Actuellement, les entités d’IA générative ne sont pas encore en phase de production complète dans les produits Esri. Toutefois, nous fournissons des cartes de transparence pour les entités d’IA en phase bêta pour promouvoir une prise en compte précoce et une prise de décision avisée. Nous apprécions les commentaires des clients à mesure que nous étendons la couverture des cartes de transparence d’IA dans les entités de produit au fil du temps.
Chaque carte de transparence inclut des sections structurées avec des descriptions et des réponses. À des fins de clarté, certaines sections contiennent des options prédéfinies, qui sont synthétisées dans le PDF Structure des cartes de transparence d’IA.
Vous avez un commentaire à formuler concernant cette rubrique ?