A Esri está comprometida com a transparência em IA, fornecendo informações detalhadas sobre a funcionalidade dos recursos de IA, fontes de dados e medidas de privacidade/segurança. Os Cartões de Transparência de IA ajudam os clientes a tomar decisões informadas sobre o uso de IA generativa em produtos ArcGIS. Consulte o documento de Estrutura do cartão de transparência para uma visão geral completa dos campos e detalhes dos cartões de transparência.
Cartões modelo vs cartões de transparência
Muitos modelos de IA usados em produtos ArcGIS têm Cartões de Modelo de IA, um padrão da indústria em evolução. No entanto, os Cartões de Modelo documentam principalmente o modelo em si e não fornecem contexto específico do produto, como a forma como a Esri integra o recurso de IA no ArcGIS, seus casos de uso pretendidos e as mitigações de risco em vigor.
Para resolver isso, a Esri desenvolveu Cartões de Transparência de IA para produtos ArcGIS que usam IA generativa. Esses cartões de transparência de IA expandem os cartões de modelo, fornecendo informações sobre:
- Funcionalidade do recurso - Como a IA é implementada nos produtos ArcGIS.
- Fontes de dados - Quais dados o recurso de IA processa e como eles são manipulados.
- Validação e mitigação de riscos - Quais salvaguardas estão em vigor para garantir segurança, precisão e conformidade.
- Medidas de privacidade e segurança - Como os dados do cliente são protegidos e se eles são retidos ou usados no treinamento do modelo.
- Limitações conhecidas - Transparência em torno de possíveis vieses, restrições de precisão ou consideração de uso responsável.
Esses cartões fornecem detalhes importantes que permitem que nossos clientes incorporem e utilizem esses recursos de IA de maneira responsável.
Estrutura do cartão de transparência de IA
Atualmente, os recursos de IA generativa ainda não estão em versão de produção completa nos produtos da Esri. No entanto, estamos fornecendo cartões de transparência para recursos de IA em estágio beta para promover conscientização antecipada e tomada de decisões informadas. Agradecemos o retorno dos clientes à medida que expandimos a cobertura do Cartão de Transparência de IA em todos os recursos do produto ao longo do tempo.
Cada Cartão de Transparência inclui seções estruturadas com descrições e respostas. Para maior clareza, certas seções contêm opções predefinidas, que estão resumidas em Estrutura do Cartão de Transparência de IA em PDF.