A Esri está empenhada na transparência da IA, fornecendo informações detalhadas sobre a funcionalidade das capacidades de IA, fontes de dados e medidas de privacidade/segurança. Os cartões de transparência de IA ajudam os clientes a tomar decisões informadas sobre a utilização de IA generativa nos produtos ArcGIS. Consulte o documento Estrutura do cartão de transparência para obter uma visão geral completa dos campos e detalhes dos cartões de transparência.
Cartões de modelo vs. cartões de transparência
Muitos modelos de IA utilizados nos produtos ArcGIS têm cartões de modelo de IA: um padrão do setor em evolução. No entanto, os cartões de modelo documentam principalmente o modelo em si e não fornecem o contexto específico do produto, tal como a Esri integra a funcionalidade de IA no ArcGIS, os casos de utilização pretendidos e as mitigações de risco em vigor.
Para fazer face a esta situação, a Esri desenvolveu cartões de transparência de IA para produtos ArcGIS que utilizam IA generativa. Estes cartões de transparência de IA expandem os cartões de modelo, fornecendo informações sobre:
- Funcionalidade das capacidades: como a IA é implementada nos produtos ArcGIS.
- Fontes de dados: que dados são processados pela funcionalidade de IA e como são tratados.
- Validação e mitigação de riscos: que salvaguardas existem para garantir a segurança, precisão e conformidade.
- Medidas de privacidade e segurança: como são protegidos os dados dos clientes e se são retidos ou utilizados no treino de modelos.
- Limitações conhecidas: transparência em relação a potenciais enviesamentos, restrições de precisão ou considerações de utilização responsável.
Estes cartões fornecem detalhes importantes que permitem aos nossos clientes incorporar e utilizar essas funcionalidades de IA de forma responsável.
Estrutura do cartão de transparência de IA
Atualmente, as funcionalidades de IA generativa ainda não estão em plena atividade nos produtos Esri. No entanto, estamos a fornecer cartões de transparência para as funcionalidades de IA na fase beta para promover a sensibilização precoce e a tomada de decisões informadas. Agradecemos o feedback dos clientes à medida que expandimos a cobertura do cartão de transparência de IA nas funcionalidades dos produtos ao longo do tempo.
Cada cartão de transparência inclui secções estruturadas com descrições e respostas. Para maior clareza, algumas secções contêm opções predefinidas, que estão resumidas no PDF AI Transparency Card Structure (Estrutura do cartão de transparência se IA).