IA Confiável no ArcGIS

Na Esri, priorizamos a confiança no desenvolvimento e na implantação de IA. A IA Confiável no ArcGIS se concentra em segurança, privacidade, transparência, justiça, confiabilidade e responsabilidade. Isso reflete os valores e o comprometimento da Esri com a inovação responsável, eliminando a lacuna de confiança na IA e promovendo mudanças sociais positivas. Explore mais informações sobre o Advancing Trusted AI in ArcGIS da Esri aqui.

Geo AI e Assistentes

A Esri utiliza duas categorias principais de IA no ArcGIS:

• GeoAI: Usa modelos de deep learning pré-treinados para tarefas como extração de feições, reconhecimento de padrões e análise preditiva. O GeoAI se integra aos fluxos de trabalho geoespaciais, capacitando os usuários a analisar dados espaciais com ferramentas computacionais avançadas.

• IA Generativa: Incorpora assistentes de IA e outras tecnologias generativas que oferecem suporte à criatividade, produtividade do usuário e aos fluxos de trabalho automatizados.

Antes do boom da IA ​​generativa dos últimos anos, quando as pessoas falavam sobre IA, normalmente faziam referência aos modelos de aprendizagem automática e deep learning usados ​​em reconhecimento de padrões, previsão, detecção de objetos, detecção de mudanças e muito mais. Há mais de uma década, a Esri começou a usar aprendizagem automática para realizar agrupamento, regressão e classificação em dados espaciais. Mais recentemente, o trabalho continuou tanto no espaço de aprendizagem automática quanto no deep learning, incluindo a introdução de modelos de deep learning pré-treinados para facilitar o início de tarefas como extração de feições, classificação da nuvem de pontos e redação de imagens. Este trabalho se enquadra no que Esri chama deGeoAI.

IA generativa faz referência a um tipo de modelo de aprendizagem automática projetado para criar novos conteúdos ou recomendações perspicazes por meio de padrões de aprendizagem de conjuntos de dados em larga escala. Os modelos de IA generativa são treinados em conjuntos de dados extensos, que podem incluir dados muito grandes e específicos de domínio e/ou dados da internet. Ao contrário dos modelos tradicionais de IA que se concentram em análises preditivas, os modelos generativos de IA são usados ​​para gerar resultados criativos, como texto, imagens ou outras formas de conteúdo.

Em contraste com a IA Generativa descrita acima, a GeoAI se concentra na análise e interpretação de dados geoespaciais para descobrir padrões e executar análises preditivas usando os dados de entrada. A IA generativa pode ser considerada um modelo de aprendizagem automática treinado para criar novos dados, em vez de fazer uma previsão sobre um conjunto de dados específico, além de ser mais não determinística, permitindo soluções mais criativas. Um sistema de IA generativo é aquele que aprende a gerar mais objetos que se parecem com os dados nos quais foi treinado. Um exemplo de recursos do ArcGIS que incorporam IA generativa são os assistentes de IA no ArcGIS.

O maquinário real por trás da IA ​​generativa e outros tipos de IA muitas vezes utiliza os mesmos algoritmos, o que pode confundir a distinção entre os tipos. A rápida proliferação e os casos de uso mais amplos da IA ​​generativa resultaram em requisitos regulatórios acelerados e demandas dos clientes por maior transparência e controle.

Paisagem

O cenário da IA ​​está evoluindo rapidamente. Governos ao redor do mundo estão moldando ativamente o futuro da IA ​​promulgando novas leis e estruturas. Por exemplo, a União Europeia adotou recentemente o EU AI Act, que estabelece regulamentações sobre aplicações de IA de alto risco. Os Estados Unidos introduziram várias iniciativas de governança de IA e ações executivas para abordar potenciais riscos, preconceitos e preocupações de segurança em sistemas de IA, embora essas políticas continuem a evoluir.

A Esri reconheceu a importância de se manter à frente desses requisitos legais e regulatórios em evolução, desenvolvimento responsável e considerações éticas. Alinhamos proativamente nossas práticas de IA com as principais regulamentações e estruturas reconhecidas pelo setor. Isso inclui seguir as orientações estabelecidas pelas leis e regulamentos declarados acima.

Princípios orientadores

A estrutura de IA Confiável da Esri é baseada em seis princípios fundamentais:

• Segurança: Estamos comprometidos em proteger a segurança e mitigar riscos em nossos sistemas de IA por meio de uma abordagem de segurança desde o design, ao mesmo tempo em que garantimos uma IA responsável que protege proativamente contra ameaças à segurança.
• Privacidade: Priorizamos a proteção dos dados do usuário e a garantia da privacidade da IA ​​durante todo o ciclo de vida da IA, garantindo a conformidade com os padrões globais de privacidade por meio de metodologias de privacidade desde o design, anonimização de dados e minimização de dados.
• Transparência: Fornecemos visibilidade clara sobre nossos modelos de IA, possibilitando a tomada de decisões informadas sobre nossos processos, limitações e resultados de IA.
• Justiça: A Esri há muito tempo defende os princípios de justiça, ética e responsabilidade social em suas práticas cotidianas. Esses valores fundamentais estão incorporados em nossa abordagem à tomada de decisões, ao desenvolvimento de produtos e ao engajamento da comunidade.
• Confiabilidade: Nossa IA é cuidadosamente testada e validada para fornecer resultados consistentes e confiáveis ​​em diversos ambientes e casos de uso.
• Responsabilidade: Mantemos a responsabilidade estabelecendo estruturas de governança claras, responsabilizando nossas equipes pela implantação e monitoramento de IA e garantindo que a supervisão humana permaneça central para todas as decisões relacionadas à IA.

Abordagem da Esri

Design e desenvolvimento

A Esri emprega um processo de avaliação de risco para avaliar os recursos de IA, garantindo que eles atendam aos padrões de privacidade e segurança. Por meio de design com envolvimento humano, barreiras éticas, trabalho em equipe e testes laboratoriais holísticos, a Esri minimiza riscos e garante inclusão e controle do usuário.

Opções do cliente

Os assistentes de IA no ArcGIS são opcionais, permitindo que os usuários controlem quando e como os recursos de IA são usados. Os clientes podem habilitar ou restringir funcionalidades de IA por meio de configurações administrativas, garantindo o alinhamento com as políticas organizacionais.

Manipulação de dados

A privacidade dos dados do cliente é essencial para a estratégia de IA da Esri:

• A menos que você autorize explicitamente (como fornecer feedback no aplicativo), a Esri não treina modelos de IA usando dados do cliente sem autorização explícita.
• Os clientes mantêm a propriedade dos prompts e dados que fornecem para análise de IA nos produtos ArcGIS.

As funcionalidades de IA aderem às práticas de segmentação e anonimização de dados, protegendo a propriedade e a integridade dos dados.

Metadados e transparência

A Esri desenvolveu cartões de transparência de IA que detalham a funcionalidade, validação e salvaguardas dos recursos de IA. Esses cartões fornecem contexto para o uso responsável da IA, complementando padrões da indústria, como os Cartões de Modelo de IA.

Governança

Em 2023, a Esri estabeleceu um Conselho de Governança de IA para supervisionar a adesão aos princípios confiáveis ​​de IA. Esta iniciativa colaborativa garante que a inovação seja guiada por considerações éticas e regulatórias.

Salvaguardas

Os seguintes aspectos são aplicáveis ​​a todos os recursos de IA generativa que incorporamos em nossos produtos:

• Os recursos de IA generativa NÃO são habilitados por padrão no produto ArcGIS:
  • Usuários finais e/ou administradores devem optar por utilizar recursos generativos.
• A menos que você autorize explicitamente a Esri (por exemplo, fornecendo feedback no aplicativo), os dados e prompts que você usa com assistentes de IA irão:
  • Não ser usados para treinar modelos de IA.
  • Permanecer privados para você e nunca serão compartilhados.
• Quando serviços de IA de terceiros são utilizados:
  • Instâncias de IA de nível empresarial são utilizadas para segmentar e proteger seus dados.
• Os recursos de IA generativa têm limitações:
  • O potencial para resultados inconsistentes faz parte das consequências criativas da IA ​​generativa.
• Os clientes devem sempre incorporar um humano para avaliar a saída da IA ​​para garantir a adequação.

Aprendizagem Detalhada

A Esri fornece recursos de GeoAI há anos, como os Pacotes de Aprendizagem Detalhada disponíveis no Living Atlas. Esses pacotes de aprendizagem detalhada contêm uma página de descrição do item que pode conter campos como: uso pretendido, arquitetura do modelo, dados de treinamento usados, orientação de ajuste, métricas de desempenho, amostras, entrada/saída e possíveis limitações. Além disso, recomendamos fortemente baixar pacotes apenas de fontes marcadas como Autorizadas, o que significa que a organização que publica o conteúdo foi verificada pela Esri. Você deve entrar em contato com os editores do conteúdo que deseja consumir e pedir que eles concluam a verificação antes de baixar o conteúdo.

Recursos não relacionados ao produto

Além dos produtos ArcGIS, a Esri oferece recursos de IA generativa, como o Esri Support AI Chatbot e o Product Marketing Chatbot. Essas ferramentas ajudam os usuários a navegar no ecossistema da Esri com mais eficiência. No entanto, como esses chatbots não estão incorporados aos produtos ArcGIS, seu uso pode envolver termos e práticas de dados separados, como rastreamento relacionado a marketing.

Colaboração

Alcançar uma IA confiável é uma responsabilidade compartilhada. A Esri faz parcerias com clientes para implementar práticas recomendadas em governança de dados, uso ético de IA e supervisão humana. O feedback dos usuários fortalece nossas soluções, promovendo um ambiente colaborativo onde a confiança e a inovação prosperam. Consulte nosso guia de melhores práticas de implementação de IA para clientes para obter mais informações.

O compromisso da Esri com IA confiável permanece constante à medida que avançamos nos recursos do GeoAI e dos assistentes de IA. Ao integrar essas tecnologias de forma responsável, estamos construindo um futuro em que a IA promove mudanças positivas, mantendo os mais altos padrões de confiabilidade.

Referências

• EU AI Act: Primeira regulamentação sobre inteligência artificial
• Quatro princípios da Inteligência Artificial explicável: NIST.IR.8312.pdf
• Estrutura de Gerenciamento de Risco de Inteligência Artificial: Perfil de Inteligência Artificial Generativa NIST.AI.600.1.pdf
• Referência da Esri: Avançando com IA Confiável no ArcGIS
• Referência da Esri: Estrutura do cartão de Transparência da AI