IA de confiança no ArcGIS

Na Esri, damos prioridade à confiança no desenvolvimento e implementação de IA. A IA de confiança no ArcGIS foca-se na segurança, privacidade, transparência, justiça, fiabilidade e responsabilidade. Este facto reflete os valores e o compromisso da Esri para com a inovação responsável, reduzindo a falta de confiança na IA e promovendo mudanças sociais positivas. Explore mais informações sobre o avanço da IA de confiança da Esri no ArcGIS aqui.

Assistentes de IA e GeoAI

A Esri utiliza duas categorias principais de IA no ArcGIS:

• GeoAI: utiliza modelos de aprendizagem profunda pré-treinados para tarefas como a extração de elementos, o reconhecimento de padrões e a análise preditiva. A GeoAI integra-se em fluxos de trabalho geoespaciais, permitindo aos utilizadores analisar dados espaciais com ferramentas computacionais avançadas.

• IA generativa: incorpora assistentes de IA e outras tecnologias generativas que apoiam a criatividade, a produtividade do utilizador e os fluxos de trabalho automatizados.

Antes do grande crescimento da IA generativa nos últimos anos, quando as pessoas falavam de IA, referiam-se normalmente a modelos de aprendizagem automática e de aprendizagem profunda utilizados no reconhecimento de padrões, previsão, deteção de objetos, deteção de alterações, etc. Há mais de uma década, a Esri começou a utilizar a aprendizagem automática para efetuar clustering, regressão e classificação em dados espaciais. Mais recentemente, o trabalho continuou tanto no espaço da aprendizagem automática como no da aprendizagem profunda, incluindo a introdução de modelos de aprendizagem profunda pré-treinados para facilitar o início de tarefas como a extração de elementos, a classificação de nuvens de pontos e a redação de imagens. Este trabalho insere-se no âmbito do que a Esri designa por GeoAI.

A IA generativa refere-se a um tipo de modelo de aprendizagem automática concebido para criar novos conteúdos, ou recomendações perspicazes, através da aprendizagem de padrões a partir de conjuntos de dados em grande escala. Os modelos de IA generativa são treinados com base em conjuntos de dados extensos, que podem incluir dados muito grandes, específicos de um domínio e/ou dados da Internet. Ao contrário dos modelos de IA tradicionais que se focam na análise preditiva, os modelos de IA generativa são utilizados para gerar resultados criativos, como texto, imagens ou outras formas de conteúdo.

Em contraste com a IA generativa descrita acima, a GeoAI foca-se na análise e interpretação de dados geoespaciais para descobrir padrões e efetuar análises preditivas com base nos dados de entrada. A IA generativa pode ser considerada um modelo de aprendizagem automática que é treinado para criar novos dados, em vez de fazer uma previsão sobre um conjunto de dados específico e é menos determinística, permitindo soluções mais criativas. Um sistema de IA generativa é um sistema que aprende a gerar mais objetos que se assemelham aos dados com os quais foi treinado. Um exemplo das capacidades do ArcGIS que incorporam a IA generativa são os Assistentes de IA no ArcGIS.

A maquinaria real subjacente à IA generativa e a outros tipos de IA utilizam frequentemente os mesmos algoritmos, o que pode atenuar a distinção entre os tipos. A rápida proliferação da IA generativa e os casos de utilização mais amplos resultaram na aceleração dos requisitos regulamentares e nas exigências dos clientes para uma maior transparência e controlo.

Panorama

O panorama da IA está a evoluir rapidamente. Os governos de todo o mundo estão a moldar ativamente o futuro da IA através da promulgação de novas leis e enquadramentos. Por exemplo, a União Europeia adotou recentemente o Regulamento IA da UE, que estabelece regulamentos sobre aplicações de IA de alto risco. Os Estados Unidos introduziram várias iniciativas de governação da IA e ações executivas, para abordar potenciais riscos, preconceitos e preocupações de segurança nos sistemas de IA, embora estas políticas continuem a evoluir.

A Esri reconheceu a importância de se manter à frente destes requisitos legais em evolução e considerações regulamentares, de desenvolvimento responsável e éticas. Alinhamos proativamente as nossas práticas de IA com os principais regulamentos e estruturas reconhecidas pelo setor. Isto inclui seguir as orientações estabelecidas pelas leis e regulamentos acima referidos.

Princípios orientadores

A estrutura de IA de confiança da Esri baseia-se em seis princípios fundamentais:

• Segurança: estamos empenhados em garantir a segurança e mitigar os riscos nos nossos sistemas de IA através de uma abordagem segura desde a conceção, assegurando simultaneamente uma IA responsável que proteja proativamente contra ameaças à segurança.
• Privacidade: damos prioridade à proteção dos dados do utilizador e à garantia da privacidade da IA durante todo o ciclo de vida da IA, assegurando a conformidade com as normas de privacidade globais através de metodologias de privacidade desde a conceção, anonimização de dados e minimização de dados.
• Transparência: proporcionamos uma visibilidade clara dos nossos modelos de IA, permitindo a tomada de decisões informadas sobre os nossos processos, limitações e resultados de IA.
• Equidade: a Esri há muito que defende os princípios de justiça, ética e responsabilidade social nas suas práticas quotidianas. Estes valores fundamentais estão integrados na nossa abordagem à tomada de decisões, ao desenvolvimento de produtos e ao envolvimento da comunidade.
• Fiabilidade: a nossa IA é cuidadosamente testada e validada para fornecer resultados consistentes e fiáveis em diversos ambientes e casos de utilização.
• Responsabilidade: mantemos a responsabilidade através do estabelecimento de quadros de governação claros, responsabilizando as nossas equipas pela implementação e monitorização da IA, assegurando que a supervisão humana continua a ser central em todas as decisões relacionadas com a IA.

A abordagem da Esri

Conceção e desenvolvimento

A Esri utiliza um processo de avaliação de riscos para avaliar as funcionalidades de IA, garantindo que cumprem as normas de privacidade e segurança. Através do design "human-in-the-loop" (supervisão humana), de barreiras éticas, da equipa vermelha e dos testes laboratoriais holísticos, a Esri minimiza os riscos ao mesmo tempo que assegura a inclusão e o controlo do utilizador.

Escolha do cliente

O assistente de IA no ArcGIS é opcional, permitindo aos utilizadores controlar quando e como as capacidades de IA são utilizadas. Os clientes podem ativar ou restringir as funcionalidades de IA através de definições administrativas, garantindo o alinhamento com as políticas organizacionais.

Tratamento de dados

A privacidade dos dados dos clientes é fundamental para a estratégia de IA da Esri:

• A menos que explicitamente autorizado pelo utilizador (tal como fornecer feedback dentro da aplicação), a Esri não treina modelos de IA com dados de clientes sem autorização explícita.
• Os clientes mantêm a propriedade dos prompts e dados que fornecem para a análise de IA nos produtos ArcGIS.

As funcionalidades de IA aderem às práticas de segmentação e anonimização de dados, protegendo a propriedade e a integridade dos dados.

Metadados e transparência

A Esri desenvolveu cartões de transparência de IA que detalham a funcionalidade, validação e salvaguardas das funcionalidades de IA. Estes cartões fornecem contexto para uma utilização responsável da IA, complementando as normas do setor, como os cartões de modelo de IA.

Governança

Em 2023, a Esri criou um Conselho de governança de IA para supervisionar a adesão aos princípios de IA de confiança. Esta iniciativa colaborativa garante que a inovação é orientada por considerações éticas e regulamentares.

Salvaguardas

Os seguintes aspetos são aplicáveis a todas as funcionalidades de IA generativa que incorporamos nos nossos produtos:

• As funcionalidades de IA generativa NÃO estão ativadas por predefinição no produto ArcGIS:
  • Os utilizadores finais e/ou administradores têm de optar por utilizar as funcionalidades generativas.
• A menos que o utilizador autorize explicitamente a Esri, (por exemplo, ao fornecer feedback dentro da aplicação), os dados e os prompts que utilizar com os assistentes de IA:
  • Não serão utilizados para treinar modelos de IA.
  • Permanecem privados para si e nunca serão partilhadas.
• Quando forem utilizados serviços de IA de terceiros:
  • As instâncias de IA de classe empresarial são utilizadas para segmentar e proteger os seus dados.
• As funcionalidades da IA generativa têm limitações:
  • O potencial de produção inconsistente faz parte das consequências criativas da IA generativa.
• Os clientes devem incorporar sempre um ser humano para avaliar os resultados da IA e garantir a sua adequação.

Aprendizagem profunda

A Esri fornece capacidades de GeoAI há anos, como os pacotes de aprendizagem profunda disponíveis no Living Atlas. Estes pacotes de aprendizagem profunda contêm uma página de descrição de item que pode conter campos como: utilização pretendida, arquitetura do modelo, dados de treino utilizados, orientação de ajuste, métricas de desempenho, amostras, entrada/saída e potenciais limitações. Além disso, recomendamos vivamente que apenas transfira pacotes de fontes marcadas como Autoritativas, o que significa que a organização que publica o conteúdo foi verificada pela Esri. Deve contactar os editores de conteúdos que pretende consumir e pedir-lhes que concluam a verificação antes de transferir os respetivos conteúdos.

Funcionalidades não relacionadas com produtos

Além dos produtos ArcGIS, a Esri oferece funcionalidades de IA generativa, como o Esri Support AI Chatbot (Chatbot de IA de Suporte Esri) e o Product Marketing Chatbot (Chatbot de Marketing de Produto). Estas ferramentas ajudam os utilizadores a navegar no ecossistema da Esri de forma mais eficaz. No entanto, uma vez que estes chatbots não estão incorporados nos produtos ArcGIS, a sua utilização pode envolver termos e práticas de dados separados, tais como a monitorização relacionada com o marketing.

Colaboração

Conseguir uma IA de confiança é uma responsabilidade partilhada. A Esri estabelece parcerias com clientes para implementar as melhores práticas de governança de dados, uso ético de IA e supervisão humana. O feedback dos utilizadores reforça as nossas soluções, promovendo um ambiente de colaboração onde a confiança e a inovação prosperam. Para obter mais informações, consulte o nosso guia de boas práticas de implementação de IA para clientes.

O compromisso da Esri com a IA de confiança mantém-se constante à medida que avançamos as capacidades da GeoAI e dos assistentes de IA. Ao integrarmos estas tecnologias de forma responsável, estamos a construir um futuro em que a IA potencia mudanças positivas, mantendo os mais elevados padrões de fiabilidade.

Referências

• Regulamento IA da UE: primeiro regulamento sobre inteligência artificial
• Quatro princípios de uma Inteligência Artificial explicável: NIST.IR.8312.pdf
• Quadro de gestão do risco de inteligência artificial: Perfil de inteligência artificial generativa NIST.AI.600.1.pdf
• Referência Esri: Advancing Trusted AI in ArcGIS (Avanço da IA de confiança no ArcGIS)
• Referência Esri: AI Transparency card structure (Estrutura do cartão de transparência de IA)