IA de confianza en ArcGIS

En Esri, damos prioridad a la confianza en el desarrollo y la implementación de la IA. La IA de confianza en ArcGIS se centra en la seguridad, la privacidad, la transparencia, la equidad, la fiabilidad y la responsabilidad. Esto refleja los valores y el compromiso de Esri con la innovación responsable, la reducción de la brecha de confianza en la IA y el fomento de un cambio social positivo. Obtenga aquí más información sobre el avance de la IA de confianza en ArcGIS de Esri.

GeoAI y asistentes

Esri aprovecha dos categorías principales de IA en ArcGIS:

• GeoAI: utiliza modelos de aprendizaje profundo preentrenados para tareas como la extracción de entidades, el reconocimiento de patrones y el análisis predictivo. GeoAI se integra en los flujos de trabajo geoespaciales, lo que permite a los usuarios analizar datos espaciales con herramientas computacionales avanzadas.

• IA generativa: incorpora asistentes de IA y otras tecnologías generativas que respaldan la creatividad, la productividad del usuario y los flujos de trabajo automatizados.

Antes del auge de la IA generativa de los últimos años, cuando se hablaba de IA, normalmente se refería al aprendizaje automático y a los modelos de aprendizaje profundo utilizados en el reconocimiento de patrones, la previsión, la detección de objetos, la detección de cambios, etc. Hace más de una década, Esri comenzó con el aprendizaje automático para realizar clustering, regresiones y clasificaciones de datos espaciales. Más recientemente, se ha seguido trabajando tanto en el campo del aprendizaje automático como en el del aprendizaje profundo, incluida la introducción de modelos de aprendizaje profundo preentrenados para facilitar el inicio de tareas como la extracción de entidades, la clasificación de nubes de puntos y la redacción de imágenes. Este trabajo se engloba en lo que Esri denomina GeoAI.

La IA generativa se refiere a un tipo de modelo de aprendizaje automático diseñado para crear nuevos contenidos o recomendaciones datalladas mediante el aprendizaje de patrones a partir de datasets a gran escala. Los modelos de IA generativa se entrenan en extensos datasets que pueden incluir datos muy grandes y específicos de un dominio y/o datos de Internet. A diferencia de los modelos de IA tradicionales, que se centran en el análisis predictivo, los modelos de IA generativa se utilizan para generar resultados creativos como texto, imágenes u otras formas de contenido.

A diferencia de la IA generativa descrita anteriormente, la GeoIA se centra en analizar e interpretar datos geoespaciales para descubrir patrones y realizar análisis predictivos utilizando los datos de entrada. La IA generativa puede considerarse como un modelo de aprendizaje automático que está entrenado para crear nuevos datos, en lugar de hacer una predicción sobre un dataset específico, y es menos determinista, lo que permite soluciones más creativas. Un sistema de IA generativa es aquel que aprende a generar más objetos que se parecen a los datos con los que se entrenó. Un ejemplo de las capacidades de ArcGIS que incorporan IA generativa son los asistentes de IA disponibles en ArcGIS.

La maquinaria real que subyace a la IA generativa y otros tipos de IA suelen utilizar los mismos algoritmos, lo que puede difuminar la distinción entre los tipos. La rápida proliferación de la IA generativa y sus casos prácticos más amplios han dado lugar a requisitos normativos acelerados y a exigencias de una mayor transparencia y control por parte de los clientes.

Panorama

El panorama de la IA está evolucionando rápidamente. Los gobiernos de todo el mundo están dando forma activamente al futuro de la IA con la promulgación de nuevas leyes y marcos. Por ejemplo, la Unión Europea adoptó recientemente la Ley de IA de la UE, que establece regulaciones sobre aplicaciones de IA de alto riesgo. Estados Unidos ha introducido diversas iniciativas de gobernanza de IA y acciones ejecutivas para abordar los riesgos potenciales, los sesgos y las preocupaciones relativas a la seguridad en los sistemas de IA, aunque estas políticas continúan evolucionando.

Esri ha reconocido la importancia de adelantarse a estos requisitos legales y normativos en constante evolución, al desarrollo responsable y a las consideraciones éticas. Alineamos de forma proactiva nuestras prácticas de IA con las normativas clave y los marcos reconocidas por la industria. Esto incluye seguir las directrices establecidas por las leyes y normativas mencionadas anteriormente.

Principios rectores

El marco de IA de confianza de Esri se basa en seis principios fundamentales:

• Seguridad: nos comprometemos a salvaguardar la seguridad y mitigar los riesgos en nuestros sistemas de IA mediante un enfoque de seguridad desde el diseño, al tiempo que garantizamos una IA responsable que proteja de forma proactiva contra las amenazas a la seguridad.
• Privacidad: damos prioridad a la protección de los datos de los usuarios y a garantizar la privacidad de la IA a lo largo de todo su ciclo de vida, asegurando el cumplimiento de las normas mundiales de privacidad mediante metodologías de privacidad por diseño, anonimización de datos y minimización de datos.
• Transparencia: proporcionamos una visibilidad clara de nuestros modelos de IA, lo que permite tomar decisiones informadas sobre nuestros procesos, limitaciones y resultados de IA.
• Equidad: Esri ha defendido durante mucho tiempo los principios de equidad, ética y responsabilidad social en sus prácticas cotidianas. Estos valores fundamentales están integrados en nuestro enfoque de la toma de decisiones, el desarrollo de productos y la participación de la comunidad.
• Fiabilidad: nuestra IA se prueba y valida cuidadosamente para ofrecer resultados consistentes y fiables en diversos entornos y casos prácticos.
• Responsabilidad: mantenemos la responsabilidad estableciendo marcos de gobernanza claros, haciendo que nuestros equipos sean responsables de la implementación y supervisión de la IA, asegurando que la supervisión humana siga siendo fundamental en todas las decisiones relacionadas con la IA.

El enfoque de Esri

Diseño y desarrollo

Esri emplea un proceso de evaluación de riesgos para valorar las funciones de IA, asegurándose de que cumplen con los estándares de privacidad y seguridad. Mediante el diseño con intervención humana, las barreras éticas, el red teaming y las pruebas de laboratorio integrales, Esri minimiza los riesgos al tiempo que garantiza la inclusión y el control del usuario.

Elección del cliente

El asistente de IA en ArcGIS es opcional, lo que permite a los usuarios controlar cuándo y cómo se utilizan las capacidades de IA. Los clientes pueden habilitar o restringir las funcionalidades de IA mediante la configuración administrativa, asegurando la alineación con las políticas de la organización.

Manejo de datos

La privacidad de los datos de los clientes es fundamental para la estrategia de IA de Esri:

• A menos que usted lo autorice explícitamente (por ejemplo, proporcionando comentarios en la aplicación), Esri no entrena modelos de IA utilizando datos de clientes sin autorización explícita.
• Los clientes conservan la propiedad de las indicaciones y los datos que proporcionan para el análisis de IA en los productos ArcGIS.

Las funcionalidades de IA se adhieren a las prácticas de segmentación y anonimización de datos, salvaguardando la propiedad y la integridad de los datos.

Metadatos y transparencia

Esri ha desarrollado tarjetas de transparencia de IA que detallan la funcionalidad, la validación y las salvaguardas de las funciones de la IA. Estas tarjetas ofrecen un contexto para el uso responsable de la IA, complementando estándares de la industria como las tarjetas de modelos de IA.

Gobernanza

En 2023, Esri estableció una Junta de Gobernanza de IA para supervisar el cumplimiento de los principios de la IA de confianza. Esta iniciativa colaborativa garantiza que la innovación se guíe por consideraciones éticas y normativas.

Salvaguardas

Los siguientes aspectos son aplicables a todas las funciones de la IA generativa que incorporamos a nuestros productos:

• Las funciones de la IA generativa NO están habilitadas de forma predeterminada en el producto ArcGIS:
  • Los usuarios finales y/o administradores deben decidir si van a utilizar las funciones generativas.
• A menos que autorice explícitamente a Esri (por ejemplo, proporcionando comentarios en la aplicación), los datos y las indicaciones que utilice con los asistentes de IA:
  • No se utilizarán para entrenar modelos de IA.
  • Permanecerán privados para usted y nunca se compartirán.
• Cuando se utilicen servicios de IA de terceros:
  • Se utilizan instancias de IA de clase empresarial para segmentar y proteger sus datos.
• Las funciones de la IA generativa tienen limitaciones:
  • La posibilidad de resultados inconsistentes forma parte de las consecuencias creativas de la IA generativa.
• Los clientes siempre deben incorporar a un humano para evaluar los resultados de la IA y garantizar su idoneidad.

Aprendizaje profundo

Esri lleva años proporcionando capacidades de GeoAI, como los paquetes de aprendizaje profundo disponibles en Living Atlas. Estos paquetes de aprendizaje profundo contienen una página de descripción del artículo que puede contener campos como los siguientes: uso previsto, arquitectura del modelo, datos de entrenamiento utilizados, guía de ajuste, métricas de rendimiento, muestras, entrada/salida y limitaciones potenciales. Además, recomendamos encarecidamente descargar únicamente paquetes de fuentes marcadas como Acreditadas, lo que significa que la organización que publica el contenido ha sido verificada por Esri. Debe ponerse en contacto con los editores del contenido que desea consumir y pedirles que completen la verificación antes de descargar su contenido.

Funciones no relacionadas con el producto

Además de los productos ArcGIS, Esri ofrece funciones de IA generativa, como el chatbot de soporte de IA de Esri y el chatbot de marketing de productos. Estas herramientas ayudan a los usuarios a navegar por el ecosistema de Esri de forma más eficiente. Sin embargo, como estos chatbots no están integrados en los productos ArcGIS, su uso puede implicar términos y prácticas de datos independientes, como el seguimiento relacionado con el marketing.

Colaboración

Lograr una IA fiable es una responsabilidad compartida. Esri se asocia con los clientes para implantar prácticas recomendadas en lo relativo a gobernanza de datos, uso ético de la IA y supervisión humana. Los comentarios de los usuarios fortalecen nuestras soluciones, fomentando un entorno colaborativo en el que prosperan la confianza y la innovación. Consulte nuestra guía de prácticas recomendadas de implantación de la IA para clientes para obtener más información.

El compromiso de Esri con la IA fiable se mantiene constante a medida que avanzamos en las capacidades de GeoAI y los asistentes de IA. Al integrar estas tecnologías de forma responsable, estamos construyendo un futuro en el que la IA impulsa el cambio positivo al tiempo que mantiene los más altos estándares de fiabilidad.

Referencias

• Ley de IA de la UE: primer reglamento sobre inteligencia artificial
• Cuatro principios de la inteligencia artificial explicable: NIST.IR.8312.pdf
• Marco de gestión de riesgos de la inteligencia artificial: perfil de inteligencia artificial generativa NIST.AI.600.1.pdf
• Referencia de Esri: Avanzar en la IA de confianza en ArcGIS
• Referencia de Esri: Estructura de la tarjeta de transparencia de la IA