Trusted AI в ArcGIS

В Esri мы уделяем приоритетное внимание доверию к разработке и внедрению ИИ. Trustworthy AI в ArcGIS фокусируется на безопасности, конфиденциальности, прозрачности, справедливости, надежности и подотчетности. Это отражает ценности Esri и ее приверженность ответственным инновациям, преодолению дефицита доверия к ИИ и содействию позитивным изменениям в обществе. Ознакомьтесь с дополнительной информацией о Advancing Trusted AI Esri в ArcGIS здесь.

ГеоИИ и Ассистенты

Esri использует две основные категории ИИ в ArcGIS:

• ГеоИИ: использует предварительно подготовленные модели глубокого обучения для таких задач, как извлечение объектов, распознавание образов и прогнозный анализ. ГеоИИ интегрируется в геопространственные рабочие процессы, предоставляя пользователям возможность анализировать пространственные данные с помощью передовых вычислительных инструментов.

• Генеративный ИИ: включает в себя ИИ-ассистентов и другие генеративные технологии, которые поддерживают креативность, продуктивность пользователей и автоматизированные рабочие процессы.

До бума генеративного ИИ последних нескольких лет, когда люди говорили об ИИ, как правило, они имели в виду машинное обучение и модели глубокого обучения, используемые для распознавания образов, прогнозирования, обнаружения объектов, фиксации изменений и многого другого. Более десяти лет назад Esri начала использовать машинное обучение для выполнения кластеризации, регрессии и классификации пространственных данных. А недавно продолжилась работа как в области машинного, так и глубокого обучения, включая внедрение предварительно подготовленных моделей глубокого обучения, чтобы упростить начало работы с такими задачами, как извлечение объектов, классификация облаков точек и редактирование изображений. Эта работа проводится в рамках того, что Esri называет ГеоИИ.

Генеративный ИИ относится к типу модели машинного обучения, предназначенной для создания нового ресурса или полезных рекомендаций путем изучения шаблонов из крупномасштабных наборов данных. Модели генеративного ИИ обучаются на обширных наборах данных, которые могут включать в себя очень большие данные, относящиеся к конкретной предметной области, и/или данные из Интернета. В отличие от традиционных моделей ИИ, которые ориентированы на прогнозную аналитику, генеративные модели ИИ используются для создания креативных результатов, таких как текст, изображения или другие формы ресурсов.

В отличие от генеративного ИИ, описанного выше, ГеоИИ (GeoAI) фокусируется на анализе и интерпретации геопространственных данных для выявления закономерностей и выполнения прогнозной аналитики с использованием входных данных. Генеративный ИИ можно рассматривать как модель машинного обучения, которая обучается создавать новые данные, а не делать прогнозы относительно конкретного набора данных, и является более недетерминированной, что позволяет принимать более креативные решения. Система генеративного ИИ — это система, которая учится генерировать объекты, похожие на данные, на которых она была обучена. Примером возможностей ArcGIS, включающих в себя генеративный ИИ, являются ИИ-ассистенты в ArcGIS.

Реальный механизм, лежащий в основе генеративного ИИ и других типов ИИ, часто использует одни и те же алгоритмы, что может сгладить различия между этими типами. Быстрое распространение генеративного ИИ и более широкие возможности его использования привели к ускорению выполнения нормативных требований и требований клиентов к большей прозрачности и контролю.

Ландшафт

Ландшафт ИИ быстро развивается. Правительства по всему миру активно формируют будущее ИИ, принимая новые законы и нормативные акты. Например, Европейский союз недавно принял Закон ЕС об ИИ (EU AI Act), который устанавливает правила для применения ИИ в приложениях с высокой степенью риска. Соединенные Штаты внедрили различные инициативы по управлению ИИ и меры исполнительной власти, направленные на устранение потенциальных рисков, предвзятости и проблем безопасности в системах ИИ, хотя эта политика продолжает развиваться.

Компания Esri осознает важность опережающего учета этих меняющихся правовых требований, а также нормативных требований, ответственного развития и этических соображений. Мы активно согласовываем наши практики использования ИИ с ключевыми нормативными актами и признанными в отрасли стандартами. Это включает в себя следование рекомендациям, изложенным в законах и нормативных актах, указанных выше.

Руководящие принципы

Для обеспечения постоянной безопасности и конфиденциальности компания Esri предоставляет среду ArcGIS Trusted AI, основанную на шести основных принципах:

• Безопасность: мы стремимся обеспечивать безопасность и снижать риски в наших системах ИИ с помощью подхода, основанного на проектной безопасности, обеспечивая при этом ответственный ИИ, который проактивно защищает от угроз безопасности.
• Конфиденциальность: мы уделяем приоритетное внимание защите пользовательских данных и обеспечению конфиденциальности ИИ на протяжении всего жизненного цикла ИИ, обеспечивая соответствие глобальным стандартам конфиденциальности с помощью методологий обеспечения конфиденциальности по дизайну, анонимизации и минимизации данных.
• Прозрачность: мы предоставляем четкое представление о наших моделях ИИ, что позволяет принимать обоснованные решения о наших процессах, ограничениях и результатах в области ИИ.
• Справедливость: Esri уже давно придерживается принципов справедливости, этики и социальной ответственности в своей повседневной деятельности. Эти основные ценности заложены в нашем подходе к принятию решений, разработке продуктов и вовлечению сообщества.
• Надежность: наш ИИ тщательно тестируется и проверяется, чтобы обеспечивать стабильные и надежные результаты в различных средах и вариантах использования.
• Подотчетность: мы поддерживаем подотчетность, устанавливая четкие рамки управления, возлагая на наши команды ответственность за внедрение и мониторинг ИИ и обеспечивая, чтобы человеческий надзор оставался центральным во всех решениях, связанных с ИИ.

Подход Esri

Проектирование и разработка

Esri использует процесс оценки рисков для оценки функций ИИ, гарантируя, что они соответствуют стандартам конфиденциальности и безопасности. Благодаря проектированию с участием человека, этическим ограничениям, сотрудничеству с экспертами и комплексному лабораторному тестированию Esri минимизирует риски, обеспечивая при этом инклюзивность и контроль со стороны пользователя.

Выбор клиента

ИИ-ассистент в ArcGIS доступен по подписке, что позволяет клиентам контролировать, когда и как используются возможности ИИ. Клиенты могут включать или ограничивать функции ИИ с помощью административных настроек, обеспечивая соответствие политикам организации.

Обработка данных

Конфиденциальность клиентских данных занимает центральное место в стратегии Esri в области ИИ:

• Не имея вашей явной авторизации (например, при предоставлении обратной связи в приложении), Esri не занимается обучением моделей ИИ с использованием данных клиентов без явного разрешения.
• Клиенты сохраняют за собой право собственности на запросы и данные, которые они предоставляют для анализа с помощью ИИ в продуктах ArcGIS.

Функциональные возможности ИИ соответствуют принципам сегментации и анонимизации данных, гарантируя владение данными и их целостность.

Метаданные и прозрачность

Esri разработала карточки прозрачности ИИ, в которых подробно описываются функциональные возможности, проверка и гарантии безопасности функций ИИ. Эти карточки обеспечивают условия для ответственного использования ИИ, дополняя отраслевые стандарты, такие как карточки моделей ИИ.

Руководство

В 2023 году Esri учредила Совет по управлению ИИ для контроля за соблюдением принципов надежности ИИ. Эта совместная инициатива гарантирует, что инновации будут осуществляться с учетом этических и нормативных соображений.

Гарантии

Следующие аспекты применимы ко всем функциям генеративного ИИ, которые мы внедряем в наши продукты:

• Функции генеративного ИИ по умолчанию не включены в продукте ArcGIS:
  • Конечные пользователи и/или администраторы должны дать согласие на использование генеративных функций.
• Если вы явно не дали разрешение Esri (например, на предоставление обратной связи в приложении), данные и подсказки, которые вы используете в ИИ-ассистентах:
  • Не будут использоваться для обучения моделей ИИ.
  • Останутся лично вашими и никогда не станут достоянием общественности.
• Когда используются сторонние сервисы ИИ:
  • Экземпляры ИИ корпоративного класса используются для сегментирования и защиты ваших данных.
• Возможности генеративного ИИ имеют ограничения:
  • Потенциальная возможность получения непоследовательных результатов является частью творческих последствий генеративного ИИ.
• Заказчики всегда должны привлекать человека для оценки результатов работы ИИ, чтобы обеспечить их соответствие требованиям.

Глубокое обучение

Esri уже давно предоставляет возможности ГеоИИ (GeoAI), такие как пакеты глубокого обучения, доступные в рамках Living Atlas. Эти пакеты глубокого обучения содержат страницу описания элемента, которая может содержать такие поля: предполагаемое использование, архитектура модели, используемые обучающие данные, рекомендации по настройке, показатели производительности, шаблоны, входные/выходные данные и потенциальные ограничения. Кроме того, мы настоятельно рекомендуем загружать пакеты только из источников, помеченных как достоверные, что означает, что организация, публикующая ресурс, прошла проверку Esri. Вам следует связаться с издателями ресурса, который хотите использовать, и попросить их пройти проверку перед загрузкой их ресурса.

Функции, не относящиеся к продуктам

Помимо продуктов ArcGIS, Esri предлагает функции ИИ, такие как чат-бот Esri Support AI и чат-бот Product Marketing. Эти инструменты помогают пользователям более эффективно ориентироваться в экосистеме Esri. Однако, поскольку эти чат-боты не встроены в продукты ArcGIS, их использование может включать в себя отдельные термины и методы обработки данных, такие как отслеживание, связанное с маркетингом.

Сотрудничество

Создание надежного ИИ — это общая ответственность. Esri сотрудничает с клиентами для внедрения передовых практик в области управления данными, этичного использования ИИ и контроля со стороны человека. Отзывы пользователей укрепляют наши решения, создавая среду сотрудничества, в которой процветают доверие и инновации. Для получения дополнительной информации ознакомьтесь с нашим руководством по наилучшей практике внедрения ИИ.

Приверженность Esri надежному ИИ остается неизменной по мере того, как мы расширяем возможности ГеоИИ и ИИ-ассистентов. Ответственно интегрируя эти технологии, мы строим будущее, в котором ИИ способствует позитивным изменениям, сохраняя при этом высочайшие стандарты надежности.

Справочная информация

• Закон ЕС об ИИ (EU AI Act): Первое постановление об искусственном интеллекте
• Четыре принципа объяснимого искусственного интеллекта: NIST.IR.8312.pdf
• Структура управления рисками в области искусственного интеллекта: Генеративный профиль искусственного интеллекта NIST.AI.600.1.pdf
• Справка Esri: Развитие надежного ИИ в ArcGIS
• Справка Esri: Структура карточки прозрачности ИИ