Esri стремится к прозрачности в области применения ИИ, предоставляя подробную информацию о функциях искусственного интеллекта, источниках данных и мерах обеспечения конфиденциальности/безопасности. Карточки прозрачности ИИ помогают клиентам принимать обоснованные решения об использовании генеративного ИИ в продуктах ArcGIS. Полный обзор полей и сведений о карточках прозрачности приведен в документе Структура карточек прозрачности.
Карточки моделей в сравнении с карточками прозрачности
Многие модели ИИ, используемые в продуктах ArcGIS, имеют карточки моделей ИИ — развивающийся отраслевой стандарт. Однако карточки моделей в основном документируют саму модель и не содержат информации о конкретном продукте, например, о том, как Esri интегрирует функцию ИИ в ArcGIS, предполагаемых вариантах ее использования и существующих мерах по снижению рисков.
Для решения этой проблемы Esri разработала карточки прозрачности ИИ для продуктов ArcGIS, использующих генеративный ИИ. Эти карточки прозрачности ИИ дополняют карточки моделей, предоставляя информацию о:
- Функциональных возможностях — как ИИ реализован в продуктах ArcGIS.
- Источниках данных — какие данные обрабатывает функция ИИ и как с ней обращаться.
- Проверке и снижении рисков — какие меры предосторожности применяются для обеспечения безопасности, точности и соответствия требованиям.
- Мерах конфиденциальности и безопасности — как защищены данные клиентов и сохраняются ли они или используются при обучении моделей.
- Известных ограничениях — прозрачность в отношении потенциальных искажений, ограничений точности или ответственного использования.
Эти карточки содержат ключевые сведения, позволяющие нашим клиентам ответственно внедрять и использовать подобные функции ИИ.
Структура карточки прозрачности ИИ
В настоящее время функции генеративного ИИ еще не полностью внедрены в продукты Esri. Тем не менее, мы предоставляем карточки прозрачности для функций ИИ на стадии бета-тестирования, чтобы способствовать ранней осведомленности и принятию обоснованных решений. Мы приветствуем отзывы клиентов, поскольку со временем расширяем охват карточек прозрачности с использованием ИИ для всех функций продуктов.
Каждая карточка прозрачности содержит структурированные разделы с описаниями и ответами. Для наглядности некоторые разделы содержат готовые опции, которые кратко изложены в PDF-документе Структура карточки прозрачности.