Esri는 AI 기능, 데이터 소스, 개인정보보호/보안 조치에 대한 자세한 인사이트를 제공하여 AI의 투명성을 보장하기 위해 최선을 다하고 있습니다. 고객은 AI 투명 카드를 통해 ArcGIS 제품에서 생성형 AI 사용에 관해 정보에 입각한 의사결정을 내릴 수 있습니다. 투명 카드의 필드 및 세부정보에 대한 전체 오버뷰는 투명 카드 구조 문서를 참고하세요.
모델 카드와 투명 카드 비교
ArcGIS 제품에 사용되는 많은 AI 모델에는 진화하는 산업 표준인 AI 모델 카드가 있습니다. 그러나 모델 카드는 주로 모델 자체를 문서화하며 Esri가 AI 기능을 ArcGIS에 통합하는 방법, 의도된 사용 사례, 위험 완화 조치와 같은 제품별 컨텍스트는 제공하지 않습니다.
이러한 문제를 해결하기 위해 Esri는 생성형 AI를 사용하는 ArcGIS 제품에 대한 AI 투명 카드를 개발했습니다. 이러한 AI 투명 카드는 다음에 대한 정보를 제공하여 모델 카드를 확장합니다.
- 기능 - ArcGIS 제품 내에서 AI가 구현되는 방법
- 데이터 소스 - AI 기능이 처리하는 데이터 및 처리 방식
- 검증 및 위험 완화 - 보안, 정확도, 규정 준수를 보장하기 위해 마련된 보호 조치
- 개인정보보호 및 보안 조치 - 고객 데이터를 보호하는 방법 및 해당 데이터를 보관하거나 모델 학습에 사용하는지 여부
- 알려진 제한 사항 - 잠재적인 편향, 정확도 제약, 책임 있는 사용 검토사항에 대한 투명성.
이 카드는 고객이 이러한 AI 기능을 책임감 있게 통합하고 활용할 수 있는 주요 세부정보를 제공합니다.
AI 투명 카드 구조
현재 생성형 AI 기능은 아직 Esri 제품 내에서 전체 프로덕션 릴리즈에 포함되지 않았습니다. 그러나 베타 단계의 AI 기능에 대한 투명 카드를 제공하여 조기 인식과 정보에 입각한 의사결정을 지원하고 있습니다. 시간이 지남에 따라 제품 기능 전반에 걸쳐 AI 투명 카드 적용 범위를 확장할 예정입니다. 고객 피드백을 환영합니다.
각 투명 카드에는 설명 및 응답이 있는 구조화된 섹션이 포함되어 있습니다. 명확히 하기 위해 특정 섹션에는 미리 정의된 옵션이 포함되어 있으며, 이는 AI 투명 카드 구조 PDF에 요약되어 있습니다.