Esri는 AI 개발 및 배포에 대한 신뢰를 우선시합니다. ArcGIS의 신뢰할 수 있는 AI는 보안, 개인정보보호, 투명성, 공정성, 신뢰성, 책임성에 중점을 둡니다. 이는 책임 있는 혁신, AI 신뢰 격차 해소, 긍정적인 사회 변화 촉진에 대한 Esri의 가치와 약속을 반영합니다. 여기에서 Esri ArcGIS의 신뢰할 수 있는 AI 발전에 대한 자세한 내용을 살펴보세요.
Geo AI 및 도우미
Esri는 ArcGIS 내에서 두 가지 주요 AI 범주를 활용합니다.
- GeoAI: 피처 추출, 패턴 인식, 예측 분석과 같은 작업에 사전 학습된 딥러닝 모델을 사용합니다. GeoAI는 공간정보 워크플로에 통합되어 사용자가 고급 계산 도구로 공간정보를 분석할 수 있도록 지원합니다.
- 생성형 AI: 창의성, 사용자 생산성, 자동화된 워크플로를 지원하는 AI 도우미 및 기타 생성형 기술을 통합합니다.
지난 몇 년간 생성형 AI 붐이 일어나기 전에 사람들은 AI에 대해 이야기할 때 일반적으로 패턴 인식, 예측, 객체 감지, 변경 감지 등에 사용되는 머신 러닝 및 딥러닝 모델을 언급했습니다. 10여 년 전 Esri는 공간정보에 대한 클러스터링, 회귀, 분류를 수행하기 위해 머신 러닝을 시작했습니다. 최근에는 피처 추출, 포인트 클라우드 분류, 이미지 가리기와 같은 작업을 더 쉽게 시작할 수 있도록 사전 학습된 딥러닝 모델을 도입하는 등 머신 러닝 및 딥러닝 공간 모두에서 작업이 계속 진행되고 있습니다. 이러한 작업은 Esri가 GeoAI라고 하는 범주에 속합니다.
생성형 AI는 대규모 데이터셋에서 패턴을 학습하여 새로운 콘텐츠 또는 유용한 권장 사항을 제공하도록 설계된 머신 러닝 모델의 유형을 말합니다. 생성형 AI 모델은 대용량의 도메인별 데이터 및/또는 인터넷 데이터가 포함될 수 있는 방대한 데이터셋에서 학습됩니다. 예측 분석에 중점을 둔 기존의 AI 모델과 달리, 생성형 AI 모델은 텍스트, 이미지 또는 기타 형태의 콘텐츠와 같은 창의적인 결과를 생성하는 데 사용됩니다.
위에서 설명한 생성형 AI와 달리, GeoAI는 공간정보 데이터를 분석 및 해석하여 패턴을 발견하고 입력 데이터를 사용하여 예측 분석을 수행하는 데 중점을 둡니다. 생성형 AI는 특정 데이터셋에 대해 예측하는 대신 새로운 데이터를 생성하도록 학습된 머신 러닝 모델로 이해할 수 있으며, 비결정적인 특성이 강해 더 창의적인 솔루션을 제시할 수 있습니다. 생성형 AI 시스템은 학습된 데이터와 유사한 더 많은 객체를 생성하도록 학습하는 시스템입니다. 생성형 AI를 통합한 ArcGIS 기능의 예시로는 ArcGIS 내의 AI 도우미가 있습니다.
생성형 AI 및 다른 유형의 AI를 기반으로 하는 실제 기계는 동일한 알고리즘을 활용하여 유형 간의 구분이 모호해질 수 있는 경우가 많습니다. 생성형 AI의 빠른 확산과 더 폭넓은 사용 사례로 인해 규제 요구사항이 빠르게 적용되고 투명성 및 통제 강화에 대한 고객의 요구가 급격히 증가했습니다.
풍경
AI 환경은 빠르게 진화하고 있습니다. 전 세계의 정부는 새로운 법률 및 프레임워크를 제정하여 AI의 미래를 적극적으로 만들어가고 있습니다. 예를 들어 유럽 연합은 최근 고위험 AI 응용프로그램에 대한 규정을 확립하는 EU AI 법을 채택했습니다. 미국은 AI 시스템의 잠재적 위험, 편향, 안전 문제를 해결하기 위해 다양한 AI 거버넌스 이니셔티브 및 행정 조치를 도입했지만 이러한 정책은 계속 진화하고 있습니다.
Esri는 진화하는 법적 요구사항 및 규제, 책임 있는 개발, 윤리적 검토사항에 대비하는 것이 얼마나 중요한지 인식했습니다. Esri는 AI 관행을 주요 규정 및 산업에서 인정하는 프레임워크에 맞게 적극적으로 조정합니다. 여기에는 위에서 언급된 법률 및 규정에서 제시한 지침을 따르는 것이 포함됩니다.
지침 원칙
Esri의 신뢰할 수 있는 AI 프레임워크는 6가지 핵심 원칙을 기반으로 구축되었습니다.
- 보안: 보안 중심의 설계 접근 방식을 통해 AI 시스템의 보안을 강화하고 위험을 완화하면서 보안 위협으로부터 사전에 보호하는 책임 있는 AI를 보장하기 위해 최선을 다하고 있습니다.
- 개인정보보호: 개인정보보호 중심의 설계 방법론, 데이터 익명화, 데이터 최소화를 통해 글로벌 개인정보보호 표준을 준수하면서 AI 수명 주기 전반에 걸쳐 사용자 데이터를 보호하고 AI의 개인정보보호를 보장하는 것을 우선시합니다.
- 투명성: AI 모델에 대한 명확한 가시성을 제공하여 AI 프로세스, 한계, 결과에 대한 정보에 입각한 의사결정을 지원합니다.
- 공정성: Esri는 일상적인 관행에서 공정성, 윤리, 사회적 책임의 원칙을 오랫동안 고수해 왔습니다. 이러한 핵심 가치는 의사결정, 제품 개발, 커뮤니티 참여에 대한 Esri의 접근 방식에 내재되어 있습니다.
- 신뢰성: Esri의 AI는 다양한 환경과 사용 사례에서 일관되고 신뢰할 수 있는 결과를 제공하기 위해 신중하게 테스트되고 검증되었습니다.
- 책임성: 명확한 거버넌스 프레임워크를 확립하고, 팀에 AI 배포 및 모니터링에 대한 책임을 부여하고, 모든 AI 관련 의사결정에 사람이 개입하여 관리하도록 함으로써 책임을 유지합니다.
Esri의 접근 방식
설계 및 개발Esri는 위험 평가 프로세스를 통해 AI 기능을 평가하고 개인정보보호 및 보안 표준을 충족하는지 확인합니다. Esri는 인간 개입의 설계, 윤리적 기준, 레드티밍(red teaming), 종합적인 테스트를 통해 포용성과 사용자 제어를 보장하면서 위험을 최소화합니다.
고객 선택ArcGIS의 AI 도우미는 옵트인 방식으로 사용자가 AI 기능을 사용할 시점과 방법을 제어할 수 있습니다. 고객은 관리 설정을 통해 AI 기능을 활성화하거나 제한하여 기관의 정책을 준수할 수 있습니다.
데이터 처리고객 데이터 개인정보보호는 Esri AI 전략의 핵심입니다.
- Esri는 사용자의 명시적인 승인(예시: 응용프로그램 내에서 피드백 제공)이 없는 한, 해당 고객의 데이터를 사용하여 AI 모델을 학습시키지 않습니다.
- 고객은 ArcGIS 제품 내에서 AI 분석을 위해 제공하는 프롬프트 및 데이터의 소유권을 유지합니다.
AI 기능은 데이터 세분화 및 익명화 관행을 준수하여 데이터 소유권과 무결성을 보호합니다.
메타데이터 및 투명성Esri는 AI 기능의 특징, 유효성 검사, 보호 조치에 대해 자세히 설명하는 AI 투명 카드를 개발했습니다. 이러한 카드는 책임 있는 AI 사용에 대한 컨텍스트를 제공하며 AI 모델 카드와 같은 산업 표준을 보완합니다.
거버넌스2023년에 Esri는 신뢰할 수 있는 AI 원칙의 준수 여부를 감독하는 AI 거버넌스 위원회를 설립했습니다. 이 협업 이니셔티브는 혁신이 윤리 및 규제 검토사항에 따라 진행되도록 보장합니다.
보호 조치
다음 내용은 Esri 제품에 통합하는 모든 생성형 AI 기능에 적용될 수 있습니다.
- 기본 설정에 따라 생성형 AI 기능은 ArcGIS 제품에서 활성화되지 않습니다.
- 최종 사용자 및/또는 관리자가 생성형 기능을 사용하도록 옵트인해야 합니다.
- 사용자가 Esri에 명시적으로 승인(예시: 응용프로그램 내에서 피드백 제공)하지 않는 한, AI 도우미와 함께 사용하는 데이터 및 프롬프트는 다음과 같습니다.
- AI 모델을 학습하는 데 사용되지 않습니다.
- 비공개로 유지되며 절대 공유되지 않습니다.
- 서드 파티 AI 서비스를 활용하는 경우:
- 엔터프라이즈급 AI 인스턴스가 데이터를 세분화하고 보호하는 데 활용됩니다.
- 생성형 AI 기능에는 다음과 같은 한계가 있습니다.
- 생성형 AI의 창의적인 결과 중 일부가 일관되지 않을 수 있습니다.
- 고객은 AI 결과를 평가할 사람을 항상 포함하여 결과가 적절한지 확인해야 합니다.
딥러닝
Esri는 수년간 Living Atlas 내에서 제공되는 딥러닝 패키지와 같은 GeoAI 기능을 제공해 왔습니다. 이러한 딥러닝 패키지에는 용도, 모델 아키텍처, 사용된 학습 데이터, 조정 지침, 성능 지표, 샘플, 입력/결과, 잠재적인 제한 사항과 같은 필드를 포함할 수 있는 항목 설명 페이지가 포함되어 있습니다. 또한, 신뢰할 수 있음으로 표시된 소스에서만 패키지를 다운로드하는 것을 권장하며, 이는 콘텐츠를 발행하는 기관이 Esri에서 검증되었음을 의미합니다. 사용할 콘텐츠의 발행자에게 연락하여 콘텐츠를 다운로드하기 전에 검증을 완료하도록 요청해야 합니다.
비제품 기능
Esri는 ArcGIS 제품 외에도 Esri 기술지원 AI 챗봇 및 제품 마케팅 챗봇과 같은 생성형 AI 기능을 제공합니다. 사용자는 이러한 도구를 통해 Esri의 생태계를 더 효율적으로 탐색할 수 있습니다. 그러나 이러한 챗봇은 ArcGIS 제품에 내장되어 있지 않으므로 마케팅 관련 추적과 같은 별도의 약관 및 데이터 처리 방침이 적용될 수 있습니다.
컬래버레이션
신뢰할 수 있는 AI의 구축은 공동의 책임입니다. Esri는 고객과 협력하여 데이터 거버넌스, 윤리적 AI 사용, 사람의 감독에 대한 모범 사례를 구현합니다. 사용자의 피드백은 Esri의 솔루션을 강화하여 신뢰와 혁신이 발전하는 협업 환경을 조성합니다. 자세한 내용은 고객 AI 구현 모범 사례 지침을 참고하세요.
Esri는 GeoAI 및 AI 도우미의 기능을 발전시키는 동안에도 신뢰할 수 있는 AI에 대한 약속을 변함없이 유지하고 있습니다. 이러한 기술을 책임감 있게 통합함으로써 최고 수준의 신뢰성을 유지하면서 AI가 긍정적인 변화를 가져올 수 있는 미래를 구축하고 있습니다.
참조
- EU AI Act: First regulation on artificial intelligence
- Four principles of explainable Artificial Intelligence: NIST.IR.8312.pdf
- Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile NIST.AI.600.1.pdf
- Esri 참조: Advancing Trusted AI in ArcGIS
- Esri 참조: AI Transparency card structure