Trusted AI în ArcGIS

La Esri, acordăm încredere cu prioritate dezvoltării și implementării Ai. AI de încredere în ArcGIS se concentrează pe securitate, confidențialitate, transparență, corectitudine, fiabilitate și responsabilitate. Aceasta reflectă valorile și angajamentul Esri față de inovația responsabilă, acoperind decalajul de încredere în AI și favorizând schimbarea pozitivă în societate. Explorați informații suplimentare despre avansarea AI de încredere în ArcGIS de la Esri aici.

Geo AI și asistenți

Esri exploatează două categorii majore ale AI în ArcGIS:

• GeoAI: Utilizează modele de învățare aprofundată preantrenate pentru sarcini cum ar fi extragerea obiectelor spațiale, recunoașterea modelelor și analiza predictivă. GeoAi se integrează în fluxurile de lucru geospațiale, permițându-le utilizatorilor să analizeze datele spațiale cu instrumente de calcul avansate.

• AI generativă: Încorporează asistenții AI și alte tehnologii generative care susțin creativitatea, productivitatea utilizatorului și fluxurile de lucru automatizate.

Înainte de explozia AI generative din ultimii câțiva ani, când oamenii vorbeau despre AI, se refereau de obicei la modelele de învățare automată și învățare aprofundată utilizate în recunoașterea modelelor, prognozare, detectarea obiectelor, detectarea modificărilor și multe altele. Cu peste un deceniu în urmă, Esri a început să realizeze cu învățarea automată clustering, regresie și clasificarea datelor spațiale. Mai recent, activitatea a continuat atât în domeniul învățării automate, cât și cel al învățării aprofundate, inclusiv introducerea modelelor de învățare aprofundată preantrenate pentru a facilita începerea sarcinilor cum ar fi extragerea obiectelor spațiale, clasificarea punctelor cloud și redactarea imaginilor. Această activitate se plasează sub umbrela a ceea ce Esri numește GeoAI.

Ai generativă se referă la un tip de model de învățare automată conceput pentru a crea conținut nou sau recomandări utile, prin modele de învățare provenite din seturi de date la scară mare. Modelele de AI generativă sunt antrenate pe seturi de date extinse, care pot include date foarte mari, specifice pentru un domeniu și/sau date de pe internet. Spre deosebire de modelele AI tradiționale care se concentrează pe analiza predictivă, modelele de AI generativă sunt utilizate pentru a genera rezultate creative cum ar fi text, imagini sau alte forme de conținut.

Spre deosebire de AI generativă descrisă mai sus, GeoAI se concentrează pe analizarea și interpretarea datelor geospațiale pentru a descoperi modele și a efectua analize predictive folosind datele introduse. Ai generativă poate fi considerată un model de învățare automată care este instruit pentru a crea date noi și nu pentru a face o predicție despre un anumit set de date și este mai nedeterministă, permițând soluții mai creative. Un sistem de AI generativă este unul care învață cum să genereze mai multe obiectele care arată ca datele pe care a fost antrenat. Un exemplu de capacități ArcGIS care încorporează AI generativă sunt Asistenții AI din ArcGIS.

Mecanismul real care stă la baza Ai generativă și a altor tipuri de AI utilizează adesea aceiași algoritmi, care pot estompa distincția dintre tipuri. Proliferarea rapidă și cazurile de utilizare largă a AI generativă au dus la cerințe de reglementare accelerare și solicitări ale clienților pentru mai multă transparență și mai mult control.

Peisaj

Peisajul AI evoluează rapid. Guvernele din întreaga lume modelează în mod activ viitorul AI prin promovarea de legi și cadre de lucru noi. De exemplu, Uniunea Europeană a adoptat recent Legea UE privind inteligența artificială, care stabilește reglementările privind aplicațiile AI cu risc ridicat. Statele Unite au introdus diverse inițiative de guvernanță și acțiuni executive în AI pentru a rezolva riscurile potențiale, perspectivele subiective și preocupările de siguranță din sistemele AI, dar aceste politici evoluează în continuare.

Esri a recunoscut importanța de a rămâne cu un pas înaintea acestor cerințe legale și normative în evoluție, a dezvoltării responsabile și considerentelor etice. Ne aliniem în mod proactiv practicile în domeniul AI cu reglementările esențiale și cadrele de lucru recunoscute în industrie. În această categorie se încadrează următorul ghid stabilit prin legile și reglementările menționate mai sus.

Principii de ghidare

Cadrul Esri pentru AI de încredere se bazează pe șase principii esențiale:

• Securitatea: Suntem angajați să protejăm securitatea și să diminuăm riscurile în sistemele noastre AI printr-o abordare de securitate în proiectare și să asigurăm în același timp AI responsabilă care protejează în mod proactiv împotriva amenințărilor de securitate.
• Confidențialitatea: Acordăm prioritate protecției datelor utilizatorilor și asigurării confidențialității AI pe tot parcursul ciclului de viață, asigurând conformitatea cu standardele internaționale în domeniul confidențialității, prin metodologii de confidențialitate în proiectare, anonimizarea datelor și minimizarea datelor.
• Transparența: Furnizăm vizibilitate clară despre modelele AI, permițând luarea deciziilor informate despre procesele, limitările și rezultatele AI.
• Corectitudinea: Esri are principii de lungă durată privind corectitudinea, etica și responsabilitatea socială în practicile sale cotidiene. Aceste valori esențiale sunt incluse în abordarea noastră privind luarea deciziilor, dezvoltarea produselor și angajamentul comunității.
• Fiabilitatea: Inteligența noastră artificială este testată cu atenție și validată pentru a oferi rezultate consecvente și de încredere în diverse medii și cazuri de utilizare.
• Responsabilitatea: Menținem responsabilitatea prin stabilirea unor cadre de lucru pentru guvernanță clare, impunând responsabilitatea echipelor noastre pentru dezvoltarea și monitorizarea AI, asigurând faptul că supravegherea umană rămâne centrală în toate deciziile legate de AI.

Abordarea Esri

Proiectare și dezvoltare

Esri utilizează un proces de evaluare a riscului pentru a evalua funcțiile AI, asigurând că respectă standardele de confidențialitate și securitate. Prin proiectarea bazată pe participarea umană continuă, protecțiile etice, simulările riscurilor și testarea în laboratoare holistice, Esri minimizează riscurile și asigură în același timp inclusivitatea și controlul utilizatorilor.

Alegerea clientului

Asistenții AI din ArcGIS sunt o opțiune de implicare, oferindu-le utilizatorilor posibiltatea de a controla momentul și modul în care se utilizează capacitățile AI. Clienții pot activa sau restricționa funcționalitățile AI prin setări administrative, asigurând alinierea cu politicile organizaționale.

Manipularea datelor

Confidențialitatea datelor clienților este elementul central al strategiei AI a Esri:

• În absența unei autorizări explicite din partea dvs. (cum ar fi furnizarea feedbackului în aplicație), Esri nu antrenează modelele AI folosind datele clienților fără autorizare explicită.
• Clienții mențin proprietatea asupra mesajelor și datelor pe care le furnizează pentru analiza AI în produsele ArcGIS.

Funcționalitățile AI respectă practicile de segmentare și anonimizare a datelor, protejând proprietatea și integritatea datelor.

Metadatele și transparența

Esri a dezvoltat cardurile de transparență AI, care detaliază funcționalitatea, validarea și protecțiile funcțiilor AI. Aceste carduri oferă context pentru utilizarea responsabilă a AI, completând standardele din industrie precum Cardurile de modele AI.

Guvernanță

În 2023, Esri înființat o Comisie de guvernanță Ai pentru a supraveghea respectarea principiilor privind AI de încredere. Această inițiativă colaborativă asigură că inovația este ghidată de considerații etice și normative.

Protecții

Următoarele aspecte sunt aplicabile pentru toate funcțiile de AI generativă pe care le includem în produsele noastre:

• Funcțiile Ai generative Nu sunt activate implicit în produsul ArcGIS:
  • Utilizatorii finali și/sau administratorii trebuie să opteze pentru utilizarea funcțiilor generative.
• Dacă nu autorizați în mod explicit Esri (de exemplu prin furnizarea de feedback în aplicație), datele și mesajele pe care le utilizați în asistenții AI:
  • Nu vor fi utilizate pentru a antrena modele Ai.
  • Rămân private pentru dvs. și nu vor fi niciodată partajate.
• Când sunt utilizate servicii AI terțe:
  • Instanțele AI la nivel de întreprindere sunt utilizate pentru a segmenta și proteja datele dvs.
• Funcțiile AI generative au limitări:
  • Potențialul de rezultate inconsecvente se numără printre consecințele creative ale AI generative.
• Clienții ar trebui să implice întotdeauna o persoană umană pentru a evalua rezultatul AI în vederea asigurării corectitudinii.

Învățare aprofundată

Esri a furnizat capacități de GeoAI de mai mulți ani, cum ar fi pachete de învățare aprofundată disponibile în Living Atlas. Aceste pachete de învățare aprofundată conțin o pagină de descriere a elementelor care pot conține câmpuri cum ar fi: destinația de utilizare, arhitectura modelului, datele de antrenare folosite, îndrumare de reglare fină, indicatori de performanță, eșantioane, intrări/ieșire și potențiale limitări. În plus, recomandăm cu tărie descărcarea pachetelor doar din sursele marcate ca Autorizate, ceea ce înseamnă că organizația care publică conținutul a fost verificată de Esri. Trebuie să contactați entitățile care publică conținutul pe care doriți să îl utilizați și să le cereți să realizeze verificarea înainte de a descărca conținutul lor.

Funcții care nu sunt legate de produs

În afară de produsele ArcGIS, Esri oferă funcții de AI generativă cum ar fi Chatbot AI de asistență AI și Chatbot de marketing pentru produse. Aceste instrumente ajută utilizatorii să navigheze mai eficient în ecosistemul Esri. Cu toate acestea, acești chatboți nu sunt incluși în produsele ArcGIS, utilizarea lor poate implica termeni și practici separate privind datele, cum ar fi urmărirea în scopuri de marketing.

Colaborare

Realizarea AI de încredere este o responsabilitate partajată Partenerii realizează parteneriate cu clienții pentru a implementa bunele practici în guvernarea datelor, utilizarea etică a AI și supravegherea umană. Feedbackul de la utilizatori consolidează soluțiile noastre, favorizând un mediu de colaborare, în care să se dezvolte încrederea și inovația. Consultați ghidul nostru pentru clienți privind implementarea bunelor practici în domeniul AI pentru mai multe informații.

Angajamentul Esri față de AI de încredere rămâne constant pe măsură ce avansăm capacitățile asistenților GeoAI și AI. Prin integrarea acestor tehnologii în mod responsabil, construim un viitor în care AI permite schimbarea pozitivă și menține în același timp cele mai înalte standarde de încredere.

Referințe

• Legea EU privind inteligența artificială: Primul regulament privind inteligența artificială
• Patru principii de Inteligență artificială care pot fi explicateNIST.IR.8312.pdf
• Cadrul privind gestionarea riscurilor legate de inteligența artificială: profilul inteligenței artificiale generativeNIST.AI.600.1.pdf
• Referință Esri: Dezvoltarea Trusted AI în ArcGIS
• Referință Esri Structura cardului de transparență AI