Luotettava tekoäly ArcGISissa

Me Esrillä painotamme luottamus tekoälyn kehittämiseen ja käyttöönottoon. ArcGISin luotettava tekoäly keskittyy tietoturvaan, tietosuojaan, avoimuuteen, oikeudenmukaisuuteen, luotettavuuteen ja vastuullisuuteen. Tämä kuvastaa Esrin arvoja ja sitoutumista vastuullisiin innovaatioihin, tekoälyn luottamuskuilun umpeen kuromiseen ja positiivisen yhteiskunnallisen muutoksen edistämiseen. Lisätietoja on Esrin sitoutumisesta luotettavan tekoälyn edistämiseen ArcGISissä on täällä.

GeoAI ja avustajat

Esri hyödyntää kahta pääasiallista tekoälyluokkaa ArcGISissa:

• GeoAI: käyttää esoopetettuja syväoppimismalleja tehtäviin, kuten kohteiden poimimiseen, hahmontunnistukseen ja ennakoivaan analyysiin. GeoAI on integroitavissa geomatiikan työnkulkuihin, ja se antaa käyttäjille mahdollisuuden analysoida paikkatietoja kehittyneillä laskentatyökaluilla.

• Generatiivinen tekoäly: sisältää tekoälyavustajat ja muita luovia teknologioita, jotka tukevat luovuutta, käyttäjien tuottavuutta ja automatisoituja työnkulkuja.

Ennen viime vuosien generatiivisen tekoälyn buumia ihmisten puhuessa tekoälystä he tarkoittivat tyypillisesti koneoppimista ja syväoppimismalleja, joita käytettiin hahmontunnistuksessa, ennustamisessa, kohteiden havaitsemisessa, muutosten havaitsemisessa ja monissa muissa toiminnoissa. Yli kymmenen vuotta sitten Esri aloitti koneoppimisen käytön paikkatietojen klusteroinnin, regression ja luokittelun apuna. Viime aikoina tämä työ on jatkunut sekä koneoppimisen että syväoppimisen alalla, muun muassa esiopetettujen syväoppimismallien käyttöönotto on helpottanut sellaisten tehtävien aloittamista, kuten kohteiden poimiminen, pistepilvien luokittelu ja kuvankäsittely. Tämä työ kuuluu Esrin GeoAI:ksi kutsuman käsitteen alaisuuteen.

Generatiivinen tekoäly viittaa tietynlaiseen koneoppimismalliin, joka on suunniteltu luomaan uutta sisältöä tai tietoon perustuvia suosituksia ja joka oppii tunnistamaan toistuvia malleja suurista aineistoryhmistä. Generatiivisia tekoälymalleja opetetaan laajojen aineistoryhmien avulla. Nämä voivat sisältää erittäin suuria, toimialuekohtaisia tietoja ja/tai internetistä saatavia tietoja. Toisin kuin perinteiset tekoälymallit, jotka keskittyvät ennakoivaan analytiikkaan, generatiiviset tekoälymallit muodostavat luovia tuloksia, kuten tekstiä, kuvia tai muuta sisältöä.

Toisin kuin yllä kuvattu generatiivinen tekoäly, GeoAI keskittyy paikkatietojen analysointiin ja pyrkii siten selvittämään toistuvia malleja ja suorittamaan ennakoivaa analytiikkaa lähtöaineistojen perusteella. Generatiivista tekoälyä voidaan pitää koneoppimismallina, joka on opetettu luomaan uutta tietoa sen sijaan, että se tekisi ennusteita tietystä aineistoryhmästä. Se ei ole yhtä deterministinen kuin tavalliset koneoppimismallit, ja siksi se mahdollistaa luovemmat ratkaisut. Generatiivinen tekoälyjärjestelmä oppii luomaan lisää objekteja, jotka näyttävät siltä aineistoilta, joilla sitä on koulutettu. Yksi esimerkki ArcGIS-ominaisuuksista, jotka sisältävät generatiivisen tekoälyn tuotoksia, ovat ArcGISin tekoälyavustajat.

Generatiivisen tekoälyn ja muunlaisen tekoälyn taustalla olevat varsinaiset koneet käyttävät usein samoja algoritmeja, mikä voi hämärtää eri tyyppien välisiä eroja. Generatiivisen tekoälyn nopea leviäminen ja laajemmat käyttötapaukset ovat johtaneet nopeampaan sääntelyn tarpeeseen ja asiakkaiden vaatimuksiin suuremmasta avoimuudesta ja hallinnasta.

Maisema

Tekoälyn maailma kehittyy nopeasti. Hallitukset ympäri maailmaa muokkaavat aktiivisesti tekoälyn tulevaisuutta säätämällä uusia lakeja ja puitesopimuksia. Esimerkiksi Euroopan unioni hyväksyi äskettäin EU:n tekoälylain, joka sisältää riskialttiita tekoälysovelluksia koskevia säännöksiä. Yhdysvallat on ottanut käyttöön erilaisia tekoälyn sääntelyyn liittyviä aloitteita ja toimeenpanotoimia, joilla se pyrkii puuttumaan tekoälyjärjestelmien mahdollisiin riskeihin, vinoumiin ja turvallisuusongelmiin. Tämä sääntely kehittyy myös jatkuvasti.

Esri on ymmärtänyt, että on tärkeää ennakoida näitä kehittyviä lakisääteisiä vaatimuksia ja sääntelyä, vastuullista kehitystä ja eettisiä seikkoja. Yhdenmukaistamme tekoälykäytäntömme ennakoivasti keskeisten säädösten ja alan tunnustamien puitekehysten mukaan. Tämä sisältää edellä mainittujen lakien ja määräysten asettamien ohjeiden noudattamisen.

Ohjaavat periaatteet

Esrin Luotettava tekoäly -kehys perustuu kuuteen ydinperiaatteeseen:

• Tietoturva: Olemme sitoutuneet turvaamaan tekoälyjärjestelmiemme tietoturvan ja vähentämään riskejä sisäänrakennetun tietosuojan lähestymitavan avulla. Samalla varmistamme vastuullisen tekoälyn, joka suojaa ennakoivasti tietoturvauhilta.
• Tietosuoja: asetamme käyttäjien tietojen suojaamisen ja tekoälyn yksityisyyden varmistamisen etusijalle koko tekoälyn elinkaaren ajan ja varmistamme maailmanlaajuisten tietosuojastandardien noudattamisen sisäänrakennetun tietosuojan, suunnittelumenetelmien, tietojen anonymisoinnin ja tietojen minimoinnin avulla.
• Avoimuus: Tarjoamme selkeää näkyvyyttä tekoälymalleistamme, mikä mahdollistaa tietoisen päätöksenteon tekoälyprosesseistamme, rajoituksistamme ja tuloksistamme.
• Oikeudenmukaisuus: Esri on pitkään noudattanut reiluuden, eettisen toiminnan ja yhteiskuntavastuun periaatteita jokapäiväisessä toiminnassa. Nämä ydinarvot ovat keskeinen osa lähestymistapaamme päätöksentekoon, tuotekehitykseen ja yhteisön osallistumiseen.
• Luotettavuus: tekoälymme on huolellisesti testattu ja validoitu, millä taataan, että se tuottaa johdonmukaisia ja luotettavia tuloksia erilaisissa ympäristöissä ja käyttötapauksissa.
• Vastuullisuus: ylläpidämme vastuullisuutta luomalla selkeät hallinnointikehykset, pitämällä tiimimme vastuussa tekoälyn käyttöönotosta ja valvonnasta ja varmistamalla, että inhimillinen valvonta on keskeisessä roolissa kaikissa tekoälyyn liittyvissä päätöksissä.

Esrin lähestymistapa

Suunnittelu ja kehitys

Esri käyttää riskinarviointiprosessia tekoälyominaisuuksien arvioimiseen ja varmistaa näin, että nämä ominaisuudet vastaavat tietosuoja- ja tietoturvastandardeja. Esri minimoi riskit varmistaen samalla inklusiivisuuden ja käyttäjän hallinnan ihminen silmukassa -suunnittelun, eettisten raja-aitojen, tietoturvan valvontatiimin ja kokonaisvaltaisen laboratoriotestauksen avulla.

Asiakkaan oma valinta

ArcGISin tekoälyavustaja on valinnainen ominaisuus, joka antaa käyttäjille mahdollisuuden hallita, milloin ja miten tekoälyominaisuuksia käytetään. Asiakkaat voivat käyttää tai rajoittaa tekoälytoimintoja hallinta-asetusten avulla ja näin varmistaa yhdenmukaisuuden organisaation käytäntöjen kanssa.

Tietojen käsittely

Asiakkaiden tietosuoja on keskeinen osa Esrin tekoälystrategiaa:

• Esri ei opeta tekoälymalleja asiakkaiden tietojen avulla, ellet anna siihen nimenomaista lupaa (kuten antamalla palautetta sovelluksessa).
• Asiakkaat säilyttävät omistusoikeuden ArcGIS-tuotteiden tekoälyanalyysiä varten antamiinsa kehotteisiin ja tietoihin.

Tekoälytoiminnoissa noudatetaan tietojen segmentointi- ja anonymisointikäytäntöjä, mikä takaa tietojen omistajuuden ja eheyden.

Metatiedot ja avoimuus

Esri on kehittänyt tekoälyn avoimuuskortteja, joissa esitetään yksityiskohtaisesti tekoälyominaisuuksien toiminnallisuus, validointi ja suojaustoimet. Nämä kortit tarjoavat kontekstia vastuullista tekoälyn käyttöä varten ja täydentävät alan standardeja, kuten tekoälyn mallikortteja.

Hallinnointi

Vuonna 2023 Esri perusti tekoälyn hallinnointilautakunnan, joka valvoo luotettavan tekoälyn periaatteiden noudattamista. Tämä yhteistyöhanke varmistaa, että innovointia ohjaavat eettiset ja sääntelyyn liittyvät näkökohdat.

Suojaustoimet

Seuraavat näkökohdat koskevat kaikkia generatiivisia tekoälyominaisuuksia, joita sisällytämme tuotteisiimme:

• Generatiiviset tekoälyominaisuudet EIVÄT ole oletusarvoisesti käytössä ArcGIS-tuotteessa:
  • Loppukäyttäjien ja/tai pääkäyttäjien on otettava generatiiviset ominaisuudet itse käyttöön.
• Ellet anna Esrille nimenomaista lupaa (kuten antamalla palautetta sovelluksessa), tekoälyavustajien kanssa käyttämiisi tietoihin ja kehotteisiin sovelletaan seuraavia sääntöjä:
  • Niitä ei saa käyttää tekoälymallien opettamiseen.
  • Ne pysyvät vain sinun tiedossasi, eikä niitä koskaan jaeta.
• Kolmannen osapuolen tekoälypalveluita käytettäessä:
  • Yritysluokan tekoälyesiintymiä käytetään aineistojen segmentointiin ja suojaamiseen.
• Generatiivisilla tekoälyominaisuuksilla on rajoituksia:
  • Se voi tuottaa epäjohdonmukaisia tuloksia generatiivisen tekoälyn luomisprosesseissa.
• Asiakkaiden pitää aina varmistaa, että tekoälyn tulokset arvioi ihminen, sillä näin varmistetaan tulosten asianmukaisuus.

Syväoppiminen

Esri on tarjonnut GeoAI-ominaisuuksia vuosien ajan. Näitä ovat mm. syväoppimispaketit, jotka ovat saatavilla Living Atlaksessa. Nämä syväoppimispaketit sisältävät kohteen kuvaussivun, joka voi sisältää kenttiä, joita ovat mm. käyttötarkoitus, malliarkkitehtuuri, käytetyt opetustiedot, säätöohjeet, suorituskykymittarit, näytteet, syötteet/tulosteet ja mahdolliset rajoitukset. Suosittelemme lisäksi, että lataat paketteja vain virallisiksi merkityistä lähteistä, mikä tarkoittaa, että sisältöä julkaiseva organisaatio on Esrin vahvistama. Ota yhteyttä haluamasi sisällön julkaisijoihin ja pyydä heitä suorittamaan tarkistus ennen sisällön lataamista.

Tuotteen ulkopuoliset ominaisuudet

ArcGIS-tuotteiden lisäksi Esri tarjoaa generatiiviseen tekoälyyn perustuvia ominaisuuksia, joita ovat mm. Esrin asiakastuen tekoälypohjainen chattibotti ja tuotemarkkinoinnin chattibotti. Nämä työkalut auttavat käyttäjiä navigoimaan tehokkaammin Esrin ekosysteemissä. Koska näitä chattibotteja ei kuitenkaan ole upotettu ArcGIS-tuotteisiin, niiden käyttöön voi liittyä erillisiä ehtoja ja aineistokäytäntöjä, kuten markkinointiin liittyvää seurantaa.

Yhteistyö

Tekoälyn luotettavuus on meidän kaikkien vastuulla. Esri tekee yhteistyötä asiakkaiden kanssa tiedonsääntelyn, eettisen tekoälyn käytön ja inhimillisen valvonnan parhaiden käytäntöjen toteuttamiseksi. Käyttäjiltä saatu palaute vahvistaa ratkaisujamme ja vaalii yhteistyötä edistävää ympäristöä, jossa luottamus ja innovaatio kukoistavat. Katso lisätietoja asiakkaamme Tekoälyn toteutuksen parhaiden käytäntöjen oppaasta.

Esrin sitoutuminen luotettavaan tekoälyyn on jatkuvaa kehittäessämme GeoAI:n ja tekoälyavustajien ominaisuuksia. Integroimalla nämä tekniikat vastuullisesti rakennamme tulevaisuutta, jossa tekoäly mahdollistaa positiivisen muutoksen tinkimättä korkeimmita luotettavuusstandardeista.

Viitteet

• EU:n tekoälylaki: ensimmäinen tekoälyä koskeva asetus
• Neljä selitettävän tekoälyn periaatetta: NIST.IR.8312.pdf
• Tekoälyn riskinhallintakehys: generatiivisen tekoälyn profiili NIST.AI.600.1.pdf
• Esrin viite: Luotettavan tekoälyn edistäminen ArcGISissa
• Esrin viite: Tekoälyn avoimuuskortin rakenne