Tekoälyn tuloksiin uskominen vaatii muutakin kuin hyvän osumatarkkuuden, tutkijat esittävät

Tutkijat Michael W. Schmidt ja Heinrich Blatt esittävät, että tekoälyjärjestelmien ja muiden kehittyneiden laskennallisten järjestelmien tuottamiin tuloksiin kohdistuva luottamus ei oikeudu pelkästään sillä, että järjestelmä tuottaa usein oikeita vastauksia.

Liberalistisissa demokratioissa tekoälyä pyritään ottamaan käyttöön päätöksenteon, palvelujen ja yhteiskunnallisten prosessien tukena. Tällöin suunnittelijoiden, käyttäjien ja myös niiden ihmisten, joita järjestelmät koskevat, täytyy monissa tilanteissa olla “valmiita” pitämään järjestelmien antamia tuloksia tosina. Ongelma on, että kehittyneet järjestelmät ovat usein läpinäkymättömiä: niiden sisäinen toiminta on vaikeasti selitettävissä, ja virheiden mahdollisuus on aina olemassa.

Artikkeli nojaa niin sanottuun laskennalliseen reliabilismiin, eli näkemykseen, jonka mukaan uskomus laskennallisen järjestelmän tuottamasta tuloksesta voi olla perusteltu, vaikka järjestelmä olisi opaqi, jos järjestelmä tuottaa riittävän luotettavasti tosia uskomuksia. Schmidt ja Blatt kuitenkin argumentoivat, että tätä teoriaa täytyy laajentaa kiinnittämällä enemmän huomiota ihmiseen.

Tutkijoiden mukaan keskeinen kysymys ei ole vain se, kuinka usein järjestelmä osuu oikeaan, vaan myös se, millä tavoin ihmiset muodostavat uskomuksia järjestelmien tuloksista ja miten tätä uskomusten arviointia voidaan tehdä vastuullisesti. Tavoitteena on kuvata ehtoja, joilla laskennallisten järjestelmien tuloksiin uskominen voi aidosti kartuttaa inhimillistä tietoa myös silloin, kun järjestelmät ovat vaikeasti tulkittavia.

Lähde: Responsible Assessment of Beliefs Based on Computational Results: Expanding on Computational Reliabilism, Minds and Machines.