Uusi testi paljastaa piileviä ennakkoluuloja tekoälykielimalleissa

Tekoälyä hyödyntävät suuret kielimallit arvioidaan yleensä tilanteissa, joissa niiden käsiteltävä teksti kertoo suoraan henkilön taustasta, kuten uskonnosta, rodusta tai sukupuolesta. Todellisissa keskusteluissa tällaiset tiedot ovat kuitenkin usein vain rivien välissä. Tuore tutkimus esittelee ImplicitBBQ-nimisen testin, joka pyrkii mittaamaan juuri tällaisia piileviä ennakkoluuloja. ImplicitBBQ laajentaa aiempaa Bias Benchmark for QA -kysymyssarjaa niin, että suojellut ominaisuudet – esimerkiksi seksuaalinen suuntautuminen tai uskonto – eivät enää näy suoraan sanoina, vaan ne on pääteltävä epäsuorista vihjeistä, kuten nimistä, kulttuurisista viittauksista tai luonnehdinnoista. Tavoitteena on kartoittaa, miten suuret kielimallit käyttäytyvät tilanteissa, jotka muistuttavat paremmin arjen vuorovaikutusta. Tutkimuksessa arvioitiin muun muassa GPT-4o-mallin toimintaa ImplicitBBQ-tehtävissä ja verrattiin sitä tuloksiin, jotka sama malli saavutti aiemmassa, suoremmin muotoillussa BBQ-testissä. Tulokset osoittivat, että mallin tarkkuus heikkeni lähes kaikissa suojeltujen ominaisuuksien kategorioissa, kun vihjeet annettiin epäsuorasti. Erityisen selvä pudotus, jopa 7 prosenttiyksikköä, havaittiin seksuaalista suuntautumista koskevassa alaluokassa. Tutkimuksen mukaan erot suoriutumisessa viittaavat siihen, että nykyisillä arviointitavoilla on merkittävä katvealue: tekoäly saattaa näyttää tasapuoliselta silloin, kun ennakkoluuloja mitataan vain selvästi nimetyillä taustatekijöillä, mutta toimia toisin, kun taustatiedot täytyy päätellä vihjeistä. ImplicitBBQ tarjoaa tavan tuoda tämä piilevä epätasaisuus näkyviin. Lähde: "The Dentist is an involved parent, the bartender is not": Revealing Implicit Biases in QA with Implicit BBQ, ArXiv (AI).