Peliteoriaan tukeutuva työkalu paljastaa tekoälymallien strategista käyttäytymistä

Uusi tutkimus tarjoaa tavan tarkastella suurten kielimallien, kuten ChatGPT-tyyppisten järjestelmien, päätöksentekoa peliteorian avulla. Tavoitteena on ymmärtää, millaisia strategioita nämä mallit omaksuvat vuorovaikutteisissa tilanteissa ja millaisia aikomuksia niiden vastausten taakse kätkeytyy. Tutkimus laajentaa aiempaa FAIRGAME-kehikkoa, joka on suunniteltu tekoälyjärjestelmien testaamiseen niin sanotuissa sosiaalisissa dilemmoissa. Sosiaalinen dilemma tarkoittaa tilannetta, jossa yksilön kannattaisi lyhyellä aikavälillä toimia itsekkäästi, mutta kaikkien kannalta paras lopputulos syntyy yhteistyöstä. Tutkijat esittelevät kaksi uutta pelillistä koeympäristöä. Ensimmäinen on muunnos klassisesta vankiladilemmasta, jossa pelaaja voi joko tehdä yhteistyötä tai pettää toisen. Tässä versiossa pelistä palkkioiden suuruutta skaalataan järjestelmällisesti, jotta voidaan erikseen mitata, kuinka herkkä kielimalli on kannustimien voimakkuudelle – toisin sanoen, muuttaako se strategiaansa, kun panokset kasvavat. Toinen ympäristö on julkishyödykepeli, jossa useat tekoälyagentit päättävät, kuinka paljon omista resursseistaan laittavat yhteiseen pottiin. Pelissä on dynaamiset tuottojaot ja mukana ovat kaikkien pelaajien aiemmat teot, mikä mahdollistaa monimutkaisten, usean agentin välisten vuorovaikutusten tutkimisen. Tällaisten pelien avulla voidaan arvioida paitsi tekoälyn tuottamia yksittäisiä vastauksia, myös sen taustalla olevaa strategista käyttäytymistä, kuten yhteistyöhalua, taipumusta opportunismiin tai herkkyyttä pelin sääntöjen muutoksille. Tutkijoiden mukaan tämä on olennaista, kun tekoälyä integroidaan osaksi sosiaalisia ja taloudellisia järjestelmiä, joissa turvallinen ja ennakoitava toiminta on tärkeää. Lähde: Understanding LLM Agent Behaviours via Game Theory: Strategy Recognition, Biases and Multi-Agent Dynamics, ArXiv (AI).