Tutkimus: tekoäly kirjalijana typistää identiteetin yksinkertaisiksi luokiksi

Yhdysvaltalaistutkijat ovat tarkastelleet suuria kielimalleja kulttuurisina toimijoina ja kirjailijoina: miten ne tuottavat ja rajaavat käsityksiä tekijyydestä ja identiteetistä nykyisessä yhdysvaltalaisessa kirjallisuuskentässä. Tutkijat loivat simulaation, jossa toimi 101 "tekoälykirjailijaa". Nämä hahmot mallinnettiin todellisten kirjailijoiden mukaan, ja generatiivista tekoälyä pyydettiin kirjoittamaan heidän tyyliään ja taustaansa mukailevia tekstejä. Näin voitiin tarkastella, millä tavoin kielimalli rakentaa kirjallista erottuvuutta esimerkiksi rodun, sukupuolen ja julkaisukontekstin suhteen. Analyysin mukaan tekoälyn tuottama kirjallinen maailma painottuu voimakkaasti yksinkertaiseen musta–valkoinen-­jakoon. Tämä kaksijakoisuus litistää sekä ryhmien sisäisen moninaisuuden että syrjäyttää muita mahdollisia erottelun akselia, kuten erilaisia kulttuurisia ja sosiaalisia taustoja. Tekoälyn tuottamia tekstejä verrattiin myös ihmisten kirjoittamiin, mikä toi esiin järjestelmien taipumuksen yhdenmukaistaa ilmaisua ja identiteettejä. Tulosten perusteella malli käsittelee identiteettiä lähinnä rajattuna, kategorisena muuttujana – ei elävänä ja muuttuvana kulttuurisena käytäntönä. Toisin sanoen identiteetti toimii tekoälylle merkintänä, joka ohjaa valmiiden piirteiden ja klustereiden käyttöä, ei monikerroksisena kertomuksena tai kokemuksena. Tutkimus ei keskity siihen, kuinka hyvin tekoäly jäljittelee yksittäistä kirjailijaa, vaan siihen, millaisen käsityksen kirjallisuuden kentästä ja sen valtasuhteista malli ylipäänsä tuottaa. Havainto tekoälyn homogenisoivasta, yksinkertaistavasta tavasta käsitellä identiteettejä nostaa esiin kysymyksen siitä, millaista kuvaa kirjallisuudesta ja sen toimijoista generatiiviset mallit välittävät käyttäjilleen. Lähde: The social AI author: modeling creativity and distinction in simulated cultural fields, AI & SOCIETY.