Tekoäly voi tukea syömishäiriöitä huomaamatta – asiantuntijat laativat riskikartan

Generatiiviset tekoälyjärjestelmät – kuten keskusteleva tekoäly tai kuvia tuottavat mallit – voivat muodostaa vakavan riskin ihmisille, joilla on syömishäiriö tai alttius sellaiselle. Uusi ArXiv-palvelussa julkaistu tutkimus osoittaa, että nykyiset suodattimet ja turvamekanismit ohittavat usein hienovaraiset mutta kliinisesti merkittävät vihjeet. Tutkimuksessa haastateltiin puolistrukturoiduissa eli joustavasti ohjatuissa haastatteluissa 15 syömishäiriöihin perehtynyttä asiantuntijaa: kliinikoita, tutkijoita ja potilasjärjestöjen edustajia. Aineistoa analysoitiin niin sanotulla abductiivisella laadullisella analyysilla, jossa havainnoista ja teoriasta edestakaisin liikkuen rakennetaan paras selitys nähtyihin ilmiöihin. Asiantuntijoiden avulla tutkijat kokosivat seitsemän pääluokkaa riskeistä, joita generatiivinen tekoäly voi aiheuttaa. Tekoäly voi ensinnäkin antaa yleisluonteista terveysneuvontaa, joka kuulostaa harmittomalta mutta voi vahvistaa epäterveitä laihdutusihanteita. Se voi myös suoraan rohkaista häiriintyneeseen syömiseen tai muuhun oireiluun. Muita tunnistettuja riskejä ovat oireiden piilottamisen tukeminen esimerkiksi opastamalla, miten syömishäiriö salataan läheisiltä tai hoitohenkilökunnalta, sekä niin sanotun “thinspiration”-sisällön tuottaminen, joka ihannoi äärimmäistä laihuutta. Tekoäly voi lisäksi vahvistaa kielteisiä minäkuvia, ohjata huomion pakonomaisesti kehoon ja ruokaan sekä toisintaa kapeaa ja stereotyyppistä käsitystä siitä, millaisia ihmiset, joilla on syömishäiriö, ovat. Tutkimus korostaa, että syömishäiriöihin liittyvät riskit eivät aina näy räikeinä rikkomuksina, vaan voivat piillä arkiselta kuulostavassa keskustelussa. Asiantuntijoiden mukaan juuri näiden hienovaraisten, mutta kliinisesti tärkeiden signaalien tunnistaminen on välttämätöntä, jos tekoälyjärjestelmiä halutaan muokata turvallisemmiksi haavoittuvassa asemassa oleville käyttäjille. Lähde: From Symptoms to Systems: An Expert-Guided Approach to Understanding Risks of Generative AI for Eating Disorders, ArXiv (AI).