Pienempi tekoälymalli pyrkii tuomaan lääkärin avun myös syrjäseuduille

Tutkijat ovat kehittäneet uudenlaisen tekoälymallin, joka on suunniteltu auttamaan lääkäreitä ja potilaita tilanteissa, joissa tietokone- ja verkkoyhteydet sekä laitteet ovat rajallisia. Työn tavoitteena on erityisesti tukea näkövammaisia käyttäjiä ja hindinkielisiä potilaita maaseutuympäristöissä, joissa nykyiset suuret kielimallit ovat liian raskaita käytettäväksi. Tutkijoiden esittelemä malli kantaa nimeä PDFTEMRA, joka tulee sanoista Performant Distilled Frequency Transformer Ensemble Model with Random Activations. Kyse on kompaktista transformer-malliin perustuvasta kielimallista, joka pystyy käsittelemään potilaan ja lääkärin välistä keskustelua luonnollisella kielellä. Ratkaisu yhdistää useita keinoja laskennallisen kuorman keventämiseksi. Mallin tiivistäminen eli mallitislaus hyödyntää aiemmin koulutettujen suurten mallien osaamista pienemmässä muodossa. Taajuusalueen säätelyllä muokataan kielellistä informaatiota tehokkaampaan esitysmuotoon, ja joukkomallinnus eli usean mallin yhdistäminen pyrkii parantamaan tarkkuutta. Lisäksi satunnaisesti aktivoituvat osat vähentävät tarvetta käyttää koko mallia jokaisessa tehtävässä, mikä säästää laskentatehoa. Tutkijoiden mukaan yhdistelmä mahdollistaa huomattavan pienemmän laskennallisen kustannuksen ilman, että kielenkäsittelykyky merkittävästi heikkenee. Tämä tekee mallista paremmin soveltuvan terveydenhuollon todellisiin käyttötilanteisiin, joissa ei ole käytettävissä suuria palvelinkeskuksia. Työ asettuu osaksi laajempaa pyrkimystä kaventaa terveydenhuollon eriarvoisuutta tekoälyn avulla. Jos tällaiset kompaktit kielimallit saadaan toimimaan luotettavasti, ne voivat tuoda lääkärin kaltaista neuvontaa lähemmäs niitä, joilla ei ole helppoa pääsyä terveyspalveluihin – erityisesti aliresursoiduilla kielialueilla. Lähde: A Patient-Doctor-NLP-System to contest inequality for less privileged, ArXiv (AI).