Selitettävä tekoäly pyrkii tekemään maatalouden päätöksistä läpinäkyvämpiä

Selitettävä tekoäly on nousemassa keskeiseksi työkaluksi, kun maataloudessa halutaan hyödyntää dataa ja automaatiota ilman “mustan laatikon” ongelmaa. Artificial Intelligence Review -lehdessä julkaistu laaja katsaus kokoaa yhteen viime vuosien kehitystä siinä, miten tekoälyn päätöksiä voidaan avata ihmiselle ymmärrettävällä tavalla kestävän maatalouden tarpeisiin. Maatalous on ottanut tekoälyn käyttöön tuottavuuden ja tehokkuuden parantamiseksi, mutta samaan aikaan mallien läpinäkymättömyys on herättänyt epäilyjä niiden luotettavuudesta erityisesti kriittisillä aloilla, kuten lääketieteessä ja maataloudessa. Katsaus nostaa esiin, että selitettävään tekoälyyn liittyvä tutkimus alkoi saada selvää vauhtia vuonna 2017 juuri näiden luottamukseen ja riippuvuuteen liittyvien huolten vuoksi. Tekijät kuvaavat katsauksessa keskeisiä selitysmenetelmiä, joilla tekoälymallien ennusteita voidaan perustella. Mukana ovat esimerkiksi paikalliset, mallista riippumattomat selitykset (Local Interpretable Model-agnostic Explanations, LIME), Shapley-arvoihin pohjaavat selitykset (SHapley Additive Explanations, SHAP) sekä menetelmä, joka tuottaa mallin päätöksiin liittyviä “huomiokarttoja” painottamalla gradientteja (Gradient-weighted Class Activation). Ajatus on, että selitys kertoo, mitkä tekijät tai havainnon osat vaikuttivat ratkaisuun ja miten. Katsauksen ydinviesti on, että selitettävyyden lisääminen voi parantaa tekoälyn käyttökelpoisuutta ja hyväksyttävyyttä maatalouden päätöksenteossa: kun mallin perustelut ovat nähtävissä, sen riippuvuutta voidaan arvioida paremmin ja teknologiaa on helpompi soveltaa kestävyyttä tukevalla tavalla. Lähde: Leveraging explainable AI for sustainable agriculture: a comprehensive review of recent advances, Artificial Intelligence Review.