Uusi Omega-järjestelmä lupaa luotettavampia tekoälyagentteja pilvipalveluihin

Tutkijat ovat kehittäneet Omega-nimisen järjestelmän, jonka tavoitteena on tehdä suurten kielimallien ohjaamista käyttävistä tekoälyagenteista luotettavampia pilviympäristöissä. Tekoälyagentit ovat ohjelmia, jotka voivat itsenäisesti käsitellä arkaluonteista dataa, käyttää ulkoisia työkaluja ja olla yhteydessä muihin agenteihin ilman jatkuvaa ihmisen valvontaa. Nykyisin tällaiset agentit toimivat monimutkaisessa pilviekosysteemissä, jossa mukana on useita eri palveluntarjoajia ja ohjelmistokomponentteja. Yhdenkin osan pettäminen voi johtaa tietovuotoihin, tietojen väärentymiseen tai odottamattomaan toimintaan. Vaikka niin sanotut luottamukselliset virtuaalikoneet tarjoavat jo suojaa yksittäisille ohjelmille, ne eivät tutkimuksen mukaan riitä takaamaan luottamusta eri osapuolten välillä, eivät eristä laskentakiihdyttimiä, kuten tekoälyprosessorien käyttöä, eivätkä valvo tekoälyagentin toimintaa kokonaisuutena. Omega-järjestelmä pyrkii paikkaamaan nämä puutteet kolmella tavalla. Se luo tekoälyagentille päästä päähän ulottuvan eristyskerroksen, jonka on tarkoitus suojata koko agentin toiminta, ei vain yksittäistä ohjelmabinaaria. Lisäksi järjestelmä rakentaa tutkijoiden mukaan todennettavan luottamusketjun kaikkien osapuolten välille: sekä pilvipalvelun tarjoajat, ulkoiset työkalut että muut agentit voidaan liittää samaan luottamuskehykseen. Kolmas keskeinen piirre on valvonta. Omega seuraa jokaista agentin ulkoista vuorovaikutusta ja liittää niihin jäljitettävän alkuperätiedon, niin sanotun provenienssin. Näin pyritään varmistamaan, että myöhemmin voidaan nähdä, mistä data tai toiminta on peräisin ja kuka vastaa siitä. Tutkijoiden mukaan järjestelmä rakentuu nykyisten luottamuksellisten virtuaalikoneiden ja niihin liittyvien tekniikoiden varaan, mutta laajentaa niitä nimenomaan tekoälyagenttien tarpeisiin. Tavoitteena on mahdollistaa pilvessä toimivat tekoälypalvelut, joihin voidaan luottaa paremmin myös silloin, kun mukana on useita eri toimijoita ja herkkiä tietoja. Lähde: Trusted AI Agents in the Cloud, ArXiv (AI).