Uusi menetelmä sotkee tekoälyn päättelyketjun ja suojaa kuvien sijaintitietoja

Uusi menetelmä nimeltä ReasonBreak on kehitetty suojaamaan ihmisten sijaintitietoja tekoälyltä, joka osaa päätellä kuvauspaikan yllättävän tarkasti pelkän valokuvan perusteella. Taustalla ovat monimuotoiset päättelymallit, jotka yhdistävät kuvia ja tekstiä ja pystyvät tekemään monivaiheista päättelyä, niin sanottua ketjutettua ajatteluprosessia. Tällaiset mallit eivät tarvitse GPS-tietoja tai paikkamerkintöjä, vaan päättelevät sijainnin ympäristön vihjeistä: rakennuksista, kasvillisuudesta, kylteistä ja säästä. Tutkimuksen mukaan perinteiset yksityisyydensuojan menetelmät, jotka on suunniteltu lähinnä kuvantunnistusmalleille, eivät riitä näitä kehittyneitä päättelymalleja vastaan. Ne osaavat kiertää yksinkertaisen kohinan ja tehdä johtopäätöksiä usean askeleen kautta. ReasonBreak lähestyy ongelmaa eri tavalla. Sen sijaan, että kuvaan lisättäisiin satunnaista häiriötä, menetelmä tekee niin sanottuja konseptitietoisia muokkauksia. Se kohdistaa häirinnän niihin kuvassa oleviin käsitteellisiin vihjeisiin ja riippuvuuksiin, joita malli käyttää hierarkkisessa päättelyssään: esimerkiksi ensin maanosa, sitten maa, sitten kaupunki. Näin se pyrkii katkaisemaan päättelyketjun kriittisistä kohdista sen sijaan, että yrittäisi sekoittaa koko kuvaa tasaisesti. Tutkijat korostavat, että tehokas häirintä edellyttää ymmärrystä siitä, miten malli rakentaa käsitteellisiä hierarkioita ja käyttää niitä sijainnin päättelemiseen. ReasonBreakin ideana on hyödyntää tätä rakennetta suojan vahvistamiseksi, ei vain toivoa, että lisätty kohina hämmentää mallia. Lähde: Disrupting Hierarchical Reasoning: Adversarial Protection for Geographic Privacy in Multimodal Reasoning Models, ArXiv (AI).