Tutkimus paljastaa jäljitettävyysvesileimojen rajat hienosäädetyissä kuvageneraattoreissa

Uusi tekoälytutkimus kartoittaa, kuinka hyvin kuvageneraattoreiden koulutusdatoihin piilotetut vesileimat todella toimivat, kun malleja hienosäädetään tiettyjen kasvojen tai taidetyylien toistamiseen. Ajatus niin sanotusta aineistovesileimasta on, että koulutuskuviin upotetaan ihmisen silmälle näkymätön merkki. Tämä vesileima kulkee mukana mallin oppimiseen ja on tunnistettavissa myös mallin tuottamissa uusissa kuvissa. Menetelmästä on toivottu ratkaisua tekijänoikeuksien ja turvallisuuden seurantaan, kun yhä useampi tekoälymalli mukautetaan yksityisillä kuva-aineistoilla. Xincheng Wangin ja kansainvälisen työryhmän tutkimus kokoaa hajanaisen kentän yhteen ja ehdottaa yleistä uhkamallia sekä kattavaa arviointikehikkoa. Vesileimoja tarkastellaan kolmen ominaisuuden kautta: yleispätevyys (toimiiko menetelmä erilaisilla aineistoilla ja malleilla), siirtyvyys (siirtyykö vesileima luotettavasti koulutuskuvista tuotettuihin kuviin) ja kestävyys (säilyykö vesileima, kun kuvia muokataan tai yritetään puhdistaa). Tutkimuksen kokeet osoittavat, että nykyiset aineistovesileimat yltävät varsin hyviin tuloksiin sekä yleispätevyydessä että siirtyvyydessä. Ne kestävät myös jossain määrin tavallisia kuvanmuokkausoperaatioita, kuten tyypillisiä käsittelyjä, joita kuville tehdään verkossa. Samalla tutkimus kuitenkin paljastaa selviä rajoitteita: vesileimojen kestävyys heikkenee, kun niitä vastaan hyökätään järjestelmällisemmin. Työryhmä esittelee otsikon mukaan myös vesileimojen poistamiseen tarkoitetun menetelmän, ja asettaa sen osaksi uhkamallia, mutta tiivistelmä ei vielä erittele sen tuloksia. Tulokset korostavat, että aineistovesileimat ovat lupaava, mutta vielä keskeneräinen työkalu tekoälymallien alkuperän ja tekijänoikeuksien jäljittämiseen aikana, jolloin kuvageneraattoreita hienosäädetään yhä useammin yksityisillä kuva-aineistoilla. Lähde: Evaluating Dataset Watermarking for Fine-tuning Traceability of Customized Diffusion Models: A Comprehensive Benchmark and Removal Approach, ArXiv (AI).