Na Telegramu uspijeva AI bot koji pravi lažne aktove žena

Na Telegramu uspijeva AI bot koji pravi lažne aktove žena

Snagom tehnologije, najveći svjetski umovi imaju sposobnost postići gotovo sve. No, dok neki rade na tome da olakšaju život osobama s invaliditetom ili da pomognu u okončanju globalne pandemije, drugi su usredotočeni na manje plemenit uzrok: zlostavljanje i objektiviziranje žena.

sok od limuna za njegu kože

Anonimni programer pokrenuo je prošle godine aplikaciju nazvanu DeepNude koja je tehnologijom deepfake uklanjala odjeću sa fotografija žena. Opisana je kao nuđenje supersile koju ste oduvijek željeli, omogućujući korisnicima da prenose fotografije žena (tehnologija nije djelovala na muškarce) koje bi potom skinule i pretvorile u vjerojatne lažne aktove. Preuzimanje u raznim trgovinama aplikacija koštalo je 50 dolara.

Aplikaciju je samo nekoliko sati kasnije, uz bizarnu pozadinu, isključio iz mreže. Ne želimo zarađivati ​​na ovaj način, napisali su Izjava . Svijet još nije spreman za DeepNude.

Godinu dana kasnije, aplikacija je eksponencijalno porasla u popularnosti i upotrebi. Softver je otkriven na Telegramu, gdje je zaposlen kao dio 'deepfake ekosustava', u kojem je stvoreno preko 104 000 lažnih aktova žena. Ekosustav se usredotočuje na AI bota koji generira aktove na zahtjev, šaljući galerije novih slika na desetke tisuća pretplatnika svaki dan. Članovi chata mogu upućivati ​​određene zahtjeve za botom u njegovim grupama za razmjenu poruka. Vjeruje se da neke od fotografija prikazuju maloljetne djevojke.

Sensity, tvrtka za otkrivanje dubokih lažnih podataka, objavio svoja otkrića o ovom pitanju u listopadu. U razgovoru s Dazedom, Giorgio Patrini, izvršni direktor i glavni znanstvenik tvrtke, kaže: Nismo prije primijetili DeepNude tehnologiju ugrađenu u bot za chat, sa svojim dramatičnim potencijalom za korisničku dostupnost i opseg proizvodnje. Zapravo je ovo pojedinačno najveći incident ove vrste po broju žrtava.

Istraživači izvještavaju da je broj lažnih aktova na Telegramu porastao za 198 posto između travnja i lipnja 2020. Ova statistika u skladu je s viješću da je osveta u porastu tijekom zaključavanja, a slučajevi zloupotrebe intimnih slika povećani su za 22 posto ove godine. U svom se izvješću Sensity pozabavio široj prijetnjom da se 'ogoljene' slike pojedinaca mogu dijeliti na privatnim ili javnim kanalima izvan Telegrama kao dio javne sramote ili napada na temelju iznude.

Iako Sensity procjenjuje da je bot meta više od 104 000 žena, stvarni broj vjerojatno će biti puno veći. To se duguje jednostavnosti tehnologije. Sve što korisnici moraju napraviti kako bi generirali lažni goli tekst, botu su poslali tekst po odabranoj slici, koji će besplatno poslati neodjevenu sliku. Te se fotografije zatim dijele s povezanim Telegram kanalima. Anonimna anketa provedena u jednom od ovih kanala pokazala je da je 70 posto korisnika bilo iz Rusije, Ukrajine, Bjelorusije, Kazahstana i zemalja bivšeg SSSR-a; mnogi su rekli da su otkrili bota iz ruske mreže društvenih medija VK.

Nije došlo do intervencije ili uklanjanja i, s tim, ne znamo tko još uvijek može posjedovati ili dijeliti slike stvorene botom - Giorgio Patrini, Sensity

Iako je objavio svoje nalaze prije gotovo dva mjeseca, Sensity kaže da nikada nije dobio odgovor od Telegrama. Ti su kanali i dalje aktivni na platformi, nastavlja Patrini, iako većina sada izbjegava otvoreno oglašavati bota ili njegove kreacije. No što je najvažnije, sam bot još uvijek funkcionira kao i prije. Nije došlo do intervencije ili uklanjanja i, s tim, ne znamo tko još uvijek može posjedovati ili dijeliti slike stvorene botom.

Brojne su skupine promijenile imena kako bi mogle izbjeći identifikaciju, dok su drugi kanali potpuno nestali ili su odstranjene golišave slike podijeljene na njima. Kako je izvijestio ŽIČAN , krajem listopada, bot je postao nepristupačan na iPhoneu i iPadu, što je pokazalo poruku o pogrešci u kojoj se kaže da krši Appleove smjernice.

Patrini kaže da je bot uspio posebno napredovati na Telegramu zahvaljujući platformi koja lako omogućuje integraciju botova i drugih automatizacija u njihove chat sobe, objašnjavajući da je glavni razlog tehnički.

Iako vjeruje da trenutno možete razlikovati lažne aktove od stvarnih, Patrini izjavljuje da ovo neće dugo trajati. Nastavlja, tehnologija se ubrzava i poboljšava. Ne morate biti istraživač strojnog učenja da biste njime upravljali; softver je otvorenog koda i dolazi s vodičima i velikim zajednicama programera.

Proces duboko lažnih aktova koje Telegram distribuira na TelegramuAI botPutem osjetljivosti

Moguća zarada povezana s ovom vrstom deepfake tehnologije također bi mogla potaknuti veći broj ljudi da je zloupotrijebe. Ljudi postaju genijalni kad shvate kako se tehnologija deepfake može pretvoriti u poslovnu priliku, s legitimnom ili nezakonitom konotacijom, objašnjava Patrini. Na primjer, bot u našoj istrazi monetizira pružajući korisnicima koji plaćaju brže stvaranje slika bez ikakvih vodenih žigova na njima.

Međutim, kako se poboljšava softver duboke izrade, tako se poboljšava i tehnologija otkrivanja. Patrini kaže da će tehnologija otkrivanja u budućnosti igrati temeljniju ulogu, pomažući nam da razumijemo što vidimo i u automatskom otkrivanju deepfakesa na mreži. Kako se žene pojavljuju u 96 posto od svih deepfake videozapisa, preventivna i reaktivna tehnologija koja zaustavlja stvaranje ovih fotografija i videozapisa ključna je u tekućoj borbi za ravnopravnost spolova.

To je problem koji će nažalost utjecati na svakoga od nas kao privatnika, zaključuje Patrini. Naše crte lica mogu se ukrasti i prenamijeniti u vizualni materijal koji napada našu reputaciju i može biti oružani radi javne sramote, ucjene ili iznude.

Važno je da svatko od nas bude svjestan da bilo koja slika ili video koji objavimo na mreži mogu biti vidljivi cijelom svijetu i da ih loši glumci koriste.