On és el límit de la intel·ligència artificial?

La Policia investiga la difusió d'imatges d'adolescents menors d'edat nues creades amb una aplicació d'IA

La intel·ligència artificial (IA) s'ha instaurat a les nostres vides. Eines com ChatGPT o Dall-E s'han fet molt conegudes en molt poc temps i persones amb pocs coneixements tècnics en poden fer ús. L'auge de la IA ha generat moltes expectatives per les possibilitats que tenen, però també molts dubtes.

L’últim incident que ha saltat als mitjans de comunicació ha reobert el debat sobre el límit d’aquesta tecnologia. Estem parlant del cas de diverses noies menors que han denunciat que fotografies seves nues manipulades amb intel·ligència artificial circulen per Internet.

Tot ha passat a Almendralejo (Badajoz), on les mares de les víctimes (d'entre 12 i 17 anys) han denunciat la situació. La Policia Nacional ja està investigant aquesta manipulació i difusió d'imatges falses i, de moment, han detingut diversos menors que podrien estar implicats en el cas.

Per crear aquestes fotografies, els adolescents han fet servir una aplicació d'IA. L'app és capaç de fer un muntatge hiperrealista intercanviant el rostre o el cos original de la víctima pel de qualsevol altra persona.

Aquestes imatges es coneixen com a deepfakes i avui dia són molt populars en xarxes socials: segur que has vist les fotografies del Papa Francesc amb un enorme abric blanc o les de l'expresident dels Estats Units Donald Trump sent arrestat.

L'actitud dels adolescents que han manipulat les imatges podria ser considerada un delicte de pornografia infantil. Així ho detalla l'article 189 del Codi Penal, que entén que la pornografia infantil és “tot material visual a un menor participant en una conducta sexual explícita, real o simulada”. A més, les imatges suposen una suplantació de la identitat i atempten contra la intimitat i l'honor de les víctimes.

Un ús irresponsable

El cas de les menors d’Almendralejo no és l’únic. El maig del 2023, es va viralitzar en xarxes socials una foto manipulada de Rosalía. La cantant va pujar una fotografia al perfil d'Instagram i un usuari va decidir descarregar-la, manipular-la amb IA i difondre'n el resultat. Al muntatge Rosalía apareixia amb el pit al descobert.

La democratització de les eines d'IA ha fet que qualsevol pugui fer-ne ús sense necessitar grans coneixements tècnics d'edició de fotografies, per exemple. Això ha fet que hi hagi un apogeu dels deepfakes, que van més enllà dels mems del Papa Francesc i estan arribant a indústries com la pornografia.

Segons un estudi de Deeptrace, companyia especialitzada en ciberseguretat, vuit de les deu principals pàgines web de pornografia inclouen continguts creats a través de deepfake. Tot i que qualsevol persona pot ser objecte de veure la seva cara o cos manipulat i utilitzat en un vídeo pornogràfic, l'empresa assegura que les dones s'han convertit en les víctimes principals.

Algunes de les causes principals darrere d'aquest tipus de manipulació és la manca d'una educació afectiu sexual adequada i la manca de valors en igualtat i respecte a totes les persones. Des d'edats primerenques, hem d'aprendre a fer-ne un ús segur, responsable i saludable de les tecnologies.

Per aquest tipus de perills i altres riscos associats, la Comissió Europea fa mesos que intenta regular la intel·ligència artificial a la regió. L'organisme vol que les plataformes digitals es comprometin a seguir uns principis bàsics que garanteixin que la intel·ligència artificial protegirà els drets i les llibertats dels ciutadans europeus.

Tu també ho pots parar!

Crear deepfakes de contingut sexual sobre altres companyes de classe mai no pot ser entès com una broma. Aquest assumpte és molt seriós no només perquè pots ferir les víctimes, sinó també perquè pots estar cometent un delicte greu. Per això, és molt important que sàpigues com actuar.

No creïs ni difonguis. No creïs imatges manipulades o deepfakes que presentin contingut inapropiat, difamatori o que violi la privadesa d'algú. En fer-ho, estàs fent mal directe a una persona. Si reps aquest contingut, no el difonguis; això només empitjorarà la situació per a la víctima.

No avergonyeixis la víctima. No facis servir les imatges manipulades per avergonyir, assetjar o fer xantatge a altres persones. Aquesta conducta és inacceptable i pot tenir conseqüències legals greus.

Comunica-ho a un adult de confiança. Si rebeu o us trobeu amb contingut d'aquest tipus, parleu amb un adult de confiança, com la vostra família, tutors o professors. Ells sabran com actuar davant d'aquesta situació.

Fomenta l'empatia i sensibilitza la resta. Mira de posar-te al lloc de la persona la imatge de la qual ha estat manipulada. Imagina com et sentiries si et passés a tu o a algú proper. Anima els teus companys i amics a ser conscients dels perills de la manipulació d'imatges i deepfakes.

Recolza les víctimes. Si coneixes algú que ha estat afectat per la manipulació d'imatges, ofereix-li el teu suport i comprensió. Pots ajudar aquesta persona a buscar l’ajuda adequada.

Treballa l'actualitat a l'aula

Aquest article inclou materials didàctics exclusius per a subscriptors. Descobriu l'activitat que us proposem avui!