Pedofilët po përdorin një platformë të re të inteligjencës artificiale (AI) për të transformuar fotot reale të fëmijëve në imazhe të seksualizuara.
Imazhet u gjetën në Midjourney, i cili njëlloj si ChatGPT përdor udhëzime për të dhënë një rezultat, por kjo platformë përbëhet nga fotografi dhe jo fjalë.
Platforma përdoret nga miliona njerëz kryesisht në Amerikë dhe ka nxjerrë imazhe aq realiste saqë njerëzit në mbarë botën janë mashtruar prej tyre, duke përfshirë përdoruesit në Twitter.
Një imazh i Papa Françesku I veshur një xhup të madh të bardhë me një kryq të varur në qafë është prova se këto fotografi janë aq reale sa askush nuk e bën dallimin.
Një hetim nga ‘Times’ zbuloi se disa përdorues të Midjourney po krijojnë një numër të madh imazhesh të seksualizuara të fëmijëve, si dhe grave dhe personazheve të famshëm.
Ndër këto janë imazhe të Jennifer Lawrence dhe Kim Kardashian.
Përdoruesit kalojnë përmes platformës së komunikimit Discord për të bërë kërkesa dhe më pas ngarkojnë imazhet që rezultojnë në faqen e internetit të Midjourney në një galeri publike.
Pavarësisht se kompania thotë se përmbajtja duhet të jetë ‘e përshtatshme’, ajo gjithashtu ka paralajmëruar se për shkak se teknologjia është e re, ‘nuk funksionon gjithmonë siç pritej’.
Megjithatë, imazhet e fëmijëve shkelin kushtet e përdorimit të Midjourney dhe Discord.
Shefi i politikave të sigurisë së fëmijëve në Britani Richard Collard, thotë se është krejtësisht e papranueshme që Discord dhe Midjourney po lehtësojnë në mënyrë aktive krijimin dhe organizimin e përshkrimeve degraduese, abuzive dhe seksuale të fëmijëve.
“Ky është një rrezik shumë i madh për fëmijët dhe prindërit duhet ta kuptojnë se në çfarë rreziku po e vënë fëmijën e tyre duke i postuar fotografi në internet”, tha ai duke shtuar se prindërit mund të zvogëlojnë rrezikun duke shpërndarë foto të fëmijëve vetëm tek njerëzit e besuar.
“Por në fund të fundit kompanitë e teknologjisë duhet të marrin përgjegjësinë për të trajtuar mënyrën se si shërbimet e tyre po përdoren nga shkelësit”.
Në përgjigje të gjetjeve të “The Times”, Midjourney tha se do të ndalonte përdoruesit që kishin thyer rregullat.
Një zëdhënës i Discord tha për “Times” se “Discord ka një politikë të tolerancës zero për promovimin dhe ndarjen e materialeve seksuale, duke përfshirë materialet e abuzimit seksual të fëmijëve.”
Zbulimi vjen mes shqetësimeve në rritje për pedofilët që shfrytëzojnë mjediset e realitetit virtual.
Në fillim të këtij viti një hetim zbuloi për herë të parë se si platforma të tilla si metaverse po përdoren nga pedofilët për të abuzuar me fëmijët.
Të dhënat treguan se ishin regjistruar tetë shembuj ku hapësirat e realitetit virtual (VR) përdoreshin për abuzim seksual të fëmijëve.
Copyright © Gazeta “Si”
Të gjitha të drejtat e këtij materiali janë pronë ekskluzive dhe e patjetërsueshme e Gazetës “Si”, sipas Ligjit Nr.35/2016 “Për të drejtat e autorit dhe të drejtat e tjera të lidhura me to”. Ndalohet kategorikisht kopjimi, publikimi, shpërndarja, tjetërsimi etj, pa autorizimin e Gazetës “Si”, në të kundërt çdo shkelës do mbajë përgjegjësi sipas nenit 179 të Ligjit 35/2016.
