Në Angli po kërkohet ndalimi i përdorimit të AI që krijon imazhe eksplicite të fëmijëve

Komisionerja e fëmijëve për Anglinë po bën thirrje që qeveria të ndalojë aplikacionet që përdorin inteligjencën artificiale (AI) për të krijuar imazhe eksplicite të fëmijëve, shkruan BBC.

Dame Rachel de Souza tha se ishte e nevojshme një ndalim total për aplikacionet që lejojnë "nudifikimin" - ku foto të njerëzve realë redaktohen nga AI për t’i bërë ata të duken të zhveshur - ose që mund të përdoren për të krijuar imazhe të thella të falsifikuara (deepfake) seksuale të fëmijëve.

Ajo tha se qeveria po lejonte që këto aplikacione të përdoren “pa kontroll me pasoja ekstreme në botën reale".

Një zëdhënës i qeverisë tha se materialet e abuzimit seksual të fëmijëve janë të paligjshme dhe se kishte plane për ndëshkime të mëtejshme për krijimin, mbajtjen ose shpërndarjen e mjeteve AI të dizajnuara për të krijuar këtë lloj përmbajtjeje.

Deepfakes janë video, foto ose audio të krijuara me AI që duken ose tingëllojnë si reale.

Në një raport të publikuar të hënën, Dame Rachel tha se teknologjia po i drejtohej në mënyrë të padrejtë vajzave dhe grave të reja, me shumë aplikacione të personalizuara që duket se funksionojnë vetëm mbi trupat femra.

Raporti thotë se vajzat po shmangin aktivisht postimin e imazheve ose angazhimin në internet për të reduktuar rrezikun e të qenit të targetuara, "po ashtu siç vajzat ndjekin rregulla të tjera për tu mbrojtur në botën reale - siç është të mos ecin vetëm natën".

Fëmijët kanë frikë se "një i huaj, një shok klase, ose madje një mik" mund t’i targetojë ata duke përdorur teknologjitë që mund të gjenden në platformat popullore të kërkimit dhe mediave sociale.

Dame Rachel tha se “evolucioni i këtyre mjeteve po ndodh me një shkallë dhe shpejtësi të tillë saqë mund të jetë e tepruar për tu përpjekur të kuptosh rrezikun që ato paraqesin".

"Ne nuk mund të rrimë pasivë dhe të lejojmë që këto aplikacione të personalizuara AI të kenë një ndikim kaq të rrezikshëm mbi jetët e fëmijëve”.

Dame Rachel gjithashtu kërkoi nga qeveria që: të vendosë detyrime ligjore për zhvilluesit e mjeteve AI gjeneruese për të identifikuar dhe adresuar rreziqet që produktet e tyre paraqesin për fëmijët dhe të marrin masa për të minimizuar këto rreziqe; krijojë një proces sistematik për të hequr imazhet seksuale ‘deepfake’ të fëmijëve nga interneti; njohë abuzimin seksual me ‘deepfake’ si një formë dhune ndaj grave dhe vajzave; Paul Whiteman, sekretar i përgjithshëm i unionit të udhëheqësve të shkollave NAHT, tha se anëtarët ndajnë shqetësimet e komisioneres.

Ai tha se “kjo është një fushë që kërkon urgjentisht një rishikim pasi teknologjia rrezikon të tejkalojë ligjin dhe edukimin në lidhje me të".

Në Angli dhe Uells, sipas Aktit të Sigurisë në Internet, është e paligjshme të shpërndahen ose kërcënohen me shpërndarjen e imazheve eksplicite të thella.

Qeveria njoftoi në shkurt ligje për të trajtuar kërcënimin e imazheve të abuzimit seksual të fëmijëve të krijuara nga AI, që përfshijnë ndalimin e mbajtjes, krijimit ose shpërndarjes së mjeteve AI të dizajnuara për të krijuar këtë përmbajtje.

Ajo tha se në atë kohë, Fondacioni i Vëzhgimit të Internetit - një organizatë bamirëse me bazë në Mbretërinë e Bashkuar, pjesërisht e financuar nga kompani teknologjike - kishte konfirmuar 245 raporte të abuzimit seksual të fëmijëve të krijuara nga AI në vitin 2024, krahasuar me 51 në vitin 2023, një rritje prej 380%.

Regullatori i medias Ofcom publikoi versionin përfundimtar të Kodit të Fëmijëve të premten, i cili vendos kërkesa ligjore për platformat që mbajnë pornografi dhe përmbajtje që inkurajon vetëdëmimin, vetëvrasjen ose çrregullimet e ngrënies, për të marrë më shumë masa për të parandaluar aksesin nga fëmijët.

Faqet e internetit duhet të vendosin kontrolle më të forta për moshën ose do të përballen me gjoba të mëdha, tha regullatori.

Dame Rachel e ka kritikuar kodin duke thënë se ai prioritizon "interesat biznesore të kompanive teknologjike mbi sigurinë e fëmijëve".

Një zëdhënës i qeverisë tha se krijimi, mbajtja ose shpërndarja e materialeve të abuzimit seksual të fëmijëve, përfshirë imazhet e krijuara nga AI, është "e tmerrshme dhe e paligjshme".

"Sipas Aktit të Sigurisë në Internet, platformat e të gjitha madhësive tani duhet të heqin këtë lloj përmbajtjeje, ose mund të përballen me gjoba të mëdha", shtuan ata.