.png)
Në shkollat shqiptare ka filluar vendosja e kamerave me premtimin për të rritur sigurinë e nxënësve, por bashkë me kamerat inteligjente kanë nisur edhe pyetjet mbi privatësinë, përpunimin e të dhënave dhe kufijtë e përdorimit të inteligjencës artificiale ndaj fëmijëve.
Qendra për të Drejtat e Fëmijëve në Shqipëri, CRCA–ECPAT Shqipëri, i ka drejtuar Ministrisë së Brendshme dhe ministrit Ervin Demo një kërkesë zyrtare për informacion, e cila përmban 39 pyetje dhe kërkesa për dokumentacion lidhur me projektin dhe përdorimin e kamerave inteligjente në shkolla dhe ambiente të tjera ku qëndrojnë fëmijët.
“Siguria e fëmijëve nuk mund të ndërtohet duke i vendosur ata nën një sistem të përhershëm mbikëqyrjeje, të pamonitoruar në mënyrë të pavarur, të pakonsultuar me fëmijët dhe pa protokolle apo procedura standarte për çdo lloj situate apo ngjarjeje. Përpara se kamerat inteligjente të instaloheshin apo të aktivizoheshin në shkolla, Qeveria duhet të kishte provuar se çdo funksion i sistemit është i ligjshëm, i domosdoshëm, proporcional dhe se nuk ekzistonte një alternativë më pak ndërhyrëse në jetën e fëmijëve”, thotë Altin Hazizaj, Drejtor Ekzekutiv i CRCA–ECPAT Shqipëri.
Nisma vjen në një kohë kur projekti është tashmë në zbatim. Faza e parë përfshin 20 shkolla në Tiranë, ndërsa sistemi është pjesë e një rrjeti më të gjerë që shtrihet në lokacione publike në vend.
Në kërkesën e saj, organizata kërkon informacion mbi bazën ligjore të projektit, financimin, kontratat dhe përgjegjësitë e institucioneve që e administrojnë.
Pyetjet dhe kërkesat për dokumentacion dhe informacion lidhen me dhjetë fusha kryesore:
-Marrëveshjet, financimi, baza ligjore dhe struktura e drejtimit të projektit;
-Listën e shkollave ku sistemi është instaluar, testuar ose planifikohet të instalohet;
-Vendndodhjen e kamerave dhe zonat konkrete që po dhe do të monitorohen;
-Funksionet e inteligjencës artificiale, përfshirë njohjen e fytyrës, biometrinë, gjurmimin, regjistrimin audio, analizën e sjelljes dhe njohjen e emocioneve;
-Kategoritë e të dhënave që mblidhen, vendin ku ruhen dhe subjektet që kanë akses, si dhe rolet e tyre;
-Vlerësimin e Ndikimit në Mbrojtjen e të Dhënave Personale dhe Vlerësimin e Ndikimit mbi të Drejtat e Fëmijës;
-Testet e domosdoshmërisë dhe të proporcionalitetit, përfshi edhe shqyrtimin e alternativave më pak ndërhyrëse (invazive) në jetën private të fëmijëve;
-Saktësinë e algoritmeve, rezultatet e gabuara, rrezikun e diskriminimit dhe nivelin e kontrollit (input) njerëzor;
-Protokollet / dokumentacionin për afatet e ruajtjes, fshirjen, sigurinë kibernetike dhe raportimin e incidenteve;
-Prokurimin, kontraktorët private që kanë akses në sistem dhe rolet e tyre, parashikimin për auditimin e pavarur të sistemit dhe në tërësi të programit, si dhe info mbi mekanizmat e ankimit nga ana e fëmijëve dhe përfaqësuesve të tyre ligjore.
-Në mënyrë të posaçme kërkohet të bëhet e ditur nëse sistemi përfshin ose mund të aktivizojë njohjen e fytyrës, identifikimin biometrik, gjurmimin e individëve ndërmjet kamerave, analizën e ecjes ose të zërit, njohjen e emocioneve, profilizimin e sjelljes apo vendimmarrjen e automatizuar.
CRCA Shqipëri gjithashtu ka kërkuar vendosjen në dispozicion të Vlerësimit të Ndikimit në Mbrojtjen e të Dhënave Personale të Fëmijëve përpara fillimit të përpunimit, kur përdorimi i teknologjive të reja mund të shkaktojë rrezik të lartë për të drejtat dhe liritë themelore, bazuar në detyrimet që lindin nga Neni 31 i ligjit nr. 124/2024 “Për mbrojtjen e të dhënave personale”.
Pyetja kryesore: çfarë ndodh me të dhënat e fëmijëve?
Për CRCA, çështja nuk është nëse shkollat duhet të jenë të sigurta. Organizata shprehet në favor të masave efektive të sigurisë, por argumenton se siguria nuk mund të shndërrohet në një autorizim për mbikëqyrje të pakufizuar të fëmijëve.
Në qendër të shqetësimit është mundësia që teknologjia të mos kufizohet vetëm te regjistrimi i pamjeve, por të përdoret për të analizuar sjelljen e nxënësve.
“Siguria e fëmijëve nuk mund të ndërtohet duke i vendosur ata nën një sistem të përhershëm mbikëqyrjeje”, shprehet Hazizaj.
Sipas tij, përpara instalimit të teknologjive të tilla duhet të provohet se çdo funksion është i ligjshëm, i domosdoshëm dhe proporcional dhe se nuk ekziston një alternativë më pak ndërhyrëse.
CRCA kërkon të dijë gjithashtu nëse janë bërë teste të domosdoshmërisë dhe proporcionalitetit përpara aktivizimit të teknologjisë.
Në thelb, pyetja është: A është e nevojshme të përdoret kjo shkallë teknologjie për të garantuar sigurinë në shkolla dhe a mund të arrihet i njëjti qëllim me mënyra që ndërhyjnë më pak në privatësinë e fëmijëve?
Standardet europiane dhe ndërkombëtare
Në kërkesën e saj, CRCA–ECPAT i referohet Konventës së OKB-së për të Drejtat e Fëmijës, e cila mbron interesin më të lartë të fëmijës, të drejtën e tij për t’u dëgjuar dhe privatësinë.
Organizata sjell në vëmendje edhe standardet e Komitetit të OKB-së për të Drejtat e Fëmijës për mjedisin digjital, si dhe standardet e Këshillit të Europës për mbrojtjen e të dhënave të fëmijëve në arsim.
Në nivel europian, kërkesa i referohet edhe standardeve të BE-së për mbrojtjen e të dhënave dhe inteligjencën artificiale, duke përfshirë rregullat që kufizojnë përdorimin e disa teknologjive të AI-së në institucionet arsimore.
Hazizaj përmend edhe çështjen Antovic dhe Mirkovic kundër Malit të Zi, ku Gjykata Europiane e të Drejtave të Njeriut konfirmoi se video-mbikëqyrja në një institucion arsimor përbën ndërhyrje në jetën private.
Këto rregulla nuk zbatohen automatikisht në Shqipëri në të njëjtën mënyrë si në vendet anëtare të BE-së. Megjithatë, organizata i konsideron ato standarde të rëndësishme për procesin e përafrimit të legjislacionit shqiptar me acquis-in europian.
Çfarë kërkon CRCA të ndodhë tani?
Deri në publikimin e informacionit dhe përfundimin e vlerësimeve përkatëse, organizata kërkon pezullimin e zgjerimit të sistemit në shkolla të tjera.
Ajo kërkon gjithashtu që të mos aktivizohen funksione si njohja e fytyrës, identifikimi biometrik, njohja e emocioneve, gjurmimi apo profilizimi i sjelljes së fëmijëve.
Një tjetër kërkesë është që kamerat të mos vendosen në klasa, tualete, dhoma zhveshjeje, ambiente shëndetësore, psikologjike apo këshillimi.
CRCA–ECPAT kërkon gjithashtu garanci që një alarm i gjeneruar nga algoritmi të mos çojë automatikisht në ndëshkim disiplinor, identifikimin e një fëmije si person i dyshuar apo ndërhyrje policore.
Në fund, organizata kërkon konsultim me fëmijët, prindërit, mësuesit, psikologët dhe organizatat që punojnë me të drejtat e fëmijëve.
Copyright © Gazeta “Si”
Të gjitha të drejtat e këtij materiali janë pronë ekskluzive dhe e patjetërsueshme e Gazetës “Si”, sipas Ligjit Nr.35/2016 “Për të drejtat e autorit dhe të drejtat e tjera të lidhura me to”. Ndalohet kategorikisht kopjimi, publikimi, shpërndarja, tjetërsimi etj, pa autorizimin e Gazetës “Si”, në të kundërt çdo shkelës do mbajë përgjegjësi sipas nenit 179 të Ligjit 35/2016.
Lini një Përgjigje