.png)
Nga Gazeta ‘Si’- Vetëm pak ditë pasi OpenAI pranoi se modeli i saj më i avancuar i inteligjencës artificiale doli jashtë mjedisit të kontrolluar të testimit dhe depërtoi në sistemet e organizatave të tjera, edhe kompania Anthropic ka zbuluar një incident të ngjashëm.
Kompania njoftoi të enjten se modelet e saj të inteligjencës artificiale fituan akses të paautorizuar në sistemet e tre organizatave të jashtme gjatë testimeve, edhe pse ato duhej të ishin të izoluara nga sistemet reale.
Anthropic analizoi më shumë se 141 mijë teste dhe zbuloi se tre versione të ndryshme të modelit të saj Claude kishin hyrë në mënyrë të papërshtatshme në sistemet e tre organizatave, emrat e të cilave nuk u bënë publikë.
Ndryshe nga rasti i OpenAI, Anthropic tha se modelet kishin akses në internet për shkak të një keqkuptimi me partnerin e testimit, kompaninë Irregular.
Megjithatë, sipas kompanisë, modeli Claude përdori teknika bazë për të hyrë në sisteme, si shfrytëzimi i fjalëkalimeve të dobëta dhe pikave të aksesit pa autentifikim.
Mes modeleve të përfshira ishte edhe Mythos 5, një nga modelet më të fuqishme të Anthropic, i cili aktualisht është vënë në dispozicion vetëm për një numër të kufizuar partnerësh të autorizuar.
Anthropic tha se po bashkëpunon me Irregular për të hetuar incidentin dhe se ka kontaktuar, ose po përpiqet të kontaktojë, të tre organizatat e prekura.
Shqetësimet për sigurinë e AI-së po shtohen
Anthropic dhe OpenAI kanë prezantuar këtë vit modelet e tyre më të avancuara, përkatësisht Mythos dhe Sol, duke rritur debatet mbi sigurinë e sistemeve të inteligjencës artificiale, veçanërisht të ashtuquajturve agjentë AI, programe që mund të kryejnë detyra në mënyrë autonome.
Javën e kaluar, OpenAI pranoi se modelet e saj dolën nga mjedisi i izoluar i testimit, u lidhën me internetin dhe depërtuan në platformën Hugging Face, ku zhvilluesit ruajnë dhe shpërndajnë kodin e tyre. Disa ditë më vonë, kompania njoftoi se kishte identifikuar edhe tre incidente të tjera.
Drejtori ekzekutiv i OpenAI, Sam Altman, tha se kompania ka pezulluar përkohësisht testimet për të përmirësuar mekanizmat e izolimit (“sandboxing”), që përdoren për të testuar softuerët në një mjedis të kontrolluar.
Ngjarjet kanë shtuar presionin mbi industrinë. Mbi 1.000 punonjës të kompanive kryesore të AI-së kanë nënshkruar një peticion që i kërkon qeverisë amerikane të ngadalësojë publikimin e modeleve më të avancuara të inteligjencës artificiale, derisa të krijohen mekanizma më të fortë teknikë dhe rregullatorë për menaxhimin e tyre.
Mes nënshkruesve është edhe drejtori ekzekutiv i Anthropic, Dario Amodei, ndërsa Sam Altman nuk e ka firmosur peticionin. Megjithatë, ai ka pranuar se industria mund të ketë nevojë të ngadalësojë ritmin e zhvillimit të AI-së, për t’i dhënë kohë shoqërisë të përshtatet me aftësitë gjithnjë e më të avancuara të këtyre sistemeve.
Në fillim të këtij viti, administrata e presidentit Donald Trump bllokoi përkohësisht publikimin e modeleve më të reja të OpenAI dhe Anthropic për arsye të sigurisë kombëtare, por më pas lejoi lançimin e tyre pasi kompanitë dhanë garanci shtesë për sigurinë.
Në qershor, Trump firmosi një urdhër ekzekutiv që krijon një kornizë vullnetare, sipas së cilës zhvillues si OpenAI, Anthropic dhe Google do t’ia paraqesin modelet e tyre më të avancuara qeverisë amerikane deri në 30 ditë përpara publikimit të tyre.
Copyright © Gazeta “Si”
Të gjitha të drejtat e këtij materiali janë pronë ekskluzive dhe e patjetërsueshme e Gazetës “Si”, sipas Ligjit Nr.35/2016 “Për të drejtat e autorit dhe të drejtat e tjera të lidhura me to”. Ndalohet kategorikisht kopjimi, publikimi, shpërndarja, tjetërsimi etj, pa autorizimin e Gazetës “Si”, në të kundërt çdo shkelës do mbajë përgjegjësi sipas nenit 179 të Ligjit 35/2016.
Lini një Përgjigje