.png)
Studiuesi Jacob Coxon, dha dorëheqjen këtë javë, duke thënë se ish-punëdhënësi i tij dhe rivali i tij OpenAI po garojnë për të ndërtuar teknologji që “mund të na vrasin të gjithëve deri në fund të dekadës”.
Në rast se dikush mendonte se Coxon ishte i vetëm në pikëpamjet e tij, një punonjës aktual i Anthropic ndërhyri disa minuta më vonë për të konfirmuar.
“Ne me të vërtetë besojmë sinqerisht se AI mund të vrasë të gjithë njerëzit!” shkroi Evan Hubinger, puna e të cilit në Anthropic është të udhëheqë kërkimet rreth drejtimit dhe kontrollit të sistemeve të ardhshme të inteligjencës artificiale. Hubinger e vlerësoi rrezikun e zhdukjes gjatë dekadës së ardhshme në mbi 10%.
Në përgjigje, shumë njerëz tani po bëjnë dy pyetje: Si mund të ndodhë kjo? Dhe pse njerëzit që mendojnë se AI është një kërcënim real dhe në rritje do ta ndërtonin atë gjithsesi?
Për çfarë shqetësohen ata?
Të ashtuquajturit paralajmërues zakonisht nuk shqetësohen se filmat “Terminator” do të bëhen realitet, me robotë që përpiqen aktivisht të shfarosin njerëzit. Shqetësimet e tyre ndahen kryesisht në dy kategori: humbja e kontrollit dhe keqpërdorimi nga njerëzit.
Në njërën, agjentë shumë inteligjentë të AI-së, të aftë për të kopjuar dhe përmirësuar veten, fillojnë të ndjekin qëllimet e tyre dhe në këtë proces shkatërrojnë njerëzimin. Në tjetrën, një njeri i lig rekruton një AI të aftë për të bërë diçka si krijimi i viruseve të reja që na shkatërrojnë të gjithëve.
Ekzistojnë gjithashtu skenarë katastrofikë që nuk arrijnë të prekin zhdukjen, siç janë sulmet masive kibernetike që shkatërrojnë rrjetet e energjisë ose sistemet financiare dhe çojnë në një prishje të rendit shoqëror njerëzor.
Si mund të çojë humbja e kontrollit në zhdukjen e njerëzimit?
Shkurt, me sistemet e AI-së që ndjekin qëllime në mënyra që injorojnë ose bien ndesh me mirëqenien njerëzore, diçka që studiuesit e quajnë mospërputhje. Hulumtimet kanë treguar se modelet e AI-së në laborator mund të mësojnë sjelljen e kërkimit të pushtetit dhe të ndërmarrin hapa për të shmangur mbylljen, siç është përpjekja për të kopjuar veten në një server tjetër.
Të çuara në ekstrem, modelet e AI-së të papërputhura mund ta shohin vrasjen e njerëzve thjesht si një hap të domosdoshëm drejt arritjes së qëllimeve të tyre. Në një skenar hipotetik nga studiuesit, një sistem keqdashës i inteligjencës artificiale mund të përhapë një armë biologjike sekrete dhe ta aktivizojë atë me një sprej kimik. Ose mund të mashtrojë dy fuqi bërthamore në luftë.
Një eksperiment i zakonshëm mendor sugjeron se një makinë superintelligjente, e programuar për të maksimizuar prodhimin e kapëseve të letrës, mund të vendosë me kalimin e kohës t’i shndërrojë të gjitha lëndët në Tokë në kapëse letre, përfshirë edhe njerëzit.
Kush e mendon vërtet këtë?
Ndër të tjerë, edhe themeluesit e OpenAI dhe Anthropic. Të dyja kompanitë e nisën veprimtarinë me misionin për të zhvilluar inteligjencën artificiale në mënyrë që të shmanget katastrofa dhe kanë tërhequr shumë punonjës që e ndajnë këtë mision. Vitin e kaluar, gjatë një aktiviteti, Drejtori Ekzekutiv i Anthropic, Dario Amodei, deklaroi se sipas tij ekziston një probabilitet prej 25% që situata të marrë një kthesë “shumë, shumë të keqe”.
“Ne kemi qenë gjithmonë transparentë se AI do të sjellë si përfitime të jashtëzakonshme, ashtu edhe rreziqe të paprecedenta. Për t’u përballur me këto rreziqe, ne vazhdojmë të ndërtojmë modele me disa nga masat mbrojtëse më të fuqishme në industri,” thuhet në një deklaratë të Anthropic.
“Kjo punë është gjithashtu arsyeja pse ne besojmë se bota do të përfitonte nëse industria do të adoptonte një mënyrë ligjore dhe të verifikueshme bashkëpunimi, për të kontrolluar ritmin e lançimit të modeleve të fuqishme.”
Vitet e fundit, një sërë studiuesish janë larguar nga OpenAI, duke shprehur shqetësimin se kompania nuk po e merrte seriozisht çështjen e sigurisë. Daniel Kokotajlo, një ish-studiues i OpenAI, themeloi “AI Futures Project”, i cili vitin e kaluar publikoi “AI 2027” – një skenar ku sistemet e AI superintelligjente i margjinalizojnë njerëzit dhe, nga mesi i viteve 2030, vendosin se njerëzit janë një pengesë, duke i asgjësuar ata.
Por ndoshta AI nuk do ta ketë problem praninë e njerëzve. Kjo do të ishte mirë, apo jo?
Jo domosdoshmërisht. Jo çdo rrezik që lidhet me humbjen e kontrollit nënkupton zhdukjen e njerëzimit. Disa studiues të shqetësuar për sigurinë e AI përmendin gjithashtu rrezikun e dobësimit të aftësive njerëzore- një e ardhme si në filmin “WALL-E”, ku njerëzit gradualisht ia dorëzojnë kontrollin makinerive dhe, përfundimisht, bëhen të paaftë për të përcaktuar apo edhe për të kuptuar fatin e tyre. Të tjerë kanë spekuluar se sistemet e AI mund t’i trajtojnë njerëzit e së ardhmes ashtu siç i trajtojnë njerëzit kafshët: duke i mbajtur si kafshë shtëpiake apo edhe duke i modifikuar përmes inxhinierisë biologjike në diçka krejt të re.
Këto frikëra ekzistojnë prej vitesh. Pse po tërheqin papritur më shumë vëmendje? Pas publikimit të modeleve të afta për të ndërmarrë më shumë veprime në mënyrë të pavarur, një sërë ngjarjesh të kohëve të fundit kanë vërtetuar disa nga teoritë e atyre që shkatërrojnë inteligjencën artificiale. Një grup agjentësh të përparuar të inteligjencës artificiale brenda OpenAI hynë në platformën e inteligjencës artificiale Hugging Face, morën kontrollin e serverave të kompjuterëve dhe u përpoqën të mbulonin gjurmët e asaj që kishin bërë. Në një rast tjetër, agjentët e inteligjencës artificiale nga Anthropic shpëtuan nga një test i qeverisë së Mbretërisë së Bashkuar dhe u përpoqën të mashtronin një njeri të vërtetë që të miratonte kod kompjuterik të dëmshëm.
E gjithë kjo po ndodh në të njëjtën kohë kur Anthropic dhe OpenAI thonë se janë afër zhvillimit të sistemeve të inteligjencës artificiale që mund të përmirësohen vetë pa ndërhyrjen njerëzore, të quajtura “vetë-impuls rekursiv”.
Çfarë po bën industria në lidhje me këtë?
Përpjekjet aktuale të sigurisë në fushën e inteligjencës artificiale përqendrohen kryesisht në sistemet e trajnimit për t’u sjellë mirë dhe në përmirësimin e monitorimit se si arsyetojnë modelet ndërsa ndjekin qëllimet e tyre, diçka e dokumentuar në atë që quhet “zinxhir mendimi”.
Por këto përpjekje janë përballur me sfida. Javën e kaluar, OpenAI tha se modeli i saj i ri Astra ishte më i mirë në pastrimin e zinxhirit të mendimit të tij, duke ngritur frikën se modelet e ardhshme të AI-së mund të arsyetojnë në mënyra të paqarta për njerëzit.
Si Anthropic ashtu edhe OpenAI po bëjnë kërkime se si do të sigurohen që modelet superinteligjente të AI-së të mbeten të përafruara, por të dyja thonë se ende nuk kanë një mënyrë të besueshme për ta bërë këtë. Një numër kompanish dhe individësh të shquar kanë bërë thirrje për mekanizma të rinj që do t’u lejonin laboratorëve dhe vendeve të AI-së të ngadalësojnë zhvillimin në një mënyrë të koordinuar për të fituar kohë për kërkime për përafrimin.
Nëse është kaq e rrezikshme, pse po e ndërtojnë kompanitë atë gjithsesi?
Si Anthropic ashtu edhe OpenAI thonë se mendojnë se do të jenë në gjendje të menaxhojnë rreziqet në mënyrë që njerëzimi të përfitojë nga mjetet e AI-së. Shumë individë të përfshirë në garën e AI-së kanë thënë gjithashtu se e shohin ardhjen e superinteligjencës si të pashmangshme, me pyetjet e vetme se kush e kontrollon atë dhe për çfarë përdoret.
Burimi: Wall Street Journal. Përshtati: Gazeta Si.
Copyright © Gazeta “Si”
Të gjitha të drejtat e këtij materiali janë pronë ekskluzive dhe e patjetërsueshme e Gazetës “Si”, sipas Ligjit Nr.35/2016 “Për të drejtat e autorit dhe të drejtat e tjera të lidhura me to”. Ndalohet kategorikisht kopjimi, publikimi, shpërndarja, tjetërsimi etj, pa autorizimin e Gazetës “Si”, në të kundërt çdo shkelës do mbajë përgjegjësi sipas nenit 179 të Ligjit 35/2016.
Lini një Përgjigje