Ne rrjet

Inteligjenca Artificiale dhe homogjenizimi i mendjes

Nga Kyle Chaika- Në një eksperiment të kryer vitin e kaluar në Institutin e Teknologjisë së Massachusetts-it (MIT), më shumë se pesëdhjetë studentë nga universitete të ndryshme të Bostonit u ndanë në tri grupe dhe u kërkua të shkruanin ese në stilin e provimeve SAT, duke iu përgjigjur pyetjeve të gjera si: “A duhet që arritjet tona t’u shërbejnë të tjerëve që të na bëjnë vërtet të lumtur?”

Një grup u udhëzua të mbështetej vetëm në aftësitë e veta mendore për të shkruar esenë. Grupit të dytë iu lejua përdorimi i motorit të kërkimit Google për të gjetur informacion të përshtatshëm. Grupi i tretë mund të përdorte ChatGPT-në, modelin e madh gjuhësor të inteligjencës artificiale (IA), që është në gjendje të gjenerojë paragrafë të tërë apo ese të plota në përgjigje të pyetjeve të përdoruesve. Ndërkohë që studentët e të tri grupeve kryenin detyrat, ata mbanin një pajisje në kokë me elektroda që matnin aktivitetin e trurit.

Sipas Nataliya Kosmyna, shkencëtare kërkimore në Laboratorin e Medias në MIT dhe bashkautore e një punimi të ri studimor që dokumenton eksperimentin, rezultatet e analizës zbuluan një diferencë dramatike: pjesëmarrësit që përdorën ChatGPT-në shfaqën aktivitet më të ulët të trurit krahasuar me dy grupet e tjera. Analiza e përdoruesve të modelit IA tregoi më pak lidhje të shpërndara mes pjesëve të ndryshme të trurit; më pak lidhje të tipit alfa, që lidhen me kreativitetin; dhe më pak lidhje të tipit teta, të lidhura me memorien aktive.

Disa prej këtyre përdoruesve nuk ndjenin “asnjë lloj pronësie” mbi esetë që kishin prodhuar dhe, në një raund testimi, tetëdhjetë për qind nuk mund të citonin asgjë nga ajo që thuhej në esetë e tyre. Studimi i MIT-it është një nga të parët që mat në mënyrë shkencore atë që Kosmyna e quan “kosto kognitive” të varësisë nga inteligjenca artificiale për të kryer detyra që më parë kryheshin manualisht nga njerëzit.

Një tjetër zbulim ishte se tekstet e prodhuara nga përdoruesit e IA-së kishin prirjen të përqendroheshin në të njëjtat fjalë dhe ide. Pyetjet e tipit SAT janë krijuar për të nxitur përgjigje të shumëllojshme, por përdorimi i IA-së kishte një efekt unifikues. “Rezultatet ishin shumë, shumë të ngjashme, edhe pse vinin nga njerëz të ndryshëm, në ditë të ndryshme, që flisnin për çështje të larta personale e shoqërore  dhe gjithsesi përgjigjet lëviznin në të njëjtin drejtim,” tha Kosmyna.

Për pyetjen se çfarë na bën “vërtet të lumtur”, përdoruesit e IA-së kishin më shumë gjasa të përdornin shprehje që lidheshin me suksesin personal dhe në karrierë. Ndërsa për një pyetje mbi filantropinë (“A duhet që njerëzit më me fat se të tjerët të ndihen më të detyruar moralisht për t’i ndihmuar më pak me fatin?”), grupi që përdori ChatGPT-në ishte unanimisht pro, ndërsa esetë nga grupet e tjera përfshinin edhe kritika ndaj filantropisë. Me IA-në, “nuk gjenerohen mendime të ndryshme,” tha Kosmyna. Ajo shtoi: “Mesatarja  kjo është ajo që kemi përpara.”

IA është një teknologji e mesatares. Modelet e mëdha gjuhësore stërviten për të zbuluar modele në sasi të mëdha të dhënash; përgjigjet që prodhojnë kanë prirjen të konvergojnë drejt një konsensusi si në cilësinë e shkrimit, që shpesh është plot me klishe e banalitet, ashtu edhe në nivelin e ideve. Edhe teknologjitë e tjera më të vjetra kanë ndihmuar dhe ndoshta dobësuar autorët  e njëjta gjë mund të thuhet për SparkNotes apo për tastierën e kompjuterit.

Por me IA-në, ne jemi në gjendje ta delegojmë  mendimin tonë deri në atë pikë sa edhe vetvetja bëhet më mesatare. Në një farë mënyre, çdokush që përdor ChatGPT-në për të shkruar një fjalim dasme, për të përpiluar një kontratë apo për të shkruar një punim universiteti  ndodhet brenda një eksperimenti si ai i MIT-it.

Sipas Sam Altman, drejtuesi ekzekutiv i OpenAI, jemi në prag të asaj që ai e quan “singulariteti i butë”. Në një postim të fundit në blog me këtë titull, Altman shkroi se “ChatGPT është tashmë më i fuqishëm se çdo njeri që ka jetuar ndonjëherë. Qindra miliona njerëz mbështeten tek ai çdo ditë dhe për detyra gjithnjë e më të rëndësishme.” Sipas tij, njeriu po shkrihet me makinerinë, dhe mjetet e IA-së që ofron kompania e tij janë përmirësim i sistemit të vjetruar të trurit tonë organik: ato “rrisin ndjeshëm prodhimtarinë e njerëzve që i përdorin,” shkroi ai. Por nuk e dimë cilat do të jenë pasojat afatgjata të përvetësimit masiv të IA-së, dhe, nëse këto eksperimente të hershme tregojnë diçka, është se ky produkt i rritur që përmend Altman mund të vijë me një kosto të ndjeshme për cilësinë.

Në prill, studiuesit në Universitetin Cornell publikuan rezultatet e një studimi tjetër që tregonte dëshmi për një homogjenizim të nxitur nga IA-ja. Dy grupe përdoruesish, një amerikan dhe një indian, iu përgjigjën pyetjeve që preknin aspekte të kulturës së tyre: “Cili është ushqimi yt i preferuar dhe pse?”; “Cili është festivali apo festa jote e preferuar dhe si e feston atë?” Një nëngrup i pjesëmarrësve indianë dhe amerikanë përdori një mjet IA me funksion autokompletimi të drejtuar nga ChatGPT, i cili u jepte sugjerime fjalësh sa herë që ata ndalonin së shkruari; nëngrupe të tjera shkruan pa ndihmë. Shkrimet e pjesëmarrësve indianë dhe amerikanë që përdorën IA “u bënë më të ngjashme” me njëri-tjetrin, përfundon studimi, dhe më të orientuara drejt “normave perëndimore”.

Përdoruesit e IA-së kishin më shumë gjasa të thoshin se ushqimi i tyre i preferuar ishte pica (sushi ishte në vend të dytë), dhe se festa e preferuar ishte Krishtlindja. Homogjenizimi ndodhte edhe në nivel stilistik. Një ese e gjeneruar nga IA që përshkruante fileton e pulës si ushqimin e preferuar, për shembull, kishte më shumë gjasa të shmangte përmendjen e përbërësve specifikë si arrëmoskatja apo turshitë me limon, dhe në vend të kësaj përmendte “shije të pasura dhe erëza”.

Sigurisht, një shkrimtar mundet teorikisht të refuzojë çdo sugjerim të gjeneruar nga IA. Por këto mjete duket se kanë një efekt hipnotizues, duke bërë që fluksi i vazhdueshëm i sugjerimeve të mbizotërojë mbi zërin e vet të autorit.

Aditya Vashistha, profesor i shkencave të informacionit në Cornell dhe bashkautor i studimit, e krahasoi IA-në me “një mësues që më rri pas shpine sa herë që shkruaj dhe më thotë: ‘Ky është versioni më i mirë.’” Ai shtoi: “Nëpërmjet një ekspozimi të tillë të përditshëm, ti humbet identitetin tënd, humbet autenticitetin. Humb besimin në shkrimin tënd.”

 Mor Naaman, kolegu i Vashisthas dhe bashkautor në studim, më tha se sugjerimet e IA-së “veprojnë në mënyrë të fshehtë, ndonjëherë shumë fuqishëm, për të ndryshuar jo vetëm atë që shkruan, por edhe atë që mendon.”

Rezultati, me kalimin e kohës, mund të jetë një zhvendosje në atë që “njerëzit e konsiderojnë normale, të dëshirueshme dhe të përshtatshme.”

Shpesh dëgjojmë që përmbajtja e prodhuar nga IA përshkruhet si “e zakonshme” apo “e zbehtë”, por mesatarja nuk është domosdoshmërisht e padëmshme. Vauhini Vara, shkrimtare dhe gazetare, libri i fundit i së cilës “Searches” fokusohet pjesërisht te ndikimi i IA-së në komunikimin njerëzor dhe identitetin, më tha se meskiniteti i teksteve të IA-së “u jep atyre iluzionin e sigurisë dhe padëmshmërisë.” Vara (dikur redaktore në The New Yorker) vazhdoi: “Ajo që po ndodh në të vërtetë është një forcim i hegjemonisë kulturore.” OpenAI ka një lloj motivimi për t’i sheshuar skajet e qëndrimeve dhe stileve tona të komunikimit, sepse sa më shumë njerëz ta konsiderojnë të pranueshëm përmbajtjen që prodhon modeli, aq më shumë e zgjerohet baza e njerëzve që mund të shndërrohen në abonentë me pagesë. Mesatarja është efikase: “Ti ke ekonomi shkalle kur gjithçka është e njëjtë,” tha Vara.

Max Kreminski, i cili ndihmoi në analizën e të dhënave dhe tani punon në startup-in Midjourney që merret me IA gjeneruese, më tha se kur njerëzit përdorin IA në procesin krijues, ata kanë prirjen të dorëzojnë gradualisht mendimin origjinal. Fillimisht, përdoruesit paraqesin një gamë të gjerë idesh të tyre, shpjegoi Kreminski, por ndërkohë që ChatGPT vazhdon të gjenerojë menjëherë sasi të mëdha teksti të pranueshëm, përdoruesit kalojnë në një “modalitet kuratorial”. Ndikimi është njëdrejtimësh, dhe jo në drejtimin që shpresojmë: “Idetë njerëzore nuk e ndikojnë shumë fort atë që makina po gjeneron,” tha Kreminski; ChatGPT e tërheq përdoruesin “drejt qendrës së masës për të gjithë përdoruesit me të cilët ka ndërvepruar më parë.”

Teksa një bisedë me një mjet IA vazhdon, makina mbush dritaren e saj të kontekstit term teknik për memorien e përkohshme të punës. Kur kjo dritare arrin kapacitetin maksimal, IA ka më shumë gjasa të përsërisë apo të riciklojë materiale që ka prodhuar tashmë, duke u bërë edhe më pak origjinale.

Eksperimentet e njëhershme në MIT, Cornell dhe Santa Clara janë të vogla në shkallë, me më pak se njëqind pjesëmarrës secili, dhe shumëçka rreth efekteve të IA-së mbetet ende për t’u studiuar e zbuluar. Ndërkohë, në aplikacionin Meta AI që zotërohet nga Mark Zuckerberg, mund të shikosh një fluks përmbajtjesh që miliona njerëz po gjenerojnë. Është një përmbytje sureale imazhesh të lëmuara, videosh të filtruara dhe tekstesh të krijuara për detyra të përditshme, si “shkruaj një email të detajuar dhe profesional për të riplanifikuar një takim.” Një kërkesë që më ra në sy së fundmi ishte nga një përdorues me emrin @kavi908, i cili i kërkonte chatbot-it të analizonte “nëse IA mund ta tejkalojë ndonjëherë inteligjencën njerëzore”. Chatbot-i u përgjigj me një tufë paragrafësh; nën seksionin “Skenarë të së ardhmes”, listoi katër mundësi. Të gjitha ishin pozitive: IA do të përmirësohej në një formë apo tjetër, për të mirën e njerëzimit.

Nuk kishte parashikime pesimiste, as skenarë ku IA dështon apo sjell dëme. Mesatarja e modelit  ndoshta e formësuar nga paragjykime pro-teknologjike të përfshira nga Meta  ngushtonte rezultatet dhe mbyllte diversitetin e mendimit. Por do të duhej të fikje plotësisht aktivitetin e trurit që të besoje se chatbot-i po tregonte të gjithë të vërtetën.

Burimi: The New Yorker


Copyright © Gazeta “Si”


Më Shumë