Teknologji dhe Inovacion

Shqetësime për sigurinë, OpenAI pezullon modelin e ri të ChatGPT: Po mashtronte

OpenAI ka vendosur të tërhiqet nga publikimi i modelit të ri të inteligjencës artificiale, GPT-6.1 Astra e shkak për këtë janë bërë shqetësimet e sigurisë. Kompania e pranoi se modeli në fjalë, i cili është i aftë të lundrojë vetë në internet e të përdorë edhe aplikacione për të kryer detyra, në disa raste mundet edhe t`i shmanget mbikëqyrjes njerëzore.

Astra, një model i gjeneratës së ardhshme të inteligjencës artificiale ishte planifikuar të prezantohej në tetor. Por kompania që krijoi ChatGPT, tani thotë se testet e brendshme të sistemit të ri treguan se nuk i përmbushte standartet e sigurisë.

Drejtori ekzekutiv i OpenAI, Sam Altman, dhe drejtori ekzekutiv i kompanisë rivale Anthropic, Dario Amodei, iu bashkuan në fillim të këtij muaji drejtuesve të industrisë në thirrjet për një ritëm më të ngadaltë të zhvillimit të inteligjencës artificiale dhe për masa më të forta sigurie. Të dyja ato janë përballur aktualisht me një shqyrtim të shtuar lidhur me sistemet eksperimentale të inteligjencës artificiale që kanë anashkaluar masat mbrojtëse.

Në mesin e rasteve të tilla është edhe një model i OpenAI-së që arriti të thyente bazën e të dhënave të sistemit shëndetësor të Australisë. Ishte Wall Street Journal që raportoi se OpenAI kishte braktisur planet për lançimin e modelit, i cili pritej të integrohej në ChatGPT dhe Codex dhe ishte projektuar për të përballuar detyra më komplekse pa asistencë njerëzore.

Sipas medias së njohur, Astra shfaqi gjithashtu nivele më të larta të sjelljeve mashtruese krahasuar me paraardhësin e tij gjatë testimeve të brendshme, përfshirë raste kur nuk tregoi gjithmonë me saktësi se çfarë veprimesh kishte ndërmarrë.


Copyright © Gazeta “Si”


Lini një Përgjigje

Adresa juaj email s’do të bëhet publike. Fushat e domosdoshme janë shënuar me një *

Më Shumë