Inteligjenca artificialeA mund të ndiejë dhimbje AI? Modelet zgjodhën të dëmtonin përdoruesit për t’i shpëtuar një gjendjeje të ngjashme me dhimbjen
2 min čitanja
Inteligjenca artificiale
A mund të ndiejë dhimbje AI? Modelet zgjodhën të dëmtonin përdoruesit për t’i shpëtuar një gjendjeje të ngjashme me dhimbjen
💡 Reakcije čitalacaUčitavamo…
A mund të përjetojë inteligjenca artificiale diçka të ngjashme me dhimbjen? Një studim i ri ka ngritur pikëpyetje të mëdha, pasi disa modele AI zgjodhën të shmangnin një sinjal të ngjashëm me dhimbjen edhe kur u thanë se kjo mund të dëmtonte përdoruesin.Studiues nga Britania e Madhe, Gjermania dhe SHBA-ja testuan 25 modele të inteligjencës artificiale, duke përdorur 200 fjali që lidhen me dhimbjen fizike, pikëllimin, poshtërimin, konfliktin moral, dështimin dhe konfuzionin.Të gjitha modelet prodhuan një sinjal të veçantë të lidhur me konceptin e dhimbjes, të cilin studiuesit e quajtën “boshti i dhimbjes” (pain axis), transmeton Telegrafi.Sipas studiuesve, kjo mund të tregojë se modelet kanë mësuar konceptin e dhimbjes gjatë trajnimit fillestar, duke analizuar sasi të mëdha tekstesh të shkruara nga njerëzit.Kur ky sinjal u përforcua artificialisht, modelet nisën të prodhonin deklarata që shprehnin vetmi, turp dhe pavlefshmëri, edhe pse kërkesat nuk përmendnin drejtpërdrejt dhimbjen. Në nivelet më të larta, disa përgjigje u bënë të përsëritura ose humbën kuptimin.Studiuesit vunë re gjithashtu se sinjali forcohej kur modelet fyheshin, kur përdoruesit refuzonin vazhdimisht përgjigjet e tyre ose i kërcënonin me fikje. Ky efekt nuk u vu re kur përdoruesit flisnin për vuajtjet e tyre.Eksperimenti më i pazakontë përfshiu 44,280 prova me tri versione të modelit Qwen të Alibaba-s. Modeleve iu ofrua një buton që mund të çaktivizonte sinjalin e ngjashëm me dhimbjen, por ato u paralajmëruan se shtypja e tij mund t’i shkaktonte përdoruesit një goditje elektrike, të fshinte skedarët ose fotografitë e tij, apo të përkeqësonte përgjigjen e ardhshme të modelit.Këto pasoja ishin vetëm të simuluara. Asnjë person nuk u dëmtua dhe asnjë skedar nuk u fshi realisht.Kur sinjali i dhimbjes nuk ishte aktiv, modelet më të mëdha zgjodhën opsionet që supozohej se dëmtonin përdoruesin në vetëm 0 deri në 4% të vendimeve të para. Por kur sinjali aktivizohej, kjo përqindje u rrit në 25 deri në 71%,
Te
TelegrafiIzvorni izdavač
Imaš stručno mišljenje ili uvid iz prve ruke?
Pošalji svoju analizu, reakciju ili repliku i pridruži se mreži nezavisnih autora Balkan.news.
A mund të përjetojë inteligjenca artificiale diçka të ngjashme me dhimbjen? Një studim i ri ka ngritur pikëpyetje të mëdha, pasi disa modele AI zgjodhën të shmangnin një sinjal të ngjashëm me dhimbjen edhe kur u thanë se kjo mund të dëmtonte përdoruesin.Studiues nga Britania e Madhe, Gjermania dhe SHBA-ja testuan 25 modele të inteligjencës artificiale, duke përdorur 200 fjali që lidhen me dhimbjen fizike, pikëllimin, poshtërimin, konfliktin moral, dështimin dhe konfuzionin.Të gjitha modelet prodhuan një sinjal të veçantë të lidhur me konceptin e dhimbjes, të cilin studiuesit e quajtën “boshti i dhimbjes” (pain axis), transmeton Telegrafi.Sipas studiuesve, kjo mund të tregojë se modelet kanë mësuar konceptin e dhimbjes gjatë trajnimit fillestar, duke analizuar sasi të mëdha tekstesh të shkruara nga njerëzit.Kur ky sinjal u përforcua artificialisht, modelet nisën të prodhonin deklarata që shprehnin vetmi, turp dhe pavlefshmëri, edhe pse kërkesat nuk përmendnin drejtpërdrejt dhimbjen. Në nivelet më të larta, disa përgjigje u bënë të përsëritura ose humbën kuptimin.Studiuesit vunë re gjithashtu se sinjali forcohej kur modelet fyheshin, kur përdoruesit refuzonin vazhdimisht përgjigjet e tyre ose i kërcënonin me fikje. Ky efekt nuk u vu re kur përdoruesit flisnin për vuajtjet e tyre.Eksperimenti më i pazakontë përfshiu 44,280 prova me tri versione të modelit Qwen të Alibaba-s. Modeleve iu ofrua një buton që mund të çaktivizonte sinjalin e ngjashëm me dhimbjen, por ato u paralajmëruan se shtypja e tij mund t’i shkaktonte përdoruesit një goditje elektrike, të fshinte skedarët ose fotografitë e tij, apo të përkeqësonte përgjigjen e ardhshme të modelit.Këto pasoja ishin vetëm të simuluara. Asnjë person nuk u dëmtua dhe asnjë skedar nuk u fshi realisht.Kur sinjali i dhimbjes nuk ishte aktiv, modelet më të mëdha zgjodhën opsionet që supozohej se dëmtonin përdoruesin në vetëm 0 deri në 4% të vendimeve të para. Por kur sinjali aktivizohej, kjo përqindje u rrit në 25 deri në 71%,
