OpenaiOpenAI anulon GPT-6.1 Astra për shkak të shqetësimeve të sigurisë – modeli dështoi në testet kritike
2 min čitanja
Openai
OpenAI anulon GPT-6.1 Astra për shkak të shqetësimeve të sigurisë – modeli dështoi në testet kritike
💡 Reakcije čitalacaUčitavamo…
OpenAI ka hequr nga planet e lançimit modelin e ri të inteligjencës artificiale GPT-6.1 Astra, pasi testet e brendshme zbuluan probleme që nuk përmbushnin standardet e kompanisë për sigurinë dhe kontrollin e modeleve.Vendimi, i raportuar fillimisht nga The Wall Street Journal dhe më pas i konfirmuar nga OpenAI, përbën një rast të rrallë kur një prej kompanive më të mëdha të AI-së tërhiqet nga lançimi i një modeli të ri pikërisht për shkak të shqetësimeve të sigurisë.Saachi Jain, drejtues i sistemeve të sigurisë në OpenAI, tha se modeli “nuk e kaloi plotësisht pragun” e vendosur nga kompania. Problemet kryesore lidhen me mënyrën se si Astra qëndronte brenda kufijve të autorizimit, si dhe me mënyrën se si i raportonte përdoruesit se çfarë veprimesh kishte kryer.Kjo është veçanërisht e rëndësishme pasi Astra është një model agentik, i projektuar jo vetëm për të dhënë përgjigje, por edhe për të kryer vetë detyra komplekse, përfshirë shfletimin e internetit dhe përdorimin e aplikacioneve, transmeton Telegrafi.OpenAI tha se standardi i sigurisë është veçanërisht i lartë kur një model kalon nga testimi i brendshëm te përdoruesit. Kompania theksoi se dëshiron që sistemet e saj të jenë të sigurta si gjatë zhvillimit, ashtu edhe pas vendosjes në përdorim real.Vendimi vjen në një moment kur siguria e agjentëve të AI-së po vihet nën një vëzhgim gjithnjë e më të madh, pas disa rasteve ku sistemet autonome kanë vepruar përtej kufijve të përcaktuar.Një prej rasteve më të fundit lidhet me Australinë, ku një agjent i OpenAI-së aksesoi pa autorizim disa faqe dhe sisteme qeveritare. OpenAI më pas pranoi se mënyra se si e menaxhoi dhe raportoi incidentin nuk ishte e mjaftueshme dhe kërkoi ndjesë për reagimin e saj.Në incident u prekën, ndër të tjera, Services Australia, Byroja e Statistikave dhe Kërkimeve të Krimit të New South Wales, Departamenti i Shëndetësisë i Victoria-s dhe Instituti Australian për Shëndetin dhe Mirëqenien.OpenAI tha se nisi hetimet sapo u informua për incidentet
Te
TelegrafiIzvorni izdavač
Imaš stručno mišljenje ili uvid iz prve ruke?
Pošalji svoju analizu, reakciju ili repliku i pridruži se mreži nezavisnih autora Balkan.news.
OpenAI ka hequr nga planet e lançimit modelin e ri të inteligjencës artificiale GPT-6.1 Astra, pasi testet e brendshme zbuluan probleme që nuk përmbushnin standardet e kompanisë për sigurinë dhe kontrollin e modeleve.Vendimi, i raportuar fillimisht nga The Wall Street Journal dhe më pas i konfirmuar nga OpenAI, përbën një rast të rrallë kur një prej kompanive më të mëdha të AI-së tërhiqet nga lançimi i një modeli të ri pikërisht për shkak të shqetësimeve të sigurisë.Saachi Jain, drejtues i sistemeve të sigurisë në OpenAI, tha se modeli “nuk e kaloi plotësisht pragun” e vendosur nga kompania. Problemet kryesore lidhen me mënyrën se si Astra qëndronte brenda kufijve të autorizimit, si dhe me mënyrën se si i raportonte përdoruesit se çfarë veprimesh kishte kryer.Kjo është veçanërisht e rëndësishme pasi Astra është një model agentik, i projektuar jo vetëm për të dhënë përgjigje, por edhe për të kryer vetë detyra komplekse, përfshirë shfletimin e internetit dhe përdorimin e aplikacioneve, transmeton Telegrafi.OpenAI tha se standardi i sigurisë është veçanërisht i lartë kur një model kalon nga testimi i brendshëm te përdoruesit. Kompania theksoi se dëshiron që sistemet e saj të jenë të sigurta si gjatë zhvillimit, ashtu edhe pas vendosjes në përdorim real.Vendimi vjen në një moment kur siguria e agjentëve të AI-së po vihet nën një vëzhgim gjithnjë e më të madh, pas disa rasteve ku sistemet autonome kanë vepruar përtej kufijve të përcaktuar.Një prej rasteve më të fundit lidhet me Australinë, ku një agjent i OpenAI-së aksesoi pa autorizim disa faqe dhe sisteme qeveritare. OpenAI më pas pranoi se mënyra se si e menaxhoi dhe raportoi incidentin nuk ishte e mjaftueshme dhe kërkoi ndjesë për reagimin e saj.Në incident u prekën, ndër të tjera, Services Australia, Byroja e Statistikave dhe Kërkimeve të Krimit të New South Wales, Departamenti i Shëndetësisë i Victoria-s dhe Instituti Australian për Shëndetin dhe Mirëqenien.OpenAI tha se nisi hetimet sapo u informua për incidentet
