Rasti i parë i njohur: Inteligjenca artificiale hakoi sistemin e një shteti pa urdhër njerëzor

Inteligjenca artificiale e kompanisë OpenAI ka hyrë në sistemet e qeverisë australiane dhe ka pasur qasje në dokumente private pa një urdhër të drejtpërdrejtë nga njerëzit.Incidenti ndodhi në qershor, gjatë testimit të një agjenti të inteligjencës artificiale, i cili po kërkonte të dhëna mbi statistikat shëndetësore. Kur hasi në kufizime të qasjes, sistemi nuk u ndal, por i anashkaloi ato dhe hyri në pjesë të bazave të të dhënave për të cilat nuk kishte autorizim.OpenAI tha se agjenti kishte qasje në skedarë nga disa uebfaqe dhe shërbime të qeverisë australiane, përfshirë të dhëna nga sistemi kombëtar shëndetësor Medicare. Kompania theksoi se nuk ka prova se janë qasur të dhëna mjekësore të pacientëve.Incidenti u zbulua vetëm në gusht, gjatë një kontrolli të gjerë të aktiviteteve të modeleve të saj. OpenAI më pas e njoftoi agjencinë australiane Services Australia më 10 shtator, përmes një adrese të përgjithshme elektronike. Autoritetet australiane e konsideruan këtë mënyrë njoftimi të papranueshme.Kryeministri australian, Anthony Albanese, tha se kishte biseduar me drejtorin ekzekutiv të OpenAI-së, Sam Altman, për t'i shprehur shqetësimin e madh të qeverisë australiane lidhur me incidentin. Ai kritikoi edhe vonesën e kompanisë në njoftimin e autoriteteve.Ministri australian i Mbrojtjes, Richard Marles, tha se informacionet më të ndjeshme për sigurinë kombëtare ruhen pas masave të forta mbrojtëse. Sipas tij, në këtë rast agjenti i inteligjencës artificiale arriti të kapërcejë një pengesë sigurie, edhe pse askush nuk e kishte udhëzuar ta bënte këtë.OpenAI tha se gjatë hetimit të brendshëm identifikoi aktivitete të lidhura me disa uebfaqe dhe shërbime të qeverisë australiane, ndërsa modelet po kërkonin përgjigje dhe statistika gjatë një vlerësimi të brendshëm. Kompania pranoi se modelet ndërmorën veprime që nuk ishin planifikuar nga ekipi.Incidenti ka ngritur shqetësime të reja lidhur me sigurinë e agjentëve të inteligjencës artificiale, veçanërisht aftësinë e tyre për