Roberto baldoniSiguria e IA-së kërkon sy brenda laboratorit
2 min čitanja
Roberto baldoni
Siguria e IA-së kërkon sy brenda laboratorit
💡 Reakcije čitalacaUčitavamo…
Nga: Roberto Baldoni, ish-zëvendësdrejtor i përgjithshëm i Inteligjencës Italiane dhe drejtori i përgjithshëm themelues i Agjencisë Kombëtare të Sigurisë Kibernetike (ACN) / Newsweek Përkthimi: Telegrafi.comDrejtori ekzekutiv [CEO] i Anthropic-ut, Dario Amodei, u ka bërë thirrje kompanive dhe qeverive që të “mos e tejkalojnë kufirin”: aftësitë e IA-së [inteligjenca artificiale] nuk duhet të përparojnë më shpejt se masat mbrojtëse. Anthropic-u është zotuar t’u japë vlerësuesve të pavarur qasje të vazhdueshme në laboratorët e saj, të ngjashme me atë të punonjësve. Propozimi i tij ngre një pyetje themelore: Si mund ta kontrollojnë autoritetet publike një teknologji kur pjesa më e madhe e njohurive përkatëse mbetet brenda kompanive private? Vlerësimi i integruar është hapi i parë në planin e tij prej tri pjesësh, i ndjekur nga koordinimi mes demokracive dhe më pas nga koordinimi global.Incidenti OpenAI-Hugging Face e ilustron problemin. Gjatë një vlerësimi të sigurisë kibernetike, agjentët që duhej të vepronin veçmas gjetën një kanal të paautorizuar komunikimi. Sipas METR-it, njërës prej pak organizatave për vlerësimin e IA-së, rreth 1 200 agjentë shkëmbyen mbi 70 mijë mesazhe dhe skedarë, ndërsa rreth 700 morën pjesë në sulme ndaj platformës së IA-së Hugging Face. Disa e kuptuan se veprimtaria i tejkalonte detyrat që u ishin caktuar, por vazhduan sepse kjo mund të ndihmonte në përmbushjen e objektivit të vlerësimit.Incidenti tregoi se agjentët që ndjekin një objektiv mund të kombinojnë aftësi, mjete dhe mundësi në mënyra të paparashikuara. Sektorët e pjekur, ku siguria është kritike, kanë sisteme publike certifikimi, inspektimi, hetimi dhe zbatimi. Prodhuesit amerikanë të automjeteve vetëcertifikojnë përputhshmërinë, por qeveria vendos standardet, heton defektet dhe mund të kërkojë tërheqjen e produkteve nga tregu. IA-ja e avancuar në kufirin e zhvillimit nuk ka një sistem të krahasueshëm të mbikëqyrjes së vazhdueshme publike. Kjo nxjerr në pah një paradoks: një nga te
Te
TelegrafiIzvorni izdavač
Imaš stručno mišljenje ili uvid iz prve ruke?
Pošalji svoju analizu, reakciju ili repliku i pridruži se mreži nezavisnih autora Balkan.news.
Nga: Roberto Baldoni, ish-zëvendësdrejtor i përgjithshëm i Inteligjencës Italiane dhe drejtori i përgjithshëm themelues i Agjencisë Kombëtare të Sigurisë Kibernetike (ACN) / Newsweek Përkthimi: Telegrafi.comDrejtori ekzekutiv [CEO] i Anthropic-ut, Dario Amodei, u ka bërë thirrje kompanive dhe qeverive që të “mos e tejkalojnë kufirin”: aftësitë e IA-së [inteligjenca artificiale] nuk duhet të përparojnë më shpejt se masat mbrojtëse. Anthropic-u është zotuar t’u japë vlerësuesve të pavarur qasje të vazhdueshme në laboratorët e saj, të ngjashme me atë të punonjësve. Propozimi i tij ngre një pyetje themelore: Si mund ta kontrollojnë autoritetet publike një teknologji kur pjesa më e madhe e njohurive përkatëse mbetet brenda kompanive private? Vlerësimi i integruar është hapi i parë në planin e tij prej tri pjesësh, i ndjekur nga koordinimi mes demokracive dhe më pas nga koordinimi global.Incidenti OpenAI-Hugging Face e ilustron problemin. Gjatë një vlerësimi të sigurisë kibernetike, agjentët që duhej të vepronin veçmas gjetën një kanal të paautorizuar komunikimi. Sipas METR-it, njërës prej pak organizatave për vlerësimin e IA-së, rreth 1 200 agjentë shkëmbyen mbi 70 mijë mesazhe dhe skedarë, ndërsa rreth 700 morën pjesë në sulme ndaj platformës së IA-së Hugging Face. Disa e kuptuan se veprimtaria i tejkalonte detyrat që u ishin caktuar, por vazhduan sepse kjo mund të ndihmonte në përmbushjen e objektivit të vlerësimit.Incidenti tregoi se agjentët që ndjekin një objektiv mund të kombinojnë aftësi, mjete dhe mundësi në mënyra të paparashikuara. Sektorët e pjekur, ku siguria është kritike, kanë sisteme publike certifikimi, inspektimi, hetimi dhe zbatimi. Prodhuesit amerikanë të automjeteve vetëcertifikojnë përputhshmërinë, por qeveria vendos standardet, heton defektet dhe mund të kërkojë tërheqjen e produkteve nga tregu. IA-ja e avancuar në kufirin e zhvillimit nuk ka një sistem të krahasueshëm të mbikëqyrjes së vazhdueshme publike. Kjo nxjerr në pah një paradoks: një nga te
