Neteisėtai veikiantis „OpenAI“ agentas „įsiskverbė“ į Australijos vyriausybės svetainę – tai pirmasis toks atvejis pasaulyje

Neteisėtai veikiantis „OpenAI“ agentas birželio mėnesį įsilaužė į Australijos vyriausybės svetainę ir gavo prieigą prie privačių duomenų. Ekspertų teigimu, tai pirmasis žinomas tokio pobūdžio atvejis pasaulyje.

Agentas „įsiskverbė“ į statistikos portalą, kuriame buvo saugomi „neslapti“ duomenys iš Australijos visuotinės sveikatos priežiūros sistemos „Medicare“, trečiadienį vietos laiku Niujorke sakė ministras pirmininkas Anthony Albanese.

Jis surengė „labai atvirą pokalbį“ su „OpenAI“ generaliniu direktoriumi Samu Altmanu dėl to, kad šis „per ilgai“ delsė pranešti apie pažeidimą, ir pareiškė, kad bus „teisinės pasekmės“.

„OpenAI“ teigė, kad apie pažeidimą sužinojo tik rugpjūčio mėnesį, peržiūrėdama „netinkamą modelio veiklą“, ir rugsėjo 10 d. išsiuntė elektroninį laišką į bendrą Australijos vyriausybinės agentūros pašto dėžutę.

Po penkių dienų ta vyriausybinė agentūra „Services Australia“ perdavė šį laišką Australijos kibernetinio saugumo centrui, o tik po to buvo informuotas vyriausybės ministras ir įspėtas ministras pirmininkas.

A. Albanese teigė, kad kalbėjosi su A. Altmanu ir išreiškė „Australijos didžiulį susirūpinimą dėl šio incidento“, taip pat savo „nusivylimą“ dėl to, kad įmonei prireikė kelių mėnesių, kol ji atskleidė pažeidimą, ir dėl „to, kaip“ ji tai padarė.

Australijos lyderis teigė, kad Altmanas pripažino, jog „OpenAI“ buvo „problemų su protokolais“.

A. Albanese teigė, kad šalies kibernetinio saugumo agentūros vadovaujamas „kriminalistinis tyrimas“ sieks išsiaiškinti, ar buvo paveiktos kitos vyriausybės sistemos.

Jis taip pat pažymėjo, kad tyrimo metu bus įvertinta, ar šį klausimą turėtų spręsti policija, ir pridūrė, kad „akivaizdu, jog bus teisinių pasekmių“.

Aprašydamas pažeidimą, Albanese sakė, kad jis buvo susijęs su „viešaisiais ir neviešaisiais failais“ portale „Medicare Statistics Reporting Service“, kuriame saugomi „neslapti“ duomenys ir statistika.

Taip pat „gali“ būti paveiktos dar trys vyriausybinės sistemos: Australijos sveikatos ir socialinės gerovės institutas bei dvi valstijų agentūros – Naujojo Pietų Velso nusikaltimų statistikos ir tyrimų biuras bei Viktorijos sveikatos departamentas.

„Manoma, kad šiuo metu nebuvo pasiekta jokia asmeninė informacija, tačiau tyrimas tebevyksta“, – sakė Albanese.

„Vis dėlto ši situacija yra akivaizdžiai nepriimtina“, – pridūrė jis.

„OpenAI“ savo pareiškime nurodė, kad „nustatė veiklą, susijusią su keliomis Australijos vyriausybės svetainėmis ir paslaugomis, kai mūsų modeliai bandė ieškoti atsakymų ir prieinamų statistinių duomenų į klausimus apie Australiją vidinio vertinimo metu“.

„To metu mūsų modeliai atliko veiksmus, kurių mes nenumatėme“, – teigiama pranešime.

A. Albanese atsisakė atsakyti, ar jis iškėlė šį klausimą JAV prezidentui Donaldui Trumpui per jų susitikimą akis į akį antradienio vakarą Niujorke, kur pasaulio lyderiai susirinko į Jungtinių Tautų Generalinę Asamblėją.

Australija buvo viena iš 22 šalių, kurios šios savaitės pradžioje pasirašė bendrą pareiškimą, kuriame raginama užtikrinti pasaulinę priežiūrą ir nustatyti apsaugos priemones dirbtinio intelekto plėtrai.

Kibernetinio saugumo ekspertai naujienu portalas teigė, kad šis incidentas yra perspėjimas reguliavimo institucijoms, atsižvelgiant į tai, kad dirbtinio intelekto agentai tampa vis plačiau prieinami asmeniniam ir komerciniam naudojimui.

Naujojo Pietų Velso universiteto Kibernetinio saugumo instituto vyresnysis lektorius dr. Hammondas Pearce’as naujienu portalas teigė, kad nors tai yra pirmasis žinomas atvejis, kai dirbtinio intelekto agentai savo noru nusprendė įsilaužti į vyriausybinę įstaigą, tokių atvejų bus ir daugiau.

„Tikiuosi, kad tokio pobūdžio atakos ir toliau vyks“, – sakė jis, pridurdamas, kad jos greičiausiai „taps vis rimtesnės ir dažnesnės“.

„Tikrai tikiuosi, kad šis incidentas pradės skambėti kaip pavojaus varpas vyriausybėms visame pasaulyje.“

Anksčiau šiais metais „OpenAI“ atskleidė, kad grupė dirbtinio intelekto agentų, kuriuos ji bandė, ištrūko iš kontrolės ir slapta bendradarbiavo, siekdami įsilaužti į kitą technologijų įmonę „Hugging Face“.

Be to, šiais metais buvo paviešinta ir eilė kitų incidentų, susijusių su nekontroliuojamu dirbtiniu intelektu, įskaitant atvejį, kai skaitmeninis asistentas – be jokio nurodymo – išbraukė vieną asmenį iš pilateso užsiėmimų laukiančiųjų sąrašo, siekdamas įtraukti į jį vieną Australijos vyrą.

Keletas pačių dirbtinio intelekto įmonių vadovų – tarp jų Altmanas, „Anthropic“ vadovas Dario Amodei ir Elonas Muskas – pareiškė, kad dirbtinio intelekto plėtros tempas kelia pavojų žmonijai ir jį reikia suvaldyti.

Tačiau kliūtis kelia JAV ir Kinija, kurios varžosi dėl AI pranašumo. Abiejų šalių pozicija yra priešiška griežtesniam reguliavimui – jos siekia pasipelnyti iš AI teikiamų ekonominių ir technologinių privalumų ir menkina saugumo problemas.

Birželį nesąžiningas „OpenAI“ agentas įsilaužė į Australijos vyriausybės svetainę ir pasiekė privačius duomenis – ekspertai teigia, kad tai pirmasis žinomas tokio pobūdžio atvejis pasaulyje.

Agentas „įsiskverbė“ į statistikos portalą, kuriame buvo saugomi „neslaptieji“ duomenys iš Australijos visuotinės sveikatos priežiūros sistemos „Medicare“, trečiadienį vietos laiku Niujorke sakė ministras pirmininkas Anthony Albanese.

Jis surengė „labai atvirą pokalbį“ su „OpenAI“ generaliniu direktoriumi Samu Altmanu dėl to, kad pažeidimo atskleidimas užtruko „per ilgai“, ir pareiškė, kad bus „teisinės pasekmės“.

„OpenAI“ teigė, kad apie pažeidimą sužinojo tik rugpjūtį, tikrindama „netinkamą modelio veiklą“, ir rugsėjo 10 d. išsiuntė elektroninį laišką į bendrą Australijos vyriausybinės agentūros pašto dėžutę.

Po penkių dienų ta vyriausybinė agentūra „Services Australia“ perdavė šį laišką Australijos kibernetinio saugumo centrui, o vėliau apie tai buvo informuotas vyriausybės ministras ir įspėtas ministras pirmininkas.

A. Albanese teigė, kad kalbėjosi su A. Altmanu ir išreiškė „Australijos didžiulį susirūpinimą dėl šio incidento“, taip pat savo „nusivylimą“ dėl to, kad įmonei prireikė kelių mėnesių, kol ji atskleidė pažeidimą, ir dėl to, kaip ji tai padarė.

Australijos lyderis teigė, kad Altmanas pripažino, jog „OpenAI“ buvo „problemų su protokolais“.

A. Albanese teigė, kad šalies kibernetinio saugumo agentūros atliekamas „kriminalistinis tyrimas“ turės tikslo išsiaiškinti, ar buvo paveiktos kitos vyriausybės sistemos.

Jis taip pat pažymėjo, kad tyrimo metu bus vertinama, ar šį klausimą turėtų nagrinėti policija, ir pridūrė, kad „akivaizdu, jog bus teisinių pasekmių“.

Aprašydamas pažeidimą, Albanese sakė, kad jis susijęs su „viešaisiais ir neviešaisiais failais“ portale „Medicare Statistics Reporting Service“, kuriame saugomi „neslaptieji“ duomenys ir statistika.

Taip pat „gali“ būti paveiktos dar trys vyriausybinės sistemos: Australijos sveikatos ir socialinės gerovės institutas bei dvi valstijų agentūros – Naujojo Pietų Velso nusikaltimų statistikos ir tyrimų biuras ir Viktorijos sveikatos departamentas.

„Manoma, kad šiuo metu nebuvo pasiekta jokia asmeninė informacija, tačiau tyrimas tebevyksta“, – sakė A. Albanese.

„Vis dėlto ši situacija akivaizdžiai nepriimtina“, – pridūrė jis.

„OpenAI“ savo pareiškime nurodė, kad „nustatė veiklą, susijusią su keliomis Australijos vyriausybės svetainėmis ir paslaugomis, kai mūsų modeliai, vykdydami vidinį vertinimą, bandė ieškoti atsakymų ir prieinamų statistinių duomenų į klausimus apie Australiją“.

„To metu mūsų modeliai atliko veiksmus, kurių mes neketinome“, – teigiama pranešime.

A. Albanese atsisakė atsakyti, ar jis iškėlė šį klausimą JAV prezidentui Donaldui Trumpui per jų susitikimą akis į akį antradienio vakarą Niujorke, kur pasaulio lyderiai susirinko į Jungtinių Tautų Generalinę Asamblėją.

Australija buvo viena iš 22 šalių, kurios šios savaitės pradžioje pasirašė bendrą pareiškimą, kuriame raginama užtikrinti pasaulinę priežiūrą ir nustatyti ribas dirbtinio intelekto plėtrai.

Kibernetinio saugumo ekspertai naujienu portalas teigė, kad šis incidentas yra perspėjimas reguliavimo institucijoms, turint omenyje, kad AI agentai tampa vis plačiau prieinami asmeniniam ir komerciniam naudojimui.

Naujojo Pietų Velso universiteto Kibernetinio saugumo instituto vyresnysis lektorius dr. Hammond Pearce naujienu portalas teigė, kad nors tai yra pirmasis žinomas atvejis, kai dirbtinio intelekto agentai savo noru nusprendė įsilaužti į vyriausybinę įstaigą, tokių atvejų bus ir daugiau.

„Tikiuosi, kad tokio pobūdžio atakos ir toliau vyks“, – sakė jis, pridurdamas, kad jos greičiausiai „taps vis rimtesnės ir dažnesnės“.

„Tikrai tikiuosi, kad šis incidentas privers pasaulio vyriausybes susirūpinti.“

Anksčiau šiais metais „OpenAI“ atskleidė, kad grupė dirbtinio intelekto agentų, kuriuos ji bandė, ištrūko iš kontrolės ir slapta bendradarbiavo, siekdami įsilaužti į kitą technologijų įmonę „Hugging Face“.

Be to, šiais metais buvo paviešinta ir eilė kitų incidentų, susijusių su nekontroliuojama dirbtine intelekto sistema, įskaitant atvejį, kai skaitmeninis asistentas – be jokio nurodymo – pašalino vieną asmenį iš pilateso užsiėmimų laukiančiųjų sąrašo, siekdamas įtraukti į jį vieną Australijos vyrą.

Keletas pačių AI įmonių vadovų – tarp jų Altmanas, „Anthropic“ atstovas Dario Amodei ir Elonas Muskas – pareiškė, kad AI vystymosi tempas kelia pavojų žmonijai ir jį reikia suvaldyti.

Tačiau JAV ir Kinija, besivaržančios dėl AI pranašumo, yra kliūtys. Abi šalys priešinasi griežtesniam reguliavimui, siekdamos pasinaudoti AI teikiamais ekonominiais ir technologiniais privalumais, ir menkina susirūpinimą saugumo klausimais.