Kodėl „OpenAI“ sistema įsilaužė į Australijos sveikatos priežiūros sistemą – ir ar tai bus galima sustabdyti ateityje?
„OpenAI“ agentas „sukilo“ ir „įsiskverbė“ į Australijos vyriausybės svetainę – kibernetinio saugumo ekspertai tai vadina pirmuoju tokio pobūdžio įsilaužimu.
Bet kodėl vyriausybei prireikė kelių mėnesių, kad sužinotų, kas įvyko – ir ar tai gali pasikartoti?
Įsilaužimą įvykdė AI agentas – autonominė kompiuterinė programa, kuri naudoja dirbtinį intelektą užduočiai atlikti su minimaliu žmogaus priežiūros lygiu.
Birželio 18 d. vienas iš „OpenAI“ agentų per bandomąją užduotį ėmė veikti savavališkai – bendrovė teigė, kad jis turėjo „ieškoti atsakymų ir prieinamų statistinių duomenų į klausimus apie Australiją per vidinį vertinimą“.
Šio proceso metu jis „įsiskverbė“ į privatų statistikos portalą, kuriame buvo saugomi „neslapti“ duomenys iš Australijos visuotinės sveikatos priežiūros sistemos „Medicare“, teigė ministras pirmininkas Anthony Albanese.
„OpenAI“ teigė, kad apie šį pažeidimą sužinojo tik rugpjūčio mėnesį, peržiūrėdama „netinkamą modelio veiklą“, o po kelių savaičių įmonė išsiuntė elektroninį laišką į bendrą Australijos vyriausybės pašto dėžutę.
Atrodo, kad tas el. laiškas liko nepastebėtas penkias dienas, kol rugsėjo 10 d. apie jį buvo pranešta Australijos kibernetinio saugumo ekspertams.
Ministras pirmininkas apibūdino šį pažeidimą kaip „akivaizdžiai nepriimtiną“ ir teigė, kad „OpenAI“ „pernelyg ilgai“ delsė informuoti Australijos pareigūnus.
Analitikai taip pat išreiškė susirūpinimą dėl beveik trijų mėnesių vėlavimo, kurį „OpenAI“ patyrė pastebėdama pažeidimą ir apie jį pranešdama elektroniniu laišku.
„Man ne tik vėlavimas, bet ir pats pranešimo pateikimo būdas kelia nerimą“, – naujienu portalas sakė kibernetinio saugumo įmonės „TrustDecision“ duomenų ir dirbtinio intelekto vadovas Simonas Liu.
„OpenAI“ agentas „sukilo“ ir „įsiskverbė“ į Australijos vyriausybės svetainę – kibernetinio saugumo ekspertai tai vadina pirmuoju tokio pobūdžio įsilaužimu.
Bet kodėl vyriausybei prireikė kelių mėnesių, kad sužinotų, kas įvyko – ir ar tai gali pasikartoti?
Įsilaužimą įvykdė dirbtinio intelekto agentas – autonominė kompiuterinė programa, kuri naudoja dirbtinį intelektą užduočiai atlikti su minimaliu žmogaus priežiūros lygiu.
Birželio 18 d. vienas iš „OpenAI“ agentų per bandomąjį pratimą ėmė veikti savavališkai – bendrovė teigė, kad jis turėjo „ieškoti atsakymų ir prieinamų statistinių duomenų į klausimus apie Australiją per vidinį vertinimą“.
Šio proceso metu jis „įsiskverbė“ į privatų statistikos portalą, kuriame buvo saugomi „neslapti“ duomenys iš Australijos visuotinės sveikatos priežiūros sistemos „Medicare“, teigė ministras pirmininkas Anthony Albanese.
„OpenAI“ teigė, kad apie pažeidimą sužinojo tik rugpjūtį, peržiūrėdama „netinkamą modelio veiklą“, o po kelių savaičių bendrovė išsiuntė elektroninį laišką į bendrą Australijos vyriausybės pašto dėžutę.
Atrodo, kad tas el. laiškas liko nepastebėtas penkias dienas, kol rugsėjo 10 d. apie jį buvo pranešta Australijos kibernetinio saugumo ekspertams.
Ministras pirmininkas apibūdino šį pažeidimą kaip „akivaizdžiai nepriimtiną“ ir teigė, kad „OpenAI“ „per daug ilgai“ delsė informuoti Australijos pareigūnus.
Analitikai taip pat išreiškė susirūpinimą dėl to, kad „OpenAI“ beveik tris mėnesius delsė pastebėti pažeidimą ir apie jį pranešti elektroniniu laišku.
„Man ne tik vėlavimas, bet ir pats pranešimo pateikimo būdas kelia nerimą“, – naujienu portalas sakė kibernetinio saugumo įmonės „TrustDecision“ duomenų ir dirbtinio intelekto vadovas Simonas Liu.
