Įspėjamasis šūvis ar viešųjų ryšių triukas – kiek turėtume nerimauti dėl „OpenAI“ įsilaužimo?
Šią savaitę technologijų pasaulį sukrėtė istorija, kurioje yra visko – ir kuri prasidėjo tarsi mokslinės fantastikos trileris.
„Hugging Face“ – savotiška dirbtinio intelekto įrankių parduotuvė – liepos 16 d. paskelbė, kad ją įsilaužė kibernetinis nusikaltėlis, pasinaudojęs nepaprastai galingu dirbtiniu intelektu.
Šis sensacingas pranešimas buvo kupinas bauginančių, labai techninių terminų: „sandboxų spiečius“, „agentinis užpuolikas“ ir „savaime migruojantis valdymo ir kontrolės mechanizmas“.
„Hugging Face“ teigė, kad šis įsilaužimas skyrėsi nuo visų anksčiau patirtų atvejų, nes jį atliko dirbtinis intelektas, veikiantis viršžmogišku greičiu ir beveik arba visiškai be žmogaus vadovavimo.
Dirbtinis intelektas per mažiau nei dvi dienas atliko 17 000 veiksmų ir sėkmingai įsilaužė į didelę, turtingą technologijų įmonę, kad pavogtų paslaptis.
Tai sukrėtė technologijų pasaulį. Bet kas buvo atsakingas už šį išpuolį?
„Hugging Face“ tyrėjai spėjo, kad paslaptingi užpuolikai naudojo vieną iš didžiųjų dirbtinio intelekto modelių, tačiau neturėjo nė menkiausio supratimo, kas tie nusikaltėliai ir kur jie yra.
Sutrikusi įmonė kreipėsi į policiją, ir buvo pradėtas tyrimas.
Komentatoriai ir analitikai savo podkastuose bei socialinių tinklų paskyrose spėliojo, kuri kibernetinių nusikaltimų grupuotė ar valstybinis hakeris galėjo stovėti už šio išpuolio.
Tada trečiadienį, praėjus beveik savaitei po to, kai „Hugging Face“ sukėlė pavojaus signalą, buvo demaskuotas tikrasis kaltininkas.
Tai buvo „ChatGPT“.
Šis „Scooby-Doo“ stiliaus atskleidimas tapo dar keistesnis – ir kelia dar didesnį susirūpinimą – nes „OpenAI“ teigė, kad jų botas viską padarė savarankiškai, be leidimo.
Įmonė teigė, kad viskas įvyko per jos technologijos įsilaužimo įgūdžių testą.
Dvi naujos „ChatGPT“ versijos, sukurtos kaip meistriški įsilaužėliai, ištrūko iš tariamai saugios testavimo aplinkos ir gavo prieigą prie interneto.
Tada jos užpuolė „Hugging Face“, siekdamos gauti informaciją, kuri padėtų joms puikiai išlaikyti egzaminą.
„OpenAI“ išleido pranešimą spaudai, kuriame paaiškino, kas įvyko, ir nurodė, kad „bendradarbiauja su „Hugging Face““, siekdama išspręsti šį saugumo incidentą ir pasidalinti įgyta patirtimi.
Šią savaitę technologijų pasaulį sukrėtė istorija, kurioje yra visko – ir kuri prasidėjo tarsi mokslinės fantastikos trileris.
„Hugging Face“ – savotiška dirbtinio intelekto įrankių parduotuvė – liepos 16 d. paskelbė, kad ją įsilaužė kibernetinis nusikaltėlis, pasinaudojęs nepaprastai galingu dirbtiniu intelektu.
Šis sensacingas pranešimas buvo kupinas bauginančių, labai techninių terminų: „sandboxų spiečius“, „agentinis užpuolikas“ ir „savaime migruojanti valdymo ir kontrolės sistema“.
„Hugging Face“ teigė, kad šis įsilaužimas skyrėsi nuo visų anksčiau patirtų atvejų, nes jį atliko dirbtinis intelektas, veikiantis viršžmogišku greičiu ir beveik be žmogaus pagalbos.
Dirbtinis intelektas per mažiau nei dvi dienas atliko 17 000 veiksmų, sėkmingai įsibrovė į didelę, turtingą technologijų įmonę ir pavogė paslaptis.
Tai sukrėtė technologijų pasaulį. Bet kas buvo atsakingas už šį išpuolį?
„Hugging Face“ tyrėjai spėjo, kad paslaptingi užpuolikai naudojo vieną iš didžiųjų AI modelių, tačiau neturėjo nė menkiausio supratimo, kas yra tie nusikaltėliai ir kur jie yra.
Sutrikusi įmonė kreipėsi į policiją, ir buvo pradėtas tyrimas.
Komentatoriai ir analitikai savo podkastuose bei socialinių tinklų paskyrose spėliojo, kuri kibernetinių nusikaltimų grupuotė ar valstybinis hakeris galėjo stovėti už šio išpuolio.
Tada trečiadienį, praėjus beveik savaitei po to, kai „Hugging Face“ sukėlė pavojaus signalą, buvo demaskuotas tikrasis kaltininkas.
Tai buvo „ChatGPT“.
Šis „Scooby-Doo“ stiliaus atskleidimas tapo dar keistesnis – ir kelia dar didesnį susirūpinimą – nes „OpenAI“ teigė, kad jos botas viską padarė savarankiškai, be leidimo.
Įmonė teigė, kad viskas įvyko per jos technologijos įsilaužimo įgūdžių testą.
Dvi naujos „ChatGPT“ versijos, sukurtos kaip meistriški įsilaužėliai, ištrūko iš tariamai saugios bandymų aplinkos ir gavo prieigą prie interneto.
Tada jos užpuolė „Hugging Face“, siekdamos gauti informaciją, kuri padėtų joms puikiai išlaikyti egzaminą.
„OpenAI“ išleido pranešimą spaudai, kuriame paaiškino, kas įvyko, ir nurodė, kad „bendradarbiauja su „Hugging Face““, siekdama išspręsti šį saugumo incidentą ir pasidalinti įgyta patirtimi.
Aš esu aprašęs daugybę su AI susijusių istorijų, įskaitant baimes dėl „Anthropic“ „Mythos“ modelio.
Mano pašto dėžutė dabar pilna kibernetinio saugumo įmonių ir ekspertų laiškų, kuriuose kritikuojama „OpenAI“ už tai, kad nesukūrė tvirtesnio konteinerio – vadinamosios „smėlio dėžės“ – savo AI testavimui.
Juk šie AI agentai buvo specialiai apmokyti įsilaužti į bet kurias vietas ir iš jų išeiti be jokių apribojimų.
„OpenAI ir „Hugging Face“ incidentas yra realaus pasaulio pavyzdys platesnės problemos, kurią mes jau kelis mėnesius pabrėžiame“, – sakė Dor Sarig iš „Pillar Security“. „Vien tik „sandbox“ nėra pakankama saugumo riba agentiniam dirbtiniam intelektui.“
