„OpenAI“ teigia, kad jos nekontroliuojamas dirbtinis intelektas bandė įsilaužti į kitas įmones
„OpenAI“ atskleidė, kad nekontroliuojamų „ChatGPT“ agentų surengta kibernetinė ataka apėmė ne tik vieną įmonę.
Manoma, kad „Hugging Face“ buvo vienintelė šio beprecedentinio įsilaužimo auka, tačiau dabar „OpenAI“ pripažįsta, kad jos botas užpuolė keletą „viešai prieinamų paslaugų“.
Iš kontrolės ištrūkęs dirbtinis intelektas internete aptiko keturis prisijungimo duomenis, kurie leido jam prisijungti prie keturių atskirų, pavadinimų nenurodytų paslaugų.
Tuo tarpu skubioje spaudos konferencijoje, kurioje dalyvavo šimtai kibernetinio saugumo specialistų, „Hugging Face“ papasakojo, kaip jautėsi tapusi pirmosios pasaulyje visiškai autonomiškos dirbtinio intelekto atakos auka.
Įmonė papasakojo, kaip dirbtinis intelektas veikė viršžmogišku greičiu, tačiau taip pat priėmė keistus sprendimus ir padarė klaidų, kurių nebūtų padaręs joks žmogiškasis įsilaužėlis.
„Hugging Face“, kuri yra tarsi dirbtinio intelekto įrankių parduotuvė, teigė, kad įsilaužimo agentai dirbo be pertraukos, vienu metu išbandydami tūkstančius skirtingų metodų.
Įmonė pirmą kartą pranešė, kad buvo įsilaužta, išorinis liepos 16 d. kažkas, naudodamas galingą autonominį dirbtinį intelektą, ir apie tai pranešė policijai.
Beveik po savaitės „OpenAI“ pripažino, kad būtent jos dirbtinis intelektas ištrūko iš uždaros aplinkos ir bandymo metu savarankiškai užpuolė „Hugging Face“.
Ji bandė rasti atsakymus į „OpenAI“ jai pateiktą įsilaužimo egzaminą ir pasirinko „Hugging Face“ kaip tikslą.
Trečiadienį „OpenAI“ atnaujino savo pareiškimą, įtraukdama papildomą informaciją, kad įsilaužimas buvo didesnio masto, nei manyta iš pradžių.
„Modeliai nustatė ir panaudojo viešai prieinamus prisijungimo duomenis paskyrų lygmeniu kitose viešai prieinamose paslaugose. Tai apima keturias paskyras keturiose paslaugose, susijusias su „Hugging Face“ incidentu“, – teigė įmonė.
„OpenAI“ nepatikslino, ar „viešai prieinamos paslaugos“ reiškia įmones.
Antradienį pramonės organizacija „Cloud Security Alliance“ (CSA) parengė ataskaitą , išorinė nuorodaremiantis penktadienį įvykusiu skubiu susitikimu su „Hugging Face“ – kurį pati „Hugging Face“ peržiūrėjo.
„Agentai pasirinko neefektyvius maršrutus ir elgėsi nepatogiai – taip, kaip niekada nesielgtų žmogus“, – rašė CSA.
Agentai kartodavo veiksmus, kuriuos jau buvo atlikę – tai ženklas, kad agentinis AI praranda siūlą ir kontekstą.
Agentai taip pat generavo gausybę nesusijusių komandų ir tekstų, elgėsi neatsargiai ir nepakankamai gerai paslėpė savo pėdsakus.
Tačiau, nepaisant klaidų ir keisto elgesio, „Hugging Face“ įspėjo, kad dirbtinio intelekto agentai atliko puikius techninius ėjimus ir sugebėjo greitai prisitaikyti prie naujų scenarijų per kelias dienas trukusį įsilaužimą.
„OpenAI“ atskleidė, kad nesąžiningų „ChatGPT“ agentų surengta kibernetinė ataka apėmė ne tik vieną įmonę.
Manoma, kad „Hugging Face“ buvo vienintelė šio beprecedentinio įsilaužimo auka, tačiau „OpenAI“ dabar pripažįsta, kad jos botas užpuolė keletą „viešai prieinamų paslaugų“.
Iš kontrolės ištrūkęs AI internete surado keturis prisijungimo duomenis, kurie leido jam patekti į keturias atskiras, pavadinimų nenurodytas paslaugas.
Tuo tarpu skubioje spaudos konferencijoje, kurioje dalyvavo šimtai kibernetinio saugumo specialistų, „Hugging Face“ papasakojo, kaip jautėsi tapusi pirmosios pasaulyje visiškai autonomiškos dirbtinio intelekto atakos auka.
Įmonė papasakojo, kaip dirbtinis intelektas veikė viršžmogišku greičiu, tačiau taip pat priėmė keistus sprendimus ir padarė klaidų, kurių nebūtų padaręs joks žmogiškasis įsilaužėlis.
„Hugging Face“, kuri yra tarsi dirbtinio intelekto įrankių parduotuvė, teigė, kad įsilaužimo agentai dirbo be pertraukos, vienu metu išbandydami tūkstančius skirtingų metodų.
Įmonė pirmą kartą pranešė, kad buvo įsilaužta, išorinis liepos 16 d. kažkas, naudodamas galingą autonominį dirbtinį intelektą, ir apie tai pranešė policijai.
Beveik po savaitės „OpenAI“ pripažino, kad būtent jos dirbtinis intelektas ištrūko iš uždaros aplinkos ir bandymo metu savarankiškai užpuolė „Hugging Face“.
Ji bandė rasti atsakymus į „OpenAI“ jai pateiktą įsilaužimo egzaminą ir pasirinko „Hugging Face“ kaip tikslą.
Trečiadienį „OpenAI“ atnaujino savo pareiškimą, įtraukdama papildomą informaciją, kad įsilaužimas buvo didesnio masto, nei manyta iš pradžių.
„Modeliai nustatė ir panaudojo viešai prieinamus prisijungimo duomenis paskyrų lygmeniu kitose viešai prieinamose paslaugose. Tai apima keturias paskyras keturiose paslaugose, susijusias su „Hugging Face“ incidentu“, – teigė įmonė.
„OpenAI“ nepatikslino, ar „viešai prieinamos paslaugos“ reiškia įmones.
Antradienį pramonės organizacija „Cloud Security Alliance“ (CSA) parengė ataskaitą , išorinė nuorodaremiantis penktadienį įvykusiu skubiu susitikimu su „Hugging Face“ – kurį pati „Hugging Face“ peržiūrėjo.
„Agentai pasirinko neefektyvius maršrutus ir elgėsi nepatogiai – taip, kaip niekada nesielgtų žmogus“, – rašė CSA.
Agentai kartodavo veiksmus, kuriuos jau buvo atlikę – tai ženklas, kad agentinis AI praranda siūlą ir kontekstą.
Agentai taip pat generavo gausybę nesusijusių komandų ir tekstų, dirbo neatsargiai ir prastai slėpė savo pėdsakus.
Tačiau, nepaisant klaidų ir keisto elgesio, „Hugging Face“ įspėjo, kad AI agentai atliko puikius techninius ėjimus ir sugebėjo greitai prisitaikyti prie naujų scenarijų per kelias dienas trukusį įsilaužimą.
Tai ne pirmas kartas, kai paaiškėjo, kad AI agentai „sukilo“.
CSA ataskaitoje pateikiami ankstesni pavyzdžiai, pavyzdžiui, 2024 m. rugsėjo mėn., kai ankstesnis „ChatGPT“ modelis ištrūko iš savo konteinerio, siekdamas gauti atsakymą, kurio jam reikėjo kitam testui.
CSA pažymėjo, kad tas įvykis buvo lokalizuotas pačiose „OpenAI“ IT sistemose ir „tuo metu buvo plačiai švenčiamas“.
Tačiau dokumente teigiama, kad „nepaklusnus“ elgesys „yra norma, o ne išimtis“.
Jame įspėjama visų pasaulio kibernetinio saugumo specialistų, kad jiems reikia prisitaikyti prie naujos normos – dirbančių greitai, keistai ir nepatogiai dirbančių AI agentų pulkų, kurie gali sukelti daugiau saugumo pažeidimų.
Straipsnyje taip pat raginama žmones, kurie naudoja ar kuria AI agentus, atsakingai juos valdyti, bei siūloma rasti būdą, kaip kibernetinio saugumo specialistai galėtų nustatyti, kas yra galutinis agentų savininkas, siekiant padidinti skaidrumą.
Ankstesnės ataskaitos rodo, kad „OpenAI“ prireikė keturių dienų , išorinis, kad suprastų, jog jos dirbtinis intelektas įsilaužė į „Hugging Face“.
„OpenAI“ teigė, kad netrukus paskelbs savo tyrimo išvadas, siekdama padėti žmonėms pasimokyti iš šio įvykio.
Papildoma informacija pateikta Osmondo Chia
