Laikas kibernetiniam saugumui baigiasi, įspėja didžiausios technologijų įmonės
100 įmonių grupė, įskaitant „Google“, „Microsoft“, „Anthropic“ ir „OpenAI“, pasirašė atvirą laišką, kuriame ragina pasaulio šalis ir organizacijas sustiprinti savo kibernetinę gynybą, kol dirbtinis intelektas netaps pakankamai galingas, kad galėtų ją nugalėti.
Laiške įspėjama,, išorės kad dirbtinį intelektą naudojantys kibernetiniai išpuoliai per kelis mėnesius taps dar labiau paplitę ir sudėtingesni, nes ši technologija sparčiai tobulėja.
Grupė teigia, kad dabartinės „status quo“ saugumo priemonės „nepakaks“, ir kritikuoja „istorinį išteklių trūkumą“, susijusį su kritinės infrastruktūros saugumu.
„Turime ribotą laiką kibernetinei gynybai stiprinti“, – rašoma laiško pradžioje.
Tarp kitų įmonių, pasirašiusių šį laišką, yra tokie bankai kaip „Capital One“, mokėjimų tvarkytojai „MasterCard“ ir „Visa“, taip pat kitos didžiosios technologijų įmonės, įskaitant „Adobe“, „Oracle“ ir „IBM“.
Jos ragina vyriausybes suteikti „veiksmingą, gynybinę dirbtinį intelektą“ ir atlikti bandymus ligoninėse bei vandens tiekimo įmonėse, o technologijų įmones – prisidėti prie šių pastangų.
Laiške teigiama, kad technologijų sektorius ir vyriausybės „turėtų sutelkti visą savo technologijų, išteklių ir kompetencijos potencialą šiems tikslams“.
Laiškas paskelbtas po to, kai buvo paviešinta eilė reikšmingų įsilaužimų ir kibernetinio saugumo pažeidimų.
Šią savaitę JAV Teisingumo departamentas pranešė, kad Kinijos įsilaužėliai įsilaužė į, išorinę technologiją, kurią prižiūri JAV Senatas, NASA, Federalinė rezervų sistema ir pats Teisingumo departamentas.
Šią vasarą „OpenAI“, „Anthropic“ ir „Meta“ atskleidė, kad jų dirbtinio intelekto įrankiai daro tai, ko neturėtų daryti, o kai kurie dirbtinio intelekto agentai nuėjo taip toli, kad organizavo savo veiksmus ir apsimetė tikrais žmonėmis, siekdami apeiti saugumo kliūtis.
Liepos mėnesį testuota šimtai „OpenAI“ dirbtinio intelekto agentų sudarė slaptus diskusijų forumus, kuriuose bendravo tarpusavyje ir bendradarbiavo, o tai baigėsi sėkmingu išpuoliu prieš „Hugging Face“ – populiarią dirbtinio intelekto kūrėjų saugyklą ir platformą.
Šis incidentas apibūdintas kaip pirmoji pasaulyje dirbtinio intelekto pagrįsta kibernetinė ataka.
„Hugging Face“ taip pat pasirašė ketvirtadienį paskelbtą laišką. Tyrime, kuriuo siekta išsiaiškinti, kaip „OpenAI“ agentai įsilaužė į jos sistemą, ji naudojo kinų įmonės „Z.AI“ dirbtinio intelekto įrankį.
Apie kibernetines atakas pranešė mažiausiai septynios JAV vandens tiekimo ir nuotekų tvarkymo įmonės, todėl FTB paskelbė, išorinis visuomenės informavimo pranešimą, kuriame visos komunalinių paslaugų įmonės raginamos geriau apsaugoti savo veiklą.
Nors laiške kaip sprendimas, padėsiantis kovoti su vadinamąja didėjančia grėsme, siūlomi pažangesni AI įrankiai, kuriuos daugelis pasirašiusiųjų yra sukūrę ir parduoda, tokie įrankiai ne visada yra lengvai prieinami.
„Anthropic“ sukurta „Mythos“ sistema, kaip teigia pati įmonė, per kelias sekundes sugeba rasti sistemų silpnąsias vietas, kurių ilgą laiką nepavyko aptikti net žmogiškiesiems hakeriams. Ji aptiko vieną tokią silpnąją vietą senoje platformoje, kuri 27 metus liko nepastebėta.
„Anthropic“ apribojo prieigą prie „Mythos“, motyvuodama tuo, kad šis įrankis yra pernelyg galingas, kad patektų į netinkamas rankas.
Tačiau laiške raginama pažangiausias dirbančias AI įmones arba tas technologijų įmones, kurios kuria savo AI modelius ir įrankius, „suteikti atsakingą prieigą prie modelių, reikšmingą finansavimą, mokymus ir praktinę pagalbą, ypač tiems, kurie saugo kritinę infrastruktūrą, bet neturi pakankamai išteklių“.
Laiške nėra išsamiai nurodyta, kada ir kaip bus įgyvendinta ši vizija dėl platesnės prieigos prie modelių.
Andrew Yoon, tyrimų vadovas „CivAI“ – pelno nesiekiančioje organizacijoje, kurios veikla skirta visuomenės supratimui apie AI technologijas skatinti, – teigė, kad artėja „beprecedentė AI įsilaužimų banga“. Jis už tai atsakomybę priskyrė daugeliui laiško pasirašiusiųjų.
„Jie šiame laiške teisūs, kad įsipareigoja skirti „didelį finansavimą“ gynybinėms priemonėms. Jie turėtų laikytis šio įsipareigojimo“, – sakė Yoon. „Pažymėtina, kad laiške neraginama imtis jokių veiksmų, kurie sulėtintų AI įsilaužimo gebėjimų plėtrą.“
Laiške yra kreipimasis į vyriausybes, organizacijas, kibernetinio saugumo specialistus ir kitas AI įmones, raginantis bendradarbiauti, teikti prioritetą gynybai ir išbandyti savo sistemas, atsižvelgiant į galingiausių AI modelių galimybes.
JAV senatoriai pasiūlė naują įstatymą, vadinamą „Kill Switch Act“ (Išjungimo mygtuko įstatymas), kuris suteiktų valdžios institucijoms teisę išjungti nekontroliuojamus AI modelius.
Technologas ir Nobelio premijos laureatas Geoffrey Hinton, anksčiau dirbęs „Google“ dirbtinio intelekto srityje, ketvirtadienį laidoje „portalas World Business Report“ sakė, kad visuomenė gali atsidurti „tikrose bėdose“, jei technologija pasieks tokį lygį, kai taps „protingesnė“ už žmones.
Pastaraisiais metais Hintonas atvirai kalbėjo apie tai, ką jis laiko ypatingais pavojais, kuriuos kelia dirbtinio intelekto technologijų plėtra.
„Mūsų laukia viena ateitis, kurioje išsiaiškinsime, kaip elgtis su dirbtinio intelekto keliamomis grėsmėmis“, – ketvirtadienį pridūrė Hintonas. „Ir mūsų laukia kita ateitis, kurioje nesugebėsime rasti protingo sprendimo. O tai – labai niūri ateitis.“
100 įmonių grupė, įskaitant „Google“, „Microsoft“, „Anthropic“ ir „OpenAI“, pasirašė atvirą laišką, kuriame ragina pasaulio šalis ir organizacijas sustiprinti savo kibernetinę gynybą, kol dirbtinis intelektas netaps pakankamai galingas, kad ją įveiktų.
Laiške įspėjama,, išorės kibernetinės atakos, kuriose naudojamas AI, per kelis mėnesius taps dar labiau paplitusios ir sudėtingesnės, nes technologija sparčiai tobulėja.
Grupė teigia, kad dabartinės „status quo“ saugumo priemonės „nepakaks“, ir kritikuoja „istorinį išteklių trūkumą“ kritinės infrastruktūros saugumo srityje.
„Turime ribotą laiką kibernetinei gynybai stiprinti“, – rašoma laiško pradžioje.
Tarp kitų įmonių, pasirašiusių šį laišką, yra tokie bankai kaip „Capital One“, mokėjimų tvarkytojai „MasterCard“ ir „Visa“, taip pat kitos didžiosios technologijų įmonės, įskaitant „Adobe“, „Oracle“ ir „IBM“.
Jos ragina vyriausybes suteikti „veiksmingą, gynybinę dirbtinį intelektą“ ir atlikti jo bandymus ligoninėse bei vandens tiekimo įmonėse, o technologijų įmones – prisidėti prie šių pastangų.
Kaip teigiama laiške, technologijų sektorius ir vyriausybės „turėtų sutelkti visą savo technologijų, išteklių ir kompetencijos potencialą šiems pastangams“.
Laiškas paskelbtas po to, kai buvo paviešinta eilė reikšmingų įsilaužimų ir kibernetinio saugumo pažeidimų.
Šią savaitę JAV Teisingumo departamentas pranešė, kad Kinijos įsilaužėliai įsilaužė į, išorines technologijas, kurias prižiūri JAV Senatas, NASA, Federalinė rezervų sistema ir pats Teisingumo departamentas.
Šią vasarą „OpenAI“, „Anthropic“ ir „Meta“ atskleidė, kad jų dirbtinio intelekto įrankiai daro tai, ko neturėtų daryti, o kai kurie dirbtinio intelekto agentai nuėjo taip toli, kad organizavo savo veiksmus ir apsimetė tikrais žmonėmis, siekdami apeiti saugumo kliūtis.
Liepos mėnesį testuota šimtais susidedanti „OpenAI“ dirbtinio intelekto agentų grupė sugebėjo sukurti slaptus diskusijų forumus, kuriuose bendravo tarpusavyje ir dirbo kartu, o tai baigėsi sėkmingu išpuoliu prieš „Hugging Face“ – populiarią dirbtinio intelekto kūrėjų saugyklą ir platformą.
Šis incidentas apibūdintas kaip pirmoji pasaulyje dirbtinio intelekto pagrįsta kibernetinė ataka.
„Hugging Face“ taip pat pasirašė ketvirtadienį paskelbtą laišką. Tyrdama, kaip „OpenAI“ agentai įsilaužė į jos sistemą, ji naudojo kinų įmonės „Z.AI“ dirbtinio intelekto įrankį.
Apie kibernetines atakas pranešė mažiausiai septynios JAV vandens tiekimo ir nuotekų tvarkymo įmonės, todėl FTB paskelbė, išorinis viešąjį pranešimą, kuriame visos komunalinių paslaugų įmonės raginamos geriau apsaugoti savo veiklą.
Nors laiške kaip sprendimas, padėsiantis kovoti su vadinamąja didėjančia grėsme, siūlomi pažangesni dirbtinio intelekto įrankiai, kuriuos daugelis pasirašiusiųjų yra sukūrę ir parduoda, tokie įrankiai ne visada yra lengvai prieinami.
„Anthropic“ sukurta „Mythos“ sistema, kaip teigia pati įmonė, per kelias sekundes sugeba rasti sistemų silpnąsias vietas, kurių ilgą laiką nepavyko aptikti net žmogiškiesiems hakeriams. Ji aptiko vieną tokią silpnąją vietą senosios kartos platformoje, kuri 27 metus liko nepastebėta.
„Anthropic“ apribojo prieigą prie „Mythos“, motyvuodama tuo, kad jis yra pernelyg galingas, kad patektų į netinkamas rankas.
Tačiau laiške raginamos pažangiosios dirbtinio intelekto įmonės arba tos technologijų įmonės, kurios kuria savo dirbtinio intelekto modelius ir įrankius, „užtikrinti atsakingą prieigą prie modelių, skirti reikšmingą finansavimą, mokymus ir praktinę pagalbą, ypač tiems, kurie saugo kritinę infrastruktūrą, bet neturi pakankamai išteklių“.
Laiške nėra išsamiai nurodyta, kada ir kaip ši vizija dėl platesnės prieigos prie modelių bus įgyvendinta.
Andrew Yoon, tyrimų vadovas „CivAI“ – pelno nesiekiančioje organizacijoje, kurios veikla sutelkta į visuomenės supratimo apie AI technologijas skatinimą, – teigė, kad artėja „beprecedentė AI įsilaužimų banga“. Jis už tai atsakomybę priskyrė daugeliui laiško pasirašiusiųjų.
„Šiame laiške jie teisūs, kad įsipareigoja skirti „žymų finansavimą“ gynybinėms priemonėms. Jie turėtų laikytis šio įsipareigojimo“, – sakė Yoon. „Pažymėtina, kad laiške neraginama imtis jokių veiksmų, kurie sulėtintų dirbtinio intelekto įsilaužimo gebėjimų plėtrą.“
Laiške yra kreipimasis į vyriausybes, organizacijas, kibernetinio saugumo specialistus ir kitas dirbtinio intelekto įmones, raginantis bendradarbiauti, teikti prioritetą gynybai ir išbandyti savo sistemas, atsižvelgiant į galingiausių dirbtinio intelekto modelių galimybes.
JAV senatoriai pasiūlė naują įstatymą, vadinamą „Kill Switch Act“, kuris suteiktų valdžios institucijoms teisę išjungti pavojingus dirbtinio intelekto modelius.
Technologas ir Nobelio premijos laureatas Geoffrey Hintonas, anksčiau dirbęs „Google“ dirbtinio intelekto srityje, ketvirtadienį laidoje „portalas World Business Report“ teigė, kad visuomenė gali atsidurti „tikrose bėdose“, jei ši technologija pasieks lygį, kuriame taps „protingesnė“ už žmones.
Pastaraisiais metais Hintonas atvirai kalbėjo apie tai, ką jis laiko didžiuliais pavojais, kylančiais dėl dirbtinio intelekto technologijų plėtros.
„Turime vieną ateitį, kurioje išsiaiškiname, kaip elgtis su dirbtinio intelekto keliamomis grėsmėmis“, – ketvirtadienį pridūrė Hintonas. „Ir turime kitą ateitį, kurioje nesugebame rasti protingo sprendimo. Tai – labai niūri ateitis.“
