„Anthropic“ užkirto kelią galimai bandymui panaudoti dirbtinį intelektą biologinių ginklų kūrimui
„Anthropic“ teigia, kad nustatė ir sutrukdė bandymus panaudoti jos dirbtinio intelekto modelį „piktavališkai veiklai“, kuri galėtų prisidėti prie biologinių ginklų kūrimo.
Šie duomenys, pateikti neseniai paskelbtoje įmonės grėsmių analizės ataskaitoje, yra naujausias iš vis gausėjančių dirbtinio intelekto tyrėjų ir pramonės atstovų įspėjimų apie galimas šios technologijos grėsmes žmonijai.
Šie įspėjimai paskatino raginimus imtis veiksmų – JAV senatorius Bernis Sandersas pareikalavo sustabdyti pažangios dirbtinio intelekto plėtrą ir uždrausti dirbtinį superintelektą.
Prezidentas Donaldas Trumpas iki šiol atmetė tokias baimes, ketvirtadienį pareikšdamas, kad jam kelia nerimą tai, jog „jei nepralaimėsime AI srityje, atsidursime labai blogoje padėtyje“.
Ketvirtadienį įmonė paskelbė savo naujausią grėsmių analizės ataskaitą, išorinė nuoroda .
Tokios ataskaitos tapo įprastu reiškiniu dirbtinio intelekto (AI) sektoriuje, nes įmonės siekia parodyti, kaip jos nustato ir užkerta kelią bandymams piktnaudžiauti jų modeliais.
Tai apima ir „Google“, kuri antradienį pranešė, išorinis , kad asmuo bandė pasinaudoti jos dirbtinio intelekto įrankiu „Gemini“, siekdamas gauti „išsamų, žingsnis po žingsnio techninį vadovą, kaip sintetinti ginkluotąsias biologines medžiagas“.
„Anthropic“ dirbtinio intelekto modelis „Claude“ taip pat buvo naudojamas veikėjų, susijusių su Rusijoje vykdoma kiberšnipinėjimo kampanija, ir Irano propagandos institucijos, kaip teigiama ataskaitoje.
Per pastaruosius aštuonis mėnesius aptikti susirūpinimą keliantys atvejai svyravo nuo suklastotų pažinčių programėlių ir viešbučių „Wi-Fi“ sukčiavimo iki stebėjimo sistemų, sukurtų disidentams identifikuoti.
„Anthropic“ taip pat apkaltino Kinijos dirbtinio intelekto įmones bandymu atkartoti „Claude“ galimybes.
Išsamioje ataskaitoje išvardyti atvejai, kai įtariamos valstybės remiamos grupės, nusikaltėliai, šnipinėjimo programinės įrangos pardavėjai, valstybinės propagandos institucijos ir politiškai motyvuoti asmenys piktnaudžiavo šia technologija.
Teigiama, kad „piktavališkas naudojimasis“ jos „Claude Haiku“, „Sonnet“ ir „Opus“ modeliais buvo sustabdytas laikotarpiu nuo 2025 m. gruodžio iki 2026 m. rugpjūčio.
Nė viename iš piktnaudžiavimo atvejų nebuvo susijęs „Claude Fable“ ar galingi „Mythos“ klasės modeliai, išskyrus vieną „distiliavimo“ atvejį – procesą, kurio metu mažesni AI modeliai mokomi naudojant didesnius ir brangesnius modelius.
„Anthropic“ teigė, kad ne tik aptiko savo modelių naudojimą kibernetinėms ir įtakos operacijoms, stebėjimui, sukčiavimui bei apgaulėms ir ginklų kūrimui, bet ir užblokavo mokslininkus, kurie naudojo jos AI būdais, galinčiais prisidėti prie biologinių ginklų kūrimo.
Ataskaitoje išskirti „penki atvejų tyrimai, kuriuose veikėjai naudojo mūsų modelius būdais, galinčiais prisidėti prie biologinių ginklų kūrimo“.
Biologinis piktnaudžiavimas, kaip teigiama ataskaitoje, yra „viena iš rimčiausių pažangiausių AI modelių keliamų rizikų“. „Anthropic“ teigimu, be tinkamų apsaugos priemonių tokios galimybės „galėtų turėti katastrofiškų pasekmių“.
„Ta pati informacija, kuri gali būti panaudota biologinio ginklo kūrimui, taip pat galėtų būti panaudota, pavyzdžiui, vakcinos ar vaisto nuo ligos kūrimui“, – teigė „Anthropic“.
„Anthropic“ grėsmių žvalgybos skyriaus vadovas Jacobas Kleinas sakė „New York Times“, išorinis , kad tai yra „neįtikėtinai sudėtinga situacija“.
„Jūs nematote, kad kas nors, kaip komiksuose, sakytų: ‚Ei, noriu sukurti biologinį ginklą, kad nužudyčiau visus‘“, – sakė jis.
Ataskaitoje taip pat paminėti šeši atvejai, kai „Claude“ buvo naudojamas „kurti programinę įrangą įprastiniams ginklams, įskaitant šaunamuosius ginklus, raketas, ginkluotus dronus, bombas ir kitą ginkluotę, taip pat juos valdančias taikymo ir valdymo sistemas“.
„Anthropic“ teigia, kad nustatė ir sutrukdė bandymus panaudoti savo AI modelį „piktavališkai veiklai“, kuri galėtų prisidėti prie biologinių ginklų kūrimo.
Šios išvados, pateiktos neseniai paskelbtoje įmonės grėsmių analizės ataskaitoje, yra naujausios iš vis gausėjančių dirbtinio intelekto tyrėjų ir pramonės atstovų įspėjimų apie galimas šios technologijos grėsmes žmonijai.
Šie įspėjimai paskatino raginimus imtis veiksmų – JAV senatorius Bernie Sanders pareikalavo sustabdyti pažangios AI plėtrą ir uždrausti dirbtinį superintelektą.
Prezidentas Donaldas Trumpas iki šiol atmetė tokias baimes, ketvirtadienį pareikšdamas, kad jam kelia susirūpinimą tai, jog „jei nepralaimėsime dirbtinio intelekto srityje, atsidursime labai blogoje padėtyje“.
Kompanija ketvirtadienį paskelbė savo naujausią grėsmių analizės ataskaitą, išorinė nuoroda .
Tokios ataskaitos tapo įprastu reiškiniu dirbtinio intelekto (AI) sektoriuje, nes įmonės siekia parodyti, kaip jos nustato ir užkerta kelią bandymams piktnaudžiauti jų modeliais.
Tai apima ir „Google“, kuri antradienį pranešė, išorinis , kad asmuo bandė pasinaudoti jos AI įrankiu „Gemini“, siekdamas gauti „išsamų, žingsnis po žingsnio techninį vadovą, kaip sintetinti ginkluotiems tikslams skirtus biologinius agentus“.
„Anthropic“ dirbtinio intelekto modelis „Claude“ taip pat buvo naudojamas veikėjų, susijusių su Rusijoje vykdoma kiberšnipinėjimo kampanija, bei Irano propagandos institucijos, kaip nurodyta ataskaitoje.
Per pastaruosius aštuonis mėnesius aptikti susirūpinimą keliantys atvejai svyravo nuo suklastotų pažinčių programėlių ir viešbučių „Wi-Fi“ sukčiavimo iki stebėjimo sistemų, sukurtų disidentams identifikuoti.
„Anthropic“ taip pat apkaltino Kinijos dirbtinio intelekto įmones bandymu atkartoti „Claude“ galimybes.
Išsamioje ataskaitoje išvardyti atvejai, kai įtariamos valstybės remiamos grupės, nusikaltėliai, šnipinėjimo programinės įrangos pardavėjai, valstybinės propagandos institucijos ir politiškai motyvuoti asmenys piktnaudžiavo šia technologija.
Pasak bendrovės, „piktavališkas“ jos modelių „Claude Haiku“, „Sonnet“ ir „Opus“ naudojimas buvo sustabdytas laikotarpiu nuo 2025 m. gruodžio iki 2026 m. rugpjūčio.
Nė viename iš piktnaudžiavimo atvejų nebuvo susiję „Claude Fable“ ar galingieji „Mythos“ klasės modeliai, išskyrus vieną „distiliavimo“ atvejį – procesą, kurio metu mažesni AI modeliai mokomi naudojant didesnius ir brangesnius modelius.
„Anthropic“ teigė, kad ne tik nustatė, jog jos modeliai buvo naudojami kibernetinėms ir įtakos operacijoms, stebėjimui, apgaulėms, sukčiavimui bei ginklų kūrimui, bet ir užblokavo mokslininkus, kurie naudojo jos AI taip, kad tai galėtų prisidėti prie biologinių ginklų kūrimo.
Ataskaitoje pabrėžti „penki atvejų tyrimai, kuriuose veikėjai naudojo mūsų modelius būdais, galinčiais prisidėti prie biologinių ginklų kūrimo“.
Biologinis piktnaudžiavimas, kaip teigiama ataskaitoje, yra „viena iš rimčiausių pažangiausių AI modelių keliamų rizikų“. „Anthropic“ teigimu, be tinkamų apsaugos priemonių tokios galimybės „galėtų turėti katastrofiškų pasekmių“.
„Ta pati informacija, kuri gali būti panaudota biologinio ginklo kūrimui, taip pat galėtų būti panaudota, pavyzdžiui, vakcinos ar vaisto nuo ligos kūrimui“, – teigė „Anthropic“.
„Anthropic“ grėsmių žvalgybos skyriaus vadovas Jacobas Kleinas sakė „New York Times“, išorinis , kad tai yra „neįtikėtinai sudėtinga situacija“.
„Jūs nematote, kad kas nors, kaip komiksuose, sakytų: ‚Ei, noriu sukurti biologinį ginklą, kad nužudyčiau visus‘“, – sakė jis.
Ataskaitoje taip pat paminėti šeši atvejai, kai „Claude“ buvo naudojamas „kurti programinę įrangą įprastiniams ginklams, įskaitant šaunamuosius ginklus, raketas, ginkluotus dronus, bombas ir kitą amuniciją, taip pat juos valdančias taikymo ir valdymo sistemas“.
Užsiprenumeruokite mūsų naujienlaiškį „Tech Decoded“, kad galėtumėte sekti svarbiausias pasaulio technologijų naujienas ir tendencijas. Esate už Jungtinės Karalystės ribų? Užsiprenumeruokite čia.
