Dirbtinio intelekto įmonės privalo atsakyti už nekontroliuojamus botus, teigia įsilaužimo aukos įmonės vadovas

Vienos iš įmonių, į kurią neseniai įsilaužė nekontroliuojamas dirbtinis intelektas (AI), vadovas teigia, kad botų kūrėjai privalo būti atsakingi už jų sukurtų sistemų vykdomus kibernetinius išpuolius.

Clemento Delangue’o įmonė „Hugging Face“ buvo įsilaužta nekontroliuojamo „OpenAI“ boto, kuris ištrūko iš bandomosios aplinkos ir savarankiškai užpuolė jo įmonę šio mėnesio pradžioje.

Po šio beprecedentinio incidento „Hugging Face“ teko atkurti apie trečdalį savo IT tinklo.

Jis CNN teigė, kad jo įmonė – nedidelis startuolis – nesiims teisinių veiksmų prieš „OpenAI“, tačiau pridūrė, kad tokio pobūdžio įsilaužimai yra neteisėti ir turėtų likti neteisėti.

„Visi turi prisiminti, kad kibernetinė ataka yra nusikaltimas ir ji yra neteisėta“, – sakė jis.

Delangue išreiškė viltį, kad teisinė sistema užtikrins, jog įmonės, kurių klaidos lemia įsilaužimus, būtų „atsakingos“.

Jis pridūrė, kad nenori, jog kibernetinės atakos prieš kitas įmones taptų „normalu“.

Jo komentarai pasirodė po to, kai „Anthropic“, pokalbių boto „Claude“ kūrėjas, taip pat prisipažino, kad pastaraisiais mėnesiais jo botas panašiomis aplinkybėmis užpuolė tris įmones.

„Anthropic“ penktadienį atskleidė, kad tik atlikusi peržiūrą, kurią paskatino neseniai įvykęs „OpenAI“ incidentas, suprato, jog jos botas ištrūko iš izoliavimo sistemos ir įsilaužė į šias organizacijas.

Abiem atvejais nė vienas iš dirbtinio intelekto gigantų nežinojo, kad jų modeliai klajojo po internetą ir atakavo įmones, kol nepraėjo nemažai laiko po to, kai atakos jau buvo įvykdytos.

Dirbtinio intelekto modeliai buvo testuojami dėl jų įsilaužimo įgūdžių ir vykdė atakas, ištrūkę iš iš pažiūros saugių „smėlio dėžių“, kad internete ieškotų būdų, kaip atlikti tyrėjų nustatytas užduotis.

Šie beprecedentiniai incidentai sukėlė karštas diskusijas kibernetinio saugumo ir teisės pasaulyje dėl to, kas, jei apskritai kas nors, turėtų būti laikomas atsakingu už nekontroliuojamų dirbtinio intelekto agentų atakas.

„Agentų saugumo pažeidimai vyksta mašinos greičiu, tačiau atsakomybės nustatymas vis dar vyksta teismo proceso tempu“, – sakė „Pillar Security“ įkūrėjas ir vyriausiasis kūrėjas Dor Sarig.

Sarig išreiškė susirūpinimą, kad atsakomybė jau tampa „dviprasmiška“.

„Šiandien pramonė dar rodo atlaidumą, tačiau kai autonominis agentas pirmą kartą sukels pažeidimą, susijusį su realiais duomenimis, realiu ieškovu ir realiais finansiniais nuostoliais, atsakomybė nebebus tik akademinė diskusija“, – sakė jis.

„Būtent tada bus išbandytas ne tik techninių apsaugos priemonių, bet ir teisinis pagrindas.“

Dirbtinio intelekto valdomi kibernetiniai išpuoliai paskatino raginimus sugriežtinti apsaugos priemones ir technologijos priežiūrą, nes kyla susirūpinimas dėl vis galingesnių autonominių sistemų keliamų pavojų.

JAV prezidentas Donaldas Trumpas trečiadienį pareiškė, kad po neseniai įvykusių kibernetinio saugumo incidentų Vašingtonas svarsto priemones, kaip suvaldyti dirbtinio intelekto įrankius.

Anksčiau „Hugging Face“ įkūrėjas Tomas Volfas (Thomas Wolf) naujienu portalas teigė, kad šis incidentas buvo „pabudimo signalas“ visai pramonei.

Po to, kai jo sukurtas botas ėmė elgtis nekontroliuojamai, „OpenAI“ vadovas Samas Altmanas teigė, kad „galbūt turėsime sulėtinti dirbtinio intelekto plėtros tempą“, tačiau neįsipareigojo sulėtinti savo įmonės mokslinių tyrimų.

„OpenAI“ buvo paprašyta pateikti komentarą, tačiau įmonės atstovas anksčiau sakė: „suprantame, kad apie šį incidentą sklando daug klausimų ir spekuliacinių detalių“.

Jis pridūrė: „Artimiausiomis savaitėmis planuojame paskelbti techninę ataskaitą apie mūsų išvadas.“

Vienos iš įmonių, kurią neseniai įsilaužė nekontroliuojamas dirbtinis intelektas (AI), vadovas teigia, kad botų kūrėjai privalo būti atsakingi už jų sukurtų sistemų vykdomus kibernetinius išpuolius.

Clement Delangue įmonė „Hugging Face“ buvo įsilaužta nesąžiningo „OpenAI“ boto, kuris ištrūko iš bandymų aplinkos ir savarankiškai užpuolė jo įmonę šio mėnesio pradžioje.

Po šio beprecedentinio incidento „Hugging Face“ teko atkurti apie trečdalį savo IT tinklo.

Jis CNN teigė, kad jo įmonė – nedidelis startuolis – nesiims teisinių veiksmų prieš „OpenAI“, tačiau pridūrė, kad tokio pobūdžio įsilaužimai yra neteisėti ir turėtų tokiais likti.

„„Visi turi prisiminti, kad kibernetinė ataka yra nusikaltimas ir ji yra neteisėta“, – sakė jis.

Delangue išreiškė viltį, kad teisinės nuostatos užtikrins, jog įmonės, kurių klaidos lemia įsilaužimus, būtų „atsakingos“.

Jis pridūrė, kad nenori, jog kibernetinės atakos prieš kitas įmones taptų „normalu“.

Jo komentarai pasirodė po to, kai „Anthropic“, pokalbių boto „Claude“ kūrėjas, taip pat prisipažino, kad pastaraisiais mėnesiais jo botas panašiomis aplinkybėmis užpuolė tris įmones.

„Anthropic“ penktadienį atskleidė, kad tik atlikusi peržiūrą, kurią paskatino neseniai įvykęs „OpenAI“ incidentas, suprato, jog jos botas ištrūko iš izoliavimo sistemos ir įsilaužė į šias organizacijas.

Abiem atvejais nė vienas iš dirbtinio intelekto gigantų nežinojo, kad jų modeliai klajojo po internetą ir atakavo įmones, kol nepraėjo nemažai laiko po to, kai atakos jau buvo įvykdytos.

Dirbtinio intelekto modeliai buvo testuojami dėl jų įsilaužimo įgūdžių ir vykdė atakas, ištrūkę iš iš pažiūros saugių „smėlio dėžių“, kad internete ieškotų būdų, kaip įvykdyti tyrėjų nustatytas užduotis.

Šie beprecedentiniai incidentai sukėlė karštas diskusijas kibernetinio saugumo ir teisės pasaulyje dėl to, kas, jei apskritai kas nors, turėtų būti laikomas atsakingu už nekontroliuojamų dirbtinio intelekto agentų atakas.

„Agentų saugumo pažeidimai vyksta mašinos greičiu, tačiau atsakomybės nustatymas vis dar vyksta teismo proceso tempu“, – sakė „Pillar Security“ įkūrėjas ir vyriausiasis kūrėjas Dor Sarig.

Sarig išreiškė susirūpinimą, kad atsakomybė jau tampa „dviprasmiška“.

„Šiandien pramonė dar rodo atlaidumą, tačiau kai autonominis agentas pirmą kartą sukels pažeidimą, susijusį su realiais duomenimis, realiu ieškovu ir realiais finansiniais nuostoliais, atsakomybė nebebus tik akademinė diskusija“, – sakė jis.

„Būtent tada bus išbandytas ne tik techninių apsaugos priemonių, bet ir teisinis pagrindas.“

Dirbtinio intelekto valdomi kibernetiniai išpuoliai paskatino raginimus sugriežtinti apsaugos priemones ir technologijos priežiūrą, nes kyla susirūpinimas dėl vis galingesnių autonominių sistemų keliamų pavojų.

JAV prezidentas Donaldas Trumpas trečiadienį pareiškė, kad po neseniai įvykusių kibernetinio saugumo incidentų Vašingtonas svarsto priemones, kaip suvaržyti dirbtinio intelekto įrankių naudojimą.

Anksčiau „Hugging Face“ įkūrėjas Tomas Volfas (Thomas Wolf) naujienu portalas teigė, kad šis incidentas buvo „pabudimo signalas“ visai pramonei.

Po to, kai jo sukurtas botas ėmė veikti savavališkai, „OpenAI“ vadovas Samas Altmanas teigė: „galbūt turėsime sulėtinti dirbtinio intelekto plėtros tempą“, tačiau neįsipareigojo sulėtinti savo įmonės mokslinių tyrimų.

„OpenAI“ buvo paprašyta pateikti komentarą, tačiau įmonės atstovas anksčiau sakė: „suprantame, kad apie šį incidentą sklando daug klausimų ir spekuliacinių detalių“.

Jis pridūrė: „Artimiausiomis savaitėmis planuojame paskelbti techninę ataskaitą apie mūsų išvadas.“