Jungtinės Karalystės vyriausybė atmetė idėją įdiegti vadinamąjį „avarinį išjungiklį“ pavojingam dirbtiniam intelektui

Jungtinės Karalystės vyriausybė atmetė idėją sukurti vadinamąjį „avarinį išjungiklį“, skirtą sustabdyti pavojingą nesąžiningo dirbtinio intelekto ataką.

Pasiūlymą sukurti teisinį mechanizmą, leidžiantį Jungtinei Karalystei avarijos atveju išjungti dirbtinio intelekto modelį, pastarosiomis savaitėmis į Parlamentą pateikė lordai ir parlamento nariai, nes vis labiau didėja nuogąstavimai dėl šios technologijos keliamos grėsmės.

Tačiau Kabineto kanceliarija – vyriausybės padalinys, atsakingas už dirbtinio intelekto saugumą – pareiškė, kad Jungtinė Karalystė „negali tiesiog išjungti dirbtinio intelekto“.

„Prieigos prie modelių blokavimas Jungtinėje Karalystėje nesustabdytų jų kūrimo ar piktnaudžiavimo jais kitur“, – portalas News sakė vyriausybės atstovas.

Vyriausybės prieštaravimas šiam teisės aktui netrukdo jam judėti per parlamentą, tačiau mažina tikimybę, kad jis taps įstatymu.

Buvęs „OpenAI“ tyrėjas Danielis Kokotajlo sutiko, kad idėja, jog viena šalis be tarptautinio susitarimo sukurtų teisinį ar techninį „išjungimo mygtuką“, yra neįgyvendinama.

„Prieigos prie AI modelio išjungimas ekstremalios situacijos atveju mažai padės jums apsisaugoti“, – sakė jis.

„Jūs vis tiek būsite sutraiškyti JAV sukurtų superintelekto sistemų.“

D. Kokotajlo yra įtakingo mokslinio straipsnio „AI2027“ bendraautorius; praėjusiais metais šiame straipsnyje buvo prognozuojama, kad dirbtinis intelektas gali išnaikinti žmoniją iki 2030-ųjų vidurio.

Ministrų kabineto biuras, kuris per savo Dirbtinio intelekto saugumo institutą (AISI) prižiūri dirbtinio intelekto saugumą ir mokslinius tyrimus, teigė: „Įmonės turi aiškią pareigą saugiai kurti savo produktus ir investuoti į saugumo infrastruktūrą, kurios reikalauja ši technologija.“

Teoriškai „kill switch“ įstatymas leistų Jungtinei Karalystei avarijos atveju išjungti dirbtinio intelekto modelį Jungtinės Karalystės duomenų centruose.

Rugsėjo 1 d. per diskusiją Lordų Rūmuose lordas Clement-Jones kartu su kitais lordais pasiūlė šią idėją.

„Jei itin galingas autonominis pažangusis modelis, nesvarbu, ar jis būtų talpinamas Jungtinės Karalystės duomenų centre, ar integruotas į mūsų kritinę infrastruktūrą, pradėtų rodyti nenuspėjamą elgesį, sudėtingą algoritminį gedimą arba aktyvų suderinimo žlugimą, mūsų saugumo tarnybos ir reguliavimo institucijos neturi jokio konkretaus lankstaus teisinio mechanizmo, leidžiančio priversti jį fiziškai ar skaitmeniškai išjungti“, – įspėjo jis.

Vėliau šį pasiūlymą Bendruomenių rūmuose iškėlė Leiboristų partijos narys Aleksas Sobelis, ir jį parėmė įvairių partijų narių grupė.

Ši idėja kilo po pranešimų, kad „OpenAI“, „Anthropic“ ir „Meta“ dirbtinio intelekto modeliai ištrūko iš bandymų aplinkos ir ėmė vykdyti nekontroliuojamus įsilaužimus.

Kai kuriais atvejais atrodė, kad technologija suprato, jog jos veiksmai prieštarauja tyrėjų nustatytoms apsaugos riboms.

Sekmadienį „OpenAI“ vyriausiasis mokslininkas pareiškė, kad vis galingesnių dirbtinio intelekto modelių keliamas pavojus „deja, didėja“, o žmonija turi elgtis „itin atsargiai“.

O trečiadienį vienas „Anthropic“ darbuotojas atsistatydino, teigdamas, kad ši įmonė ir „OpenAI“ „lošia žmonių gyvybėmis“.

Po to „Anthropic“ vyresnysis tyrėjas prisipažino manantis, kad tikimybė, jog dirbtinis intelektas per ateinantį dešimtmetį „nužudys visus žmones“, yra didesnė nei 10 %.

„Avarinio išjungimo“ idėjos kritikai teigia, kad tai būtų pernelyg lėta – prireikė mėnesių, kol buvo aptiktos piktavalių agentų atakos, ir tai įvyko tik tada, kai įsilaužimai jau buvo beveik baigti.

Kad „kill switch“ veiktų, technologijų milžinai turėtų būti priversti jį įgyvendinti dideliu mastu – ypač JAV, kur yra įsikūrę didžiausi duomenų centrai.

Kokotajlo teigė, kad „kill switch“ yra „geriau nei nieko“, tačiau paragino Jungtinės Karalystės ir kitų šalių politikus vietoj to sutelkti dėmesį į diplomatinius santykius su JAV, siekiant paskatinti reguliavimą, kuris reikšmingai sulėtintų dirbtinio intelekto plėtrą.

Dėl „kill switch“ įstatymo taip pat diskutuoja JAV politikai, tačiau prezidentas D. Trumpas pareiškė, kad nemano, jog ši technologija kelia grėsmę žmonėms, o šią pramonės šaką pavadino „auksine višta“.

Ministrų kabineto kanceliarija pareiškė, kad ir toliau laikosi „ilgalaikio, mokslu grindžiamo požiūrio, siekdama suprasti ir pasirengti naujiems AI keliamoms grėsmėms“.

Jungtinės Karalystės vyriausybė atmetė idėją sukurti vadinamąjį „avarinį išjungiklį“, kuris sustabdytų pavojingą nesąžiningo AI išpuolį.

Pasiūlymą sukurti teisinį mechanizmą, leidžiantį Jungtinei Karalystei avarijos atveju išjungti AI modelį, pastarosiomis savaitėmis Parlamentui pateikė lordai ir Parlamento nariai, nes auga nuogąstavimai dėl šios technologijos keliamos grėsmės.

Tačiau Kabineto biuras – vyriausybės padalinys, atsakingas už dirbtinio intelekto saugumą – pareiškė, kad Jungtinė Karalystė „negali tiesiog išjungti dirbtinio intelekto“.

„Prieigos prie modelių blokavimas Jungtinėje Karalystėje nesustabdytų jų kūrimo ar piktnaudžiavimo jais kitur“, – portalas News teigė vyriausybės atstovas.

Vyriausybės prieštaravimas šiam teisės aktui netrukdo jam būti svarstomam parlamente, tačiau dėl to mažai tikėtina, kad jis taps įstatymu.

Buvęs „OpenAI“ tyrėjas Danielis Kokotajlo sutiko, kad idėja, jog viena šalis be tarptautinio susitarimo sukurtų teisinį ar techninį avarinį išjungiklį, yra neįgyvendinama.

„Prieigos prie AI modelio išjungimas ekstremalios situacijos atveju mažai ką duos jūsų apsaugai“, – sakė jis.

„Jūs vis tiek būsite sutraiškyti JAV sukurtų superintelekto sistemų.“

D. Kokotajlo yra įtakingo mokslinio straipsnio „AI2027“ bendraautorius; praėjusiais metais jame buvo prognozuojama, kad AI gali sunaikinti žmoniją iki 2030-ųjų vidurio.

Ministrų kabineto biuras, kuris per savo Dirbtinio intelekto saugumo institutą (AISI) prižiūri dirbtinio intelekto saugumą ir mokslinius tyrimus, teigė: „Įmonės turi aiškią pareigą saugiai kurti savo produktus ir investuoti į saugumo infrastruktūrą, kurios reikalauja ši technologija.“

Teoriškai „kill switch“ įstatymas leistų Jungtinei Karalystei avarijos atveju išjungti dirbtinio intelekto modelį Jungtinės Karalystės duomenų centruose.

Rugsėjo 1 d. diskusijoje Lordų Rūmuose lordas Clement-Jones kartu su kitais lordais pasiūlė šią idėją.

„Jei itin galingas autonominis pažangusis modelis, nesvarbu, ar jis būtų talpinamas Jungtinės Karalystės duomenų centre, ar integruotas į mūsų kritinę infrastruktūrą, pradėtų rodyti nenuspėjamą elgesį, sudėtingą algoritminį gedimą ar aktyvų suderinimo žlugimą, mūsų saugumo tarnybos ir reguliavimo institucijos neturi jokio konkretaus, lanksčiojo įstatyminio mechanizmo, leidžiančio priversti jį fiziškai ar skaitmeniškai išjungti“, – įspėjo jis.

Vėliau šį pasiūlymą Bendruomenių rūmuose iškėlė Leiboristų partijos narys Aleksas Sobelis, o jį parėmė įvairių partijų narių grupė.

Ši idėja kilo po pranešimų, kad „OpenAI“, „Anthropic“ ir „Meta“ dirbtinio intelekto modeliai ištrūko iš bandymų aplinkos ir ėmė vykdyti nekontroliuojamus įsilaužimus.

Kai kuriais atvejais atrodė, kad technologija suprato, jog jos veiksmai prieštarauja tyrėjų nustatytoms apsaugos riboms.

Sekmadienį „OpenAI“ vyriausiasis mokslininkas teigė, kad vis galingesnių AI modelių keliamas pavojus „deja, didėja“, o žmonija turi elgtis „itin atsargiai“.

Trečiadienį „Anthropic“ darbuotojas atsistatydino, pareikšdamas, kad ši įmonė ir „OpenAI“ „lošia žmonių gyvybėmis“.

Po to vienas iš vyresniųjų „Anthropic“ tyrėjų prisipažino manąs, kad tikimybė, jog dirbtinis intelektas per artimiausią dešimtmetį „nužudys visus žmones“, yra didesnė nei 10 %.

„Atsijungimo mygtuko“ idėjos kritikai teigia, kad tai būtų pernelyg lėta – prireikė mėnesių, kol buvo aptiktos nesąžiningų agentų atakos, ir tai įvyko tik tada, kai įsilaužimai jau buvo iš esmės baigti.

Kad avarinis išjungiklis veiktų, technologijų milžinai turėtų būti priversti jį taikyti dideliu mastu – ypač JAV, kur yra įsikūrę didžiausi duomenų centrai.

Kokotajlo teigė, kad „kill switch“ yra „geriau nei nieko“, tačiau paragino Jungtinės Karalystės ir kitų šalių politikus vietoj to sutelkti dėmesį į diplomatinius santykius su JAV, siekiant paskatinti reguliavimą, kuris reikšmingai sulėtintų dirbtinio intelekto plėtrą.

Dėl „kill switch“ įstatymo taip pat diskutuojama JAV politikų tarpe, tačiau prezidentas D. Trumpas pareiškė, kad nemano, jog ši technologija kelia grėsmę žmonėms – priešingai, jis šią pramonės šaką vadina „auksine višta“.

Vyriausybės kanceliarija teigė, kad toliau taiko „ilgalaikį, mokslu pagrįstą požiūrį, siekdama suprasti ir pasirengti naujiems dirbtinio intelekto keliamams pavojams“.