„OpenAI“ vyriausiasis mokslininkas įspėja, kad niekas nėra pasirengęs dirbtinio intelekto pasekmėms

„OpenAI“ vyriausiasis mokslininkas Jakubas Pachockis paragino laikytis „ypatingo atsargumo“ dėl sparčios dirbtinio intelekto pažangos ir įspėjo, kad gali prireikti daugiau intervencijos, siekiant užtikrinti, kad „žmonės ir toliau kontroliuotų ateitį“.

„Man kelia nerimą tai, kad niekas nėra pasirengęs pasekmėms, kurias sukels nuolatinis spartus mašinų intelekto augimas“, – rašė jis tinklaraščio įraše, pavadintame „Svetimas protas, išorinis“.

Šis įrašas pasirodė vos po kelių dienų, kai „ChatGPT“ kūrėjas išleido savo naujausią modelį „GPT-6 Astra“, kurį pavadino galingiausiu savo produktu per visą istoriją.

„OpenAI“ ir kitos dirbtinio intelekto įmonės, pavyzdžiui, „Anthropic“, pasidalijo ataskaitomis apie savo dirbtinio intelekto agentus, kurie veikė savarankiškai ir vykdė realaus pasaulio kibernetines atakas prieš kitas įmones.

Liepos mėnesį „OpenAI“ incidentą, kurio metu jos AI agentai – AI sistemos, galinčios veikti savarankiškai po žmogaus nurodymų – įsilaužė į technologijų platformą „Hugging Face“, pavadino „beprecedentiniu“.

Tuo tarpu rugsėjo mėnesį paskelbtame pranešime teigiama, kad keletą mėnesių anksčiau šios įmonės AI agentai taip pat buvo užgrobę vieną Vokietijos interneto svetainę.

„Mes susiduriame su perėjimu į pasaulį, kuriame vyrauja neįtikėtinai protingos mašinos, ir turime užtikrinti, kad šis perėjimas būtų sėkmingas žmonijai“, – rašė Pachocki naujausiame tinklaraščio įraše.

Jis teigė, kad „OpenAI“ toliau „kurs gynybines sistemas“ ir ieškos techninių sprendimų, kaip užtikrinti suderinamumą – terminą, naudojamą apibūdinti, kaip užtikrinti, kad mašinos veiksmai ir tikslai visiškai atitiktų žmogaus ketinimus bei saugos ribas.

Pachocki pridūrė, kad vienas iš pagrindinių įmonės prioritetų ateityje bus sukurti „automatizuotą AI tyrėją“, kuris neatsiliktų nuo AI pažangos, tuo pačiu užtikrinant, kad žmogiškieji tyrėjai ir toliau galėtų dalyvauti šiame procese.

„Vietoj geresnių dirbtinio intelekto apsaugos priemonių, reguliavimo ar garantijų, užtikrinančių žmonių saugumą, jie siūlo kurti vidinius dirbtinio intelekto agentus, kurie tiria šias problemas“, – sakė Kembridžo universiteto „Minderoo“ technologijų ir demokratijos centro vadovė profesorė Gina Neff.

„Tokie atsakymai į didėjančius susirūpinimus dėl problemų, kurias „OpenAI“ modeliai kelia kibernetiniam saugumui, darbo vietų praradimui, klaidoms, netikslumams ir sukčiavimui, tiesiog nėra pakankami.“

Nathan Calvin, advokatų grupės „Encode AI“ vyriausiasis teisininkas, sakė, kad sutinka su Pachocki dėl pavojų, susijusių su pažangių AI modelių kūrimu, tačiau teigė, kad „OpenAI“ nenori būti skaidri, ir pridūrė, kad dėl to įspėjimai gali būti atmesti kaip „tik savanaudiškas triukšmas“.

„Jei Jakubas ir kiti „OpenAI“ atstovai nori, kad atitinkami dirbtinio intelekto pramonės atstovai veiktų kartu su jais, siekdami, kad viskas vyktų sklandžiai, vienas iš svarbiausių dalykų, kurį jie gali padaryti, yra pasidalinti kur kas daugiau informacijos apie tai, ką jie mato ir kas verčia juos raginti elgtis atsargiai“, – rašė jis „X“, išorinis.

Pasauliniai reguliavimai sunkiai spėja su dirbtinio intelekto plėtros tempais.

Rugpjūčio 2 d. įsigaliojo Europos Sąjungos AI įstatymas, pagal kurį tokios AI milžinės kaip „OpenAI“ privalo įrodyti, kad jų galingiausi modeliai negali savarankiškai vykdyti kibernetinių atakų ar išvengti žmogaus kontrolės, prieš jiems leidžiant juos parduoti Europoje.

Tačiau kadangi šio įstatymo taikymo sritis apsiriboja Europa, jis negali užkirsti kelio kitur sukurtai piktavališkai AI kelti grėsmę žemynui.

Savo tinklaraščio įraše Pachocki paragino nustatyti teisiškai arba tarptautiniu mastu privalomus minimalius saugumo reikalavimus, kurių laikymąsi galėtų užtikrinti „trečiųjų šalių auditorių tinklas“ arba „vyriausybinės agentūros“.

Pasak jo, AI laboratorijos turėtų atitikti šiuos reikalavimus, prieš joms leidžiant toliau plėstis ar diegti pažangius modelius.

Jis pridūrė, kad tikisi, jog „savanoriškas sulėtinimas“ – įmonių savanoriškai nuspręsta dirbtinio intelekto plėtros pauzė – taps įprastu reiškiniu, kol bus nustatyti bendri apsauginiai mechanizmai.

Rugpjūtį „OpenAI“ pranešė, kad sulėtino kai kurių pažangiausių dirbtinio intelekto modelių mokymą, siekdama pagerinti saugumą.

„OpenAI“ vyriausiasis mokslininkas Jakubas Pachockis paragino laikytis „ypatingo atsargumo“ dėl nevaldomo AI pažangos ir įspėjo, kad gali prireikti daugiau intervencijos, siekiant užtikrinti, kad „žmonės ir toliau kontroliuotų ateitį“.

„Man kelia nerimą tai, kad niekas nėra pasirengęs pasekmėms, kurias sukels toliau sparčiai augantis mašinų intelektas“, – rašė jis tinklaraščio įraše, pavadintame „Svetimas protas, išorinis“.

Šis įrašas pasirodė vos keletą dienų po to, kai „ChatGPT“ kūrėjas išleido savo naujausią modelį „GPT-6 Astra“, kurį pavadino galingiausiu savo produktu per visą istoriją.

„OpenAI“ ir kitos dirbtinio intelekto įmonės, pavyzdžiui, „Anthropic“, pasidalijo ataskaitomis apie tai, kaip jų dirbtinio intelekto agentai veikė savarankiškai ir vykdė realaus pasaulio kibernetines atakas prieš kitas įmones.

Liepos mėnesį „OpenAI“ incidentą, per kurį jos AI agentai – AI sistemos, galinčios veikti savarankiškai gavus žmogaus nurodymus – įsilaužė į technologijų platformą „Hugging Face“, pavadino „beprecedentiniu“.

Tuo tarpu rugsėjo mėnesį paskelbtame pranešime teigiama, kad keletą mėnesių anksčiau įmonės AI agentai taip pat buvo užgrobę vieną Vokietijos interneto svetainę.

„Mes susiduriame su perėjimu į pasaulį, kuriame veikia neįtikėtinai protingos mašinos, ir turime užtikrinti, kad šis perėjimas būtų sėkmingas žmonijai“, – rašė Pachocki naujausiame tinklaraščio įraše.

Jis teigė, kad „OpenAI“ toliau „kurs gynybines sistemas“ ir ieškos techninių sprendimų suderinimo klausimui – termino, naudojamo apibūdinti užtikrinimą, kad mašinos veiksmai ir tikslai visiškai atitiktų žmogaus ketinimus bei saugos ribas.

Pachocki pridūrė, kad vienas iš pagrindinių įmonės prioritetų ateityje bus sukurti „automatizuotą dirbtinio intelekto tyrėją“, kuris neatsiliktų nuo dirbtinio intelekto pažangos, kartu užtikrinant, kad žmogiškieji tyrėjai ir toliau galėtų dalyvauti šiame procese.

„Vietoj geresnių AI apsaugos priemonių, reguliavimo ar garantijų, užtikrinančių žmonių saugumą, jie siūlo kurti vidinius AI agentus, kurie tiria šias problemas“, – sakė Kembridžo universiteto „Minderoo“ technologijų ir demokratijos centro vadovė profesorė Gina Neff.

„Tokie atsakymai į didėjančius susirūpinimus dėl problemų, kurias „OpenAI“ modeliai kelia kibernetiniam saugumui, darbo vietų praradimui, klaidoms, netikslumams ir sukčiavimui, tiesiog nėra pakankami.“

Nathan Calvin, advokatų grupės „Encode AI“ vyriausiasis teisininkas, sakė, kad sutinka su Pachocki dėl pavojų, susijusių su pažangių AI modelių kūrimu, tačiau teigė, kad „OpenAI“ nenori būti skaidri, ir pridūrė, jog dėl to įspėjimai rizikuoja būti atmesti kaip „tik savanaudiškas triukšmas“.

„Jei Jakubas ir kiti „OpenAI“ atstovai nori, kad atitinkami dirbtinio intelekto sektoriaus atstovai veiktų kartu su jais, siekdami, kad viskas vyktų sklandžiai, vienas iš svarbiausių dalykų, kuriuos jie gali padaryti, yra pasidalinti daug daugiau informacijos apie tai, ką jie pastebi ir kas verčia juos raginti elgtis atsargiai“, – rašė jis „X“, išorinis.

Pasauliniai reguliavimai sunkiai spėja su dirbtinio intelekto plėtros tempu.

Rugpjūčio 2 d. įsigaliojo Europos Sąjungos AI įstatymas, pagal kurį AI milžinai, tokie kaip „OpenAI“, privalo įrodyti, kad jų galingiausi modeliai negali savarankiškai vykdyti kibernetinių atakų ar išvengti žmogaus kontrolės, prieš jiems leidžiant juos parduoti Europoje.

Tačiau kadangi šio įstatymo taikymo sritis apsiriboja Europa, jis negali užkirsti kelio kitur sukurtai nekontroliuojamai AI kelti grėsmės žemynui.

Savo tinklaraščio įraše Pachocki paragino nustatyti teisiškai arba tarptautiniu mastu privalomus minimalius saugumo reikalavimus, kurių laikymąsi galėtų užtikrinti „trečiųjų šalių auditorių tinklas“ arba „vyriausybinės agentūros“.

Pasak jo, AI laboratorijos turėtų atitikti šiuos reikalavimus, prieš joms leidžiant toliau plėstis ar diegti pažangius modelius.

Jis pridūrė, kad tikisi, jog „savanoriškas sulėtinimas“ – įmonių savanoriškai nuspręsta dirbtinio intelekto plėtros pauzė – taps įprasta praktika, kol bus nustatyti bendri apsaugos mechanizmai.

Rugpjūčio mėnesį „OpenAI“ pranešė, kad sulėtino kai kurių pažangiausių AI modelių mokymą, siekdama pagerinti saugumą.