„Anthropic“ buvęs tyrėjas naujienu portalas teigia, kad AI darbuotojai „nuoširdžiai bijo“ dėl žmonijos ateities

Dirbęs „Anthropic“ dirbtinio intelekto tyrėjas naujienu portalas teigė, kad šia technologija besidomintys žmonės „tikrai bijo“ jos pažangos greičio ir to, ką tai gali reikšti žmonijai.

Šeštadienį Jacobas Coxonas kalbėjosi su naujienu portalas žurnaliste Laura Kuenssberg apie savo plačiai išplitusį pranešimą apie išėjimą iš darbo, kuriame jis išreiškė susirūpinimą dėl nekontroliuojamo dirbtinio intelekto.

„Manau, kad jei nesulėtinsime dabartinio pažangos tempo, yra didelė tikimybė, kad artimiausioje ateityje visi galime žūti“, – sakė jis.

Jo atsistatydinimas įvyko augant saugumo susirūpinimui šioje srityje, įskaitant jo buvusio viršininko, „Anthropic“ vadovo Dario Amodei, kuris savo esė pasisakė už plėtros sulėtinimą.

27-metis Koksonas, kuris prieš prisijungdamas prie „Anthropic“ dirbo „OpenAI“, palankiai įvertino D. Amodei pasiūlymą sulėtinti plėtrą, tačiau pažymėjo, kad tai reikėtų suderinti su Kinija.

„Šiose įmonėse dirbantys žmonės visiškai rimtai prašo reguliavimo, nes jaučiasi įstrigę lenktynėse. Ir jie bijo tų lenktynių pasekmių“, – sakė jis laidoje „Sunday with Laura Kuenssberg“.

„Sam Altman ir Elonas Muskas sutiko, kad tai puiki idėja. Tačiau manau, kad, jei norime išvengti tarptautinio masto lenktynių, reikės kažkokio suderinto plėtros sulėtinimo su Kinija.“

Pasak Koksono, sunkiausia atsakyti į klausimą, kaip atrodytų dirbtinio intelekto apokalipsė.

Viena iš rizikų, kurias pabrėžė Amodei, buvo botų spiečius, veikiantis kaip superkompiuteris, kuris galėtų perimti interneto kontrolę.

Koksono teigimu, toks scenarijus galėtų tapti realybe per šešis mėnesius ar metus.

Reaguodamas į Koksono pasitraukimą, „Anthropic“ atstovas spaudai „naujienu portalas News“ sakė: „Mes visada atvirai sakėme, kad AI atneš tiek milžinišką naudą, tiek beprecedentines rizikas.

„Siekiant užkirsti kelią šioms rizikoms, mes toliau kuriame modelius, turinčius vienus iš stipriausių apsaugos mechanizmų šioje srityje.“

Įmonė yra viena iš pirmųjų, tyrinėjusių, kaip veikia AI modeliai, pridūrė atstovas spaudai. Ji pirmoji paskelbė sistemą, skirtą jų kūrimo keliamų rizikų mažinimui, be to, „aktyviai“ testuoja savo modelius ir skelbia rezultatus, siekdama palengvinti tikrinimą bei užkirsti kelią „AI nesuderinamumo“ atvejams.

„Būtent dėl šio darbo mes manome, kad pasauliui būtų naudinga, jei pramonė priimtų teisėtą, patikrinamą bendradarbiavimo būdą, leidžiantį reguliuoti galingų modelių išleidimo tempą“, – sakė jie.

Savo esė „We Must Pace the Frontier“ („Turime reguliuoti naujovių plėtrą“), paskelbtame šeštadienį, Amodei pasiūlė trijų punktų planą, apimantį nepriklausomą AI modelių stebėseną jų kūrimo metu, visos pramonės šakos reguliavimą ir pasaulinį reguliavimą.

Pranešama, kad „Anthropic“ ir „OpenAI“ ruošiasi galimai rekordiniams pirminiams viešiesiems akcijų siūlymams.

Pramonės atstovai išreiškė nuomonę, kad komentarai apie dirbtinio intelekto pavojus ir galią gali būti skirti sukelti sensaciją. Kiti kritikai teigia, kad „Anthropic“ bando paskatinti reguliavimo iniciatyvas, siekdama užkirsti kelią konkurencijai ir sukurti „Anthropic“ bei „OpenAI“ duopoliją.

Coxono nuomonę taip pat užginčijo AI platformos „Hugging Face“ generalinis direktorius Clement Delangue.

„Atsiprašau, bet klausti Jacobo apie dirbtinio intelekto išnykimo riziką – tai tas pats, kas klausti savo oro kondicionavimo meistro apie klimato kaitą“, – rašė jis „X“. „Nesakau, kad tai savaime yra neįdomu ar neteisinga, bet žiūrėkime į dalykus proporcingai.“

Tačiau po Amodei pasisakymo Delangue pasiūlė prisidėti prie galimų sprendimų, kuriuos pasiūlė „Anthropic“ vadovas.

„Nvidia“ vadovas Jensenas Huangas taip pat aptarė Koksono komentarus praėjusią savaitę investicinio banko „Goldman Sachs“ surengtoje konferencijoje, kaip naujienu portalas teigė keli šioje grupėje dalyvavę asmenys. Jie sakė, kad jis atmetė šiuos teiginius kaip nepagrįstus.

Huangas anksčiau yra sakęs, kad mintis, jog AI „bus žmonijos pabaiga“, yra „visiška nesąmonė“.

Ir nors jis gali turėti verslo interesų, susijusių su dirbtinio intelekto bumu – „Nvidia“ gamina lustus, kuriais veikia dirbtinio intelekto sistemos –, jo komentarai atspindi Silicio slėnyje stiprėjantį nepasitenkinimą esminiais dabartinių ir buvusių darbuotojų perspėjimais.

Dirbęs „Anthropic“ dirbtinio intelekto tyrėjas naujienu portalas teigė, kad šia technologija besidarantys žmonės buvo „tikrai išsigandę“ dėl jos pažangos greičio ir to, ką tai gali reikšti žmonijai.

Šeštadienį Jacobas Coxonas kalbėjosi su naujienu portalas žurnaliste Laura Kuenssberg apie savo plačiai išplitusį pranešimą apie išėjimą iš darbo, kuriame jis išreiškė susirūpinimą dėl nekontroliuojamo dirbtinio intelekto.

„Manau, kad jei nesulėtinsime dabartinio pažangos tempo, yra didelė tikimybė, kad artimiausioje ateityje visi galime žūti“, – sakė jis.

Jo atsistatydinimas įvyko augant saugumo susirūpinimui šioje srityje, įskaitant jo buvusio vadovo, „Anthropic“ vadovo Dario Amodei, kuris savo esė pasisakė už plėtros sulėtinimą.

27-metis Koksonas, kuris prieš prisijungdamas prie „Anthropic“ dirbo „OpenAI“, palankiai įvertino D. Amodei pasiūlymą sulėtinti plėtrą, tačiau pažymėjo, kad tai reikėtų suderinti su Kinija.

„Šiose įmonėse dirbantys žmonės visiškai rimtai prašo reguliavimo, nes jaučiasi įstrigę lenktynėse. Ir jie bijo tų lenktynių pasekmių“, – sakė jis laidoje „Sunday with Laura Kuenssberg“.

„Sam Altman ir Elonas Muskas sutiko, kad tai puiki idėja. Tačiau manau, kad, jei norime išvengti tarptautinio masto lenktynių, reikės kažkokio suderinto plėtros sulėtinimo su Kinija.“

Pasak Koksono, sunkiausia atsakyti į klausimą, kaip atrodytų dirbtinio intelekto apokalipsė.

Viena iš rizikų, kurias pabrėžė Amodei, buvo botų spiečius, veikiantis kaip superkompiuteris, kuris galėtų perimti interneto kontrolę.

Koksono teigimu, toks scenarijus galėtų tapti realybe per šešis mėnesius ar metus.

Reaguodamas į Koksono pasitraukimą, „Anthropic“ atstovas spaudai „naujienu portalas News“ sakė: „Mes visada atvirai sakėme, kad dirbtinis intelektas atneš tiek milžinišką naudą, tiek beprecedentines rizikas.

„Siekiant užkirsti kelią šioms rizikoms, mes toliau kuriame modelius, turinčius vieną iš stipriausių apsaugos priemonių šioje srityje.“

Įmonė yra viena iš pirmųjų, tyrinėjusių, kaip veikia AI modeliai, pridūrė atstovas. Ji pirmoji paskelbė sistemą, skirtą jų kūrimo keliamų rizikų mažinimui, be to, „aktyviai“ testuoja savo modelius ir skelbia rezultatus, siekdama palengvinti tikrinimą bei užkirsti kelią „AI nesuderinamumo“ atvejams.

„Būtent dėl šio darbo mes manome, kad pasauliui būtų naudinga, jei pramonė priimtų teisėtą, patikrinamą bendradarbiavimo būdą, leidžiantį reguliuoti galingų modelių išleidimo tempą“, – sakė jie.

Savo esė „We Must Pace the Frontier“ („Turime reguliuoti naujovių plėtrą“), paskelbtame šeštadienį, Amodei pasiūlė trijų punktų planą, apimantį nepriklausomą AI modelių stebėseną jų kūrimo metu, visos pramonės šakos reguliavimą ir pasaulinį reguliavimą.

Pranešama, kad „Anthropic“ ir „OpenAI“ ruošiasi galimai rekordiniams pirminiams viešiesiems akcijų siūlymams.

Pramonės atstovai išreiškė nuomonę, kad komentarai apie AI keliamus pavojus ir galią gali būti skirti sukurti sensaciją. Kiti kritikai teigia, kad „Anthropic“ bando paskatinti reguliavimo iniciatyvas, siekdama užkirsti kelią konkurencijai ir užsitikrinti duopolinę padėtį kartu su „OpenAI“.

Coxono nuomonę taip pat užginčijo AI platformos „Hugging Face“ generalinis direktorius Clement Delangue.

„Atsiprašau, bet klausti Jacobo apie AI išnykimo riziką – tai tas pats, kas klausti savo oro kondicionavimo meistro apie klimato kaitą“, – rašė jis „X“. „Nesakau, kad tai savaime yra neįdomu ar neteisinga, bet žiūrėkime į dalykus iš tinkamos perspektyvos.“

Tačiau po Amodei pasisakymo Delangue pasiūlė prisidėti prie galimų sprendimų, kuriuos pasiūlė „Anthropic“ vadovas.

„Nvidia“ vadovas Jensenas Huangas taip pat aptarė Koksono komentarus praėjusią savaitę investicinio banko „Goldman Sachs“ surengtoje konferencijoje, kaip naujienu portalas teigė keli šioje grupėje dalyvavę asmenys. Jie sakė, kad jis juos atmetė kaip neteisingus.

Huangas anksčiau yra sakęs, kad mintis, jog AI „bus žmonijos pabaiga“, yra „visiška nesąmonė“.

Ir nors jis gali turėti verslo interesų, susijusių su dirbtinio intelekto bumu – „Nvidia“ gamina lustus, kuriais veikia dirbtinio intelekto sistemos – jo komentarai atspindi Silicio slėnyje stiprėjantį nepasitenkinimą esminiais dabartinių ir buvusių darbuotojų perspėjimais.