Dramatiški vidiniai perspėjimai dėl dirbtinio intelekto kai kuriems Silicio slėnio atstovams nesukelia jokio įspūdžio

Kiekvieną rugsėjį gausus būrys įtakingiausių Silicio slėnio vadovų susirenka San Francisko „Palace Hotel“ viešbutyje, kad investuotojus sužavėtų investicinio banko „Goldman Sachs“ rengiamoje konferencijoje.

Praėjusią savaitę, tarp pokalbių apie augimą ir galimą pelną, technologijų milžinai buvo priversti aptarti staigų „Anthropic“ tyrėjo Džeikobo Koksono atsistatydinimą.

27-metis J. Koksonas, kuris prieš prisijungdamas prie pagrindinio konkurento „Anthropic“ dirbo „OpenAI“, antradienį pareiškė, kad dirbtinį intelektą (AI) kuriantys žmonės tiki, jog ši technologija gali sunaikinti žmoniją.

„Jie lošia mūsų gyvybėmis“, – sakė jis, – „netrukus tai bus viršžmogiškos sistemos, galinčios įsilaužti į bet ką“.

Dž. Koksonas toli gražu nėra pirmasis AI srities specialistas, viešai skambinantis pavojaus varpais. Pastaraisiais metais tiek „Anthropic“, tiek „OpenAI“ įmonėse buvo užfiksuota nemažai garsių atsistatydinimų dėl akivaizdžių saugumo problemų, o kai kurie dabartiniai „Anthropic“ darbuotojai netgi pritarė Dž. Koksono įrašui.

„Mes tikrai nuoširdžiai tikime, kad AI gali išžudyti visus žmones! Asmeniškai manau, kad per artimiausią dešimtmetį tikimybė yra didesnė nei 10 %“, – „X“ tinkle parašė „Anthropic“ komandos vadovas Evanas Hubingeris.

Nors Koksono įrašuose aiškiai nurodyta, kad jo įspėjimai „nėra rinkodaros triukas“, kai kurie Silicio slėnio vadovai ir investuotojai skeptiškai reagavo į pastaruoju metu padažnėjusius vidinių šaltinių perspėjimus.

Pranešama, kad „Anthropic“ ir „OpenAI“ ruošiasi galbūt rekordiškai dideliems pirminiams viešiesiems akcijų platinimams, o kai kurie technologijų sektoriaus atstovai spėja, kad naujausi griežti komentarai apie AI keliamus pavojus gali būti skirti sukurti sensaciją, pabrėžiant šių produktų galingumą.

„Anthropic“ vadovas Dario Amodei sulaukė kritikos už teiginį, kad AI technologija gali sunaikinti pusę pradinio lygio biuro darbuotojų darbo vietų ir „patikrins, kas mes esame kaip rūšis“.

Vienas konferencijos pranešėjas, „Grindr“ generalinis direktorius George Arison, portalas teigė manąs, kad šios savaitės Coxono ir kitų asmenų komentarai rodo „anti-civilizacinį pasaulėžiūrą „Anthropic“ kompanijoje“.

Jis pavadino juos „pavojingais“ ir teigė, kad dėl to jis nurodė kai kuriems LGBTQ+ pažinčių programėlės inžinieriams nustoti naudoti „Anthropic“ technologiją.

„Mums, kaip akcininkų pinigų tvarkytojams, yra neatsakinga pasikliauti įmone, kuri, sprendžiant iš jos viešų pareiškimų, elgiasi taip, kaip elgiasi ši įmonė“, – sakė jis.

„Galbūt jie iš tikrųjų tuo tiki“, – sakė Arisonas. „Arba galima teigti, kad jie tai sako, nes tai puikus būdas pritraukti daugiau investuotojų palaikymo, nes vienintelis būdas pateisinti šias vertinimus yra iš tikrųjų tvirtinti: „Aš užkariausiu kiekvieną pramonės šaką ir užimsiu kiekvieną darbo vietą, o mano dirbtinis intelektas atliks visą tą darbą.“

Šių metų pradžioje vykusio paskutinio finansavimo etapo metu „Anthropic“ vertė buvo įvertinta 965 mlrd. JAV dolerių (713 mlrd. svarų sterlingų).

portalas paprašė „Anthropic“ pateikti atsakymą į šiuos teiginius.

Šeštadienį anksti ryte paskelbtame straipsnyje Amodei paragino sulėtinti dirbtinio intelekto modelių kūrimą ir įvesti pasaulinį reguliavimą – taip pat teigė, kad su dirbtiniu intelektu susijusi rizika yra „rimta“.

Kiekvieną rugsėjį Silicio slėnio verslo lyderiai susirenka San Francisko „Palace Hotel“ viešbutyje, kad investicijų banko „Goldman Sachs“ rengiamoje konferencijoje sužavėtų investuotojus.

Praėjusią savaitę, tarp pokalbių apie augimą ir galimą pelną, technologijų milžinai turėjo aptarti staigų „Anthropic“ tyrėjo Džeikobo Koksono atsistatydinimą.

27-metis Dž. Koksonas, kuris prieš prisijungdamas prie pagrindinio „OpenAI“ konkurento „Anthropic“ dirbo „OpenAI“, antradienį pareiškė, kad dirbtinį intelektą (AI) kuriantys žmonės tiki, jog ši technologija gali sunaikinti žmoniją.

„Jie lošia mūsų gyvybėmis“, – sakė jis, – „netrukus tai bus viršžmogiškos sistemos, galinčios įsilaužti į bet ką“.

Dž. Koksonas toli gražu nėra pirmasis dirbantis dirbtinio intelekto srityje, kuris viešai skambina pavojaus varpais. Pastaraisiais metais tiek „Anthropic“, tiek „OpenAI“ įmonėse buvo nemažai garsių atsistatydinimų dėl akivaizdžių saugumo problemų, o kai kurie dabartiniai „Anthropic“ darbuotojai netgi pritarė Dž. Koksono įrašui.

„Mes tikrai nuoširdžiai tikime, kad AI gali išžudyti visus žmones! Asmeniškai manau, kad per ateinantį dešimtmetį tikimybė yra didesnė nei 10 %“, – „X“ tinkle parašė „Anthropic“ komandos vadovas Evanas Hubingeris.

Nors Koksonas savo įrašuose aiškiai nurodė, kad jo įspėjimai „nėra rinkodaros triukas“, kai kurie Silicio slėnio vadovai ir investuotojai skeptiškai reagavo į pastaruoju metu padažnėjusius vidinių šaltinių perspėjimus.

Pranešama, kad „Anthropic“ ir „OpenAI“ ruošiasi galimai rekordiniams pirminiams viešiesiems akcijų platinimams, o kai kurie technologijų sektoriaus atstovai spėja, kad naujausi griežti komentarai apie AI pavojus gali būti skirti sukurti sensaciją, pabrėžiant šių produktų galią.

„Anthropic“ vadovas Dario Amodei sulaukė kritikos už teiginį, kad AI technologija gali sunaikinti pusę pradinio lygio biuro darbuotojų darbo vietų ir „išbandys, kas mes esame kaip rūšis“.

Vienas konferencijos pranešėjas, „Grindr“ generalinis direktorius George’as Arisonas, portalas teigė manąs, kad šios savaitės Coxono ir kitų asmenų komentarai rodo „anti-civilizacinį „Anthropic“ pasaulėžiūrą“.

Jis pavadino juos „pavojingais“ ir teigė, kad dėl to jis nurodė kai kuriems LGBTQ+ pažinčių programėlės inžinieriams nustoti naudoti „Anthropic“ technologiją.

„Mums, kaip akcininkų lėšų valdytojams, yra neatsakinga pasikliauti įmone, kuri, atsižvelgiant į jos viešus pareiškimus, elgiasi taip, kaip elgiasi ši įmonė“, – sakė jis.

„Galbūt jie tikrai tuo tiki“, – sakė Arisonas. „Arba galima teigti, kad jie tai sako, nes tai puikus būdas pritraukti daugiau investuotojų paramos, nes vienintelis būdas pateisinti šias vertinimus yra iš tikrųjų pareikšti: „Aš perimsiu kiekvieną pramonės šaką ir kiekvieną darbo vietą, o mano dirbtinis intelektas atliks visą tą darbą.““

Šių metų pradžioje vykusioje paskutinėje lėšų pritraukimo kampanijoje „Anthropic“ vertė buvo įvertinta 965 mlrd. JAV dolerių (713 mlrd. svarų sterlingų).

portalas paprašė „Anthropic“ pateikti atsakymą į šiuos teiginius.

Šeštadienį anksti ryte paskelbtame straipsnyje A. Amodei paragino sulėtinti dirbtinio intelekto modelių kūrimą ir įvesti pasaulinį reguliavimą – taip pat teigė, kad su dirbtiniu intelektu susijusi rizika yra „rimta“.