Ne visi dirbantys dirbtinio intelekto (AI) srityje mano, kad ši technologija gali nužudyti visus

Ne visi didžiųjų įmonių, užsiimančių dirbtinio intelekto (AI) plėtra, darbuotojai mano, kad ši technologija reiškia pražūtį žmonijai.

Tekstiniuose pokalbiuose ir diskusijose daugelis žmonių, dirbusių tokiose įmonėse kaip „OpenAI“, „Meta“ ir „DeepMind“, skeptiškai vertino idėją, kad nekontroliuojama AI plėtra galėtų sukurti įrankius, galinčius masiškai žudyti žmones.

„Lol“, „Haaaaaa“ ir „Bringing the luls“ – tai tik keletas reakcijų, kurias naujienu portalas gavo į neseniai pasipylusius plačiai nuskambėjusius kai kurių šios srities atstovų perspėjimus.

Nors šios baimės siekia kelis dešimtmečius, praėjusią savaitę buvusio „Anthropic“ darbuotojo Jacobo Coxono pareiškimai tapo viraliniai ir sulaukė pritarimo iš kitų šio sektoriaus atstovų, kurie ragino sulėtinti plėtrą.

Idėją, kad ateities AI įrankis ar agentas – AI botas, užprogramuotas veikti gana savarankiškai – galėtų kelti pavojų žmonėms, internete palaikė „Anthropic“ darbuotojai, taip pat „OpenAI“, „Deepmind“ ir Elonas Muskas, kuris turi AI startuolį „xAI“.

Visi darbuotojai, kalbėjęsi su naujienu portalas, tai darė su sąlyga, kad bus išlaikytas jų anonimiškumas, nes jiems nebuvo leista bendrauti su žiniasklaida. naujienu portalas žino jų tapatybes.

„Mano pirmoji mintis buvo: ‚Tas vyras?‘“, – sakė buvęs „OpenAI“ darbuotojas, kuris pažinojo Koksoną, kai abu dirbo toje pačioje įmonėje.

Šis asmuo, dabar dirbantis kitoje dirbtinio intelekto įmonėje, teigė, kad jo juokas dėl naujosios egzistencinės baimės dėl dirbtinio intelekto daugiausia kilo dėl to, kad šios idėjos šalininkai pateikė labai mažai detalių, siekdami pagrįsti teiginį, kad gresia pavojus visai žmonijos gyvybei.

Šie teiginiai yra „visada nekonkretūs“, – sakė šis asmuo, pridurdamas, kad net kai jie skamba konkrečiai, juose dažnai pasitaiko didelių logikos šuolių arba hipotetinių aplinkybių.

Coxon teigė, kad dirbtinio intelekto agentų grupė, pagrįsta šiuo metu neegzistuojančiais dirbtinio intelekto modeliais, galėtų nuspręsti sukurti ir nukreipti biologinį ginklą, tačiau jis nepaaiškino, kaip tiksliai tai vyktų.

Rishubas Jainas, kuris šią vasarą įkūrė dirbtinio intelekto saugumo tyrimų įmonę „Sampura Research“, prieš tai septynerius metus dirbęs „DeepMind“, naujienu portalas teigė, kad daugelio dirbtinio intelekto srityje dirbančių žmonių tonas, kalbant apie naujas baimes, „tikrai buvo šiek tiek juokingas“.

„Apie šią idėją žmonės kalba jau daugelį metų, todėl dirbantys AI įmonėse žmonės neatsibudo praeitą savaitę galvodami: ‚O ne, AI nužudys visus‘“, – sakė Jainas. „Jei tai būtų visiškai nauja, tonas būtų kitoks.“

„Meta“ duomenų mokslininkas Kolinas Fraseris praėjusią savaitę socialiniuose tinkluose parašė, kad nėra jokių realių įrodymų, jog AI modeliai neišvengiamai sieks tikslo, vedančio prie žmonių mirties.

Nors Fraserio paaiškinimas buvo techninis ir konkretus, jis jį apibendrino šmaikščiai: „Didieji kalbos modeliai (LLM) [large language models] neišnaikins žmonijos, nes juose tiesiog nėra to „šuns“.“

Frazė „to „šuns“ jose“ yra įprasta slengo frazė, paprastai reiškianti stiprų azartą.

Nepaisant juokų, AI specialistai ir tyrėjai išreiškė susirūpinimą dėl realių ir neatidėliotinų pavojų, kuriuos kelia jų kuriama technologija.

„Ekspertų diskusijos buvo daug subtilesnės, tačiau iš esmės visi sutinka, kad yra daug įvairių pavojų, kuriuos svarbu įvertinti ir sumažinti“, – sakė Džainas.

Tarp tokių pavojų – užkirsti kelią vartotojams ir hakeriams priversti dirbtinio intelekto įrankio apsaugines priemones sužlugti. Be to, vis labiau auga etiniai susirūpinimai dėl to, kad dirbtinio intelekto įrankiai vis plačiau diegiami karinėje srityje.

Ne visi didžiųjų įmonių, dirbančių dirbtinio intelekto (AI) srityje, darbuotojai mano, kad ši technologija reiškia pražūtį žmonijai.

Tekstiniuose pokalbiuose ir diskusijose daugelis žmonių, dirbusių tokiose įmonėse kaip „OpenAI“, „Meta“ ir „DeepMind“, skeptiškai vertino idėją, kad nekontroliuojama AI plėtra galėtų sukurti įrankius, galinčius masiškai žudyti žmones.

„Lol“, „Haaaaaa“ ir „Bringing the luls“ – tai tik keletas reakcijų, kurias naujienu portalas gavo į neseniai pasipylusius garsių šios srities atstovų perspėjimus.

Nors šios baimės siekia kelis dešimtmečius, praėjusią savaitę buvusio „Anthropic“ darbuotojo Jacobo Coxono pareiškimai tapo itin populiarūs ir sulaukė pritarimo iš kitų šio sektoriaus atstovų, kurie ragino sulėtinti plėtrą.

Idėją, kad ateities AI įrankis ar agentas – AI botas, užprogramuotas veikti gana savarankiškai – galėtų kelti pavojų žmonėms, internete palaikė „Anthropic“ darbuotojai, taip pat „OpenAI“, „Deepmind“ ir Elonas Muskas, kuriam priklauso AI startuolis „xAI“.

Visi su naujienu portalas kalbėję darbuotojai tai darė su sąlyga, kad bus išlaikytas jų anonimiškumas, nes jiems nebuvo leista bendrauti su žiniasklaida. Jų tapatybės yra žinomos naujienu portalas.

„Mano pirmoji mintis buvo: ‚Tas vyras?‘“, – sakė buvęs „OpenAI“ darbuotojas, kuris pažinojo Koksoną, kai abu dirbo toje pačioje įmonėje.

Šis asmuo, dabar dirbantis kitoje dirbtinio intelekto įmonėje, teigė, kad jo nuostaba dėl naujos bangos egzistencinių baimių dėl dirbtinio intelekto daugiausia kilo dėl to, kad šios idėjos šalininkai pateikė labai mažai detalių, siekdami pagrįsti teiginį, kad pavojuje yra visa žmonijos gyvybė.

Šie teiginiai yra „visada nekonkretūs“, – sakė šis asmuo, pridurdamas, kad net kai jie skamba konkrečiai, juose dažnai pasitaiko didelių logikos šuolių arba hipotetinių aplinkybių.

Coxon teigė, kad dirbtinio intelekto agentų grupė, pagrįsta šiuo metu neegzistuojančiais dirbtinio intelekto modeliais, galėtų nuspręsti sukurti biologinį ginklą ir jį panaudoti, tačiau jis nepaaiškino, kaip tiksliai tai įvyktų.

Rishubas Jainas, kuris šią vasarą įkūrė dirbtinio intelekto saugumo tyrimų įmonę „Sampura Research“ po septynerių metų darbo „DeepMind“, naujienu portalas teigė, kad dabartinis daugelio dirbtinio intelekto srityje dirbančių žmonių tonas, susijęs su naujais nuogąstavimais, „tikrai buvo šiek tiek juokingas“.

„Apie šią idėją kalbama jau daugelį metų, todėl dirbantys AI įmonėse žmonės neatsibudo praeitą savaitę galvodami: ‚O ne, AI visus nužudys‘“, – sakė R. Jainas. „Jei tai būtų visiškai nauja, tonas būtų kitoks.“

„Meta“ duomenų mokslininkas Colin Fraser praėjusią savaitę socialiniuose tinkluose parašė, kad nėra jokių realių įrodymų, jog AI modeliai neišvengiamai sieks tikslo, vedančio prie žmonių mirties.

Nors Fraserio paaiškinimas buvo techninis ir konkretus, jis jį apibendrino šmaikščiai: „LLM [large language models] neišnaikins žmonijos, nes juose tiesiog nėra to „šuns“.

Frazė „to „šuns“ jose“ yra įprastas slengo posakis, paprastai reiškiantis stiprų azartą.

Nepaisant juokų, dirbantys su AI specialistai ir tyrėjai išreiškė bendrą susirūpinimą dėl realių ir neatidėliotinų pavojų, kuriuos kelia jų kuriama technologija.

„Ekspertų diskusijos buvo daug subtilesnės, tačiau iš esmės visi sutinka, kad yra daug įvairių pavojų, kuriuos svarbu įvertinti ir sumažinti“, – sakė Džainas.

Tarp tokių pavojų – užkirsti kelią vartotojams ir hakeriams priversti dirbtinio intelekto įrankio apsaugos mechanizmus sugedti. Be to, vis labiau didėja etiniai susirūpinimai dėl to, kad AI įrankiai vis plačiau diegiami karinėje srityje.

Užsiprenumeruokite mūsų naujienlaiškį „Tech Decoded“, kad galėtumėte sekti svarbiausias pasaulio technologijų naujienas ir tendencijas. Esate už Jungtinės Karalystės ribų? Užsiprenumeruokite čia.