Daugėja klausimų, kaip atrodytų dirbtinio intelekto „sulėtėjimas“

Per pastaruosius metus netrūko dirbtinio intelekto srities aukščiausių vadovų įspėjimų apie egzistencines grėsmes.

2023 m. lapkričio mėn. Bletchley Parke dalyvavau pirmajame pasaulyje dirbtinio intelekto saugumo viršūnių susitikime, kurio metu daugiausia dėmesio buvo skirta rimčiausioms įsivaizduojamoms grėsmėms, kurias kelia galingiausi dirbtinio intelekto modeliai.

Tuo metu daugelis manė, kad tai yra mokslinės fantastikos sritis, o realios grėsmės buvo palyginti daug proziškesnės: darbo vietų praradimas, sukčiavimas egzaminuose. Praėjus trejiems metams, daugelis tų pačių žmonių nebeatrodo tokie įsitikinę.

Šeštadienį dirbtinio intelekto įmonės „Anthropic“ vadovas Dario Amodei paragino sulėtinti plėtros tempą – dviejų konkuruojančių dirbtinio intelekto įmonių vadovai, „OpenAI“ atstovas Samas Altmanas ir Elonas Muskas, pareiškė, kad jam pritaria.

Tuo tarpu dirbtinio intelekto tyrinėtojas Jacob Coxon, kuris išėjo iš „Anthropic“, sekmadienį portalas teigė, kad sistemas kuriantys darbuotojai „nuoširdžiai bijo“ dėl žmonijos ateities.

Visi jie sudaro rimtų balsų chorą, raginantį sulėtinti tempą, tačiau nors tai gali skambėti kaip greitas sprendimas, tai toli gražu nėra lengva išeitis.

Visuotinai manoma, kad Amerika labai bijo pralaimėti lenktynes su Kinija dėl galingiausio dirbtinio intelekto sukūrimo.

Sekmadienį prezidentas D. Trumpas aiškiai išdėstė savo nuomonę, tvirtindamas, kad JAV lenkia Kiniją dirbtinio intelekto lenktynėse, ir pareiškė: „Kas laimės dirbtinio intelekto srityje, tas laimės.“

Kinija nėra žinoma kaip šalis, norinti užimti antrąją vietą. Visi, su kuriais kalbu, sako, kad net jei jų įmonė sustabdytų veiklą, kiti to nedarys, ir jie tiesiog atsiliks. Man tai primena branduolinio nusiginklavimo kampanijos įkarštį. Tuometinė problema taip pat buvo ta, kad niekas nenorėjo žengti pirmas.

Kyla ir klausimas, kaip, po velnių, būtų užtikrintas sulėtėjimas. Kas tai prižiūrėtų? Ar turėtume pasikliauti tuo, kad AI įmonės bus skaidrios dėl to, ką jos daro, ir, dar svarbiau, dėl to, ko jos nusprendžia nedaryti? Tam reikėtų milžiniško pasitikėjimo, kurio, galima sakyti, technologijų sektorius niekada nėra užsitarnavęs.

Nors Amodei savo įraše pasiūlė trijų punktų planą, apimantį nepriklausomą dirbtinio intelekto modelių stebėseną jų kūrimo metu, visos pramonės šakos reguliavimą ir pasaulinį reguliavimą, kai kurie stebėtojai abejoja, kaip tai veiktų praktikoje.

„Niekas nepateikė išsamaus paaiškinimo, ką reiškia „sulėtinimas“, – sakė „EZ Primary Research“ generalinis direktorius Ed Zitron.

„Į kiekvieną AI įmonę įdėti darbuotoją iš METR, kur dirba vienas iš tų, kurie išėjo iš „Anthropic“? Demokratiškas ir pasaulinis „koordinavimas“? Man tai nieko nereiškia.“

Zitronas teigė, kad sustabdžius AI modelių mokymą, jie taptų pažeidžiami Kinijos konkurentų atžvilgiu.

„Jų pelno maržos galbūt padidės, bet jų produktai bus įšaldyti ir išgryninti Kinijos laboratorijose. Galbūt jiems teks keisti kainodarą. Aš tikrai nežinau, kaip visa tai veikia.

„Tai galėtų prakirsti burbulą. Bet šiuo metu mes labai menkai suprantame, ką reiškia „sulėtėjimas“.“

Per pastaruosius metus nepasigedome įspėjimų iš dirbtinio intelekto srities aukščiausių vadovų apie egzistencines grėsmes.

2023 m. lapkritį Bletchley Parke dalyvavau pirmajame pasaulyje dirbtinio intelekto saugumo viršūnių susitikime, kurio metu daugiausia dėmesio buvo skirta rimčiausioms įsivaizduojamoms grėsmėms, kurias kelia galingiausi dirbtinio intelekto modeliai.

Tuo metu daugelis manė, kad tai yra mokslinės fantastikos sritis, o tikrosios grėsmės yra palyginti daug proziškesnės: darbo vietų praradimas, sukčiavimas egzaminuose. Praėjus trejiems metams, daugelis tų pačių žmonių, atrodo, jau nėra tokie įsitikinę.

Šeštadienį dirbtinio intelekto įmonės „Anthropic“ vadovas Dario Amodei paragino sulėtinti plėtros tempą – dviejų konkuruojančių dirbtinio intelekto įmonių vadovai, „OpenAI“ atstovas Sam Altman ir Elonas Muskas, pareiškė, kad jam pritaria.

Tuo tarpu dirbtinio intelekto tyrinėtojas Jacob Coxon, kuris išėjo iš „Anthropic“, sekmadienį portalas teigė, kad sistemas kuriantys darbuotojai „nuoširdžiai bijo“ dėl žmonijos ateities.

Visi jie sudaro rimtų balsų chorą, raginantį sulėtinti tempą, tačiau, nors tai gali skambėti kaip greitas sprendimas, tai toli gražu nėra lengvas sprendimas.

Visuotinai manoma, kad Amerika labai bijo pralaimėti Kinijai lenktynes dėl galingiausio dirbtinio intelekto sukūrimo.

Sekmadienį prezidentas D. Trumpas aiškiai išdėstė savo nuomonę, teigdamas, kad JAV lenkia Kiniją dirbtinio intelekto lenktynėse, ir pareiškė: „Kas laimės dirbtinio intelekto srityje, tas laimės.“

Kinija nėra žinoma kaip šalis, norinti užimti antrąją vietą. Visi, su kuriais kalbėjausi, sako, kad net jei jų įmonė sustabdytų veiklą, kitos to nepadarys, ir jie tiesiog liks atsilikę. Tai man primena branduolinio nusiginklavimo kampanijos įkarštį. Tuomet problema taip pat buvo ta, kad niekas nenorėjo žengti pirmas.

Kyla ir klausimas, kaip, po velnių, būtų užtikrintas veiklos sulėtinimas. Kas tai prižiūrėtų? Ar turėtume pasikliauti, kad AI įmonės bus skaidrios dėl to, ką daro, ir, dar svarbiau, dėl to, ko nusprendžia nedaryti? Tam reikėtų milžiniško pasitikėjimo, kurio, galima sakyti, technologijų sektorius niekada neužsitarnavo.

Nors Amodei savo įraše pasiūlė trijų punktų planą, apimantį nepriklausomą AI modelių stebėseną jų kūrimo metu, visos pramonės šakos reguliavimą ir pasaulinį reguliavimą, kai kurie stebėtojai abejoja, kaip tai veiktų praktikoje.

„Niekas nepateikė išsamaus paaiškinimo, ką reiškia „sulėtinimas“, – sakė „EZ Primary Research“ generalinis direktorius Edas Zitronas.

„Į kiekvieną AI įmonę įdėti darbuotoją iš „METR“, kur dirba vienas iš tų, kurie išėjo iš „Anthropic“? Demokratiškas ir pasaulinis „koordinavimas“? Man tai nieko nereiškia.“

Zitronas teigė, kad nutraukus AI modelių mokymą, jie taptų pažeidžiami Kinijos konkurentų atžvilgiu.

„Jų pelno maržos galbūt padidės, bet jų produktai bus įkalinti gintare ir išgryninti Kinijos laboratorijose. Galbūt jiems teks keisti kainodarą. Aš tikrai nežinau, kaip visa tai veikia.

„Tai galėtų prakirsti burbulą. Bet šiuo metu mes labai menkai suprantame, ką reiškia „sulėtėjimas“.“