Karalius Čarlzas įspėja apie „egzistencinį pavojų“, kylantį dėl dirbtinio intelekto patekimo į netinkamas rankas

Karalius Čarlzas įspėjo dirbtinio intelekto srities vadovus apie „egzistencinius pavojus“, kylančius dėl šios technologijos patekimo į netinkamas rankas.

Jis išsakė šias pastabas viršūnių susitikime, kurį surengė „Dumfries House“ Ayrshire, siekdamas aptarti, kaip šią technologiją galima panaudoti visuomenės labui.

Susitikime taip pat dalyvavo Jungtinės Karalystės dirbtinio intelekto ministras Kanishka Narayan, popiežiaus patarėjas bei atstovai iš tokių dirbtinio intelekto milžinų kaip „Nvidia“, „OpenAI“ ir „Anthropic“.

Tai vyksta atsižvelgiant į pastaruoju metu iš pramonės atstovų skambančius perspėjimus apie sparčiai besivystančias pažangių arba „pionieriškų“ AI modelių galimybes ir reguliavimą, reikalingą jų kontrolei užtikrinti.

„Šių technologijų kūrėjai dabar vis dažniau įspėja, kad dirbtinis intelektas gali įgyti tamsesnių gebėjimų – galbūt netgi atimti gyvybę“, – sakė karalius vadovams.

Jis teigė, kad atrodo esant „skubų poreikį“ „tinkamai įvertinti egzistencinius pavojus, kylančius dėl to, kad tokios technologijos gali patekti į netinkamas rankas ir būti panaudotos potencialiai katastrofiškais būdais“.

„Jūsų užduotis – ne tik tobulinti technologijas, bet ir užtikrinti, kad jos ir toliau tvirtai tarnautų žmonijai, bendruomenei ir gamtai“, – sakė jis susirinkusiems.

Šis aukščiausiojo lygio susitikimas buvo sušauktas siekiant apsvarstyti, ar galima parengti „bendrą principų rinkinį“, kuris „padėtų nukreipti ateities dirbtinio intelekto taikymą“.

Tarp susitikime dalyvavusių pramonės lyderių buvo ir „Nvidia“ generalinis direktorius Jensenas Huangas.

„Nvidia“ yra pagrindinė dirbtinio intelekto infrastruktūros veikėja, tiekanti lustus pirmaujantiems dirbtinio intelekto modelių kūrėjams, įskaitant „OpenAI“ ir „Meta“.

Be to, tai yra vertingiausia pasaulio įmonė, kurios rinkos vertė siekia apie 5,15 trilijonų JAV dolerių.

Huang susirinkusiems sakė, kad, jo nuomone, saugumas yra „svarbiausias dalykas“, ir pridūrė, kad įmonės turėtų atidėti produkto išleidimą ir „toliau tobulinti“ jį, jei jis nėra pakankamai saugus.

„Nvidia“ vadovas taip pat pabrėžė atvirų modelių – sistemų, suteikiančių vartotojams tiesioginę prieigą prie programinės įrangos – vertę kaip būdą „užtikrinti, kad žmonės ir šalys neliktų atsilikę“.

Jis sakė, kad šios sistemos taip pat turi būti apsaugotos, kad „tyrėjai, universitetai, startuoliai ir šalys“ galėtų kurti programas, „kurių nė vienas iš mūsų nebūtų sugalvojęs vienas“.

„Vadovaukimės atsakingu optimizmu, kurkime AI saugiai ir patikimai, atverkime ją daugiau žmonių, plėskime savo siekius ir spręskime problemas, kurios svarbios pasauliui“, – pridūrė Huang.

Tuo tarpu seras Demis Hassabis, vienas iš Jungtinės Karalystės AI laboratorijos „DeepMind“ (vėliau įsigytos „Google“) įkūrėjų, išreiškė atsargesnę nuomonę dėl plėtros tempo.

Jis teigė, kad bendroji dirbtinė intelekto sistema – sistema, kuri, kaip manoma, daugelyje užduočių galėtų būti ne prastesnė už žmogų ar net geresnė – „tikriausiai pasirodys jau po kelerių metų“ ir jos poveikis galėtų būti „dešimt kartų didesnis nei Pramonės revoliucijos“.

Sir Demis pridūrė, kad tikimybė, jog kažkas pakryps ne taip, yra „tikrai didesnė nei nulis“.

Tačiau jis pasisakė už „protingą vidurį“, teigdamas, kad žmonija galėtų įveikti rizikas, jei jai būtų suteikta galimybė ir laiko joms sušvelninti.

„Ateitis dar nėra nulemta“, – sakė jis karaliaus delegatams.

Karalius Čarlzas įspėjo dirbtinio intelekto srities vadovus apie „egzistencinius pavojus“, kuriuos kelia ši technologija, patekusi į netinkamas rankas.

Šiuos komentarus jis išsakė viršūnių susitikime, kurį sušaukė „Dumfries House“ rūmuose Airšyre, siekdamas aptarti, kaip šią technologiją galima panaudoti visuomenės labui.

Susitikime taip pat dalyvavo Jungtinės Karalystės dirbtinio intelekto ministras Kanishka Narayan, popiežiaus patarėjas bei atstovai iš tokių dirbtinio intelekto milžinų kaip „Nvidia“, „OpenAI“ ir „Anthropic“.

Tai vyksta tuo metu, kai pramonės atstovai pastaruoju metu nuolat įspėja apie sparčiai besivystančias pažangių arba „pionieriškų“ dirbtinio intelekto modelių galimybes ir būtinybę juos reguliuoti.

„Šių technologijų kūrėjai dabar vis dažniau įspėja, kad dirbtinis intelektas gali įgyti tamsesnių gebėjimų – galbūt netgi atimti gyvybę“, – sakė karalius vadovams.

Jis teigė, kad atrodo esant „skubų poreikį“ „tinkamai įvertinti egzistencinius pavojus, kylančius dėl to, kad tokios technologijos gali patekti į netinkamas rankas ir būti naudojamos potencialiai katastrofiškais būdais“.

„Jūsų užduotis – ne tik plėtoti technologijas, bet ir užtikrinti, kad jos ir toliau tvirtai tarnautų žmonijai, bendruomenei ir gamtai“, – sakė jis susirinkusiems.

Šis aukščiausiojo lygio susitikimas buvo sušauktas siekiant apsvarstyti, ar galima parengti „bendrą principų rinkinį“, kuris „padėtų nukreipti ateities dirbtinio intelekto taikymą“.

Tarp susitikime dalyvavusių pramonės lyderių buvo „Nvidia“ generalinis direktorius Jensenas Huangas.

„Nvidia“ yra pagrindinė dirbtinio intelekto infrastruktūros dalyvė, tiekianti lustus pirmaujantiems dirbtinio intelekto modelių kūrėjams, įskaitant „OpenAI“ ir „Meta“.

Be to, tai yra vertingiausia pasaulio įmonė, kurios rinkos vertė siekia apie 5,15 trilijono JAV dolerių.

Huang susirinkusiems sakė, kad, jo nuomone, saugumas yra „svarbiausia“, ir pridūrė, kad įmonės turėtų atidėti produkto išleidimą ir „toliau tobulinti“, jei jis nėra pakankamai saugus.

„Nvidia“ vadovas taip pat pabrėžė atvirų modelių – sistemų, suteikiančių vartotojams tiesioginę prieigą prie programinės įrangos – vertę kaip būdą „užtikrinti, kad žmonės ir šalys nebūtų palikti nuošalyje“.

Jis teigė, kad šios sistemos taip pat turi būti apsaugotos, kad „tyrėjai, universitetai, startuoliai ir šalys“ galėtų kurti programas, „kurių nė vienas iš mūsų nebūtų sugalvojęs vienas“.

„Vadovaukimės atsakingu optimizmu, kurkime AI saugiai ir patikimai, atverkime ją daugiau žmonių, plėskime savo siekius ir spręskime problemas, kurios svarbios pasauliui“, – pridūrė Huang.

Tuo tarpu seras Demis Hassabis, vienas iš Jungtinės Karalystės dirbtinio intelekto laboratorijos „DeepMind“ (vėliau įsigytos „Google“) įkūrėjų, išreiškė atsargesnę nuomonę dėl plėtros tempo.

Jis teigė, kad bendrasis dirbtinis intelektas – sistemos, kurios, kaip manoma, daugelyje užduočių galėtų būti tokios pačios geros kaip žmonės arba net geresnės – „tikriausiai pasirodys jau po kelerių metų“ ir jo poveikis galėtų būti „dešimt kartų didesnis nei Pramonės revoliucijos“.

Sir Demis pridūrė, kad tikimybė, jog kažkas pakryps ne taip, „tikrai nėra lygi nuliui“.

Tačiau jis pasisakė už „protingą vidurį“, teigdamas, kad žmonija galėtų susidoroti su rizika, jei jai būtų suteikta erdvė ir laikas jai sušvelninti.

„Ateitis dar nėra nulemta“, – sakė jis karaliaus atstovams.