„OpenAI“ vadovas teigia, kad pasaulis „turi teisę bijoti“, tačiau turėtų pasitikėti dirbtinio intelekto įmonėmis

„ChatGPT“ kūrėjo „OpenAI“ vadovas teigia, kad žmonės turėtų labiau pasitikėti jo įmone ir kitomis panašiomis įmonėmis, kad jos elgsis teisingai dirbtinio intelekto (AI) plėtros srityje, atsižvelgiant į didėjantį visuomenės susirūpinimą dėl rizikos.

„Pasaulis turėtų pasitikėti, kad mes elgsimės teisingai, nes tai yra teisinga ir mes suvokiame šio reiškinio svarbą“, – antradienį per konferenciją San Franciske sakė Samas Altmanas.

Tačiau S. Altmanas pažymėjo, kad žmonių baimės dėl AI yra pagrįstos, nes šių įrankių galimybės sparčiai tobulėja.

Tuo tarpu Vašingtone kalbėdami kairiųjų pažiūrų senatorius Bernie Sandersas ir buvęs D. Trumpo patarėjas Steve’as Bannonas abu paragino užtikrinti griežtesnį AI reguliavimą.

Altmanas šiuos komentarus išsakė dalyvaudamas programinės įrangos bendrovės „Salesforce“ rengiamoje metinėje konferencijoje.

„Dabar nereikia tiek daug vaizduotės, kiek anksčiau, kad [us] įsivaizduoti, kaip tai galėtų baigtis blogai“, – sakė jis. „Manau, pasaulis teisėtai to bijo.“

Tai buvo pirmas kartas, kai jis viešai pasisakė po to, kai praėjusią savaitę plačiai išplito dirbtinio intelekto įmonės „Anthropic“ tyrėjo, kuris išėjo iš darbo, įrašas. Tyrėjas teigė, kad, jei nebus imtasi jokių priemonių, dirbtinis intelektas iki šio dešimtmečio pabaigos gali išnaikinti visus žmones.

Keletas kitų dirbtinio intelekto srities vadovų ir ekspertų atsakė, kad sutinka su šia įvertinimu, nors ir nepaaiškino, kaip priėjo prie tokių išvadų ar kaip tiksliai dirbtinis intelektas galėtų tai padaryti.

Dėl šių teiginių kilęs susidomėjimas pastarosiomis dienomis paskatino atidžiau stebėti AI plėtrą, o reaguodamas į tai „Anthropic“ generalinis direktorius Dario Amodei paragino sulėtinti visą AI plėtrą, išorinis ir paragino vyriausybes reguliuoti šią pramonės šaką.

Šį įrašą palankiai įvertino A. Altmanas, taip pat „Google“ „DeepMind“ įkūrėjas Demis Hassabis ir socialinės medijos svetainės „X“ bei AI asistento „Grok“ savininkas Elonas Muskas.

Iki antradienio vis daugiau dirbtinio intelekto lyderių išreiškė paramą savireguliacijai, o ne vyriausybių įsikišimui.

Altmanas teigė, kad, jo nuomone, tokios dirbtinio intelekto įmonės kaip jo paties yra iš esmės pajėgios pačios save reguliuoti.

„Mes viską padarysime teisingai, esu labai įsitikinęs mūsų įmonės ir visos pramonės šakos gebėjimu tai padaryti saugiai“, – sakė Altmanas, pridurdamas, kad yra įsitikinęs, jog jie „suderinimą ir saugumą laikys kur kas svarbesniais už galimybes“, o jei to nepavyks, jie „sulėtins tempą arba sustos“.

Nepaisant šių patikinimų, politikai įspėjo dėl savireguliacijos pavojų.

Bernie Sandersas, nepriklausomas senatorius iš Vermonto, balsuojantis kartu su demokratais, teigė, kad sprendimus dėl dirbtinio intelekto plėtros priima „keletas turtingiausių žmonių pasaulyje“, paminėdamas, be kitų, Eloną Muską, „Meta“ vadovą Marką Zuckerbergą ir „Amazon“ įkūrėją Jeffą Bezosą.

Kalbėdamas Vašingtone surengtoje konferencijoje, jis sakė: „Sprendimus dėl AI turi priimti šios šalies žmonės, o ne tik keli oligarchai.“

Bannonas, kuris per Trumpo pirmąją kadenciją ėjo Baltųjų rūmų strategijos vadovo pareigas, taip pat išreiškė abejones dėl technologijų pramonės gebėjimo savarankiškai reguliuoti savo veiklą.

„Niekada negalime pasitikėti tuo, ką sako oligarchai, nes… jie yra veidmainiai ir meluoja“, – toje pačioje konferencijoje sakė Bannonas.

Po Altmano komentarų Markas Zuckerbergas „X“ parašė, kad kiekviena AI laboratorija turi galimybę ir motyvaciją „imtis savarankiškų veiksmų“, siekdama sukurti saugumui pritaikytus AI įrankius ir modelius.

„Bet kuri laboratorija, nesutelkusi dėmesio į suderinimą, atsiliks“, – rašė Zuckerbergas. „Laboratorijoms gresia didelė atsakomybė, jei jų modeliai padarys žalą, todėl jos taip pat turi stiprią paskatą tai užkirsti kelią.“

„Nvidia“ vadovas Jensenas Huangas toje pačioje antradienio konferencijoje taip pat teigė, kad AI įmonės pačios turėtų spręsti, ar išleisti naujas technologijos versijas, o ne leisti, kad tai darytų išorės jėgos.

„Mums nereikia naujų įstatymų ar reglamentų“, – sakė Huangas, pridurdamas, kad neturėtų būti „klaidingo pasirinkimo“ tarp inovacijų greičio ir dirbtinio intelekto produktų saugumo.

„Nvidia“ yra didžiausia pasaulyje įmonė pagal rinkos vertę, o jos pelnas smarkiai išaugo dėl didžiulės paklausos jos gaminamiems AI skaičiavimo lustams.

„Saugumas yra svarbiausia. Tačiau saugumas yra inžinerinė problema“, – sakė Huang.

Jis pridūrė, kad jei bet kuriuo metu dirbtinio intelekto įmonės vadovas neturi pasitikėjimo savo produktu, jis turėtų nuspręsti jo neišleisti.

„Tai labai akivaizdus sprendimas“, – sakė Huangas. „Veikite kuo greičiau, bet jei bet kuriuo metu pajusite, kad organizacija nebevaldo situacijos, sustokite.“

„ChatGPT“ kūrėjos „OpenAI“ vadovas teigia, kad žmonės turėtų labiau pasitikėti jo įmone ir kitomis panašiomis įmonėmis, kad jos elgsis teisingai dirbtinio intelekto (AI) plėtros srityje, ypač atsižvelgiant į didėjantį visuomenės susirūpinimą dėl rizikos.

„Pasaulis turėtų pasitikėti, kad mes elgsimės teisingai, nes tai yra teisinga, ir mes suvokiame šio reiškinio svarbą“, – antradienį per konferenciją San Franciske sakė Samas Altmanas.

Tačiau S. Altmanas pažymėjo, kad žmonių baimės dėl AI yra pagrįstos, nes šių įrankių galimybės sparčiai tobulėja.

Tuo tarpu Vašingtone kalbėdami kairiųjų pažiūrų senatorius Bernis Sandersas ir buvęs D. Trumpo patarėjas Stevas Bannonas abu paragino užtikrinti griežtesnį AI reguliavimą.

Altmanas šiuos komentarus pateikė, dalyvaudamas programinės įrangos bendrovės „Salesforce“ rengiamoje metinėje konferencijoje.

„Dabar nebereikia tiek daug vaizduotės, kiek anksčiau, kad [us] įsivaizduoti, kaip viskas gali pakrypti“, – sakė jis. „Manau, pasaulis teisėtai to bijo.“

Tai buvo pirmasis jo viešas pasisakymas po to, kai praėjusią savaitę internete išplito įrašą, kurį paskelbė iš dirbtinio intelekto įmonės „Anthropic“ išėjęs tyrėjas. Tyrėjas teigė, kad, jei nebus imtasi jokių priemonių, dirbtinis intelektas iki šio dešimtmečio pabaigos gali išnaikinti visus žmones.

Keletas kitų dirbtinio intelekto įmonių vadovų ir ekspertų atsakė, kad sutinka su šia įvertinimu, nors ir nepaaiškino, kaip priėjo prie tokių išvadų ar kaip tiksliai dirbtinis intelektas galėtų tai padaryti.

Dėl susidariusio ažiotažo pastarosiomis dienomis dirbtinio intelekto plėtra sulaukė didesnio dėmesio, o „Anthropic“ generalinis direktorius Dario Amodei reagavo ragindamas sulėtinti visą dirbtinio intelekto plėtrą, išorinis ir paragino vyriausybes reguliuoti šią pramonės šaką.

Šį įrašą palankiai įvertino Altmanas, taip pat „Google“ padalinio „DeepMind“ įkūrėjas Demis Hassabis ir socialinės medijos svetainės „X“ bei dirbtinio intelekto asistento „Grok“ savininkas Elonas Muskas.

Iki antradienio vis daugiau dirbtinio intelekto lyderių išreiškė paramą savireguliacijai, o ne vyriausybių įsikišimui.

Altmanas teigė, kad, jo nuomone, tokios dirbtinio intelekto įmonės kaip jo paties yra iš esmės pajėgios pačios save reguliuoti.

„Mes viską padarysime teisingai, esu labai įsitikinęs mūsų įmonės ir visos pramonės šakos gebėjimu tai padaryti saugiai“, – sakė A. Altmanas, pridurdamas, kad yra įsitikinęs, jog jie „suderinimą ir saugumą laikys kur kas svarbesniais už galimybes“, o jei to nepavyks, jie „sulėtins tempą arba sustos“.

Nepaisant šių patikinimų, politikai įspėjo dėl savireguliacijos.

Bernie Sandersas, nepriklausomas senatorius iš Vermonto, balsuojantis kartu su demokratais, teigė, kad sprendimus dėl dirbtinio intelekto plėtros priima „keletas turtingiausių žmonių pasaulyje“, paminėdamas, be kitų, Eloną Muską, „Meta“ vadovą Marką Zuckerbergą ir „Amazon“ įkūrėją Jeffą Bezosą.

Kalbėdamas Vašingtone surengtoje konferencijoje, jis sakė: „Sprendimus dėl AI turi priimti šios šalies žmonės, o ne tik keli oligarchai.“

Bannonas, kuris per Trumpo pirmąją kadenciją ėjo Baltųjų rūmų strategijos vadovo pareigas, taip pat išreiškė abejones dėl technologijų pramonės gebėjimo savarankiškai reguliuoti savo veiklą.

„Niekada negalime pasitikėti tuo, ką sako oligarchas, nes… jie yra veidmainiai ir meluoja“, – toje pačioje konferencijoje sakė Bannonas.

Po Altmano komentarų Markas Zuckerbergas „X“ parašė, kad kiekviena AI laboratorija turi galimybę ir motyvaciją „imtis savarankiškų veiksmų“, siekdama sukurti saugumui pritaikytus AI įrankius ir modelius.

„Bet kuri laboratorija, nesikoncentruojanti į suderinamumą, atsiliks“, – rašė Zuckerbergas. „Laboratorijoms gresia didelė atsakomybė, jei jų modeliai padarys žalą, todėl jos turi stiprų motyvą ir tai užkirsti kelią.“

„Nvidia“ vadovas Jensenas Huangas toje pačioje antradienio konferencijoje taip pat teigė, kad AI įmonės pačios turėtų spręsti, ar išleisti naujas technologijos versijas, o ne leisti, kad tai darytų išorės jėgos.

„Mums nereikia naujų įstatymų ar reglamentų“, – sakė Huangas, pridurdamas, kad neturėtų būti „klaidingo pasirinkimo“ tarp inovacijų greičio ir AI produktų saugumo.

„Nvidia“ yra didžiausia pasaulyje pagal rinkos vertę įmonė, kurios pelnas smarkiai išaugo dėl didžiulės paklausos jos gaminamiems dirbtinio intelekto skaičiavimo lustams.

„Saugumas yra svarbiausia. Tačiau saugumas yra inžinerinė problema“, – sakė Huangas.

Jis pridūrė, kad jei bet kuriuo metu dirbtinio intelekto įmonės vadovas neturi pasitikėjimo savo produktu, jis turėtų nuspręsti jo neišleisti.

„Tai labai akivaizdu“, – sakė Huangas. „Veikite kuo greičiau, bet jei bet kuriuo metu pajusite, kad organizacija nebekontroliuoja situacijos, sustokite.“