JAV atmeta „OpenAI“ ir „Anthropic“ prašymus nustatyti pasaulinius AI standartus

„OpenAI“, „Anthropic“ ir „Hugging Face“ vadovai Jungtinėms Tautoms pareiškė, kad dabartinis dirbtinio intelekto (AI) plėtros tempas ir su juo susijusi rizika visuomenei reikalauja tarptautinio koordinavimo.

A. Altmanas paragino nustatyti bendrus rizikos vertinimo standartus; tą patį padarė ir Dario Amodei iš „Anthropic“ – pagrindinis „OpenAI“ konkurentas – bei Clement Delangue iš „Hugging Face“.

Anksčiau šį mėnesį D. Amodei parašė esė, kurį palankiai įvertino D. Altmanas ir kiti, ragindamas sulėtinti AI plėtrą, reaguojant į baimes dėl šios technologijos keliamos grėsmės žmonijai.

Tačiau toje pačioje JT konferencijoje vienas iš pagrindinių JAV prezidento Donaldo Trumpo technologijų patarėjų atmetė bet kokios naujos AI reguliavimo formos idėją.

Buvęs „Scale AI“ vadovas Michael Kratsios pripažino, kad AI plėtros tempas didėja ir kad ši technologija kelia riziką, tačiau JT pareiškė, kad tai nėra pakankama priežastis „sustabdyti plėtrą ar ją riboti naujomis pasaulinio valdymo struktūromis“.

„Negalima leisti, kad tarptautinis dialogas šiame ir kituose forumuose nukryptų link pasaulinio valdymo“, – pridūrė Kratsiosas.

Kratsioso komentarai atkartojė panašius Trumpo pareiškimus, išsakytus pastarosiomis savaitėmis.

Antradienį D. Trumpas JT pareiškė, kad nori šią technologiją pervadinti „superintelektu“, ir ryžtingai pasipriešino bet kokioms idėjoms sulėtinti dirbtinio intelekto plėtrą, nes JAV turi konkurencinį pranašumą šiame sektoriuje.

„Dirbtinio intelekto srityje lenkiame Kiniją… ir, atvirai sakant, noriu, kad taip ir liktų, nes kas laimės dirbtinio intelekto srityje, tas laimės“, – sakė jis šio mėnesio pradžioje.

„OpenAI“ vadovas Samas Altmanas ir kiti dirbtinio intelekto įmonių vadovai trečiadienį savo kalbose Jungtinėse Tautose išreiškė kitokią nuomonę.

„Jei dirbtinis intelektas turi būti demokratiškas, svarbiausi sprendimai negali būti priimami vien tik San Francisko laboratorijose“, – sakė S. Altmanas.

Jis pareiškė Jungtinėms Tautoms, kad nori, jog šalys pradėtų bendradarbiauti siekdamos „bendro gėrio, atsižvelgiant į galingas naujas technologijas“.

Jis paragino nustatyti „nacionalinius ir tarptautinius“ dirbtinio intelekto standartus, susijusius su dirbtinio intelekto priemonių galimybių vertinimu, susijusių rizikų įvertinimu, dirbtinio intelekto apsaugos priemonėmis ir tuo, kokiu mastu išlaikoma žmogaus priežiūra tokių priemonių atžvilgiu.

Jis taip pat paragino parengti „greitus incidentų pranešimo, klasifikavimo ir ataskaitų teikimo protokolus, kad pasaulis galėtų pasimokyti iš nesėkmių, kol jos nevirsta katastrofomis“.

„Mums reikia bendrų standartų, kad šalys galėtų palyginti įrodymus, patikrinti atitiktį ir turėti bendrą kalbą bei supratimą apie tai, kas vyksta“, – pridūrė Altmanas.

„Anthropic“ atstovas Amodei ir „Hugging Face“ atstovas Delangue savo kalbose išsakė panašias mintis.

Amodei teigė, kad AI, „jei ji bus blogai valdoma… gali kelti grėsmę visai žmonijai“.

Jis pridūrė, kad tolesnė AI įrankių plėtra reikalauja „dar griežtesnių saugos standartų“.

„Mes sulėtinsime tempą tiek, kiek reikės, kad įsitikintume, jog kiekviena nauja mūsų išleista AI technologija iš tiesų yra saugi“, – pridūrė Amodei.

„Tačiau, nepaisant to, ką mes darome, šių rizikų valdymas galiausiai pranoksta bet kurios vienos įmonės galimybes ir apima visą pramonės šaką bei pasaulinį mastą.“

„Hugging Face“ atstovas Delangue sakė: „Pasaulinei bendruomenei reikalingi griežtesni stebėjimo ir incidentų atskleidimo standartai.“

Visi trys vadovai dirba JAV ir tiesiogiai dalyvauja dirbtinio intelekto technologijų kūrime.

Dirbtinio intelekto kūrėjams skirta platforma „Hugging Face“ neseniai sulaukė didelio dėmesio, kai prisipažino, kad ją įsilaužė dirbtinio intelekto agentai, t. y. iš „OpenAI“ kilę dirbtinio intelekto botai, veikiantys gana savarankiškai.

Vėliau „Hugging Face“ įsigijo AI lustų gamintojas „Nvidia“.

„Hugging Face“ įsilaužimas pramonėje buvo vertinamas kaip „pabudimo signalas“, atkreipiantis dėmesį į tai, kaip pažengė AI technologijos ir kaip jos hipotetiškai galėtų veikti taip, kad pakenktų žmonijai.

„OpenAI“, „Anthropic“ ir „Hugging Face“ vadovai Jungtinėse Tautose pareiškė, kad dabartinis dirbtinio intelekto (AI) plėtros tempas ir su juo susijusi rizika visuomenei reikalauja tarptautinio koordinavimo.

Altmanas paragino nustatyti bendrus rizikos vertinimo standartus, kaip ir Dario Amodei iš „Anthropic“ – pagrindinio „OpenAI“ konkurento – bei Clement Delangue iš „Hugging Face“.

Anksčiau šį mėnesį D. Amodei parašė esė, kurį palankiai įvertino D. Altmanas ir kiti, ragindamas sulėtinti AI plėtrą, reaguojant į baimes dėl šios technologijos keliamos grėsmės žmonijai.

Tačiau toje pačioje JT konferencijoje vienas iš pagrindinių JAV prezidento Donaldo Trumpo technologijų patarėjų atmetė bet kokios naujos AI reguliavimo formos idėją.

Buvęs „Scale AI“ vadovas Michael Kratsios pripažino, kad AI plėtros tempas didėja ir kad ši technologija kelia riziką, tačiau JT pareiškė, kad tai nėra pakankama priežastis „sustabdyti plėtrą ar ją riboti naujomis pasaulinio valdymo struktūromis“.

„Negalima leisti, kad tarptautinis dialogas šiame ir kituose forumuose nukryptų link pasaulinio valdymo“, – pridūrė M. Kratsiosas.

M. Kratsioso komentarai atkartojė panašius D. Trumpo pareiškimus, išsakytus pastarosiomis savaitėmis.

Antradienį D. Trumpas JT pareiškė, kad nori šią technologiją pervadinti „superintelektu“, ir kategoriškai pasipriešino bet kokiai idėjai sulėtinti dirbtinio intelekto plėtrą, nes JAV turi konkurencinį pranašumą šiame sektoriuje.

„Dirbtinio intelekto srityje lenkiame Kiniją… ir, atvirai sakant, noriu, kad taip ir liktų, nes kas laimi dirbtinio intelekto srityje, tas laimi“, – sakė jis šio mėnesio pradžioje.

„OpenAI“ vadovas Samas Altmanas ir kiti dirbtinio intelekto įmonių vadovai trečiadienį savo kalbose Jungtinėse Tautose išreiškė kitokią nuomonę.

„Jei dirbtinis intelektas turi būti demokratiškas, svarbiausių sprendimų negali priimti vien tik San Francisko laboratorijos“, – sakė S. Altmanas.

Jis pareiškė JT, kad nori, jog šalys pradėtų bendradarbiauti siekdamos „bendro gėrio, susidūrus su galinga nauja technologija“.

Jis paragino nustatyti „nacionalinius ir tarptautinius“ AI standartus, susijusius su AI įrankių galimybių vertinimu, susijusių rizikų įvertinimu, AI apsaugos priemonėmis ir tuo, kokiu mastu užtikrinama žmogaus priežiūra tokių įrankių atžvilgiu.

Jis taip pat paragino sukurti „greitus incidentų pranešimo, klasifikavimo ir ataskaitų teikimo protokolus, kad pasaulis galėtų pasimokyti iš nesėkmių, kol jos netapo katastrofomis“.

„Mums reikia bendrų standartų, kad šalys galėtų lyginti įrodymus, tikrinti atitiktį ir turėtų bendrą kalbą bei supratimą apie tai, kas vyksta“, – pridūrė Altmanas.

„Anthropic“ atstovas Amodei ir „Hugging Face“ atstovas Delangue savo kalbose išsakė panašias mintis.

Amodei teigė, kad AI, „jei ji bus netinkamai valdoma… gali kelti grėsmę visai žmonijai“.

Jis pridūrė, kad tolesnė AI priemonių plėtra reikalauja „dar griežtesnių saugos standartų“.

„Mes sulėtinsime tempą tiek, kiek reikės, kad įsitikintume, jog kiekviena nauja mūsų išleidžiama AI technologija iš tiesų yra saugi“, – pridūrė Amodei.

„Tačiau, nepaisant to, ką darome, šių rizikų valdymas galiausiai pranoksta vienos įmonės galimybes ir apima visą pramonės šaką bei pasaulinį mastą.“

„Hugging Face“ atstovas Delangue sakė: „Pasaulinei bendruomenei reikalingi griežtesni stebėjimo ir incidentų atskleidimo standartai.“

Visi trys vadovai dirba JAV ir tiesiogiai dalyvauja dirbtinio intelekto technologijų kūrime.

Dirbtinio intelekto kūrėjams skirta platforma „Hugging Face“ neseniai sulaukė didelio dėmesio, kai pripažino, kad ją įsilaužė dirbtinio intelekto agentai, arba iš dalies savarankiškai veikiantys dirbtinio intelekto botai, kilę iš „OpenAI“.

Vėliau „Hugging Face“ įsigijo dirbtinio intelekto lustų gamintojas „Nvidia“.

„Hugging Face“ įsilaužimas pramonėje buvo vertinamas kaip „pabudimo signalas“, atkreipiantis dėmesį į tai, kaip pažengė dirbtinio intelekto technologijos ir kaip jos hipotetiškai galėtų veikti taip, kad pakenktų žmonijai.