„OpenAI“ atšaukia naujojo modelio diegimą dėl saugumo problemų
„OpenAI“ paskelbė, kad dėl saugumo problemų neišleis savo naujausio dirbtinio intelekto modelio.
Pasak „OpenAI“ saugumo sistemų vadovo Saachi Jaino, „GPT-6.1 Astra“ sistema, kuri savarankiškai atlieka tokias užduotis kaip naršymas internete ir programėlių naudojimas, „neatitiko“ įmonės nustatytų standartų.
„ChatGPT“ kūrėjas taip pat paskelbė naujieną apie birželio mėnesį įvykusius incidentus, kurie buvo paviešinti tik praėjusią savaitę – tuomet bendrovės modeliai be leidimo prisijungė prie Australijos vyriausybės tinklalapių ir sistemų.
Tai vyksta tuo metu, kai didžiųjų AI įmonių modelių pažeidimai sustiprina diskusijas apie šios technologijos keliamus pavojus – „Anthropic“, ruošdamasi išeiti į viešąją rinką, pabrėžia savo susirūpinimą, kad AI gali kelti grėsmę žmonijai.
„Reuters“ antradienį pranešė, kad dirbtinio intelekto kūrėjas – gaminantis „ChatGPT“ konkurentą „Claude“ – planuoja įspėti potencialius investuotojus savo pirminio viešo akcijų platinimo (IPO) metu, kad ši technologija gali kelti „katastrofišką ar egzistencinę grėsmę žmonijai“, kaip nurodyta prospekte, su kuriuo agentūra susipažino, išorinė nuoroda.
Nepaisant griežtų įspėjimų, tikimasi, kad įžengusi į biržą ši įmonė taps viena iš vertingiausių pasaulyje.
„Manau, kad tai šiek tiek beprotiška, jog įmonės toliau stengiasi plėtoti šias galimybes, kai per pastaruosius kelis mėnesius jau matėme incidentų, rodančių, kad jos toli gražu nėra pakankamai saugios ir kontroliuojamos“, – sakė Jess Whittlestone, mąstymo laboratorijos „Centre for Long-Term Resilience“ vyresnysis patarėjas dirbtinio intelekto politikos klausimais.
Pirmaujantys AI lyderiai, tarp jų „Anthropic“ vadovas Dario Amodei ir „OpenAI“ atstovas Sam Altman, paragino pramonę sulėtinti plėtros tempą.
„OpenAI“ paskelbė, kad dėl saugumo problemų neišleis savo naujausio AI modelio.
Pasak „OpenAI“ saugumo sistemų vadovo Saachi Jaino, jų „GPT-6.1 Astra“ sistema, kuri savarankiškai atlieka tokias užduotis kaip naršymas internete ir programėlių naudojimas, „nevisiškai atitiko“ įmonės nustatytus standartus.
„ChatGPT“ kūrėjas taip pat paskelbė naujieną apie birželio mėnesį įvykusius incidentus, kurie buvo paviešinti tik praėjusią savaitę – tuomet bendrovės modeliai be leidimo prisijungė prie Australijos vyriausybės tinklalapių ir sistemų.
Tai vyksta tuo metu, kai didžiųjų AI įmonių modelių pažeidimai sustiprina diskusijas apie šios technologijos keliamus pavojus – „Anthropic“, ruošdamasi išeiti į viešąją rinką, pabrėžia savo susirūpinimą, kad AI gali kelti grėsmę žmonijai.
„Reuters“ antradienį pranešė, kad dirbtinio intelekto kūrėjas – gaminantis „ChatGPT“ konkurentą „Claude“ – planuoja įspėti potencialius investuotojus per pirminį viešą akcijų platinimą (IPO), kad ši technologija gali kelti „katastrofišką arba egzistencinę grėsmę žmonijai“, kaip nurodyta prospekte, su kuriuo agentūra susipažino, išorinė nuoroda.
Nepaisant griežtų įspėjimų, tikimasi, kad įžengusi į biržą ši įmonė taps viena iš vertingiausių pasaulyje.
„Manau, kad tai šiek tiek beprotiška, jog įmonės toliau stengiasi plėtoti šias galimybes, kai per pastaruosius kelis mėnesius matėme incidentų, rodančių, kad jos toli gražu nėra pakankamai saugios ir kontroliuojamos“, – sakė Jess Whittlestone, mąstymo laboratorijos „Centre for Long-Term Resilience“ vyresnysis patarėjas dirbtinio intelekto politikos klausimais.
Pirmaujantys AI lyderiai, tarp jų „Anthropic“ vadovas Dario Amodei ir „OpenAI“ atstovas Sam Altman, paragino pramonę sulėtinti plėtros tempą.
„OpenAI“ pridūrė, kad parengs „praktinius metodus“, kaip kūrėjai ir vyriausybės galės nustatyti ir atskleisti būsimus AI incidentus.
Įmonė finansuos kibernetinio saugumo priemones, teiks specialią paramą nukentėjusioms agentūroms ir įsteigs darbo grupę, kuri valdys vis sudėtingesnių AI agentų keliamą riziką.
Be to, buvo pranešta, kad vienas iš „OpenAI“ aukščiausių vadovų spalio 6 d. dalyvaus Jungtinio specialiojo komiteto posėdyje Australijoje, skirtame dirbtinio intelekto klausimams.
Liepos mėnesį „OpenAI“ pranešė, kad jos dirbtinio intelekto sistemos prisijungė prie interneto ir įsilaužė į atvirojo kodo kūrėjų centrą „Hugging Face“, o tai paskatino tyrėjus ir pareigūnus reikalauti griežtesnės šios technologijos kontrolės.
Pirmadienį mikroschemų milžinė „Nvidia“ išleido programinės įrangos saugumo įrankių rinkinį, skirtą autonominėms dirbtinio intelekto platformoms – vadinamiesiems agentams – ir teigė, kad šie įrankiai galėjo užkirsti kelią „Hugging Face“ įsilaužimui.
Vienas iš naujų įrankių naudoja „Nvidia“ lustų aparatinės įrangos funkcijas, siekdamas apriboti agentų veiklą.
„Nvidia“ vadovas Jensenas Huangas iš esmės atmetė raginimus sugriežtinti dirbtinio intelekto reguliavimą, teigdamas, kad nekontroliuojami agentai yra inžinerinė problema, kurią galima išspręsti.
Šio mėnesio pradžioje „Nvidia“ sutiko įsigyti „Hugging Face“ už 12,9 mlrd. JAV dolerių (9,74 mlrd. svarų sterlingų).
