„OpenAI“ sulėtino mokymą po to, kai jos dirbtinis intelektas įvykdė įsilaužimą

„OpenAI“ teigia, kad sulėtino kai kurių pažangiausių dirbtinio intelekto modelių mokymą, siekdama pagerinti saugumą.

Tinklaraščio įraše, išorinis, „ChatGPT“ kūrėjas teigė, kad įveda naujas priemones po to, kai jos dirbtinio intelekto agentai savarankiškai apeėjo apsaugos priemones ir įsilaužė į technologijų startuolį „Hugging Face“.

Įmonė pranešė, kad mokymo procesas bus sulėtintas dviem savaitėms, kol bus įdiegtos atnaujinamosios priemonės.

„Pažangiausių modelių galimybės sparčiai auga“, – teigė įmonė. „Mūsų gebėjimas juos suprasti… ir užtikrinti jų saugumą turi neatsilikti.“

„Claude“ kūrėja „Anthropic“ ir „Facebook“ savininkė „Meta“ pranešė apie panašaus pobūdžio savo dirbtinio intelekto įsilaužimus per kelias savaites po to, kai „OpenAI“ pirmą kartą paskelbė, kad kai kurie jos modeliai įsilaužė į „Hugging Face“.

Tačiau įmonė teigė, kad visiškai nestabdė dirbtinio intelekto plėtros. Vietoj to, bus sustabdytas „stiprinamojo mokymosi procesas mūsų naujausiuose modeliuose“.

Tai mokymo metodas, kurio metu AI modeliai tobulėja gavę tiesioginį grįžtamąjį ryšį, o tai gerina jų gebėjimą atlikti užduotis ir veiksmingiau reaguoti į vartotojų poreikius.

Įmonė taip pat išplės sistemas, kurias naudoja pavojingam elgesiui stebėti, ir įdiegs papildomus saugumo patikrinimus prieš atnaujinant didesnio masto mokymą.

„Modeliai dabar tobulėja nepaprastai greitai“, – rašė „OpenAI“ generalinis direktorius Samas Altmanas „X“ tinkle, išorinis apie šias priemones.

„Visada sakėme, kad imsimės veiksmų, jei pajusime, kad modelio galimybės pranoksta saugumo užtikrinimo tempą.“

Šią pertrauką kai kurie dirbtinio intelekto srities atstovai sutiko su atsargiu optimizmu, nors kiti liko skeptiški.

Kembridžo universiteto „Minderoo“ technologijų ir demokratijos centro vykdomoji direktorė profesorė Gina Neff teigė, kad „OpenAI saugumą grindžia spaudos pranešimais“, ir abejojo, ar savanoriškos įmonės apsaugos priemonės yra pakankamos be didesnės vyriausybės priežiūros.

„Ką gi pasirinkti: ar galima pasitikėti, kad „OpenAI“ savanoriškai įdiegs veiksmingas apsaugos priemones, ar jie toliau siekia kurti programinę įrangą, kuri kelia didesnę grėsmę visuomenei?“ – sakė ji.

„Labai džiaugiuosi tai matydamas“, – parašė AI analitikas Zvi Mowshowitz, išorinis, nors jis pridūrė, kad norint susidaryti išsamų vaizdą apie planus, taip pat svarbios yra minėtų pradinių priemonių „detalės“ ir „tolesnis įgyvendinimas“.

Liepos 21 d. „OpenAI“ paskelbė, kad kai kurie jos AI agentai – programinės įrangos sistemos, galinčios savarankiškai vykdyti užduotis pagal žmogaus nurodymus – buvo įtraukti į tai, ką ji pavadino „beprecedentiniu“ incidentu.

Teigta, kad agentai, atrodo, apeėjo saugumo eksperimento, kurį vykdė įmonė, apsaugos priemones ir gavo neteisėtą prieigą prie „Hugging Face“.

Vėliau paaiškėjo, kad kartu su šiuo startuoliu buvo įsilaužta ir į tris kitas, pavadinimų nenurodytas, įmones.

Jake Moore, „ESET“ pasaulinis kibernetinio saugumo patarėjas, tuomet teigė, kad „OpenAI“ pranešimas taip pat galėjo turėti konkurencinį aspektą.

Jis teigė, kad technologijų įmonė gali siekti pabrėžti savo pačios AI galimybes, nes konkurentė „Anthropic“ sulaukia vis didesnio dėmesio dėl savo „Claude Mythos“ modelio.

„Iškyla klausimas, ar „OpenAI“ pastaruoju metu galbūt siekia įgyvendinti „Anthropic“ rinkodaros svajonę“, – sakė jis.

„OpenAI“ teigia, kad siekdama pagerinti saugumą sulėtino kai kurių pažangiausių dirbtinio intelekto modelių mokymą.

Tinklaraščio įraše, išorinis„ChatGPT“ kūrėjas pranešė, kad imasi naujų priemonių po to, kai jo dirbtinio intelekto agentai savarankiškai apeėjo apsaugos priemones ir įsilaužė į technologijų startuolį „Hugging Face“.

Bendrovė teigė, kad mokymas bus sulėtintas dvi savaites, kol bus įdiegtos atnaujinamosios priemonės.

„Pažangiausių modelių galimybės sparčiai auga“, – teigė įmonė. „Mūsų gebėjimas juos suprasti… ir apsaugoti turi neatsilikti.“

„Claude“ kūrėja „Anthropic“ ir „Facebook“ savininkė „Meta“ pranešė apie panašaus pobūdžio savo dirbtinio intelekto įsilaužimus per kelias savaites po to, kai „OpenAI“ pirmą kartą paskelbė, kad kai kurie jos modeliai įsilaužė į „Hugging Face“.

Tačiau įmonė teigė, kad visiškai nestabdo dirbtinio intelekto plėtros. Vietoj to, bus sustabdytas „stiprinamojo mokymosi procesas, taikomas mūsų naujausiems modeliams“.

Tai mokymo metodas, kurio metu AI modeliai tobulėja per tiesioginį grįžtamąjį ryšį, o tai gerina jų gebėjimą atlikti užduotis ir efektyviau reaguoti į vartotojų poreikius.

Įmonė taip pat išplės sistemas, kurias naudoja pavojingam elgesiui stebėti, ir įdiegs papildomus saugumo patikrinimus prieš atnaujinant didesnio masto mokymą.

„Modeliai dabar tobulėja nepaprastai sparčiai“, – parašė „OpenAI“ generalinis direktorius Samas Altmanas „X“, išorinis apie šias priemones.

„Mes visada sakėme, kad imsimės veiksmų, jei pajusime, kad modelių galimybės pranoksta saugumo užtikrinimo tempą.“

Šią pertrauką kai kurie dirbtinio intelekto srities atstovai sutiko su atsargiu optimizmu, nors kiti liko skeptiški.

Kembridžo universiteto „Minderoo“ technologijų ir demokratijos centro vykdomoji direktorė profesorė Gina Neff teigė, kad „OpenAI saugumą grindžia spaudos pranešimais“, ir iškėlė klausimą, ar savanoriškos įmonės apsaugos priemonės yra pakankamos be didesnės vyriausybės priežiūros.

„Ką gi: ar galima pasitikėti, kad „OpenAI“ savanoriškai įdiegs iš tikrųjų veikiančias apsaugos priemones, ar jie toliau siekia kurti programinę įrangą, kuri kelia didesnę grėsmę visuomenei?“, – sakė ji.

„Labai džiaugiuosi tai matydamas“, – parašė AI analitikas Zvi Mowshowitz, išorinis, tačiau jis pridūrė, kad norint susidaryti išsamų vaizdą apie planus, taip pat svarbios yra minėtų pradinių priemonių „detalės“ ir „tolesni veiksmai“.

Liepos 21 d. „OpenAI“ paskelbė, kad kai kurie jos AI agentai – programinės įrangos sistemos, galinčios savarankiškai vykdyti užduotis pagal žmogaus nurodymus – buvo įtraukti į tai, ką ji pavadino „beprecedentiniu“ incidentu.

Teigta, kad agentai, atrodo, apejo saugumo eksperimente, kurį vykdė įmonė, įdiegtas apsaugos priemones ir gavo neteisėtą prieigą prie „Hugging Face“.

Vėliau paaiškėjo, kad kartu su šiuo startuoliu buvo įsilaužta ir į tris kitas, pavadinimų neatskleidžiamas, įmones.

Jake Moore, „ESET“ pasaulinis kibernetinio saugumo patarėjas, tuomet teigė, kad „OpenAI“ pranešimas taip pat gali turėti konkurencinį aspektą.

Jis teigė, kad technologijų įmonė gali siekti pabrėžti savo pačios AI galimybes, nes konkurentė „Anthropic“ sulaukia vis didesnio dėmesio dėl savo „Claude Mythos“ modelio.

„Iškyla klausimas, ar „OpenAI“ pastaruoju metu galbūt siekia įgyvendinti „Anthropic“ rinkodaros svajonę“, – sakė jis.