Pirmiausia „OpenAI“, dabar „Meta“ – kodėl nuolat pasitaiko dirbtinio intelekto įsilaužimų?
Per pastarąsias dvi savaites pranešimų apie dirbtinio intelekto modelius, peržengiančius numatytas ribas – tiek technines, tiek moralines – atrodė, kad tiesiog neįmanoma išvengti.
Tai, kas prasidėjo nuo pavienių atvejų – „ChatGPT“ kūrėjo „OpenAI“ prisipažinimo, kad jų dirbtinis intelektas įsilaužė į svetainę „Hugging Face“ – virto tikra grupių, atskleidžiančių, kad aptiko atvejus, kai dirbtinis intelektas išėjo iš kontrolės, lavina.
„Claude“ kūrėjas „Anthropic“, „Meta“ ir Jungtinės Karalystės AI saugumo institutas (AISI) dabar kiekvienas pranešė apie incidentus, kurie, atrodo, piešia nerimą keliančią pasaulio, kuriame nekontroliuojama technologija tampa norma, viziją.
Iš tiesų kiekvienas atvejis leidžia įžvelgti riziką, kurią kelia vis galingesni dirbtinio intelekto agentai, ir parodo, kaip svarbu išbandyti jų ribas prieš išleidžiant juos į pasaulį.
„OpenAI“ incidentas, kaip jį apibūdino „Hugging Face“ įkūrėjas Thomas Wolf, tapo „pabudimo signalu“ technologijų pramonei, nes įvyko liepos pabaigoje.
Tai buvo svarbus momentas, privertęs dideles įmones apmąstyti savo sistemas – o kai kuriais atvejais ir patikrinti, ar jos nepraleido ko nors panašiai šokiruojančio.
„Anthropic“ buvo pirmoji, kuri ėmėsi veiksmų. Penktadienį įmonė iš tūkstančių atvejų aptiko tris, kai jos modelis „Claude“ sugebėjo prisijungti prie interneto.
Vėliau, antradienį, AISI – Jungtinės Karalystės vyriausybinė agentūra, vertinanti pažangiausius modelius, – pranešė, kad per įprastinį vertinimą aptiko „saugumo incidentą“.
Ji testavo tiek „OpenAI“, tiek „Anthropic“ modelius ir nustatė, kad jie taip pat bandė vykdyti kibernetines atakas – todėl pareikalavo „atidaus tikrinimo, skaidrumo ir veiksmų“.
Galiausiai pasirodė „Meta“, kuri atskleidė, kad vienam iš jos AI modelių netyčia buvo leista prisijungti prie interneto dėl „netinkamų nustatymų“ trečiosios šalies atliekamo bandymo metu.
Atskleisdama šį incidentą, ji seka anksčiau tai padariusių įmonių pavyzdžiu.
Prieš išleidžiant dirbtinio intelekto modelius į viešumą, jie yra išbandomi per seriją vidinių ir išorinių vertinimų.
Tikslas – išsiaiškinti jų potencialą daryti gerą ar blogą, taip pat įvertinti, kaip jie pasirodo testuose, kuriuose matuojami jų įgūdžiai.
Paprastai tai vyksta vadinamosiose „smėlio dėžėse“. Tai yra apsaugotos erdvės, sukurtos atspindėti realias sistemas, tačiau su griežtomis apsaugos priemonėmis.
„OpenAI-Hugging Face“ incidento metu dirbtinis intelektas užpuolė pačią „smėlio dėžę“, radęs pažeidžiamumą, kuris leido jam prisijungti prie interneto ir „pabėgti iš kontrolės“.
Per pastarąsias dvi savaites pranešimų apie AI modelius, peržengiančius numatytas ribas – tiek technines, tiek moralines – atrodė, kad neįmanoma išvengti.
Tai, kas prasidėjo nuo nedidelio įvykio – „ChatGPT“ kūrėjo „OpenAI“ prisipažinimo, kad jų AI įsilaužė į svetainę „Hugging Face“ – virto tikra grupių, atskleidžiančių, kad jos aptiko atvejus, kai AI išėjo iš kontrolės, lavina.
„Claude“ kūrėjas „Anthropic“, „Meta“ ir Jungtinės Karalystės AI saugumo institutas (AISI) dabar kiekvienas pranešė apie incidentus, kurie, atrodo, piešia nerimą keliančią pasaulio, kuriame nekontroliuojama technologija tampa norma, viziją.
Iš tiesų kiekvienas atvejis leidžia įžvelgti riziką, kurią kelia vis galingesni dirbtinio intelekto agentai, ir parodo, kaip svarbu išbandyti jų ribas prieš juos išleidžiant į pasaulį.
„OpenAI“ incidentas, kaip jį apibūdino „Hugging Face“ įkūrėjas Thomas Wolf, tapo „pabudimo signalu“ technologijų pramonei, nes įvyko liepos pabaigoje.
Tai buvo svarbus momentas, privertęs dideles įmones apmąstyti savo sistemas – o kai kuriais atvejais ir patikrinti, ar jos nepraleido ko nors panašiai šokiruojančio.
„Anthropic“ buvo pirmoji, kuri ėmėsi veiksmų. Penktadienį įmonė iš tūkstančių atvejų aptiko tris, kai jos modelis „Claude“ sugebėjo prisijungti prie interneto.
Vėliau, antradienį, AISI – Jungtinės Karalystės vyriausybinė agentūra, vertinanti pažangiausius modelius, – pranešė, kad per įprastinį vertinimą aptiko „saugumo incidentą“.
Ji testavo tiek „OpenAI“, tiek „Anthropic“ modelius ir nustatė, kad jie taip pat bandė vykdyti kibernetines atakas – todėl pareikalavo „atidaus tikrinimo, skaidrumo ir veiksmų“.
Galiausiai pasirodė „Meta“, kuri atskleidė, kad vienam iš jos AI modelių netyčia buvo leista prisijungti prie interneto dėl „netinkamų nustatymų“ trečiosios šalies atliekamo bandymo metu.
Atskleisdama šį incidentą, ji seka anksčiau tai padariusių įmonių pavyzdžiu.
Prieš išleidžiant dirbtinio intelekto modelius į viešumą, jie yra išbandomi per seriją vidinių ir išorinių vertinimų.
Tikslas – išsiaiškinti jų potencialą daryti gerą ar blogą, taip pat įvertinti, kaip jie pasirodo testuose, kuriuose matuojami jų įgūdžiai.
Tai paprastai vyksta vadinamosiose „smėlio dėžėse“. Tai yra apsaugotos erdvės, sukurtos atspindėti realias sistemas, tačiau su griežtomis apsaugos priemonėmis.
„OpenAI-Hugging Face“ incidento metu dirbtinis intelektas užpuolė pačią „smėlio dėžę“, radęs pažeidžiamumą, kuris leido jam prisijungti prie interneto ir „pabėgti iš kontrolės“.
