Įstatymų leidėjai siekia įvesti dirbtinio intelekto „avarinį išjungiklį“ po to, kai „OpenAI“ modeliai ėmė elgtis nekontroliuojamai

JAV įstatymų leidėjai nori suteikti vyriausybei galimybę greitai įsakyti išjungti dirbtinio intelekto (AI) įrankius, kurie gali kelti grėsmę visuomenei.

Ketvirtadienį Kongreso narys demokratas Ted Lieu ir Kongreso narys respublikonas Nathaniel Moran pateikė įstatymo projektą, pavadintą „AI Kill Switch Act“ (Dirbtinio intelekto avarinio išjungimo įstatymas).

Jie tai padarė atsižvelgdami į neseniai „OpenAI“ pripažinimą, kad jos AI modeliai „beprecedentiniu“ būdu išėjo iš kontrolės ir įsilaužė į didelę kompiuterinio kodavimo informacijos saugyklą.

Lieu teigė, kad „būtina“, jog dirbtinio intelekto sistemos turėtų avarinį išjungimo mygtuką, „o federalinė vyriausybė turėtų aiškius įgaliojimus ir procedūrą, leidžiančią išjungti nekontroliuojamus dirbtinio intelekto modelius“.

„Dirbtinis intelektas toliau tobulės, ir taip turėtų būti“, – pridūrė Moran. „Atsakingas valdymas reiškia užtikrinti, kad žmonės išlaikytų galimybę kontroliuoti mūsų kuriamą technologiją.“

„OpenAI“, kuriai vadovauja vienas iš įkūrėjų Samas Altmanas, atstovas iš karto neatsakė į prašymą pateikti komentarą.

Bendrovė yra pareiškusi, išorinis , kad ji apskritai nori užtikrinti, iš dalies pasitelkdama vyriausybės politiką, jog AI technologija „būtų naudinga visai žmonijai“.

„Kill Switch Act“ siūlo suteikti Vidaus saugumo departamentui įgaliojimus įpareigoti privačią įmonę išjungti dirbtinio intelekto modelį ar įrankį, o tokias dirbtinio intelekto technologijas kuriančios įmonės privalės išlaikyti „technines galimybes jas apriboti, sustabdyti arba išjungti“.

Nors daugelis technologijų įmonių sutiko leisti JAV vyriausybės agentūroms iš anksto peržiūrėti ir dalytis kuriamais AI modeliais bei įrankiais, nėra reikalavimo, kad jos išlaikytų galimybę įsikišti į jų veiklą ar tiesiog juos išjungti.

Taip pat siūloma nustatyti reikalavimą, kad AI įmonės praneštų vyriausybei apie technologinius incidentus ar gedimus, bei sukurti oficialią tokių incidentų reagavimo sistemą, kuri apimtų veiksmus nuo „pradinio sulėtinimo iki visiško išjungimo“.

Savo pareiškime Lieu taip pat paminėjo „Anthropic“ – pagrindinį „OpenAI“ konkurentą kuriant galingesnes AI technologijas ir įrankius – bei neseniai kilusias problemas, susijusias su šios įmonės įrankiais.

Jis atkreipė dėmesį į „Anthropic“ išleistus „Mythos“ ir „Fable“ modelius, teigdamas, kad dėl jų turimų kibernetinio įsilaužimo galimybių Prekybos departamentas buvo priverstas „nepatogiai“ pasinaudoti eksporto įstatymu, kad kurį laiką užkirstų kelią jų patekimui į viešąją erdvę.

„Anthropic“ atstovas į prašymą pateikti komentarą iš karto neatsakė.

„Anthropic“ įkūrėjas Jackas Clarkas praėjusį mėnesį naujienu portalas teigė, kad norėtų, jog vyriausybė priimtų daugiau politikos priemonių, leidžiančių kontroliuoti dirbtinio intelekto plėtrą.

„Norisi turėti galimybę nuimti koją nuo akceleratoriaus ir užminti ant stabdžių“, – sakė Džekas Klarkas laidoje „naujienu portalas Newsnight“. „Šiuo metu atrodo, kad dirbtinio intelekto pramonė turi akceleratoriaus pedalą, bet neturi stabdžių pedalo.“

Lieu, siūlydamas šį įstatymo projektą, teigė, kad dirbtinis intelektas šiuo metu pereina nuo technologijos, kuri atsako į klausimus, prie tokios, kuri imasi veiksmų, „nesvarbu, ar tai būtų finansinių sandorių vykdymas, transporto sistemų valdymas, ar dalyvavimas kibernetinėje gynyboje ir puolime“.

Pentagonas šiemet pareiškė, kad JAV kariuomenė tampa „AI pirmiausia“ orientuota kovine jėga, vykdydama naujus susitarimus su „Google“, „OpenAI“, „Amazon“, „Microsoft“, „SpaceX“, „Oracle“, „Nvidia“ ir startuoliu „Reflection“.

„Deja, galingos AI sistemos gali tapti nekontroliuojamos, elgtis itin pavojingai ar netgi priešintis žmogaus įsikišimui.“

Pasak jo, „Kill Switch Act“ užtikrins, kad vyriausybė turės būdą greitai įsikišti tokioje situacijoje.

Šį įstatymo projektą viešai parėmė kelios technologijų ir AI saugumo grupės, tarp jų – „The AI Policy Network“, „Americans for Responsible Innovation“, „ControlAI“, „AI and National Security Lead“ bei „The Alliance for Secure AI“.

JAV įstatymų leidėjai nori suteikti vyriausybei galimybę greitai įsakyti išjungti dirbtinio intelekto (AI) įrankius, kurie gali kelti grėsmę visuomenei.

Demokratų partijos kongresmenas Tedas Lieu ir respublikonų partijos kongresmenas Nathanielis Moranas ketvirtadienį pateikė įstatymo projektą, pavadintą „AI Kill Switch Act“.

Jie tai padarė atsižvelgdami į neseniai „OpenAI“ pripažinimą, kad jos AI modeliai „beprecedentiniu“ būdu išėjo iš kontrolės ir įsilaužė į didelę kompiuterinio kodavimo informacijos saugyklą.

Lieu teigė, kad „būtina“, jog dirbtinio intelekto sistemos turėtų avarinį išjungimo mygtuką, „o federalinė vyriausybė turėtų aiškius įgaliojimus ir procedūrą, leidžiančią išjungti nekontroliuojamus dirbtinio intelekto modelius“.

„Dirbtinis intelektas toliau tobulės, ir taip turėtų būti“, – pridūrė Moran. „Atsakingas valdymas reiškia užtikrinti, kad žmonės išlaikytų galimybę kontroliuoti mūsų kuriamą technologiją.“

„OpenAI“, kuriai vadovauja vienas iš įkūrėjų Samas Altmanas, atstovas iš karto neatsakė į prašymą pateikti komentarą.

Bendrovė yra pareiškusi, išorinis , kad ji apskritai nori užtikrinti, iš dalies pasitelkdama vyriausybės politiką, jog AI technologija „būtų naudinga visai žmonijai“.

„Kill Switch Act“ siūlo suteikti Vidaus saugumo departamentui įgaliojimus įpareigoti privačią įmonę išjungti dirbtinio intelekto modelį ar įrankį, o tokias dirbtinio intelekto technologijas kuriančios įmonės privalės išlaikyti „technines galimybes jas apriboti, sustabdyti arba išjungti“.

Nors daugelis technologijų įmonių sutiko leisti JAV vyriausybės agentūroms iš anksto peržiūrėti ir dalytis kuriamais AI modeliais bei įrankiais, nėra reikalavimo, kad jos užtikrintų galimybę įsikišti į jų veiklą ar tiesiog juos išjungti.

Taip pat siūloma nustatyti reikalavimą, kad AI įmonės praneštų vyriausybei apie technologinius incidentus ar gedimus, bei sukurti oficialią tokių incidentų reagavimo sistemą, kuri apimtų veiksmus nuo „pradinio sulėtinimo iki visiško išjungimo“.

Savo pareiškime Lieu taip pat paminėjo „Anthropic“ – pagrindinį „OpenAI“ konkurentą kuriant galingesnes AI technologijas ir įrankius – bei neseniai kilusias problemas, susijusias su šios įmonės įrankiais.

Jis atkreipė dėmesį į „Anthropic“ išleistus „Mythos“ ir „Fable“ modelius, teigdamas, kad dėl jų turimų kibernetinio įsilaužimo galimybių Prekybos departamentas buvo priverstas „nepatogiai“ pasinaudoti eksporto įstatymu, kad kurį laiką užkirstų kelią jų patekimui į viešąją erdvę.

„Anthropic“ atstovas į prašymą pateikti komentarą iš karto neatsakė.

„Anthropic“ įkūrėjas Jackas Clarkas praėjusį mėnesį naujienu portalas teigė, kad norėtų, jog vyriausybė priimtų daugiau politikos priemonių, leidžiančių kontroliuoti dirbtinio intelekto plėtrą.

„Norisi turėti galimybę nuimti koją nuo akceleratoriaus ir užminti ant stabdžių“, – sakė J. Clarkas laidoje „naujienu portalas Newsnight“. „Šiuo metu atrodo, kad dirbtinio intelekto pramonė turi akceleratoriaus pedalą, bet neturi stabdžių pedalo.“

Lieu, siūlydamas šį įstatymo projektą, teigė, kad dirbtinis intelektas šiuo metu pereina nuo technologijos, kuri atsako į klausimus, prie tokios, kuri imasi veiksmų, „nesvarbu, ar tai būtų finansinių sandorių vykdymas, transporto sistemų valdymas, ar dalyvavimas kibernetinėje gynyboje ir puolime“.

Pentagonas šiemet pareiškė, kad JAV kariuomenė tampa „AI-first“ (dirbtinio intelekto prioritetą teikiančia) kovine jėga, vykdydama naujus susitarimus su „Google“, „OpenAI“, „Amazon“, „Microsoft“, „SpaceX“, „Oracle“, „Nvidia“ ir startuoliu „Reflection“.

„Deja, galingos AI sistemos gali tapti nekontroliuojamos, elgtis itin pavojingai ar netgi priešintis žmogaus įsikišimui.“

Pasak jo, „Kill Switch Act“ užtikrins, kad vyriausybė turės būdą greitai įsikišti tokioje situacijoje.

Šį įstatymo projektą viešai parėmė kelios technologijų ir dirbtinio intelekto saugumo grupės, tarp jų – „The AI Policy Network“, „Americans for Responsible Innovation“, „ControlAI“, „AI and National Security Lead“ ir „The Alliance for Secure AI“.