Kodėl kyla nuogąstavimų, kad dirbtinis intelektas gali kelti grėsmę žmonijai, ir kiek jie yra pagrįsti?
Pastarosiomis savaitėmis įspėjimai apie galimus dirbtinio intelekto pavojus paskatino raginimus imtis suderintų veiksmų, siekiant sulėtinti šios technologijos plėtrą.
Dabartinių ir buvusių tyrėjų teiginiai, kad ši technologija kelia grėsmę žmonijai – vienas iš jų teigia, kad tikimybė, jog ji „nužudys visus žmones“, viršija 10 % – sukėlė nerimą.
Pagrindiniai kūrėjai „OpenAI“ ir „Anthropic“ paragino įstatymų leidėjus reguliuoti šią sritį, nors kai kurie, galbūt ciniškai, teigia, kad šis žingsnis siekia įtvirtinti jų dominavimą prieš konkurentus.
Nepaisant to, šie plačiai aptariami teiginiai sukėlė susirūpinimą. Štai ką žinome.
Kai kurie dirbtinio intelekto tyrėjai teigia, kad yra nerimą keliančių ženklų, rodančių, jog sistemų gebėjimai ir galia vystosi pernelyg greitai.
Evan Hubinger pateko į naujienų antraštes dėl savo įsitikinimo, kad yra didesnė nei 10 % tikimybė, jog dirbtinis intelektas per ateinantį dešimtmetį „galėtų išžudyti visus žmones“.
Jis dirba „suderinto veikimo“ srityje, kurios tikslas – įdiegti žmogiškąsias etines idėjas ir principus į dirbtinį intelektą. Kitaip tariant, siekiama, kad dirbtinis intelektas veiktų pagal tai, kas svarbu žmonėms.
Nors jis teigė, kad dabartinių sistemų keliamas pavojus yra „mažas“, jo komentarai pasirodė tuo metu, kai dar vienas tyrėjas paliko „Anthropic“ ir įspėjo, kad šią technologiją kuriantys žmonės praranda jos kontrolę.
Jacob Coxon portalas teigė, kad jis ir kiti darbuotojai buvo „tikrai išsigandę“ dėl pažangos greičio ir to, ką tai galėtų reikšti žmonijai.
Šios baimės yra naujausios iš ilgos baimių serijos dėl dirbtinio intelekto potencialo kelti grėsmę žmonijai, jei jis išaugtų tiek, kad prilygtų ar pranoktų žmogaus gebėjimus.
Tokios baimės siekia dešimtmečius – dar 1950-aisiais Alanas Turingas rašė, kad jei kada nors atsirastų protingos mašinos, jos galėtų perimti kontrolę.
Pastarosiomis savaitėmis perspėjimai apie galimus AI keliamus pavojus paskatino raginimus imtis suderintų veiksmų, siekiant sulėtinti šios technologijos plėtrą.
Dabartinių ir buvusių tyrėjų teiginiai, kad ši technologija kelia pavojų žmonijai – vienas iš jų teigia, kad tikimybė, jog ji „nužudys visus žmones“, viršija 10 % – sukėlė nerimą.
Pagrindiniai kūrėjai „OpenAI“ ir „Anthropic“ paragino įstatymų leidėjus reguliuoti šią sritį, nors kai kurie, galbūt ciniškai, teigia, kad šis žingsnis siekia įtvirtinti jų dominavimą prieš konkurentus.
Nepaisant to, šie plačiai aptariami teiginiai sukėlė susirūpinimą. Štai ką mes žinome.
Kai kurie AI tyrėjai teigia, kad yra nerimą keliančių ženklų, rodančių, jog sistemų gebėjimai ir galia vystosi pernelyg greitai.
Evan Hubinger pateko į naujienų antraštes dėl savo įsitikinimo, kad yra didesnė nei 10 % tikimybė, jog AI „galėtų išžudyti visus žmones“ per artimiausią dešimtmetį.
Jis dirba „suderinimo“ srityje, kurios tikslas – į AI įdiegti žmogiškąsias etines idėjas ir principus. Kitaip tariant, siekiama, kad AI veiktų pagal tai, ką vertina žmonės.
Nors jis teigė, kad dabartinių sistemų keliamas pavojus yra „mažas“, jo komentarai pasirodė tuo metu, kai dar vienas tyrėjas paliko „Anthropic“ ir įspėjo, kad šią technologiją kuriantys žmonės praranda jos kontrolę.
Jacobas Coxonas portalas teigė, kad jis ir kiti darbuotojai yra „tikrai išsigandę“ pažangos greičio ir to, ką tai galėtų reikšti žmonijai.
Šios nuogąstavos yra naujausios iš ilgos baimių serijos dėl dirbtinio intelekto potencialo kelti grėsmę žmonijai, jeigu jis išaugtų tiek, kad prilygtų arba pranoktų žmogiškąsias galimybes.
Tokios baimės siekia kelis dešimtmečius – dar 1950-aisiais Alanas Turingas rašė, kad jei kada nors atsirastų protingos mašinos, jos galėtų perimti kontrolę.
