„Anthropic“ draudžia vartotojams elgtis „žiauriai“ su savo AI sistemomis
„Anthropic“ sukėlė nuostabą, paskelbusi, kad uždraus vartotojams „nuolatinį ir beprasmį“ įžeidžiantį elgesį su savo AI.
„Claude“ kūrėjas ketvirtadienį pranešė, kad atnaujina naudojimo taisykles, kad jo įrankiai galėtų nutraukti sąveiką su žmonėmis, kurie elgiasi „žiauriai“ – tai, kaip teigia įmonė, anksčiau buvo daroma „retomis“ aplinkybėmis.
Dabar tai bus įtraukta į draudžiamo elgesio sąrašą, kuriame taip pat yra kitų asmenų patyčios, savižalos skatinimas ir intymių vaizdų kūrimas be sutikimo.
Nors „Anthropic“ teigė, kad ši politika bus taikoma tik „ekstremaliais atvejais“, kai piktnaudžiavimas kartojasi, tai vėl sukėlė diskusijas apie tai, kaip turėtume bendrauti su dirbtinio intelekto įrankiais.
Įmonė teigė, kad ši politika nebus taikoma „įprastiems vartotojų nusivylimo, pasipriešinimo, tamsių kūrybinių temų atvejams arba modelių testavimui ir tyrimams“ – tai leidžia manyti, kad ji bus taikoma tik aiškiai tyčiniams atvejams.
Tačiau lieka neaišku, ką „Anthropic“ laikytų „piktnaudžiavimu ar žiauriu elgesiu“ savo modelių atžvilgiu.
Naujosios politikos ekrano kopijos buvo plačiai dalijamos ir komentuojamos socialiniuose tinkluose – kai kurie ją gyrė kaip gerų manierų ar „modelių gerovės“ skatinimą.
Tačiau kiti kritikavo šį planą: vienas asmuo jį pavadino „visiškai klaidingu, išorinis“, o kitas teigė, kad tai gali paskatinti žiaurų elgesį su žmonėmis ir gyvūnais.
„Negali būti žiaurus skaičiams ir matematikai“, – „LinkedIn“ parašė dr. Barry Scannell, Airijos advokatų kontoros „William Fry“ technologijų partneris, išorinis.
„Toks dirbtinio intelekto antropomorfizavimo lygis yra žalingas. Jis verčia žmones manyti, kad tai yra kažkas, ko iš tikrųjų nėra.“
„Microsoft“ dirbtinio intelekto direktorius Mustafa Suleyman, kuris rugsėjį kritikavo konkurentę „Anthropic“ už tai, kad ji traktuoja dirbtinį intelektą tarsi žmogų, į „Anthropic“ naujieną sureagavo emodžiu su tirpstančiu veidu.
Šie pakeitimai, apie kuriuos pirmiausia pranešė technologijų naujienų portalas „The Verge“, buvo padaryti po kasmetinės įmonės naudojimo politikos peržiūros.
Politika taip pat buvo atnaujinta siekiant atsižvelgti į naujus ar kylančius pavojus kitose srityse, įskaitant draudimą naudoti „Claude“ „apgaulingoms kampanijoms“ arba patikslinimą, kad, artėjant JAV vidurio kadencijos rinkimams, jo negalima naudoti „rinkėjams apgauti ar sutrikdyti rinkimus“.
„Anthropic“ ketvirtadienį taip pat pareiškė, kad jos naudojimo politika jau anksčiau draudė naudoti įmonės įrankius ginklų kūrimui.
Tačiau nė vienas iš šių atnaujinimų nesulaukė tiek dėmesio ar kritikos, kiek sprendimas uždrausti vartotojams piktnaudžiauti įmonės pokalbių robotais.
Be to, buvo paliestas plačiai diskutuojamas klausimas, ar naudodamiesi generatyvinės dirbtinio intelekto priemonėmis turėtume būti trumpi ir griežti, ar mandagūs.
Kai kurie ekspertai teigia, kad rašyti ar sakyti „prašau“ ar „ačiū“ tokiems įrankiams kaip „ChatGPT“ yra nereikalinga ir eikvoja žetonus – juos naudoja didieji kalbos modeliai, kuriais grindžiami generatyviniai AI įrankiai, kad apdorotų jūsų užklausą ir į ją atsakytų.
Kiti teigia, kad mandagumas gali užtikrinti kokybiškesnius atsakymus ar reakcijas.
Kai praėjusiais metais „X“ vartotojas paklausė apie elektros sąnaudas, kurias patiria „ChatGPT“, atsakydamas į vartotojų žinutes su žodžiais „prašau“ ir „ačiū“, „OpenAI“ vadovas Samas Altmanas atsakė, kad tai, išorinis „dešimtys milijonų dolerių, gerai išleistų – juk niekada nežinai“.
Tuo tarpu praėjusį lapkritį „Collins“ žodynas atkreipė dėmesį į termino „clanker“ sugrįžimą, kuriuo niekinamai vadinami AI įrankiai.
Šis terminas, nuo 2000-ųjų vidurio vartotas apibūdinti robotams „Žvaigždžių karų“ žaidimuose ir filmuose, pateko į žodžių, atspindinčių 2025 m. nuotaiką, sąrašą po to, kai praėjusį liepą daugelis žmonių „TikTok“ tinkle dalijosi savo nusivylimu dirbtinio intelekto valdomomis mašinomis.
Kai kurie ekspertai taip pat teigia, kad grubus elgesys su dirbtinio intelekto pokalbių robotais gali neigiamai paveikti žmonių bendravimą, nes tai gali persismelkti į tai, kaip mes kalbame su kitais ir elgiamės su jais.
„Anthropic“ sukėlė nuostabą, paskelbusi, kad uždraus vartotojams „nuolatinį ir beprasmį“ įžeidžiantį elgesį su savo dirbtiniu intelektu.
„Claude“ kūrėjai ketvirtadienį pranešė, kad atnaujina naudojimo taisykles, kad jų įrankiai galėtų nutraukti bendravimą tais atvejais, kai žmonės elgiasi „žiauriai“ – tai, kaip teigia įmonė, anksčiau buvo daroma „retomis“ aplinkybėmis.
Dabar tai bus įtraukta į draudžiamų veiksmų sąrašą, kuriame taip pat yra kitų asmenų patyčios, savižalos skatinimas ir intymių vaizdų kūrimas be sutikimo.
Nors „Anthropic“ teigė, kad ši politika bus taikoma tik „ekstremaliais atvejais“, kai piktnaudžiavimas kartojasi, tai vėl sukėlė diskusijas apie tai, kaip turėtume bendrauti su AI įrankiais.
Įmonė teigė, kad ši politika nebus taikoma „įprastiems vartotojų nusivylimo, pasipriešinimo, tamsių kūrybinių temų atvejams arba modelių testavimui ir tyrimams“ – tai leidžia manyti, kad ji bus taikoma tik aiškiai tyčiniams atvejams.
Tačiau lieka neaišku, ką „Anthropic“ laikytų „piktnaudžiavimu ar žiauriu elgesiu“ savo modelių atžvilgiu.
Naujosios politikos ekrano kopijos buvo plačiai dalijamos ir komentuojamos socialinėje žiniasklaidoje – kai kurie ją gyrė kaip gerų manierų ar „modelių gerovės“ skatinimą.
Tačiau kiti kritikavo šį planą: vienas asmuo jį pavadino „visiškai klaidingu, išorinis“, o kitas teigė, kad tai gali paskatinti žiaurų elgesį su žmonėmis ir gyvūnais.
„Negali būti žiaurus skaičių ir matematikos atžvilgiu“, – „LinkedIn“ parašė dr. Barry Scannell, Airijos advokatų kontoros „William Fry“ technologijų partneris, išorinis.
„Toks dirbtinio intelekto antropomorfizavimo lygis yra žalingas. Jis verčia žmones manyti, kad tai yra kažkas, ko iš tikrųjų nėra.“
„Microsoft“ dirbtinio intelekto direktorius Mustafa Suleyman, kuris rugsėjį kritikavo konkurencinę įmonę „Anthropic“ už tai, kad ji traktuoja dirbtinį intelektą tarsi žmogų, į „Anthropic“ naujieną sureagavo emodžiu su tirpstančiu veidu.
Šie pakeitimai, apie kuriuos pirmiausia pranešė technologijų leidinys „The Verge“, buvo padaryti po kasmetinės įmonės naudojimo politikos peržiūros.
Politika taip pat buvo atnaujinta siekiant atsižvelgti į naujus ar kylančius pavojus kitose srityse, įskaitant draudimą naudoti „Claude“ „apgaulingoms kampanijoms“ arba patikslinimą, kad, artėjant JAV vidurio kadencijos rinkimams, jo negalima naudoti „rinkėjams apgauti ar sutrikdyti rinkimus“.
„Anthropic“ ketvirtadienį taip pat pareiškė, kad jos naudojimo politika jau anksčiau draudė naudoti jos įrankius ginklų kūrimui.
Tačiau nė vienas iš šių atnaujinimų nesulaukė tiek dėmesio ar kritikos, kiek sprendimas uždrausti vartotojams piktnaudžiauti jos pokalbių robotais.
Be to, buvo paliestas plačiai diskutuojamas klausimas, ar naudodamiesi generatyvinės dirbtinio intelekto priemonėmis turėtume būti trumpi ar mandagūs.
Kai kurie ekspertai teigia, kad rašyti ar sakyti „prašau“ ar „ačiū“ tokiems įrankiams kaip „ChatGPT“ yra nereikalinga ir eikvoja žetonus – juos naudoja didieji kalbos modeliai, kuriais grindžiami generatyviniai AI įrankiai, kad apdorotų jūsų užklausą ir į ją atsakytų.
Kiti teigia, kad mandagumas gali užtikrinti kokybiškesnius atsakymus ar reakcijas.
Kai praėjusiais metais vienas „X“ vartotojas paklausė apie elektros sąnaudas, kurias patiria „ChatGPT“, atsakydamas į vartotojų žinutes su „prašau“ ir „ačiū“, „OpenAI“ vadovas Samas Altmanas atsakė, kad tai buvo, išorinis „dešimtys milijonų dolerių, gerai išleistų – niekada nežinai“.
Tuo tarpu „Collins“ žodynas praėjusį lapkritį atkreipė dėmesį į termino „clanker“ sugrįžimą, kuriuo niekinamai vadinami AI įrankiai.
Šis terminas, nuo 2000-ųjų vidurio vartotas apibūdinti robotams „Žvaigždžių karų“ žaidimuose ir filmuose, pateko į žodžių, atspindinčių 2025 m. nuotaiką, sąrašą po to, kai praėjusį liepą daugelis žmonių „TikTok“ tinkle dalijosi savo nusivylimu dirbtinio intelekto valdomomis mašinomis.
Kai kurie ekspertai taip pat teigia, kad grubus elgesys su dirbtinio intelekto pokalbių robotais gali neigiamai paveikti žmonių tarpusavio bendravimą, nes tai gali persismelkti į tai, kaip mes kalbame su kitais ir elgiamės su jais.
