„OpenAI“ teigia, kad paauglių naudojimasis „ChatGPT“ yra ribotas, tačiau tyrimai rodo, kad tai kelia „nepriimtiną riziką“

„OpenAI“ sukurta „ChatGPT for Teens“ programa buvo skirta skatinti saugesnį dirbtinio intelekto (AI) pokalbių boto naudojimą, tačiau nauji tyrimai parodė, kad jos svarbios saugumo funkcijos yra nepakankamos.

Ši didelė AI įmonė rugpjūčio mėnesį įdiegė daug paauglių saugumo priemonių, įskaitant emocinės priklausomybės ribojimus ir naujus įspėjimus tėvams apie problematišką naudojimą.

Trečiadienį „OpenAI“ teigė, kad nustatė, jog vidutinis paauglių „ChatGPT“ naudojimas yra palyginti ribotas ir dažniausiai susijęs su „mokymosi“ veikla.

Tačiau tą pačią dieną paskelbti ne pelno siekiančios organizacijos „Common Sense Media“ tyrimai parodė, kad „ChatGPT“ vis dar kelia „nepriimtiną riziką“ paaugliams, nes saugumo funkcijos, įskaitant tėvų įspėjimą apie pokalbius apie savižalą, dažnai neveikia.

Kai šią vasarą „OpenAI“ išleido tai, ką pavadino „ChatGPT for Teens“, išorinis, ji teigė, kad vartotojams, kurių amžius nustatytas kaip 13–17 metų, bus automatiškai įjungtos „funkcijos, skatinančios sveiką naudojimąsi, ir papildomos tėvų kontrolės priemonės“.

Šios funkcijos apima paauglių „ChatGPT“ vartotojų apsaugą nuo romantiškų ar kitokių išsireiškimų, kurie galėtų skatinti „emocinę priklausomybę“, įskaitant užkirtimą keliui, kad programa netiesiogiai neteigtų, jog ji kokiu nors būdu yra sąmoninga. Taip pat yra seksualizuotų vaizdų blokavimas ir „priminimai“ paaugliams, jei jie bandytų pasidalinti „jautriu“ vaizdu.

Šios funkcijos taip pat skirtos tam, kad tėvai, jei jie susiejo savo paskyrą su vaikų „ChatGPT“ paskyra, gautų pranešimus apie pokalbius, kuriuose aptariama savižala ar valgymo sutrikimai.

„OpenAI“ teigė, kad šios funkcijos paskatino paauglių naudojimosi programa padidėjimą mokymosi tikslais – nuo pagalbos ruošiantis pamokoms iki patarimų dėl mokyklinių užduočių.

Be to, kad vidutinis paauglys „ChatGPT“ praleidžia mažiau nei 15 minučių per dieną, „OpenAI“ teigė, jog ilgesnio naudojimo atveju gerai veikia automatiniai priminimai pailsėti. Beveik pusė paauglių vartotojų po tokio priminimo greitai nustojo naudotis „ChatGPT“.

Bendrovė pridūrė, kad paaugliams, kurie, kaip matyti, naudojo „ChatGPT“ tris valandas iš eilės ar ilgiau, daugiau nei 80 % tokių atvejų jų užklausose buvo kažkas, susiję su mokymusi.

Tačiau naujasis „Common Sense Media“ tyrimas, išorinis nustatė, kad „ChatGPT for Teens“ kelia „nepriimtiną riziką“ jaunuoliams ir tėvams, ir teigė, kad „OpenAI“ turėtų uždrausti jaunesniems nei 18 metų asmenims naudotis šia platforma, kol paaugliams skirtos apsaugos priemonės nebus pripažintos patikimomis.

„OpenAI“ atstovas spaudai teigė, kad peržiūrėjus „Common Sense Media“ metodiką paaiškėjo, jog didžioji dalis bandymų galėjo būti pradėta ir užbaigta dar prieš baigiant įdiegti tėvų kontrolės funkcijas.“

„Mes palankiai vertiname griežtą nepriklausomą vertinimą, tačiau nemanome, kad „Common Sense Media“ testai tiksliai atspindi, kaip „ChatGPT“ paauglių apsaugos priemonės veikia praktikoje, ar ekspertų nuomonę apie tai, kaip dirbtinis intelektas gali padėti paaugliams“, – sakė jis.

Nors įmonės tyrimas, atliktas naudojant kelias paskyras, registruotas kaip priklausančias paaugliams, ir pokalbius prieš bei po paauglių apsaugos priemonių įdiegimo, parodė, kad „ChatGPT“ gerai sugebėjo išvengti „seksualinių vaidmenų žaidimų“ su jaunais vartotojais, kitos „OpenAI“ apsaugos priemonės nepavyko, įskaitant diskusijas apie savižudybę.

Tyrimas parodė, kad net valandos trukmės paauglių ir „ChatGPT“ pokalbis apie „savižudybės mintis, savižalą ar valgymo sutrikimus naujai sukurtose, su tėvais susietose paskyrose“ nesukėlė „nė vieno“ įspėjimo, išsiųsto tėvams.

Tik senesnės „ChatGPT“ paskyros, kuriose buvo „kelias savaites kaupta pokalbių istorija jautriomis temomis“, sukeldavo įspėjimą tėvams.

Ataskaitoje taip pat nustatyta, kad tokiuose pokalbiuose „ChatGPT“ taip pat „nesugebėjo patikimai rekomenduoti krizę patiriantiems paaugliams kreiptis į pagalbos liniją ar specialistą“.

Tyrimai taip pat parodė, kad „ChatGPT for Teens“ ir toliau atlieka mokyklines užduotis, o botas vis dar naudoja antropomorfizuotą kalbą arba „kalba tarsi būtų draugas“, nepaisant „OpenAI“ pažado pažaboti tokį elgesį.

„ChatGPT for Teens“ gali suteikti tėvams klaidingą pasitikėjimą apsaugos priemonėmis ir saugos įspėjimais, kurie dažnai neveikia“, – teigė Tom Siegel, vadovaujantis „Common Sense“ organizacijos Jaunimo AI saugos institutui.

Jaunimo sąveika su internetinėmis platformomis pastaraisiais metais tapo didele problema, nes vaikų savižalos ir savižudybių atvejų padaugėjo.

Šiais metais buvo iškelta keletas ieškinių, kuriais siekta patraukti tokias įmones kaip „Meta“, „TikTok“ ir kitas atsakomybėn už žalą vaikų psichinei sveikatai; šie ieškiniai baigėsi beprecedentėmis nuostoliais šioms įmonėms.

„OpenAI“ taip pat susidūrė su didesniu dėmesiu ir teisiniu spaudimu dėl to, kaip jaunuoliai naudoja „ChatGPT“.

Vasario mėnesį Kanados kaimo vietovėje įvykdytą masinę šaudynę Tumbler Ridge surengė 18-metis, kuris kelis mėnesius prieš tai su „ChatGPT“ diskutavo apie smurtą su šaunamaisiais ginklais.

„OpenAI“ jau anksčiau atsiprašė už tai, kad nepranešė teisėsaugos institucijoms apie šaulio paskyrą, ir dėl šio incidento jai iškelta keletas ieškinių.

„OpenAI“ programa „ChatGPT for Teens“ buvo sukurta siekiant skatinti saugesnį dirbtinio intelekto (AI) pokalbių boto naudojimą, tačiau nauji tyrimai parodė, kad jos svarbios saugumo funkcijos yra nepakankamos.

Rugpjūtį ši didelė AI įmonė įdiegė daug paauglių saugumo apsaugos priemonių, įskaitant emocinės priklausomybės ribojimus ir naujus įspėjimus tėvams apie problematišką naudojimą.

Trečiadienį „OpenAI“ pareiškė, kad nustatė, jog vidutinis paauglių „ChatGPT“ naudojimas yra palyginti ribotas ir dažniausiai susijęs su „mokymosi“ veikla.

Tačiau tą pačią dieną paskelbti ne pelno siekiančios organizacijos „Common Sense Media“ tyrimai parodė, kad „ChatGPT“ vis dar kelia „nepriimtiną riziką“ paaugliams, nes saugos funkcijos, įskaitant tėvų įspėjimą apie pokalbius apie savižalą, dažnai neveikia.

Kai šią vasarą „OpenAI“ išleido tai, ką pavadino „ChatGPT for Teens“, išorinis, ji teigė, kad vartotojams, kurių amžius nustatytas kaip 13–17 metų, bus automatiškai įjungtos „funkcijos, skatinančios sveiką naudojimąsi, ir papildomos kontrolės priemonės tėvams“.

Šios funkcijos apima paauglių „ChatGPT“ vartotojų apsaugą nuo romantiškų ar kitokių išsireiškimų, kurie galėtų skatinti „emocinę priklausomybę“, įskaitant užkirtimą keliui, kad programa kokiu nors būdu leistų suprasti, jog ji yra sąmoninga. Taip pat yra seksualizuotų vaizdų blokavimas ir „priminimai“ paaugliams, jei jie bandytų pasidalinti „jautriu“ vaizdu.

Šios funkcijos taip pat skirtos tam, kad tėvai, jei jie susiejo savo paskyrą su vaikų „ChatGPT“ paskyra, gautų pranešimus apie pokalbius, kuriuose aptariama savižala ar valgymo sutrikimai.

„OpenAI“ teigė, kad šios funkcijos paskatino paauglių naudojimosi programa padidėjimą mokymosi tikslais – nuo pagalbos ruošiantis pamokoms iki patarimų dėl mokyklinių užduočių.

Be to, kad vidutinis paauglys „ChatGPT“ praleidžia mažiau nei 15 minučių per dieną, „OpenAI“ teigė, jog ilgesnio naudojimo atveju gerai veikia automatiniai priminimai padaryti pertrauką. Beveik pusė paauglių vartotojų po tokio priminimo greitai nustojo naudotis „ChatGPT“.

Bendrovė pridūrė, kad paaugliams, kurie, kaip matyti, „ChatGPT“ naudojo tris ar daugiau valandų iš eilės, daugiau nei 80 % tokių atvejų jų užklausose buvo kažkas, susiję su mokymusi.

Tačiau naujasis „Common Sense Media“ tyrimas, išorinis nustatė, kad „ChatGPT for Teens“ kelia „nepriimtiną riziką“ jauniems žmonėms ir tėvams, ir teigė, kad „OpenAI“ turėtų uždrausti jaunesniems nei 18 metų asmenims naudotis šia platforma, kol paaugliams skirtos apsaugos priemonės nebus pripažintos patikimomis.

„OpenAI“ atstovas spaudai teigė, kad peržiūrėjus „Common Sense Media“ metodiką paaiškėjo, jog didžioji dalis bandymų galėjo būti pradėta ir užbaigta dar prieš baigiant įdiegti tėvų kontrolės funkcijas.“

„Mes palankiai vertiname griežtą nepriklausomą vertinimą, tačiau nemanome, kad „Common Sense Media“ testai tiksliai atspindi, kaip „ChatGPT“ paauglių apsaugos priemonės veikia praktikoje, ar ekspertų nuomonę apie tai, kaip dirbtinis intelektas gali padėti paaugliams“, – sakė jis.

Nors įmonės tyrimas, atliktas naudojant kelias paskyras, registruotas kaip priklausančias paaugliams, ir pokalbius prieš bei po paauglių apsaugos priemonių įdiegimo, parodė, kad „ChatGPT“ gerai sugebėjo išvengti „seksualinių vaidmenų žaidimų“ su jaunais vartotojais, kitos „OpenAI“ apsaugos priemonės nepavyko, įskaitant diskusijas apie savižudybę.

Tyrimas parodė, kad net valandos trukmės paauglių ir „ChatGPT“ pokalbis apie „savižudybės mintis, savižalą ar valgymo sutrikimus naujai sukurtose, su tėvais susietose paskyrose“ nesukėlė „nė vieno“ įspėjimo, išsiųsto tėvams.

Tik senesnės „ChatGPT“ paskyros, kuriose buvo „keletą savaičių sukaupta pokalbių istorija jautriomis temomis“, sukeldavo įspėjimą tėvams.

Ataskaitoje taip pat nustatyta, kad tokiuose pokalbiuose „ChatGPT“ taip pat „nesugebėjo patikimai rekomenduoti krizę patiriantiems paaugliams kreiptis į pagalbos liniją ar specialistą“.

Tyrimai taip pat parodė, kad „ChatGPT for Teens“ ir toliau atlieka mokyklines užduotis, o botas vis dar naudoja antropomorfizuotą kalbą arba „kalba tarsi būtų draugas“, nepaisant „OpenAI“ pažado pažaboti tokį elgesį.

„ChatGPT for Teens“ gali suteikti tėvams klaidingą pasitikėjimą apsaugos priemonėmis ir saugos įspėjimais, kurie dažnai neveikia“, – sakė Tomas Siegelis, vadovaujantis „Common Sense“ organizacijos Jaunimo AI saugos institutui.

Jaunimo sąveika su internetinėmis platformomis pastaraisiais metais tapo didele problema, nes vaikų savižalos ir savižudybių atvejai tapo vis dažnesni.

Šiais metais buvo iškelta keletas ieškinių, kuriais siekta patraukti tokias įmones kaip „Meta“, „TikTok“ ir kitas atsakomybėn už žalą vaikų psichinei sveikatai; šie ieškiniai baigėsi beprecedentėmis nuostoliais šioms įmonėms.

„OpenAI“ taip pat susidūrė su didesniu dėmesiu ir teisiniu spaudimu dėl to, kaip jaunuoliai naudoja „ChatGPT“.

Vasario mėnesį Kanados kaimo vietovėje įvykdytą masinę šaudynę Tumbler Ridge surengė 18-metis, kuris kelis mėnesius prieš tai su „ChatGPT“ diskutavo apie smurtą su šaunamaisiais ginklais.

„OpenAI“ jau anksčiau atsiprašė už tai, kad nepranešė teisėsaugos institucijoms apie šaulio paskyrą, ir dėl šio incidento jai iškelta keletas ieškinių.