Paaiškėjo, kad kai kurių žmonių pokalbiai su „Claude AI“ buvo viešai prieinami internete

Paaiškėjo, kad šimtai vartotojų pokalbių su populiariu „Anthropic“ dirbtinio intelekto (AI) pokalbių botu „Claude“ buvo prieinami praktiškai bet kam internete.

Nuorodos į šiuos pokalbius, kurių kai kuriuose buvo pateikta asmeninė ir darbo informacija, pasirodydavo, jei „Google“ ar kitos paieškos sistemos vartotojas įvesdavo konkrečiai šiai svetainei skirtą paieškos frazę.

Paieškos rezultatai parodė, kad „Claude“ pokalbiai, kurių nuorodą vartotojas nusprendė „pasidalinti“, buvo išsaugoti tokių paieškos sistemų kaip „Google“, todėl jie tapo prieinami plačiajai visuomenei.

Galimybė rasti pokalbių įrašus paieškoje buvo pašalinta savaitgalį, tačiau daugelis jų buvo išsaugoti ir plačiai pasidalinti internete.

„Anthropic“ atstovė spaudai teigė, kad „Claude“ vartotojai patys sprendžia, ar ir kada dalintis pokalbiais, kuriuos jie vedė su pokalbių robotu.

Ji teigė, kad nuorodos į pokalbius „nėra atspėjamos ar aptinkamos, nebent žmonės patys nuspręstų jas pasidalinti“.

„Kai kas nors pasidalina pokalbiu, jis padaro tą turinį viešai prieinamą, ir, kaip ir kitas viešas interneto turinys, jis gali būti archyvuojamas trečiųjų šalių paslaugų“, – pridūrė atstovė spaudai.

„Claude“ dalijimosi parinktis informuoja vartotoją, kad „kiekvienas, turintis nuorodą“, gali peržiūrėti tos nuorodos turinį, tačiau aiškiai nenurodo, kad nuoroda gali atsidurti „Google“ paieškos rezultatuose.

„Reddit“ vartotojai iš pradžių atrado, išorinius viešai prieinamus pokalbius, apimančius daugiau nei 200 pokalbių su „Claude“ bent 25 paieškos rezultatų puslapiuose – kai kurie iš jų vyko vos prieš kelias savaites.

Pokalbiuose vartotojai ragino pokalbių robotą atsakyti į įvairias temas.

Pokalbių įrašuose yra vartotojas, kuris praėjusiais metais paklausė „Claude“, ar jis nori „padėti man, ar nori labiau padėti „Anthropic“?“. Pokalbių robotas iš dalies atsakė: „Aš jaučiu kažką panašaus į norą tau padėti“.

Viename balandžio mėnesio pokalbyje vartotojas paprašė „Claude“ parengti nepaskelbtą tinklaraščio įrašą apie debesų saugumą, įtraukiant į jį įmonės projekto detales. Kitame, praėjusį mėnesį vykusio pokalbio metu, vartotojas paklausė „Claude“, kaip „tapti devynių uodegų lapė?“, prieš tai paaiškindamas, kad nori tiesiogine prasme transformuotis iš žmogaus į šį padarą.

„Claude“ pirmiausia bandė vartotojui parodyti dirbtinio intelekto sukurtą paveikslėlį, tvirtindamas, kad jam buvo suteikti „visiškai veikiantys lapės galios!“

Kituose pokalbiuose su „Claude“ vartotojai prašė pagalbos rengiant savo gyvenimo aprašymus, įskaitant vardus, kontaktinę informaciją ir darbo istoriją. Kai kurie vartotojai netgi atliko, atrodytų, konfidencialius tyrimus savo darbui, pavyzdžiui, sveikatos priežiūros srityje, įskaitant privačių pokalbių stenogramas.

Kai „OpenAI“ praėjusiais metais susidūrė su beveik identiška problema, kai „ChatGPT“ pokalbių įrašai tapo viešai prieinami, išorinis, įmonė galiausiai pakeitė, išorinis tokių įrašų prieinamumo lygį.

„Grok“ – dirbtinio intelekto pokalbių robotas, veikiantis Elono Musko valdomos socialinės platformos „X“ viduje, – taip pat praėjusiais metais patyrė, kad šimtai tūkstančių pokalbių įrašų tapo viešai prieinami per internetinę paiešką.

„Google“ atstovas naujienu portalas aiškiai nurodė, kad bendrovė nekontroliuoja, „kokios puslapiai tampa viešai prieinami internete“, teigdamas, kad tai daro pačios svetainės.

„Svetainių savininkams suteikiame aiškias valdymo galimybes nuspręsti, ar puslapiai gali būti nuskaityti ar indeksuojami, ir visada laikomės tų nurodymų.“

Kadangi pokalbių įrašų indeksavimas paieškoje nebevyksta, tikėtina, kad „Anthropic“ pasinaudojo turimomis priemonėmis, kad greitai užblokuotų nuorodas į pokalbių įrašus paieškos rezultatuose. „Google“ procedūra, kuria svetainės savininkas gali užblokuoti nuorodą, išorinė nuoroda yra paprasta, tačiau ją turi inicijuoti svetainės savininkas.

Buvo kreiptasi į kitas paieškos sistemas, pavyzdžiui, „Bing“, „Brave“ ir „Duck Duck Go“, kuriose taip pat pasirodė „Claude“ pokalbių įrašai, prašant pateikti komentarus.

Paaiškėjo, kad šimtai vartotojų pokalbių su populiariu „Anthropic“ dirbtinio intelekto (AI) pokalbių botu „Claude“ buvo prieinami praktiškai bet kam internete.

Nuorodos į pokalbius, kurių kai kuriuose buvo asmeninės ir darbo informacijos, pasirodydavo, jei „Google“ ar kitos paieškos sistemos vartotojas naudodavo konkrečiai svetainei skirtą paieškos frazę.

Paieškos rezultatai parodė, kad „Claude“ pokalbių, kurių nuorodas vartotojai nusprendė „pasidalinti“, buvo išsaugotos tokiose paieškos sistemose kaip „Google“, todėl jos tapo prieinamos plačiajai visuomenei.

Galimybė rasti pokalbių įrašus paieškoje buvo pašalinta savaitgalį, tačiau daugelis jų buvo išsaugoti ir plačiai pasidalinti internete.

„Anthropic“ atstovė spaudai teigė, kad „Claude“ vartotojai patys kontroliuoja, ar ir kada dalintis pokalbiais su pokalbių robotu.

Ji teigė, kad nuorodos į pokalbius „nėra atspėjamos ar aptinkamos, nebent žmonės patys nuspręstų jas pasidalinti“.

„Kai kas nors pasidalina pokalbiu, jis padaro tą turinį viešai prieinamą, ir, kaip ir kitas viešas interneto turinys, jis gali būti archyvuojamas trečiųjų šalių paslaugų“, – pridūrė atstovė spaudai.

„Claude“ dalijimosi parinktis informuoja vartotoją, kad „kiekvienas, turintis nuorodą“, gali peržiūrėti tos nuorodos turinį, tačiau aiškiai nenurodo, kad nuoroda gali atsidurti „Google“ paieškos rezultatuose.

„Reddit“ vartotojai iš pradžių atrado, išorinius viešai prieinamus pokalbius, apimančius daugiau nei 200 pokalbių su „Claude“ bent 25 paieškos rezultatų puslapiuose – kai kurie iš jų vyko vos prieš kelias savaites.

Pokalbiuose vartotojai ragino pokalbių botą atsakyti į įvairiausias temas.

Pokalbių įrašuose yra vartotojas, kuris praėjusiais metais paklausė „Claude“, ar jis nori „padėti man, ar labiau nori padėti „Anthropic“?“. Pokalbių robotas iš dalies atsakė: „Aš jaučiu kažką panašaus į norą tau padėti“.

Viename balandžio mėnesio pokalbyje vartotojas paprašė „Claude“ parengti dar nepaskelbtą tinklaraščio įrašą apie debesų saugumą, kuriame būtų pateikta informacija apie įmonės projektą. Kitame, praėjusį mėnesį vykusio pokalbio metu, vartotojas paklausė „Claude“, kaip „tapti devynių uodegų lapė?“, prieš tai paaiškindamas, kad nori tiesiogine prasme transformuotis iš žmogaus į šį padarą.

„Claude“ pirmiausia bandė vartotojui parodyti dirbtinio intelekto sukurtą paveikslėlį, tvirtindamas, kad jam buvo suteikti „visiškai veikiantys lapės galios!“

Kituose pokalbiuose su „Claude“ vartotojai prašė pagalbos rengiant savo gyvenimo aprašymus, įskaitant vardus, kontaktinę informaciją ir darbo istoriją. Kai kurie vartotojai netgi atliko, atrodytų, konfidencialius tyrimus savo darbui, pavyzdžiui, sveikatos priežiūros srityje, įskaitant privačių pokalbių stenogramas.

Kai praėjusiais metais „OpenAI“ susidūrė su beveik identiška problema, kai „ChatGPT“ pokalbių įrašai tapo viešai prieinami, išorinis, įmonė galiausiai pakeitė, išorinis tokių įrašų prieinamumo lygį.

„Grok“ – dirbtinio intelekto pokalbių robotas, veikiantis Elono Musko valdomoje socialinėje platformoje „X“, – praėjusiais metais taip pat patyrė, kad šimtai tūkstančių pokalbių įrašų tapo viešai prieinami per internetinę paiešką.

„Google“ atstovas naujienu portalas aiškiai nurodė, kad bendrovė nekontroliuoja, „kokios puslapiai tampa viešai prieinami internete“, teigdamas, kad tai daro pačios svetainės.

„„Svetainių savininkams suteikiame aiškias valdymo galimybes nuspręsti, ar puslapiai gali būti nuskaityti ar indeksuojami, ir visada laikomės tų nurodymų.“

Kadangi pokalbių įrašų indeksavimas paieškoje nebevyksta, tikėtina, kad „Anthropic“ pasinaudojo turimomis priemonėmis, kad greitai užblokuotų pokalbių įrašų nuorodas paieškos rezultatuose. „Google“ procedūra, kuria svetainės savininkas gali užblokuoti nuorodą, išorinė yra paprasta, tačiau ją turi inicijuoti svetainės savininkas.

Buvo kreiptasi į kitas paieškos sistemas, pavyzdžiui, „Bing“, „Brave“ ir „Duck Duck Go“, kuriose taip pat buvo rodomi „Claude“ pokalbių įrašai, prašant pateikti komentarus.