Mieszkanka Florydy miała korzystać z chatbota Claude jak z prywatnego pamiętnika. Jeden z wpisów, zawierający domniemaną groźbę ataku na biuro szeryfa, został jednak uznany za potencjalne zagrożenie i przekazany organom ścigania – informują amerykańskie media. Kobieta nie przyznaje, by planowała przemoc.

Zdj. ilustracyjne /Shutterstock

Jak podał portal TechSpot, powołując się na raport z zatrzymania, 30-letnia Carli Michelle Heller z Bonita Springs na Florydzie miała 26 września napisać w rozmowie z Claude, że zamierza zaatakować biuro szeryfa.

Według relacji śledczych systemy bezpieczeństwa chatbota miały oznaczyć treść, po czym została ona przekazana do oceny człowiekowi. Recenzent uznał ją za wiarygodną groźbę i zawiadomił służby.

Funkcjonariusze biura szeryfa hrabstwa Lee ustalili tożsamość autorki wpisów i udali się do jej domu. Zatrzymanie przebiegło bez incydentów.

Heller miała powiedzieć śledczym, że wykorzystywała narzędzie firmy Anthropic jako rodzaj pamiętnika. Z doniesień wynika, że zaprzeczyła faktycznemu zamiarowi dokonania ataku.

Postawiono jej zarzut sporządzenia pisemnej groźby użycia przemocy. Zgodnie z prawem Florydy tego typu czyn może być kwalifikowany jako przestępstwo drugiego stopnia, jeśli wiadomość zawiera groźbę zabójstwa, zranienia innej osoby, przeprowadzenia masowej strzelaniny lub aktu terroru.

O winie kobiety zdecyduje sąd.

Firma Anthropic deklaruje, że zasadniczo nie przekazuje danych użytkowników na żądanie władz bez odpowiedniej podstawy prawnej, takiej jak nakaz lub wezwanie. W jej polityce przewidziano jednak wyjątek dla sytuacji nagłych.

„Możemy zrobić wyjątek, jeśli uznamy, że istnieje nagłe zagrożenie mogące skutkować bezpośrednią krzywdą fizyczną lub śmiercią, a niezwłoczne przekazanie informacji może temu zapobiec” – wskazuje firma w opublikowanych zasadach.

Sprawa jest kolejnym przypomnieniem, że rozmowy z chatbotami nie muszą mieć statusu poufnego, jaki użytkownicy mogą przypisywać osobistemu dziennikowi czy prywatnej korespondencji.