Клод "здав" користувачку правоохоронних органів після того, як була зафіксована інформація про стрілянину.

Євгеній Демківський — журналіст видання "Межа", а також захоплений гік. Мої статті охоплюють теми технологій, кіно та ігор, з особливим акцентом на відеоігри, яким я віддаю неабияку пристрасть.

Anthropic повідомила поліцію про користувачку Claude, яка написала чатботу, що збирається влаштувати стрілянину в офісі шерифа. Жінка згодом пояснила, що використовувала ШІ як особистий щоденник. Про це пише TechSpot із посиланням на матеріали поліції.

Мова йде про тридцятирічну Карлі Мішель Геллер, яка проживає в Боніта-Спрінгс, штат Флорида. За інформацією слідчих, 26 вересня вона надіслала повідомлення користувачу Claude, в якому заявила про намір "розстріляти" офіс шерифа округу Лі. У розмові, що відбулася наступного дня, з'явилось згадування про купівлю нового пістолета та фразу "останній шанс".

Система безпеки Claude виявила переписку як потенційно ризиковану та направила її на розгляд фахівцям Anthropic. Після аналізу загрози компанія вирішила звернутися до правоохоронних органів, передавши їм дані про користувачку.

Правоохоронці ідентифікували особу Геллер і затримали її вдома без жодного спротиву. Їй пред'явили звинувачення у письмовій загрозі насильством. Відповідно до законодавства штату Флорида, це вважається злочином другого ступеня. Судове засідання заплановано на листопад, а обставини справи, представлені поліцією, ще потрібно буде підтвердити в суді.

Політика конфіденційності Anthropic дозволяє компанії передавати дані правоохоронцям, якщо вона обґрунтовано вважає це необхідним для запобігання серйозній шкоді або смерті. Розмови, позначені системами безпеки, також можуть перевіряти співробітники компанії навіть тоді, коли користувач заборонив використовувати свої дані для навчання моделей.

Подібні правила переглядають й інші розробники чатботів. Після стрілянини у канадській школі OpenAI пообіцяла повідомляти поліцію про розмови з ChatGPT, які свідчать про неминучу та ймовірну загрозу. У Флориді також відкрили кримінальне розслідування щодо використання ChatGPT нападником перед стріляниною в університеті.