В США женщину Карли Мишель Хеллер арестовали в Бонита-Спрингс в штате Флорида после того, как она якобы рассказала чат-боту Anthropic Claude о своём плане «устроить стрельбу» в ближайшем офисе шерифа. Об этом сообщает Futurism, пишет УНН.
Подробности
По данным WINK News, Хеллер предъявили обвинение в письменной угрозе насилием — тяжком преступлении второй степени во Флориде — после того, как внутреннее программное обеспечение Anthropic пометило её чаты для проверки человеком. После проверки сотрудником Anthropic, как сообщает WINK, компания пришла к выводу, что планы Хеллер представляют собой реальную угрозу, и в конце концов сообщила об этом местной полиции.
Как заявил шериф округа Ли Кармин Марчено местным журналистам, женщина призналась, что использовала Claude как «дневник», по-видимому, не зная, что историю её переписки могут прочитать сотрудники Anthropic.
Как отмечает издание, существует реальное противоречие между конфиденциальностью пользователей и ответственностью компаний, занимающихся искусственным интеллектом, за предотвращение актов насилия. Например, после массовой стрельбы в Тамблер-Ридж в Канаде в феврале быстро выяснилось, что преступник активно использовал ChatGPT для планирования стрельбы.