OpenAI объявил о внедрении новых инструментов защиты в Chatgpt, чтобы помочь защитить подростков и пользователей, которые испытывают эмоциональный стресс. Компания планирует внедрить изменения к концу года, — пишет UNN со ссылкой на Axios.
Chatgpt Bariers для подростков и людей, которые испытывают эмоциональный стресс, будут введены к концу года.
— сказал на Openai во вторник.
Эта тема набирает серьезность из -за ряда трагических историй, которые появляются в искусственном интеллекте. Итак, на прошлой неделе родители 16-летнего мальчика из Калифорнии, который сократил его возраст весной, подали в суд на Openai, учитывая компанию виновным в его смерти.
На той же неделе The Wall Street Journal сообщил о случае, когда 56-летний мужчина убил свою мать и себя после того, как Чатгпт якобы питал его параноидальные мысли. И мать 29-летней женщины в New York Times написала, что ее дочь попросила чат-бота, чтобы помочь сделать ответную записку.
В настоящее время CHATGPT, как указано пользователями с суицидальными намерениями на горячих линиях помощи. В то же время Openai отмечает, что «не передает такие дела правоохранительным органам, объясняя эти вопросы конфиденциальности».
Компания подчеркивает, что работа по улучшению реакции на признаки стресса и психических расстройств уже продолжается. Блог Openai показывает, что пользователям будет легче связаться с аварийными службами, можно будет добавить надежных контактов, и защита подростков будет усилена.
Мы начинаем перенаправлять некоторые деликатные разговоры, такие как обнаружение признаков острого стресса, на модели рассуждений, такие как GPT-5, мышление
— объяснено в Openai.
По их словам, эта модель применяет правила безопасности более последовательно. Более 90 врачей из 30 стран, которые предоставляют экспертные консультации по контексту психического здоровья, были привязаны к работе по улучшению публикации.
Родительский контроль будет введен для пользователей в возрасте до 18 лет. В ближайшем будущем родители смогут связать свой аккаунт с учетной записью подростка и «получать уведомления, когда система обнаружит, что их подросток находится в состоянии острого стресса».
«Эти шаги — только начало», — подчеркнул Openai.
В то же время эксперты предупреждают, что всегда трудно ограничить детей.
Все классные и новые в Интернете создаются взрослыми для взрослых, но дети всегда захотят использовать его и найти способы для более рискованной среды
Супер -милый генеральный директор Кейт О’Лоллин объяснила.
Отзывать
Ранее UNN писал, что Meta запрещает свои бутылки Si-Chat обсуждать самоубийство, самоубийство и расстройства пищевого поведения с подростками, перенаправляя их на профессиональные ресурсы. Это решение принимается на фоне расследования риска и претензии против OpenAI через самоубийство подростка.