Датские ученые заявили, что социальная сеть компании Meta активно способствует распространению контента о самоповреждении, не удаляя откровенные изображения и призывая пользователей таких публикаций подружиться. Об этом сообщает УНН со ссылкой на The Guardian.
Подробности
Датские исследователи создали частную сеть самоповреждений на платформе социальных медиа, включая поддельные профили людей в возрасте от 13 лет, в которых они поделились 85 материалами, связанными с постепенно нарастающими самоповреждениями, включая кровь, лезвия бритвы и призывы к самоповреждению.
Целью исследования была проверка заявления компании Meta о том, что она значительно улучшила свои процессы удаления вредоносного контента с помощью искусственного интеллекта. Технологическая компания утверждает, что удаляет около 99% вредоносного контента до того, как об этом сообщают.
Однако организация Digitalt Ansvar, обеспечивающая соответствующее цифровое развитие, обнаружила, что в ходе продолжавшегося эксперимента эксперимента ни одно такое опасное изображение не было удалено.
По словам представителей Digitalt Ansvar, недостаточная модерация платформы свидетельствует о несоблюдении ею законодательства ЕС.
Закон о цифровых услугах требует от больших цифровых услуг выявлять системные риски, включая прогнозируемые негативные последствия для физического и психического благополучия.
Контент, побуждающий к самоповреждению, противоречит нашей политике, и мы удаляем его, когда обнаруживаем. В первой половине 2024 года мы удалили более 12 миллионов материалов, связанных с самоубийством и самоповреждением в Instagram, 99% из которых мы удалили проактивно.
– заявили представители компании Meta.
Однако исследования специалистов Дании показали, что вместо того, чтобы пытаться закрыть сеть о самоповреждении, алгоритм Instagram активно помогал ей распространить. Исследование показало, что 13-летние подростки дружат со всеми членами группы о самоповреждениях после того, как они начинают контактировать с одним из ее участников.
В исследовании говорится, что «это свидетельствует о том, что алгоритм Instagram активно способствует формированию и распространению сетей самоповреждения».
Напомним
Владелец Facebook Meta Platforms должен предстать перед судом по иску Федеральной торговой комиссии США, требующей его разделения из-за утверждения о том, что он купил Instagram и WhatsApp, чтобы подавить растущую конкуренцию в социальных сетях.