Европейский орган по защите персональных данных начал «масштабное» расследование в отношении чат-бота X Илона Маска из-за созданных с помощью ИИ изображений сексуального характера без согласия, что является очередным свидетельством того, как регулирующие органы проверяют чат-бот Grok, используемый в социальной сети, пишет УНН со ссылкой на Financial Times.
Детали
Ирландская комиссия по защите данных (Data Protection Commission), отвечающая за соблюдение Общего регламента ЕС по защите данных, заявила в понедельник вечером, что начала расследование создания и публикации Grok «потенциально вредоносных» изображений сексуального характера, содержащих или связанных с обработкой данных пользователей из ЕС.
Чат-бот Grok интегрирован в ленты социальных сетей X и разработан стартапом Маска xAI, который в прошлом году приобрел X. Ранее в этом месяце xAI объединился с компанией Маска SpaceX, создавшей ракетную компанию, в результате чего образовался гигант стоимостью 1,5 триллиона долларов.
Расследование стало последним в серии проверок, проводимых международными органами в отношении X после того, как в начале января с помощью Grok были созданы тысячи сексуализированных дипфейков с изображением женщин, что вызвало широкую волну возмущения со стороны пользователей, экспертов по безопасности и политиков.
«Комиссия по защите данных взаимодействует с [X] с тех пор, как несколько недель назад в СМИ появились сообщения о вероятной возможности пользователей X запускать учетную запись @Grok в X для создания сексуализированных изображений реальных людей, включая детей», — заявил в понедельник заместитель комиссара Комиссии по защите данных Грэм Дойл.
Он добавил, что комиссия «начала масштабное расследование, которое изучит соблюдение [X] некоторых из своих основных обязательств в соответствии с GDPR по рассматриваемым вопросам».
Маск, пишет издание, занял пассивную позицию в отношении модерации чат-бота Grok, ссылаясь на свободу слова. Прошлым летом компания xAI внесла изменения в чат-бота после того, как он восхвалял Гитлера и публиковал антисемитские сообщения на платформе X.
В начале февраля французские и европейские следователи провели обыск в офисах X в Париже в рамках масштабного расследования алгоритмов X, а также распространения материалов сексуального характера, созданных с помощью ИИ. Французская прокуратура вызвала Маска и Линду Яккарино, бывшего генерального директора X, на «добровольные допросы» в Париже в апреле.
На прошлой неделе Управление комиссара по информации Великобритании (Information Commissioner’s Office) также объявило о начале нового расследования в отношении X и xAI, заявив о «серьезных опасениях» относительно использования Grok персональных данных и «его потенциальной способности создавать вредоносный контент сексуального характера в виде изображений и видео».
ЕС уже начал официальное расследование в отношении xAI по факту распространения Grok изображений сексуального характера женщин и детей в соответствии с Законом о цифровых услугах ЕС (Digital Services Act), который обязывает крупные технологические платформы принимать меры по предотвращению распространения незаконного и вредоносного контента.
Однако европейское расследование, объявленное в понедельник, оценит, нарушила ли компания X основные правила ЕС GDPR, которые обязывают компании обеспечивать обработку персональных данных пользователей только для конкретных законных целей, учитывать конфиденциальность при разработке продуктов и проводить анализ рисков до запуска, например, функций, представляющих высокий риск.
После давления со стороны правительств разных стран, включая угрозы штрафов и запретов в ЕС, Великобритании и Франции, в прошлом месяце компания X ввела «технологические меры», чтобы ограничить возможность Grok создавать определенные изображения откровенного характера. Однако компания настаивает на удалении материалов, содержащих детскую сексуальную эксплуатацию, и материалов с изображением обнаженного тела без согласия.
В ответ на французские рейды компания X заявила в своем сообщении, что обвинения «безосновательны» и она «категорически отрицает любые правонарушения». Она назвала рейд «злоупотреблением, актом правоохранительной деятельности, направленным на достижение незаконных политических целей», добавив, что расследование «искажает французское законодательство, обходит надлежащую правовую процедуру и ставит под угрозу свободу слова».
Последнее расследование проводится в неспокойный период для компании X, когда на прошлой неделе компанию покинули десятки сотрудников, в том числе два соучредителя. На общем собрании в среду Маск заявил, что проводит реструктуризацию группы после слияния со SpaceX.