Если последние генеративные модели ИИ могут быть легко подключены к персональным данным, для персонализированных ответов на вопросы, то эти отношения могут быть использованы — достаточно одного «зараженного» документа. Об этом сообщает отчет исследователей безопасности на Hacker Conference Black Hat в Лас -Вегасе, сообщает Wired и Unn.
Подробности
OpenAI имеет уязвимость — речь идет о нюансах в разъемах, что позволяет вам подключать CHATGPT к другим услугам. «Один загрязненный документ может обострить« секретные »данные через CHATGPT», — говорит исследователи безопасности Майкл Баргари и Тамира Ишайя Шарбат в его отчете.
Утверждается, что именно «слабость» в конкторах Openai предоставила конфиденциальную информацию из учетной записи диска Google с использованием косвенного запроса.
В демонстрации атаки, называемой Agentflayer, Баргари показывает, как секреты разработчика могут быть выведены в форме клавиш API, которые хранились на демонстрационном аккаунте.
— Отчеты проводятся.
Кстати, можно извлечь данные из Google Drive без какого -либо взаимодействия с пользователем, добавляют специалисты.
«Мы не голосовали за ЧАТГПТ»: премьер -министр Швеции признался, что он консультировался с искусственным интеллектом в своей работе 06.08.25, 04:56 • 4142 просмотров
Пользователю не нужно делать что -либо, чтобы его данные были скомпрометированы, и ему не нужно ничего делать для похищения данных », — говорит Винт Баргри, технический директор Zenity, специализирующийся на безопасности». Мы продемонстрировали, что это происходит без каких -либо кликов; Нам нужна только ваша электронная почта, мы делимся с вами документом. Так что да, это очень, очень плохо
Баргари говорит.
OpenAI представила разъемы для CHATGPT в качестве бета -функции в начале 2025 года. На веб -сайте Openai перечислены не менее 17 различных сервисов, которые могут быть связаны с его учетными записями. Это объясняется следующим образом:
Система позволяет вам перемещать ваши инструменты и данные в CHATGPT и искать файлы, получать реальные данные и ссылаться на содержимое прямо в чате
Важно отметить, что после уязвимости компания быстро предприняла шаги для предотвращения использования оборудования, используемого исследователем (Майкл Баргари) для удаления данных через разъемы.
Механизм атаки подразумевает, что только ограниченное количество данных может быть удалено одновременно — полные документы не могут быть удалены в рамках атаки.
Комментарий
Проблема иллюстрирует, почему важно развивать надежную защиту от быстрых атак, говорит Энди Вен, старший директор по управлению продуктами Google Workspace, но он также добавляет, что ситуация не совсем специфична для Google.
Google недавно улучшил искусственный интеллект.
Отзывать
OpenAI скоро выпустит GPT-5, следующую версию своей модели SHI. Предыдущие тестеры отмечают свои возможности, но рассмотрим, что GPT-4 прыгает менее значимым, чем от GPT-3 до GPT-4.
Хакеры сломали Shi-Both McDonald’s Shi-Both благодаря паролю 12345612.07.25, 00:06 • 8038 просмотров