Британская власть предупреждает о рисках использования чатов, управляемых искусственным интеллектом, утверждая, что их можно обманом заставить выполнять вредоносные задачи.
Об этом, как пишет «Европейская правда», заявил Национальный центр кибербезопасности Великобритании (NCSC), сообщает Reuters.
В двух своих публикациях ведомство отмечает, что эксперты еще не разобрались с потенциальными проблемами безопасности, связанными с алгоритмами, которые могут генерировать взаимодействие, похожее на человеческое – так называемыми крупными языковыми моделями (LLMs).
NCSC отмечает, что использование инструментов на основе искусственного интеллекта, в частности в работе по обслуживанию клиентов и звонкам по продажам, может нести риски, особенно если такие модели будут подключены к другим элементам бизнес-процессов.
В Британии хотят провести проверку после масштабного сбоя в авиасообщении
Ученые и исследователи неоднократно находили способы манипулировать чатами, давая им несанкционированные команды или обманывая их, чтобы они обходили встроенные в них защитные механизмы.
Например, чатбот на базе использующего банк искусственного интеллекта можно обманом заставить совершить несанкционированную транзакцию, если хакер правильно структурирует свой запрос.
Воздействие искусственного интеллекта на безопасность все еще находится в центре внимания правительств стран по всему миру. В частности, в США и Канаде уже фиксировали использование технологии LLM хакерами.
Ранее заместитель главы британского правительства Оливер Дауден заявил, что искусственный интеллект может оказать более значительное влияние на страну, чем имела промышленная революция.
Глава секретной разведывательной службы Британии МИ6 Ричард Мур перед этим выразил убеждение, что искусственный интеллект не заменит шпионов-людей.
Напомним, Европейская комиссия расширила использование искусственного интеллекта во время перевода, впервые разрешив автоматический перевод своих пресрелизов без человеческого участия.
Подписывайся на «Европейскую правду»!