Согласно сообщению, сделанному в четверг, Google, OpenAI, Microsoft, Amazon, Nvidia, Intel и другие известные компании в области искусственного интеллекта объединяются, чтобы сформировать Коалицию за безопасный искусственный интеллект (CoSAI), пишет УНН со ссылкой на The Verge.
Подробности
Инициатива направлена на решение проблемы «фрагментированной среды безопасности ИИ» путем предоставления доступа к методологиям, структурам и инструментам с открытым исходным кодом.
Издание отмечает, что неизвестно, какое влияние CoSAI будет оказывать на индустрию искусственного интеллекта, но опасения по поводу утечки конфиденциальной информации и автоматической дискриминации приходят на ум как примеры вопросов безопасности, конфиденциальности и безопасности технологии генеративного искусственного интеллекта.
Среди других компаний, присоединившихся к CoSAI – IBM, PayPal, Cisco и Anthropic. CoSAI будет существовать в рамках Организации по развитию стандартов структурированной информации (OASIS), некоммерческой группы, способствующей развитию открытых стандартов. CoSAI в начале будет работать над тремя целями: разработка лучших практик обеспечения безопасности ИИ; решение проблем в области ИИ; безопасность приложений искусственного интеллекта.
«Мы используем ИИ уже много лет и видим постоянный потенциал для защитников, но также признаем его возможности для злоумышленников», — говорится в заявлении Гизер Адкинс, вице-президент Google по безопасности. «CoSAI поможет организациям, большим и малым, безопасно и ответственно интегрировать ИИ, помогая им использовать его преимущества и одновременно снижать риски», — указала она.
В ЕС одобрили первый в мире закон, который будет регулировать работу искусственного интеллекта4 февраля 2024, 04:34 • 105127 просмотров