В Европейском Союзе вступили в силу новые правила о прозрачности систем искусственного интеллекта. Они предусматривают обязательную маркировку отдельного контента, созданного с помощью ИИ, и информирование пользователей, когда они взаимодействуют не с человеком, а с системой искусственного интеллекта. Об этом сообщает официальный сайт Европейской комиссии, пишет УНН.
Искусственный интеллект быстро развивается, из-за чего всё сложнее отличить созданный или изменённый с помощью ИИ контент от материалов, созданных людьми и являющихся аутентичными. Это создаёт новые риски масштабного распространения дезинформации и манипуляций, мошенничества, выдачи себя за других людей и введения потребителей в заблуждение
Отмечается, что новые требования по прозрачности помогут людям распознавать, когда они взаимодействуют с искусственным интеллектом или видят созданный с его помощью контент. Это позволит принимать более информированные решения и лучше защищаться от дезинформации и обмана
Требования по прозрачности для разработчиков и пользователей отдельных систем ИИ
Обозначение и маркировка контента, созданного ИИ: отдельные материалы, созданные или изменённые с помощью искусственного интеллекта, должны быть чётко и заметно обозначены, а также содержать машиночитаемые маркеры. Европейский Союз разработал набор специальных пиктограмм, которые можно использовать для этого
Это касается:
- прозрачность при взаимодействии с системой ИИ: пользователей должны чётко уведомлять, если они общаются не с реальным человеком, а с системой искусственного интеллекта, например чат-ботом, ИИ-агентом или аватаром.
- Европейская комиссия опубликовала рекомендации, которые помогут разработчикам и пользователям систем ИИ выполнять эти требования по прозрачности. В них объясняется, как можно подтвердить соответствие правилам, в том числе через соблюдение специального кодекса практики.
Контроль за выполнением правил и санкции
За соблюдением требований по прозрачности будут следить национальные органы рыночного надзора, Европейское управление по искусственному интеллекту (для систем, находящихся под его контролем), а также Европейский надзорный орган по защите данных (если разработчиками или пользователями систем ИИ являются учреждения ЕС).
За нарушения предусмотрены штрафы:
- до 15 млн евро или 3% мирового годового оборота для компаний;
- до 750 тыс. евро для учреждений, органов и агентств ЕС;
- с учётом принципа пропорциональности для малых и средних предприятий и небольших компаний со средней капитализацией.
Закон ЕС об искусственном интеллекте (AI Act) вступил в силу 1 августа 2024 года. Его положения внедряются поэтапно, а разные требования начинают действовать в разное время. Закон создаёт единый рынок и гармонизированные правила для надёжного искусственного интеллекта в ЕС, способствует развитию и внедрению ИИ.
В то же время документ направлен на уменьшение потенциальных рисков для здоровья, безопасности и основополагающих прав людей, а также на защиту демократии и верховенства права. Обеспечение эффективного выполнения закона в настоящее время является одним из ключевых приоритетов Европейской комиссии.