Руководители Anthropic, OpenAI и других компаний в сфере искусственного интеллекта обсуждают действия на случай масштабного инцидента с участием ИИ, который может вызвать общественный резонанс. Об этом пишет Axios, передает УНН.
Детали
Руководители компаний Anthropic, OpenAI и других компаний, занимающихся искусственным интеллектом, в непубличном порядке моделируют сценарии общественного и политического восстания после катастрофического события, связанного с искусственным интеллектом
Чиновники предполагают крупномасштабное событие, скорее всего — кибератаку, которая перекроет доступ к финансовым услугам, интернету или даже электроснабжению и водоснабжению.
Первый пример значительного реального ущерба, причиненного опасным ИИ, еще больше настроит и без того настороженную общественность против этой технологии и ее лидеров, в частности генерального директора Anthropic Дарио Амодеи и генерального директора OpenAI Сэма Альтмана, а также президента Трампа за его нежелание регулировать эту сферу
В ходе подготовки к таким сценариям особое внимание уделяют взаимодействию с Конгрессом США. После промежуточных выборов 3 ноября позиции демократов в Конгрессе могут усилиться. Демократы выступают за более жесткое регулирование ИИ, чем республиканцы.
Среди более радикальных предложений демократов — запрет на создание сверхинтеллекта и приостановка разработки передовых моделей ИИ.
Идею оснастить передовые модели ИИ механизмом аварийного отключения поддерживают представители обеих партий. Однако эксперты сомневаются, что системы ИИ можно будет полностью отключить в случае чрезвычайной ситуации.
Напомним
Искусственный интеллект (ИИ) «может представлять угрозу для всего человечества» без принятия соответствующих мер. С таким предупреждением в среду, 23 сентября, перед Советом Безопасности ООН выступили руководители крупнейших компаний, занимающихся ИИ.