Вопреки беспокойству по поводу целей и методов использования искусственного интеллекта в ЦРУ, по словам Лакшми Раман, директора ИИ в Центральном разведывательном управлении США, — в организации используется продуманный подход с участием всех заинтересованных сторон. Пишет со ссылкой на TechCrunch и Es de Latino News.
Подробности
Лакшми Раман, директор из ИИ в ЦРУ объяснила в своем интервью изданию TechCrunch, что генеративный ИИ важен для организации спецслужб с точки зрения работы с огромным объемом данных, которые необходимо классифицировать. Она также заверила, что, несмотря на возможный скептицизм, в ЦРУ придерживаются продуманного подхода к искусственному интеллекту.
Я бы назвала это продуманным подходом (к ИИ – ред.). Я бы сказала, что подход, который мы применяем, заключается в том, что мы хотим, чтобы наши пользователи понимали как можно больше о используемой ими системе искусственного интеллекта.
— сообщила Лакшми Раман.
Справочно
В СМИ не раз упоминалось, что ИИ может быть технологией «полной опасностей».
Есть много причин для скептицизма и беспокойства по поводу использования ЦРУ искусственного интеллекта. В феврале 2022 года сенаторы Рон Вайден (демократ от штата Орегон) и Мартин Генрих (демократ от штата Нью-Мексико) в публичном письме сообщили, что ЦРУ, хотя ему обычно запрещено проводить расследование в отношении американцев и американских компаний, собирает подобную информацию в хранилище данных .
В прошлом году в докладе Управления директора национальной разведки было показано, что американские спецслужбы, включая ЦРУ, покупают данные об американцах из-за таких брокеров данных, как LexisNexis и Sayari Analytics, без особого наблюдения.
Если бы ЦРУ когда-либо использовало искусственный интеллект для анализа этих данных, многие американцы, несомненно, выступили бы против. Это было бы явным нарушением гражданских свобод и, ввиду ограниченности возможностей ИИ, могло бы привести к весьма несправедливым последствиям.
Несколько исследований показали, что алгоритмы прогнозирования преступлений от таких компаний, как Geolitica, легко поддаются влиянию. В качестве примера указывается об угрозе непропорциональной ориентации на чернокожие сообщества. Другие исследования показывают, что распознавание лиц приводит к более высокому уровню ошибочной идентификации чернокожих людей, чем белых.
Кроме того, есть наблюдение, что даже самый лучший на сегодняшний день ИИ галлюцинирует или придумывает факты и цифры в ответ на запросы.
Директор ЦРУ предупредил о риске поражения Украины до конца года 19 апреля 2024, 08:15 • 59838 просмотров
Однако Раман настаивает на том, что ЦРУ не только соблюдает все законы США, но и «придерживается всех этических принципов» и использует ИИ «таким образом, чтобы смягчить предвзятость».
Разработка ответственного ИИ означает, что нам необходимо участие всех заинтересованных сторон; это значит разработчиков ИИ, это значит наш офис по защите конфиденциальности и гражданских свобод
– подчеркивает Лакшми Роман.
Дополнительно
Независимо от того, для чего предназначена система ИИ, разработчикам системы важно четко определить области, в которых она может потерпеть неудачу. В недавнем исследовании исследователи из Университета штата Северная Каролина обнаружили, что инструменты искусственного интеллекта, в частности алгоритмы распознавания лиц и обнаружение огнестрельных ранений, использовались полицейскими, не знакомыми с этими технологиями.
Google, OpenAI и другие создают коалицию за безопасный ШИ19 июля 2024, 05:24 • 15316 просмотров
Сообщается, что как особо вопиющий пример злоупотребления ИИ со стороны правоохранительных органов, возможно, по незнанию, полиция Нью-Йорка однажды использовала фотографии знаменитостей, искаженные изображения.
Любые результаты, генерируемые ИИ, должны быть ясно поняты пользователями, и это, очевидно, означает маркировку созданного ИИ контента и предоставление четких объяснений того, как работают системы ИИ. Все, что мы делаем в агентстве, мы делаем в соответствии с нашими законодательными требованиями и гарантируем, что наши пользователи, наши партнеры и заинтересованные стороны знают все соответствующие законы, положения и руководящие принципы, регулирующие использование наших систем искусственного интеллекта, и мы придерживаемся их «. со всеми этими правилами
— сказала Роман.
Скептики ИИ замолчат: инвесторы намекают о впечатляющих доходах Nvidia19 июля 2024, 14:38 • 13118 просмотров