Официальные лица на Западе очень часто говорят о недопустимости использования искусственного интеллекта в военных целях, однако работа именно в этом направлении ведётся Пентагоном уже давно и успешно. Успех того же ChatGPT, естественно, не ограничивается только гражданским направлением.
В рамках масштабной модернизации вооруженных сил США идет активная работа над применением ИИ в боевых условиях, определения его круга задач и уровня полномочий для автономной деятельности.
О том, как искусственный интеллект изменит систему управления боем в понимании Пентагона – расскажем далее.
В каком направлении развивается военный ИИ в США?
У американских военных появился новый термин для определения ИИ и его применения в военных целях. AI Scaffolding (в переводе – ИИ Строительные леса) является одной из пяти стратегических инициатив Главного управления цифровых технологий и искусственного интеллекта (CDAO) Пентагона.
Остальные 4 инициативы:
– повышение качества данных
– оценка показателей эффективности деятельности
– объединенное командование и управление всеми доменами (CJADC2)
– уровень интеграции данных и управление цифровыми талантами
За счет использования ИИ Пентагон планирует решать проблемы, связанные с очень сложными сценариями угроз:
- Подмена/помехи GPS-сигнала и активное противостояние в боевом пространстве
- электронная война
- противодействие современным беспилотным системам (UAS)
- анализ внутренних утечек и подрывной деятельности
- захват контроля над промышленными системами управления
- операции в космическом пространстве
- защита от крылатых и баллистических ракет
- наступательные и оборонительные гиперзвуковые системы
- кибератаки
- биологические угрозы
AI Scaffolding представляют собой защищенную среду программирования и инструментарий, который позволяет создавать отраслевые среды для машинного обучения и развития ИИ, тестирования и обкатки на реальных кейсах. Главный специалист по цифровым технологиям и искусственному интеллекту Пентагона Крейг Мартелл именно таким образом определил новую систему, выступая в сентябре 2023 года в подкомитете Палаты представителей по кибербезопасности, информационным технологиям и правительственным инновациям.
Проблемы интеграции ИИ с существующими военными системами
CDAO работает с различными блоками Министерства обороны, оценивая уровень их готовности к внедрению возможностей ИИ. На основе анализа предоставляются технические услуги, инфраструктура, данные, инструменты и передовой опыт, необходимые для ускорения безопасной и надежной разработки, внедрения и поддержки работы систем ИИ.
Ключевая фраза здесь – “уровень готовности“. ИИ работает лучше всего тогда, когда он решает сценарии с корректными вводными данными, позволяющими использовать его преимущества. Для правильной работы системы и получения нужных результатов необходимы технологии, опыт, системы и организационная готовность принять ИИ и интегрировать его в систему принятия решений в боевой обстановке.
Сейчас стоит задача интеграции ИИ с аппаратными средствами и типами данных, существовавших до появления ИИ. Для наиболее эффективного использования военный ИИ должен быть пригоден к работе с очень ограниченным набором вводных данных. В задачи военного ИИ входит взаимодействие с устаревшим ПО, работа с разрозненными и порой ненадежными данными с датчиков. Но при этом задачи должны выполняться точно.
Очень наглядно этот подход иллюстрирует высказывание Рикардо Лоренцо, директора по технологиям корпорации Parsons: “В мире искусственного интеллекта наблюдается спешка в исследованиях и разработках, связанных с искусством возможного. Мы понимаем, что создание систем, функционирующих в оперативной реальности, является серьезной задачей для Министерства обороны. Миллиарды долларов были потрачены на разработку и развертывание устаревших систем и инфраструктуры. Очень важно понять, как ИИ может быть интегрирован в эти системы без их разрушения, чтобы максимально эффективно использовать эти инвестиции”.
Не лишним будет напомнить, что основными акционерами корпорации Parsons являются американские фонды, включая Vanguad и BlackRock.
Как Parsons внедряет ИИ
Стратегия Пентагона в области ИИ в основном опирается на сотрудничество с корпорацией Parsons. Она взяла на себя ведущую роль в разработке и частично в партнерстве с подрядчиками. Перед Parsons стоит задача разработать специализированные алгоритмы ИИ и создать базу проверенных шаблонов, которые позволят быстро внедрять решения в области ИИ.
Корпорация использует свои наработки по созданию фундаментальных основ и моделей ИИ для запуска государственных программ. Напомним, Parsons является подрядчиком государственных структур США. Ранее созданные системы могут быть адаптированы в соответствии с конкретными требованиями заказчика и кейсами их применения.
Для адаптации используются несколько базовых фреймворков, что значительно сокращает время, необходимое для дополнительного развертывания на новых массивах данных. Это стало возможно за счет создания и тестирования приложений ИИ в различных операционных средах.
Чтобы упростить и ускорить работу по внедрению военных вариантов ИИ, компания Parsons вложила значительные средства в создание Paladin Labs.
Это сеть исследовательских лабораторий, расположенных по всей территории США и оснащенных тактическими аппаратными комплектами, способными поддерживать тестирование и оценку с использованием “живых” или синтезированных данных в условиях имитации сети Disconnected, Intermittent, and Limited (DIL) при масштабировании алгоритмов от одного ноутбука до обширных облачных сред.
Созданы условия, в которых производственные предприятия, правительственные и научные организации могут проводить исследования, разработки и испытания в условиях низкого риска. Пользователи могут создавать прототипы концепций с использованием нового и устаревшего оборудования, алгоритмов ИИ и программных технологий с существующими правительственными архитектурами и реальными данными.
Цель тестирования состоит в том, чтобы обосновать те возможности ИИ, на которые целесообразно выделять финансирование.
Лаборатории Paladin Labs, расположенные в ключевых городах – Абердинском полигоне, Хантсвилле, Херндоне и Денвере, – позволяют быстро оценивать экосистемы ИИ в условиях, приближенных к боевым.
О доверии к ИИ, его полномочиях и роли АНБ
Уровень доступа и автономии в процессе принятия решений является одним из наиболее сложных моментов при внедрении ИИ. В Paladin Labs особое внимание уделяется выработке доверия к ИИ со стороны конечного пользователя.
В большинстве случаев конечные пользователи не являются ни специалистами по изучению данных, ни инженерами-программистами. Компания предоставляет им соответствующие инструменты и информацию, чтобы они могли успешно использовать технологию для выполнения своих задач. По мнению руководства Parsons, это необходимо для укрепления доверия пользователей к ИИ.
Кстати, разрыв между разработчиками и конечными пользователями был на первом месте среди проблем, когда Агентство национальной безопасности (АНБ) запустило Центр безопасности ИИ в сентябре 2023 года.
Директор АНБ Пол Накасоне назвал его координационным центром для использования данных внешней разведки, передового опыта, рекомендаций и оценки рисков для безопасной разработки, интеграции и внедрения возможностей ИИ.
В понимании руководства АНБ, безопасность ИИ – это защита систем ИИ от неправильного обучения, действий и раскрытия информации. Это комплекс практических мер по защите систем и жизненного цикла ИИ от цифровых атак, краж и повреждений. Чтобы обеспечить безопасность ИИ, необходимо глубокое понимание уязвимостей ИИ, угроз со стороны иностранных разведок для этих систем ИИ и способов противодействия угрозам.
Приоритетом также является обеспечение защиты инновационных возможностей США в области ИИ, которые могут быть украдены иностранными разведками.
Интеграция ИИ с устаревшими системами
Роль оборонных подрядчиков при внедрении ИИ заключается в интеграции этой новой и критически важной технологии в существующие системы. Концепция операций JADC2 Пентагона, в значительной степени опирается на модернизацию устаревших систем. Поэтому важно, чтобы именно эти системы могли подключаться к общей сети, обмениваться данными и анализировать их.
Специалисты Parsons помогают разрабатывать протоколы, стандарты и интерфейсы для данных, которые используются новыми и устаревшими системами ежедневно. Ведется работа над унаследованными системами и данными, с тем чтобы сценарий их использования позволял переключение управления на ИИ. Эта работа велась задолго до того, как ИИ стал мейнстримом, но появление этой технологии вывело процесс модернизации на новый уровень.
В качестве примера можно привести участие специалистов Parsons в процессе принятия решений с использованием ИИ. Компания активно работает со своими клиентами из Армии США и Космического командования армии США над прогнозированием действий партнеров и оппонентов на основе анализа разведывательных данных. В обеих этих программах непосредственное участие специалистов Parsons и систем ИИ в операциях, в сочетании с пониманием унаследованных систем, позволили быстро применить возможности ИИ для решения задач.
Оценка рисков внедрения ИИ
В Пентагоне понимают риски, связанные с внедрением ИИ, и работают над системой управления этими рисками, но в очень ограниченном масштабе. Технологии сейчас развиваются быстрее, чем законодательство. Такие организации, как Международный комитет по стандартам информационных технологий и Национальный институт стандартов и технологий, сотрудничают с частным и государственным секторами для создания стандартов и инструментов, таких как NIST’s AI Risk Management Framework. Введение этих добровольных ограничений якобы должно повысить эффективность управления рисками.
Выводы
Ведение боевых действий сейчас выходит на принципиально новый уровень. Использование ИИ позволяет достаточно легко согласовывать операции в различных доменах. В период СВО мы регулярно наблюдаем синхронные события, которые выглядят как изолированные. Но их совпадение по времени и месту не является случайностью.
- Процесс ужесточения контроля за криптоактивами в ЕС и США начался на следующий день после начала СВО.
- Британия стала нетто-экспортером энергии через три дня после подрыва “СП-2”.
- Скупка земель и семенного фонда т.н. Украины американскими ТНК достигла своего пика на фоне подписания руководством BlackRock и Украины соглашения о создании фонда по послевоенному восстановлению.
- Параллельно в европейских медиа усиленно муссируется необходимость избавления от углеродного следа и эффективно продвигается борьба с фермерами.
- Напряженность в Красном море делает поставки СПГ из США и Канады безальтернативными для Европы.
- Уничтожение системы госуправления в Аргентине неожиданно получает поддержку со стороны США, Израиля и ТНК. В медийном поле этот процесс представляется просто как очередной этап реформ, в результате которого все активы страны и финансовая система перейдут под прямой контроль ТНК.
Этот список можно продолжать бесконечно. Взаимосвязь подобных событий и явлений прослеживалась и ранее. Взаимозависимость блоков в системе глобального управления описана еще такими апологетами глобализма как Бжезинский. Сейчас обращает на себя внимание гибкость и оперативность реакции.
Боевые действия, медиа-поле, финансовая система, этнические и миграционные проблемы, система здравоохранения, сотовая связь, управление промышленными объектами, действия орбитальной группировки спутников, логистика, продовольственная безопасность и многие другие, как кажется, разрозненные явления и системы, оказываются не просто взаимосвязанными, как было несколько лет назад.
Управление всеми этими доменами вполне может осуществляться из единого центра очень оперативно и гибко. Объемы и скорость обработки данных выходят далеко за рамки человеческих возможностей, а в качестве прикрытия отлично подходит ограниченно-дееспособный президент США, Конгресс и прочие государственные учреждения, роль которых со временем будет только уменьшаться.
Ограничивать применение ИИ в военной сфере никто не собирается. NIST’s AI Risk Management Framework не является юридически-обязывающим документом. Это просто набор рекомендаций, которые участники могут выполнять на добровольной основе.
Текущий конфликт, с большой вероятностью, является прологом к более серьезному и масштабному противостоянию с использованием систем ИИ. Это не обязательно выльется в масштабные боевые действия в классическом понимании. Вариантов множество – от вывода из строя спутниковой группировки и систем связи, до захвата контроля над промышленными системами, инженерными сетями, водоснабжением и т.п.
Но системы ИИ имеют и обратную сторону. Они не только дают преимущества, но и открывают огромные уязвимости. Этот момент находится не только в фокусе внимания АНБ, но и разведок всего мира. Захват контроля даже над частью систем ИИ противника может привести к невосполнимым потерям. Намеренные или случайные ошибки машинного обучения могут привести к сопоставимым последствиям. Изучение и реальная оценка возможностей противника в области ИИ, разработка методов противостояния им сегодня становится приоритетом и требует пристального внимания руководства силовых структур РФ и профильных подразделений МО РФ.
