Microsoft на службе Пентагона: что IT-гигант разрабатывает для армии США

В материалах по проектам “Белый аист”, Maven и ChatGPT мы обозначили тенденцию использования военными самых передовых наработок в области ИИ в военных целях. Процесс интеграции ИИ в военные технологии идет уже достаточно давно и успешно.

Естественно в освоении бюджетных средств на этом направлении участвуют не только Google, SpaceX и OpenAI.

Microsoft старается не отставать и предлагает военным свои продукты.

В частности, в прошлом году представители Microsoft предложили использовать популярный инструмент генерации изображений DALL-E для помощи Министерству обороны США в создании программного обеспечения для проведения военных операций.

Эти предложения были изложены в материалах внутренней презентации – «Генеративный ИИ на основе вводных от Министерства обороны». Из них следует, что Пентагон может использовать инструменты машинного обучения от компании OpenAI, включая генератор текста ChatGPT и генератор изображений DALL-E, для решения самых разных задач — от анализа документов до обслуживания машин.

В прошлом году компания Microsoft инвестировала $10 млрд в стартап, занимающийся машинным обучением, и эти два бизнеса тесно переплелись.

Документ Microsoft взят из большого кэша материалов, представленных в октябре 2023 года на учебном семинаре Министерства обороны по «ИИ-грамотности», организованном Космическими силами США в Лос-Анджелесе. На мероприятии было представлено множество презентаций от компаний, занимающихся машинным обучением, включая Microsoft и OpenAI, о том, что они могут предложить Пентагону.

Общедоступные файлы были найдены на сайте Alethia Labs, некоммерческой консалтинговой компании, которая помогает федеральному правительству и Пентагону в частности в приобретении технологий и ускоренном внедрении инструментов искусственного интеллекта. В прошлом году компания заключила контракт с главным управлением Пентагона по искусственному интеллекту.

Полученные данные были систематизированы журналистом Джеком Поулсоном. Он опубликовал большое расследование, посвященное материалам презентации.

В разделе «Продвинутое обучение компьютерному зрению» рассматривается интеграция ИИ в системы управления боем. В частности речь идет об использование моделей DALL-E для создания изображений для обучения систем управления боем.

Система управления боем — это командно-контрольный программный комплекс, который предоставляет командованию оперативно получать ситуационный обзор боевого сценария, позволяя координировать артиллерийский огонь, проводить идентификацию целей авиаударов и маневрировать передвижением войск. Изображения, сгенерированные DALL-E, могут помочь компьютерам Пентагона лучше «видеть» условия на поле боя, что особенно полезно для поиска и уничтожения целей.

Немного о новой этике ведения войны

Microsoft сообщила изданию The Intercept, что если Пентагон будет использовать DALL-E или любой другой инструмент OpenAI по контракту с Microsoft, то на него будут распространяться правила использования этой компании. Тем не менее, любое использование технологии OpenAI для того, чтобы помочь Пентагону более эффективно убивать и уничтожать, стало бы резким поворотом для компании, которая описывает свою миссию как разработку искусственного интеллекта, ориентированного на безопасность, который может принести пользу всему человечеству.

По мнению Брианны Розен, научного сотрудника Школы государственного управления Блаватника при Оксфордском университете, специализирующийся на этике технологий: – «Невозможно построить систему управления боем таким образом, чтобы она хотя бы косвенно не способствовала нанесению вреда гражданскому населению». У OpenAI и других IT-компаний, естественно нет письменных гарантий от правительств, что они не будут использовать технологии для нанесения вреда гражданскому населению.

Напомним, сегодня юридически применение систем ИИ в военных целях не регулируется никак, что открывает широкие возможности для военных. Это позволяет оставить в прошлом такие рудименты как международное право, гуманизм и этика.

Но в отличие от OpenAI, Microsoft в своем документе об «ответственном ИИ» не притворяется, что отказывается от вреда, и открыто продвигает использование своих инструментов машинного обучения в военных целях.

Как построено машинное обучение?

В презентации Microsoft нет никаких подробностей о том, как именно системы управления полем боя могли бы использовать DALL-E. Однако упоминание об обучении этих систем наводит на мысль, что DALL-E может быть использован для обучения систем обнаружения целей синтетическими учебными данными. Это искусственно созданные сцены, которые очень похожи на реальные изображения. Например, военному программному обеспечению, предназначенному для обнаружения целей на земле, можно показать огромное количество сгенерированных аэрофотоснимков взлетных полос или танковых колонн, созданных DALL-E, чтобы научить лучше распознавать такие цели в реальном мире.

Эффективность такого подхода является спорной. Точность модели и ее способность точно обрабатывать данные ухудшается с каждым разом, когда она проходит обучение на контенте, созданном ИИ. Изображения Dall-E далеки от точности и часто не генерируют изображений, отражающих физическую реальность, даже если бы они были точно настроены на входные данные системы управления боем (Battlefield management system). Генеративные изображения часто содержат неправильное количество конечностей или пальцев, что ставит под сомнение целесообразность такого подхода.

В интервью, Центру стратегических и международных исследований, капитан ВМС США М. Ксавьер Луго предположил, что генеративный контент можно будет использовать для обучения беспилотников.

Луго, руководитель целевой группы Пентагона по генеративному ИИ и член Главного управления цифровых технологий и искусственного интеллекта Министерства обороны, указан в качестве контактного лица в конце документа презентации Microsoft. Презентация была сделана сотрудником Microsoft Нехемией Кунсом (Nehemiah Kuhns), «специалистом по технологиям», работающим в Космических силах и ВВС.

ВВС США в настоящее время создают систему Advanced Battle Management System — свою часть более масштабного многомиллиардного проекта Пентагона под названием Joint All-Domain Command and Control, целью которого является объединение всех вооруженных сил США в единую сеть для более плотной связи между родами войск, анализа данных с помощью искусственного интеллекта. В рамках JADC2, Пентагон планирует создать систему, в которой камеры беспилотников ВВС, радары военных кораблей ВМС, танки армии и морские пехотинцы на земле будут беспрепятственно обмениваться данными о противнике.

3 апреля Центральное командование США сообщило, что уже начало использовать элементы JADC2 на Ближнем Востоке.

Выводы

Грань между гражданскими технологиями, которые десятилетиями разрабатывали компании с мировым именем под флагом гуманизма, и военными полностью исчезла. Сегодня абсолютно все технологии, а особенно прорывные на базе ИИ, активно интегрируются в системы управления боем. Это взаимовыгодное сотрудничество. Крупные корпорации получают многомиллиардные контракты, а государства получают эффективные инструменты для отстаивания своих интересов. Масштабное использование чисто гражданских технологий в Пентагоне никого не смущает.

Текущее положение вещей требует пересмотра отношений между гражданским и военным секторами экономики РФ, и определённые сдвиги в этом направлении уже идут. Но необходимо правильно оценивать масштабы происходящих изменений. У нашего противника наметилась тенденция по глубокую, всестороннюю и долгосрочную интеграцию с IT-гигантами. Возможно стоит использовать наработки нашего противника для создания систем, учитывающих эти реалии.

Rybar