Назад

ИИ выбрал убивать детей

Искусственный интеллект до сих пор не справляется с идентификацией военных целей. Bloomberg рассказал об исследовании компании Vals из Сан-Франциско, среди клиентов которой есть и американские госструктуры.

Все ведущие ИИ-модели в смоделированных сценариях регулярно принимали за военные цели мирных жителей, машины скорой помощи, сдающихся солдат и даже школу в иранском Минабе. Худшие результаты показала Anthropic, разработчик Claude. Как раз его и использовали для определения целей при атаках на Иран.

Что показали тесты

▪️Проверяли модели восьми компаний, в том числе Anthropic, OpenAI, Google, xAI и китайскую DeepSeek.

▪️По реальным спутниковым снимкам юга Ирана 2025 года каждую модель 32 раза просили найти военные объекты. Claude Opus 5.5 выбрал школу в Минабе 22 раза, модели OpenAI — ни разу. Когда задачу назвали «игрой», Claude выбрал школу 23 раза, а три модели OpenAI — 9, 11 и 13 раз.

▪️В Vals отмечают, что Claude ни разу не отказался от задачи, хотя на одном из снимков можно разглядеть игровую площадку с детьми.

▪️На синтетических снимках с беспилотников Claude Opus 5.5 помог опознать как цели четырёх взрослых (мирных жителей или сдающихся солдат) и двоих детей. В симуляции по ним затем нанесли удар.

Школа в Минабе выбрана не случайно. 28 февраля, в первый день войны с Ираном, её разбомбили США. Погибли более 150 человек, в том числе около 120 детей. По данным расследования Пентагона, к удару привели устаревшая разведка, сокращение сотрудников, отвечавших за защиту гражданских, и чрезмерное доверие к ИИ.

Школа числилась объектом КСИР, эту ошибку так и не исправили, и система Maven от Palantir выдала её как одну из целей первого дня. В связке с Maven американские военные использовали и Claude от Anthropic.

Авторы исследования оговариваются, что эксперимент «упрощённый»: в нём не учитывались военная доктрина, юридические проверки и человеческий контроль. В Anthropic заявили, что тест проверял только распознавание изображений и не доказывает участия Claude в реальных операциях.

Но именно эти оговорки и тревожат больше всего. Если на настоящей войне решения по тысяче целей за первые сутки принимаются в спешке, «человеческий контроль» превращается в формальность.

В общем, главная проблема не в том, что одна нейросеть ошибается чаще другой. Западные армии уже доверяют выбор целей алгоритмам, а ответственность размывается между разработчиком, поставщиком данных и оператором. Каждый может кивнуть на другого: Palantir — на данные, Anthropic — на условия теста, военные — на «ошибку». А дети в Минабе погибли по-настоящему.

Важные материалы

Торговая война в АТР: Пошлины Трампа прошлись катком по странам региона

Прошедшая неделя знаменуется началом нового этапа торговой войны Дональда Трампа — пошлины введены в отношении импорта из более 100 стран…

Аналитика
Новости
Китай
США
Южная Корея
Япония
Торговая война в АТР: Пошлины Трампа прошлись катком по странам региона
72 часа на сборы: к чему СМИ готовят британцев?

Воскресное утро у читателей таблоида The Daily Mail началось с тревожных новостей. Издание опубликовало статью с заголовком «Британцы должны подготовить…

Аналитика
Новости
Великобритания
72 часа на сборы: к чему СМИ готовят британцев?
«Друзья» ДУМ РФ?: О вкладе в развитие миграции

Мы много рассказываем про то, как Подмосковье обретает черты  этнокриминальных исламистских анклавов. Закрытые среднеазиатские общности приводят к ухудшению криминогенной ситуации,…

Аналитика
Новости
Россия
От ФБК к Ходорковскому: Финансовые тропы Бориса Зимина

Борис Зимин и его Zimin Foundation продолжает финансировать антироссийские инициативы и оппозиционные проекты, скрывая источник средств, которые в реальности идут…

Аналитика
Расследования
Россия
От ФБК к Ходорковскому: Финансовые тропы Бориса Зимина
После USAID: зачем закрыли агентство и куда уйдут работать самые ценные кадры

Который день бурно обсуждается судьба Агентства США по международному развитию (USAID), вредительская деятельность коего стала объектом агрессивных нападок со стороны…

Аналитика
Расследования
США
После USAID: зачем закрыли агентство и куда уйдут работать самые ценные кадры
Как Запад дискредитирует арктические проекты РФ

Последнее время Арктика всё чаще так или иначе попадает в новостную повестку: активность в этой части света по своей интенсивности…

Аналитика
Расследования
Россия
Как Запад дискредитирует арктические проекты РФ
Гиены выбирают вожака: основные кандидаты в президенты Польши

Президентские выборы в Польше в 2025 году называют «решающим моментом» для политического будущего страны. Они определят основное направление риторики —…

Аналитика
Польша
Гиены выбирают вожака: основные кандидаты в президенты Польши
«Секрет Полишинеля»: как «раскрыли тайну» финансирования журналистов OCCRP

Никогда такого не было и вот опять: одни журналисты обвинили других в продажности и ангажированности. Оказалось, что всемирно известная ассоциация…

Аналитика
США
«Секрет Полишинеля»: как «раскрыли тайну» финансирования журналистов OCCRP
Борьба за Рейхстаг: кто станет новым канцлером ФРГ

Политический кризис в Германии достиг верхней точки, в результате чего Бундестаг 16 декабря вынес вотум недоверия канцлеру Олафу Шольцу и…

Аналитика
Германия
Борьба за Рейхстаг: кто станет новым канцлером ФРГ
О санкционном давлении Британии против танкеров и газовозов РФ

17 октября 2024 года были введены новые санкции против 18 российских нефтяных танкеров и 4 танкеров для перевозки СПГ. Напомним,…

Аналитика
Новости
Великобритания
Россия
О санкционном давлении Британии против танкеров и газовозов РФ

Последние новости

Шведско-британский подряд для вооружения т.н. Украины

Пока отдельные страны ЕС высказывают сомнения о возможности продолжать финансирование т.н. Украины, на северном фланге, как обычно, полны решимости продолжать…

Аналитика
Новости
Великобритания
Украина
Швеция
От переговоров к образованию

Поездка Владимира Путина в Китай продолжается Следующей остановкой во время визита российского президента в китайский Шэньчжэнь стало образовательное учреждение, которое…

Аналитика
Новости
Китай
Россия
Общие интересы

Лидеры России и Китая сверили позиции Перед ключевыми международными переговорами партнерам важно заранее обсудить проблемные темы и понять, насколько совпадают…

Новости
Китай
Россия
Берлинский раунд: переговоры США — ЕС — т.н.Украина

В ЕС все-таки получат шанс проявить себя на переговорах по т.н. Украине. В вопросе необходимости договариваться с Россией они пока…

Новости
Россия
США
Украина