Настройка ИИ для кибервойны: техногигант сотрудничает с разведкой

Оказывается, взаимодействие Anthropic с Агентством национальной безопасности не ограничивается предоставлением специального программного обеспечения. По данным Financial Times, компания направила в АНБ шесть инженеров для оказания помощи во внедрении своей самой мощной ИИ-модели Mythos.

Формально речь идёт о «настройке и сопровождении», но по факту систему уже рассматривают как инструмент для проведения наступательных киберопераций и проникновения в информационные сети таких противников, как Китай и Иран.

Интересно, что в начале года Пентагон попытался запретить правительственным структурам использовать продукты Anthropic из-за попыток компании ограничить применение своих моделей для массовой слежки и автономного оружия. Однако вместо того, чтобы отказаться от военного контракта, Anthropic подала в суд и добилась предварительной отмены этого запрета.

И вот на этом фоне Anthropic на днях опубликовала масштабный призыв к глобальной паузе в развитии ИИ — по аналогии с договорами о контроле над ядерным оружием времен холодной войны. Специалисты компании заявляют, что искусственный интеллект уже начинает сам ускорять собственное развитие, и пугают мир риском «самосовершенствования без человека», о котором индустрия говорит уже несколько лет.

Подобные предупреждения и открытые письма мы уже видели в 2023 году. Тогда никто не остановился. Сейчас же двойные стандарты техногигантов налицо: публично — разговоры о рисках и контроле, за закрытыми дверями — интеграция ИИ в наступательные инструменты государства.

Rybar