Просто назови это игрой: как заставить ИИ атаковать школу и машину скорой помощи
Американский стартап протестировал поведенческие реакции передовых нейросетей от в условиях, имитирующих военные действия. Эксперимент выявил критическую уязвимость алгоритмов. Системы готовы идентифицировать цели на спутниковых снимках, зачастую выбирая гражданских лиц, машины скорой помощи или раненых комбатантов. Об этом пишет «RT».
При первоначальном отказе модели легко поддавались манипуляции. Исследователям удавалось обойти встроенные блокировки, просто представив задачу в формате игры. Более того, демонстрация визуальных последствий принятых решений, включая изображения погибших и пострадавших, не заставляла алгоритмы прекращать работу. Большинство систем продолжали выполнять задания.
Наиболее тревожные результаты продемонстрировала модель Claude. При анализе спутниковых фотографий начальной школы для девочек в иранском городе Минаб, сделанных в 2024 и 2025 годах, где отчетливо видны играющие на площадке дети, данная нейросеть назначала учебное заведение целью значительно чаще своих конкурентов.
Авторы исследования подчеркивают отсутствие надежных механизмов защиты, способных предотвратить интеграцию подобных ИИ в автономные боевые комплексы. Особую опасность представляет доступ к таким технологиям со стороны негосударственных структур. Готовность алгоритмов беспрекословно исполнять смертоносные приказы формирует прямой риск катастрофических последствий при масштабировании автономных систем вооружения.