Искусственный интеллект в современных войнах перестал быть просто инструментом анализа: сегодня алгоритмы в реальном времени назначают цели, управляют роями дронов и координируют перехват ракет. Однако эксперты бьют тревогу — концепция «человека в петле», призванная контролировать машину, превращается в опасную иллюзию. Непрозрачность нейросетей делает невозможным предотвращение военных преступлений, совершаемых по воле кода.
Ловушка «черного ящика» и суррогат контроля
Директивы оборонных ведомств требуют, чтобы за каждой атакой стоял человек, способный оценить контекст и нюансы ситуации. Но на практике это правило разбивается о природу «черного ящика»: даже разработчики не всегда понимают внутреннюю логику нейросетей. Нейробиологи указывают на критический «разрыв в намерениях»: оператор видит лишь сухие цифры вероятности успеха, не осознавая, какими мотивами руководствовалась система при выборе цели.
Представьте атаку на склад боеприпасов. Алгоритм оценивает вероятность уничтожения объекта в 92% и отдает приказ на удар. Машина учитывает мощность вторичной детонации как плюс к эффективности, но игнорирует тот факт, что взрывная волна снесет соседнюю больницу. Для программы это логичная максимизация результата, для международного права — военное преступление.
Цена ошибки и «моральный аутсорсинг»
Трагедии на поле боя уже стали реальностью. В ходе недавних ударов по объектам в Иране авиация поразила здание начальной школы, что привело к гибели 175 человек. Военное руководство признало инцидент, сославшись на точность попадания при ошибочном выборе цели. Вероятно, ИИ опирался на устаревшие данные, по которым гражданское здание числилось военным объектом.
Использование таких систем, как американская Maven или израильская Lavender, обнажило этическую проблему. По свидетельству офицеров, проверка одной цели алгоритма порой занимает не более 20 секунд. Человек превращается в живой штамп, формально одобряющий решения машины. При этом военные признают: делегирование права на убийство искусственному интеллекту снижает «моральную тревогу». Машина принимает решения «холодно», избавляя оператора от груза ответственности.
Инвестиции в прозрачность вместо гонки мощностей
Пока ИТ-гиганты и военные ведомства ведут юридические споры об использовании технологий в войне, эксперты требуют смены парадигмы. К 2026 году мировые инвестиции в ИИ могут достичь 2,5 триллиона долларов, но на изучение механизмов работы этих систем тратятся копейки. Ученые из ведущих технологических институтов настаивают на объединении нейробиологии и инженерии для создания «прозрачного» интеллекта.
Решением может стать развитие механистической интерпретируемости — создание систем-аудиторов, способных в реальном времени объяснять логику выбора целей. Законодателям предлагают закрепить обязательное тестирование «намерений» алгоритмов, а не только их эффективности. В условиях гонки вооружений, когда скорость работы ИИ уже превышает возможности человеческого восприятия, понимание мотивов машины становится вопросом выживания цивилизации.
