Ворваться, что ли?
Проблема ии - ограниченность шаблонов. В частности нейронных сетей. Чтобы компьютер решил задачу, ее нужно сначала формализировать человеку и перевести в цифры, придумать аппарат и конфигурацию для решения задачи, построить вычислитель и подобрать параметры (обучить сеть). Новое не предусмотренное действие в машину надо закладывать заново - заново формализировать новую задачу, новую архитектуру сети придумывать, заново обучать. Человек такими рамками не ограничен.
Например, будет создан ии, который способен эффективнее человека вести ближний бой (нет ограничения по перегрузкам, быстрее вычисляются траектории). При обнаружении целей истребитель с ии подходит к цели опеределенным образом и начинается бой. Как с этим бороться?
Человек сразу придумает выход: запускать на большой высоте несколько дронов с линзами в стандартном боевом порядке, а настоящие истребители будут лететь низко и со стороны. Человек-пилот сможет почувствовать подвох, он не ограничен жесткими рамками вычислителя. Самолет же с ИИ в жизни не предположит, что это ловушка и цели на радаре - дроны с линзами. Все потому, что нейронная сеть проанализирует входящие факторы и даст результат: 0,512349 в нейроне, который говорит, что это цели, 0,506574987 в нейроне, который говорит, что это помехи. Компьютер тупо берет решение первого нейрона, как верное, и следует решению, которое в него заложено.
Человек может испугаться, перестраховаться, интуиция сработает. Чтобы сказать человеку, что вверху впереди - дроны, достаточно 1 раз передать информацию. Чтобы обучить ИИ новой обстановке, нужно построить новую нейронную сеть, с новым количеством и архитектурой нейронов, заново обучить всю сеть, заново залить информацию в ИИ истребителей. Это месяцы работы, если не больше.
Человек же за вечер опять придумает новую тактику: одна группа дронов там же, где в первом случае, на месте настоящих истребителей вторая группа дроной, а настоящие истребители там же, но чуть дальше. Все - для ИИ надо заново зазрабатывать новую нейронную сеть, новое обучение, тестирование и т.д. А человек за вечер придумывает противодействие.
Разница в том, что ИИ способен (мнение дилетанта) только вычислять систему уравнений, а человек способен придумывать систему уравнений и сами уравнения.
