Боевая техника будущего

Atass

Модератор
Команда форума
Сообщения
16.033
Адрес
Москва
Честь робота: Кодекс для боевого автомата

Боевым роботам, которые (теперь уже несомненно) будут принимать самое активное участие в будущих войнах, требуется внушить особый «кодекс чести». Только так мы сможем быть уверенными, что «разгоряченный» схваткой стальной монстр гуманно отнесется и к мирным жителям, и к раненым, и к собственным товарищам по оружию.

Популярный советский мультфильм «Полигон» рассказывает о том, как оружие выходит из подчинения человеку

Серьезное предупреждение о потенциальной опасности сформулировано в официальном докладе, который был подготовлен и выпущен исследовательским центром американских ВМС. В нем рассматриваются самые разные возможные сценарии развития событий, вплоть до будущего в духе «Терминатора», с полным порабощением всей человеческой расы.

Доклад предрекает приближение эры, когда роботы станут достаточно умными для того, чтобы принимать на поле боя самостоятельные решения. «В какой-то момент, - замечается в тексте, - они начнут и в этом демонстрировать явные преимущества в сравнении с солдатами-людьми».

Авторы исследования продолжают: «Весьма распространено заблуждение, что роботы будут делать только то, что заложено в их программу. К сожалению, это мнение давно устарело, относится оно еще к тем временам, когда даже самую сложную программу мог написать и понять один человек. Реальность же сегодняшнего дня такова, что даже текст современных программ составляет миллионы строк кода, написанных большими командами программистов – и ни один из них не представляет всю программу полностью и целиком». Соответственно, никто не может со стопроцентной вероятностью и предсказать, как поведет себя управляемый такой программой робот в условиях реального боя. Для этого понадобятся, как минимум, самые широкие и всесторонние полевые испытания – а против них могут выступить компании-производители, стремящиеся, естественно, как можно скорей выпустить продукт на рынок.

От себя добавим, что если робот должен действительно уметь принимать решения даже в условиях боя, то в такую систему заранее ввести все возможные комбинации и варианты событий попросту нереально. Алгоритмы его работы должны обязательно включать элементы самообучения – а уж чему научится робот в этих условиях, сказать еще сложнее. Да и вряд ли чему-то хорошему.

Решение, предлагаемое авторами доклада, состоит в составлении особых «воинских кодексов» для роботов, выполнение которых «намертво» будет вшито в их железные мозги. Это не столь изящно, как предложение их коллег создать для роботов своего рода систему эмоций («Робот на доверии»), зато и намного проще.

Авторы также рассмотрели и другие этические, юридические, социальные и политические аспекты военной робототехники. В частности, они впервые подняли вопросы защиты таких боевых систем от взлома и использования хакерами, от ошибок в программном обеспечении. Поднят и такой интересный вопрос, как ответственность – кто будет виноват, если боевой робот «обезумеет» и пойдет крушить все направо и налево? Не стоит ли снабдить их универсальной «кнопкой самоубийства»?

Все эти проблемы не просто своевременны, но и совершенно насущны, ведь, по плану американских военных, уже к 2010 г. треть всей дальней авиации США будет состоять из беспилотных устройств, а к 2015 г. автоматической будет треть всей наземной бронетехники. Да и инциденты уже случались – мы уже рассказывали о трагедии, случившейся с боевой пулеметной системой («Косильщик»).

«Стремление разработчиков как можно скорее выйти на рынок с реальными предложениями, - говорится в докладе, - отбрасывая необходимую проработку этических моментов использования боевых автономных систем, дает мало надежды на то, что первые поколения таких систем и роботов не совершат ошибок, которые могут стоить многих людских жизней».

Для начало дело за малым – составлением «воинского кодекса» роботов, который сочетал бы достаточно агрессивное поведение с гуманным отношением... Не хотите ли высказать свои предложения? За основу можно взять классику – Три закона робототехники, сформулированные в 1950-х Айзеком Азимовым:

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
2. Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму законам.

По публикации Times Online

http://www.popmech.ru/article/5057-chest-robota/
Добавлено: 05.03.09
 

Protector

Активный участник
Сообщения
1.385
Адрес
Дикое поле, Шарукань
Atass написал(а):
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
Из этого следует, что сей пост не должен находится в ветке "Боевая техника будущего".
 

Atass

Модератор
Команда форума
Сообщения
16.033
Адрес
Москва
Vist написал(а):
Да, поискал. Мало чего интересного. Разве что:
Есть такое
https://www.fcs.army.mil/



Добавлено спустя 5 минут 6 секунд:

Protector написал(а):
Atass писал(а):
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

Из этого следует, что сей пост не должен находится в ветке "Боевая техника будущего".
Я думаю, надо еще раз внимательно прочитать пост, в котором идет речь о боевых роботах
Atass написал(а):
Для начало дело за малым – составлением «воинского кодекса» роботов, который сочетал бы достаточно агрессивное поведение с гуманным отношением... Не хотите ли высказать свои предложения? За основу можно взять классику – Три закона робототехники, сформулированные в 1950-х Айзеком Азимовым:
 

акулыч

Активный участник
Сообщения
8.951
Адрес
Москва
Что то мне этот танк с супер пушкой напомнил...О! Был такой мультфильм советский - "Полигон" называется. Просто копия тамошнего танка... ;)
 

anderman

Модератор
Команда форума
Сообщения
64.056
Адрес
г. Пермь
Atass, в разделе Бронетехника и автотранспорт, ветка про Танк-робот, мы уже пытались создать кодекс боевого робота... :-D
 

Atass

Модератор
Команда форума
Сообщения
16.033
Адрес
Москва
anderman написал(а):
Atass, в разделе Бронетехника и автотранспорт, ветка про Танк-робот, мы уже пытались создать кодекс боевого робота... Улыбаюсь
Все уже ... сделано до нас... :-(
 

anderman

Модератор
Команда форума
Сообщения
64.056
Адрес
г. Пермь
Atass написал(а):
Все уже ... сделано до нас... :-(

Кодекс далёк от логического завершения. :-D Свежие идеи приветствуются! :-D
anderman написал(а):
Может нам самим попытаться написать такой кодекс? Что-то в стиле «трёх законов роботехники» А. Азимова.

<>Боевой робот обязан выполнять команды только своего непосредственного оператора и лиц, официально его замещающих.
>Боеаой робот обязан выполнять все команды оператора, если они не противоречат общевоинским уставам и международным соглашениям о правилах ведения войны.
>Боевой робот может поражать только те объекты, которые с вероятностью не менее 90% соответствуют параметрам цели типа «противник».
>Боевому роботу запрещено открывать огонь:
-- по лицам, одетым в военную форму, но не имеющим при себе оружия, кроме случаев, когда их действия угрожают жизни и здоровью «своих» или «нейтралов»;
-- по лицам, одетым в гражданскую одежду, имеющим или не имеющим при себе оружие, кроме случаев, когда их действия угрожают жизни и здоровью «своих» или «нейтралов»;
>Боевой робот перед открытием огня должен быть уверен, что объект, по которому он собирается открыть огонь -- «противник». В случае возникновения сомнений -- обратиться к оператору.
>Боевой робот обязан принимать все меры для спасения жизни и здоровья «своих» воеенослужащих и любых гражданских лиц.

Artemus написал(а):
Вопрос в том, как машина будет определять степень угрозы?

anderman написал(а):
Ну например: некое лицо держит в руках оружие и целится в кого-либо. В «своего» или в «нейтрала». Следует команда: «Брось оружие!» Не послушался -- открывается огонь на поражение.

Мне видится что-то типа «Правил применения оружия часовым». Естественно всё это нужно дорабатывать и модернизировать.

anderman написал(а):
Ещё одну «заповедь» придумал:
>Боевой робот обязан знать в лицо, в затылок и в иные части тела всё население своей страны
:-D

anderman написал(а):
вариант: «... в случае, если робот попадает в ситуацию, выходящую за пределы его компетенции, он обращается к оператору»
http://www.rusarmy.com/forum/viewtopic. ... &start=140
 

Guron

Активный участник
Сообщения
1.494
Адрес
Siberia
Стас написал(а):
акулыч а это разве танк? По моему больше САУ напоминает?
Она и есть. 155мм гаубица NLOS. Длина ствола 52 калибра. Весит около 22-23 тонн. Легкая и мобильная. Может получать сообщения от беспилотников в режиме реального времени и корректировать огонь. Отличается высокой степенью автоматизации и мин. временем развертывания. Поступает на вооружение в США. Разработана в рамках программы Future Combat System.
 

Atass

Модератор
Команда форума
Сообщения
16.033
Адрес
Москва
anderman написал(а):
Кодекс далёк от логического завершения. Улыбаюсь Свежие идеи приветствуются! Улыбаюсь
Я думаю, все ограничится вживлением в людей имплантов типа "свой-чужой", а кто не успел, робот не виноват... :-(
 

anderman

Модератор
Команда форума
Сообщения
64.056
Адрес
г. Пермь
Atass написал(а):
Я думаю, все ограничится вживлением в людей имплантов типа "свой-чужой", а кто не успел, робот не виноват... :-(

Я юумаю, с этого всё начнётся. :-D А закончится всё подделкой чипов, удалением чипов у солдат/гражданских противника и вживлением из своим солдатам. И многими иными гадостями, на которые так богата фантазия среднестатистического предприимчивого человека в поисках источника денег.
 

Atass

Модератор
Команда форума
Сообщения
16.033
Адрес
Москва
anderman написал(а):
Я юумаю, с этого всё начнётся. Улыбаюсь А закончится всё подделкой чипов, удалением чипов у солдат/гражданских противника и вживлением из своим солдатам.
Вот чем закончится, пока сложно сказать. А некоторым чипы уже вживляют в качестве дополнения/замены паспортов.
anderman написал(а):
>Боевой робот обязан знать в лицо, в затылок и в иные части тела всё население своей страны
Кстати, не так маловероятно...
Опознание производить и по чипу, и по паспортным данным, и не обязательно это хранить у себя. Вычислительные мощности совершенствуются быстро.
 

v32

Активный участник
Сообщения
3.354
Адрес
г. Киров обл.
Кодекс далёк от логического завершения. :-D Свежие идеи приветствуются! :-D
Может нам самим попытаться написать такой кодекс? Что-то в стиле «трёх законов роботехники» А. Азимова.

<>Боевой робот обязан выполнять команды только своего непосредственного оператора и лиц, официально его замещающих.
>Боеаой робот обязан выполнять все команды оператора, если они не противоречат общевоинским уставам и международным соглашениям о правилах ведения войны.
>Боевой робот может поражать только те объекты, которые с вероятностью не менее 90% соответствуют параметрам цели типа «противник».
>Боевому роботу запрещено открывать огонь:
-- по лицам, одетым в военную форму, но не имеющим при себе оружия, кроме случаев, когда их действия угрожают жизни и здоровью «своих» или «нейтралов»;
-- по лицам, одетым в гражданскую одежду, имеющим или не имеющим при себе оружие, кроме случаев, когда их действия угрожают жизни и здоровью «своих» или «нейтралов»;
>Боевой робот перед открытием огня должен быть уверен, что объект, по которому он собирается открыть огонь -- «противник». В случае возникновения сомнений -- обратиться к оператору.
>Боевой робот обязан принимать все меры для спасения жизни и здоровья «своих» воеенослужащих и любых гражданских лиц.


Ну например: некое лицо держит в руках оружие и целится в кого-либо. В «своего» или в «нейтрала». Следует команда: «Брось оружие!» Не послушался -- открывается огонь на поражение.


А теперь попробуйте эти законы переложить на какой-нибудь язык программирования, напр С++ или Ada :-D
 

anderman

Модератор
Команда форума
Сообщения
64.056
Адрес
г. Пермь
v32 написал(а):
А теперь побробуйте эти законы переложить на какой-нибудь язык программирования, напр С++ или Ada :-D
А самому -- влом? :-D
v32, цитируемый текст желательно выделять. :-read:
 

SHITZ

Активный участник
Сообщения
3.211
Адрес
МОСКВА
v32
С вашим кодексом когорта юристов не разберётся , не то что робот :? :-D
 

anderman

Модератор
Команда форума
Сообщения
64.056
Адрес
г. Пермь
SHITZ написал(а):
v32
С вашим кодексом когорта юристов не разберётся , не то что робот :? :-D

(глубоко-глубоко вздохнув)
Всё дело в том, что кодекс как раз не его...
(ещё более глубоко-глубоко вздохнув)
Он мой. . .
 

goluga

Активный участник
Сообщения
32
Адрес
сибирь
А как насчет авиации??
Например легкий самолет разведчик ракетного типа с дикой скоростью реакции, способный выдержать дикие перегрузки что-бы уворачиваться от зениток :-D стрелять ракетой по ракете бессмысленно один фиг увернется :-D лучше сделать несколько быстрых заходов, чем один медленный, но последний.

Или беспилотный штурмовик: Заход на цель по наводке разведчика с подтверждения штаба что не свои и не гражданские. Делает первый и последний для цели заход и линяет к следующей цели. А наводка примерно так: разведчик дает в штаб картинку в разных диапазонах (радар, тепловизор, камера и еще что придумают), там маркером на мониторе выделяют область которую покрыть или отдельные точки (если цель статичная) или задают образы которые надо подбить. Все анализируется, вычисляются подвижные цели и заход :Diablo:
Еще обязательно полет с огибанием местности на высоте в 5 метров по бортовому далномеру.

Тем более одним из ограничивающих факторов истебителя уже стала перегрузка, которую человек переносит с трудом.
 

SHITZ

Активный участник
Сообщения
3.211
Адрес
МОСКВА
anderman написал(а):
глубоко-глубоко вздохнув)
Всё дело в том, что кодекс как раз не его...
(ещё более глубоко-глубоко вздохнув)
Он мой. . .

:grin:
Не переживайте . У форумчан "кодекс" сложнее :-D
 
Сверху