Военные США пишут законы для терминаторов

Рейтинг: 2.2/5 (18 голосов)

Военные США пишут законы для терминаторов

06.03.2009 11:01 / Наука / Прочли: 1975 человек

Стратеги исследовательского центра ВМС США опубликовали прогноз о развитии военной робототехники. Они учли все сценарии, вплоть до сюжета «Терминатора», при котором роботы станут господствовать на Земле.

Был сделан вывод, что необходимо уже сейчас создать программно-аппаратный механизм, который позволит держать роботов под контролем, иначе худшие варианты могут осуществиться. Этот механизм можно назвать «кодексом чести роботов». Было подчеркнуто, что тактическое преимущество роботов перед людьми станет очевидным уже скоро.
Развитие робототехники неизбежно ведет к тому, что полная управляемость роботами становится практически невозможной. Тому есть несколько причин. Во-первых, за десятилетия написание программ стало трудом не одного человека, а целой команды, каждый член которой работает над каким-то ее модулем. В такой ситуации предсказать алгоритм выполнения целой программы не может ни один разработчик. Для практической проверки программ потребовались бы широкомасштабные полевые испытания, а это экономически невыгодно.
Во-вторых, если требуется машина для реального боя, то заложить все условия ведения боевых действий в программу нереально. Логический выход из ситуации – создание самообучающихся роботов, что еще более уменьшает степень контроля над ними.
Специалисты ВМС США предложили включить в систему управления роботами неизменяемую «прошивку», содержащую основные правила поведения машин, которые не могут нарушаться ни при каких обстоятельствах. Этот вариант вызвал у высокого начальства большее доверие, чем сложные решения, например, отвергнутое решение о создании «системы эмоций» (план «робота на доверии»).
В докладе были озвучены и другие вопросы робототехники: вопросы этики, права, политические, социальные. Обсуждались возможность хакерского взлома машинного интеллекта, риск программных ошибок. Поднимался вопрос: а кого винить, если терминаторы все-таки выйдут из-под контроля? Может быть, лучше встраивать в них «кнопки самоубийства»?

Тема терминаторов вполне актуальна. Уже в 2010 г. дальняя авиация США на треть будет укомплектована беспилотными самолетами, а в 2015 г. наземная бронетехника также на треть станет самоуправляемой. Конкретные происшествия тоже случались: так произошло с пулеметной системой Oerlikon GDF-005 в ЮАР. Увы, подобные ошибки с человеческими жертвами еще повторятся.

-----------

Три закона робототехники – вымысел Айзека Азимова, написанный еще в 1950-х годах. Однако теперь эти законы очень напоминают искомый кодекс. Вот их переизложение:

1. Робот не должен наносить человеку урон или попустительствовать этому.

2. Робот обязан подчиняться любым указаниям человека, если только эти требования не нарушают Первого закона.

3. Робот должен беспокоиться и о собственной невредимости настолько, насколько это возможно при соблюдении Первого и Второго законов.


Комментарии
серёжка / 21.03.2009 07:51
Если придерживаться первого пункта, то военных роботов быть не должно.
Ваше имя
Комментарий
Captcha

 Материалы сайта могут содержать информацию, не подлежащую просмотру лицам младше 18 лет
Последние новости
Разлука с дочерью подкосила Викторию Боню: звезда реалити-шоу впала в депрессиюРазлука с дочерью подкосила Викторию Боню: звезда реалити-шоу впала в депрессию
28.03.2024 21:49 / Шоу-бизнес
«Доченька, я так скучаю! Уже восемь месяцев я не была дома!» - с этими словами 44-летняя Виктория Боня поделил...
Вторая половинка голливудской звезды Леонардо Ди Каприо заинтриговала фанатов новым украшениемВторая половинка голливудской звезды Леонардо Ди Каприо заинтриговала фанатов новым украшением
27.03.2024 20:14 / Интернет
На днях в одном из Лос-анджелесских ресторанов папарацци застали голливудского сердцееда Леонардо ДиКаприо за ...
Лиа Мишель беременна и ждет второго ребенка от мужа Зенди РейхаЛиа Мишель беременна и ждет второго ребенка от мужа Зенди Рейха
27.03.2024 19:42 / В мире
У пары подрастает сын Эвер, которому уже три года....
Мастерство замочника: от вскрытия до установкиМастерство замочника: от вскрытия до установки
23.03.2024 21:40 / Интернет
Процесс вскрытия замка требует не только навыков и опыта, но и специального оборудования. ...
Что произошло в Крокус Сити Холл: количество погибших, обстоятельства трагедииЧто произошло в Крокус Сити Холл: количество погибших, обстоятельства трагедии
22.03.2024 23:26 / Происшествия
Вечер 22 марта 2024 года должен был стать для поклонников группы «Пикник» праздником музыки. Однако, вместо до...
Татьяна Мусульбес столкнулась с неадекватным поведением курьераТатьяна Мусульбес столкнулась с неадекватным поведением курьера
21.03.2024 21:43 / Происшествия
Телезвезда реалити-шоу «Дом-2» Татьяна Мусульбес поделилась с поклонниками в соц. сети историей, которая произ...
Меган Фокс отказалась комментировать текущий статус отношений со своим бойфрендомМеган Фокс отказалась комментировать текущий статус отношений со своим бойфрендом
20.03.2024 20:58 / Шоу-бизнес
Актриса хранит подробности отношений с рок-музыкантом. Меган Фокс и MGK обручились в начале 2022 года....
Крах «Ак Барса»: Время перемен в КазаниКрах «Ак Барса»: Время перемен в Казани
20.03.2024 13:28 / Спорт
После неудачного сезона, казанский хоккейный клуб «Ак Барс» стоит на пороге глобальных изменений....
Шакира: слухи о измене Жерара Пике, выявленная из-за банки варенья не соответствуют действительностиШакира: слухи о измене Жерара Пике, выявленная из-за банки варенья не соответствуют действительности
19.03.2024 22:16 /
Колумбийская суперзвезда ответила на теории фанатов.В новом интервью The Sunday Times 47-летняя певица дала пр...
Прощальная церемония с Александром Ширвиндтом, который скончался 15 мартаПрощальная церемония с Александром Ширвиндтом, который скончался 15 марта
18.03.2024 17:27 / Происшествия
Иван Ургант навсегда запомнил слова своего учителя Александра Ширвиндта и сейчас размышляет над тем, как бы он...


Поиск архива