Военные США пишут законы для терминаторов
06.03.2009 09:01 / Наука / Прочли: 2117 человек
Стратеги исследовательского центра ВМС США опубликовали прогноз о развитии военной робототехники. Они учли все сценарии, вплоть до сюжета «Терминатора», при котором роботы станут господствовать на Земле.
Был сделан вывод, что необходимо уже сейчас создать программно-аппаратный механизм, который позволит держать роботов под контролем, иначе худшие варианты могут осуществиться. Этот механизм можно назвать «кодексом чести роботов». Было подчеркнуто, что тактическое преимущество роботов перед людьми станет очевидным уже скоро.
Развитие робототехники неизбежно ведет к тому, что полная управляемость роботами становится практически невозможной. Тому есть несколько причин. Во-первых, за десятилетия написание программ стало трудом не одного человека, а целой команды, каждый член которой работает над каким-то ее модулем. В такой ситуации предсказать алгоритм выполнения целой программы не может ни один разработчик. Для практической проверки программ потребовались бы широкомасштабные полевые испытания, а это экономически невыгодно.
Во-вторых, если требуется машина для реального боя, то заложить все условия ведения боевых действий в программу нереально. Логический выход из ситуации – создание самообучающихся роботов, что еще более уменьшает степень контроля над ними.
Специалисты ВМС США предложили включить в систему управления роботами неизменяемую «прошивку», содержащую основные правила поведения машин, которые не могут нарушаться ни при каких обстоятельствах. Этот вариант вызвал у высокого начальства большее доверие, чем сложные решения, например, отвергнутое решение о создании «системы эмоций» (план «робота на доверии»).
В докладе были озвучены и другие вопросы робототехники: вопросы этики, права, политические, социальные. Обсуждались возможность хакерского взлома машинного интеллекта, риск программных ошибок. Поднимался вопрос: а кого винить, если терминаторы все-таки выйдут из-под контроля? Может быть, лучше встраивать в них «кнопки самоубийства»?
Тема терминаторов вполне актуальна. Уже в 2010 г. дальняя авиация США на треть будет укомплектована беспилотными самолетами, а в 2015 г. наземная бронетехника также на треть станет самоуправляемой. Конкретные происшествия тоже случались: так произошло с пулеметной системой Oerlikon GDF-005 в ЮАР. Увы, подобные ошибки с человеческими жертвами еще повторятся.
-----------
Три закона робототехники – вымысел Айзека Азимова, написанный еще в 1950-х годах. Однако теперь эти законы очень напоминают искомый кодекс. Вот их переизложение:
1. Робот не должен наносить человеку урон или попустительствовать этому.
2. Робот обязан подчиняться любым указаниям человека, если только эти требования не нарушают Первого закона.
3. Робот должен беспокоиться и о собственной невредимости настолько, насколько это возможно при соблюдении Первого и Второго законов.
Развитие робототехники неизбежно ведет к тому, что полная управляемость роботами становится практически невозможной. Тому есть несколько причин. Во-первых, за десятилетия написание программ стало трудом не одного человека, а целой команды, каждый член которой работает над каким-то ее модулем. В такой ситуации предсказать алгоритм выполнения целой программы не может ни один разработчик. Для практической проверки программ потребовались бы широкомасштабные полевые испытания, а это экономически невыгодно.
Во-вторых, если требуется машина для реального боя, то заложить все условия ведения боевых действий в программу нереально. Логический выход из ситуации – создание самообучающихся роботов, что еще более уменьшает степень контроля над ними.
Специалисты ВМС США предложили включить в систему управления роботами неизменяемую «прошивку», содержащую основные правила поведения машин, которые не могут нарушаться ни при каких обстоятельствах. Этот вариант вызвал у высокого начальства большее доверие, чем сложные решения, например, отвергнутое решение о создании «системы эмоций» (план «робота на доверии»).
В докладе были озвучены и другие вопросы робототехники: вопросы этики, права, политические, социальные. Обсуждались возможность хакерского взлома машинного интеллекта, риск программных ошибок. Поднимался вопрос: а кого винить, если терминаторы все-таки выйдут из-под контроля? Может быть, лучше встраивать в них «кнопки самоубийства»?
Тема терминаторов вполне актуальна. Уже в 2010 г. дальняя авиация США на треть будет укомплектована беспилотными самолетами, а в 2015 г. наземная бронетехника также на треть станет самоуправляемой. Конкретные происшествия тоже случались: так произошло с пулеметной системой Oerlikon GDF-005 в ЮАР. Увы, подобные ошибки с человеческими жертвами еще повторятся.
-----------
Три закона робототехники – вымысел Айзека Азимова, написанный еще в 1950-х годах. Однако теперь эти законы очень напоминают искомый кодекс. Вот их переизложение:
1. Робот не должен наносить человеку урон или попустительствовать этому.
2. Робот обязан подчиняться любым указаниям человека, если только эти требования не нарушают Первого закона.
3. Робот должен беспокоиться и о собственной невредимости настолько, насколько это возможно при соблюдении Первого и Второго законов.
серёжка / 21.03.2009 05:51
Если придерживаться первого пункта, то военных роботов быть не должно.
Материалы
сайта могут содержать информацию, не подлежащую просмотру лицам младше 18
лет
Россия возглавила мировой рейтинг по снижению числа абортов за 15 лет
17.09.2026 13:01 / Общество
Согласно данным, на которые ссылается издание «Ведомости», Россия заняла первое место в мире по темпам сокраще...
Минцифры ведет переговоры с Apple о разблокировке 5G на iPhone в России
17.09.2026 13:01 / В мире
Российское Министерство цифрового развития подтвердило факт переговоров с компанией Apple о включении поддержк...
Бензин в России продолжает дорожать: рост цен на АЗС замедлился, но остаётся выше инфляции
17.09.2026 13:01 / Экономика
По данным Росстата, с 8 по 14 сентября цены на бензин в России выросли на 0,36%, что немного меньше показателя...
Минтранс представил новый дорожный знак для парковки многодетных семей
17.09.2026 07:01 / Общество
Министерство транспорта России разработало и представило дизайн нового дорожного знака, который будет обознача...
Генсек ООН Гутерриш выразил готовность организовать встречу России, США и Украины на полях Генассамблеи
17.09.2026 07:01 / В мире
Генеральный секретарь ООН Антониу Гутерриш заявил о своей готовности выступить организатором трехсторонней вст...
Недельная инфляция в России замедлилась до 0,02%
17.09.2026 07:01 / Экономика
Росстат зафиксировал снижение темпов роста потребительских цен в стране за неделю с 8 по 14 сентября. Показате...
Рубль укрепился к доллару и евро на фоне продолжающейся стабилизации курса
17.09.2026 07:00 / Финансы
Российская валюта продолжила укрепление третий день подряд, зафиксировав снижение официального курса доллара д...
Путин призвал россиян прийти на выборы и назвать это вкладом в общую победу
16.09.2026 19:01 / В мире
Президент России Владимир Путин обратился к гражданам с призывом обязательно принять участие в предстоящих выб...
Инфляция в России продолжила замедляться в середине сентября
16.09.2026 19:01 / Экономика
По данным Росстата, за неделю с 8 по 14 сентября рост цен в России составил всего 0,02%. Годовая инфляция при ...
Московская биржа запускает вечные фьючерсы на индексы криптовалют
16.09.2026 19:00 / Финансы
Московская биржа объявила о запуске вечных фьючерсов на индексы пяти криптовалют, доступных исключительно для ...