Военные США пишут законы для терминаторов
06.03.2009 11:01 / Наука / Прочли: 2112 человек
Стратеги исследовательского центра ВМС США опубликовали прогноз о развитии военной робототехники. Они учли все сценарии, вплоть до сюжета «Терминатора», при котором роботы станут господствовать на Земле.
Был сделан вывод, что необходимо уже сейчас создать программно-аппаратный механизм, который позволит держать роботов под контролем, иначе худшие варианты могут осуществиться. Этот механизм можно назвать «кодексом чести роботов». Было подчеркнуто, что тактическое преимущество роботов перед людьми станет очевидным уже скоро.
Развитие робототехники неизбежно ведет к тому, что полная управляемость роботами становится практически невозможной. Тому есть несколько причин. Во-первых, за десятилетия написание программ стало трудом не одного человека, а целой команды, каждый член которой работает над каким-то ее модулем. В такой ситуации предсказать алгоритм выполнения целой программы не может ни один разработчик. Для практической проверки программ потребовались бы широкомасштабные полевые испытания, а это экономически невыгодно.
Во-вторых, если требуется машина для реального боя, то заложить все условия ведения боевых действий в программу нереально. Логический выход из ситуации – создание самообучающихся роботов, что еще более уменьшает степень контроля над ними.
Специалисты ВМС США предложили включить в систему управления роботами неизменяемую «прошивку», содержащую основные правила поведения машин, которые не могут нарушаться ни при каких обстоятельствах. Этот вариант вызвал у высокого начальства большее доверие, чем сложные решения, например, отвергнутое решение о создании «системы эмоций» (план «робота на доверии»).
В докладе были озвучены и другие вопросы робототехники: вопросы этики, права, политические, социальные. Обсуждались возможность хакерского взлома машинного интеллекта, риск программных ошибок. Поднимался вопрос: а кого винить, если терминаторы все-таки выйдут из-под контроля? Может быть, лучше встраивать в них «кнопки самоубийства»?
Тема терминаторов вполне актуальна. Уже в 2010 г. дальняя авиация США на треть будет укомплектована беспилотными самолетами, а в 2015 г. наземная бронетехника также на треть станет самоуправляемой. Конкретные происшествия тоже случались: так произошло с пулеметной системой Oerlikon GDF-005 в ЮАР. Увы, подобные ошибки с человеческими жертвами еще повторятся.
-----------
Три закона робототехники – вымысел Айзека Азимова, написанный еще в 1950-х годах. Однако теперь эти законы очень напоминают искомый кодекс. Вот их переизложение:
1. Робот не должен наносить человеку урон или попустительствовать этому.
2. Робот обязан подчиняться любым указаниям человека, если только эти требования не нарушают Первого закона.
3. Робот должен беспокоиться и о собственной невредимости настолько, насколько это возможно при соблюдении Первого и Второго законов.
Развитие робототехники неизбежно ведет к тому, что полная управляемость роботами становится практически невозможной. Тому есть несколько причин. Во-первых, за десятилетия написание программ стало трудом не одного человека, а целой команды, каждый член которой работает над каким-то ее модулем. В такой ситуации предсказать алгоритм выполнения целой программы не может ни один разработчик. Для практической проверки программ потребовались бы широкомасштабные полевые испытания, а это экономически невыгодно.
Во-вторых, если требуется машина для реального боя, то заложить все условия ведения боевых действий в программу нереально. Логический выход из ситуации – создание самообучающихся роботов, что еще более уменьшает степень контроля над ними.
Специалисты ВМС США предложили включить в систему управления роботами неизменяемую «прошивку», содержащую основные правила поведения машин, которые не могут нарушаться ни при каких обстоятельствах. Этот вариант вызвал у высокого начальства большее доверие, чем сложные решения, например, отвергнутое решение о создании «системы эмоций» (план «робота на доверии»).
В докладе были озвучены и другие вопросы робототехники: вопросы этики, права, политические, социальные. Обсуждались возможность хакерского взлома машинного интеллекта, риск программных ошибок. Поднимался вопрос: а кого винить, если терминаторы все-таки выйдут из-под контроля? Может быть, лучше встраивать в них «кнопки самоубийства»?
Тема терминаторов вполне актуальна. Уже в 2010 г. дальняя авиация США на треть будет укомплектована беспилотными самолетами, а в 2015 г. наземная бронетехника также на треть станет самоуправляемой. Конкретные происшествия тоже случались: так произошло с пулеметной системой Oerlikon GDF-005 в ЮАР. Увы, подобные ошибки с человеческими жертвами еще повторятся.
-----------
Три закона робототехники – вымысел Айзека Азимова, написанный еще в 1950-х годах. Однако теперь эти законы очень напоминают искомый кодекс. Вот их переизложение:
1. Робот не должен наносить человеку урон или попустительствовать этому.
2. Робот обязан подчиняться любым указаниям человека, если только эти требования не нарушают Первого закона.
3. Робот должен беспокоиться и о собственной невредимости настолько, насколько это возможно при соблюдении Первого и Второго законов.
серёжка / 21.03.2009 07:51
Если придерживаться первого пункта, то военных роботов быть не должно.
Материалы
сайта могут содержать информацию, не подлежащую просмотру лицам младше 18
лет
Как забортавать литой диск в домашних условиях
28.07.2026 14:02 / Наука
Возможен ли самостоятельный монтаж шины на диск? Разбираем пошагово: инструменты, правила безопасности и когда...
Дом из газобетона: тепло, влажность, отделка и частые ошибки при строительстве
28.07.2026 13:59 / В мире
Разбираем особенности возведения зданий из газобетона. Рассматриваем свойства материала, правила отделки стен ...
Какие ошибки работодатели совершают при поиске сотрудников
28.07.2026 13:56 / Общество
Даже при высокой активности на рынке труда компании нередко сталкиваются с тем, что подходящего кандидата не у...
Как заказывать продукты онлайн: гид по выбору доставки
17.07.2026 00:24 / Общество
Как выбрать сервис доставки продуктов и заказывать онлайн без разочарований: холодовая цепочка, интервалы, воз...
Школьная форма в Казахстане: требования и рекомендации по выбору
10.07.2026 19:32 / Общество
Что нужно знать о школьной форме в РК: требования, состав, советы по выбору...
Как сегодня работают с криптовалютой в России без риска
10.07.2026 18:50 / Экономика
Криптовалюта в России стала инструментом для хранения, обмена и переводов между цифровыми кошельками. Разберем...
Обмен Т-Банк на Bitcoin: ключевые нюансы процесса
08.07.2026 12:53 / Финансы
Покупка криптовалюты – одна из технически простейших задач. Выбрав любую платформу, нужно выполнить интуитивно...
Игровые автоматы в демо версии: доступные механики слотов
01.07.2026 19:43 / Спорт
Интернет-казино поддерживают несколько игровых режимов. Максимальной популярностью пользуется реальный из-за в...
Можно ли продать iPhone без Face ID?
30.06.2026 17:14 / Интернет
Многие владельцы iPhone сталкиваются с неприятной ситуацией: смартфон работает нормально, камеры снимают, связ...
Сауна с бассейном: отдых для всей семьи и праздник без хлопот
25.06.2026 18:05 / Общество
Как устроить семейный отдых или праздник в сауне с бассейном: что взять с собой, как подготовиться с детьми, и...