Военные США пишут законы для терминаторов
06.03.2009 11:01 / Наука / Прочли: 2044 человек
Стратеги исследовательского центра ВМС США опубликовали прогноз о развитии военной робототехники. Они учли все сценарии, вплоть до сюжета «Терминатора», при котором роботы станут господствовать на Земле.
Был сделан вывод, что необходимо уже сейчас создать программно-аппаратный механизм, который позволит держать роботов под контролем, иначе худшие варианты могут осуществиться. Этот механизм можно назвать «кодексом чести роботов». Было подчеркнуто, что тактическое преимущество роботов перед людьми станет очевидным уже скоро.
Развитие робототехники неизбежно ведет к тому, что полная управляемость роботами становится практически невозможной. Тому есть несколько причин. Во-первых, за десятилетия написание программ стало трудом не одного человека, а целой команды, каждый член которой работает над каким-то ее модулем. В такой ситуации предсказать алгоритм выполнения целой программы не может ни один разработчик. Для практической проверки программ потребовались бы широкомасштабные полевые испытания, а это экономически невыгодно.
Во-вторых, если требуется машина для реального боя, то заложить все условия ведения боевых действий в программу нереально. Логический выход из ситуации – создание самообучающихся роботов, что еще более уменьшает степень контроля над ними.
Специалисты ВМС США предложили включить в систему управления роботами неизменяемую «прошивку», содержащую основные правила поведения машин, которые не могут нарушаться ни при каких обстоятельствах. Этот вариант вызвал у высокого начальства большее доверие, чем сложные решения, например, отвергнутое решение о создании «системы эмоций» (план «робота на доверии»).
В докладе были озвучены и другие вопросы робототехники: вопросы этики, права, политические, социальные. Обсуждались возможность хакерского взлома машинного интеллекта, риск программных ошибок. Поднимался вопрос: а кого винить, если терминаторы все-таки выйдут из-под контроля? Может быть, лучше встраивать в них «кнопки самоубийства»?
Тема терминаторов вполне актуальна. Уже в 2010 г. дальняя авиация США на треть будет укомплектована беспилотными самолетами, а в 2015 г. наземная бронетехника также на треть станет самоуправляемой. Конкретные происшествия тоже случались: так произошло с пулеметной системой Oerlikon GDF-005 в ЮАР. Увы, подобные ошибки с человеческими жертвами еще повторятся.
-----------
Три закона робототехники – вымысел Айзека Азимова, написанный еще в 1950-х годах. Однако теперь эти законы очень напоминают искомый кодекс. Вот их переизложение:
1. Робот не должен наносить человеку урон или попустительствовать этому.
2. Робот обязан подчиняться любым указаниям человека, если только эти требования не нарушают Первого закона.
3. Робот должен беспокоиться и о собственной невредимости настолько, насколько это возможно при соблюдении Первого и Второго законов.
Развитие робототехники неизбежно ведет к тому, что полная управляемость роботами становится практически невозможной. Тому есть несколько причин. Во-первых, за десятилетия написание программ стало трудом не одного человека, а целой команды, каждый член которой работает над каким-то ее модулем. В такой ситуации предсказать алгоритм выполнения целой программы не может ни один разработчик. Для практической проверки программ потребовались бы широкомасштабные полевые испытания, а это экономически невыгодно.
Во-вторых, если требуется машина для реального боя, то заложить все условия ведения боевых действий в программу нереально. Логический выход из ситуации – создание самообучающихся роботов, что еще более уменьшает степень контроля над ними.
Специалисты ВМС США предложили включить в систему управления роботами неизменяемую «прошивку», содержащую основные правила поведения машин, которые не могут нарушаться ни при каких обстоятельствах. Этот вариант вызвал у высокого начальства большее доверие, чем сложные решения, например, отвергнутое решение о создании «системы эмоций» (план «робота на доверии»).
В докладе были озвучены и другие вопросы робототехники: вопросы этики, права, политические, социальные. Обсуждались возможность хакерского взлома машинного интеллекта, риск программных ошибок. Поднимался вопрос: а кого винить, если терминаторы все-таки выйдут из-под контроля? Может быть, лучше встраивать в них «кнопки самоубийства»?
Тема терминаторов вполне актуальна. Уже в 2010 г. дальняя авиация США на треть будет укомплектована беспилотными самолетами, а в 2015 г. наземная бронетехника также на треть станет самоуправляемой. Конкретные происшествия тоже случались: так произошло с пулеметной системой Oerlikon GDF-005 в ЮАР. Увы, подобные ошибки с человеческими жертвами еще повторятся.
-----------
Три закона робототехники – вымысел Айзека Азимова, написанный еще в 1950-х годах. Однако теперь эти законы очень напоминают искомый кодекс. Вот их переизложение:
1. Робот не должен наносить человеку урон или попустительствовать этому.
2. Робот обязан подчиняться любым указаниям человека, если только эти требования не нарушают Первого закона.
3. Робот должен беспокоиться и о собственной невредимости настолько, насколько это возможно при соблюдении Первого и Второго законов.
серёжка / 21.03.2009 07:51
Если придерживаться первого пункта, то военных роботов быть не должно.
Материалы
сайта могут содержать информацию, не подлежащую просмотру лицам младше 18
лет
Аудио поздравления на телефон: современный способ подарить эмоции
23.08.2025 02:14 / Криминал
В наш стремительный цифровой век традиционные открытки и СМС постепенно уступают место более ярким и personal ...
Как выбрать качественную краску для ремонта и строительства в Краснодаре
19.08.2025 01:37 / Общество
Ремонт — это всегда ответственный процесс, требующий тщательного подбора материалов. ...
ТОП лучших онлайн казино: как выбрать надёжную площадку?
13.08.2025 15:16 / Спорт
Игорная индустрия имеет внушительный годовой оборот, превышающий 1 триллион евро. Благодаря многочисленным вло...
Путешествие из Беларуси в Польшу: полное руководство по покупке билетов и подготовке к поездке
06.08.2025 00:40 / Автомобили
Введение: почему автобус - лучший выбор для поездки в Польшу?...
Рычажные тали и электрические лебедки: подъемное оборудование для разных условий
04.08.2025 00:38 / Автомобили
В промышленной, строительной, складской и даже бытовой сфере перемещение и подъем грузов — задача, требующая н...
Частное образование в Москве: как выбрать лучший детский сад и школу для ребенка
01.08.2025 02:44 / Общество
Введение: почему частное образование становится популярным?...
Дизайн аптеки: роль правильной мебели в организации пространства
31.07.2025 00:55 / В мире
Как мебель для аптек влияет на удобство покупателей и сотрудников. Правила планировки и советы по выбору аптеч...
Как выбрать MikroTik
27.07.2025 03:27 / Интернет
Пошаговое руководство по выбору маршрутизатора MikroTik для дома, офиса и магистральных каналов: производитель...
Эффективные B2B-продажи: как построить прибыльный бизнес
13.07.2025 00:54 / Экономика
В современном мире бизнеса ключевым элементом успеха являются B2B-продажи — стратегии, направленные ...
P. Diddy признан виновным: американский рэпер может сесть на 20 лет
03.07.2025 10:53 / Шоу-бизнес
Шон Комбс, известный под псевдонимами P. Diddy, Puff Daddy и Дидди, остаётся в тюрьме. Сейчас он ожидает приго...