Военные США пишут законы для терминаторов
06.03.2009 11:01 / Наука / Прочли: 2056 человек
Стратеги исследовательского центра ВМС США опубликовали прогноз о развитии военной робототехники. Они учли все сценарии, вплоть до сюжета «Терминатора», при котором роботы станут господствовать на Земле.
Был сделан вывод, что необходимо уже сейчас создать программно-аппаратный механизм, который позволит держать роботов под контролем, иначе худшие варианты могут осуществиться. Этот механизм можно назвать «кодексом чести роботов». Было подчеркнуто, что тактическое преимущество роботов перед людьми станет очевидным уже скоро.
Развитие робототехники неизбежно ведет к тому, что полная управляемость роботами становится практически невозможной. Тому есть несколько причин. Во-первых, за десятилетия написание программ стало трудом не одного человека, а целой команды, каждый член которой работает над каким-то ее модулем. В такой ситуации предсказать алгоритм выполнения целой программы не может ни один разработчик. Для практической проверки программ потребовались бы широкомасштабные полевые испытания, а это экономически невыгодно.
Во-вторых, если требуется машина для реального боя, то заложить все условия ведения боевых действий в программу нереально. Логический выход из ситуации – создание самообучающихся роботов, что еще более уменьшает степень контроля над ними.
Специалисты ВМС США предложили включить в систему управления роботами неизменяемую «прошивку», содержащую основные правила поведения машин, которые не могут нарушаться ни при каких обстоятельствах. Этот вариант вызвал у высокого начальства большее доверие, чем сложные решения, например, отвергнутое решение о создании «системы эмоций» (план «робота на доверии»).
В докладе были озвучены и другие вопросы робототехники: вопросы этики, права, политические, социальные. Обсуждались возможность хакерского взлома машинного интеллекта, риск программных ошибок. Поднимался вопрос: а кого винить, если терминаторы все-таки выйдут из-под контроля? Может быть, лучше встраивать в них «кнопки самоубийства»?
Тема терминаторов вполне актуальна. Уже в 2010 г. дальняя авиация США на треть будет укомплектована беспилотными самолетами, а в 2015 г. наземная бронетехника также на треть станет самоуправляемой. Конкретные происшествия тоже случались: так произошло с пулеметной системой Oerlikon GDF-005 в ЮАР. Увы, подобные ошибки с человеческими жертвами еще повторятся.
-----------
Три закона робототехники – вымысел Айзека Азимова, написанный еще в 1950-х годах. Однако теперь эти законы очень напоминают искомый кодекс. Вот их переизложение:
1. Робот не должен наносить человеку урон или попустительствовать этому.
2. Робот обязан подчиняться любым указаниям человека, если только эти требования не нарушают Первого закона.
3. Робот должен беспокоиться и о собственной невредимости настолько, насколько это возможно при соблюдении Первого и Второго законов.
Развитие робототехники неизбежно ведет к тому, что полная управляемость роботами становится практически невозможной. Тому есть несколько причин. Во-первых, за десятилетия написание программ стало трудом не одного человека, а целой команды, каждый член которой работает над каким-то ее модулем. В такой ситуации предсказать алгоритм выполнения целой программы не может ни один разработчик. Для практической проверки программ потребовались бы широкомасштабные полевые испытания, а это экономически невыгодно.
Во-вторых, если требуется машина для реального боя, то заложить все условия ведения боевых действий в программу нереально. Логический выход из ситуации – создание самообучающихся роботов, что еще более уменьшает степень контроля над ними.
Специалисты ВМС США предложили включить в систему управления роботами неизменяемую «прошивку», содержащую основные правила поведения машин, которые не могут нарушаться ни при каких обстоятельствах. Этот вариант вызвал у высокого начальства большее доверие, чем сложные решения, например, отвергнутое решение о создании «системы эмоций» (план «робота на доверии»).
В докладе были озвучены и другие вопросы робототехники: вопросы этики, права, политические, социальные. Обсуждались возможность хакерского взлома машинного интеллекта, риск программных ошибок. Поднимался вопрос: а кого винить, если терминаторы все-таки выйдут из-под контроля? Может быть, лучше встраивать в них «кнопки самоубийства»?
Тема терминаторов вполне актуальна. Уже в 2010 г. дальняя авиация США на треть будет укомплектована беспилотными самолетами, а в 2015 г. наземная бронетехника также на треть станет самоуправляемой. Конкретные происшествия тоже случались: так произошло с пулеметной системой Oerlikon GDF-005 в ЮАР. Увы, подобные ошибки с человеческими жертвами еще повторятся.
-----------
Три закона робототехники – вымысел Айзека Азимова, написанный еще в 1950-х годах. Однако теперь эти законы очень напоминают искомый кодекс. Вот их переизложение:
1. Робот не должен наносить человеку урон или попустительствовать этому.
2. Робот обязан подчиняться любым указаниям человека, если только эти требования не нарушают Первого закона.
3. Робот должен беспокоиться и о собственной невредимости настолько, насколько это возможно при соблюдении Первого и Второго законов.
серёжка / 21.03.2009 07:51
Если придерживаться первого пункта, то военных роботов быть не должно.
Материалы
сайта могут содержать информацию, не подлежащую просмотру лицам младше 18
лет
Мини-приложения MAX: весь мир сервисов под рукой
29.10.2025 20:28 / Наука
Узнайте, как МАКС объединяет чаты, покупки и сервисы в одном месте. Разбираем, почему платформа становится цен...
Как выгодно купить квартиру в Сочи лучшие районы цены и предложения на 2024 год
29.10.2025 20:24 / Интернет
Обзор рынка недвижимости в Сочи: актуальные предложения, цены и советы для тех, кто хочет приобрести квартиру ...
Выгодные предложения по покупке квартир в Новосибирске с оптимальными ценами и условиями
29.10.2025 20:21 / Общество
Широкий выбор квартир в Новосибирске с выгодными ценами и актуальными предложениями. Подберите жильё для комфо...
Выбор квартиры в Екатеринбурге подробный обзор вариантов недвижимости и советы для покупателей
29.10.2025 20:18 / В мире
Подробная информация о вариантах квартир в Екатеринбурге для покупки: районы, цены, инфраструктура и полезные ...
Как выбрать и снять квартиру в Краснодаре с выгодными условиями и удобным расположением
28.10.2025 01:51 / Общество
Подбор вариантов проживания в Краснодаре: описание районов, цены, советы по аренде и особенности оформления до...
Обработка отзывов: от реакции к стратегии управления репутацией
28.10.2025 01:08 / Общество
В современном цифровом мире репутация бренда формируется в режиме реального времени....
Открыть вклад в банке офлайн: какие документы возьмут, как торговаться за надбавку и избежать автопролонгации
25.10.2025 22:13 / Автомобили
Какие документы нужны для открытия вклада в банке офлайн, как договориться о надбавке к ставке и избежать авто...
Рейтинговые списки онлайн казино: что учитывается при составлении?
22.10.2025 16:05 / Спорт
Индустрию iGaming нельзя назвать на 100% безопасной. Из-за внушительный вложений часть от финансового пирога х...
Плюсы и минусы отдыха в Дербенте: когда ехать и где остановиться
17.10.2025 03:45 / В мире
Дербент — древний город на Каспии. Плюсы и минусы отдыха, лучшие районы, жилье, советы для туристов. Когда еха...
Медтехника №1: Поставка медицинских кроватей и оборудования в Санкт-Петербургский медицинский центр
16.10.2025 02:45 / Общество
Компания Медтехника №1 поставила медицинские кровати и оборудование в медицинский центр Санкт-Петербурга. Каче...