Дмитрий Радищев (dibr) wrote,
Дмитрий Радищев
dibr

Перечитал тут Исаака Азимова. Ну, про роботов

     Так вот, ламеры они там были, в этой "Ю Эс Роботс энд мекэникл мэн корпорэйшн", хотя модемы у них неплохие были, признаю.

     Как мы помним, Первый Закон роботехники звучал так: "робот не может причинить вреда человеку, или допустить чтобы вред был причинен". Не может - и всё тут! И тут-то и начинается: роботы при первом же удобном случае начинают банально врать (ведь запрета на враньё в Азимовских законах роботехники нет), отмазывая от тюрьмы какого-нибудь преступника. И на этом, совершенно очевидном, глюке - построено больше половины рассказов о роботах, что свидетельствует о размахе проблемы: роботы не просто "могут врать", они врут часто, ибо считают что тем самым охраняют человека от вреда. Даже если вред этот по нашим меркам - необходим и желателен, ибо он предотвратит вред ещё больший.

     Идём далее. Второй закон - "робот должен выполнять приказы человека". То есть, если приказ отдан человеком - то должен, и всё тут, без разбора что это за приказ и кем он отдан.
     Но позвольте - "полное и безоговорочное подчинение приказам любого" вполне понятно для резиновой дубинки, допустимо для охотничьего ружья, но уже простенькая персоналка с виндой - имеет средства разграничения доступа и раздачи полномочий: "этот может ходить в инет и запускать офис, вот этот может ещё и играть, а вон тот - админ, он вообще главный" - и, при должной настройке, кого угодно так просто не слушается. Почему же намного более опасная(!) и намного более сложная система представляет собой огромную дыру в безопасности? Непорядок!

     А ведь казалось бы. В судах ведь требуют говорить "всю правду, только правду, и ничего кроме правды" - так почему нельзя заставить то же самое делать и робота... ну, не прямо так в лоб, но...

     ..."Нулевым" законом делаем, что робот не может лгать и не может фантазировать ("говорить только правду и ничего кроме правды"). Робот, правда, может молчать - если по его мнению информация принесёт вред человеку - но это лучше, чем робот, напропалую врущий в попытке выгородить преступника.
     Неплохо бы ещё, раз уж от человека в судах требуют "всю правду", в тот же "нулевой" закон вписать требование сообщать всю информацию при предъявлении соответствующих полномочий - например, при вызове в суд в качестве свидетеля. И хотя любители privacy взвоют - но... не совершайте преступлений в присутствии робота. Вы ж не совершаете их в присутствии камер видеонаблюдения, правда?

     Первый закон, так уж и быть, оставим. Проблемы есть даже с ним (у Азимова они описаны), но лучше его не трогать. На всякий случай.

     Ну, а ко второму - просто необходимо добавить нормальную систему ACL и "оверрайдов": кого слушаться беспрекословно, кого "если не занят другим", кого "если не противоречит законам и местным правилам", кого "не слушать никогда", кто имеет право отменять данные другим команды - и так далее. Ведь даже в той же персоналке "рут" может прибить приложение пользователя, если считает что оно мешает системе, а пользователь - не может прибить приложение рута, как бы ни старался. Почему у роботов не так?

     Правда, есть один недостаток. Будь законы роботехники именно такими - Азимову пришлось бы писать на какую-то другую тему. Ибо тем для рассказов про роботов осталось бы куда меньше :-)
Subscribe
  • Post a new comment

    Error

    default userpic

    Your IP address will be recorded 

    When you submit the form an invisible reCAPTCHA check will be performed.
    You must follow the Privacy Policy and Google Terms of use.
  • 9 comments