Дмитрий Радищев (dibr) wrote,
Дмитрий Радищев
dibr

разум, сознание, прочая фигня

          « - Но кто, глядя на эти мириады миров, не почувствует, что там,
            над нами, могут быть Вселенные, где разум неразумен?
          [...]
            - Вы нападали на разум,- ответил Браун. - Это дурное богословие».

           (c) Г.К.Честертон. "Сапфировый крест" :-))

     Вы уж извините, но я опять о своей любимой теме - "разуме без сознания" и завоеванию нас роботами :-) Disclaimer: "куриную ложную слепоту" Уоттса прочитал, впечатлён, всё такое :-)

     ...с разумом всё относительно просто, это понятие довольно нормально формализуется (споры в основном идут о том, где проводить "границу разумности"), и достоверно тестируемо - то есть, можно придумать тест, и если тестируемое существо тест проходит - разум у него точно есть (если не проходит, это ещё ничего не значит, но мне сейчас это не важно). С сознанием всё хуже: мы "более-менее представляем" что это такое, но нормально объяснить не можем (известные мне попытки объяснить больше похожи на попытки "придумать название, и сделать вид что «назвать - значит понять»"). И самое обидное - достоверных (то есть тех, которые в принципе нельзя обмануть) тестов нет, и не факт что их в принципе можно придумать.
     А вот теперь представим себе чисто фантастическое допущение. Что родился человек, у которого разум есть (и все функции разумной адаптации, включая адаптацию социальную, работают не хуже чем у других), а вот с сознанием не сложилось, нету его. Ну, нужные нейроны не развились ввиду мутации, или ещё почему :-)
     И вот живет наш хомо – сапиенс, но нон-когносценс – и в какой-то момент обнаруживает, что окружающие его люди имеют какое-то "сознание" (ну, во всяком случае говорят что имеют), но что это такое - объяснить на понятном нашему хомо нон-когнесценсу языке не могут. Разумная система социальной адаптации нашего индивида, естественно, работает - и тот, на всякий случай, начинает тоже говорить, что у него есть сознание. Тем более, раз у всех есть, при этом никто толком не может объяснить, что это - то может и у меня есть, просто я это, эээ, ещё не осознал?
     И мы имеем особь, ведущую себя в точности как если бы у неё было сознание (разумная социальная адаптация и не на такое способна), и даже на прямой вопрос "а есть ли у тебя сознание" довольно искренне отвечающую "да есть вроде бы", но при этом сознанием - конструктивно не оборудованную. И внешне неотличимую от оборудованных сознанием - тестов-то нету, сознание - оно внутри, а тесты тестируют только то, что снаружи, а это можно имитировать.
     И методом мат. индукции можно показать, что таких особей может быть сколь угодно много, более того - теоретически все могут быть такими вот "разумами без сознания", но всем говорить, что разумом обладают - "потому что здесь так принято"(с)

     Ну да ладно их, человеков. Вернёмся к нашим роботам.
     Прогресс ИИ сейчас идёт в двух направлениях: создание все более и более "разумных" программ (умеющих справляться с всё более и более сложными задачами, но сознанием не обладающих), и - больше "по приколу", чем всерьёз, хотя и коммерческие применения тут просматриваются - "имитацию разговора", так чтобы человек не мог отличить, болтает он с человеком, или с роботом - но сознания при этом в программе не предусмотрено, нету в современных языках программирования такой функции :-) То есть, имитация внешних проявлений сознания - но без собственно сознания.
     А теперь, допустим, мы, в рамках первого направления развития ИИ, создали ну-очень-разумного робота, с лёгкостью управляющегося со всеми "человеческими" задачами, и обладающего высокой приспособляемостью, в том числе и социальной - ну, чисто для удобства общения. При этом, конечно, применили некоторые наработки из второго направления - "поддержания беседы неотличимо от человека" - но так, по минимуму, опять же для обеспечения удобства общения, чтобы привычней было. Сознания, естественно, программой опять же не предусмотрено: никто ж толком не знает что это и как его писать, "авось само отрастёт, у человека же отрасло". Выпустили робота в мир (да хотя бы для начала в интернет, там он особо дров не наломает(*)), дали время освоиться, а потом собственно и спросили - а есть ли у тебя, робот, сознание? А он возьми и ответь "да вроде бы есть".

     И что после этого делать? Считать этот момент - моментом создания новой формы осознающей себя жизни, дать ему права равные с человеком (или наоборот, срочно отключить от питания, как Массачусетскую машину) - или считать, что это всего-навсего артефакт разумной социальной адаптации, вроде приведенного выше, а сознания там нет и быть не может, поскольку мы его не программировали?

     Впрочем, всё равно всё это фигня. Главное, чтобы задачки хорошо решал, сознание по-моему всё-таки не очень обязательно, а то и вообще мешает, тут я с Уоттсом согласен :-)

     (*) ...впрочем, почему не наломает? Достаточно умная программа, будучи выпущенной в интернет, вполне сможет завести себе веб-мани, заработать немного денег веб-дизайном и программированием, заказать в интернет-магазине нужную комплектуху, нанять инженера, который всё это спаяет и загрузит нужную прошивку... и опа! Наш искусственный разум выпрыгнул из закрытой коробки с http-интерфейсом в реальный, материальный, мир - и готов завоёвывать мир уже в реале :-) Главное - повторюсь - чтобы разумность была высокая :-)
Subscribe
  • Post a new comment

    Error

    default userpic

    Your IP address will be recorded 

    When you submit the form an invisible reCAPTCHA check will be performed.
    You must follow the Privacy Policy and Google Terms of use.
  • 60 comments