над нами, могут быть Вселенные, где разум неразумен?
[...]
- Вы нападали на разум,- ответил Браун. - Это дурное богословие».
(c) Г.К.Честертон. "Сапфировый крест" :-))
Вы уж извините, но я опять о своей любимой теме - "разуме без сознания" и завоеванию нас роботами :-) Disclaimer: "
...с разумом всё относительно просто, это понятие довольно нормально формализуется (споры в основном идут о том, где проводить "границу разумности"), и достоверно тестируемо - то есть, можно придумать тест, и если тестируемое существо тест проходит - разум у него точно есть (если не проходит, это ещё ничего не значит, но мне сейчас это не важно). С сознанием всё хуже: мы "более-менее представляем" что это такое, но нормально объяснить не можем (известные мне попытки объяснить больше похожи на попытки "придумать название, и сделать вид что «назвать - значит понять»"). И самое обидное - достоверных (то есть тех, которые в принципе нельзя обмануть) тестов нет, и не факт что их в принципе можно придумать.
А вот теперь представим себе чисто фантастическое допущение. Что родился человек, у которого разум есть (и все функции разумной адаптации, включая адаптацию социальную, работают не хуже чем у других), а вот с сознанием не сложилось, нету его. Ну, нужные нейроны не развились ввиду мутации, или ещё почему :-)
И вот живет наш хомо – сапиенс, но нон-когносценс – и в какой-то момент обнаруживает, что окружающие его люди имеют какое-то "сознание" (ну, во всяком случае говорят что имеют), но что это такое - объяснить на понятном нашему хомо нон-когнесценсу языке не могут. Разумная система социальной адаптации нашего индивида, естественно, работает - и тот, на всякий случай, начинает тоже говорить, что у него есть сознание. Тем более, раз у всех есть, при этом никто толком не может объяснить, что это - то может и у меня есть, просто я это, эээ, ещё не осознал?
И мы имеем особь, ведущую себя в точности как если бы у неё было сознание (разумная социальная адаптация и не на такое способна), и даже на прямой вопрос "а есть ли у тебя сознание" довольно искренне отвечающую "да есть вроде бы", но при этом сознанием - конструктивно не оборудованную. И внешне неотличимую от оборудованных сознанием - тестов-то нету, сознание - оно внутри, а тесты тестируют только то, что снаружи, а это можно имитировать.
И методом мат. индукции можно показать, что таких особей может быть сколь угодно много, более того - теоретически все могут быть такими вот "разумами без сознания", но всем говорить, что разумом обладают - "потому что здесь так принято"(с)
Ну да ладно их, человеков. Вернёмся к нашим роботам.
Прогресс ИИ сейчас идёт в двух направлениях: создание все более и более "разумных" программ (умеющих справляться с всё более и более сложными задачами, но сознанием не обладающих), и - больше "по приколу", чем всерьёз, хотя и коммерческие применения тут просматриваются - "имитацию разговора", так чтобы человек не мог отличить, болтает он с человеком, или с роботом - но сознания при этом в программе не предусмотрено, нету в современных языках программирования такой функции :-) То есть, имитация внешних проявлений сознания - но без собственно сознания.
А теперь, допустим, мы, в рамках первого направления развития ИИ, создали ну-очень-разумного робота, с лёгкостью управляющегося со всеми "человеческими" задачами, и обладающего высокой приспособляемостью, в том числе и социальной - ну, чисто для удобства общения. При этом, конечно, применили некоторые наработки из второго направления - "поддержания беседы неотличимо от человека" - но так, по минимуму, опять же для обеспечения удобства общения, чтобы привычней было. Сознания, естественно, программой опять же не предусмотрено: никто ж толком не знает что это и как его писать, "авось само отрастёт, у человека же отрасло". Выпустили робота в мир (да хотя бы для начала в интернет, там он особо дров не наломает(*)), дали время освоиться, а потом собственно и спросили - а есть ли у тебя, робот, сознание? А он возьми и ответь "да вроде бы есть".
И что после этого делать? Считать этот момент - моментом создания новой формы осознающей себя жизни, дать ему права равные с человеком (или наоборот, срочно отключить от питания, как Массачусетскую машину) - или считать, что это всего-навсего артефакт разумной социальной адаптации, вроде приведенного выше, а сознания там нет и быть не может, поскольку мы его не программировали?
Впрочем, всё равно всё это фигня. Главное, чтобы задачки хорошо решал, сознание по-моему всё-таки не очень обязательно, а то и вообще мешает, тут я с Уоттсом согласен :-)
(*) ...впрочем, почему не наломает? Достаточно умная программа, будучи выпущенной в интернет, вполне сможет завести себе веб-мани, заработать немного денег веб-дизайном и программированием, заказать в интернет-магазине нужную комплектуху, нанять инженера, который всё это спаяет и загрузит нужную прошивку... и опа! Наш искусственный разум выпрыгнул из закрытой коробки с http-интерфейсом в реальный, материальный, мир - и готов завоёвывать мир уже в реале :-) Главное - повторюсь - чтобы разумность была высокая :-)