Дмитрий Радищев (dibr) wrote,
Дмитрий Радищев
dibr

Гарри Поттер и проклятье методов рационального мышления

Эпиграф:
"Что может говорить хромой об искусстве Герберта фон Караяна? Если ему сразу заявить, что он хромой, он признает себя побежденным. [...] И вообще, разве нас может интересовать мнение человека лысого, с таким носом? Пусть сначала исправит нос, отрастит волосы, а потом и выскажется" (Жванецкий)

Навели тут на пост, в котором человек удивлялся, что если автоматически считать все логически ошибочные аргументы - ничтожными, то получается какая-то фигня, а не рациональное мышление. Конкретно - "переход на личности" в обсуждении какого-то высказывания (это когда вместо собственно высказывания обсуждается источник, пример см. выше) является классической логической ошибкой вида "ad hominem", и поэтому в споре должен игнорироваться как заведомо ошибочный. На самом же деле мало кто будет спорить с тем, что даже одно и то же утверждение, опубликованное в журнале "нейчур" и в "спид-инфо" имеет смысл рассматривать с несколько разной критичностью: если одинаково доверять "нейчуру", википедии, "спид-инфо" и "рен-тв", то можно либо сойти с ума от обилия лишней информации (и в результате упустить что-то важное), либо в конце концов перестать верить вообще всему (а утро начинать не с кофе, а с проверки таблицы умножения - на счётах, калькулятору веры нет - и закона сохранения импульса).

Разумеется, это можно рационализовать. Сказать, что информация нам нужна не сама по себе, а для принятия решений, при этом важна степень достоверности информации (и её редко удаётся довести до "абсолютной"), на уточнение степени достоверности требуются ресурсы, поэтому если ввести некий коэффициент априорной достоверности, образуемый из "изначальной небредовости" самой информации ("фирма intel выпустила очередной процессор с частотой 4 ГГц" vs "учёными успешно испытан серийный образец вечного двигателя первого рода мощностью 50 лошадиных сил") и "степени доверия источнику" ("нейчур" - высокая, "рен-тв" - скорее отрицательная), и далее использовать этот коэффициент для распределения ресурсов (в том числе для того, чтобы сообщения о вечном двигателе, опубликованные в "спид-инфо", отбрасывать не читая), то в сумме это обеспечит более рацональное использование ресурсов, а следовательно и повышения качества принимаемых решений - ну или что-то в этом роде. Собственно, в нормальной науке "доверие к источнику" даже формализовано - есть "рецензируемые журналы", у которых есть этап "рецензирования", и которым более-менее доверяют, а есть "мурзилки", в которых конечно тоже может быть напечатано что-то правильное, но зачем - правильное лучше пропихнуть в рецензируемый журнал, а в "мурзилках" в результате печатают то, что в серьёзный журнал не возьмут.

Но я не зря использовал слово "рационализация". Одно из значений этого термина - это механизм психологической защиты, сводящийся к тому, что мы так простраиваем факты и рассуждения, что нам начинает казаться, что у нас всё логически хорошо и "всё под контролем", и через это успокаиваемся. Хорошо ли всё на самом деле - вопрос отдельный.
Вот что мы, например, наблюдаем выше. Есть список логических ошибок, и ошибки в этом списке - реально ошибки с точки зрения науки логики. Значит, по той же науке логике, аргумент содержащий логическую ошибку имеет строго нулевую аргументационную ценность (ибо ошибочен) и должен просто игнорироваться. Но вдруг выясняется, что в реальном мире некий заведомо ошибочный аргумент (ad hominem) по факту имеет ненулевую аргументационную ценность, и если его полностью игнорировать - мы теряем эффективность (увязаем в источниках с низкой достоверностью), что очевидно нерационально! Но как же так - паника-паника, мы сломали методы рациональности, устройство мира нарушено, разум в панике! Давайте срочно усложним модель, введём всё вот это вот упомянутое выше, покрутим это в голове, решим что "выглядит логично" и успокоимся.

Ключевое слово - "успокоимся". Мы рационализовали (прикрыли тряпочкой чтобы не сильно отсвечивала) одну-единственную проблему бездумного применения "методов рационального мышления" к реальной жизни. Остались ли ещё проблемы? Да наверняка. Я даже не сказал бы что мы эту-то полностью закрыли, потому что вместо науки логики там теперь какие-то индексы, метод определения которых не указан, и скорее всего вообще субъективен, что опять плохо вяжется с рациональностью и логикой. Это, конечно, опять можно рационализовать, но...

Но главная проблема тут в том, что реальная жизнь редко описывается точной и простой математической моделью. А раз так - то надо знать границы применимости каждой из моделей/методов ("логика" и "МРМ" - как раз методы, а модели - см. напр. выше), и применять их с осторожностью.

Мои любимые примеры - KPI (key performance indicators, ключевые показатели эффективности), и "риск-менеджмент".

С первыми всё очень просто: "любая система KPI будет хакнута" - как только для сложной работы, вроде программистов или ещё каких поэтов-прозаиков, вводится "тщательно продуманная" полностью формальная система учёта производительности труда - появляются работники, ищущие лазейки именно в алгоритме KPI и оптимизирующие именно их. Реальная производительность при этом скорее всего упадёт - нельзя оптимизировать один показатель, не ухудшая при этом другие.

А при расчёте рисков любители мат.статистики и прочей "парето-оптимальности" обычно считают мат.ожидания и прочие среднестатистические, и выводы делают из них. И получается, например, что если у бизнесмена появляется возможность вложить ВСЕ средства в рискованный проект, который с вероятностью 1/2 даст трёхкратный выигрыш, а 1/2 - потерю всех средств, то "надо брать", потому что 0.5*3+0.5*0=1.5, а это больше 1. Или что в лотереи играть нет смысла, потому что мат.ожидание выигрыша всегда меньше вложенных средств.
На самом же деле, польза от денег нелинейна (это я опять рационализую, на самом-самом деле всё ещё сложнее). "Утроение" бизнеса бизнесмен может и не особо заметить - свои потребности он удовлетворяет и так, а "яхту как у абрамовича" ему тупо не надо, а вот "обнуление" - ударит довольно сильно, поэтому получается что рисковать тут как раз не надо, лучше меньше да спокойнее. С лотереей же может оказаться наоборот - значительная сумма выигрыша может позволить игроку совершить какой-то "качественный скачок" (например банально купить квартиру - ипотеку в наших условиях давно пора приравнять к телесным наказаниям), то есть даст ощутимую пользу, небольшая же цена участия - влияет ничтожно слабо, то есть как бы не ощущается. А значит в некоторых случаях игра в лотереи может быть не совсем бессмысленна.

А в действительности же всё вообще не так как на самом деле.
Subscribe
  • Post a new comment

    Error

    default userpic

    Your IP address will be recorded 

    When you submit the form an invisible reCAPTCHA check will be performed.
    You must follow the Privacy Policy and Google Terms of use.
  • 7 comments