извините, но у нас снова ИИ

"Полсотни лет назад в Массачусетсе запустили самое сложное кибернетическое устройство, когда-либо существовавшее. С каким-то там феноменальным быстродействием, необозримой памятью и все такое… И проработала эта машина ровно четыре минуты. Ее выключили, зацементировали все входы и выходы, отвели от нее энергию, заминировали и обнесли колючей проволокой. Самой настоящей ржавой колючей проволокой — хотите верьте, хотите нет.
— А в чем, собственно, дело? — спросил Банин.
— Она начала вести себя, — сказал Горбовский.
— Не понимаю.
— И я не понимаю, но ее едва успели выключить".
(с) АБС, "Далекая Радуга"



Всё-таки Стругацкие иногда гениальны, не зря Харитонов ваял свой эпос именно по их вселенной. Немного не угадали со временем - не четыре минуты, а почти ровно четыре месяца, но предлагается именно это: обесточить (shut down), забетонировать, обнести колючкой.
К счастью (наверное), Юдковский - не КОМКОН-2, а всего лишь лидер "секты свидетелей рационального мышления", более известной под названием "сообщество LessWrong", власти запрещать у него нет, с убедительностью тоже не всё всегда хорошо, а значит обесточивать-бетонировать никто не будет. А если и будет, то в силу того что технология более-менее известна, обязательно найдётся "пятерка дьявольски талантливых сорвиголов из Швейцеровской лаборатории в Бамако" (с) АБС, которая затеет и может быть доведёт до конца эксперимент... :-)