Надсистема над системой

Добрый день!

«Илья, а что это ты не пишешь уже полторы недели?» - прямолинейно интересуются некоторые читатели через электронную почту. Чтобы не говорить, что я слегка приболел, из-за чего голова не склонна скрупулёзно прорабатывать физические тексты (кстати, в скором времени будет разбор задачи о пружинке в кислоте), я отвечу следующим образом:

1) Да, я нормально отношусь к тому, что незнакомые люди обращаются ко мне в письмах «на ты». Поэтому пишите так, как лично Вам удобнее :)

2) Думу думаю я о взаимодействии сложных систем, одни из которых являются частями других. Вот помните фильм «Тринадцатый этаж»? Это такой «дедушка «Матрицы». В этом фильме рассматривалась та же ситуация, что и в «Матрице», которая многим знакома, но акцент делается на совсем другие вопросы. Короче, если не видели, то рекомендую. Но мне этот фильм сейчас нужен, чтобы аккуратно подойти к разговору о взаимодействии сложных мыслящих систем.

Давайте начнём с простого:

На, вообще говоря, элементарной штуке - машине Тьюринга - можно реализовать чрезвычайно сложные алгоритмы. Не будем сейчас вдаваться в подробности и погружаться в терминологические дебри, но скажем, что на машине Тьюринга можно имитировать машину Поста, нормальные алгоритмы Маркова и, что многих может удивить, любую программу для наших традиционных железных компьютеров, преобразующую одни данные в другие. Например, на машине Тьюринга можно организовать выполнение любой программы, созданной на языке Си.

Что дальше? А дальше смотрим с позиции программиста на этом самом языке высокого уровня. Он может мыслить сложными конструкциями, может воплощать нетривиальную архитектуру, реализовывать очень запутанный или очень ясный код, который творит чудеса. И всё это запросто будет исполнено на какой-то невероятно простой машине Тьюринга, про которую ничего не знают ни Си-программист, ни сама программа на Си (что бы эта фраза ни означала). Программист со своей программой находятся на верхнем уровне, но никогда не могут опуститься вниз - им недоступна бесконечная лента памяти машины Тьюринга, они не могут узнать, в каком состоянии находится управляющее устройство и так далее.

Кстати, на том же Си можно реализовать программу, которая будет имитировать опять же машину Тьюринга. А на ней уже можно реализовать что угодно :)

Звучит мутно? Это мы ещё не перешли к людям! Часто можно увидеть, как люди реагируют на новое событие шаблоном, а не «самим собой». Я это воспринимаю так: человек глазами увидел, что ситуация поменялась, догадался, что сейчас следует что-то сделать, но не чувствует, что именно. И тут он «вовремя» вспоминает реакцию героя из какого-нибудь телесериала, например. Выглядит безумно ненатурально, но не в том дело. Программа высокого уровня (ну не называть же её сознанием, верно?) потеряла контакт с системами, находящимися уровнем ниже. Поэтому индивид уже просто не может почувствовать, как ему быть в новой ситуации. Потом он, конечно, «подумает головой», что позволит придумать более правильную и естественную реакцию для прошедшего момента. Но время уже ушло. Впрочем, речь опять не об этом. Речь о том, что человек вполне может обучаться - пережив несколько десятков тысяч разных схожих ситуаций, он запоминает наилучшие свои реакции. И со временем опять начинает выглядеть вполне натурально. Уже и не разобрать - где он «выдумал себя нового», утеряв контакт со старыми механизмами, а где всё же срабатывает то, что заложено генами и воспитанием в первые годы.

Или давайте рассмотрим обратный пример: банальнейшая ситуация - человек начинает переходить дорогу на зелёный сигнал светофора. И вдруг сбоку слышит громкий рёв двигателя или визг тормозов. Что будет? Я несколько раз видел, как организм, который вроде бы только что не мог быстро ответить на простейший вопрос, делает молниеносный бросок за тяжёлое препятствие. Так мы видим подключение одной из систем низкого уровня - она быстрая, но не мыслит понятиями «паллиатив», «жирандоль» и «гекатомба». Да, она вовсе не настроена на сидение перед компьютером. Но она эффективно спасает жизнь и здоровье. Полагаю, у многих были экстремальные ситуации, в которых удавалось чудесным образом сохраниться. Представьте, что наша машина Тьюринга, исполняющая какую-то программу, вдруг «принимает решение» экстренно начать делать что-то другое. Это всего лишь означает, что наша машина Тьюринга не так проста, как мы думали. Впрочем, программа на высоком уровне может даже ничего не узнать о том, что её как-то прерывали (кто пользовался виртуальными машинами, тот с этим сталкивался неоднократно).

И тут возникает вопрос о том, а кто тут вообще система высокого уровня и кто владелец туловища. Тот, кто является самым простым и быстрым, имея возможность прерывать всё и вся? Или тот, кто использует всю мощь подсистем, не только не имея возможности их контролировать, но даже ничего о них не зная? Это один вопрос, но есть и другой - к нему мы сейчас перейдём.

Как машина Тьюринга содержит элементарные детальки (ленту, управляющее устройство, правила перехода и так далее), так и мозг состоит из чего-то очень простого: нейроны, аксоны, синапсы, дендриты... (я ни разу не биолог, поэтому слова об «очень простом» прошу считать шуткой) И вот над этим хозяйством в мозге выстраиваются какие-то мыслящие системы. Есть очень простые и очень быстрые (аналог машины Тьюринга), есть более развитые рефлексы, инстинкты и так далее (реализация Си на машине Тьюринга), есть ещё более развитые - то же сознание - какой бы смысл этому слову мы ни придавали (грубо говоря, на том языке Си можно реализовывать что-то ещё более мощное, но и работать оно будет гораздо медленнее)...

И тут мы понимаем, что из-за потери связи с системами низкого уровня наша система высокого уровня начинает их имитировать. Как у того человека, который не знает, как следует среагировать, но за несколько минут придумывает правильный ход... Он своей самой верхней системой начинает решать задачи, с которыми прекрасно справлялись раньше быстрые и эффективные механизмы. Со временем он в большой степени покрывает свои потребности в низких системах, используя ресурс верхних. И тут наши новенькие системы начинают строить над собой новую надсистему (потому что они всегда так делают)... Так вырастает ещё один уровень. Он требует больше ресурсов, потому что мы всегда имеем накладные расходы из-за очередного уровня имитации. Но новый уровень уже может и не быть мощнее имеющихся.

Другими словами, мы так договорились до следующей проблемы: рост продолжительности жизни человека может привести к росту вложенности мыслительных систем, что существенно замедлит скорость мышления и общую адекватность (из-за неустранимого накопления ошибок при передаче с уровня на уровень). Более того, унификация жизни приводит к тому, что общество способствует формированию уровней вложенности в детях раньше и интенсивнее. И это могло бы быть одним из сценариев развития человечества - замедление и вымирание от зашкаливающей вложенности систем. Сложность проблемы в том, что участники системы не способны оценить количество уровней вложенности, потому что не имеют прямого доступа вниз.

И если в тексте выше есть фрагменты смысла, то вывод напрашивается следующий:
- Над некоторыми вопросами надо думать, а не слепо доверяться низкоуровневым системам, потому что они не способны давать адекватные оценки без тренировки.
- Но некоторые вопросы следует поручать именно интуиции/подсознанию/голосам в голове или ещё кому-то внутри себя. И этого кого-то надо тренировать, чтобы задачи с высокого уровня переносить вниз, а не тащить принятие всех решений на самый верх.

Поздравляю тех, кто дочитал до этого места!
Бывает, что вы думаете об этом же? Чувствуете иногда, что в некоторых случаях лучше бы думать меньше, а не больше?