От рубил до нанороботов. Мир на пути к эпохе самоуправляемых систем (История технологий и описание их будущего).

Как нужно сосуществовать с научно-техническим прогрессом? Мы закончили наш анализ истории развития и современного состояния технологий, представили свои предположения о том, в каких направлениях они смогут развиваться в дальнейшем. Но, разумеется, жизнь окажется богаче любых прогнозов и даже фантазий. С возникновением машин в предшествующие века появилось и множество ярких прозрений относительно их будущего применения, но еще больше фантазий, которым не суждено было реализоваться. Так и сегодня трудно определить, что станет реальностью, а что – нет.

Но все же у нас нет сомнений, что развитие происходит именно в направлении создания самоуправляемых систем. Впереди ждет расцвет такого рода систем, которые будут работать в основном автономно, все более настойчиво контролируя при этом самые разные аспекты жизни человека. Все это требует глубокого осмысления и работы в области минимизации возникающих проблем, например чтобы впоследствии не возник новый и еще более дотошный «Большой Брат», знающий о нас на порядки больше того «Брата», который зримо стал контролировать всю нашу жизнь в Интернете. Ведь скоро могут стать доступными не только наша переписка, но и генетическая родословная, история болезней, особенности организма, не исключено, что даже мысли. Кто, как и для чего сможет этим воспользоваться, не может не волновать.

Есть и другие проблемы. Опасностью перестать думать и решать назвал Б. Джой (2000) ситуацию все большей зависимости от машин, когда люди, потеряв возможность практического выбора, начнут принимать все решения машин. Вероятно, Джой сгущает краски, когда пишет: «В конце концов, может быть достигнута ступень, на которой решения, необходимые для управления системой, будут настолько сложны, что интеллект людей окажется неспособным к их генерации. На этой стадии эффективное управление перейдет к машинам. Люди уже не станут способными даже просто выключить их, потому что будут столь от них зависеть, что выключение оказалось бы равносильным самоубийству» (Там же). Тем не менее опасность попасть в довольно сильную зависимость от технологических систем вовсе не умозрительная. И что тогда в итоге останется от «свободы выбора» человека, совсем неясно.

Кроме того, ситуация, когда системы возьмут на себя бόльшую часть умственной работы людей, вполне может привести к тому, что ум людей будущего станет работать меньше, чем у современного человека, в результате он ослабеет, подобно тому как слабеют мышцы множества наших современников, не имеющих необходимости выполнять физическую работу. Естественно, в помощь интеллекту будут появляться все более удобные и облегчающие работу мысли системы. Включится положительная обратная связь: ум не хочет напрягаться, устройства облегчают его работу, ум ослабляется еще больше. Поэтому неудивительно, если в будущем «умственная гимнастика» (в виде какой-нибудь таблицы умножения) станет пропагандироваться как очень полезное упражнение, так же как сегодня простые физические нагрузки.