Книга Принцип апокалипсиса. Сценарии конца света - Олег Фейгин
Шрифт:
Интервал:
Закладка:
Определим сверхразумную машину как машину которая способна значительно превзойти все интеллектуальные действия любого человека, как бы тот ни был умен. Поскольку способность разработать такую машину также является одним из этих интеллектуальных действий, сверхразумная машина может построить еще более совершенные машины. За этим, несомненно, последует «интеллектуальный взрыв», и разум человека намного отстанет от искусственного. Таким образом, первая сверхразумная машина станет последним изобретением, которое выпадет на долю человека, при условии, что машина будет достаточно покорна и поведает нам, как держать ее под контролем…
«Роботизированный» профессор Стивен Хокинг
Вместе с Хокингом «интеллектуальный набат» поддержали профессор физики из Массачусетского технологического университета Макс Тегмарк, лауреат Нобелевской премии Фрэнк Вильчек и профессор компьютерных наук Стюарт Рассел. Совместно они опубликовали в еженедельнике «The Huffington Post» аналитический обзор под настораживающим названием «Избавляясь от беспечного отношения к сверхразумным машинам». В этой статье ученые, на основе анализа сюжета голливудского блокбастера, предлагают свои сценарии будущего искусственного интеллекта, и далеко не все из них вызывают оптимизм. Главную свою мысль «творческий коллектив Хокинга» выражает следующим образом: «Есть искушение отнести сверхумные компьютеры к области научной фантастики, но это было бы ошибкой, и, возможно, – самой ужасной ошибкой в истории».
Поскольку, несмотря на громкие имена, выступление «команды Хокинга» прошло практически незамеченным, ученые сделали еще одну попытку обратить на себя внимание и поместили в газете «The Independent» эссе под пространным заголовком: «Фильм „Превосходство": плоды искусственного интеллекта – насколько серьезно мы их воспринимаем?».
Увы, и этот «интеллектуально-эсхотологический демарш» не привлек широкого внимания читателей, а между тем выводы теоретиков предвещают одну из самых громких грядущих сенсаций: наша цивилизация увлекается в горнило «технологической сингулярности»!
Ровно двадцать лет назад мир содрогнулся от новой опасности, которую вполне можно было бы назвать «врожденной генетической болезнью» цивилизации. Ее предрек человечеству американский математик и писатель-фантаст Вернор Виндж в культовой работе «Грядущая технологическая сингулярность». Суть модели будущего по Винджу очень проста: «В течение ближайших тридцати лету нас появится техническая возможность создать сверхчеловеческий интеллект. Вскоре после этого человеческая эпоха будет завершена».
Виндж лишь схематически набросал черты будущей гибели земной цивилизации, предпочитая разрабатывать детали в своих научно-фантастических романах. Однако его теория быстро обросла подробностями в исследованиях учеников и подражателей.
Так, в 2001 году профессор Калифорнийского университета Кристофер Пистер ввел парадоксальное понятие умной пыли (smartdust). Этим термином он обозначил микроскопические кибернетические устройства, обладающие зачатками собственного разума и способные связываться с мириадами подобных. Подобные микророботы действительно разрабатываются в современной кибериндустрии, в основном для измерения параметров окружающей среды.
Такие устройства будут представлять собой компьютерный микрочип, покрытый пластиковой оболочкой, которая сможет менять свою форму при подаче электрического импульса и таким образом двигаться в направлении, определенном оператором. Электронную «пыль» можно помещать в носовую часть космических зондов и выпускать в атмосфере других планет, где они будут разноситься ветром.
Надо заметить, что прообраз «киберпыли» впервые встречается в романе Станислава Лема «Непобедимый». В нем классик мировой литературы гениально предсказал организацию беспроводных сетей, в которых узлы способны связываться друг с другом и «роиться», выполняя множество задач. Обычные роботы, даже обладающие сверхразвитым искусственным интеллектом, сильно уступают своим миниатюрным собратьям по функциональности. Концепция умной пыли еще недавно рассматривалась как далекая перспектива создания микророботов микронных размеров. Одиночный микрокибер, как и любое коллективное насекомое – пчела, муравей или термит – мало на что способен. Однако множество микророботов способно уничтожить все на своем пути, подобно потоку тропических муравьев.
Естественно, что облака киберпыли будут лишь внешним проявлением гибели человеческого разума в технологической сингулярности. На первом этапе этого глобального кризиса у руля цивилизации встанут искусственные сверхинтеллекты, управляющие разнообразными «киберботами» (подвижными микроустройствами).
Это могут быть и нейрокомпьютеры, и квантовые компьютеры, и даже некие «киборгонизированные» комплексы с участием человека. В этом и заключается смысл предложенного Винджем словосочетания «технологическая сингулярность», как условия, в котором современные модели и представления о научно-техническом прогрессе теряют всякий смысл, и начинается совершенно «нечеловеческая» логика поведения искусственного интеллекта.
Именно здесь может крыться разгадка пресловутого парадокса Ферми. Ведь сверхинтеллект, руководящий роями киберпыли, вряд ли будет стремиться к поиску и контактам с внеземным разумом. Скорее всего, это будет напоминать замкнутый «мир матрицы», блестяще изображенный на киноэкране.
До сих пор компьютеры полностью контролировались человеком. А вот в будущем искусственный интеллект (даже без приставки «сверх») будет самостоятельно предугадывать наши потребности и реагировать на них. Компьютеры, объединенные в бесконечные сети, будут анализировать текущую обстановку, делать высокоточные прогнозы и предлагать нам (а в ряде случаев и навязывать) те или иные варианты возможных дальнейших действий.
И вот наступит момент, когда множественные сенсорные сети из самостоятельных миниатюрных роботов получат возможность самоорганизовываться. Кибернетические рои получат своих «маток» – центры управления, способные организовать бесконтрольное клонирование микроботов.
Итак, давайте примем в качестве рабочей гипотезы, что возможности компьютеров в ближайшем будущем превзойдут человеческие. На этом уровне совершенно неважно>, будут ли они на самом деле мыслить (кстати, а вы можете сказать, что это такое – мыслить на самом деле?), поскольку результаты их работы будут такими же, как если бы они мыслили, причем быстрее и глубже, чем люди.
Нанотехнологии позволяют строить новые объекты буквально на уровне атомов и молекул, позволяя достигнуть одновременно и высочайшей специализации, и поразительной унификации. Вполне возможно, что в самом преддверии грядущей технологической сингулярности именно нанотехнологии будут определять течение научно-технической революции во всех областях человеческой деятельности – от сельского хозяйства и медицины до космических исследований.
