June 17th, 2006

тв

О математичности Сингулярности

Споры о сингулярности часто вырождаются в разговор о точной дате, о невозможности её предсказания или, что ещё хуже, о точном характере кривой, которая эту сингулярность описывает.

Не надо говорить о математических аспектах. То, что идея в её современной форме была предложена математиком Вернором Винжем, ничего не значит. Надо говорить о смысле и физическом (технологическом) содержании.

Неважно, с какой скоростью мы сегодня развиваемся, важно, что мы придём к качественно иному состоянию. В этом состоянии будет действовать сверхразум на основе сверхмощных компьютеров. Компьютерный мозг (будь то ИИ или загруженный человек) может себя улучшать и изменять (и элементную базу, и программирование). Поэтому усиливаются его способности и ускоряются изменения.

А какой математической зависимостью будет описываться этот процесс - экспоненциальной, двойным экспоненциальной или гиперболической, не столь важно.

Есть предельное состояние - когда вся Земля целиком превращена на наноуровне в компутрониум (вычислительное вещество) и на этом сверхкомпьютере работает сверхразум (или сообщество сверхразумов). Понятно, что скорость прогресса (как бы мы его не измеряли) будет тогда на много (10? 15?) порядков выше, чем у сегодняшней человеческой цивилизации. Кроме того, есть некий конечный объём работ, который нужно выполнить для создания такого сверхкомпьютера. Он будет выполняться. А поскольку по мере его выполнения скорость мышления на Земле будет увеличиваться, то закончен он будет относительно скоро.

Не столь важно, и то, как мы сегодня движемся к Сингулярности - рост ВВП, рост общего числа страниц в наших библиотеках, увеличение числа исследователей, снижение срока внедрения новых изобретений и т. п. Даже точное следование индустрии полупроводников закону Мура уже не так важно. Процесс усиления мыслительной (вычислительной) мощности обеспечивает собственное самоускорение.

Сингулярность - это не только бесконечное накопление знаний, но и бесконечное преобразование материального мира. Обязательной предпосылкой для ускоренного развития (т. е. для Сингулярности) является возможность изменения и улучшения элементной базы сверхразума. Если появление сильного ИИ произойдёт до совершенных нанотехнологий (т. е. очень рано на пути к Земле из компутрониума), то какое-то время пройдёт, пока эти ИИ (и люди) разработают необходимые технологии. Именно этот аспект положен в основу стратегии SIAI - разработки дружественного ИИ как можно скорее, по возможности, раньше нанотеха. Создание сильного ИИ после универсальных наноассемблеров-репликаторов может привести к hard takeoff, т. е. немедленного усиления возможностей ИИ до Сверхразума (т. к. будет потенциал для мгновенного значительного усиления вычислительных возможностей).