Судный день роботов. Советская фантастика глазами айтишника

Если в детстве вы вместе с Каммерером терпели крушение на далеких планетах и с Колей Наумовым флиповали до Космодрома, возможно, у вас и сейчас дух захватывает при мысли о будущем. Чего нас только не ждет: космический туризм, беспилотные дроны и роботы, и… погодите, кажется все это уже есть? Так что же, фантастика прошлого устарела? Или оттуда еще можно почерпнуть вдохновляющие идеи? Разбирается Серафим Пикалов, технологический предприниматель в области искусственного интеллекта (CEO JustMagic и  Not Just A Toy), призер чемпионатов мира по парасноубордингу и параскалолазанию

Реальность против вымысла

Классическая фантастика интересна тем, что вопросы, занимавшие авторов чисто гипотетически, сегодня стали реальностью. Перечитывая старые книги, мы уже знаем: что сбылось, а что нет, или можем «подсмотреть ответы». Но, во-первых, в жизни все происходит менее драматично, чем в художественных произведениях. Будущее наступает медленно, давая людям возможность подготовиться. Можно, конечно, спросить: «Ну и где это фантастическое будущее, когда в Москве по-прежнему отключают горячую воду летом?» Однако вдумайтесь: люди больше не представляют себя без социальных сетей, часть человеческой личности действительно перенесена в виртуальную реальность, даже если другая часть трясется в обычной электричке. Это ли не фантастика?

Фантастические произведения можно разделить на утопические – например, мир Полудня братьев Стругацких – и антиутопические: скажем, скажем, Филип Дик (знаменитый роман «Мечтают ли андроиды об электроовцах»). Интересно наблюдать как маятник реальности раскачивается между двумя выдуманными полюсами. Жизнь не может быть черно-белой: цифровой мир способен как социализировать человека, так и увести в сторону. Помня об этих правилах – постепенности прогресса и отсутствии однозначных категорий «хорошо» и «плохо» – разберем тревоги и чаянья научных фантастов прошлого века. 

Весь мир разрушим, а затем?

Фантастически мир зачастую строится на обломках старого. У мэтра советской фантастики Ивана Ефремова истощение ресурсов и череда войн привели к зарождению идеального коммунистического общества, решительно порвавшего с прошлым. Сегодня нашему миру угрожает реальная опасность – глобальное потепление: следствие бездумного отношения к собственной планете. Должны ли мы начать с чистого листа, чтобы выстроить более гармоничный социум? 

Поразмыслим над этим в прикладном ключе создания комфортной городской среды. Сегодня мы решаем проблемы костылями в виде автоматизации, роботизации, и так далее. Большинство проблем унаследованы: скажем, очень плотная застройка, потому что раньше всем нужно было жить рядом. С появлением интернета это уже не так актуально, но плотная застройка осталась и создает массу неудобств. 

Не проще ли построить новый город – сразу с применением современных технологий и подходов? Такие эксперименты проводятся: например, Саудовская Аравия намерена возвести в пустыне поселение будущего «Линия» (The Line), где не будет ни машин, ни улиц в привычном понимании, а вся инфраструктура станет работать на возобновляемой энергетике. Такой подход кажется эффективнее попыток приспособить существующие города под новые условия.

Но его нельзя автоматически распространять на все вокруг. Чем плохи радикальные перемены – они обеспечивают выживание только тех, кто к ним приспособлен. Значит, мы многое утратим, в том числе и то, что могло бы нам пригодится на каком-то следующем этапе развития. В этом смысле революционный лейтмотив советских фантастических романов «Весь мир насилья мы разрушим до основанья, а затем мы новый мир построим» кажется неверным.

Устроят ли роботы нам судный день

Существует бессчетное множество произведений про одушевленные машины. Зачастую они зловещи. Этим грешит западная фантастика: оборонная сеть SkyNET из «Терминатора» как осознала себя, так сразу развязала ядерную войну. Советские фантасты смотрели на развитие техники с идеологически выверенным оптимизмом – забавно, но такой подход кажется куда более здравым.

Давайте разберемся, что такое искусственный интеллект. Сейчас под ним подразумевают сложные нейросети, которые еще очень далеки от научной фантастики. Вообще, пока не существует даже строгого определения понятий «интеллект», «сознание» – что мы вкладываем в эти слова? Поэтому с инженерно-технической точки зрения апокалиптические страхи выглядят как минимум преждевременными. Как и надежды, связанные с этой технологией.

Однажды мы действительно создадим машину, обладающую интеллектом-сознанием, но когда это произойдет? Илон Маск считает, что в течение 7-8 лет, однако предпосылок к этому не видно. Полагаю, нам придется еще очень долго работать, и к моменту появления «думающего компьютера» мы будет лучше готовы, чем сейчас. Потому что в процесс включены не только технари, но и философы. То есть, идет нормальное эволюционное развитие: искусственный интеллект не выскочит чертиком из табакерки, так как сами мы не способны перескочить в будущее. 

Конец света со скуки

Один из главных вопросов фантастики – чем будут заниматься люди в благоустроенном будущем? Что станет движителем дальнейшего прогресса, когда вокруг все хорошо? Было решено, что любовь к познанию как таковому. Часть нашего мира уже достаточно благоустроена и мы видим, что наука действительно демократизируется, советские фантасты угадали. 

Когда учился в институте, представить себе не мог, что в выходные запросто буду слушать стэнфордский курс по нейронным сетям. Однако возникает вопрос: в романе «Туманность Андромеды», где описывается образцовое общество будущего, из любви к познанию ставят эксперимент, приводящий к жертвам. Наше общество не столь совершенно и последствия могут быть еще тяжелее. Уверен, вы слышали «теорию заговора», гласящую, что коронавирус мог «сбежать» из частной лаборатории. Не окажутся ли научные знания не в тех руках? Каких-нибудь «зловещих корпораций», которыми пестрит сайнс фикшн?

На самом деле кажется не совсем правильным разделять корпорации и государство – это близкие структуры. Мы видим: создаются этические комитеты, Фейсбук и Гугл чуть ли не философов нанимают. Плюс большие компании открыты, они ежегодно проходят дью-диилидженс (т.н. проверку «должной добросовестности»). Подход к безопасности действительно государственный. Можно вспомнить как несколько лет назад сотрудники Гугл буквально восстали против работы на Пентагон. Так что это еще и вопрос личного выбора.

Не то, чтобы этого вообще не надо бояться, но все-таки страх кажется преувеличенным. Между тем, в последнее время интересные научные работы пишутся именно внутренними исследовательскими группами корпораций. Например, GAN’овские сети – генеративные нейронные сети, которые уже много где используются. В том числе исследуется потенциал применения в самоуправляемых автомобилях. Но здоровые опасения – это даже хорошо, они являются залогом ответственного отношения.

В плену к технологий

Кстати, о самоуправляемых автомобилях: как любой физический объект, человек стремится к оптимальности. Иными словами, он ленив и склонен экономить энергию. Помните, в мультике «Валли» такие толстячки перемещались на летающих креслах? Очень даже вероятный сценарий дальнейшего развития технологий: все на свете станет комфортным, умным и предупредительным. Собственно, мы давно уже деградируем в простых навыках: если нас с вами, читатель, закинуть в тайгу, долго мы там не протянем. Хотя необходимые знания у человечества есть, они описаны в учебниках по экстремальному туризму – но у большинства нет времени их читать. 

Поэтому, как ни парадоксально, выход из проблемы расположен там же, где и вход – это технологии. Если с помощью новых технологий удастся оптимизировать процесс обучения, то сэкономленное время как раз можно будет потратить на приобретение дополнительных умений. В этом смысле мне всегда импонировал герой цикла романов Стругацких Максим Каммерер. Он человек высокотехнологичного будущего, но владеет навыками, пригодными для самых первобытных ситуаций.

Станем ли мы сами роботами?

Если вы помните, Каммерер был невосприимчив к радиации, прекрасно видел в темноте и так далее. Как бы нам обрести такие сверхспособности? Фантастика предлагает два пути: кибернетизация, искусственное тело. Или совершенствование естества. Может быть, с помощью восточных практик, вроде йоги – об этом грезил Ефремов в 50-х годах. Кстати, подумайте, насколько он опередил время! Бум на все восточное начался спустя сорок лет.

Тут я снова на стороне советских фантастов: надеюсь, у нас хватит упорства изучить человеческий организм так, что не потребуется заменять его части искусственными. Сам хожу на протезе и могу заверить: это не то, к чему надо стремиться. Лучше обойтись без киберпанка. Хочется верить, что синергия с электроникой в будущем останется опциональной.

Наше тело – уникальная биологическая машина, способная восстанавливать и реплицировать себя в чрезвычайно агрессивной среде. Было бы слишком расточительно от нее отказываться. Кроме того, любой программист вам скажет, к чему может привести несанкционированное вмешательство в сложную архитектуру. Особенно, когда до конца не понимаешь, как все работает.

Но это не значит, что у нас не будет сверхспособностей! Они заложены, их только нужно развить. Вспомните фокусников-менталистов, например, артиста Юрия Горного – он может найти спрятанную в зрительном зале иголку, определить загаданную страницу в книге или запомнить под диктовку несколько десятков телефонных номеров. Никакой мистики – развитое «шестое чувство» артист объясняет аккумуляцией знаний по психологии, физиологии и неврологии. И постоянными упражнениями. 

Так что, возвращаясь к прежней мысли, если технологии позволят нам радикально улучшить процесс обучения – мы в самом деле станем героями фантастических романов.