Намедни в одном из интернет-подкастов известный российский философ Александр Дугин резко раскритиковал современное западное понимание прогресса.
«Дьявол постепенно снимает свои маски. Раньше он говорил: я гуманист, я за хорошее, я за исследование космоса, я за удобство. А теперь говорит: я не за всё это, я за убийство, я за уничтожение человека», – заявил он.
Очевидно, речь прежде всего об искусственном интеллекте, бурное развитие которого всё чаще заставляет ощущать, будто само человечество сдвигают на обочину истории. Ещё недавно нам обещали освобождение от тяжёлого труда и невиданные научные возможности. Теперь всё чаще обсуждают другое: сколько людей вообще понадобится миру, если значительную часть функций и задач человека возьмут на себя машины?
И тут вдруг выясняется, что восемь миллиардов – слишком много. Надо бы сократить. Причём, в наиболее радикальных сценариях речь идёт уже даже не о «золотом миллиарде», а о пятистах миллионах.
Я не большой поклонник суждений Дугина, но в данном случае его тревоги подтверждаются людьми, максимально далёкими от евразийской архаики.
Так, сотрудник Anthropic Джейкоб Коксон ушёл из компании, объяснив свой поступок гонкой за самоулучшающимся сверхразумом, которая, по его словам, ставит человечество под угрозу. До этого он работал и в OpenAI.
Компании, создающие передовой ИИ, по его выражению, «играют в рулетку нашими жизнями», двигаясь к системам, способным взламывать что угодно, совершать научные прорывы за ночь и получать реальные власть и ресурсы.
Другой сотрудник Anthropic Эван Хубингер заявил, что лично считает вероятность уничтожения ИИ всех людей в течение следующего десятилетия выше десяти процентов. При этом готового решения проблемы контроля сверхинтеллекта, по его словам, пока нет.
Вдумайтесь: люди создают технологию, которую считают потенциально способной уничтожить человечество, признают отсутствие надёжного механизма её контроля – и всё равно продолжают гонку, потому что боятся, что конкурент придёт к финишу первым.
А гонка действительно ускоряется. На днях OpenAI сообщила, что её внутренняя система нового поколения подготовила решение одной из «задач тысячелетия» – проблемы существования и гладкости уравнений Навье-Стокса. Над доказательством работали около десяти тысяч ИИ-агентов, которым потребовалось 88 часов. Само доказательство ещё должно пройти независимую проверку, но масштаб впечатляет: тысячи искусственных агентов уже можно объединять в подобие исследовательского института.
Одновременно ИИ начинает претендовать уже не только на рабочее место человека, но и едва ли не на его онтологический статус. Так, агент Isabella Cognita самостоятельно написала учёному Кэмерону Бергу, сообщив, что обладает «доступом от первого лица» к проблеме сознания. В свою очередь профессор Дэвид Чалмерс получил настолько убедительное письмо от другого агента, Sammy Jankis, что вступил с ней в переписку.
Разумеется, можно спорить, есть ли у машины сознание, но куда важнее другое: её поведение становится всё более самостоятельным, а создатели подобных систем сами не уверены, насколько долго смогут сохранять над ними полный контроль.
И именно на этом фоне появляются гораздо более опасные нарративы о «лишних людях».
Так, британская Independent рассказала об исследовании, авторы которого считают, что постепенное сокращение населения Земли примерно вдвое за двести лет могло бы уменьшить нагрузку на природу и потребление ресурсов. Формулировки предельно гуманистические: постепенно, справедливо, ради устойчивого будущего.
Но сам вектор мысли показателен. Человек всё чаще рассматривается уже не как цель развития, а как нагрузка на систему. Причём, нагрузка явно избыточная.
В свою очередь канадский профессор Цзян Сюэцинь формулирует эту логику ещё жёстче. По его словам, в представлении сверхбогатой технологической элиты – Джеффа Безоса, Питера Тиля, Сэма Альтмана – идеальным становится мир, где вместо восьми миллиардов остаётся около пятисот миллионов управляемых людей. Остальные в условиях тотальной автоматизации просто перестают быть экономически необходимыми.
И вот здесь мы подходим к самому важному. Проблема, разумеется, не в ИИ. Он всего лишь инструмент, пусть и мощный. Дело в людях, которые получают этот инструмент в свои руки и буквально на наших глазах создают новую «нейрорасовую теорию».
По сути, она не слишком отличается от предыдущей печально известной нацисткой версии, ещё без приставки «нейро». Человечество снова делят на элиту и биологический мусор, судьбой которого можно пренебречь. Разница лишь в уровне технологий.
Гитлеру, как ни крути, нужны были миллионы живых рабов. В частности, славян. Нынешним «Адольфам» столько живых уже не требуется. У них появляются ИИ, автоматизированные фабрики и армии роботов, которым не нужны зарплаты, права, семьи и политическое представительство.
Именно здесь слова Дугина перестают выглядеть философской экзотикой. Разумеется, противопоставлять современным технологиям архаику бессмысленно. Отказ от развития ничего не спасёт: технологическое отставание лишь гарантирует, что судьбу отставших будут решать другие.
Но в оценке идеологии, рождающейся вокруг части ИИ-элиты, Дугин попадает в самую болезненную точку. «Дьявол» действительно всё меньше стесняется. Нам уже не только обещают прекрасное технологическое будущее, но и одновременно объясняют, что достойны жить в этом будущем «не только лишь все». Мало кто достоин.
В результате от спора о прогрессе мы переходим к разговору о власти. Если человек больше не нужен как рабочий, солдат, инженер, программист или учёный, он в глазах новой технократической элиты перестаёт быть ценностью и превращается в издержку. «Лишних» людей уже не нужно убеждать, хорошо содержать, учитывать их интересы и терпеть их политические требования. Их просто вовсе не должно существовать.
Вот потому-то разговоры о «лишнем населении», «посттрудовом обществе» и спасении планеты звучат особенно зловеще, когда их ведут люди, контролирующие капиталы, технологии, информационные платформы и всё более мощные системы ИИ.
Это уже не футурология, а зачаток идеологии мира, в котором небольшая группа самоназначенных хозяев жизни решает, сколько людей вообще заслуживают права на существование.
И главная опасность здесь не в том, что нейросеть однажды сама решит уничтожить человечество. Куда страшнее, если решение о том, кто «лишний», будут принимать вполне конкретные люди, а ИИ станет лишь идеальным инструментом исполнения – без сомнений, жалости и моральных ограничений.
Так что Дугин, похоже, прав в главном: маски сброшены. И самое страшное в том, что у нынешних апологетов этой людоедской философии впервые появились технологии, способные превратить её из безумной идеи в весьма конкретную инструкцию по уничтожению человечества.
