Есть у искусственного интеллекта одна особенность, которая может оказаться опаснее всех разговоров о далёком сверхинтеллекте. Он научился очень убедительно делать то, что раньше требовало от человека времени, денег и хотя бы некоторого таланта: создавать правдоподобную ложь. Фотографию человека можно сгенерировать, голос — скопировать, видео — подделать, а текст — написать так, что его авторство вообще перестаёт быть очевидным. И если раньше для хорошей фальшивки требовались студия, монтажёр и несколько часов работы, сегодня иногда достаточно нескольких слов в окне чата. Международный AI Safety Report 2026 отмечает, что число зарегистрированных инцидентов с использованием AI-сгенерированного контента существенно выросло с 2021 года, а сами инструменты стали дешевле, доступнее и проще в использовании.
Но проблема даже не в том, что ИИ умеет подделывать фотографии политиков, голоса родственников или новости. Подделки существовали и до него. Интернет тоже не вчера познакомился с ложью — человечество прекрасно справлялось с этим и без искусственного интеллекта. Новым становится другое: масштаб и стоимость производства убедительной информации. Один человек теперь может создать за короткое время огромное количество совершенно разных сообщений, изображений или роликов, причём каждое можно адаптировать под конкретную аудиторию. Ложь впервые получила почти промышленное производство.
Самый простой пример — мошенничество. Представьте телефонный звонок от близкого человека. Голос знакомый, интонация похожа, обращение правильное. Человек говорит, что попал в неприятную ситуацию и срочно нужны деньги. Раньше мошеннику пришлось бы хотя бы убедительно изображать чужой голос. Теперь его можно клонировать с помощью ИИ. Международный отчёт приводит реальные случаи, когда злоумышленники использовали голосовые клоны и дипфейки, выдавая себя за родственников или руководителей компаний, чтобы заставить людей перевести деньги.
И это только самая примитивная форма проблемы: «Здравствуйте, мама, я попал в беду». Гораздо интереснее становится ситуация, когда ИИ начинает производить не просто ложные факты, а целую правдоподобную картину мира. Фотография с места события, короткое видео, комментарии очевидцев, несколько десятков похожих публикаций — и перед человеком возникает не одна фальшивка, а информационная среда, в которой фальшивка выглядит естественной. Раньше для создания такого впечатления требовалась организованная команда. Теперь часть работы может выполнять машина.
Причём обнаружить подделку становится всё труднее. В международном отчёте по безопасности ИИ приводятся результаты исследований, согласно которым участники экспериментов принимали текст, созданный ИИ, за человеческий в 77% случаев. В другом исследовании слушатели принимали искусственно созданные голоса за настоящих людей в 80% случаев. Это не означает, что 77% или 80% всего интернета теперь состоит из подделок. Такие цифры относятся к конкретным экспериментам. Но они показывают неприятную вещь: человеческое ухо и человеческий глаз уже не являются надёжным детектором искусственного.
Можно, конечно, поставить специальную программу, которая будет искать признаки подделки. Проблема в том, что гонка идёт в обе стороны. Генераторы становятся лучше, а детекторы пытаются их догнать. В реальных условиях это особенно сложно: файл можно пересохранить, изменить, обрезать, обработать фильтром или просто распространить через другую платформу. Исследование реальных политических дипфейков также показывает, что современные системы обнаружения заметно хуже работают на настоящем интернет-контенте, чем на специально подготовленных тестовых наборах. Детектор, прекрасно распознающий фальшивку в лаборатории, может внезапно растеряться, встретившись с ней в «дикой природе».
Но здесь возникает проблема ещё глубже. Допустим, завтра мы научимся идеально определять каждый дипфейк. Разве это решит проблему? Не совсем. Потому что человек может знать, что фотография ненастоящая, и всё равно испытывать эмоциональную реакцию на неё. А некоторые виды контента вредны независимо от того, поверил человек в их подлинность или нет. Поэтому одних «антифейковых очков» недостаточно: нужно одновременно думать о происхождении информации, правилах её распространения и ответственности тех, кто её создаёт.
Есть и ещё одна неприятность. ИИ умеет не только создавать ложную информацию, но и делать её убедительной. Это уже следующий уровень проблемы — влияние на убеждения человека. Исследования показывают, что в лабораторных условиях AI-сгенерированные тексты способны менять мнения людей, причём в некоторых экспериментах модели оказывались не менее убедительными, чем обычные люди. В одном исследовании участники после общения с ИИ меняли ответы на вопросы значительно сильнее, чем после взаимодействия с другими людьми. Международный AI Safety Report отмечает также связь между увеличением вычислительной мощности моделей и их способностью убеждать.
Особенно показателен эксперимент Стэнфордского университета с политической пропагандой. Исследователи сравнили реальные пропагандистские материалы, использовавшиеся в зарубежных информационных кампаниях, с текстами, созданными GPT-3. В эксперименте приняли участие 8221 американец. AI-сгенерированные статьи оказались очень убедительными и в среднем были сопоставимы по воздействию с реальными пропагандистскими материалами, созданными людьми. А при сочетании человека и машины — когда человек редактировал запросы и выбирал удачные результаты — тексты могли оказаться ещё убедительнее. Авторы исследования подчёркивают, что это не доказательство массового управления населением с помощью ИИ, но оно показывает техническую возможность очень дешёвого производства убедительной пропаганды.
И вот здесь начинается самое интересное. До появления генеративного ИИ массовая коммуникация была устроена довольно просто: один источник говорил сразу с тысячами или миллионами людей. Газета печатала один текст для всех. Телевидение показывало один сюжет для всех. Даже рекламное объявление обращалось к довольно широкой группе. ИИ способен изменить саму эту логику. Теперь можно представить сообщение, которое создаётся для одного конкретного человека: с учётом его интересов, предыдущих реакций, привычного языка и тех аргументов, на которые он лучше всего реагирует.
Пока здесь важно не впадать в очередную технологическую истерику. Международный AI Safety Report специально подчёркивает: доказательств того, что AI-мошенничество или политическая манипуляция уже массово изменяют поведение людей в реальном мире, пока недостаточно. Эксперименты показывают способность ИИ убеждать, реальные случаи использования уже существуют, но масштаб этого воздействия значительно труднее измерить. Более того, создание сообщения — лишь половина дела: его ещё нужно доставить человеку, заставить открыть, прочитать и поверить. Интернет, к счастью, пока не является гигантским пультом управления человеческим сознанием.
Однако именно здесь возникает проблема доверия. Представьте обычный разговор в интернете через несколько лет. Вам присылают фотографию — вы думаете: «Наверное, ИИ». Вам присылают видео — «тоже может быть ИИ». Звонит знакомый — «а точно ли это он?». Приходит письмо от начальника — «может, голос и стиль сгенерированы». Появляется документ с подписью — «а вдруг подделка?». В результате возникает странная ситуация: ИИ может не только заставить нас поверить в ложь, но и заставить сомневаться в правде.
Это уже получило название liar’s dividend — «дивиденд лжеца». Если общество привыкает к тому, что любое видео или аудиозапись можно объявить дипфейком, человек, действительно совершивший какой-то поступок, получает новую возможность ответить: «Это не я. Это искусственный интеллект». И чем лучше становятся генераторы подделок, тем правдоподобнее звучит такое оправдание. Получается почти идеальный парадокс: раньше доказательством считалась запись, теперь сама запись может стать поводом для спора.
Поэтому возникает вопрос, который гораздо важнее технического: что вообще будет считаться доказательством в мире, где изображение, голос и текст больше не гарантируют подлинность? Возможно, постепенно придётся доверять не столько самому содержанию, сколько его происхождению: кто сделал запись, каким устройством, когда она появилась, изменялась ли она после создания. Именно поэтому сегодня так много внимания уделяется цифровой аутентификации, метаданным, водяным знакам и другим способам подтверждения происхождения контента. Но и здесь нет волшебной кнопки: существующие методы имеют ограничения, а некоторые из них можно удалить или обойти.
И здесь проблема ИИ неожиданным образом превращается в проблему самого человека. В мире без генеративного ИИ мы тоже постоянно ошибались, верили слухам, распространяли фотографии без проверки и читали заголовки вместо статей. ИИ не изобрёл человеческую доверчивость. Он сделал другое: резко снизил стоимость производства информации, которая может эту доверчивость использовать. Если раньше для создания убедительной фальшивки требовались навыки, теперь главным ограничением всё чаще становится не способность её изготовить, а способность заставить людей обратить на неё внимание.
И это, пожалуй, самая важная перемена. Проблема будущего может заключаться не в том, что человечество окажется окружено миллиардами фальшивых картинок. Мы просто перестанем знать, чему доверять. А общество без доверия работает плохо: журналист не может доказать подлинность фотографии, гражданин — подлинность документа, человек — подлинность собственного голоса, а суд — подлинность цифрового свидетельства.
Поэтому главный риск искусственного интеллекта в информационной сфере сегодня выглядит не как армия роботов, захватывающая телестудию. Всё гораздо прозаичнее. Это постепенное разрушение привычного правила «увидел — значит, было». ИИ делает такое правило ненадёжным. Нам придётся привыкать к новой информационной гигиене: проверять источник, сопоставлять независимые свидетельства, понимать происхождение изображения или видео и не принимать уверенный тон за доказательство правды.
Пожалуй, в этом и заключается главный парадокс новой эпохи. Мы создали машины, которые научились делать информацию всё более похожей на человеческую, а теперь нам самим придётся учиться отличать информацию от доказательства. И если раньше главным вопросом было «правда ли это?», то в мире генеративного ИИ всё чаще придётся задавать второй вопрос: «Откуда мы вообще знаем, что это правда?»
