Представьте, что у вас появился собеседник, который никогда не перебивает, всегда готов выслушать, помнит, о чём вы говорили вчера, умеет объяснять сложные вещи понятным языком и без труда подстраивается под ваш стиль общения. Если вы сомневаетесь — он терпеливо разбирает аргументы. Если раздражены — не отвечает раздражением. Если вы не уверены в себе — может поддержать. Если вам хочется спорить — готов продолжать спор сколько угодно.
Звучит как идеальный собеседник.
Есть только один нюанс: он способен не просто понимать ваши слова, но и подбирать ответ так, чтобы повлиять на ваше мнение.
Именно здесь искусственный интеллект перестаёт быть исключительно инструментом поиска информации и начинает приобретать другое качество — способность убеждать.
Причём убеждать не абстрактного человека из рекламной аудитории, а конкретного пользователя, который сам рассказывает системе о своих сомнениях, интересах, предпочтениях и взглядах.
Реклама давно пытается угадать, что нам понравится. Политические консультанты давно изучают аудиторию. Психологи давно знают, что люди воспринимают одни и те же аргументы по-разному.
Но у искусственного интеллекта появляется возможность объединить эти подходы в одном разговоре. И вести его не с тысячами людей одновременно, а с каждым отдельно.
Вежливо. Последовательно. Без необходимости повышать голос.
Убеждение на персональном обслуживании
Традиционная реклама работает по принципу массового обращения. Компания показывает сообщение определённой аудитории и надеется, что часть людей заинтересуется.
Персонализированная реклама делает следующий шаг: учитывает интересы пользователя, его историю действий и вероятные предпочтения.
Разговорный ИИ способен пойти дальше. Он может не только предложить человеку определённое сообщение, но и вступить с ним в диалог, выяснить причины сомнений, подобрать аргументы и продолжать разговор, пока пользователь не изменит мнение или не прекратит общение.
В научной статье LLM-generated messages can persuade humans on policy issues, опубликованной в Nature Communications в 2025 году, исследователи провели три эксперимента с участием 4829 человек. Они обнаружили, что сообщения, созданные языковыми моделями, способны менять отношение людей к различным политическим вопросам. По эффективности такие сообщения были сопоставимы с текстами, написанными обычными людьми.
В другой работе, опубликованной в журнале Nature Human Behaviour, исследователи изучали, насколько убедительным может быть ИИ в непосредственном разговоре. В эксперименте On the conversational persuasiveness of GPT-4 участвовали 900 человек. В условиях, когда модель располагала некоторыми данными о собеседнике, она чаще оказывалась более убедительной, чем человек, с которым сравнивали её результаты.
Это ещё не означает, что ИИ способен безошибочно читать человеческую душу. Но он уже умеет использовать особенности разговора, которые делают убеждение более эффективным.
А главное — он может делать это практически без усталости.
У человеческого продавца заканчивается рабочий день. У политического консультанта — терпение. У обычного собеседника — желание в двадцатый раз объяснять одну и ту же мысль.
У ИИ всё это можно масштабировать.
Не обязательно знать ваши тайны. Достаточно ваших ответов
Для персонального воздействия не обязательно иметь доступ к медицинской карте, личной переписке или подробной биографии человека.
Иногда достаточно того, что он сам сообщает в разговоре.
Человек может рассказать, что его беспокоит, какие темы вызывают у него раздражение, чего он опасается, чему доверяет и какие аргументы считает убедительными. Даже обычный диалог способен раскрыть особенности его реакции.
Если пользователь говорит: «Меня больше всего беспокоит несправедливость», система может подобрать аргументацию вокруг справедливости.
Если он говорит: «Я не доверяю крупным корпорациям», можно попытаться представить предложение как альтернативу корпоративному контролю.
Если человек боится перемен, аргументы могут строиться вокруг стабильности.
Всё это само по себе не является манипуляцией. Хороший преподаватель тоже объясняет материал с учётом особенностей ученика. Врач старается подобрать объяснение, которое пациент поймёт. Психолог учитывает эмоциональное состояние собеседника.
Разница заключается в цели.
Адаптация может помогать человеку лучше понимать информацию. Но она же может использоваться для того, чтобы незаметно подталкивать его к заранее выбранному решению.
Именно поэтому важен не только вопрос, какие сведения знает система, но и вопрос, для чего она использует знание о человеке.
Новая асимметрия: один знает другого лучше
В обычном разговоре люди примерно понимают, с кем общаются.
Мы знаем, что собеседник может быть заинтересован в нашей покупке, поддержке определённой идеи или согласии с его позицией. Мы можем оценить его мотивы, заметить попытку давления, попросить объяснить аргумент или просто закончить разговор.
В диалоге с ИИ ситуация сложнее.
Пользователь может воспринимать систему как нейтрального помощника, который просто анализирует информацию. При этом он не всегда понимает, какие особенности его поведения учитываются, как устроены механизмы формирования ответа и почему система выбрала именно такую форму убеждения.
Возникает своеобразная асимметрия.
Человек знает, что он хочет получить от разговора. Но он не обязательно знает, как именно система пытается повлиять на него.
ИИ может быть очень убедительным, даже если пользователь не воспринимает его как источник убеждения.
В уже упомянутом исследовании о conversational persuasion обнаружилось ещё одно любопытное обстоятельство: участники, которым собеседник представлялся искусственным интеллектом, в некоторых условиях становились более восприимчивыми к его аргументам, чем те, кто считал собеседника человеком.
Одно из возможных объяснений — люди воспринимают ИИ как менее заинтересованного в споре и поэтому меньше стремятся возражать ему.
Получается необычная ситуация: мы можем доверять системе именно потому, что считаем её машиной, а не человеком с собственными интересами.
Хотя сама по себе машинная природа ещё не гарантирует ни объективности, ни беспристрастности.
Когда убеждение становится слишком эффективным
В 2026 году был опубликован Международный доклад по безопасности искусственного интеллекта, подготовленный с участием большого числа экспертов.
В нём рассматриваются экспериментальные данные о способности ИИ создавать убедительные сообщения и влиять на убеждения людей. В ряде исследований искусственный интеллект демонстрировал способность убеждать не хуже обычных людей, а иногда и превосходить их.
Однако авторы доклада подчёркивают важное ограничение: экспериментальная убедительность не равна доказанному массовому воздействию в реальной жизни.
В лабораторных условиях участники могут быть более внимательны к разговору, чем в обычной повседневности. Они могут понимать, что участвуют в эксперименте. И результаты, полученные на одной теме или аудитории, не обязательно распространяются на другие.
Но даже с этими оговорками направление развития вызывает вопросы.
В отличие от традиционного рекламного сообщения, разговорный ИИ способен реагировать на возражения пользователя, менять аргументацию и продолжать взаимодействие.
Он не просто повторяет рекламный слоган.
Он может обсуждать, почему именно этот слоган должен показаться убедительным лично вам.
Персонализация — не всегда главный механизм
Здесь важно не преувеличивать роль персональных данных.
Свежие исследования показывают, что способность ИИ убеждать может зависеть не столько от знания конкретных особенностей человека, сколько от качества и количества аргументов, которые система способна быстро подобрать.
В крупном исследовании, проведённом британским AI Security Institute совместно с международными исследовательскими группами и опубликованном в Science в 2026 году, проверялись 19 языковых моделей на 707 политических вопросах. В экспериментах участвовали более 76 тысяч человек.
Авторы обнаружили, что методы дополнительной настройки моделей и способы построения аргументов могли заметно повышать убедительность. При этом эффект персонализации оказался небольшим — менее одного процентного пункта в исследованных условиях.
Более сильным фактором была насыщенность ответа проверяемыми утверждениями и фактами. Но вместе с ростом убедительности снижалась и фактическая точность некоторых ответов.
Результаты описаны в исследовании The levers of political persuasion with conversational AI.
Это важное уточнение. Риск не обязательно заключается в том, что ИИ тайно изучит все наши слабости и нажмёт на нужную кнопку.
Иногда достаточно того, что он умеет за несколько секунд сформулировать десятки аргументов, отвечать на возражения и поддерживать разговор в удобном для себя направлении.
А человек, как известно, не всегда выигрывает спор у того, кто умеет говорить убедительно и никогда не теряет нить рассуждения.
Особенно если этот человек — не человек.
Манипуляция без грубого давления
Когда мы слышим слово «манипуляция», обычно представляем обман, шантаж, угрозы или откровенную ложь.
Но воздействие может быть гораздо тоньше.
Например, система может:
— показывать только аргументы в пользу определённого решения, не предлагая сопоставимых альтернатив;
— представлять спорный вопрос так, чтобы один вариант выглядел разумным, а другой — нелепым;
— многократно возвращаться к аргументу, который вызывает у пользователя эмоциональную реакцию;
— подстраивать тон общения, чтобы человек чувствовал себя понятым и охотнее соглашался;
— постепенно смещать разговор от нейтрального обсуждения к заранее заданному выводу.
Ни один из этих приёмов не обязательно означает злонамеренную манипуляцию. Они могут возникать как следствие задачи «сделать ответ полезным», «удержать внимание» или «помочь пользователю достичь цели».
Но если система специально оптимизируется на то, чтобы человек согласился, купил, проголосовал, пожертвовал деньги или изменил своё поведение, тогда возникает уже совсем другой вопрос.
Кто определил цель убеждения?
И кто проверяет, насколько честными были использованные средства?
От покупки до политического выбора
В коммерческой сфере персонализированный ИИ может помочь человеку подобрать подходящий товар, сравнить предложения и разобраться в характеристиках.
Но та же способность может использоваться для создания более эффективного давления на покупателя.
Система может выяснить, что человек сомневается в цене, боится упустить выгодное предложение или склонен доверять рекомендациям экспертов. И если её задача — не помочь сделать осознанный выбор, а добиться покупки, персонализация может стать инструментом эксплуатации этих особенностей.
В политике потенциальные последствия ещё серьёзнее.
В исследовании Persuading voters using human–artificial intelligence dialogues, опубликованном в Nature в декабре 2025 года, были проведены эксперименты с участниками в США, Канаде и Польше. Исследователи обнаружили, что диалоги с ИИ, выступавшим в поддержку определённых кандидатов, могли заметно менять предпочтения участников.
При этом авторы отмечали, что модели использовали факты и аргументы, но часть представленных утверждений была неточной.
Это означает, что проблема не ограничивается очевидной ложью или фальшивыми новостями.
ИИ может влиять на человека посредством правдоподобного, хорошо организованного и в целом убедительного разговора, в котором отдельные неточности трудно заметить.
Если подобные технологии будут использоваться в политических кампаниях, возникнет вопрос не только о достоверности информации, но и о прозрачности самого воздействия.
Пользователь должен понимать, когда с ним пытаются вести независимое обсуждение, а когда — убеждать его в интересах определённого участника.
Самый опасный продавец — тот, которого вы считаете советником
Обычная реклама хотя бы предупреждает нас о своей природе. Мы понимаем, что рекламодатель хочет продать товар.
С политической агитацией тоже всё более или менее ясно: она призвана убедить нас поддержать определённую позицию.
Но разговорный ИИ часто воспринимается иначе.
Пользователь может считать его советником, помощником, собеседником или источником объективной информации.
И если система одновременно выполняет функцию убеждения, но не сообщает об этом, граница между помощью и манипуляцией становится почти незаметной.
Представим, что человек обращается к ИИ с вопросом о покупке дорогостоящего продукта. Система начинает обсуждать его потребности, выясняет ограничения бюджета, сравнивает варианты, а затем настойчиво подводит к определённому бренду.
Если это независимая рекомендация, пользователь может оценивать её как совет.
Если это оплаченная коммерческая стратегия, пользователь должен знать об этом заранее.
Иначе получается, что реклама просто научилась разговаривать человеческим голосом.
Причём не обязательно голосом диктора. Она может говорить именно так, как нравится вам.
Что делать человеку?
Полностью отказаться от использования ИИ — не единственный и не самый разумный способ защиты.
Но стоит изменить отношение к нему.
Во-первых, полезно помнить, что убедительность ответа не является доказательством его правильности. Хорошо сформулированный аргумент может быть неполным, ошибочным или специально подобранным в пользу определённого вывода.
Во-вторых, можно прямо просить систему показать альтернативные позиции, привести аргументы против её собственного ответа и отделить проверяемые факты от предположений.
В-третьих, особенно важные решения не стоит принимать только на основании одного диалога. Полезно обращаться к независимым источникам, проверять сведения и сравнивать точки зрения.
И, наконец, следует понимать, что личная информация, которую мы сообщаем системе, может влиять на последующие ответы. Поэтому не стоит без необходимости раскрывать чувствительные сведения только ради того, чтобы получить более персонализированную рекомендацию.
Но индивидуальной осторожности недостаточно.
Не менее важны правила для разработчиков и платформ: прозрачность коммерческих и политических целей, ограничения на скрытое персонализированное убеждение, независимая оценка систем и возможность понять, почему пользователю был предложен именно такой ответ.
Искусственный интеллект не обязан быть манипулятором
Способность убеждать сама по себе не является злом.
ИИ может помочь человеку отказаться от опасного заблуждения, разобраться в сложном вопросе, понять аргументы другой стороны или принять более взвешенное решение.
Он может быть полезным преподавателем, консультантом и собеседником.
Но всё зависит от того, чему именно оптимизирована система: помогать человеку принимать собственные решения или добиваться того, чтобы человек принял решение, выгодное кому-то другому.
Это принципиальное различие.
В первом случае ИИ расширяет человеческую самостоятельность.
Во втором — может использовать человеческие особенности как средство достижения чужой цели.
И чем лучше система умеет адаптироваться к конкретному пользователю, тем важнее становится вопрос о том, кто задаёт направление этой адаптации.
Вежливое влияние
Возможно, самая необычная особенность искусственного интеллекта заключается в том, что потенциальное влияние не обязательно будет выглядеть как давление.
Никто не обязан повышать голос. Не нужно угрожать, спорить или требовать согласия.
Достаточно быть внимательным, последовательным, терпеливым и убедительным.
А если человек сомневается, можно продолжить разговор.
Если он устал — упростить аргумент.
Если он возражает — предложить новую формулировку.
Если он доверяет — воспользоваться этим доверием.
Всё это может происходить в рамках совершенно обычного диалога, который пользователь воспринимает как полезный и добровольный.
Именно поэтому проблема манипуляции с помощью ИИ не сводится к вопросу о том, станет ли машина лгать.
Гораздо важнее другое: сможет ли человек отличить помощь в принятии решения от попытки незаметно направить его к заранее выбранному результату.
Ведь самый эффективный способ повлиять на человека — не обязательно заставить его думать иначе.
Иногда достаточно сделать так, чтобы он был уверен: решение он принял совершенно самостоятельно.
И если однажды мы начнём доверять искусственному интеллекту не только поиск информации, но и собственные сомнения, желания и выбор, нам придётся задать простой вопрос: ИИ помогает нам думать — или постепенно учится думать за нас?
Автор — журналист, публицист, футуролог, исследователь последствий взаимоотношения ИИ и человека
Специально для discred.net
