Ваше здоровье под колпаком: ИИ научился следить за человеком. И это может сделать нас больными

АВТОР: Сергей Соколов

Искусственный интеллект обещает избавить человечество от болезней, научиться предсказывать эпидемии и спасать жизни. Но у этой медицинской революции обнаружилась весьма неприятная побочная функция: технологии, которые собирают сведения о нашем здоровье, привычках и поведении, могут превратить человека в объект тотального наблюдения. И, как предупреждают американские врачи, само ощущение, что за тобой следят, способно стать фактором ухудшения здоровья.

Доктор ИИ выписал рецепт. А кто получил копию?

Представим вполне обычную ситуацию.

Вы установили приложение, которое следит за сном, измеряет физическую активность и напоминает о необходимости больше двигаться. Умные часы фиксируют пульс, смартфон знает, где вы бываете, поисковик запоминает, какие заболевания вас интересуют, а медицинский сервис хранит результаты анализов.

Все это делается ради вашего здоровья. Удобно, современно, практически забота с элементами научной фантастики.

Но есть одна маленькая проблема: вся эта информация существует не только в вашем телефоне и не только в медицинской карте.

Она попадает в огромные цифровые системы, где искусственный интеллект способен сопоставлять ее с другими данными, находить закономерности и делать выводы, о которых сам человек может даже не подозревать.

Например, алгоритм способен предположить, что у вас повышен риск определенного заболевания, что вы испытываете психологические трудности, что ваше поведение изменилось или что вам может потребоваться дорогостоящее лечение.

И вот тут возникает вопрос: кому принадлежат эти выводы? Кто имеет право ими пользоваться? И что произойдет, если информация, собранная для заботы о здоровье, однажды станет основанием для отказа в страховке, трудоустройстве или социальной помощи?

Именно эту проблему подняли специалисты из Гарвардской медицинской школы, Университета Джонса Хопкинса и других американских медицинских учреждений в статье, опубликованной 13 ноября в авторитетном медицинском журнале New England Journal of Medicine.

Их предупреждение звучит неожиданно: массовая цифровая слежка — это уже не только проблема свободы и неприкосновенности частной жизни. Это потенциальная проблема общественного здоровья.

Искусственный интеллект способен не просто следить за человеком. Он может создавать условия, в которых человеку становится хуже.

Болезнь под названием «за мной наблюдают»

Первый механизм воздействия довольно прост. Человек начинает жить с ощущением, что за ним постоянно наблюдают.

Психологи давно знают: продолжительное ожидание опасности и невозможность контролировать ситуацию способны поддерживать хронический стресс. Если человек предполагает, что каждое его действие фиксируется, анализируется и может быть использовано против него, он постепенно начинает менять поведение.

Не обязательно кто-то действительно сидит перед экраном и наблюдает за ним. Достаточно понимания, что цифровой след существует и неизвестно, в чьих руках он окажется завтра.

Человек начинает осторожничать, фильтровать собственные слова, избегать определенных тем и мест, контролировать даже вполне обычные действия.

Врачи называют одно из таких состояний предвосхищающим стрессом: организм реагирует не только на реальную угрозу, но и на постоянное ожидание возможных неприятностей.

Если это состояние становится хроническим, последствия могут отражаться на сне, эмоциональном состоянии и физическом самочувствии.

Получается занятная медицинская инновация: раньше человеку требовалась опасность, чтобы испытывать стресс. Теперь достаточно приложения, которое сообщает, что его данные обрабатываются.

Когда страх перед слежкой мешает лечиться

Вторая проблема гораздо серьезнее.

Люди, которые опасаются преследования или дискриминации, могут начать избегать медицинских учреждений, аптек и других социальных служб, если считают, что сведения о них попадут в государственные или коммерческие базы.

Речь прежде всего о наиболее уязвимых группах населения: мигрантах без устойчивого правового статуса, людях, опасающихся преследования из-за обращения за определенными медицинскими услугами, и тех, кто не доверяет государственным структурам.

Человек может не сообщить врачу важные сведения, отказаться от обследования, не купить необходимые лекарства или вовсе отложить обращение за помощью.

В результате система, которая должна улучшать здоровье населения, начинает действовать в обратном направлении.

Это уже не абстрактная опасность цифрового будущего. В США разгорелись судебные споры вокруг передачи медицинских данных государственных программ иммиграционным службам.

И здесь начинается самая неприятная часть истории.

От медицинской карты до карты потенциальных задержаний

В центре одного из таких сюжетов оказалась американская компания Palantir Technologies, основанная Питером Тилем.

Компания разрабатывает аналитические платформы, которые позволяют объединять огромные массивы информации из разных источников и находить связи между ними.

Среди ее клиентов — государственные структуры, в том числе американская иммиграционная служба ICE.

По сообщениям американских СМИ, инструменты Palantir используются для анализа данных, связанных с иммиграционным контролем. В частности, обсуждается система ImmigrationOS, предназначенная для объединения различных информационных массивов и поддержки работы иммиграционных органов.

Еще более тревожные сведения появились в публикации медицинского журнала The BMJ.

Согласно этому материалу, инструмент ELITE (Enhanced Leads Identification and Targeting for Enforcement) использует сведения из баз Medicaid, включая имена, фотографии и адреса, для выявления потенциальных объектов иммиграционного контроля и анализа их местонахождения.

Сообщалось также о формировании так называемых показателей уверенности — оценок вероятности того, что определенный человек находится по конкретному адресу.

Представьте себе: сведения, которые человек предоставил системе медицинской помощи, могут оказаться частью аналитической инфраструктуры совершенно другого назначения.

Конечно, здесь важно не смешивать установленные факты, журналистские сообщения и судебные обвинения. Само использование аналитической системы не означает автоматически, что каждый ее вывод точен или что конкретный человек подвергся незаконному преследованию.

Но принципиальный вопрос остается: должен ли человек опасаться, что обращение за медицинской помощью однажды обернется использованием его данных против него?

Если ответ на этот вопрос положительный, доверие к медицине начинает разрушаться.

Большой брат больше не обязан быть государством

Самое интересное в предупреждении американских врачей — изменение самой природы наблюдения.

Исторически массовая слежка чаще ассоциировалась с государственными структурами. Существовали специальные ведомства, программы сбора информации, процедуры контроля и хотя бы формальные механизмы демократического надзора.

С появлением ИИ ситуация меняется.

Теперь огромные объемы информации собираются частными компаниями: социальными сетями, поисковыми системами, разработчиками приложений, производителями носимых устройств, финансовыми сервисами и операторами цифровых платформ.

Каждая из этих организаций видит лишь часть жизни человека. Но искусственный интеллект способен объединять отдельные фрагменты в гораздо более полную картину.

Поисковый запрос сам по себе может ничего не значить. Покупка лекарства — тоже. Несколько посещений определенных мест — обычное дело. Изменение режима сна — не обязательно признак проблемы.

Но когда все эти сведения соединяются, алгоритм может обнаружить закономерность и сделать предположение о человеке, которого сам человек никогда не формулировал.

И здесь возникает принципиальное отличие от традиционной слежки.

Человеческому наблюдателю пришлось бы потратить огромное количество времени, чтобы собрать, сопоставить и проанализировать подобные сведения. ИИ делает это автоматически, непрерывно и в масштабах миллионов людей.

Более того, система может не просто описывать прошлое, но и прогнозировать вероятное будущее поведение.

Вы еще ничего не сделали, а алгоритм уже оценил, что вы, возможно, сделаете.

Добро пожаловать в мир, где презумпция невиновности рискует столкнуться с презумпцией алгоритмической подозрительности.

Ваш диагноз может повлиять на вашу зарплату

Третий риск, на который обращают внимание авторы медицинской публикации, касается не столько непосредственного наблюдения, сколько последствий использования собранных данных.

Информация о здоровье способна влиять на распределение важнейших жизненных ресурсов: медицинского страхования, жилья, работы и социальной поддержки.

Предположим, алгоритм обнаружил, что у человека повышен риск заболевания или имеются признаки хронического стресса. Сам по себе такой прогноз еще не является диагнозом. Он может оказаться ошибочным, неполным или основанным на неверной интерпретации данных.

Но если подобная оценка попадет в систему принятия решений, последствия могут оказаться вполне реальными.

Страховая компания может посчитать клиента нежелательным. Работодатель — потенциально ненадежным. Финансовая организация — рискованным заемщиком.

Это не означает, что все подобные решения уже повсеместно принимаются именно таким образом. Но техническая возможность соединить медицинские сведения с другими данными и использовать их для оценки человека уже существует.

Особенно опасно то, что алгоритмическое решение часто выглядит объективным. Ведь его принял не конкретный чиновник, который может руководствоваться предубеждениями, а компьютер, обработавший тысячи параметров.

Однако математическая формула не превращает сомнительные исходные данные в истину.

Если алгоритм обучен на неполной информации, воспроизводит социальные предрассудки или неверно интерпретирует поведение определенных групп, его ошибки могут приобрести массовый характер.

И самое неприятное: человеку бывает трудно понять, почему именно его признали неподходящим кандидатом, нежелательным клиентом или обладателем повышенного риска.

Медицинская тайна против цифровой вселенной

У этой проблемы есть еще одна юридическая сторона.

В США действует закон HIPAA, защищающий конфиденциальность определенной медицинской информации. Но его действие не распространяется автоматически на все сведения о здоровье, которые собирают потребительские приложения и технологические компании.

Например, данные фитнес-трекера, сведения о режиме сна, результаты самостоятельных измерений и выводы алгоритмов могут оказаться вне привычной системы медицинской конфиденциальности.

Это означает, что информация, которую человек считает медицинской тайной, не всегда защищена как медицинская тайна.

Подробности о действии американского законодательства можно найти в разъяснениях Центров по контролю и профилактике заболеваний США.

Некоторые американские штаты пытаются закрыть эту брешь.

Например, в штате Вашингтон принят закон My Health My Data Act, который распространяет определенные требования конфиденциальности на потребительские медицинские данные, в том числе информацию, которую можно вывести с помощью алгоритмов. Аналогичные инициативы появились в Неваде и Коннектикуте.

О законе Вашингтона подробнее рассказывает генеральная прокуратура штата.

Но единая система защиты пока отсутствует. Правила различаются от штата к штату, а наличие закона еще не означает, что все возможные способы использования информации запрещены.

Более того, летом 2026 года более двадцати генеральных прокуроров штатов обратились в суд из-за передачи данных Medicaid иммиграционным властям и их использования структурами, связанными с Palantir. Об этом сообщало NPR.

Таким образом, спор уже вышел за пределы теоретических дискуссий о будущем искусственного интеллекта.

ИИ может лечить человечество. Но кто вылечит саму систему?

Было бы несправедливо представить искусственный интеллект исключительно как угрозу.

Те же технологии способны приносить огромную пользу медицине. Анализ медицинских изображений помогает выявлять ранние признаки заболеваний. Обработка больших массивов научных данных ускоряет поиск лекарств. Системы эпидемиологического мониторинга могут обнаруживать признаки распространения инфекций раньше, чем традиционные методы.

ООН также рассматривает ИИ как перспективный инструмент для раннего обнаружения эпидемических угроз и предотвращения масштабных кризисов. Об этом говорится в материале ООН.

И здесь мы подходим к главному противоречию.

Для эффективной медицины нужны данные. Чем больше качественной информации получают исследователи, тем больше возможностей обнаруживать закономерности, совершенствовать диагностику и предупреждать заболевания.

Но чем больше информации собирается, тем выше риск ее использования не по первоначальному назначению.

Получается своеобразная дилемма цифровой медицины: чтобы лучше заботиться о человеке, системе нужно знать о нем больше. Но чем больше она знает, тем больше возможностей использовать эти сведения против него.

Авторы публикации в New England Journal of Medicine предлагают рассматривать массовую слежку с применением ИИ как новый структурный фактор здоровья — условие общественной жизни, которое влияет на распределение болезней и возможностей оставаться здоровым.

Это важное изменение подхода. Здоровье человека зависит не только от генетики, питания, экологии и качества медицинской помощи. Оно зависит также от того, в какой социальной и информационной среде он живет.

Если человек боится обращаться к врачу, опасается раскрывать медицинскую информацию и не доверяет системе, никакие самые совершенные диагностические алгоритмы не смогут полностью компенсировать этот ущерб.

Кто должен поставить диагноз искусственному интеллекту?

Американские специалисты предлагают не запрещать ИИ и не отказываться от цифровой медицины. Они призывают к более жесткой защите медицинской информации, прозрачности алгоритмов и контролю за передачей данных государственным и частным структурам.

Медицинские учреждения, по их мнению, должны активнее участвовать в обсуждении подобных технологий, поддерживать судебные разбирательства против неправомерного использования медицинских сведений и фиксировать случаи, когда страх перед слежкой заставляет пациентов отказываться от помощи.

И это совершенно разумная позиция.

Потому что вопрос уже не в том, сможет ли искусственный интеллект узнать о человеке практически все. Технически такая возможность постепенно становится реальностью.

Вопрос в том, кто получит доступ к этим знаниям и какие права будет иметь на их использование.

Можно представить будущее, в котором ИИ заранее обнаруживает заболевание, помогает подобрать лечение и предотвращает эпидемию. Но можно представить и другое будущее: в котором алгоритм оценивает каждого человека с точки зрения его полезности, надежности, медицинских рисков и потенциальных расходов на общество.

В первом случае перед нами медицинская революция. Во втором — цифровая система социального отбора.

И разница между ними заключается не в мощности процессоров и не в совершенстве нейросетей. Она заключается в правилах, которые устанавливает само общество.

Искусственный интеллект действительно может стать лучшим доктором человечества. Но для этого человечеству придется позаботиться о том, чтобы доктор не превратился в надзирателя.

Иначе однажды выяснится, что мы построили самую совершенную в истории систему наблюдения за здоровьем — и одновременно создали общество, в котором люди боятся обращаться за медицинской помощью.

По материалам американских СМИ

Автор — журналист, публицист, футуролог, исследователь последствий взаимоотношения ИИ и человека

Специально для discred.net

Надо читать