13 ноября американская гражданская авиация пережила один из самых масштабных сбоев последних лет. Федеральное управление гражданской авиации США (FAA) распорядилось временно приостановить вылеты по всей стране. Самолеты не могли отправляться в рейсы, аэропорты задерживали отправления, авиакомпании отменяли и переносили тысячи рейсов. Миллионы пассажиров оказались заложниками ситуации, которую еще недавно трудно было представить в стране, привыкшей считать себя мировым технологическим лидером.
Вскоре в информационном пространстве возникла сенсационная версия: машинные алгоритмы, то есть искусственный интеллект, парализовали американскую гражданскую авиацию. Тем более что незадолго до происшествия власти США объявили о внедрении новой системы управления воздушным движением с использованием ИИ. А Министерство внутренней безопасности действительно заявило, что расследование должно проверить и возможное вмешательство искусственного интеллекта.
Звучит почти как сюжет технологического триллера: машины получили доступ к критической инфраструктуре, что-то пошло не так — и крупнейшая авиационная система мира нажала на тормоз.
Но здесь есть одна существенная деталь. Официальные объяснения американских властей пока не подтверждают, что причиной происшествия стал искусственный интеллект. Более того, министр транспорта США Шон Даффи прямо заявил, что новая система SMART не была подключена к оборудованию, на котором произошел сбой. Так что прежде чем объявлять о восстании машин, стоит разобраться, что именно случилось.
Когда остановилось американское небо
По сообщениям Федерального управления гражданской авиации США, 13 ноября была введена общенациональная остановка вылетов. Причиной стали перебои в телекоммуникационных системах, обеспечивающих работу диспетчерских центров и обмен информацией, необходимой для управления воздушным движением.
Речь шла не о том, что все самолеты в воздухе получили приказ немедленно садиться. Ограничение касалось прежде всего новых вылетов. Воздушные суда, уже находившиеся в полете, продолжали движение под контролем диспетчеров и постепенно совершали посадку. По официальным данным, все они благополучно приземлились.
Министр транспорта Шон Даффи сообщил, что в момент развития кризиса в воздухе находились более 3500 самолетов. Позднее их количество сократилось до нескольких сотен. Власти подчеркивали, что безопасность полетов оставалась главным приоритетом, поэтому решение об остановке вылетов было принято, чтобы не допустить дальнейшего ухудшения ситуации.
Ограничения продолжались несколько часов. Воздушное пространство постепенно открыли, однако последствия сбоя еще долго отражались на расписании: задержки, отмены и перенаправления рейсов продолжали накапливаться. По данным Reuters, к вечеру счет отмененных рейсов шел на тысячи.
Иными словами, авиация не перестала существовать, самолеты не остались без управления, но система оказалась вынуждена остановить новые вылеты, чтобы сохранить безопасность уже выполнявшихся рейсов. Для страны с таким объемом воздушного движения это чрезвычайное событие.
Виноват ли искусственный интеллект?
Подозрения возникли не на пустом месте. Всего за несколько недель до происшествия Министерство транспорта США представило систему SMART — новую технологическую платформу, призванную помочь диспетчерским службам и руководителям авиационной отрасли эффективнее управлять воздушным движением.
Система собирает информацию примерно из 200 источников: данные о погоде, маршрутах самолетов, загруженности воздушного пространства, численности диспетчеров и других факторах. Алгоритмы анализируют поступающие сведения, выявляют потенциальные перегрузки и предлагают варианты действий. Иными словами, SMART должна помогать специалистам видеть общую картину и заранее замечать проблемы, которые трудно обнаружить, анализируя разрозненные потоки информации.
В сентябре министр транспорта объявил о запуске SMART, а 10 ноября FAA сообщило о расширении ее применения на все 22 диспетчерских центра. Через три дня произошел общенациональный сбой.
Совпадение по времени оказалось слишком выразительным, чтобы не вызвать вопросов. Если новая система использует искусственный интеллект и незадолго до аварии ее начали масштабно внедрять, не могла ли именно она вызвать нарушения?
Однако министр транспорта Даффи дал однозначный ответ: SMART не была подключена к оборудованию, в котором возникли проблемы. По его словам, система предоставляет информацию и рекомендации, а окончательные решения остаются за человеком. Она не управляет самолетами и не отдает диспетчерам обязательных команд. Министр заявил, что SMART была фактически отключена от затронутой инфраструктуры и не могла повлиять на произошедшее.
Это важное уточнение. SMART — не автономный пилот, не электронный диспетчер, которому передали управление американским небом, а аналитический инструмент для поддержки человеческих решений. Смешивать эти понятия — все равно что обвинять калькулятор в аварии электростанции только потому, что накануне руководство закупило новую партию калькуляторов.
Но и полностью отмахиваться от вопросов об ИИ не стоит. Сама идея передачи все большего числа функций алгоритмам в критически важных системах требует серьезного общественного обсуждения. Просто в данном случае пока нет оснований утверждать, что именно ИИ стал причиной авиационного кризиса.
Старое оборудование против цифровой сверхдержавы
Объяснение, которое представили американские чиновники, оказалось куда менее фантастическим, но, возможно, даже более неприятным для страны, претендующей на технологическое лидерство.
По словам Даффи, проблема возникла в телекоммуникационной инфраструктуре, от которой зависят диспетчерские центры. В системе используются устаревшие технологии передачи данных, в том числе аналоговые решения и оборудование предыдущих поколений. Современные цифровые устройства и новые потоки информации должны были работать вместе со старой инфраструктурой, но в определенный момент возникли перебои, нарушившие устойчивость связи и обмена данными.
Министр описывал ситуацию как проблему взаимодействия старого оборудования с более современными технологиями. Иными словами, цифровое будущее оказалось вынуждено опираться на инфраструктуру, которая не всегда справляется с его нагрузкой.
Здесь и обнаруживается главная ирония происшествия. США вкладывают огромные средства в искусственный интеллект, беспилотные системы, космические технологии и цифровую экономику, но надежность сложнейшей авиационной системы по-прежнему зависит от вполне прозаических вещей: исправных каналов связи, маршрутизаторов, серверов и оборудования, которое иногда давно пора заменить.
Можно создать самый совершенный алгоритм прогнозирования воздушного движения. Можно научить его анализировать сотни тысяч параметров и предлагать оптимальные маршруты. Но если в критический момент нарушается связь между диспетчерскими центрами, никакая интеллектуальная система не сможет магическим образом восстановить физически неработающую инфраструктуру.
И это не только американская проблема. Чем сложнее становится современная цивилизация, тем больше она зависит от невидимых технических связей. Электроснабжение, связь, транспорт, банковские расчеты, логистика, медицинские системы — все это образует огромную сеть взаимозависимостей. Сбой в одном звене способен вызвать последствия далеко за пределами места, где возникла первоначальная неисправность.
А если в следующий раз ошибется уже ИИ?
То, что нынешний авиационный кризис, согласно официальной версии, не был вызван искусственным интеллектом, вовсе не означает, что рисков нет. Напротив, этот случай хорошо показывает, насколько опасно бездумно смешивать старую инфраструктуру, новые технологии и сложные системы управления, не обеспечив их надежную совместимость.
Представим, что в будущем алгоритм будет не просто анализировать ситуацию и предлагать диспетчеру решение, а получит больше полномочий. Он сможет автоматически перераспределять потоки самолетов, менять маршруты, регулировать загрузку аэропортов и принимать решения без немедленного подтверждения человека. Это может сделать авиацию эффективнее, уменьшить задержки и повысить безопасность. Но одновременно возрастет цена ошибки.
Алгоритм способен неверно интерпретировать данные, получить неполную информацию, столкнуться с непредвиденным сочетанием обстоятельств или принять решение, которое выглядит оптимальным математически, но оказывается опасным в реальной ситуации. А если несколько взаимосвязанных систем начнут опираться на одну и ту же ошибочную информацию, последствия могут распространиться очень быстро.
Особенно опасна не столько сама ошибка ИИ, сколько ситуация, когда люди перестают понимать, почему система приняла то или иное решение. Человек формально остается ответственным, но фактически уже не способен самостоятельно проверить все вычисления, прогнозы и рекомендации машины.
Поэтому вопрос должен звучать не так: «Заменит ли искусственный интеллект авиадиспетчеров?» Гораздо важнее другое: кто будет контролировать алгоритмы, кто сможет остановить их работу, кто проверит исходные данные и кто ответит за последствия, если автоматизированная система ошибется?
Пока SMART, по официальному описанию, остается помощником специалистов, а не самостоятельным управляющим. Но направление развития очевидно: все больше решений будет приниматься при участии алгоритмов. И чем больше полномочий им передают, тем важнее сохранять возможность человеческого контроля, независимой проверки и безопасного перехода на резервные системы.
Что на самом деле показал американский авиационный кризис
Министр внутренней безопасности США Марквейн Маллин заявил, что расследование должно рассмотреть различные версии, включая возможное внешнее вмешательство. Однако на момент первых официальных комментариев власти не располагали доказательствами кибератаки или вмешательства искусственного интеллекта. Министры подчеркивали, что расследование продолжается, а окончательные выводы делать преждевременно.
Таким образом, на сегодняшний день необходимо разделять три вещи. Первое: общенациональная остановка вылетов действительно произошла. Второе: американская авиационная система действительно пережила серьезный телекоммуникационный сбой, связанный, по предварительным объяснениям властей, с проблемами инфраструктуры. Третье: версия о том, что причиной стал искусственный интеллект, официально не подтверждена и прямо опровергается министром транспорта применительно к системе SMART.
Это не отменяет необходимости расследования. Предстоит выяснить, где именно возникла неисправность, почему резервные механизмы не позволили избежать масштабных последствий и насколько надежно модернизируется инфраструктура, от которой зависит безопасность полетов. До появления окончательного технического отчета любые категоричные версии — будь то «виноват ИИ», «виноват Китай» или «виноваты старые маршрутизаторы» — останутся предположениями.
Но даже без сенсационных версий происшествие получилось весьма поучительным. Оно показало, что технологическое лидерство измеряется не количеством презентаций об искусственном интеллекте и не числом запущенных цифровых платформ. Оно измеряется способностью всей системы работать в сложных условиях, выдерживать сбои и восстанавливаться без угрозы для людей.
Америка не оказалась во власти восставших алгоритмов. По крайней мере, пока. Но страна, которая собирается доверить искусственному интеллекту все больше функций управления, обнаружила, что ее собственное технологическое настоящее еще не везде догнало ее цифровое будущее.
И, пожалуй, это главный урок ноябрьского происшествия: прежде чем поручать машинам управление небом, неплохо бы убедиться, что на земле исправно работают провода, по которым к ним поступают команды и данные.
Костантин Трофимов, Сергей Соколов
Специально для discred.net
