Всё упало, и это «новая норма»: как ИИ приучает мир жить с отключениями

АВТОР: Сергей Сорокин

Банки, авиадиспетчеры, Microsoft, Apple и даже АНБ: неделя в Америке выдалась тяжёлой для всего, что работает на софте. Разбираемся, виноват ли искусственный интеллект, при чём тут хакеры и почему эксперты советуют привыкать.

Что случилось

На этой неделе в США посыпались сбои. По подсчётам The Week, за последние дни пострадали Microsoft, Apple, крупные банки, Федеральное управление гражданской авиации и Агентство национальной безопасности, причём список продолжал расти. POLITICO связывает это с тем, что ИИ всё легче находит уязвимости в программном обеспечении. Компании и госструктуры спешно их закрывают, а ресурсов и времени на это становится меньше.

Звучит как сюжет из антиутопии, но эксперты описывают всё довольно прозаично. Нашли дыру, надо срочно латать, обновление вышло в спешке, и что-то ломается. Financial Times, как пересказывает Political Wire, писала, что сбои в США объясняют спешкой с исправлением багов, найденных ИИ.

«Это только начало»

Хельмут Рейзингер, европейский глава кибербезопасной компании Palo Alto Networks, назвал происходящее «новой нормой» и заметил, что мы находимся лишь в начале этого периода. Энн Нойбергер, бывший заместитель советника по нацбезопасности при Байдене, высказалась ещё лаконичнее: объём найденных уязвимостей «принципиально изменился».

Логика простая. Раньше на поиск ошибки в коде уходили недели у людей-специалистов. Теперь модели ищут быстрее и дешевле, а исправлять по-прежнему приходится людям. Защитники, по тем же данным, предупреждают, что часть проблем может решаться годами. Компании, в свою очередь, не успевают переучивать специалистов по кибербезопасности, потому что нужные навыки меняются на ходу.

Хакеры или не хакеры

Главный вопрос недели: это кибератака?

Официальная позиция выглядит так. Министр внутренней безопасности Маркуэйн Маллин заявил комитету Палаты представителей, что на 98 процентов уверен, что сбои не связаны с действиями противников. Директор национальной разведки Джей Клейтон добавил, что причиной стали исправление новых уязвимостей и плановое обновление устаревших федеральных систем.

Здесь есть любопытная деталь. По данным World Today Journal, руководитель аппарата Белого дома Стивен Миллер убрал Маллина из телеэфиров после того, как тот допустил связь сбоев с ИИ. Публичными лицами реагирования назначили Марко Рубио и Клейтона. Представитель Белого дома объяснил это тем, что администрация сумела выстроить согласованный ответ даже за границей. Причины перестановки изложены со слов издания и источников, так что стоит относиться к ним как к версии.

Версия «просто совпадение» тоже существует. The Week пишет, что кластер сбоев, вероятно, «комковатое совпадение», но в будущем такие истории станут рутиной. Эксперт Dataminr Джо Словик замечает, что общество слишком зависит от «шаткой инфраструктуры». А колумнист Fox News Чак Девор оговаривается: на этой неделе атаки не было, но следующий сбой вполне может ею оказаться.

Что делают власти

В Конгрессе реагируют законодательно. Республиканец Морган Латтрелл и демократ Ричи Торрес внесли законопроект ROOT Cause Act. Он предполагает создать при CISA Национальный совет по расследованию киберинцидентов и инцидентов с ИИ, который будет оценивать серьёзные сбои и давать рекомендации по их предотвращению. Редкий случай, когда обе партии пишут один документ.

Последствия ощущаются и вживую: по данным The Bulwark, АНБ растянуло время прихода сотрудников в штаб-квартиру в Мэриленде, чтобы разгрузить закрытые сети связи. Издание также отмечает, что серьёзных утечек и взломов за это время не зафиксировано, по крайней мере пока.

Оптимисты и скептики

Оптимисты видят в этом даже плюс. Один из собеседников POLITICO надеется, что системы станут заметно безопаснее, потому что их вынуждают обновляться. Это вполне рабочая логика: принудительная чистка технического долга болезненна, но полезна.

Скептики напоминают две вещи. Во-первых, те же инструменты доступны и злоумышленникам, и есть опасения, что ИИ облегчит им вывод из строя важных сервисов. Во-вторых, пока причинно-следственные связи между отдельными сбоями не доказаны, а часть версий, как пишет The Week, остаётся «недоказанными теориями».

Что из этого следует

Нельзя утверждать, что ИИ «ломает интернет». Но и считать неделю случайностью было бы поспешно. Куда честнее такая формулировка: ИИ ускорил поиск уязвимостей, и принудительная срочная починка создаёт новые риски. Мир, где отключения от латания дыр случаются чаще, придётся принимать как рабочую данность.

Если коротко: раньше сервис «падал по техническим причинам», теперь он может «упасть, потому что его срочно чинили, пока нейросеть не нашла следующую дыру». Утешает одно: пока что это действительно скорее неудобство, чем катастрофа.

По материалам американских СМИ


Авторы — Сергей Сорокин, Константин Трофимов, Сергей Соколов

Специально для discred.net

Надо читать