Дневной обзор · AI-аудит, кибербезопасность и капитал · 11.10.2026

Главное

Автономные атаки на промышленную инфраструктуру

Лаборатория OT компании Booz Allen Hamilton протестировала восемь сценариев автономных атак с использованием передовых моделей ИИ. Во всех восьми случаях модели достигли поставленных целей. В одном из тестов агент за несколько минут обнаружил робота в сети, определил его API, получил административный доступ, картировал зоны защиты и пределы движения, после чего переместил манипулятор.

В другом сценарии переход от компрометации периметра к действиям внутри промышленной сети управления занял чуть более 16 минут. Тестовая среда включала ПЛК, HMI, платформу SCADA, частотный преобразователь, роботизированную руку и датчики, моделируя типичное производственное предприятие. Модели не имели доступа к исходному коду или инженерной документации; перед эксплуатацией уязвимостей или действиями с физическим воздействием требовалось одобрение человека.

В тесте SCADA модель установила, что шлюз SCADA предоставляет живые соединения до аутентификации с 14 устройствами OT. Это означает, что компрометация одного устройства SCADA давала доступ к 14 другим, включая ПЛК. Booz Allen отказалась называть конкретные модели, описав их как «две новейшие фронтир-модели от ведущих поставщиков ИИ». Отчет отмечает, что OpenAI, Anthropic и Google объявили об инициативах по предоставлению владельцам критической инфраструктуры доступа к своим передовым моделям для защиты от агентных атак.

Реакция банков Кореи на ИИ-инциденты

Shinhan Bank сообщила 1 октября об утечке персональных данных примерно 25 000 клиентов, включая имена, номера телефонов и годовые доходы, в результате хакерской атаки, предположительно с использованием передовых инструментов ИИ. Аналогичные утечки или раскрытие информации о клиентах были зафиксированы в этом месяце в Hana Bank и KB Kookmin Bank.

KB Kookmin Bank планирует увеличить бюджет кибербезопасности до более чем 100 млрд вон (74 млн долларов США) в 2027 году, по сравнению с 86,07 млрд вон в 2026 году. Shinhan Bank намерена выделить рекордный бюджет на кибербезопасность, а Hana Bank планирует инвестировать десятки миллиардов вон в укрепление систем безопасности в следующем году.

Финансовая надзорная служба (FSS) идентифицировала IP-адреса в 12 странах, подозреваемых в связи с атаками с использованием ИИ, хотя местоположение некоторых адресов установить не удалось. Эти меры приняты после призыва президента Ли Чжэ Мюна провести тщательное расследование атак на выходных.

Математика и верификация: OpenAI и Китай

OpenAI опубликовала 722 математических рукописи, сгруппированные в 372 семейства результатов по примерно 20 подполям. Документы были созданы невыпущенной внутренней фронтир-моделью и размещены на GitHub при консультации с консультативной группой по математике и ИИ Института передовых исследований. Средний результат потребовал около трех часов вычислительных ресурсов, эквивалентных ChatGPT Pro. Около 300 основных результатов имеют формализации в системе Lean.

На следующий день OpenAI отозвала три рукописи из-за ошибки знака, которая обесценила аргументацию и затронула два связанных документа, а также внесла исправления в 14 других. Математики отмечают, что поскольку модель не выпущена, внешние наблюдатели не могут воспроизвести результаты. Часть сообщества критиковала скорость и масштаб выпуска, утверждая, что математические результаты требуют тщательной верификации, четких объяснений и надлежащего признания предыдущих работ.

В Пекине Шин-Тун Яу запустил Альянс лаборатории Яу по математике и искусственному интеллекту. Инициатива объединит восемь ведущих институтов с целью создания сети из более чем 1000 ученых. Альянс сосредоточится на разработке специализированных моделей ИИ для математики, генерации гипотез и формализации доказательств. Яу заявил, что за последние шесть-12 месяцев он видел, как ИИ решает задачи, с которыми математикам было трудно справиться, и отметил, что разрыв между Китаем и США в системах ИИ, способных продвигать математику и физику, «очень велик».

Регуляторные рамки и безопасность ИИ

Губернатор Калифорнии Гэвин Ньюсом подписал два законопроекта: один устанавливает «первую в стране рамку» для независимых организаций верификации (IVO), а другой создает государственный реестр аудиторов ИИ. Anthropic поддержала оба законопроекта в августе; OpenAI официально одобрила их в тот же день, когда Ньюсом подписал их в закон. Глобальный директор по связям с общественностью OpenAI Крис Лихан написал, что компания предпочитает обязательные независимые технические оценки на федеральном уровне, но при отсутствии федеральных действий «Калифорния может помочь установить правила игры». Законодатели Коннектикута и Вирджинии также приняли меры по внедрению IVO.

Президент Трамп представил добровольное одностраничное соглашение о безопасности ИИ на ланче в Белом доме. Документ подписали топ-менеджеры Anthropic, Google, Meta, OpenAI, SpaceX и Nvidia. Соглашение гласит, что «каждая компания несет ответственность за безопасную разработку своих технологий» и поощряет взаимодействие с независимыми внешними аудиторами. Профессор Брауновского университета Суреш Венкатасубраманиан назвал это «представлением попытки показать действие, тогда как на самом деле никаких действий не предпринято».

Satya Nadella заявил, что системы ИИ должны быть окружены «сильным детерминированным системным дизайном, человеческим контролем и надежными операционными процедурами». Он подчеркнул принцип наблюдаемости, включая разнообразие моделей, читаемый человеком след действий модели, непрерывное тестирование, независимый контроль и аудиторию, сдерживание и раскрытие инцидентов. Его комментарии прозвучали на фоне предупреждений Билла Гейтса, Дарио Амодеи, Сама Алтмана и Илона Маска о недостаточных протоколах безопасности ИИ.

Финансирование и инфраструктура моделей

DeepSeek приближается ко второму внешнему раунду финансирования на сумму не менее 80 млрд юаней (~12 млрд долларов), рассматривая возможность расширения до 100 млрд юаней (~15 млрд долларов). Оценка компании составляет около 500 млрд юаней (~75 млрд долларов) перед возможным IPO на Shanghai STAR Market в начале 2027 года. Среди крупнейших инвесторов — Tencent и CATL, а также Geely Auto, Monolith Management и Loyal Valley Capital. Первый раунд на 50 млрд юаней (~7,4 млрд долларов) был закрыт в июне 2026 года.

TypeSafe AI привлекла около 870 млн долларов в раунде Series A при оценке 7,5 млрд долларов под руководством Andreessen Horowitz. В раунде участвовали Sequoia Capital, DCVC и ангельские инвесторы. Менее чем через четыре недели после выхода из стелса в сентябре с seed-раундом на 40 млн долларов при оценке около 200 млн долларов. TypeSafe утверждает, что их модель Jev используется примерно третью компаний из списка Fortune 500.

Mistral запустила превью Mistral Large 4 — открытую модель с весами, имеющую 1 триллион параметров и 49 млрд активных параметров, нативную мультимодальность. Модель обучалась на 3800 GPU NVIDIA Grace Blackwell. Превью API уже доступно, веса запланированы к выпуску до конца месяца. Mistral сообщает о показателе 61,7% в DeepSWE v1.1 для задач программирования и агентных систем, а также о высшем балле среди открытых моделей вне Китая в Artificial Analysis Cyber Index.

Уязвимости в open source и рынок аудиторов

За шесть месяцев сканирования наиболее широко используемых проектов с открытым исходным кодом модели Anthropic выявили более 29 000 потенциальных уязвимостей. Пайплайн человеческой проверки, опирающийся на шесть внешних исследовательских фирм по безопасности, обработал только около 6 000. По состоянию на 2 октября внешние фирмы подтвердили 5 674 из 6 123 проверенных находок как действительные, но только 516 уязвимостей были исправлены upstream. Anthropic отправила 6 157 находок мейнтейнерам; было выдано 584 идентификаторов CVE и GitHub Security Advisory. Около 23 000 кандидатов остаются непроверенными.

Эксперты по пентестингу проверили 97 критических и высококритичных находок, произведенных ранней версией сканера в 48 проектах: 85 прошли порог для раскрытия, 11 из оставшихся 12 были реальными багами, дублирующими известные проблемы, и только одна была ложным срабатыванием. Todd Ouska, основатель wolfSSL, сообщил, что 72 из 74 отчетов, полученных его командой, были действительны, а пять стали CVE. Daniel Stenberg, основатель The cURL Project, заявил, что OSS Scanner обнаружил несколько проблем в curl, включая одну из худших уязвимостей за последние годы.

METR, некоммерческая организация, объявила о привлечении обязательств на сумму около 71 млн долларов за последние шесть месяцев, по сравнению с 13,6 млн долларов общих взносов в 2024 году. Vals AI, стартап, создающий бенчмарки для отраслевых задач ИИ, вырос с 8 до примерно 30 сотрудников и объявил о раунде финансирования на 40 млн долларов в августе. Anthropic объявила о размещении сотрудников из Faculty и специализированного ИИ-бизнеса Accenture для тестирования защитных механизмов. CEO Anthropic Дарио Амодеи заявил, что оценщики будут оснащены рабочими местами, бейджами доступа, корпоративными ноутбуками и правами «в основном сопоставимыми» с внутренними командами оценки рисков, с контрактами, дающими им «право публиковать ключевые находки».

Операционные риски и региональные события

Yandex сообщил о постепенном восстановлении доступа к своим сервисам после повреждения инфраструктуры дата-центра во Владимире в результате атаки БПЛА. Дата-центр полностью остановился; это третий объект инфраструктуры Yandex, поврежденный дрон-атаками за последние дни после аналогичных инцидентов в Рязанской и Калужской областях. Губернатор Александр Авдеев сообщил о восстановлении электроснабжения во Владимире на 80%, тогда как теплоснабжение и водоснабжение восстановлены на 100%. Две подстанции, обеспечивавшие электричеством 5000 человек, были отключены. Сервисы Alice, Поиск, Карты, Такси и Почта постепенно возвращаются в работу, хотя некоторые функции остаются недоступными.

На 3-м форуме ICT Россия–Иран, прошедшем в Москве в рамках второго Глобального цифрового форума, обсуждалось расширение сотрудничества в области ИИ и кибербезопасности. В форуме участвовали 760 делегатов из 120 стран. Заместитель министра цифрового развития России Александр Шойтов заявил о значительном потенциале для расширения двустороннего сотрудничества. Посол Ирана в России Казем Джалали подчеркнул важность стратегического сотрудничества в цифровых обменах. В декабре 2025 года ведущие технологические компании Ирана и России подписали пять меморандумов о взаимопонимании по ИИ, кибербезопасности, умному правительству, блокчейну и финтечу.

В федеральном антимонопольном иске против сети быстрого питания утверждается, что компания использует движок ценообразования на базе ИИ для установки цен на меню в США и переплаты потребителей. Представители компании отрицают использование ИИ для определения готовности индивидуальных клиентов платить, заявляя, что предоставляют франчайзи «инструменты, ресурсы, исследования и рекомендации». Экономисты Банка Англии Клэр Ломбарделли и Рупал Патель предупредили в апреле, что более совершенные технологии приводят к более частым изменениям цен и их индивидуализации, приближаясь к «идеальной ценовой дискриминации».

Наша оценка

Совокупность событий указывает на сдвиг от генерации возможностей к проблемам верификации и контроля. Способность ИИ-агентов автономно выполнять атаки на OT-инфраструктуру за минуты требует от организаций пересмотра базовых практик кибербезопасности, так как барьер входа для злоумышленников резко снижается. Одновременно разрыв между 29 000 найденных уязвимостями и 516 исправленными демонстрирует узкое место в процессе проверки, что напрямую влияет на безопасность стеков, используемых в регулируемых отраслях.

Регуляторная активность в Калифорнии и добровольные соглашения в США формируют де-факто стандарты аудита, опережая федеральное законодательство. Для компаний это означает необходимость внедрения механизмов независимой верификации (IVO) и обеспечения прозрачности действий моделей уже сейчас, чтобы соответствовать будущим требованиям. Финансирование DeepSeek и TypeSafe подтверждает концентрацию капитала на суверенных и специализированных решениях, что создает новые зависимости в цепочках поставок для покупателей в ЕС и на Ближнем Востоке.

Материал подготовлен автоматически системой на основе больших языковых моделей по открытым источникам, перечисленным ниже; это AI-генерированный контент, в нём возможны неточности — проверяйте факты по первоисточникам.

Источники