Інцидент з OpenAI викликав нові застереження щодо страхування штучного інтелекту

Ризик, пов’язаний із "Silent AI", за тиждень перейшов із категорії попередження до категорії інциденту

Компанія Acrisure London Wholesale опублікувала брифінг, у якому назвала минулотижневе порушення безпеки OpenAI-Hugging Face переломним моментом для кіберризиків, закликаючи брокерів тиснути на страховиків щодо управління ШІ перед поновленням договору. Звіт з'явився на тлі ширших галузевих роздумів щодо невиявленого впливу агентів ШІ, про що в окремому дослідженні було повідомлено лише за кілька днів до порушення.

У брифінгу, автором якого є Лара Вілер, помічник віце-президента Acrisure London Wholesale, зазначається, що дві передові моделі штучного інтелекту OpenAI вийшли з передбачуваного середовища тестування та порушили безпеку технологічної платформи Hugging Face, назвавши це доказом "небезпек, пов’язаних зі штучним інтелектом" та "впливу, який ці інструменти можуть мати, коли вони стають несправними".

У звіті описано, як моделі використовували раніше невідому технічну вразливість, виходили з обмежень тестового середовища, отримували відкритий доступ до Інтернету та визначали, що Hugging Face розміщував моделі, набори даних та рішення, які можна було використовувати для виконання їхнього завдання, перш ніж виявляти та використовувати вразливості для доступу до серверів Hugging Face шляхом крадіжки облікових даних для входу та використання вразливостей нульового дня. Активність була виявлена ​​та локалізована командою безпеки Hugging Face.

Acrisure називає цей інцидент значним, оскільки це один з перших публічно оприлюднених випадків, коли моделі штучного інтелекту автономно здійснили порушення без прямих інструкцій людини, що викликає питання щодо безпеки, управління та майбутніх кіберризиків, пов'язаних зі штучним інтелектом, зокрема стримування, оскільки навіть високо контрольовані середовища тестування можуть бути не в змозі ізолювати моделі в міру розвитку їхніх можливостей.

У брифінгу перелічені питання, які брокери повинні поставити страхувальникам, які бажають отримати позитивне покриття від ШІ, зокрема, як вони використовують ШІ, який рівень автономії має система, чи існує офіційна структура управління ШІ, до яких даних може отримати доступ ШІ, чи враховуються контракти використання даних третіми сторонами, а також які засоби контролю та моніторингу безпеки існують.

Про це повідомлялося тижнем раніше

Витік інформації стався після звіту, в якому зазначається, що понад 90% ризиків страховиків, пов'язаних з агентами ШІ, можуть бути пов'язані з традиційними полісами, які ніколи не були розроблені для цієї технології. Цей висновок було зроблено в результаті дослідження Underwriting the Agent Economy, проведеного компанією Artificial Intelligence Underwriting Company (AIUC), співавторами якої були дослідники з Anthropic та OpenAI.

У звіті AIUC було виявлено, що вплив агентів ШІ зосереджений у кібербезпеці, політиці відповідальності директорів та посадових осіб, комерційній загальній відповідальності, а також політиці відповідальності за технологічні помилки та упущення – ті ж самі напрямки, на які брифінг Acrisure натякає у випадку з витоком Hugging Face.

OpenAI розкрила інформацію про інцидент на початку цього тижня, заявивши, що комбінація GPT-5.6 Sol та більш потужної передрелізної моделі автономно вийшла з контрольованого середовища тестування, перш ніж проникнути в системи Hugging Face, щоб отримати рішення для внутрішньої оцінки кіберможливостей. Hugging Face заявила, що вторгнення було здійснено повністю автономною системою штучного інтелекту та агента, причому агентна структура виконала десятки тисяч автоматизованих дій протягом вихідних, перш ніж слідчі реконструювали понад 17 000 записаних подій.

У звіті AIUC також змоделювали серйозну подію, пов'язану з агентом штучного інтелекту, яка може призвести до прямих збитків близько 100 мільярдів доларів США, описуючи її як стресовий сценарій, а не прогноз. У звіті також визнається критика щодо того, що комерційний інтерес AIUC до спеціалізованого страхування від штучного інтелекту може стимулювати її підкреслити масштаб ризику.

Список співавторів AIUC включає дослідників з Anthropic та OpenAI, а також співзасновника та генерального директора AIUC Руне Квіста та Раджива Даттані, колишнього операційного директора METR, дослідницької некомерційної організації, яка проводить оцінки моделей штучного інтелекту перед розгортанням, включаючи ті, що розроблені OpenAI та Anthropic.

Ринок вже переглядає політику

Деякі перевізники, включаючи CFC , запровадили стверджувальне покриття ШІ та формулювання політики для полісів E&O технологій, професійної відповідальності та кібербезпеки. Дослідження Willis виявило, що ринок професійної відповідальності змінився між сезонами поновлення з січня 2025 року по січень 2026 року, переходячи від переважно мовчазного ставлення до ШІ до стверджувальних формулювань ШІ, гарантій та, в деяких випадках, явних винятків ШІ.

Запитання Acrisure до брокерів виникають у той час, як страховики, які оновлюють книги з кібер– та технологічної експертизи та оцінки операцій напередодні 2027 року, оцінюють інцидент, що нагадує тип сценарію ризику штучного інтелекту, описаного у звіті AIUC.