Генеративний штучний інтелект підвищує ризики кібератак

Генеративний штучний інтелект пропонує компаніям нові можливості для трансформації цілих галузей завдяки покращенню бізнес-функцій. Однак ця технологія може стати інструментом для зловмисників, які використовуватимуть її для кібератак. Такі висновки зроблені у спільному звіті компанії Guy Carpenter та аналітиків кібер іншуртеху CyberCube, які проаналізував Форіншурер та вибрав найголовніше.

Звіт досліджує, як Generative AI підвищує ризик кібератак, водночас пропонуючи інструменти для їхнього виявлення та запобігання. Основна проблема, зазначена у звіті, стосується здатності штучного інтелекту створювати більш складне поліморфне шкідливе ПЗ, яке постійно адаптується, уникаючи виявлення. Це може призводити до триваліших і більш руйнівних атак.

Покращення атакуючих векторів за допомогою штучного інтелекту збільшить ефективність і точність атак на початкових етапах кіберланцюга. Загрозливі суб’єкти зможуть атакувати більшу кількість цілей з меншими витратами, що призведе до зростання успішності атак, особливо щодо слабших організацій, і розширить масштаби кібератак

У документі також зазначено, що штучний інтелект здатен підсилити можливості зловмисників у таких аспектах, як виявлення цілей, переміщення всередині мережі, підвищення привілеїв і уникнення засобів виявлення вторгнень. Ці вдосконалення дозволять атакуючим скомпрометувати більше активів і збільшити масштаби завданої шкоди.

Такі крупні кіберінциденти, як атаки Ryuk 2018–2019 років і витік даних Equifax у 2017 році, могли б стати значно серйознішими за участю штучного інтелекту. Наприклад, якби під час витоку Equifax застосовувався штучний інтелект, він допоміг би зловмисникам знайти цінніші дані та приховати їхнє вилучення, що призвело б до ще більшого обсягу втрат та страхових виплат.

Водночас у звіті зазначається, що компанії з кіберзахисту мають низку переваг над кіберзлочинцями. Серед них – кращий доступ до даних для навчання AI-моделей і більше ресурсів для розробки захисних інструментів.

Проте не всі компанії мають ресурси або мотивацію використовувати передові технології, що може спричинити зростання частоти успішних атак на менш підготовлені організації

Великі компанії, які мають більше ресурсів і краще підготовлені, зможуть ефективніше знижувати кіберризики за допомогою штучного інтелекту. У той час як менші та менш підготовлені організації, найімовірніше, зазнаватимуть підвищеного ризику через нові методи кібератак.

У перспективі страхова галузь зіткнеться з новими викликами у вимірюванні та управлінні ризиками, пов’язаними зі штучним інтелектом.

Страховий сектор відстає від інших секторів, коли мова йде про впровадження GenAI, очікується, що ця технологія матиме вплив на численні частини галузі. Недавнє опитування показало, що учасники ринку перестрахування очікують, що АІ матиме найбільший вплив на моделювання та аналіз ризиків.

GenAI набирає обертів, оскільки компанії прагнуть значного підвищення продуктивності. Очікується, що інвестиції в GenAI зростуть на 30%, а компанії з високим рівнем зрілості GenAI очікують, що віддача від інвестицій буде втричі більшою протягом наступних трьох років порівняно з тими, хто мало або взагалі не запровадив.

Звіт виділяє чотири ключові проблеми:

• AI як загроза в ланцюзі постачання програмного забезпечення
• AI як новий інструмент кібератак
• ризики для конфіденційності даних
• загрози, пов’язані з використанням AI у системах безпеки

"Враховуючи ризики накопичення збитків через AI, важливо, щоб страхова та перестрахова галузь створили аналітичні механізми для оцінки цих ризиків, одночасно використовуючи переваги штучного інтелекту", – зазначається у звіті.

Інтеграція AI у різні сфери життя відкриває унікальні можливості для страхової галузі, щоб допомогти клієнтам підготуватися до потенційних загроз, пов’язаних із цією технологією. З розвитком АІ-технологій змінюються і тактики тих, хто хоче використати систему. Але галузь страхування далеко не випереджає, а використовує потужність штучного інтелекту, щоб дати відсіч шахраям. Аналітики компанії FRISS досліджували як штучний інтелект може допомогти страховикам у боротьбі зі страховим шахрайством.

Минули ті часи, коли страховики покладалися на власні бази та ручну перевірку договорів та виплат. Сьогодні страховики переходять у технологію збагачення даних і розширеної аналітики, оскільки це знаменує значний розвиток у виявленні страхового шахрайства. Йдеться про використання складних алгоритмів для більш ефективного аналізу документів, зображень і сторонніх даних. Це не лише пришвидшує процес, але й зменшує робоче навантаження, дозволяючи швидше обробляти справжні страхові випадки.

Однак, незважаючи на значний прогрес, шлях до вдосконалення цих технологій триває. Страховики, які впровадили ці технологічні рішення, бачать переваги. Обсяг роботи, що виконується в цих випадках, помітно зменшився, що зрештою зменшило навантаження для клієнтів, які є справжніми випадками, і зосередилося на підвищенні ймовірності захоплення зловмисників.