Розвінчання міфу про генеративний ШІ №3: проблеми зі страхуванням GenAI

Організації будь-якого розміру, що працюють практично в усіх галузях, вивчають, як оптимізувати технологію генеративного ШІ для досягнення бізнес-цілей, зокрема для підвищення операційної ефективності, рівня задоволеності клієнтів і розробки нових продуктів і послуг. Щоб стабільно отримувати вигоду з потенційних переваг генеративного ШІ, компанії повинні знати про потенційні недоліки і бути готовими до них.

У Marsh ми допомагаємо організаціям з різних галузей розуміти, вимірювати та управляти ризиками, пов'язаними з генеративним ШІ. Роблячи це, ми допомагаємо керівникам, відповідальним за управління ризиками, та вищому керівництву розвіяти три поширені міфи. По-перше, ми з'ясували, хто у вашій компанії "відповідає" за ризики, пов'язані з генеративним ШІ. Потім ми розглянули ризики, пов'язані з генеративним ШІ, за межами кібер– та технологічних ризиків.

У цій статті, третій у міні-серії з трьох частин, ми продовжимо дослідження:

Міф 3: Генеративний ШІ – це технологія, що розвивається, і тому повинна вимагати нових, окремих полісів страхування ШІ.

Існує тенденція вважати, що нові технології приносять нові та/або нові ризики – і іноді це дійсно так; наприклад, інтернет породив новий клас кібер-ризиків, пов'язаних з розвитком електронної комерції. Але поки що це не стосується генеративного ШІ.

Виходячи з проведеного Маршем обширного аналізу, генеративний ШІ не створив абсолютно нового класу ризиків. Скоріше, ризики, пов'язані з генеративним ШІ, є продовженням існуючих, звичних ризиків і можуть діяти як їхній підсилювач. Наприклад:

• Конфіденційність і безпека даних були предметом занепокоєння протягом десятиліть і можуть бути посилені системами генеративного ШІ, оскільки вони покладаються на величезні обсяги навчальних даних, які можуть містити комерційну та конфіденційну інформацію.
• Зловживання технологіями для створення шкідливого контенту вже давно асоціюється з платформами соціальних мереж, і може бути посилене системами генеративного ШІ, які можуть створювати і поширювати нову дезінформацію в набагато більших масштабах, ніж це може зробити будь-яка людина.
• Потенційне порушення прав інтелектуальної власності в результаті генерації контенту є звичним історичним ризиком у багатьох галузях, який може посилитися, про що свідчать безпрецедентні питання про те, чи законно навчати системи генеративного ШІ на даних, захищених інтелектуальною власністю, без відповідного на те дозволу.
• Технологічні помилки існують з моменту появи технологій, і вони можуть посилитися в контексті генеративного ШІ, який за своєю суттю супроводжується галюцинаціями.

Деякі страховики почали впроваджувати специфічні для ШІ застереження та продукти у відповідь на швидке впровадження генеративного ШІ з кінця листопада 2022 року. Багато з цих нових рішень відносяться до "штучного інтелекту" загалом, проте штучний інтелект – це широка, різноманітна галузь технологій, яка існує з 1950-х років. Дійсно, багато організацій вже багато років використовують штучний інтелект, заснований на ML, у своїх бізнес-операціях.

Наприклад, банки використовують ML у моделюванні ризиків та виявленні шахрайства вже більше десяти років, а платформи електронної комерції використовують його для персоналізованих рекомендацій та оптимізації ланцюгів поставок також протягом десятиліть. Чи означає нещодавнє використання генеративного ШІ в таких банках і ритейлерах, що вони не зможуть отримати вигоду від покриття в рамках їхньої існуючої політики E&O? Чи вважається порушення конфіденційності даних, пов'язане з генеративним ШІ або іншою формою ШІ, що більше не є порушенням конфіденційності даних? Чи тілесні ушкодження, пов'язані з генеративним ШІ, більше не є тілесними ушкодженнями?

Винятки та охоплення генеративного ШІ

Марш вважає, що індустрія виграє, якщо не запроваджуватиме винятки, які мають на меті вилучити основне охоплення галузі, до якої вони належать, якщо генеративний ШІ є частиною причинно-наслідкового зв'язку зі збитками. Існують численні винятки, які не стосуються конкретно ШІ, але продовжують застосовуватися до генеративних ризиків, пов'язаних зі штучним інтелектом. Наприклад:

Кібервиключення поширилися практично на всі види страхування і можуть виключати кіберподії як причину збитків або використання комп'ютера "як засобу для заподіяння шкоди".

• Винятки щодо доступу та розкриття інформації в загальних положеннях про відповідальність можуть обмежувати або скасовувати покриття особистої та рекламної шкоди, включаючи, наприклад, наклеп, наклеп, дифамацію та втручання в приватне життя.
• Винятки, пов'язані з регулюванням конфіденційності, включно із Законом про біометричну конфіденційну інформацію (BIPA), Каліфорнійським законом про конфіденційність споживачів (CCPA), Законом про боротьбу зі спамом (CAN-SPAM Act), а також з відстеженням пікселів, є поширеними в багатьох положеннях про відповідальність.
• Винятки щодо професійних послуг у деяких полісах загальної відповідальності мають на меті обмежити або виключити позови щодо тілесних ушкоджень, майнової шкоди, шкоди, заподіяної рекламі, або особистої шкоди, що виникають внаслідок "професійних послуг", які часто не визначені.
• Інші винятки, такі як ті, що стосуються дій уряду, навмисного шахрайства або обману, продовжуватимуть застосовуватися в багатьох сферах.

Ці існуючі винятки продовжують застосовуватися в контексті генеративного ШІ, і їх слід розглянути, а також визначити, яка додаткова інформація необхідна для страхування, ще до того, як розглядати питання про введення нових формулювань, що виключають страхування.

Відповідне покриття, яке може реагувати на ризики, пов'язані з генеративним ШІ, як і раніше, повинно залежати від фактів кожної конкретної претензії або потенційної претензії та застосовної політики. Це повинно включати, але не обмежуватися впливом збитку, типом збитку, що відшкодовується, і сторонами, причетними до збитку – з урахуванням застосовних винятків.

Страхова індустрія задається питанням, чи потрібно створювати нові страхові поліси у відповідь майже на кожну нову хвилю технологій, включаючи хмарні технології, автономні транспортні засоби та не взаємозамінні токени. Замість того, щоб починати з нових продуктів, Марш вважає, що страхова індустрія повинна почати з відкритих питань, таких як

1. Що ми знаємо і чого ще не знаємо про вплив цієї технології на відповідні види страхування?
2. Як ми можемо кількісно оцінити відповідні ризики за відсутності історичних даних про збитки?
3. Чи потрібно нам оновлювати наші методології оцінки ризиків і ціноутворення?

Ризики, пов'язані з генеруванням ШІ, з часом можуть потребувати окремого обліку. Ми розуміємо, що обмеженість даних про збитки може ускладнити можливість точного андеррайтингу та ціноутворення на певні ризики, враховуючи відносно нову технологію. Проте, оскільки генеративний ШІ в його нинішньому вигляді, як правило, представляє нюанси в рамках існуючих і звичних видів страхування, будь-яке посилення відповідних ризиків повинно бути застраховане і оцінене в рамках існуючих видів страхування, де це можливо.

Ця ситуація не є унікальною для генеративного ШІ. Страхова індустрія багато разів стикалася з подібними викликами і буде стикатися з ними з кожним новим технологічним розвитком. Досі страхова індустрія послідовно вирішувала завдання допомогти організаціям передавати ризики і підвищувати стійкість за допомогою нових технологій – від Інтернету і хмарних технологій до блокчейну і цифрових активів.

Висновок

Генеративний ШІ – це остання, але не остання нова технологія, яка створює проблеми у сфері ризиків та страхування. Коли організації впроваджують генеративний ШІ, їхнім керівникам важливо розуміти не лише потенційні переваги, але й можливі ризики, а також бути обізнаними щодо хибних уявлень – міфів, які можуть виникнути навколо нього.

А оскільки технологічний ландшафт продовжує розвиватися, можуть з'явитися нові класи ризиків. Технології генеративного ШІ з'являються не у вакуумі – паралельно ми спостерігаємо прогрес у багатьох інших нових технологіях, серед яких агентний ШІ, гуманоїдний ШІ, квантові обчислення, технології інтерфейсу "людина-мозок" та інші. Нові технології неминуче продовжуватимуть з'являтися, і іноді вони можуть створювати нові ризики. Разом з технологічним ландшафтом, що розвивається, страхова індустрія продовжуватиме відігравати ключову, провідну роль, допомагаючи організаціям передавати ризики та підвищувати стійкість, пов'язані з генеративним ШІ та іншими новими технологіями, розробляючи нові політики, необхідні для усунення прогалин у матеріальному покритті для наших клієнтів.

Щоб дізнатися більше про те, як фахівець Marsh може допомогти вашій компанії орієнтуватися в генеративному ШІ, його ризиках і можливостях, будь ласка, зв'яжіться з нами тут.