За помилки, допущені з вини ШІ, можна буде отримати страховку

На страховому ринку Lloyd's of London запустили продукт для покриття збитків компаній, спричинених помилками штучного інтелекту.

Страховий сектор прагне отримати прибуток з побоювань щодо дорогих галюцинацій і помилок чат-ботів. Поліси, розроблені стартапом Armilla, покриють витрати на судові позови проти компанії, якщо на неї подасть до суду клієнт або інша третя сторона, яка зазнала шкоди через неефективну роботу інструменту ШІ, повідомляє Financial Times.

"Компанії поспішили впровадити ШІ для підвищення ефективності, але деякі інструменти, включно з ботами для обслуговування клієнтів, зіткнулися з незграбними і дорогими помилками. Такі помилки можуть виникати, наприклад, через недоліки, які змушують мовні моделі ШІ "галюцинувати" або вигадувати", пише видання.

Наприклад, у січні 2025 року банк Virgin Money вибачився після того, як її чат-бот на базі ШІ зробив догану клієнту за використання слова "virgin" (незайманий, невинний, – ред.), а кур'єрська група DPD 2024 року вимкнула частину свого бота для обслуговування клієнтів після того, як той вилаявся на клієнтів і назвав свого власника "найгіршою компанією з доставки у світі".

Також у 2024 році суд зобов’язав авіакомпанію Air Canada надати знижку, яку придумав її чат-бот служби підтримки клієнтів. В Armilla заявили, що збитки від продажу квитків за нижчою ціною були б покриті її страховим полісом, якби з’ясувалося, що чат-бот Air Canada спрацював гірше, ніж очікувалося.

Картхік Рамакрішнан, генеральний директор Armilla, заявив, що новий продукт може спонукати більше компаній впровадити ШІ, оскільки багатьох зупиняли побоювання, що такі інструменти, як чат-боти, вийдуть з ладу.

Помилка інструменту ШІ сама по собі не буде достатньою для ініціювання виплати за полісом Armilla. Натомість покриття набуде чинності, якщо страховик вважатиме, що ШІ показав себе нижче за початкові очікування. Наприклад, страховка Armilla може бути виплачена, якщо чат-бот буде надавати клієнтам або співробітникам правильну інформацію тільки у 85% випадків, тоді як спочатку він робив це у 95% випадків, заявили в компанії.

"Ми оцінюємо модель ШІ, оцінюємо ймовірність її деградації, а потім компенсуємо її, якщо модель деградує", – сказав Рамакрішнан.