Пояснення роботи штучного інтелекту стає ключовим чинником при розгляді страхових випадків

У сфері страхових претензій пояснюваність штучного інтелекту перетворилася з технічної проблеми на бізнес-необхідність для забезпечення належного управління, дотримання нормативних вимог та довіри.

У нещодавньому інтерв'ю Стів Хаскер, головний виконавчий директор Thomson Reuters, заявив, що у фідуціарних професіях, таких як юриспруденція, оподаткування, аудит та комплаєнс, важлива не лише швидкість, а й те, чи є результат авторитетним, простежуваним та відповідає професійним стандартам. Те саме стосується і страхових претензій.

Деякий час значна частина розмов навколо ШІ зосереджувалася на ефективності. Чи може він допомогти страховикам швидше обробляти страхові виплати? Чи може він зменшити ручну роботу? Чи може він покращити узгодженість? Це все ще важливі питання. Але вони вже не єдині, що мають значення. Складніше питання зараз полягає в тому, чи можна зрозуміти, захистити та довіряти рішенням, які допомагає формувати ШІ.

Це ще важливіше у випадках позовів, де рішення рідко є остаточним на момент його прийняття. Його може поставити під сумнів страхувальник, перевірити регуляторні органи, переглянути під час аудиту або оскаржити в суді. Під такою перевіркою система не може просто дати відповідь. Вона також повинна чітко пояснити, як вона дійшла такого висновку.

Ось чому пояснимість перейшла від суто технічного питання до бізнес-вимоги. Пояснимість тепер знаходиться в центрі управління, відповідності та довіри клієнтів. Ширший ринок також виходить за рамки початкового захоплення тим, що ШІ може робити в теорії, і переходить до більш практичного питання: що потрібно для його відповідального використання в реальних операціях? Нещодавній звіт Gartner вказує на ту саму тенденцію, виділяючи управління, готовність до даних та операційну дисципліну як фактори, що відрізнятимуть раннє захоплення від тривалої цінності.

У твердженнях саме пояснювальність є тим місцем, де цей зсув стає реальним.

Штучний інтелект не змінює відповідальність страховика

Штучний інтелект може змінювати спосіб виконання роботи, але він не змінює основних зобов'язань страховика. Закони про відшкодування збитків, захист прав споживачів та стандарти справедливого ставлення все ще застосовуються, незалежно від того, чи рішення приймає особа, модель чи сторонній постачальник. Якщо претензію відхилено, затримано, передано на розгляд або позначено як можливе шахрайство, страховик все ще несе відповідальність за пояснення причин.

Це стає ще важливішим, оскільки регуляторні органи приділяють більше уваги тому, як штучний інтелект використовується у страхуванні. У Європі Закон ЄС про штучний інтелект підвищує планку прозорості, пояснень та людського контролю у високоризикованих випадках використання штучного інтелекту. У Сполучених Штатах регуляторна картина менш однорідна, але напрямок схожий: від страховиків все частіше очікується, що вони продемонструють, що рішення, що приймаються на основі штучного інтелекту, є справедливими, підзвітними та підлягають нагляду.

Для керівників відділу страхових випадків висновок простий. Питання вже не в тому, чи дозволено використовувати штучний інтелект у страхових випадках. Питання в тому, чи може страхова компанія підтримати рішення, які вона допомагає приймати.

Справжній розрив не в тому, хто використовує ШІ

У страхуванні майна та від нещасних випадків привабливість штучного інтелекту легко зрозуміти. Страхові компанії хочуть покращити узгодженість, зменшити витрати на обробку та допомогти фахівцям з врегулювання страхових випадків керувати зростаючою складністю. За умови розумного використання штучний інтелект може підтримувати всі ці цілі.

Але справжній розрив у претензіях більше не полягає між страховиками, які використовують штучний інтелект, і страховиками, які його не використовують. Він полягає між системами, які генерують результати, і системами, які генерують рішення, які бізнес може фактично пояснити та захистити. Ця різниця важлива, оскільки рішення, прийняте сьогодні, може бути використане через місяці чи роки у скарзі, аудиті чи судовому процесі. Рекомендація, яка виглядає ефективною в даний момент, може стати серйозною проблемою пізніше, якщо ніхто не зможе чітко пояснити, чому вона була прийнята.

Саме тут нейронні мережі типу "чорний ящик" починають створювати труднощі. Моделі, побудовані для швидкості та прогнозування, можуть добре працювати в тестуванні, але якщо їхнє розуміння неможливо зрозуміти простими словами, кожна подальша перевірка стає складнішою. ​​Команди з розгляду претензій намагаються відтворити логіку постфактум на основі технічних результатів або пояснень постачальників. На той момент проблема вже не є лише технологічною; вона стає операційною, юридичною та репутаційною.

Чому пояснювальність не можна додати пізніше

Одна з найпоширеніших помилкових думок серед операторів полягає в тому, що питанням пояснимості можна займатися пізніше, після того, як модель вже запущена у виробництво, а її бізнес-цінність доведена. На практиці це набагато дорожче, ніж здається.

Після того, як процес подання претензій побудовано на системах, які не забезпечують легкого для зрозумілості об£рунтування, справжню прозорість важко забезпечити пізніше. Ви можете нашаровувати звіти, писати резюме за допомогою LLM або використовувати такі інструменти, як значення SHAP, щоб припустити, які фактори могли вплинути на результат, але це все одно лише приблизні оцінки. Це не те саме, що бачити шлях до рішення з самого початку.

У реальному світі вартість ремонту змінюється, тактика шахрайства розвивається, і те, що вважається нормальним в одному регіоні, може не бути нормальним в іншому. Ці зміни можуть легко вплинути на систему штучного інтелекту, що працює як чорний ящик, і проблему часто важко помітити, доки не буде завдано реальної шкоди. На той час вона може проявлятися як зростання скарг клієнтів або як питання від регулятора щодо того, чому подібні претензії розглядаються по-різному.

У звіті Gartner висловлюється та сама думка в ширшому сенсі. Компанії, які найімовірніше отримають довгострокову цінність від штучного інтелекту, – це ті, хто будує навколо нього правильну структуру: якісні дані, чітку підзвітність та засоби контролю, що залишаються надійними з часом. У заявах пояснювальність є частиною цієї структури. Це не те, що можна додати пізніше. Вона має бути присутня з самого початку.

Проблема часто починається з даних

Про пояснимість часто говорять так, ніби вона існує лише всередині моделі. Насправді вона так само залежить від даних, що надходять до системи.

Система подання претензій не може створювати достовірні міркування, якщо базові дані є неповними, погано структурованими, слабо керованими або відірваними від ринку, на якому вони використовуються. Якщо вхідні дані недосконалі, пояснення може здаватися відшліфованим, водночас приховуючи справжню проблему. Перевізник може вважати, що має добре контрольовану систему, але якщо дані про претензії значно відрізняються залежно від географічних регіонів, мереж ремонту, практики документування або типів полісів, система все одно може призводити до нестабільних або несправедливих результатів.

Пояснення допомагає виявити ці проблеми. Це дає бізнесу спосіб виявити, коли модель занадто сильно спирається на неправильні сигнали, коли закономірності не відповідають місцевим умовам, або коли припущення, які мали сенс в одному середовищі, переносяться в інше, де вони більше не належать.

Це було проілюстровано на моделі шахрайства з автострахуванням, розгорнутій в одній з країн Близького Сходу. Застаріла модель постійно позначала аварії, що трапляються після півночі у вихідні, як високоризикові. Ця логіка була успадкована з навчальних даних Північної Америки та Європи, де аварії, що трапляються пізно ввечері у вихідні, часто корелюють з керуванням транспортним засобом у стані алкогольного сп'яніння. Але на ринку, де використовувалася модель, вживання алкоголю було заборонено, і сім'ї зазвичай залишалися гуляти допізна у вихідні. Сигнал був не просто слабким; він був систематично неправильним. Оскільки причини поведінки моделі не були видимими у зручний для використання спосіб, проблема залишалася непоміченою, доки не проявилася в регуляторному контролі та невдоволенні клієнтів.

Як має виглядати пояснимість на практиці

Перше питання, яке керівники тверджень повинні поставити собі щодо будь-якої системи, що впливає на результати тверджень, полягає не лише в тому, чи є вона точною. Йдеться про те, чи можуть люди, відповідальні за твердження, достатньо добре зрозуміти його об£рунтування, щоб використовувати його відповідально.

Якщо претензію затримують, передають у більш суворе русло, відхиляють або позначають як можливе шахрайство, страховий агент повинен мати змогу бачити фактори, що призводять до формулювання формулювань, які мають сенс у контексті претензії. Це може включати відсутність документів, проблеми з термінами, умови полісу, моделі поведінки або інші відповідні сигнали. Справа не в тому, щоб кожне рішення було простим. Справа в тому, що об£рунтування має бути достатньо зрозумілим, щоб бізнес міг його оцінити.

Не менш важливо, щоб страховий агент мав можливість оскаржити рекомендацію, якщо вона не відповідає фактам. Людський нагляд має значення лише тоді, коли особа, яка розглядає заяву, може зрозуміти, чому система вказує в певному напрямку, і може задокументувати об£рунтоване скасування, коли це необхідно. В іншому випадку "людський нагляд" стає не більше ніж формальністю.

Гарна пояснимість також допомагає організації з часом побачити, коли результати відхиляються, коли подібні твердження трактуються по-різному або коли сигнал, який колись здавався корисним, починає спотворювати результати. У цьому сенсі пояснимість полягає не лише у відповідях на запитання після виникнення проблеми; вона також полягає у виявленні проблем достатньо ранньо, щоб щось із ними вжити.

Практичний тест для керівників відділів врегулювання претензій

Для керівників відділів врегулювання претензій найкращий спосіб оцінити готовність системи – це поставити кілька простих запитань.

Чи можемо ми пояснити, як була створена ця рекомендація, згенерована штучним інтелектом?

Чи можемо ми відстежити дані та причини їх виникнення, не покладаючись на технічну команду для їх перебудови з нуля?

Чи можемо ми показати, що подібні заяви розглядаються послідовно?

Чи можемо ми виявити, коли поведінка моделі штучного інтелекту починає змінюватися?

Чи може регулятор не погодитися з рекомендацією, згенерованою штучним інтелектом, та пояснити свою незгоду достовірним чином?

Це не абстрактні питання управління, а радше практичні перевірки того, чи зможе модель штучного інтелекту витримати ретельну перевірку в реальному світі.

Вибір, що стоїть перед лідерами з питань страхових випадків

Керівники відділів страхових випадків зараз стикаються з набагато чіткішим вибором, ніж багато хто усвідомлює.

Питання вже не в тому, чи може штучний інтелект покращити швидкість, підтримати сортування пацієнтів або посилити виявлення шахрайства. У багатьох випадках це можливо. Справжнє питання полягає в тому, чи страховики будують ці можливості на достатньо міцному фундаменті, щоб витримати, коли рішення буде переглянуто, оскаржено або поставлено під сумнів пізніше.

Ось чому пояснювальність зараз така важлива. Це не лише запобіжний захід для команд з дотримання вимог, а й практичний зв'язок між штучним інтелектом та підзвітністю. Вона пов'язує рішення з наглядом, допомагаючи виявляти слабкі дані, приховані упередження та змінні моделі, перш ніж вони перетворяться на більші проблеми.

Ширші бізнес-розмови рухаються в тому ж напрямку. Оскільки початковий ентузіазм навколо ШІ поступається місцем більш реалістичному погляду, компанії все чіткіше розуміють, чого насправді вимагає довготривала цінність. Справжнє питання вже не лише в тому, що може робити ШІ, а в тому, чи можна йому довіряти, керувати ним та використовувати його відповідально з часом. У твердженнях саме пояснювальність стає помітною у повсякденних рішеннях.