Хто формулює проблему при прийнятті страхових рішень із використанням штучного інтелекту?

Дебати щодо моделей управління штучним інтелектом за принципом "людина в циклі" значною мірою зосереджені на тому, хто повинен приймати рішення, проте часто трактують прийняття рішень як щось, що відбувається в кінці процесу. Структурування проблеми відбувається набагато раніше і є ключовим фактором у прийнятті рішень.

Фактично, спосіб, яким ми структуруємо проблему, має непропорційно великий вплив на те, наскільки добре ми її розуміємо, і на нашу ймовірність її вирішення. У цій статті я розгляну, чому структурування проблеми таке важливе, і чому я вважаю, що це те, чим користувачі повинні володіти у високоризикованих моделях прийняття рішень за допомогою штучного інтелекту. Страхова претензія, яку я колись вів, ілюструє цю думку.

Працюючи у страховій компанії, я успадкував позов про відшкодування великого збитку за майном, який роками то закривали, то знову відкривали. У старовинному будинку з'явилися тріщини до верхніх поверхів, і спочатку ми найняли власного підрядника для проведення ремонту. Коли тріщини з'явилися знову, ми пояснили їх рухом ґрунту, який не покривався полісом, і вказали на тріщини в інших частинах будинку, щоб підтвердити свій аргумент. Однак ми вже виконали початковий ремонт, і власники хотіли, щоб ми виправили те, що вони вважали неналежним виконанням робіт. Це вимагало б набагато значніших зусиль, ніж просто латання та ремонт. Оцінка позову паралізувалася питанням, чи виникла проблема з нашим ремонтом, чи з рухом ґрунту. Усі звіти, що були у файлі, були зосереджені на цій відмінності.

Лише коли ми відклали цю суперечку та реструктуризували проблему, ми дослідили альтернативні причини, що призвело нас до визначення того, що основною причиною були структурні зміни нерухомості, проведені задовго до її придбання власниками та приховані за пізнішим оздобленням. Ці докази вивели з глухого кута та дозволили знайти вирішення. Цей приклад показує, як структурування складних проблем може бути таким же важливим, як і прийняття самих рішень, оскільки структура визначає, як ми формулюємо проблему та що, на нашу думку, варто дослідити.

Моделі "людина в циклі" та розподіл праці

Регулятори та законодавці все частіше очікують побачити людину в процесі розробки систем штучного інтелекту. У попередній статті я наголошував на важливості розподілу праці між людиною та штучним інтелектом як принципу проектування агентних систем. Деякі випадки стосуються рішень, які мають занадто високий ризик для делегування штучному інтелекту, так само як не можна делегувати рішення члену команди, який не несе відповідальності за його результат. Однак цей розподіл має бути більш обережним, ніж бінарний поділ на те, що машина робить найкраще, і те, що людина робить найкраще. Моделі розподілу праці на основі можливостей є основою, оскільки вони прості та інтуїтивно зрозумілі, але вони можуть надмірно спрощувати проблему. Розподіл прав прийняття рішень на основі відповідальності та ризику дає страховикам чіткіше уявлення про те, хто який внесок зробив у результат.

Якщо розглянути модель, за якою користувачі приймають рішення на основі інформації, підготовленої штучним інтелектом, то розподіл праці, орієнтований на ризик, схиляється до участі людини у структуруванні проблеми, яку потрібно вирішити, а також у визначенні того, коли рішення є високоризикованим. Штучний інтелект може доповнювати прийняття рішень користувачем, збираючи та упорядковуючи дані, що базуються на структурі проблеми користувача та визначених правилах вилучення, залишаючи при цьому структурування та аналіз користувачеві. Це допомагає гарантувати, що рішення повністю належить користувачеві. Користувач залишається відповідальним, структура проблеми є прозорою, а ШІ додає ефективності та швидкості.

Важливість структури

Структурування проблеми звучить як щось, за що ми платимо консультантам, але всі ми структуруємо перцептивну інформацію, навіть якщо не усвідомлюємо, що робимо це. Досвідчені експерти з ліквідації збитків та андеррайтери роблять це щоразу, коли формують робоче уявлення про файл. Якби ми цього не робили, ми б потонули у величезному масиві даних навколо нас. Те, що ми сприймаємо – наше оточення, те, на чому ми зосереджені, навіть бізнес-проблеми, якими ми займаємося, – завжди заздалегідь сформоване. Це форма упередженого судження, і вона впливає на те, як ми інтерпретуємо дані, які сприймаємо. Передсвідома структура обмежує те, на чому ми зосереджуємося, що ми виділяємо або ігноруємо, і може обмежувати потенційні рішення, які ми бачимо як доступні.

Навмисне структурування проблеми йде далі. Воно формує спосіб організації даних таким чином, щоб найкраще вирішити певну проблему. (Деревоподібні діаграми або системні карти – це деякі основні приклади; такі структури, як матриці зростання або стратегічні ромби, є складнішими.) Ці структури слід вибирати на основі контексту, доступних даних та цілей аналізу. Вони допомагають нам бачити ті самі дані по-різному, бачити приховані зв'язки або виявляти закономірності, які не були очевидними, і вони можуть пришвидшити процес вирішення проблем та прийняття рішення.

Наприклад, одного разу я місяцями зосереджувався на складній проблемі у виробничій галузі, пов'язаній з впливом цифрових платформ на закупівлю деталей. На перший погляд, це була проблема вартості та швидкості – цифрові платформи постачання зробили закупівлі ефективнішими, а невеликі місцеві машинобудівні майстерні ледве конкурували.

Конкретні причини проблем, з якими стикалися багато малих майстерень, були для мене незрозумілими, доки я не переосмислив галузь як ринок , що виявило стосунки між машинобудівними майстернями та покупцями інженерної продукції, які почали атрофуватися, а також довіру між учасниками ринку, яка зникла.

Друга схема, аналогія з інтенсивним лісівництвом Німеччини 19-го століття, дала пояснення. Ліси, оптимізовані для ефективності, процвітали протягом покоління, а потім занепали, оскільки індустріалізовані посадки використали довгострокові поживні речовини в ґрунті, які ніхто не врахував; довіра відіграла таку ж роль у місцевому виробництві. Аналогія підкреслювала, що природні системи є надзвичайно складними, з багатьма взаємозалежними частинами, які важко ізолювати, і спроба оптимізувати такі системи може призвести до їх руйнування у спосіб, який важко передбачити. Крім того, вона проілюструвала, як спроби "зверху вниз" відновити ці ліси мали обмежений ефект, оскільки вони не враховували, як насправді працює механіка системи.

Це призвело до моєї рекомендації про те, що відновлення місцевих виробничих ринків має включати відновлення фундаментальних елементів, які дозволяли системі самокеруватися. Разом ці рамки виявили закономірності, які приховував витратний підхід, і аналіз був схвально сприйнятий як керівниками виробничих підприємств, так і старшими керівниками військових ланцюгів постачання.

Вибір структури для даних спрощує процес прийняття рішень. Це стосується як аналітики, так і оперативного вирішення проблем. Структура вводить обмеження, і ці обмеження стають основою для висновків. Кожен елемент структури – це вибір, який впливає на те, як представлені дані, і визначає діапазон правдоподібних інтерпретацій та рішень, які ми можемо приймати. З огляду на це, дозвіл штучному інтелекту структурувати проблеми для перегляду користувачем означає делегування частини рішення. Якщо проблема є рутинною, делегування цього може бути прийнятним, але у випадках з підвищеним ризиком, таких як складні рішення щодо андеррайтингу або страхових випадків, досвідчені користувачі повинні вирішувати як структуру проблеми, так і прийняття рішення. В останньому випадку можна сказати, що вони повністю відповідають за рішення.

Хіба це не просто швидка інженерія?

Можна стверджувати, що інженерія швидких дій, за допомогою якої користувачі формулюють структуру запиту, досягає того ж самого, що й структурування проблеми, як я її описав. Однак, інженерія швидких дій – це набір команд на основі мови, відкритих для інтерпретації. Модель штучного інтелекту може вводити припущення та заповнювати прогалини, які є неочікуваними та які згодом може бути важко відстежити.

Натомість, я стверджую, що нам слід дослідити інструменти, які дозволяють користувачам викладати структуру своїх міркувань, так само, як вони це роблять на дошці, разом із інструкціями, які інформують про те, як ШІ має збирати та зіставляти дані як контент у визначених рамках. Структура є більш чіткою, ніж проза, оскільки вона залишає менше місця для інтерпретації та може бути перевірена пізніше. Такий підхід дає користувачеві контроль, встановлює чіткіші вимоги до ШІ та залишає запис у файлі для аудиту рішень.

Володіння структурою

Страхова претензія, яку я навів як приклад, мала багато доказів та кваліфікованих експертів з оцінки збитків, проте на її вирішення все одно знадобилися роки, оскільки проблема була визначена занадто вузько. Структура проблеми залежить від того, що є найважливішим, а у випадках високого ризику це рішення належить користувачеві, відповідальному за результат. Вона також має бути прозорою та підлягати аудиту.

Зі зміною вимог до управління штучним інтелектом страховиків, ймовірно, запитуватимуть, що їхні люди роблять "в процесі". Звертаючи увагу не лише на те, як приймається остаточне рішення, але й на те, як структурована проблема та хто відповідає за її структурування, страховики отримають набагато сильніші позиції для реагування.