Основне питання щодо штучного інтелекту у сфері страхування

Питання полягає в наступному: коли "достатньо добре"? Відповідь залежить від того, чи розглядаєте ви ШІ як математичну/наукову проблему, чи як правову/регуляторну.

Коли я вчила свою старшу доньку водити машину, моя (надмірно) нервова схильність постійно брехати призвела до того, що вона випалила: "Ти мусиш дозволити мені самій робити помилки".

Коли вона керувала моїм спортивним автомобілем звивистою провулком з вузькими смугами та без узбіччя, і коли її час від часу заносило до середини, хоча зустрічний транспорт міг раптово з'явитися над підйомом, я запевнив її, що їй насправді не дозволено робити жодних помилок.

Так, я б намагався не втручатися в справи школи, друзів, футболу тощо. Але водіння? Ні. Це було заборонено.

Хоча я радий повідомити, що у свої 32 роки вона жодного разу не потрапляла в аварію – навіть не порушувала правил дорожнього руху – коли я думаю про впровадження штучного інтелекту, мені спадає на думку напруженість, яку ми подолали. Існує фундаментальна суперечність між якомога швидшим удосконаленням ШІ – щоб якомога швидше отримати користь від нього – та правовою системою, яка притягуватиме ШІ до відповідальності за кожну заподіяну ним шкоду, незалежно від того, чи ці втрати спрямовані на довгострокову вигоду для суспільства в цілому.

Основна напруженість між статистикою та підзвітністю виходить навіть за рамки звичайних проблем, що супроводжують розвиток революційної технології. Тож перед штучним інтелектом стоїть складне питання: коли достатньо добре, достатньо добре?

Найяскравішим прикладом цієї напруженості, ймовірно, є автономні транспортні засоби, де Tesla обрала швидкісний шлях, тоді як Waymo від Google обрав обережний.

Tesla покладається лише на камери та радари як датчики у своїх автономних транспортних засобах, значною мірою тому, що вони набагато дешевші за лідар, який використовують Waymo та інші, а це означає, що Tesla може швидко впровадити те, що вона називає повністю автономним керуванням (під наглядом). (Позначка "під наглядом" стосується того факту, що, хоча водіям кажуть, що вони можуть повністю довіряти своїм автомобілям, вони юридично зобов'язані залишатися пильними та мати можливість миттєво взяти автомобіль під контроль.) Генеральний директор Ілон Маск також закликав до активного використання технології, щоб він міг зібрати якомога більше даних про проблеми, які необхідно було вирішити, перш ніж автомобілі зможуть стати повністю автономними.

У результаті автомобілі Tesla проїхали майже 13 мільярдів миль у режимі FSD, але також надходили всілякі скарги на проблеми з програмним забезпеченням, а також численні аварії та навіть смертельні випадки. Tesla здебільшого уникала юридичної відповідальності через положення дрібним шрифтом про те, що водії зберігають відповідальність за свої транспортні засоби навіть у режимі FSD. Маск заявив, що проблеми неминучі, але що в довгостроковій перспективі його швидке впровадження штучного інтелекту зменшить загальну кількість автомобільних аварій та смертельних випадків.

Хоча Маск вже десять років обіцяє, що повна автономія вже не за горами, його хвалений парк роботаксі проїхав лише 380 000 оплачених миль без водія-охоронця в автомобілі. Він та його прихильники досі стверджують, що його перевага у створенні реальних даних про водіння, заснованих на всіх камерах та радарних системах, які він має в майже 10 мільйонах Tesla на дорогах, зрештою зробить його переможцем. Але нещодавнє зниження ціни акцій Tesla пояснюється зростаючим занепокоєнням серед його інвесторів щодо його здатності виконувати свої зобов'язання після того, як стільки обіцянок ні до чого не призвели. Побачимо.

Тим часом Waymo обрала повільний підхід, використовуючи повний спектр датчиків, припускаючи, що вони проїдуть по експоненціальній кривій вартості закону Мура та стануть недорогими досить швидко. Ціни, фактично, знизили вартість лідара з приблизно 75 000 доларів за транспортний засіб до 7 500 доларів, і існують технології, які можуть знизити ціну до сотень доларів за автомобіль. Waymo обережно розгортала автомобілі, тому на дорогах у неї лише близько 4000 роботаксі, але вони набрали 200 мільйонів оплачених миль без нагляду – це більш ніж у 500 разів більше, ніж загальний пробіг Tesla. У Waymo були збої, такі як неправильне розуміння знаків, що попереджають про зони будівництва, але нічого подібного до того, з чим зіткнулася Tesla, тому Waymo на даний момент є явним лідером на ринку автономних транспортних засобів.

Розробники програмного забезпечення застосовують підхід, подібний до підходу моєї доньки: зосереджуються на швидкому навчанні, навіть якщо ця швидкість призводить до деяких помилок на цьому шляху. Однак правова система дотримується мого підходу: навіть якщо швидке навчання зменшує загальну кількість втрачених життів і загальну шкоду, що виникає протягом життєвого циклу штучного інтелекту, ті, хто його впроваджує, несуть відповідальність за кожну помилку на цьому шляху.

По суті, правова система говорить: Не кажіть мені, що ви створили модель та оптимізували її для користі суспільства в цілому. Якщо штучний інтелект завдав шкоди моїм батькам/дитині/другу, я вимагаю відповідальності.