Управління ризиками та страхування розвиваються з метою зменшення ризиків, пов'язаних із штучним інтелектом

Експерти кажуть, що компанії повинні запровадити політику управління штучним інтелектом, оскільки все більше співробітників використовують генеративний ШІ у своїй повсякденній роботі, незалежно від схвалення своїх організацій.

З появою потенційних зобов'язань, пов'язаних зі штучним інтелектом, прогалини в покритті та нові винятки можуть зробити організації вразливими до додаткових ризиків, заявили вони під час сесії минулого тижня на Чиказькому форумі ризиків, який проводиться чиказьким відділенням Товариства управління ризиками та страхуванням.

Управління штучним інтелектом може допомогти організаціям керувати так званим тіньовим використанням ШІ, коли співробітники використовують технологію, не повідомляючи своїх менеджерів чи інших співробітників компанії, сказала Донна Хаддад, заступниця головного юрисконсульта, консалтингова компанія Americas та глобальний лідер з юридичної етики ШІ в IBM у Чикаго.

"Ваші співробітники використовують його, ви просто можете не знати, як вони це роблять", – сказала вона.

Політика управління може вирішувати такі питання, як забезпечення "впливу людини" на рішення, що стосуються найму чи кредитування, наприклад, сказала пані Хаддад.

За її словами, ця політика також може вирішувати такі питання, як право власності на дані, прозорість щодо використання штучного інтелекту та запобігання використанню працівниками небажаних результатів, створених штучним інтелектом.

За словами пані Хаддад, за наявності системи управління організаціям слід оцінювати потенційні ризики, включаючи конфіденційність клієнтів.

"Ваші співробітники повинні знати, що якщо вони розмістять щось в інтернеті, це може бути перехоплено ChatGPT або будь-якою іншою технологією, яка використовується", – сказала вона.

"Ваші співробітники повинні знати, що якщо вони розмістять щось в інтернеті, це може бути перехоплено ChatGPT або будь-якою іншою технологією, яка використовується", – сказала вона.

Також за деяких обставин існує ризик підриву адвокатської таємниці, сказала пані Хаддад. "Якщо ви розміщуєте це в інтернеті, ви відмовляєтеся від таємниці".

Інші ризики включають порушення прав інтелектуальної власності, коли інструменти штучного інтелекту збирають матеріали, захищені авторським правом, та галюцинації штучного інтелекту, коли технологія створює контент, такий як вигадані справи для юридичних документів, сказала вона.

Пані Хаддад зазначила, що компанії також стикаються з ризиками, пов'язаними з використанням штучного інтелекту їхніми постачальниками, а також зі зростанням кількості компаній, що займаються штучним інтелектом, та заходами безпеки, які вони впроваджують.

"Вам дійсно потрібно провести інвентаризацію, а потім пройти повний процес перевірки", – сказала вона.

Багато існуючих комерційних страхових полісів забезпечують покриття ризиків, пов'язаних зі штучним інтелектом, сказав Кевін Калініч, керівник глобальної співпраці з нематеріальних активів у Aon у Чикаго.

"Приблизно у 85% випадків є аргументи на користь застосування страхових полісів у різних категоріях штучного інтелекту", – сказав він.

Наприклад, якщо штучний інтелект стверджує, що спонукав когось завдати собі шкоди, загальні поліси відповідальності покривають тілесні ушкодження або смерть, сказав пан Калініч.

Однак, подібно до тенденції з покриттям "мовчазного кібер" страховики рухаються до зміни формулювань полісів, щоб виключати ризики, пов'язані зі штучним інтелектом, якщо вони не покриті ствердно, сказав він.

За словами пана Калініча, кілька страховиків видали спеціальні поліси щодо штучного інтелекту, а брокери розробляють угоди про схвалення полісів для покриття ризиків, пов'язаних зі штучним інтелектом.