Попередження про зростаюче використання ШІ

Це підкреслює ризик так званих галюцинацій штучного інтелекту

Страхова компанія Towergate Insurance опублікувала попередження щодо зростаючого використання штучного інтелекту в бізнесі, підкресливши ризик так званих "галюцинацій штучного інтелекту" та потенціал дезінформації, витоку даних і кібер-інцидентів, пов'язаних з ним.

Марк Рокер, керівник кібер-відділу в Towergate, зазначив, що системи штучного інтелекту не інтерпретують інформацію самостійно, а покладаються на існуючі дані для генерування відповідей. Якщо ці дані неточні або ними маніпулюють, результат може бути хибним.

"Галюцинація ШІ – це коли генератор ШІ видає відповідь, яка є абсолютно неправильною, але може виглядати правдоподібною", – сказав він. Рокер додав, що впевнений тон, який часто використовують чат-боти зі штучним інтелектом, може зробити таку дезінформацію правдоподібною.

Він зазначив, що хоча багато з цих помилок є ненавмисними, існує також потенціал для навмисного маніпулювання системами штучного інтелекту за допомогою цілеспрямованих атак. У таких випадках бізнес може бути введений в оману, змушений повірити в неправдиву інформацію та діяти на її основі.

Towergate радить організаціям обережно підходити до контенту, створеного штучним інтелектом, особливо коли він використовується для комунікації з клієнтами, публічних матеріалів або в чутливих секторах, таких як охорона здоров'я. Рокер рекомендує перевіряти інформацію, створену штучним інтелектом, за допомогою незалежних, авторитетних джерел і радить не покладатися лише на результати, отримані за допомогою генеративних інструментів.

"Людська перевірка фактів залишається вирішальною при роботі з будь-якою інформацією, наданою ШІ", – сказав він.

Компанія також висловила занепокоєння щодо безпеки даних, особливо коли бізнес-інформація вводиться в загальнодоступні інструменти штучного інтелекту. Рокер зазначив, що користувачі не завжди знають, де ці дані обробляються, як вони зберігаються і хто має до них доступ.

На додаток до внутрішніх запобіжних заходів, Тауергейт заохочує компанії розглядати кіберстрахування як частину загальної стратегії управління ризиками. На додаток до внутрішніх запобіжних заходів, Тауергейт закликає компанії розглядати кіберстрахування як частину загальної стратегії управління ризиками. "Використання штучного інтелекту для вашого бізнесу не позбавлене ризику", – сказав Рокер, додавши, що кіберстрахування може надати підтримку, якщо щось піде не так.

Наразі Towergate оцінює, як вплив ШІ може вплинути на інші види страхування, і заявляє, що працює з клієнтами, щоб допомогти виявити та управляти потенційними ризиками, пов'язаними з використанням новітніх технологій.