За даними аналітичного звіту Gartner, інвестиції в ефективне управління ризиками сторонніх сервісів та ПЗ, посилення захисту ідентифікаційних даних та постійний моніторинг гібридних цифрових середовищ можуть захистити організацію від атак та зміцнити її стійкість.

Gartner також очікує, що керівники служб ІТ-безпеки покращать продуктивність функції безпеки за рахунок використання GenAI у проактивній співпраці із зацікавленими сторонами бізнесу. Це допоможе закласти основу для етичного, безпечного та надійного використання цієї проривної технології.

На думку експертів Gartner, програмні застосунки на базі великих мовних моделей (LLM), таких як ChatGPT, поставили на порядок денний питання включення GenAI до багатьох дорожніх карт бізнесу, ІТ та кібербезпеки. Термін GenAI описує методи, які навчаються на основі уявлень даних та модельних артефактів, щоб генерувати нові артефакти.

GenAI створює нові поверхні для атак, які потрібно захищати. Це вимагає змін у практиках безпеки додатків та даних, а також моніторингу користувачів. GenAI також змінить динаміку ринку кібербезпеки.

З точки зору ризиків Gartner рекомендує керівникам ІТ-безпеки почати з боротьби з некерованим і неконтрольованим використанням ChatGPT, щоб мінімізувати ризики. Найбільш помітними проблемами є використання конфіденційних даних у сторонніх додатках GenAI, а також потенційне порушення авторських прав та заподіяння шкоди бренду внаслідок використання неперевіреного контенту, створеного ШІ. Вимоги до захисту додатків GenAI, які додають нові поверхні атак до тих, що захищаються традиційними засобами безпеки додатків, зумовлюють бізнес-ініціативи.

Аналітики Gartner відзначають, що функції GenAI вже використовуються в операціях безпеки та захисту додатків, але ще потрібно побачити, як продукти кібербезпеки безпосередньо використовують методи GenAI для виявлення або запобігання загрозам.

Оскільки все більше компаній інтегруватимуть можливості GenAI у свої системи, то командам кібербезпеки дуже важливо постійно адаптуватися до змін у процесах.

Якщо організації з існуючими проектами в області ШІ можуть скоригувати свої існуючі політики управління, тим, хто тільки переходить на GenAI, доведеться створювати політики з нуля. Серед іншого, визначення відповідальності за конфіденційність даних, похибки та відхилень у результатах, порушень авторських прав, достовірності та зрозумілості додатків GenAI вимагає нових або оновлених принципів управління.