«Ми повинні усвідомлювати, що будь-яка форма контакту з інструментами на основі штучного інтелекту є формою передачі інформації. І часто користувачі не усвідомлюючи небезпеки, передають дуже конфіденційні дані. Ми не просто собі спілкуємося та розмовляємо з інструментом, але також можемо передавати документи з конфіденційними даними, даними клієнтів, даними компанії та бізнес-інформацією. Ми робимо це для того, щоб інструмент ШІ пришвидшив нашу роботу. З іншого боку, ми часто не усвідомлюємо, що, надсилаючи певні документи чи інформацію, вставляючи їх у такий чат, ми передаємо конфіденційні дані, які можна використовувати різними способами.
Тож тут нам точно потрібно усвідомлювати ризик передачі конфіденційних даних. Другий рівень, коли йдеться про інформаційну безпеку, – це безпека системи. З розвитком агентів ШІ виникає ця категорія загроз, оскільки такий агент ШІ має доступ до різних інструментів, таких як корпоративні системи, бази даних і часто навіть API.
І тут, звичайно, він потенційно може виконувати різні операції, які можуть виходити за рамки команд, які ми, як користувачі, хочемо передати такому агенту і які були нашим початковим наміром».
Третя загроза – це ризик фальшивої інформації, що виглядає як цілком достовірна. Для цього виду інформації навіть вигадали евфемізм «галюцинації», - нагадує Барбара Пробєж, заступниця директора Інституту ШІ Дослідницької мережі Лукасевич.
Чи існує можливість отримати залежність від ШІ та даркнет ШІ, чому ШІ став таким популярним останнім часом, хоча існує вже більш як пів століття, якою мовою та як краще писати промпти - запрошую послухати в доданому звуковому файлі або в подкастах.
Сніжана Чернюк