ШІ стає інструментом для розробки вірусів – експерти

Штучний інтелект (ШІ) стає інструментом для розробки нових вірусів, наголосили експерти в коментарі агентству "Інтерфакс-Україна".

У серпні розробник антивірусного програмного забезпечення ESET виявив створений на базі ШІ перший вірус-вимагач під назвою PromptLock. Він може збирати дані користувача, шифрувати їх або знищувати, однак наразі є радше прототипом, аніж завершеною розробкою.

Керівник Центру операцій безпеки MODUS X Дмитро Ковалевський у коментарі агентству зазначив, що віруси, які використовують генеративний ШІ та Lua-скрипти, є "цифровими хамелеонами". Вони швидко змінюють форму та уникають виявлення. Це ускладнює реагування на атаки традиційними методами.

"Ми маємо справу з новим поколінням загроз. Хоча наразі він (вірус - ІФ-У) перебуває лише на ранніх стадіях, підхід уже є вкрай небезпечним і відкриває нові можливості для зловмисників", - сказав він.

У Національній команді реагування на кіберінциденти, кібератаки, кіберзагрози CERT-UA зазначили, що раніше вже було зафіксовано шкідливе програмне забезпечення (ШПЗ), яке використовувало ШІ в атаках проти України.

"Шкідливі програми, які використовують ШІ можна від слідкувати, здійснюючи моніторинг мережевої активності. Наприклад HTTPS-запити до відомих LLM-платформ. Для прикладу, в атаці, дослідженій CERT-UA, використовувався сервіс huggingface[.]co", - зазначили експерти.

У CERT-UA пояснили, що в описаному компанією ESET випадку використовувалася self-hosted-модель, і виявити її можна за HTTP-запитами.

"Якщо доменне імʼя чи ІР адреса серверу на якого її розгорнуто не відомі, то виявити такі підключення можна за HTTP-запитами (зазвичай POST), які часто здійснюються на відповідний TCP-порт, на якому за замовчуванням розгортається LLM (але його легко змінити). Або ж за структурою самого запиту, але для цього необхідно мати Proxy-сервер, на якому можливо переглянути тіло запиту", - пояснюється у повідомленні.

Водночас у команді наголосили, що у публікації ESET йдеться про вірус-шифрувальник. Атаки з використанням такого ШПЗ не дуже популярні в Україні і зазвичай націлені на комерційні організації, які мають гроші, щоб заплатити за розшифрування файлів.

Ковалевський радить організаціям критичної інфраструктури вже зараз посилювати кіберзахист: обмежувати запуск неперевірених додатків; контролювати використання ШІ-сервісів; впроваджувати EDR/XDR-рішення для виявлення аномальної поведінки скриптів; налаштовувати моніторинг мережевої активності та інфраструктурних сервісів.

За словами президента холдингу Internet Invest Group, члена наглядової ради Національного технічного університету України "Київський політехнічний інститут імені Ігоря Сікорського" Олександра Ольшанського, штучний інтелект може досліджувати будь-яку систему досить ефективно. Так, якщо людина аналізуватиме, велику систему тиждень чи два, то ШІ зробить це за 10 хвилин. Таким чином, штучний інтелект може паралельно обстежити, наприклад, 1000 систем, за той час, за який людина цього зробити не зможе.

"Тому, якщо йтиметься про серйозну атаку, то штучний інтелект цілком може використовуватись для такого масового обстеження систем та виявлення їхніх вразливостей", - наголосив Ольшанський у коментарі агентству.

Однак, він додав, що ШІ, у свою чергу, можна також задіювати і з точки зору захисту - для швидкого виявлення вразливостей.