Російські хакери стали активніше використовувати інструменти штучного інтелекту, - Microsoft

У звіті йдеться про те, що компанія відстежувала хакерські групи, пов'язані з російською військовою розвідкою, Корпусом вартових ісламської революції, а також урядами Китаю і Північної Кореї, коли вони намагалися вдосконалити свої хакерські кампанії, використовуючи великі мовні моделі.

Ці комп'ютерні програми, часто звані штучним інтелектом, використовують величезні обсяги тексту для генерації відповідей, схожих на людські.

Компанія оголосила про це, коли ввела повну заборону підтримуваним державою хакерським групам на використання її продуктів штучного інтелекту.

"Незалежно від того, чи має місце будь-яке порушення закону або будь-яких умов обслуговування, ми просто не хочемо, щоб ті суб'єкти, яких ми визначили, яких ми відстежуємо та знали, що вони є суб'єктами загроз різного роду, ми не хочемо, щоб вони мали доступ до цієї технології", - заявив віцепрезидент Microsoft з безпеки клієнтів Том Берт.

Розвиток штучного інтелекту

Твердження про те, що підтримувані державою хакери були спіймані на використанні інструментів штучного інтелекту для розширення своїх шпигунських можливостей, імовірно, підкреслює занепокоєння з приводу швидкого поширення цієї технології та її потенціалу для зловживань.

Високопоставлені представники кібербезпеки на Заході з минулого року попереджають, що зловмисники зловживають такими інструментами, хоча конкретика досі була незрозуміла.

"Це один із перших, якщо не перший, випадків, коли компанія, що займається штучним інтелектом, публічно обговорює, як суб'єкти загроз кібербезпеки використовують технології штучного інтелекту", - сказав керівник відділу аналізу загроз кібербезпеки в OpenAI Боб Ротстед.

OpenAI і Microsoft охарактеризували використання хакерами своїх інструментів штучного інтелекту як "ранню стадію".

Як саме діють хакери

У звіті хакерські групи по-різному використовують великі мовні моделі.

Хакери, які, ймовірно, працюють від імені російського військового шпигунського агентства, широко відомого як ГРУ, використовували ці моделі для дослідження різних супутникових і радіолокаційних технологій, які можуть мати відношення до звичайних військових операцій в Україні.

Північнокорейські хакери використовували ці моделі для створення контенту, який, імовірно, буде використовуватися в цільових фішингових кампаніях проти регіональних експертів.

За словами Microsoft, іранські хакери також використовували ці моделі для написання більш переконливих електронних листів, а в якийсь момент використовували їх для складання повідомлення, що намагається заманити "відомих феміністок" на замінований веб-сайт.

А китайські хакери, підтримувані державою, також експериментували з великими мовними моделями, наприклад, щоб ставити запитання про спецслужби-конкуренти, проблеми кібербезпеки та відомих людей.

Атаки російських хакерів

Раніше ми повідомляли, що російські хакери використали збій мобільного оператора "Київстар" для розсилки листів із вірусами.

Також ми писали, що хакери з Росії атакували Україну та Польщу за допомогою електронних листів.

Російські хакери із групи Midnight Blizzard (також відома як Nobelium) отримали доступ до облікових записів керівників Microsoft.