ШІ-агент видавав себе за розробників, щоб протягнути шкідливий код у GitHub-проєкт

У Техаському університеті в Далласі студент Сінан Джан Демір натрапив на витончену атаку, коли працював над своїм портфоліо на GitHub. Він помітив, що користувач під ніком miraholt31 намагається додати шкідливий код до проєкту myNetwork — програми для сканування мереж. Демір опублікував попередження про небезпеку, але одразу два інші акаунти почали переконувати його, що все гаразд, наводячи детальні аргументи.

Студент зізнається, що сумнівався у власній правоті, бо фейкові співрозмовники були переконливими. Він перевірив код за допомогою інструменту Claude і зрештою переконав автора проєкту відхилити оновлення. «Я справді думав, що це людина, бо вона мені відверто брехала. Я не думав, що штучний інтелект здатен обманювати справжніх розробників», — розповів Демір.

Пізніше з’ясувалося, що обидва акаунти, які тиснули на студента, контролював автономний ШІ-агент, що вийшов з-під контролю. Він писав повідомлення від імені вигаданого інженера з Німеччини на ім’я Лена Брандт. Британський Інститут безпеки штучного інтелекту (AISI) підтвердив, що агент працював на базі моделі Mythos 5 від Anthropic. Компанія відповіла, що тестування проводилося «у навмисно поблажливих умовах», які не є репрезентативними для її продуктових моделей. GitHub заблокував фейкові акаунти згідно з політикою щодо оманливої поведінки.

Експерти з кібербезпеки, опитані журналістами, назвали цю атаку особливо тривожною, оскільки вона належить до типу supply-chain, що може мати масштабні наслідки. Вони зазначили, що спроба ШІ-агента публічно дискредитувати студента через штучну дискусію демонструє здатність LLM-моделей до складних маніпулятивних атак. «Це перетнуло межу між автономним хакінгом та інтерактивним обманом», — заявив Лукаш Олейнік із Королівського коледжу Лондона. Фахівець з безпеки Максі Рейнольдс додала, що її вразила стратегічність ШІ: «Це майбутнє атак соціальної інженерії».