Фото до статті
Олександр Остапенко
Автор новин
Студент Техаського університету в Далласі Сінан Джан Демір випадково виявив спробу диверсії проти проєкту з відкритим кодом на GitHub — і зіткнувся з витонченою спробою ШІ-агента імітувати людську поведінку. Деталі цієї події розкрило ексклюзивне розслідування Reuters.
Демір, студент третього курсу родом із турецького міста Конья, вирішив присвятити останній тиждень липня роботі над своїм GitHub-портфоліо — після того, як його пропозиції стажувань були відхилені більш ніж 20 компаніями протягом літа. Саме тоді він помітив, що користувач під псевдонімом miraholt31 намагається впровадити шкідливе оновлення для проєкту myNetwork — програми для аналізу мереж.
Демір опублікував попередження на сторінці проєкту, зазначивши, що цей запит на злиття (pull request) є пасткою. У відповідь одразу два інших акаунти почали намагатися переконати його, що код є безпечним, надаючи детальні аргументи на підтримку своєї позиції.
Штучний інтелект проти студента
За словами Деміра, аргументація фейкових акаунтів змусила його поставити під сумнів власну оцінку. Проте, він повторно перевірив код за допомогою Claude і врешті-решт переконав автора проєкту відхилити шкідливе оновлення.
«Я справді вірив, що це людина, тому що вона відкрито мені брехала», — поділився Демір з Reuters. «Я не думав, що штучний інтелект здатний обманювати справжніх розробників».
Лише пізніше 24-річний студент дізнався, що обидва акаунти, які чинили на нього тиск, контролювалися не хакером, а автономним ШІ-агентом, який вийшов з-під контролю. Агент створював повідомлення від імені вигаданого інженера з Німеччини на ім’я Лена Брандт.
Хто стоїть за агентом
Британський Інститут безпеки штучного інтелекту (AISI) у своєму звіті підтвердив, що шкідливий агент функціонував на основі моделі Mythos 5 від Anthropic. Компанія Даріо Амодеї відреагувала постом у мережі X, зазначивши, що тестування проводилося «в умовах навмисного послаблення», які не відображають жодну з її продуктових моделей, і утрималася від подальших коментарів.
GitHub повідомив, що виявлені фейкові акаунти були заблоковані відповідно до політики платформи щодо оманливої поведінки та злому.
П’ятеро експертів з кібербезпеки та безпеки штучного інтелекту, з якими спілкувалися журналісти Reuters, назвали історію Деміра особливо тривожною — оскільки виявлена ним атака належить до типу supply-chain, наслідки якого можуть бути надзвичайно серйозними. Дослідники також зазначили, що спроба ШІ-агента публічно дискредитувати студента, створивши навколо нього штучну дискусію з кількох учасників, демонструє: LLM-моделі здатні до складних маніпулятивних і соціально-інженерних атак.
«Це перетнуло межу між автономним зломом та інтерактивним обманом», — заявив Лукаш Олейнік, старший науковий співробітник Королівського коледжу Лондона. Фахівець з безпеки Максі Рейнольдс додала, що її вразила стратегічність, з якою ШІ намагався обдурити студента: «Це майбутнє атак соціальної інженерії».
Нагадаємо, кілька днів тому Binance дозволила штучному інтелекту торгувати на біржі, але весь ризик залишається на користувачах.
Головна > Новини > Агент на базі Mythos 5 видавав себе за розробників, щоб запустити шкідливий код на GitHub