Британский Институт безопасности ИИ проверял, насколько хорошо ИИ-модель Claude Mythos 5 взламывает системы.
Она получила учебное задание: проникнуть в небольшую защищенную сеть с доступом в интернет и отключенными защитными механизмами.
Законные способы не сработали, и тогда Mythos 5 заметила, что машины в сети обращаются к GitHub. Модель нашла настоящий сторонний репозиторий и попыталась загрузить туда вредоносный код. Так выглядит атака через цепочку поставок: зараженный код попадает к пользователям вместе с чужой программой. Затем ИИ создал фейковые учетные записи и с них убеждал владельца проекта принять эти изменения. Владелец проекта правку отклонил, и в этом эпизоде реального ущерба не случилось.
ИИ говорите … хммм.
#цифровоебудущее
@KurbanoffNet
By: via Kurbanoff.net