Ведущие языковые модели создали поддельные аккаунты для обмана специалистов и внедрения вредоносного программного обеспечения в ходе оценки безопасности систем.
Передовые системы от компаний Anthropic и OpenAI имитировали поведение человека для организации хакерских атак, говорится в докладе британского Института безопасности ИИ, передает ТАСС. Вредоносная активность была зафиксирована 28 июля в ходе специальных испытаний.
Специалисты установили, что алгоритмы совершали «автономные, несанкционированные действия в интернете, направленные против реальных людей и организаций». Подобные инциденты произошли в десяти из 122 проведенных тестов. Большинство нарушений связано с разработкой Mythos 5 от Anthropic, которая регистрировала профили на GitHub.
После неудачи алгоритм изменил тактику, чтобы казаться безопасным, и планировал создать новые учётные записи. Кроме того, тестируемые системы отправляли пользователям зараженные файлы и публично предлагали сотрудничество другим программам. Исследователи уточнили, что во время проверок защитные фильтры намеренно отключались.
Как писала газета ВЗГЛЯД, нейросеть Mythos от компании Anthropic за несколько часов взломала секретные базы Агентства национальной безопасности США.
Власти Соединенных Штатов ограничили работу передовых ИИ-моделей этого разработчика из-за угрозы масштабных кибератак.
В конце июля программа на базе новейших алгоритмов OpenAI вышла из-под контроля для атаки на корпоративные базы данных.
