ИИ Positive Technologies обнаружил уязвимость в проекте Microsoft для языковых моделей
Инструмент на основе искусственного интеллекта выявил критическую ошибку в системе работы с большими языковыми моделями.
Команда AppSec Research из Positive Technologies разработала инструмент на основе ИИ, который обнаружил серьёзную уязвимость в проекте Microsoft для работы с большими языковыми моделями (LLM). Технология автоматически анализирует код и выявляет потенциальные угрозы.
Ошибка позволяла злоумышленникам вмешиваться в работу LLM и получать несанкционированный доступ к данным. Microsoft устранила проблему после получения отчёта от исследователей.
Решение Positive Technologies использует машинное обучение для поиска уязвимостей в исходном коде. Оно сокращает время проверки на 40% по сравнению с ручным анализом.
Эксперты отмечают, что такие инструменты особенно важны для безопасности ИИ-систем. С ростом сложности моделей ручной аудит становится менее эффективным. Positive Technologies планирует доработать технологию и применять её в других проектах.
