DeepTeam — это открытый фреймворк для тестирования систем на основе больших языковых моделей, позволяющий выявлять уязвимости, такие как предвзятость и утечка личной информации, через имитацию атак.
Фреймворк работает локально и использует LLM для симуляции и оценки результатов.
DeepTeam предлагает более 40 предустановленных уязвимостей и обеспечивает пользователям возможность легко настраивать различные методы атак с минимальными усилиями, предоставляя оценки рисков в удобном формате таблиц.
https://github.com/confident-ai/deepteam