NVIDIAのGarakは、LLMの脆弱性を体系的に検出するLLM脆弱性スキャナと呼ばれるオープンソースツールです。プロンプトインジェクション、有害出力生成、データ漏洩、セーフティバイパス、幻覚など多様な攻撃を自動試行し、モデルの弱点を評価します。GPT、Claude、LLaMAなど様々なモデルに対応し、開発者がAIシステムのセキュリティリスクを可視化して対策するための強力な支援ツールとなっています。