Posted in人工知能
Giskard ガイド：CI/CD環境でAIモデルの脆弱性を自動検知する「セキュリティ・フィルタ」
AIをセキュリティリスクにしないために。Giskardを使ってプロンプトインジェクションやデータ漏洩を自動スキャンし、CI/CDプロセスに直接統合する方法を解説します。
Posted in人工知能
Prompt Injectionとは何か、AIアプリケーションを攻撃から守る方法
Prompt injectionとは、AIモデルの動作をoverrideするために悪意のある指示をinputに埋め込む攻撃手法です。本記事では実際の経験と5つの防御層を紹介します：input sanitization、role separation、output validation、least privilege、そしてmonitoring。