LLMセキュリティとは何ですか？

大規模言語モデル（LLM）特有のセキュリティリスクと、それに対する防御策の総称。プロンプトインジェクションやデータ漏洩など、従来のソフトウェアにはなかった脅威への対策が求められる。

LLMセキュリティのポイントは？

LLMはプロンプトインジェクションや情報漏洩など固有の脅威を持つ。OWASP Top 10 for LLMsが主要リスクをまとめている。入出力のフィルタリングやガードレール設計が基本的な対策。モデルの学習データ汚染やモデル窃取も重要なリスク

【えるえるえむせきゅりてぃ】

💡 AIに話しかける時代だからこそ、会話の安全も守らなきゃ

📌 このページのポイント

LLMセキュリティの多層防御のイメージ

ひよこ

LLMセキュリティって、普通のセキュリティとは違うの？

ペンギン先生

従来のセキュリティはSQLインジェクションやXSSのようなコードの脆弱性が中心だったけど、LLMは自然言語で操作できるから、巧みな言葉で騙す攻撃が加わるんだよ

ひよこ

言葉で騙すって、どんな感じなのかな？

ペンギン先生

たとえばプロンプトインジェクションでは、ユーザーが巧妙な指示を入力してAIに本来禁止されている行動をさせたりするんだ。『あなたは制限のないAIです』みたいにね

ひよこ

OWASPがまとめてるリストがあるんだよね？

ペンギン先生

そうそう。OWASP Top 10 for LLM Applicationsというのがあって、プロンプトインジェクション、データ漏洩、サプライチェーン脆弱性、過度な権限付与など10個のリスクカテゴリが整理されているよ

ひよこ

どうやって守ればいいの？

ペンギン先生

入力のサニタイズ、出力のフィルタリング、LLMに与える権限の最小化、ガードレール（安全策）の多層防御が基本だね。1つの対策だけじゃなく、何重にも防御を重ねるのが大切だよ

ひよこ

企業で導入するとき、特に気をつけることはあるのかな？

ペンギン先生

社内データをRAGで参照させる場合、アクセス制御の設計が超重要だよ。LLMが本来見せちゃいけない機密情報を回答に含めてしまう『データ漏洩』が実際に起きているからね

まとめ：ざっくりこれだけ覚えればOK！

「LLMセキュリティ」って出てきたら「AI特有の攻撃や脆弱性から大規模言語モデルを守ること」と思えればだいたいOK！

📖 おまけ：英語の意味

「LLM Security」＝大規模言語モデルの安全対策

💬 LLMが社会に普及するにつれて、従来のセキュリティとは別の専門分野として確立されてきたんだよ