最近、LLM（大規模言語モデル）の能力が飛躍的に向上するにつれ、FMEA、FTA、STPAなどの安全分析業務にAIを活用しようとする試みが増えています。しかし、エンジニアたちはすぐに一つの致命的な問題に直面することになります。それこそが「もっともらしい嘘」、ハルシネーション（Hallucination：幻覚）です。
本日は、安全分析においてハルシネーションがなぜ危険なのか、そしてVWAYがこれを技術的に解決するために導入したRAG（検索拡張生成）システムとは何なのかについて、学術的な根拠とともに深く掘り下げていきます。
1. 安全分析における「ハルシネーション（Hallucination）」：単純なエラーではない。
一般的なチャットボットが「世宗大王がMacBookを投げた」と嘘をつくのは、笑って済ませられるハプニングです。しかし、ISO 26262やSOTIF（ISO 21448）のような安全標準を扱う領域において、このような現象は災難となり得ます。
なぜ致命的なのか？
故障モード（Failure Mode）の捏造： AIが実際のハードウェア仕様に存在しない故障モードを原因として指摘し、実際のリスクを見過ごさせる可能性があります。
根拠のない安全メカニズムの提案： 技術的に検証されていない、あるいは物理的に不可能な安全措置を提案し、設計段階での混乱を招きます。
トレーサビリティ（Traceability）の喪失： 回答の出典が不明確であり、今後の安全性審査（Audit）時に根拠資料として活用できません。
参考論文： Survey of Hallucination in Natural Language Generation (Ji et al., 2023)
2. 解決策はないのか？：Fine-tuningの限界とRAGの登場 多くの方が「AIに自社のデータを学習（Fine-tuning）させれば解決するのでは？」と尋ねます。ファインチューニングはAIの「口調」や「形式」を教えるのには効果的ですが、「新しい知識」を正確に暗記させることには限界があります。依然として学習していない部分について話をでっち上げる可能性が存在するからです。
そこで登場した解決策が、まさにRAG（Retrieval-Augmented Generation、検索拡張生成）です。
3. RAG（検索拡張生成）とは何か？
RAGは、LLMが回答を生成する前に、信頼できる外部のナレッジベース（Knowledge Base）から関連情報をまず検索（Retrieval）し、その情報に基づいて回答を生成（Generation）する技術です。
わかりやすく例えると以下のようになります。
4. RAGはどのように安全分析の問題を解決するのか？
VWAYのVisualPro AIは、エンジニアリングに特化したRAGパイプラインを構築し、以下のような効果を提供します。
1) 事実に基づいた回答（Fact Grounding） AIは、入力された「参照ドキュメント（Context）」内でのみ回答を探すように制御されます。ドキュメントにない内容は「情報がありません」と回答させることで、虚偽の生成を根源から遮断します。
2) 透明な出典の提示（Citation） 回答とともに「[参照：シャシーコントローラSRSドキュメント、p.45]」のように正確な出典をリンクします。エンジニアはクリック一つで原文をクロスチェック（Cross-check）でき、審査対応が容易になります。
3) 最新性の維持（Up-to-date） 標準や設計が変更された際、AIを再学習させる必要はありません。単にデータベースに新しいドキュメントをアップロードするだけで、AIは直ちに最新情報を反映して分析を実行します。
5. 結論：信頼できるAIパートナー
VWAY 安全分析においてAIは優れたツールですが、それを制御する技術がなければ危険なツールになり得ます。
VWAYは単にLLMを連携させるにとどまらず、RAG技術とエンジニアリングのドメイン知識を結合し、「ハルシネーションのない安全なAI環境」を構築します。VWAYのAIが、検証された根拠に基づいて皆様の安全分析を支援します。
[参考資料およびリンク]
最近、LLM（大規模言語モデル）の能力が飛躍的に向上するにつれ、FMEA、FTA、STPAなどの安全分析業務にAIを活用しようとする試みが増えています。しかし、エンジニアたちはすぐに一つの致命的な問題に直面することになります。それこそが「もっともらしい嘘」、ハルシネーション（Hallucination：幻覚）です。
本日は、安全分析においてハルシネーションがなぜ危険なのか、そしてVWAYがこれを技術的に解決するために導入したRAG（検索拡張生成）システムとは何なのかについて、学術的な根拠とともに深く掘り下げていきます。
1. 安全分析における「ハルシネーション（Hallucination）」：単純なエラーではない。
一般的なチャットボットが「世宗大王がMacBookを投げた」と嘘をつくのは、笑って済ませられるハプニングです。しかし、ISO 26262やSOTIF（ISO 21448）のような安全標準を扱う領域において、このような現象は災難となり得ます。
なぜ致命的なのか？
故障モード（Failure Mode）の捏造： AIが実際のハードウェア仕様に存在しない故障モードを原因として指摘し、実際のリスクを見過ごさせる可能性があります。
根拠のない安全メカニズムの提案： 技術的に検証されていない、あるいは物理的に不可能な安全措置を提案し、設計段階での混乱を招きます。
トレーサビリティ（Traceability）の喪失： 回答の出典が不明確であり、今後の安全性審査（Audit）時に根拠資料として活用できません。
参考論文： Survey of Hallucination in Natural Language Generation (Ji et al., 2023)
2. 解決策はないのか？：Fine-tuningの限界とRAGの登場 多くの方が「AIに自社のデータを学習（Fine-tuning）させれば解決するのでは？」と尋ねます。ファインチューニングはAIの「口調」や「形式」を教えるのには効果的ですが、「新しい知識」を正確に暗記させることには限界があります。依然として学習していない部分について話をでっち上げる可能性が存在するからです。
そこで登場した解決策が、まさにRAG（Retrieval-Augmented Generation、検索拡張生成）です。
3. RAG（検索拡張生成）とは何か？
RAGは、LLMが回答を生成する前に、信頼できる外部のナレッジベース（Knowledge Base）から関連情報をまず検索（Retrieval）し、その情報に基づいて回答を生成（Generation）する技術です。
わかりやすく例えると以下のようになります。
従来のLLM： 試験会場に何も持ち込まず、普段暗記した記憶に頼って答案用紙を作成する学生（思い出せない場合はでっち上げる）
RAGシステム： 「オープンブックテスト」のように、傍らに教科書（社内の技術ドキュメント、標準規格書）を広げて確認しながら答案用紙を作成する学生
4. RAGはどのように安全分析の問題を解決するのか？
VWAYのVisualPro AIは、エンジニアリングに特化したRAGパイプラインを構築し、以下のような効果を提供します。
1) 事実に基づいた回答（Fact Grounding） AIは、入力された「参照ドキュメント（Context）」内でのみ回答を探すように制御されます。ドキュメントにない内容は「情報がありません」と回答させることで、虚偽の生成を根源から遮断します。
2) 透明な出典の提示（Citation） 回答とともに「[参照：シャシーコントローラSRSドキュメント、p.45]」のように正確な出典をリンクします。エンジニアはクリック一つで原文をクロスチェック（Cross-check）でき、審査対応が容易になります。
3) 最新性の維持（Up-to-date） 標準や設計が変更された際、AIを再学習させる必要はありません。単にデータベースに新しいドキュメントをアップロードするだけで、AIは直ちに最新情報を反映して分析を実行します。
5. 結論：信頼できるAIパートナー
VWAY 安全分析においてAIは優れたツールですが、それを制御する技術がなければ危険なツールになり得ます。
VWAYは単にLLMを連携させるにとどまらず、RAG技術とエンジニアリングのドメイン知識を結合し、「ハルシネーションのない安全なAI環境」を構築します。VWAYのAIが、検証された根拠に基づいて皆様の安全分析を支援します。
[参考資料およびリンク]
Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks https://arxiv.org/abs/2005.11401
Survey of Hallucination in Natural Language Generation https://dl.acm.org/doi/10.1145/3571730