AI・LLM・RAGの基礎知識

LLMはLarge Language Modelの略で、大量のテキストデータから言語の使い方を学習したAIモデルです。文章の意味を理解して、質問への回答、要約、翻訳、コード生成などを行えます。代表的なものにOpenAIのGPT、AnthropicのClaude、GoogleのGeminiなどがあります。用途に応じて、外部API経由で使うクラウド型と、自社サーバーで動かすローカル型を選べます。

生成AIはモデルが学習済みの知識だけで回答するのに対し、RAG（Retrieval-Augmented Generation）は「質問時に社内文書やDBを検索してから、その内容を参考に回答」する仕組みです。RAGを使うと、モデルが学習していない自社の最新マニュアルや議事録にも答えられ、ハルシネーション（もっともらしい嘘）も抑えられます。社内文書AIにはほぼ必須の技術です。

閉域AI・オンプレミスAIとは、AIモデルとデータを自社ネットワーク内（またはお客様指定の閉じた環境）で完結させる構成のことです。ChatGPT等の外部クラウドAPIに社内文書を送信しないため、NDA対象の顧客資料や機密設計書も安全に扱えます。自社サーバーやMac mini、GPUサーバーで小規模から構築でき、製造業や医療系など情報漏洩を避けたい業種で採用が広がっています。

AIエージェントとは、単に文章を生成するだけでなく、複数のツール（検索・DB操作・メール送信・外部API呼び出し等）を自律的に選んで実行するAIのことです。例えば「昨日の営業日報を集計してSlackに投稿」「議事録から未対応TODOを抽出して担当者に通知」といった、複数ステップの業務を人間の介在なく完遂できます。ClaudeやGPT-4系のツール使用機能を活用して構築します。

最初は「頻度が高く、答えが決まっている業務」から始めるのが失敗しにくいです。例えば「マニュアル検索」「議事録要約」「問い合わせの一次回答」等。いきなり全社導入せず、1部署1業務の小さなPoC（実証）で効果を測ってから拡張します。データを社外に出せない場合は最初から閉域構成で設計し、後戻りを防ぐのが得策です。

社内文書AIとは、社内マニュアル・議事録・技術資料・過去プロジェクトの成果物などをAIに読み込ませ、自然言語で検索・要約・質問応答できる仕組みです。例えば「A社との契約書に検収条件はどう書かれていた？」「◯◯装置の設定手順を教えて」といった質問に、根拠となる文書ページを提示しつつ回答できます。RAG技術で実装するのが主流です。

ハルシネーションとは、AIが事実に基づかない情報をもっともらしく生成してしまう現象のことです。学習済み知識の推測に頼るため、社内固有情報や最新情報で頻発します。対策は主に3つ。(1) RAGで信頼できる社内文書を参照させる (2) 回答に根拠文書を必ず添付させる (3) 精度評価指標（Recall・Precision等）で継続測定する。この3点を設計段階から組み込むことが重要です。

ChatGPTは汎用対話AIで、誰でもすぐ使える手軽さがあります。ただし社内文書は学習していないため専門的な業務質問には答えられず、入力内容が外部サーバーに送信される制約もあります。自社構築AIは社内データを直接検索・参照でき、閉域構成で情報漏洩リスクも回避可能。汎用機能はChatGPT、業務特化は自社構築、と使い分けるのが実用的です。

規模と要件次第ですが、目安としては小規模PoC（1業務・1部署）で1〜2ヶ月、本番導入までで3〜6ヶ月というのが一般的です。AREREでは「デモで終わらせない」方針で、まず短期間で動く試作品を作って要件を煮詰め、本番に移行するアプローチをとっています。自社プロダクトでは企画決定から48時間で公開した実例もあります。要件が明確な場合は短縮できます。