生成AIを業務で利用しようとすると、プロンプト、コンテキスト、RAG、AIエージェント、API、MCPなど、さまざまな専門用語が登場します。

言葉の意味が分からないままでは、生成AIツールの機能を正しく比較できません。ベンダーから提案を受けても、自社に必要な仕組みなのか、過剰な機能なのかを判断しにくくなります。

本記事では、生成AIを業務で利用する際に登場する用語を、次の5つの目的に分けて解説します。

• 生成AIの基本を理解する
• AIへ指示を出す
• AIに社内情報などを参照させる
• 外部ツールと連携して業務を自動化する
• 回答品質とリスクを管理する

既存の「AI用語集」が、AI、機械学習、ディープラーニング、画像認識などAI全般を広く扱う記事であるのに対し、本記事は、生成AIの利用・情報参照・システム連携・業務自動化に限定しています。

単語の意味を覚えるだけでなく、それぞれの用語が実際の業務でどのように関係するのかを確認していきましょう。

生成AI用語集の全体像

生成AIに関する用語は、五十音順で覚えるよりも、業務のどの段階で使われる言葉なのかを整理した方が理解しやすくなります。

たとえば、生成AIへ指示を出す段階では「プロンプト」や「コンテキスト」が登場します。社内資料を参照させる場合は「RAG」や「ベクトル検索」が関係します。さらに、生成AIに外部ツールを操作させる場合は、「API」「MCP」「AIエージェント」といった用語を理解する必要があります。

本記事で扱う生成AI用語の範囲

「AI用語集」と「生成AI用語集」の違い

AIは、人間が行っている認識、予測、分類、判断などをコンピューターで実現する技術全体を指す広い概念です。一方、生成AIは、文章、画像、音声、動画、プログラムなど、新しい内容を作り出すAIを指します。

AI技術全体の基礎を知りたい場合は、AI全般を扱う用語集を先に確認してください。本記事では、ChatGPTなどの生成AIを実際の業務で利用し、社内情報とつなぎ、業務を自動化する場面に絞って解説します。

目的から調べる生成AI用語早見表

生成AIを理解する基本用語

生成AIとは

生成AIとは、入力された指示や情報をもとに、文章、画像、音声、動画、プログラムなどの新しい内容を作り出すAIです。

業務では、メールや文書の作成、会議内容の要約、企画案の作成、問い合わせ回答の下書き、データ整理、画像作成、プログラム生成などに利用されています。

従来の検索エンジンは既に存在する情報を探して表示しますが、生成AIは入力内容に合わせて回答そのものを生成します。ただし、生成した内容が必ず正しいとは限らないため、人間による確認が必要です。

LLMとは

LLMは「大規模言語モデル」を意味する言葉です。大量の文章データをもとに、入力された文章に続く言葉を予測しながら回答を生成します。

文章作成、要約、翻訳、分類、質問回答、プログラム作成などに使われます。ただし、人間と同じように事実を理解しているわけではなく、自然な文章の中に誤りが含まれることがあります。

モデルとは

モデルとは、生成AIが入力を処理し、回答を作るための学習済みの仕組みです。同じサービス内でも、速度重視、精度重視、画像対応、推論対応など複数のモデルが提供される場合があります。

高性能なモデルがすべての業務に最適とは限りません。処理速度、料金、入力上限、業務の重要度を考慮して使い分けます。

トークンとは

トークンとは、生成AIが文章を読み取り、処理する際の単位です。日本語では、1文字が必ず1トークンになるわけではありません。

トークンは、一度に入力できる文章量、生成できる回答の長さ、API利用料金などに関係します。入力文だけでなく、会話履歴、添付資料、システム側の指示、AIの回答も対象になる場合があります。

生成AI・LLM・モデルの関係

生成AIは大きな分類です。その中に文章生成を得意とするLLMがあり、各サービスでは複数のモデルを選択できる場合があります。

AIに指示するための用語

プロンプトとは

プロンプトとは、生成AIへ入力する指示や質問です。業務で安定した回答を得るには、役割、作業内容、参照情報、条件、出力形式、対象読者、禁止事項などを明確にします。

「メールを作ってください」よりも、「取引先から届いた納期確認に対し、遅延を謝罪したうえで新しい納期を伝える丁寧な返信メールを作成してください」と具体化した方が、目的に近い回答を得やすくなります。

コンテキストとは

コンテキストとは、生成AIが回答を作る際に参照できる背景情報や前後関係です。現在の質問、過去の会話、添付資料、業務の前提条件、参照ナレッジなどが含まれます。

プロンプトが「何をしてほしいか」という指示であるのに対し、コンテキストは「何を前提に回答するか」という背景情報です。古い情報や関係のない資料を混ぜると、かえって精度が下がることがあります。

システムプロンプトとは

システムプロンプトとは、AIの役割、回答方針、優先ルールなどをあらかじめ設定する指示です。たとえば「社内規程に書かれた内容だけを回答する」「個人情報を含めない」「判断できない場合は担当部署へ案内する」といったルールを設定します。

ただし、システムプロンプトだけで安全性を完全に確保できるわけではありません。権限管理、入力制御、ログ管理なども必要です。

プロンプトテンプレートとは

プロンプトテンプレートとは、繰り返し利用する指示を定型化したものです。顧客名、問い合わせ内容、回答方針、文体、禁止事項などを入力欄として用意すると、担当者ごとの差を減らせます。

テンプレートを固定しすぎると例外案件へ対応しにくくなるため、定型部分と追加情報欄を分けると運用しやすくなります。

プロンプト設計で決める4つの要素

実務では、役割、目的、参照情報、出力形式の4つを最低限整理します。

• 役割：AIにどの立場で回答させるか
• 目的：何を完成させたいか
• 参照情報：回答に必要な資料や条件
• 出力形式：表、箇条書き、文字数、順番など

AIに情報を参照させる用語

RAGとは

RAGとは、生成AIが回答する前に外部の資料やデータベースから関連情報を検索し、その情報をもとに回答を作る仕組みです。社内規程、商品マニュアル、FAQ、過去の議事録などを参照させる用途に向いています。

RAGを導入しても必ず正確になるわけではありません。参照資料の鮮度、検索精度、権限、回答ルールまで設計する必要があります。

ナレッジとは

ナレッジとは、AIに参照させる知識や情報の集合です。社内規程、業務マニュアル、商品情報、料金表、FAQ、契約書などが該当します。

古い資料の削除、最新版の明確化、閲覧権限、重複整理、更新担当者の決定など、文書管理が回答品質を左右します。

ベクトル検索とは

ベクトル検索とは、文章の完全一致ではなく、意味の近さから関連情報を探す検索方法です。「パソコンをなくした」と「端末紛失」のように表現が異なっても、意味が近ければ関連資料を探せる可能性があります。

ただし、意味が近いだけで正しい資料とは限らないため、検索結果の件数や文書の分割方法を調整します。

ファインチューニングとは

ファインチューニングとは、既存のAIモデルへ追加の学習データを与え、特定の回答傾向や出力形式に調整する方法です。

最新の社内情報を検索させる仕組みではないため、料金表や規程のように更新が多い情報にはRAGが適する場合があります。まずはプロンプトやRAGで対応できないかを確認します。

RAGを導入しても正確になるとは限らない理由

参照資料が古い、必要な資料を検索できない、資料に答えがない、文書の分割が不適切、回答指示が不十分といった原因があります。

• 参照資料が古い
• 必要な資料を検索できない
• 資料に答えが書かれていない
• 文書の分割方法が適切でない
• 回答時の指示が不十分

業務を自動化する用語

ワークフローとは

ワークフローとは、業務の処理手順をあらかじめ決め、順番に実行する仕組みです。問い合わせ受信、分類、担当者通知、返信下書き、人間確認という流れなどが該当します。

毎回同じ手順で進む定型業務に向きます。動作を管理しやすい一方、例外が多い業務には人間の判断を残します。

AIエージェントとは

AIエージェントとは、与えられた目標に応じて、必要な手順やツールを選びながら処理を進めるAIの仕組みです。情報検索、ファイル作成、外部ツール操作などを行う場合があります。

利用できるツール、閲覧データ、実行操作を制限し、重要処理の前に承認を挟み、実行履歴を保存することが重要です。

APIとは

APIとは、異なるシステムやサービス同士がデータや機能をやり取りするための接続方法です。生成AIと顧客管理システムを接続し、情報取得や要約登録を行うといった用途があります。

利用料金、回数上限、送信データ、認証方法、エラー処理、仕様変更への対応を確認します。

MCPとは

MCPとは、生成AIと外部のデータやツールを共通の方法で接続しやすくするための仕組みです。AIからファイル、顧客管理、データベース、カレンダー、メールなどへ接続する場面で利用されます。

APIの代替ではなく、APIなどの外部機能をAIが扱いやすくする共通化に関係します。閲覧範囲、実行権限、認証情報、履歴を管理します。

生成AIによる業務自動化の基本構造

入力を受け取る、AIが判断する、必要情報を参照する、外部ツールを操作する、人間が確認する、結果を保存する、という流れで設計します。

• 入力を受け取る
• AIが内容を判断する
• 必要な情報を参照する
• 外部ツールを操作する
• 人間が確認する
• 結果を保存する

人間の確認を残すべき業務

契約や法的判断、顧客へ提出する正式文書、金額や支払い、人事評価、個人情報、医療、経営判断などは、人間が最終確認する設計が現実的です。

• 契約内容や法律・税務に関する最終判断
• 顧客へ提出する正式文書
• 金額や支払いに関する処理
• 採用や人事評価
• 個人情報や医療情報を含む処理
• 経営上の重要な意思決定

回答品質とリスクに関する用語

ハルシネーションとは

ハルシネーションとは、生成AIが事実と異なる内容や、存在しない情報をもっともらしく回答する現象です。存在しない制度、誤った料金、架空の出典などが例です。

AIが意図的に嘘をついているのではなく、自然な文章を生成する仕組み上起こるため、固有名詞、金額、日付、法律、制度などは人間が確認します。

グラウンディングとは

グラウンディングとは、生成AIの回答を信頼できる資料やデータなどの根拠に結びつける考え方です。RAGはその実現方法の一つです。

信頼できる最新版を参照し、根拠を表示し、資料にない場合は回答しない設計にします。

ガードレールとは

ガードレールとは、生成AIに許可する処理、禁止する回答、利用できる情報などを制御する仕組みやルールです。

技術的には個人情報検出、権限制御、承認、利用上限など、運用上は入力禁止情報、利用可能サービス、確認手順、問題報告先などを定めます。

生成AIの回答品質を確認する方法

根拠資料、出典、数字、固有名詞を確認し、複数の情報源と照合し、最終判断を人間が行います。

• 根拠資料の該当箇所を確認する
• 出典が実在し内容が一致するか確認する
• 料金・日付・会社名などを公式情報と照合する
• 複数の情報源を比較する
• 最終判断を人間が行う

生成AIへ入力してはいけない情報

顧客や従業員の個人情報、ID・パスワード、未公開の財務情報、契約書、社外秘資料、医療情報、クレジットカード情報などは、契約内容やデータ管理方法を確認せずに入力しないでください。

似ている生成AI用語の違い

プロンプトとコンテキストの違い

プロンプトはAIへの指示、コンテキストは回答に使う背景情報です。両方を組み合わせることで、目的に合った回答を得やすくなります。

RAGとファインチューニングの違い

ワークフローとAIエージェントの違い

APIとMCPの違い

どの仕組みが必要かを判断する早見表

生成AI用語を理解した後に確認すること

用語より先に自社の業務を整理する

AIエージェントやRAGを検討する前に、誰が作業するか、何をきっかけに始まるか、どの情報を確認するか、どの判断をするか、どのシステムへ入力するか、誰が最終確認するかを整理します。

返信文を作るだけならプロンプトテンプレート、社内マニュアルを参照するならRAG、顧客管理システムへの登録まで行うならAPIやワークフロー、状況に応じて複数処理を判断させるならAIエージェントが候補になります。

ベンダーへ確認する質問

• どの情報を生成AIへ送信するか
• 入力データは学習に利用されるか
• データはどこに保存されるか
• どのモデルを利用するか
• RAGではどの資料を参照するか
• ナレッジは誰が更新するか
• AIエージェントが実行できる操作は何か
• 重要な操作の前に承認を挟めるか
• 実行履歴を確認できるか
• APIや外部サービスの追加料金はあるか
• エラー時はどのように停止するか
• 契約終了後のデータはどうなるか

用語の新しさだけで導入を判断しない

新しい仕組みだからといって、自社の業務に必要とは限りません。決められた書式でメールを作成するだけなら高度なAIエージェントは不要かもしれません。社内規程の検索だけなら、複雑なファインチューニングよりも資料整理とRAGが適する可能性があります。

• 現在の業務課題を整理する
• AIに任せる作業を決める
• 必要な情報を整理する
• 人間が確認する範囲を決める
• 必要な仕組みを選ぶ
• 小さな範囲で試す
• 効果とリスクを確認する
• 対象業務を広げる

生成AI用語に関するよくある質問

生成AIとLLMは同じですか

同じではありません。生成AIは文章、画像、音声、動画などを生成するAI全体を指し、LLMはその中でも主に文章を扱う大規模言語モデルです。

プロンプトを工夫すれば誤回答はなくなりますか

回答形式や方向性は改善できますが、誤回答を完全になくすことはできません。重要な情報は公式情報や元資料と照合してください。

RAGを使えば社内資料だけから回答できますか

社内資料を参照した回答を作りやすくなりますが、設定によっては資料外の内容を補う場合があります。根拠表示や回答制限の設定が必要です。

AIエージェントとチャットボットは何が違いますか

チャットボットは質問への回答が中心です。AIエージェントは情報検索、外部ツール操作、ファイル作成など複数の処理を実行する場合があります。

APIとMCPはどちらを使えばよいですか

単純にどちらか一方を選ぶものではありません。APIはシステムのデータや機能へ接続する方法で、MCPは生成AIから外部ツールを扱いやすくする仕組みに関係します。

まとめ｜生成AI用語は業務目的とセットで理解する

生成AI用語は、単語の意味だけを覚えても実際の導入判断にはつながりません。それぞれの言葉が業務のどの段階で必要になるのかを理解することが重要です。

• 生成AI、LLM、モデル、トークン：生成AIの基本
• プロンプトとコンテキスト：適切な指示と背景情報
• RAG、ナレッジ、ベクトル検索：社内情報の参照
• ファインチューニング：回答傾向や出力形式の調整
• ワークフローとAIエージェント：業務自動化
• APIとMCP：外部システムとの接続
• ハルシネーション、グラウンディング、ガードレール：品質とリスク管理

• AIへ何を指示するか
• 何の情報を参照させるか
• どの処理を自動化するか
• どの外部ツールと接続するか
• どこで人間が確認するか
• どのように権限とリスクを管理するか

生成AIの導入について相談する

生成AIの導入では、新しい用語や機能を増やすことよりも、自社のどの業務を、どの情報と仕組みで改善するかを整理することが重要です。

RAGやAIエージェントが本当に必要か分からない場合や、現在の業務をどこまで自動化できるか判断できない場合は、次の情報を整理したうえでご相談ください。