GPT (Generative Pre-trained Transformer)
OpenAIによる、Transformerをベースとした大規模言語モデル(2018年)

LLM (Large Language Model:大規模言語モデル)
大規模なデータセット(膨大な文章データ)で訓練された言語モデル
人間の言葉を理解し、自然な文章を作り出すAIの仕組み
認知された契機など
BERT
ChatGPT(OpenAIが公開(2022年11月))
Claude
Geminiなど
GPT

RAG (Retrieval-Augmented Generation、検索拡張生成)
LLMが答えを作る前に、外部DBから関係のある情報を検索して渡す技術
LLMは、学習時点までの知識に限定される。
仕組み
質問:ユーザーがAIに質問
検索:外部DBから似た意味の文章を探す。
統合:質問と見つけた文章をまとめる。
LLMがその情報をもとに文章を作成

Transformer
深層学習モデル (アルゴリズム)
RNN、LSTM(NN)と同様だが、並列化でトレーニング時間が短縮
主要なディープラーニングフレームワークに実装
TensorFlow
PyTorch
参考