| Index A I | 生成AI 用語 |
GPT (Generative Pre-trained Transformer) OpenAIによる、Transformerをベースとした大規模言語モデル(2018年)LLM (Large Language Model:大規模言語モデル) 大規模なデータセット(膨大な文章データ)で訓練された言語モデル 人間の言葉を理解し、自然な文章を作り出すAIの仕組み 認知された契機など BERT ChatGPT(OpenAIが公開(2022年11月)) Claude Geminiなど GPTRAG (Retrieval-Augmented Generation、検索拡張生成) LLMが答えを作る前に、外部DBから関係のある情報を検索して渡す技術 LLMは、学習時点までの知識に限定される。 仕組み 質問:ユーザーがAIに質問 検索:外部DBから似た意味の文章を探す。 統合:質問と見つけた文章をまとめる。 LLMがその情報をもとに文章を作成Transformer 深層学習モデル (アルゴリズム) RNN、LSTM(NN)と同様だが、並列化でトレーニング時間が短縮 主要なディープラーニングフレームワークに実装 TensorFlow PyTorch 参考 |
| All Rights Reserved. Copyright (C) ITCL | |