膨大な文章データでディープラーニングによる事前学習を行った言語モデル。あらかじめ人が与えた言語規則に基づく従来の自然言語処理と異なり、まるで人間が書いたかのような自然な文章の生成が行える。オープンAI社のGPT、グーグル社のBERT (バート) やPaLM2 (パームツー) 、メタ社のLLaMa (ラマ) などがある。対話型AIなどの生成AIで利用される。LLM(large language model)。
出典:gooニュース
日経新聞、経済情報特化の大規模言語モデル「NiLM」開発
日本経済新聞社は、経済情報に特化した大規模言語モデル「NIKKEI Language Model(NiLM・にるむ)」を開発した。
メタが最新大規模言語モデル「ラマ3」初期バージョンを投入
Katie Paul[ニューヨーク 18日 ロイター] - 米メタ・プラットフォームズは18日、最新の大規模言語モデル「Llama(ラマ)3」の初期バージョンをリリースした。今後は対話型人工知能(AI)の「メタAI」の基盤となる。
OpenAIの大規模言語モデル、YouTubeでトレーニング中?
その頭脳である大規模言語モデルGPT。最新モデルGPT-4のトーレニングにおいて、YouTubeの動画100万時間分の文字起こしデータが使用されていると、ニューヨーク・タイムズ紙が報じています。
もっと調べる