膨大な文章データでディープラーニングによる事前学習を行った言語モデル。あらかじめ人が与えた言語規則に基づく従来の自然言語処理と異なり、まるで人間が書いたかのような自然な文章の生成が行える。オープンAI社のGPT、グーグル社のBERT (バート) やPaLM2 (パームツー) 、メタ社のLLaMa (ラマ) などがある。対話型AIなどの生成AIで利用される。LLM(large language model)。
出典:gooニュース
OpenAI、大規模言語モデル「GPT-4o」発表
米OpenAIは、最新の大規模言語モデル「GPT-4o」を発表した。AIチャットサービス「ChatGPT」に導入され、有料プランの加入者のほか、無料プランのユーザーも利用できる。有料プランの場合、送信できるメッセージ数の制限が緩和される。 GPT-4oの「o」は、「omni」に由来する。
スパコン富岳で大規模言語モデル 高い日本語能力、一般に公開
東京工業大や理化学研究所、富士通などのチームは10日、スーパーコンピューター「富岳」を活用し、日本語能力に優れた生成AIの基盤技術「大規模言語モデル」を独自に開発したと発表した。企業や大学がダウンロードして使用できるほか、一般市民も富士通のホームページから試すことができる。 大規模言語モデルは欧米や中国だけでなく、日本でも大学や企業が開発を進めている。
メタが最新大規模言語モデル「ラマ3」初期バージョンを投入
Katie Paul[ニューヨーク 18日 ロイター] - 米メタ・プラットフォームズは18日、最新の大規模言語モデル「Llama(ラマ)3」の初期バージョンをリリースした。今後は対話型人工知能(AI)の「メタAI」の基盤となる。
もっと調べる