《変化させるものの意》2017年に米国グーグル社が発表したディープラーニングの学習モデル。従来のRNNのように文章を冒頭から逐次処理するのではなく、並列処理によって大量のデータを効率よく訓練することが可能になった。文章中の重要な単語を選別して重みづけする注意機構の導入により、離れた場所に登場する単語同士の結びつきを正しく扱う能力が飛躍的に向上。文章の生成・要約、機械翻訳などに用いる、対話型AIの大規模言語モデルに向く。また、画像から特徴的な要素を抽出して別の画像に変換する基盤モデルとして、画像生成AIにも適用されている。
