トークン・パラメータ・埋め込み・エポックの違い
生成 AI の基本用語は『何を数えているか』で区別します。
・トークン: テキストの最小処理単位。入出力量・料金・コンテキストウィンドウの基準。
・パラメータ: モデル内部の重みの数(モデル規模)。
・埋め込み: 意味のベクトル表現。
・エポック: 学習の反復回数。
『課金・入力上限の単位』と来たらトークンです。
生成 AI の基本用語は『何を数えているか』で区別します。
・トークン: テキストの最小処理単位。入出力量・料金・コンテキストウィンドウの基準。
・パラメータ: モデル内部の重みの数(モデル規模)。
・埋め込み: 意味のベクトル表現。
・エポック: 学習の反復回数。
『課金・入力上限の単位』と来たらトークンです。