AI の基礎とリテラシー #3
ポイント
AI プロジェクトの計画では、データの準備 (収集・クリーニング・ラベル付け・検証) が最も時間のかかる工程になりやすいと押さえておきます。
・データが未整理なのに、準備を短く見積もっている → 計画の段階でデータの準備に期間と予算を組み込みます。
・品質を確認済みのデータがすでに整っている → モデルの開発・選定に工数を集中できます。
・記録が紙のままで、まだデータ化されていない → データの収集 (データ化) の工程から計画に入れます。
・音声や文書などの非構造化データ → 分析の前に文字起こしや項目の取り出しの工程が要ります。データベースの構造化データにはこの工程が要らないため、同じ AI でも成果が出るまでの期間に差が出ます。
モデルの開発に資源を集中しても、データの品質が低ければ出力の品質は上がりません。
ポイント
AI の予算の問題は、構築して終わりではないことを押さえて解きます。AI の出力の品質は運用中にも変わりうるので、運用を始めた後も監視・改善・保守が続き、その費用は総コストの一部です。
・複数年の予算 → 構築費用 ＋ 利用料 ＋ 毎年の監視・改善・保守の費用
・構築の費用への予備費 → 構築の見積もりの不確かさへの備えで、毎年続く継続費用の代わりにはならない
・導入時の研修の費用 → 初年度にかかる費用で、運用中の費用ではない
・サーバーの購入費用 → モデルを自社の設備で動かすときの費用 (マネージドサービスの FM では不要)
構築費用と利用料だけの見積もりでは、運用を始めた後に毎年かかる監視・改善・保守の費用が抜け、総コストを少なく見積もることになります。
ポイント
FM を自社の業務に合わせる方法は、何を変えるかで見分けます。
・外部の知識源を検索してプロンプトに加える → RAG (FM は更新しない)
・ラベル付きの例でパラメーターを調整する → ファインチューニング
・ラベルなしのテキストで追加の学習を続ける → 継続事前学習
・プロンプトに例を含めて出力の形式を示す → フューショット
「質問のたびに探し出して付け足す」「FM は固定のまま」という場面は RAG を示します。
ポイント
データの種類は「表の形があるか」「タグやキーなどで項目名がデータ自身に付いているか」で見分けます。
・構造化データ: 行と列が決まった表 (基幹データベース・CSV)。事前に定めたスキーマに沿って項目が並びます。
・半構造化データ: XML・JSON のようにタグやキーで項目を自己記述します。表ではないものの、項目の数や並び順が違っても項目名で値を特定できます。
・非構造化データ: 文書・画像・音声。文書の項目が要るならインテリジェントドキュメント処理 (IDP) で取り出し、内容に基づいて答えるなら埋め込みと検索を使います。
IDP は、定型の帳票を含む紙・スキャン画像・PDF から項目を読み取る処理で、項目名が付いた XML・JSON には要りません。「表形式でない＝非構造化データ」と短絡させる選択肢に注意しましょう。
ポイント
FM の呼び出し方式は、プロンプトの送り方と応答の受け取り方で見分けます。
・リクエストのたびに送り、その場で受け取る → オンデマンド
・複数のプロンプトをまとめて送り、非同期で生成して保存先に出力する → バッチ推論
・購入した処理能力で処理量と速度を高める → Provisioned Throughput
・応答を生成中から順に受け取る → ストリーミング
「入力ファイルを置いて依頼し、完了後に出力ファイルを取得する」場面はバッチ推論を示します。