AI の基礎とリテラシー #1
ポイント
AI ツールの分類は一度決めたら終わりではなく、ツールの中身が変わったら見直します。
・承認済みの SaaS に生成 AI の機能が後から追加されることがある。
・追加された機能のデータの扱いは、承認時の審査に含まれていない。
「承認済みの SaaS に AI 機能が加わった」と出たら、ベンダーへの確認だけで利用を案内することや、ポリシーの改定・パイロットより先に、追加された機能の審査と分類の見直しを選びます。
ポイント
生成 AI の出力が一般的な内容になり、業務で必要な点が拾われないときは、プロンプトにコンテキスト (入力が何の文書か) とタスクの説明 (何のための作業で、何を拾うか) を加えます。
・「要約して」だけの指示で中身が一般的 → 指示の不足を疑う
・要約を重ねることや資料の追加は、何を拾うかが伝わっていない問題を解決しない
・温度などの生成設定 (推論パラメータ) を変えても、何を拾うかは伝わらない
ポイント
生成 AI に学習用のラベルを付けさせたら、使う前にまず一部を人の判断と照合します。
・照合で誤りが少なく、影響も小さい → 分かった限界 (誤りやすい区分など) を記録したうえで使います。
・誤りが多い・誤りの影響が大きい → 人によるラベル付けと、その品質管理に切り替えます。
照合せずに学習へ進み、評価用のラベルも同じ生成 AI で付けていると、評価でも同じ誤りが正解として扱われます。そのため、評価の段階では問題に気付けません。
ポイント
検索拡張生成 (RAG) は、質問に関係する箇所を検索し、その内容をもとに回答します。
・得意: 最新の社内情報や独自の情報に基づく回答、根拠となる文書 (出典) の提示。
・不得意: 文書全体からの要約 (検索で取り出されるのは一部の箇所だけ)。
取り込みの漏れなら特定の章の質問に答えられず、同期の遅れなら古い内容が返り、ハルシネーションならレポートにない内容が混じります。症状と合わない理由を消して選びます。
ポイント
AI ソリューションの種別は「何を作るか・何をするか」で分かれます。
・生成 AI のアシスタント: 回答や下書きを作る。人が確認して使う。
・固定のワークフロー: 決めた順序を毎回実行する。手順が常に同じ業務に向く。
・AI エージェント: 次の行動を判断し、ツールを使って手続きまで実行する。
「依頼ごとに手順が変わる」「システム上の手続きまで完了させたい」がそろったら AI エージェントを選びます。