AI の基礎とリテラシー #2
ポイント
社内で AI エージェントの展開が増えたら、一元化されたレジストリ (エージェントの台帳) で全社のエージェントを把握します。
・記録する項目: 機能・権限・参照するデータ・責任者・事業目的など。
・開発は各チームのまま進められ、全社での把握に必要な情報だけを一か所に集められる。
「どのエージェントが何にアクセスし、誰が責任者か分からない」と出たら、レジストリへの登録を選びます。
ポイント
生成 AI の利用が広がると、プロンプトの管理の仕方が品質を左右します。
・テンプレート: 入れ替えられる部分を持つ、用途ごとのプロンプトの型 (回答文の作成・要約・分類など)。
・一元管理と版の記録 (バージョン管理): 全社で同じテンプレートを使い、変更を記録する。
・テストデータ (評価用に取り分けたテストセット): 変更の前後を同じ入力で比べ、改善かどうかを確かめる。
「部門ごとにプロンプトがばらばらで品質がそろわず、改善も確かめられない」と出たら、用途別テンプレートの一元管理を選びます。
ポイント
不正の検知では、正解として使える不正の事例が十分にあるかどうかで方式を選びます。
・過去の不正事例が十分にあり、手口が繰り返される → 事例を正解にした教師あり学習 (分類)
・不正の事例が少なく、通常と違うものに気付きたい → 通常のパターンを学ぶ教師なし学習 (異常検出)
・手口が少なく安定し、条件で判定できる → ルールベース
今の保留の記録を正解のラベルにすると、モデルは今の条件を再現するだけで、条件が見逃している手口は見つかりません。「不正の事例がほとんどない」「通常の取引は大量にある」「今の条件に当てはまらない手口も見つけたい」という記述は、異常検出を選ぶ手がかりです。
ポイント
AI の管理に関する国際規格 (ISO/IEC 42001) の認証は、認証を受けた組織のプロセスが対象です。
・AWS の認証 → AWS 自身の AI の管理のプロセスが対象。利用する企業は自動的には認証されない
・自社の認証 → AI の利用と管理に関する自社の手順と体制を整え、自社として審査を受ける (AWS の認証は取り組みを進めやすくする)
「クラウド事業者が認証済みだから自社も認証済み」と考える選択肢に注意しましょう。
ポイント
文書を検索して回答する生成 AI では、検索対象のデータの鮮度が回答の正確さを左右します。
・改定前・古い内容で回答する → 検索対象を更新し、文書の追加・変更・削除のたびに同期します。
・内容は最新だが、文体・形式が業務に合わない → プロンプトの工夫を試し、それでも要件を満たせなければファインチューニングを検討します。
根拠のデータが古いままでは、モデルを調整しても、変わった値だけをプロンプトに書き足しても、ほかの箇所や次の改定で同じ問題が起きます。