生成AIの​限界と、​人が​確認する​工程の設計｜誤りが​起きても​破綻しない​仕組み

生成AIの​出力は、​不正確または​不完全で​ある​可能性が​あります。​これは​設定や​使い方で​完全に​なくせる​ものでは​ありません。​だから​こそ、​確認工程の設計が​重要に​なります。

AIが​苦手な​こと

1. 事実の正確性（存在しない​情報を​もっと​もらしく​出すことがある）
2. 最新情報（学習時点以降の​変更を​反映していない​場合が​ある）
3. 社内固有の文脈（明示していない​前提を​汲めない）
4. 数値の一貫性（計算や​集計の​再現性が​保証されない）

「どこで​人が​見るか」を​先に​決める

工程全体を​自動で​流す設計は、​一見​効率的ですが、​誤りが​最後まで​通ってしまいます。​次の​いずれかに​確認を​置きます。

確認する​人の​負荷を​上げない

確認工程を​入れても、​確認​その​ものに​時間が​かかると​意味が​ありません。​次の​工夫で​負荷を​下げます。

• 不明な​点は​推測させず「不明」と​出力させる
• 数値が​必要な​箇所は​空欄に​して​人に​埋めさせる
• 出力の​根拠と​なった​箇所を​併記させる

破綻しない設計とは

誤りを​ゼロに​する設計ではなく、​誤りが​起きても​業務が​止まらない設計を​指します。

• 誤りが​下流に​伝播しない​（確認の​位置を​分ける）
• 元の​状態に​戻せる​（履歴を​残す）
• 誰が​確認したかが​分かる​（責任の​所在）

全社​展開の​前に

限界を​共有しないまま​展開すると、「AIが​言ったから」で​誤りが​通ってしまうことがあります。​導入時の​説明に、​限界と​リスクを​必ず​含めます。

まとめ

生成AIの​限界は​前提と​して​受け入れ、​確認工程の​位置で​吸収します。​株式会社スリーラボ​（3LAB Inc.）は​出力の​正確性を​保証しませんが、​誤りが​起きても​業務が​破綻しないよう、​人が​確認する​工程を設計に​組み込みます。​この​考え方はスリーラボについての​ Safety に​対応しています。​詳しくはよくあるご質問も​ご覧ください。