AIワークフロー設計2026.08.01

fail-closedなAIワークフロー設計

AIワークフローで危険なのは、明確なエラーだけではありません。出典が取れない、検証結果が返らない、外部サービスの状態が分からないときに「たぶん大丈夫」と進むことです。

fail-closedは、異常や不明を検知したら安全側で止める設計です。止める条件と再開手順を先に決め、正常時だけ自動化の速度を出します。

「失敗したら止める」だけでは足りない

例外が出なくても、検索結果が0件、レビュー応答が空、価格の取得時点が古い状態は業務上の失敗です。正常データとして次工程へ渡すと、後段のAIが不足を推測で埋めます。

各工程は完了、再試行可能、人の確認待ち、情報不足、恒久失敗を区別します。必要条件を満たした完了状態だけを次へ渡します。

工程ごとに受け付ける入力、成功条件、停止理由、次に進める状態を定義します。状態遷移はAIの自由文ではなく決定的なルールで判定します。

外部APIがタイムアウトしても、相手側では処理が完了している場合があります。送信、公開、決済をそのまま再試行すると重複します。

実行単位に一意なキーを付け、完了状態を照合します。止まった画面には、どの工程で何が不足し、誰が何をすれば再開できるかを表示します。