再試行もインターフェースの一部
タイムアウトだけでは、リクエストが失敗したかどうかは分かりません。次の試行は、その不確かさを前提に設計します。
クライアントがリクエストを送り、応答を待ったままタイムアウトする。クライアントからは何も起きなかったように見えても、サーバーでは処理が完了しているかもしれません。このずれが、単なる再試行を注文やメール、バックグラウンド処理の重複に変えてしまいます。
通信と処理結果を分ける
通信の成功と業務処理の成功は別の事実です。応答が届く前に接続が切れた場合、結果は「不明」です。それを確実な失敗として扱うと、次の行動を判断しにくくなります。
状態を変更する操作には、意図した操作を識別する方法を用意します。冪等性キーを使えば、同じ要求が繰り返し届いても、新しい処理ではなく同じ一件として扱えます。
契約を明確にする
キーを保持する期間、同じキーで異なる入力を送った場合の扱い、処理中に再試行が届いた場合の扱いを決めます。これらは保存方法だけの問題ではなく、インターフェースの一部です。
処理結果は操作の識別子と結び付けて保持します。最初の処理が完了していれば、その結果を返します。処理中なら、もう一つ起動するのではなく、処理中であることを明確に伝えます。
理由を持って待つ
再試行には回数や時間の上限と、適切な待機時間が必要です。バックオフで負荷を時間的に分散し、ジッターで多数のクライアントの再試行が重なるのを避けます。API の契約で待機時間が指定されているなら、それを優先します。
すべてのエラーを再試行するわけではありません。不正な入力には修正が必要で、認証や認可の失敗には別の対応が必要です。恒久的な拒否は、一秒待っても解決しません。
いつ止めるかが決まっていなければ、再試行の方針は完成していません。
結果が分からない場合を試す
処理が確定した後に応答だけが失われる場合、同じ要求が同時に二つ届く場合、キーの保持期間を過ぎてから再試行される場合を試します。成功する要求を順番に繰り返すだけでは見えない問題が分かります。
目標は、すべてのリクエストの成功を保証することではありません。もう一度試すことの意味を、予測できるようにすることです。