সার্কিট ব্রেকার ও রিট্রাই প্যাটার্ন

১ · Cascading Failure — একটি সুস্থ সার্ভিস কীভাবে ভেঙে পড়ে

মাইক্রোসার্ভিস আর্কিটেকচারে (L25) সার্ভিস A প্রায়ই সার্ভিস B-কে নেটওয়ার্কের মাধ্যমে কল করে। ধরুন সার্ভিস B হঠাৎ ধীরগতির হয়ে গেল বা ডাউন হয়ে গেল। এখন সার্ভিস A-এর প্রতিটি রিকোয়েস্ট B-এর জন্য অপেক্ষা করতে থাকবে — থ্রেড, কানেকশন-পুল স্লট, মেমরি সবই আটকে থাকবে। কিছুক্ষণের মধ্যেই A নিজেও তার সব রিসোর্স হারিয়ে ফেলবে এবং A-কে যারা কল করে তাদের কাছেও ধীর/অকার্যকর দেখাবে। এভাবে একটি সার্ভিসের সমস্যা পুরো সিস্টেমে ছড়িয়ে পড়ে — cascading failureCascading Failureএকটি সার্ভিসের ব্যর্থতা বা ধীরগতি ধীরে ধীরে তাকে কল করা প্রতিটি আপস্ট্রিম সার্ভিসকেও ব্যর্থ করে দেয় — সমস্যাটি শৃঙ্খলের মতো ছড়িয়ে পড়ে।।

২ · Circuit Breaker — তিনটি স্টেট

Circuit BreakerCircuit Breakerএকটি ওয়াপার যা একটি ডিপেন্ডেন্সিতে করা কলের ব্যর্থতার হার ট্র্যাক করে এবং ব্যর্থতা বেশি হলে সাময়িকভাবে কল করা বন্ধ করে দেয়, যাতে ব্যর্থ সার্ভিসটি সেরে ওঠার সুযোগ পায় ও কলকারী নিজে বেঁচে থাকে। ঘরের বৈদ্যুতিক সার্কিট ব্রেকারের মতোই কাজ করে — বিপদ দেখলে সার্কিট "কেটে" দেয়। এর তিনটি স্টেট আছে:

৩ · Retry Pattern — Exponential Backoff ও Jitter

নেটওয়ার্ক কল প্রায়ই ক্ষণস্থায়ী কারণে ব্যর্থ হয় (সাময়িক ভিড়, একটি প্যাকেট হারানো) — এক্ষেত্রে সাথে সাথে আবার চেষ্টা করলে সফল হওয়ার সম্ভাবনা থাকে। কিন্তু সরল, তাৎক্ষণিক রিট্রাই বিপজ্জনক হতে পারে — যদি হাজার হাজার ক্লায়েন্ট একসাথে একটি ওভারলোডেড সার্ভিসে সাথে সাথে রিট্রাই করে, তাহলে সেই retry stormRetry Stormঅনেক ক্লায়েন্ট একই সময়ে একটি সমস্যাগ্রস্ত সার্ভিসে বারবার তাৎক্ষণিক রিট্রাই পাঠালে সেই সার্ভিসের ওপর লোড আরও বেড়ে যায় — সেরে ওঠার বদলে সমস্যা আরও গভীর হয়। সার্ভিসটিকে সেরে ওঠার বদলে আরও গভীর সংকটে ফেলে দেয়। সমাধান দুটি কৌশলের মিশ্রণ:

৪ · Python দিয়ে Circuit Breaker ইমপ্লিমেন্ট করা

নিচের কোডে একটি CircuitBreaker ক্লাস আছে যা পরপর ব্যর্থতা গণনা করে, থ্রেশহোল্ড (৩) পার হলে Open হয়ে যায়, এবং একটি নির্দিষ্ট সিমুলেটেড সময় (timestamp) পার হওয়ার পর Half-Open হয়ে একটি টেস্ট কল অনুমতি দেয়। একটি flaky_service ফাংশন আছে যা প্রথম ৩ বার ব্যর্থ হয়, তারপর থেকে সফল হয় — বাস্তব সময়ের বদলে আমরা একটি সাজানো (deterministic) সময়ের তালিকা ব্যবহার করছি যাতে রেজাল্ট প্রতিবার একই থাকে।

class CircuitBreaker:
    def __init__(self, failure_threshold=3, recovery_timeout=5):
        self.failure_threshold = failure_threshold
        self.recovery_timeout = recovery_timeout
        self.failure_count = 0
        self.state = "CLOSED"
        self.opened_at = None

    def call(self, func, current_time):
        # Open অবস্থায়, timeout না পেরোনো পর্যন্ত সার্ভিসকে একদমই কল করা হয় না
        if self.state == "OPEN":
            if current_time - self.opened_at >= self.recovery_timeout:
                self.state = "HALF_OPEN"
            else:
                return "REJECTED (fast-fail, ব্রেকার OPEN)"

        try:
            func()
        except Exception:
            self.failure_count += 1
            if self.state == "HALF_OPEN" or self.failure_count >= self.failure_threshold:
                self.state = "OPEN"
                self.opened_at = current_time
            return f"FAILURE (state={self.state}, failures={self.failure_count})"
        else:
            self.failure_count = 0
            self.state = "CLOSED"
            return "SUCCESS (state=CLOSED)"


call_counter = {"n": 0}

def flaky_service():
    # প্রথম ৩ বার ব্যর্থ হয়, এরপর থেকে সবসময় সফল
    call_counter["n"] += 1
    if call_counter["n"] <= 3:
        raise RuntimeError("service unavailable")


breaker = CircuitBreaker(failure_threshold=3, recovery_timeout=5)
timeline = [0, 1, 2, 3, 10, 11]   # সিমুলেটেড সময় (সেকেন্ড)

for t in timeline:
    result = breaker.call(flaky_service, t)
    print(f"t={t:>2}  ->  {result}")

print()
print("সার্ভিসকে মোট কতবার আসলে কল করা হয়েছে:", call_counter["n"], "(t=3 সময় ব্রেকার OPEN থাকায় কল হয়নি)")