ব্ল্যাক-বক্স মডেল ও এক্সপ্লেইনেবিলিটির চ্যালেঞ্জ

১ · ব্ল্যাক-বক্স মডেল কী

ব্ল্যাক-বক্স মডেলBlack-box modelএমন একটি মডেল যার ইনপুট ও আউটপুটের মাঝের অভ্যন্তরীণ যুক্তি এত জটিল যে মানুষের পক্ষে সরাসরি পড়ে বোঝা কার্যত অসম্ভব — মডেলটি "কী" আউটপুট দেয় তা দেখা যায়, কিন্তু "কেন" দেয় তা সহজে বোঝা যায় না। বলতে বোঝায় এমন একটি সিস্টেম যেখানে ইনপুট দিলে আউটপুট পাওয়া যায়, কিন্তু মাঝের সিদ্ধান্ত-প্রক্রিয়া মানুষের কাছে অস্বচ্ছ। গভীর নিউরাল নেটওয়ার্ক, বড় এনসেম্বল মডেল (যেমন শত শত ডিসিশন ট্রি একসাথে), এবং বড় ভাষা মডেল সাধারণত এই শ্রেণিতে পড়ে — এগুলোতে লাখ থেকে শুরু করে কোটি কোটি পর্যন্ত সংখ্যা-প্যারামিটার থাকতে পারে, যেগুলো প্রশিক্ষণের সময় ধীরে ধীরে সমন্বিত হয়। এই প্যারামিটারগুলোর কোনোটিরই আলাদা আলাদা মানুষ-বোধ্য অর্থ নেই — "প্যারামিটার নম্বর ৪৫,২৩১ এর মান ০.০০৩৭" এই তথ্যটি একা কোনো ব্যাখ্যা দেয় না।

২ · একটি সত্যিকারের ইন্টারপ্রিটেবল মডেল

নিচের কোড সেলে একটি ছোট ঋণ-অনুমোদন সিদ্ধান্ত মডেল তৈরি করা হয়েছে — এটি কোনো "ব্ল্যাক-বক্স" নয়, বরং একটি স্পষ্ট, ক্রমানুসারে-যাচাই-হওয়া রুলের তালিকা। প্রতিটি আবেদনকারীর জন্য কোন রুলটি সক্রিয় হয়ে সিদ্ধান্ত দিলো তা সরাসরি প্রিন্ট করা হয়েছে, এবং মডেলের মোট রুল-সংখ্যা সত্যিই গণনা করে দেখানো হয়েছে।

# একটি সম্পূর্ণ ইন্টারপ্রিটেবল, রুল-ভিত্তিক ঋণ-অনুমোদন মডেল
# প্রতিটি রুল একটি (বর্ণনা, শর্ত-ফাংশন, সিদ্ধান্ত) -- ক্রমানুসারে যাচাই করা হয়

rules = [
    ("রুল ১: debt_ratio > 0.5 হলে সরাসরি প্রত্যাখ্যান",
     lambda a: a["debt_ratio"] > 0.5,
     "REJECT"),
    ("রুল ২: income >= 50000 এবং credit_history_years >= 3 হলে অনুমোদন",
     lambda a: a["income"] >= 50000 and a["credit_history_years"] >= 3,
     "APPROVE"),
    ("রুল ৩: income >= 30000 এবং debt_ratio < 0.3 হলে অনুমোদন",
     lambda a: a["income"] >= 30000 and a["debt_ratio"] < 0.3,
     "APPROVE"),
    ("রুল ৪ (ডিফল্ট): উপরের কোনো রুল না মিললে প্রত্যাখ্যান",
     lambda a: True,
     "REJECT"),
]

def decide(applicant):
    for description, condition, decision in rules:
        if condition(applicant):
            return decision, description
    return "REJECT", "কোনো রুল মেলেনি (এটি ঘটার কথা নয়, কারণ শেষ রুলটি সবসময় সত্য)"

applicants = [
    {"name": "আবেদনকারী ১", "income": 55000, "debt_ratio": 0.2, "credit_history_years": 4},
    {"name": "আবেদনকারী ২", "income": 32000, "debt_ratio": 0.6, "credit_history_years": 1},
    {"name": "আবেদনকারী ৩", "income": 35000, "debt_ratio": 0.25, "credit_history_years": 1},
    {"name": "আবেদনকারী ৪", "income": 20000, "debt_ratio": 0.4, "credit_history_years": 0},
]

print("প্রতিটি আবেদনকারীর সিদ্ধান্ত ও সঠিক কারণ:\n")
for a in applicants:
    decision, description = decide(a)
    print(f"{a['name']} (income={a['income']}, debt_ratio={a['debt_ratio']}, credit_history_years={a['credit_history_years']})")
    print(f"  -> সিদ্ধান্ত: {decision}")
    print(f"  -> কারণ: {description}\n")

print(f"এই মডেলে মোট রুলের সংখ্যা: {len(rules)}")
print("প্রতিটি রুল মানুষ সরাসরি পড়ে, হাতে-কলমে যাচাই করে বুঝতে পারে -- এটাই ইন্টারপ্রিটেবিলিটি।")

৩ · কেন এই টানাপোড়েন গুরুত্বপূর্ণ

প্র্যাকটিসে প্রায়ই একটি সাধারণ টানাপোড়েন দেখা যায় (এটি একটি সর্বজনীন নিয়ম নয়, বরং একটি বহুল-পর্যবেক্ষিত প্রবণতা) — সরল, ইন্টারপ্রিটেবল মডেল (রুল-ভিত্তিক সিস্টেম, ছোট ডিসিশন ট্রি, লিনিয়ার মডেল) কখনো কখনো জটিল প্যাটার্ন ধরতে না পারায় কম নির্ভুল হতে পারে, আবার জটিল ব্ল্যাক-বক্স মডেল (গভীর নিউরাল নেটওয়ার্ক, বড় এনসেম্বল) বেশি নির্ভুল হলেও তার সিদ্ধান্তের কারণ ব্যাখ্যা করা কঠিন হয়ে যায়। কোন পরিস্থিতিতে কোনটি অগ্রাধিকার পাবে তা নির্ভর করে ঝুঁকির মাত্রার উপর — উদাহরণস্বরূপ, স্বাস্থ্যসেবা বা ফৌজদারি ন্যায়বিচারের মতো উচ্চ-ঝুঁকির সিদ্ধান্তে ব্যাখ্যাযোগ্যতার দাবি প্রায়ই অ্যাকুরেসির সামান্য ক্ষতির চেয়েও বেশি গুরুত্বপূর্ণ বিবেচিত হয়।