ব্ল্যাক-বক্স মডেল ও এক্সপ্লেইনেবিলিটি

# একটি সিন্থেটিক, ইলাস্ট্রেটিভ লোন-স্কোরিং ফাংশন -- বাস্তব কোনো ব্যাংক বা মডেল নয়
# ফিচারগুলো 0.0-1.0 স্কেলে নরমালাইজড ধরা হয়েছে

def score(features):
    income = features["income"]
    credit_score = features["credit_score"]
    debt_ratio = features["debt_ratio"]
    employment_years = features["employment_years"]

    base = (0.4 * income) + (0.3 * credit_score) - (0.5 * debt_ratio) + (0.1 * employment_years)
    # একটি অ-রৈখিক ইন্টারঅ্যাকশন টার্ম -- এই কারণেই শুধু সহগ পড়ে প্রভাব আন্দাজ করা কঠিন
    interaction = 0.05 * income * employment_years
    return base + interaction

# একটি সিন্থেটিক আবেদনকারীর বেসলাইন প্রোফাইল
baseline = {"income": 0.6, "credit_score": 0.7, "debt_ratio": 0.3, "employment_years": 0.5}
base_score = score(baseline)

delta = 0.1  # প্রতিটি ফিচারে যতটুকু "খোঁচা" (perturbation) দেওয়া হবে
importances = {}

for feature in baseline:
    perturbed = dict(baseline)
    perturbed[feature] = perturbed[feature] + delta
    new_score = score(perturbed)
    importances[feature] = abs(new_score - base_score)

ranked = sorted(importances.items(), key=lambda item: item[1], reverse=True)

print(f"বেসলাইন স্কোর: {base_score:.4f}\n")
print("ফিচার                 |Δ স্কোর| (প্রতি +0.1 পরিবর্তনে)")
for feature, importance in ranked:
    print(f"{feature:<18s}    {importance:.4f}")

print(f"\nসবচেয়ে প্রভাবশালী ফিচার: {ranked[0][0]}")