রেসপন্সিবল AI ফ্রেমওয়ার্ক — নীতি থেকে প্র্যাকটিসে

১ · নীতি-প্র্যাকটিস গ্যাপ

নীতি-প্র্যাকটিস গ্যাপ (Principle-Practice Gap)নীতি-প্র্যাকটিস গ্যাপএকটি প্রতিষ্ঠানের ঘোষিত উচ্চ-স্তরের নৈতিক নীতি এবং তার প্রকৃত দৈনন্দিন সিদ্ধান্ত/প্রসেসের মধ্যে ফাঁক — যখন নীতি কাগজে থাকে কিন্তু কোনো নির্দিষ্ট প্রসেস, দায়িত্ব বা পরিমাপযোগ্য চেকপয়েন্টে রূপান্তরিত হয়নি। হলো একটি সুপরিচিত সমস্যা: "fairness", "accountability", "transparency", "safety" — এই শব্দগুলো প্রায় প্রতিটি প্রতিষ্ঠানের AI নীতি-নথিতে থাকে, কিন্তু এগুলো নিজে থেকে কোনো নির্দিষ্ট আচরণ নির্ধারণ করে না। "আমাদের মডেল ফেয়ার হবে" বলাটা সহজ; কিন্তু কে এটা যাচাই করবে, কখন, কোন মেট্রিক দিয়ে, এবং কী হলে ডিপ্লয়মেন্ট থামানো হবে — এই প্রশ্নগুলোর উত্তর ছাড়া নীতিটি কার্যত অর্থহীন থেকে যায়।

এই কোর্সের M2-M10 মূলত নীতিগত ভিত্তি তৈরি করেছে — কোন ফ্রেমওয়ার্ক (M2), কোন মেট্রিক্স (M3), কোন নিয়ন্ত্রণ কাঠামো (M9) প্রাসঙ্গিক। এই পাঠ থেকে শুরু হওয়া M11 সেই ভিত্তিকে সাংগঠনিক প্রসেসে রূপান্তর করার প্রশ্নে মনোযোগ দেয় — একটি টিম বাস্তবে কী করে যাতে নীতি শুধু কাগজে না থেকে সত্যিই প্রয়োগ হয়।

২ · নীতি থেকে চেকপয়েন্টে যাওয়ার প্যাটার্ন

একটি বিমূর্ত নীতিকে কার্যকর করার সাধারণ পদ্ধতি হলো এটিকে কয়েকটি নির্দিষ্ট, যাচাইযোগ্য চেকপয়েন্টে ভাঙা — প্রতিটি চেকপয়েন্ট একটি স্পষ্ট প্রশ্ন যার উত্তর হ্যাঁ/না হতে পারে ("ডিপ্লয়মেন্টের আগে সাবগ্রুপ অনুযায়ী ফেয়ারনেস মেট্রিক্স পরীক্ষা করা হয়েছে কি?")। নিচের ডায়াগ্রামে দেখানো হয়েছে কীভাবে একটি উচ্চ-স্তরের নীতি একাধিক কংক্রিট চেকপয়েন্টে ভেঙে যায়, এবং সেগুলো মিলে একটি পরিমাপযোগ্য কভারেজ স্কোরে একত্রিত হয়।

৩ · বাস্তব প্র্যাকটিসের উদাহরণ

৪ · একটি সত্যিকারের ডেমো — কভারেজ স্কোর গণনা

ধরা যাক একটি হাইপোথেটিক্যাল প্রতিষ্ঠানের চারটি ঘোষিত নীতি আছে — ফেয়ারনেস, অ্যাকাউন্টেবিলিটি, ট্রান্সপারেন্সি ও সেফটি — প্রতিটির একটি আপেক্ষিক গুরুত্ব (ওজন) আছে, এবং প্রতিটির নিচে কয়েকটি কংক্রিট চেকপয়েন্ট আছে যা বাস্তবে পালিত হয়েছে কি না তা রেকর্ড করা আছে। প্রতিটি নীতির কভারেজ হলো তার পালিত চেকপয়েন্টের অনুপাত, আর সামগ্রিক স্কোর হলো ওজন দিয়ে গুণ করা গড়:

$$\text{Coverage Score} = \sum_i w_i \cdot c_i \quad \text{যেখানে } \sum_i w_i = 1$$

এখানে $c_i$ হলো $i$-তম নীতির চেকপয়েন্ট-কভারেজ (০ থেকে ১-এর মধ্যে) এবং $w_i$ তার ওজন। নিচের কোড সেলে এটি সরাসরি গণনা করা হয়েছে — কোনো সংখ্যা হার্ডকোড করা নেই।

principles = [
    {"name": "ন্যায্যতা (Fairness)", "weight": 0.30},
    {"name": "অ্যাকাউন্টেবিলিটি (Accountability)", "weight": 0.25},
    {"name": "স্বচ্ছতা (Transparency)", "weight": 0.25},
    {"name": "সেফটি (Safety)", "weight": 0.20},
]

# প্রতিটি নীতির জন্য কংক্রিট চেকপয়েন্ট -- প্রতিষ্ঠানটি বাস্তবে করেছে কি না (True/False)
checkpoints = {
    "ন্যায্যতা (Fairness)": [
        ("ডিপ্লয়মেন্টের আগে সাবগ্রুপ অনুযায়ী ফেয়ারনেস মেট্রিক্স পরীক্ষা", True),
        ("প্রশিক্ষণ ডেটার ডেমোগ্রাফিক কভারেজ অডিট", True),
        ("ডিজাইন রিভিউতে বায়াস-চেকলিস্ট বাধ্যতামূলক", False),
    ],
    "অ্যাকাউন্টেবিলিটি (Accountability)": [
        ("প্রতিটি মডেলের জন্য নামসহ দায়িত্বশীল ওনার নির্ধারিত", True),
        ("প্রতিটি সিদ্ধান্তের জন্য অডিট-ট্রেইল লগিং", True),
        ("এসকেলেশন পাথ ডকুমেন্টেড ও পরীক্ষিত", False),
    ],
    "স্বচ্ছতা (Transparency)": [
        ("মডেল কার্ড প্রকাশিত (M5 দেখুন)", True),
        ("ব্যবহারকারীকে AI সিদ্ধান্তের বিষয়ে অবহিত করা হয়", False),
        ("সীমাবদ্ধতা প্রকাশ্যে ডকুমেন্টেড", False),
    ],
    "সেফটি (Safety)": [
        ("ডিপ্লয়মেন্টের আগে রেড-টিমিং সম্পন্ন (L48 দেখুন)", True),
        ("প্রোডাকশনে চলমান মনিটরিং ও অ্যালার্ট", True),
        ("ইনসিডেন্ট রেসপন্স প্ল্যান বিদ্যমান", True),
    ],
}

def coverage(name):
    items = checkpoints[name]
    done = sum(1 for _, ok in items if ok)
    return done / len(items)

total_score = 0.0
print("নীতি অনুযায়ী কভারেজ:\n")
for p in principles:
    cov = coverage(p["name"])
    total_score += cov * p["weight"]
    print(f"{p['name']}: কভারেজ {cov * 100:.1f}%  (ওজন {p['weight']:.2f})")

print(f"\nসামগ্রিক Principle-to-Practice Coverage Score: {total_score * 100:.1f}%")

weak = [p["name"] for p in principles if coverage(p["name"]) < 0.7]
print(f"দুর্বল ক্ষেত্র (৭০%-এর নিচে কভারেজ): {weak if weak else 'কোনোটি নেই'}")