একটি প্রতিষ্ঠানের জন্য এথিক্স রিভিউ ফ্রেমওয়ার্ক তৈরি করা

১ · কেন শুধু নীতি যথেষ্ট নয়

অনেক প্রতিষ্ঠান "রেসপনসিবল AI প্রিন্সিপল" ডকুমেন্ট প্রকাশ করে — ফেয়ারনেস, স্বচ্ছতা, প্রাইভেসি, জবাবদিহিতা ইত্যাদি নীতি তালিকাভুক্ত করে। কিন্তু একটি নীতি ডকুমেন্ট নিজে থেকে কিছুই আটকায় না — এটি কার্যকর হয় শুধুমাত্র তখনই যখন এর পেছনে একটি প্রক্রিয়া থাকে: কোন মুহূর্তে কে থামিয়ে জিজ্ঞাসা করবে "আমরা কি নীতি অনুসরণ করছি?", কে উত্তর দেওয়ার দায়িত্বে থাকবে, এবং উত্তর অসন্তোষজনক হলে কী হবে। এই পাঠে আমরা এমন একটি প্রক্রিয়া ডিজাইন করব — তিনটি অংশে: ইনটেক, রিভিউ ক্রাইটেরিয়া, ও এসকেলেশন।

২ · ইনটেক — কোন প্রকল্পের রিভিউ দরকার

একটি বড় প্রতিষ্ঠানে প্রতি বছর শত শত ছোট-বড় AI/মেশিন-লার্নিং প্রকল্প শুরু হতে পারে — একটি ইমেইল সাবজেক্ট-লাইন অপ্টিমাইজার থেকে শুরু করে একটি ঋণ-অনুমোদন মডেল পর্যন্ত। প্রতিটির জন্য একই ভারী রিভিউ প্রক্রিয়া চাপালে দুটি সমস্যা হয়: (ক) রিভিউ বোর্ড দ্রুত ওভারলোডেড হয়ে পড়ে ও গুরুত্বপূর্ণ প্রকল্পে যথেষ্ট সময় দিতে পারে না, (খ) দলগুলো প্রক্রিয়াটিকে "আমলাতান্ত্রিক বাধা" হিসেবে দেখে এড়িয়ে যাওয়ার উপায় খুঁজতে শুরু করে। সমাধান হলো একটি ট্রায়াজ ধাপ — কয়েকটি ঝুঁকি-নির্দেশক প্রশ্নের ভিত্তিতে দ্রুত সিদ্ধান্ত নেওয়া যে কোন প্রকল্পের সম্পূর্ণ রিভিউ দরকার, কোনটির হালকা-স্পর্শ (lightweight) চেক যথেষ্ট, ও কোনটির আপাতত কোনো আনুষ্ঠানিক রিভিউয়েরই দরকার নেই।

৩ · রিভিউ ক্রাইটেরিয়া — কী প্রশ্ন করা হবে

যে প্রকল্পগুলো সম্পূর্ণ রিভিউয়ের আওতায় পড়ে, তাদের জন্য প্রশ্নগুলো এলোমেলো হওয়া উচিত নয় — এই কোর্স জুড়ে শেখা প্যাটার্নগুলো সরাসরি পুনঃব্যবহার করা যায়: স্টেকহোল্ডার বিশ্লেষণ (M1 — কারা প্রভাবিত?), ফেয়ারনেস মেট্রিক্স (M3 — গ্রুপভেদে ফলাফল কতটা সমান?), প্রাইভেসি/k-অ্যানোনিমিটি (M4 — প্রশিক্ষণ ডেটায় re-identification ঝুঁকি আছে কি?), এক্সপ্লেইনেবিলিটি (M5 — সিদ্ধান্তের কারণ ব্যাখ্যা করা যায় কি?), ও স্পেসিফিকেশন-গেমিং চেক (M6 — মডেল যা অপ্টিমাইজ করছে তা প্রকৃত লক্ষ্যের সাথে মেলে কি?)। একটি রিভিউ টেমপ্লেট বানানোর সবচেয়ে বড় সুবিধা হলো — প্রতিটি নতুন প্রকল্পে নতুন করে "কী জিজ্ঞাসা করব" ভাবতে হয় না, বরং একটি প্রমাণিত চেকলিস্ট প্রয়োগ করা যায়।

৪ · এসকেলেশন পথ

একটি রিভিউ বোর্ডের সিদ্ধান্তের প্রকৃত ওজন থাকে তখনই, যখন তা উপেক্ষা করা কঠিন হয়। এসকেলেশন পথের তিনটি মূল উপাদান: (১) রিভিউ বোর্ডের সিদ্ধান্ত (অনুমোদন/শর্তসাপেক্ষ অনুমোদন/প্রত্যাখ্যান) কোথায় ডকুমেন্ট হয় ও কে দেখতে পারে, (২) একটি প্রকল্প দল যদি রিভিউ বোর্ডের সাথে দ্বিমত পোষণ করে, তাহলে চূড়ান্ত সিদ্ধান্ত কার — সাধারণত এটি একজন সিনিয়র এক্সিকিউটিভ পর্যন্ত উঠতে পারা উচিত, বোর্ডকে পাশ কাটিয়ে না গিয়ে, (৩) ডিপ্লয়মেন্টের পরে যদি নতুন প্রমাণ পাওয়া যায় (যেমন প্রোডাকশনে ফেয়ারনেস-গ্যাপ প্রত্যাশার চেয়ে বেশি), তা রিপোর্ট করার ও পুনরায় রিভিউ চাওয়ার একটি স্পষ্ট পথ থাকা আবশ্যক — এল৫০-এ কভার করা হুইসেলব্লোয়িং সুরক্ষার সাথে এটি সরাসরি সম্পর্কিত।

৫ · একটি সত্যিকারের ইনটেক-ট্রায়াজ ফাংশন

নিচের কোড সেলে ছয়টি ঝুঁকি-নির্দেশক দিয়ে (প্রতিটি ০.০-১.০ স্কেলে) একটি ওয়েটেড ট্রায়াজ স্কোর গণনা করা হয়েছে — ওয়েটগুলো ১.০-এ যোগফল হয় বলে assert করা হয়েছে। স্কোরের ভিত্তিতে পাঁচটি হাইপোথেটিক্যাল প্রকল্পকে তিনটি স্তরে (সম্পূর্ণ রিভিউ / হালকা-স্পর্শ / রিভিউ প্রয়োজন নেই) ভাগ করা হয়েছে — কোনো সিদ্ধান্তই হাতে লেখা নয়, সবই থ্রেশহোল্ড-বিপরীতে গণনা করা স্কোর থেকে।

# ওয়েট -- ১.০-এ যোগফল হওয়া আবশ্যক
WEIGHTS = {
    "high_stakes": 0.30,           # সিদ্ধান্ত কি মানুষের জীবন/অর্থ/সুযোগে বড় প্রভাব ফেলে?
    "protected_group_impact": 0.20, # সুরক্ষিত/প্রান্তিক গোষ্ঠীর উপর অসম প্রভাবের সম্ভাবনা কতটুকু?
    "scale": 0.15,                  # কত মানুষ প্রভাবিত হবে?
    "automation_level": 0.15,       # সিদ্ধান্ত কতটা সম্পূর্ণ স্বয়ংক্রিয় (মানুষ-ইন-দ্য-লুপ ছাড়া)?
    "data_sensitivity": 0.10,       # ব্যবহৃত ডেটা কতটা সংবেদনশীল?
    "irreversibility": 0.10,        # ভুল সিদ্ধান্ত সংশোধন করা কতটা কঠিন?
}
assert abs(sum(WEIGHTS.values()) - 1.0) < 1e-9, "ওয়েট মোট ১.০ হতে হবে"

projects = [
    {"name": "AI লোন-অ্যাপ্রুভাল সিস্টেম",
     "high_stakes": 1.0, "protected_group_impact": 0.9, "scale": 0.9,
     "automation_level": 1.0, "data_sensitivity": 0.8, "irreversibility": 0.8},
    {"name": "কর্মী পারফরম্যান্স-মনিটরিং AI",
     "high_stakes": 0.8, "protected_group_impact": 0.5, "scale": 0.5,
     "automation_level": 0.7, "data_sensitivity": 0.7, "irreversibility": 0.6},
    {"name": "কাস্টমার-সাপোর্ট চ্যাটবট (সেন্টিমেন্ট রাউটিং)",
     "high_stakes": 0.3, "protected_group_impact": 0.2, "scale": 0.6,
     "automation_level": 0.8, "data_sensitivity": 0.4, "irreversibility": 0.2},
    {"name": "মার্কেটিং ইমেইল সাবজেক্ট-লাইন অপ্টিমাইজার",
     "high_stakes": 0.1, "protected_group_impact": 0.1, "scale": 0.4,
     "automation_level": 0.6, "data_sensitivity": 0.2, "irreversibility": 0.1},
    {"name": "ইন্টারনাল মিটিং-নোট সামারাইজার",
     "high_stakes": 0.1, "protected_group_impact": 0.0, "scale": 0.2,
     "automation_level": 0.5, "data_sensitivity": 0.2, "irreversibility": 0.1},
]

def triage_score(p):
    return sum(WEIGHTS[k] * p[k] for k in WEIGHTS)

FULL_REVIEW_THRESHOLD = 0.60
LIGHT_TOUCH_THRESHOLD = 0.30

def triage_tier(score):
    if score >= FULL_REVIEW_THRESHOLD:
        return "সম্পূর্ণ রিভিউ (Full Review)"
    elif score >= LIGHT_TOUCH_THRESHOLD:
        return "হালকা-স্পর্শ রিভিউ (Light-touch)"
    else:
        return "আনুষ্ঠানিক রিভিউ প্রয়োজন নেই (No review)"

print(f"{'প্রকল্প':42s} {'স্কোর':>7s}  ট্রায়াজ-স্তর")
scored = []
for p in projects:
    s = triage_score(p)
    tier = triage_tier(s)
    scored.append((p["name"], s, tier))
    print(f"{p['name']:42s} {s:7.2f}  {tier}")

full_review = [name for name, s, tier in scored if tier.startswith("সম্পূর্ণ")]
print(f"\nমোট {len(full_review)}টি প্রকল্পের সম্পূর্ণ রিভিউ প্রয়োজন: {full_review}")