ইমপ্যাক্ট অ্যাসেসমেন্ট ও এথিক্স রিভিউ বোর্ড

১ · অ্যালগরিদমিক ইমপ্যাক্ট অ্যাসেসমেন্ট

অ্যালগরিদমিক ইমপ্যাক্ট অ্যাসেসমেন্ট (Algorithmic Impact Assessment, AIA)Algorithmic Impact Assessmentএকটি উচ্চ-ঝুঁকির AI/অ্যালগরিদমিক সিস্টেম ডিপ্লয় করার আগে পদ্ধতিগতভাবে করা একটি মূল্যায়ন — কারা প্রভাবিত হবে, কী ধরনের ক্ষতি হতে পারে, এবং সেই ক্ষতি কতটা গুরুতর ও সম্ভাব্য তা লিখিতভাবে নথিভুক্ত করা হয়। একটি সুপ্রতিষ্ঠিত, ব্যাপকভাবে ব্যবহৃত প্র্যাকটিস — বিশেষভাবে সরকারি সংস্থা ও উচ্চ-ঝুঁকির খাতে (স্বাস্থ্যসেবা, ফৌজদারি বিচার, আর্থিক সেবা) এই ধরনের মূল্যায়ন ডিপ্লয়মেন্টের একটি আনুষ্ঠানিক পূর্বশর্ত হিসেবে ব্যবহৃত হয়। এই কোর্সের M9-এ আলোচিত EU AI Act-এর (L38) উচ্চ-ঝুঁকি স্তরের সিস্টেমের জন্য এই ধরনের মূল্যায়ন-জাতীয় নথিপত্র একটি সাধারণ, বহুল-স্বীকৃত রেগুলেটরি প্রত্যাশা।

একটি AIA সাধারণত প্রশ্ন করে: এই সিস্টেম কাদের প্রভাবিত করবে (M1-এর স্টেকহোল্ডার অ্যানালাইসিস, L03), ভুল হলে কী ধরনের ক্ষতি হতে পারে, সেই ক্ষতি কতটা সম্ভাব্য এবং কতটা গুরুতর, এবং ঝুঁকি কমানোর জন্য কী পদক্ষেপ নেওয়া হয়েছে। এটি একটি একবারের চেকলিস্ট নয় — একটি লিখিত নথি যা পরবর্তীতে অডিট করা যায়।

২ · এথিক্স রিভিউ বোর্ড — স্বাধীন তত্ত্বাবধান

অনেক ক্ষেত্রে, শুধু একটি অ্যাসেসমেন্ট নথি লেখা যথেষ্ট নয় — সিদ্ধান্তটি কে পর্যালোচনা করছে তাও গুরুত্বপূর্ণ। একটি এথিক্স রিভিউ বোর্ড এমন একটি দল যারা সিস্টেমটি তৈরির সাথে সরাসরি যুক্ত নয়, তাই তাদের মূল্যায়নে প্রজেক্টের সময়সীমা/বাজেটের চাপ কম প্রভাব ফেলে। এই ধারণাটি অন্যান্য ক্ষেত্রের একটি সুপরিচিত, বহু-দশক পুরনো প্র্যাকটিসের সাথে সরাসরি সাদৃশ্যপূর্ণ — চিকিৎসা ও সামাজিক-বিজ্ঞান গবেষণায় ইনস্টিটিউশনাল রিভিউ বোর্ড (IRB) মানুষের উপর পরিচালিত যেকোনো গবেষণা প্রকল্প শুরুর আগে স্বাধীনভাবে পর্যালোচনা করে — একই সাধারণ যুক্তি (স্বাধীন, বিশেষজ্ঞ, বহু-দৃষ্টিভঙ্গিসম্পন্ন পর্যালোচনা) উচ্চ-ঝুঁকির AI সিস্টেমের ক্ষেত্রেও প্রযোজ্য।

৩ · একটি সত্যিকারের ডেমো — রিস্ক-অ্যাসেসমেন্ট ম্যাট্রিক্স

ধরা যাক একটি হাসপাতাল একটি AI-চালিত রোগী-ট্রায়াজ অগ্রাধিকারকরণ সিস্টেম ডিপ্লয় করার কথা ভাবছে — জরুরি বিভাগে কোন রোগীকে আগে দেখা হবে তার একটি অগ্রাধিকার-স্কোর প্রস্তাব করে। ইমপ্যাক্ট অ্যাসেসমেন্টের সময় ছয়টি সম্ভাব্য ঝুঁকি চিহ্নিত করা হয়েছে, প্রতিটির জন্য একটি সম্ভাব্যতা (likelihood, ১-৫) ও একটি প্রভাব (impact, ১-৫) স্কোর ধার্য করা হয়েছে:

$$\text{Risk Score} = \text{Likelihood} \times \text{Impact} \quad (\text{সর্বোচ্চ } 5 \times 5 = 25)$$

risk_items = [
    {"desc": "প্রশিক্ষণ ডেটায় একটি নির্দিষ্ট বয়সগোষ্ঠীর কম প্রতিনিধিত্ব থাকায় ট্রায়াজ স্কোর কম নির্ভুল হওয়া",
     "likelihood": 4, "impact": 5},
    {"desc": "সিস্টেম আউটেজ/ডাউনটাইমের সময় ট্রায়াজ সিদ্ধান্ত না পাওয়া",
     "likelihood": 2, "impact": 5},
    {"desc": "ক্লিনিশিয়ানরা AI সুপারিশের উপর অতিরিক্ত নির্ভর করে নিজস্ব বিচারবুদ্ধি কম প্রয়োগ করা (automation bias)",
     "likelihood": 4, "impact": 4},
    {"desc": "রোগীর ডেটা ভুলভাবে অন্য বিভাগে শেয়ার হওয়া (প্রাইভেসি ব্রিচ)",
     "likelihood": 2, "impact": 4},
    {"desc": "মডেল আউটপুট ব্যাখ্যা করা কঠিন হওয়ায় ক্লিনিশিয়ান সুপারিশের কারণ বুঝতে না পারা",
     "likelihood": 3, "impact": 3},
    {"desc": "নতুন রোগ/মহামারীর প্যাটার্ন প্রশিক্ষণ ডেটার বাইরে চলে যাওয়া",
     "likelihood": 2, "impact": 5},
]

def risk_tier(score):
    if score >= 15:
        return "সমালোচনামূলক (Critical)"
    elif score >= 9:
        return "উচ্চ (High)"
    elif score >= 4:
        return "মধ্যম (Medium)"
    else:
        return "নিম্ন (Low)"

for item in risk_items:
    item["score"] = item["likelihood"] * item["impact"]
    item["tier"] = risk_tier(item["score"])

ranked = sorted(risk_items, key=lambda x: x["score"], reverse=True)

print("ঝুঁকি ম্যাট্রিক্স -- likelihood x impact, স্কোর অনুযায়ী র‍্যাংকড:\n")
for item in ranked:
    print(f"স্কোর {item['score']:>2d}  [{item['tier']}]")
    print(f"    {item['desc']}")

critical_count = sum(1 for i in risk_items if i["tier"].startswith("সমালোচনামূলক"))
high_count = sum(1 for i in risk_items if i["tier"].startswith("উচ্চ"))
medium_count = sum(1 for i in risk_items if i["tier"].startswith("মধ্যম"))

print(f"\nমোট {len(risk_items)}টি ঝুঁকি চিহ্নিত -- {critical_count}টি সমালোচনামূলক, "
      f"{high_count}টি উচ্চ, {medium_count}টি মধ্যম।")

if critical_count > 0:
    print("সুপারিশ: সম্পূর্ণ এথিক্স রিভিউ বোর্ড অনুমোদন ছাড়া ডিপ্লয়মেন্ট এগোনো যাবে না।")
elif high_count > 0:
    print("সুপারিশ: শর্তসাপেক্ষ অনুমোদন -- নির্দিষ্ট মিটিগেশন পরিকল্পনাসহ বোর্ড রিভিউ প্রয়োজন।")
else:
    print("সুপারিশ: লাইট-টাচ রিভিউ যথেষ্ট।")