হেলথকেয়ার ডিসিশন সাপোর্টে HCAI

১ · কেন হেলথকেয়ার আলাদা

বেশিরভাগ কনজিউমার AI প্রোডাক্টে একটি ভুল সাজেশন বিরক্তিকর হলেও সহজেই ফিরিয়ে নেওয়া (reversible) যায় — একটি ভুল গান-সাজেশন বা একটি দুর্বল ইমেইল-ড্রাফট বড় কোনো ক্ষতি করে না। হেলথকেয়ার ডিসিশন-সাপোর্টে পরিস্থিতি ভিন্ন: একটি মিসড ডায়াগনসিস বা একটি ভুল ট্রায়াজ-প্রায়োরিটি সরাসরি একজন রোগীর স্বাস্থ্যের উপর প্রভাব ফেলতে পারে, এবং অনেক ক্ষেত্রেই সিদ্ধান্তটি সহজে ফিরিয়ে নেওয়া যায় না। M5-এর অটোমেশনের লেভেল স্কেল (L20)-এর ভাষায় বললে — এটি এমন একটি ডোমেইন যেখানে স্টেক বেশি ও রিভার্সিবিলিটি কম, তাই লেভেল বেশি হলেও (AI অনেক কাজ করে) চূড়ান্ত সিদ্ধান্তে মানুষের ভূমিকা প্রায় সবসময় বজায় রাখতে হয়।

এই পাঠ ক্লিনিক্যাল রেগুলেশন, মেডিকেল-ডিভাইস আইন বা লায়াবিলিটির গভীর আলোচনা করে না — সেই বিষয়গুলো AI Ethics ও Ethics in Computing & AI Safety কোর্সের বিষয়। এখানে ফোকাস শুধু একটি প্রশ্নে: ইন্টারফেস ও ইন্টারঅ্যাকশন কীভাবে ডিজাইন করলে একজন ক্লিনিশিয়ান AI-এর আউটপুটকে সঠিক পরিমাণে বিশ্বাস করবেন এবং প্রয়োজনে সহজে ওভাররাইড করতে পারবেন।

২ · ক্যালিব্রেটেড ট্রাস্ট ও কনফিডেন্স কমিউনিকেশন

একটি "কনফিডেন্স স্কোর" আসলে মডেলের প্রেডিক্ট করা একটি সম্ভাবনা — যেমন "এই ইমেজে অস্বাভাবিকতা থাকার সম্ভাবনা ৮২%"। এই সংখ্যাটি নিজে থেকে দরকারী তথ্য দেয় না যদি ব্যবহারকারী না জানেন এটি বাস্তবে কতটা নির্ভরযোগ্য (M3, L16 "কনফিডেন্স ও আনসার্টেইনটি কমিউনিকেশন ডিজাইন")। ক্লিনিক্যাল সেটিংয়ে এই সমস্যাটি আরও বড় হয়ে দাঁড়ায়, কারণ সময়ের চাপ বেশি এবং একই স্ক্রিনে বহু অ্যালার্ট/স্কোর একসাথে দেখানো হয়।

৩ · একটি সত্যিকারের ডেমো — কনফিডেন্স-থ্রেশহোল্ড ফ্ল্যাগিং

ধরা যাক একটি ডিসিশন-সাপোর্ট সিস্টেম ৪০টি কেসে একটি ঝুঁকি-স্কোর দেয়, প্রতিটির সাথে একটি কনফিডেন্স স্কোর। কেসগুলো যত "সহজ" (স্পষ্ট প্যাটার্নযুক্ত), মডেল তত বেশি সম্ভাবনায় সঠিক থাকে — এবং কনফিডেন্স স্কোরটি সেই প্রকৃত সঠিকতার সাথে সম্পর্কিত কিন্তু নিখুঁত নয় (বাস্তব জগতে কনফিডেন্স স্কোর কখনোই নিখুঁতভাবে ক্যালিব্রেটেড হয় না)। নিচের কোডে একটি থ্রেশহোল্ড (০.৬৫)-এর নিচে কনফিডেন্স থাকা কেসগুলো "হিউম্যান রিভিউর জন্য ফ্ল্যাগ" করা হয়, বাকিগুলো স্বয়ংক্রিয়ভাবে এগিয়ে যায়।

import random
random.seed(11)

def generate_cases(n):
    cases = []
    for _ in range(n):
        # প্রতিটি কেসের প্রকৃত "সহজতা" (০ = কঠিন কেস, ১ = সহজ কেস)
        ease = random.random()
        # কেস যত সহজ, মডেল তত বেশি সম্ভাবনায় সঠিক থাকে
        correct_prob = 0.5 + 0.45 * ease
        is_correct = random.random() < correct_prob
        # কনফিডেন্স স্কোর প্রকৃত কঠিনতার সাথে সম্পর্কিত, কিন্তু নিখুঁত নয় -- কিছুটা নয়েজ যোগ হলো
        noise = random.uniform(-0.12, 0.12)
        confidence = max(0.0, min(1.0, correct_prob + noise))
        cases.append({"correct": is_correct, "confidence": confidence})
    return cases

cases = generate_cases(40)
THRESHOLD = 0.65

flagged = [c for c in cases if c["confidence"] < THRESHOLD]
auto = [c for c in cases if c["confidence"] >= THRESHOLD]

def error_rate(group):
    if not group:
        return 0.0
    wrong = sum(1 for c in group if not c["correct"])
    return wrong / len(group) * 100

total_wrong = sum(1 for c in cases if not c["correct"])
flagged_wrong = sum(1 for c in flagged if not c["correct"])

print(f"মোট কেস: {len(cases)}, মোট প্রকৃত ভুল: {total_wrong}টি")
print(f"হিউম্যান রিভিউর জন্য ফ্ল্যাগ করা হয়েছে: {len(flagged)}টি ({len(flagged)/len(cases)*100:.1f}%)")
print(f"স্বয়ংক্রিয়ভাবে এগিয়ে যাওয়া কেস: {len(auto)}টি, ভুলের হার {error_rate(auto):.1f}%")
print(f"ফ্ল্যাগ করা কেসের ভুলের হার: {error_rate(flagged):.1f}%")
print(f"মোট ভুলের মধ্যে ফ্ল্যাগিং যা ধরেছে: {flagged_wrong}/{total_wrong}")

৪ · থ্রেশহোল্ড বসানো — একটি ডিজাইন সিদ্ধান্ত, শুধু টেকনিক্যাল নয়

থ্রেশহোল্ড কম রাখলে বেশি কেস ফ্ল্যাগ হয় — বেশি ভুল ধরা পড়ে, কিন্তু ক্লিনিশিয়ানদের রিভিউ-লোড বাড়ে (অ্যালার্ট ফ্যাটিগের ঝুঁকি)। থ্রেশহোল্ড বেশি রাখলে রিভিউ-লোড কমে, কিন্তু বেশি প্রকৃত ভুল স্বয়ংক্রিয়ভাবে এগিয়ে যায়। এই ট্রেড-অফ শুধু একটি ডেটা-সায়েন্স অপটিমাইজেশন প্রশ্ন নয় — ক্লিনিক্যাল টিমের সাথে বসে ঠিক করতে হয়: কতটা রিভিউ-লোড বাস্তবসম্মত, এবং কোন ধরনের ভুল (মিসড কেস বনাম ওভার-ফ্ল্যাগিং) বেশি খরচ-সাপেক্ষ। এটি M5-এর হিউম্যান ওভারসাইট ও ওভাররাইড অধিকার (L23)-এর সরাসরি প্রয়োগ — সিস্টেম যতই স্বয়ংক্রিয় হোক, মানুষের হাতে যেন সবসময় ওভাররাইড করার সহজ পথ থাকে, শুধু ফ্ল্যাগ করা কেসেই না, প্রয়োজনে যেকোনো কেসেই।