পাঠ ২৩ · ৫৭-এর মধ্যে · মডিউল ৫
Home / AI Courses / Human-Centered AI / ওভারসাইট ও ওভাররাইড

হিউম্যান ওভারসাইট ও ওভাররাইড করার অধিকার

Human oversight & the right to override
৯ মিনিট পড়া মধ্যম · Intermediate Python কোডসহ সম্পূর্ণ বাংলায়

এই পাঠে যা শিখবেন

  • হিউম্যান ওভারসাইট ও "ওভাররাইড করার অধিকার" — এই দুটোর মধ্যে সম্পর্ক এবং কেন দুটোই দরকার
  • ওভাররাইড ফিচার ডিজাইন করার সময় বিবেচ্য মূল প্রশ্ন — সহজলভ্যতা, দায়বদ্ধতা, ও প্রতিক্রিয়া
  • একটি সত্যিকারের ওভাররাইড-লগ থেকে override rate ও accuracy-সম্পর্কিত মেট্রিক্স গণনা করা
  • কেন মানুষের ওভাররাইড মাঝেমধ্যে ভুল হলেও, সামগ্রিকভাবে ওভারসাইট ফলাফল উন্নত করতে পারে

১ · ওভারসাইট মানে শুধু "উপস্থিতি" নয়

হিউম্যান ওভারসাইটHuman Oversightএকজন মানুষের কাছে AI-এর সিদ্ধান্ত পর্যালোচনা করার, প্রশ্ন করার, এবং প্রয়োজনে সেই সিদ্ধান্ত পরিবর্তন করার একটি বাস্তবসম্মত ও কার্যকর সুযোগ থাকা — শুধু কাগজে-কলমে একটি "রিভিউ" ধাপ থাকা যথেষ্ট নয়। L19-এ আমরা দেখেছি কোন সিদ্ধান্তে মানুষকে লুপে রাখা উচিত। কিন্তু "মানুষ লুপে আছে" আর "মানুষ বাস্তবসম্মতভাবে ওভারসাইট দিতে পারছে" — এই দুটো এক জিনিস নয়। যদি ওভাররাইড বাটনটি খুঁজে পাওয়া কঠিন হয়, সিদ্ধান্তটি যাচাই করার মতো তথ্য না থাকে, অথবা এত দ্রুত সিদ্ধান্তগুলো আসে যে যাচাই করার সময়ই না থাকে — তাহলে "ওভারসাইট" নামমাত্র একটি ফিচার হয়ে থাকে, বাস্তবে কার্যকর নয়।

২ · কার্যকর ওভাররাইড ফিচারের বৈশিষ্ট্য

দৃশ্যমানতা
AI কী সিদ্ধান্ত নিয়েছে ও কেন, তা স্পষ্টভাবে দেখানো — নাহলে ওভাররাইড করার ভিত্তিই থাকে না (M4-এর এক্সপ্লেইনেবিলিটি নীতির সরাসরি প্রয়োগ)।
সহজলভ্যতা
ওভাররাইড করার পদক্ষেপটি খুঁজে পাওয়া ও সম্পন্ন করা সহজ হতে হবে — গভীরে লুকানো একটি সেটিং বাস্তবে কেউ ব্যবহার করে না।
যথেষ্ট সময়
সিদ্ধান্তটি এত দ্রুত কার্যকর হয়ে গেলে চলবে না যে মানুষ প্রতিক্রিয়া দেখানোর সময়ই পায় না।
ফিডব্যাক লুপ
একটি ওভাররাইড ঘটলে সেটি লগ হওয়া ও পরবর্তীতে সিস্টেম উন্নত করতে ব্যবহৃত হওয়া উচিত (L27-এ বিস্তারিত)।
রেগুলেশনের সাথে সংক্ষিপ্ত সম্পর্ক

অনেক AI-রেগুলেটরি ফ্রেমওয়ার্ক (যেমন EU AI Act) উচ্চ-ঝুঁকির সিস্টেমে "অর্থবহ মানব ওভারসাইট" বাধ্যতামূলক করার কথা বলে — এই বিষয়ের আইনি ও নীতিগত গভীরতা M12 (L52)-এ কভার করা হবে। এই পাঠে আমরা শুধু প্রশ্ন করি: একবার ওভারসাইট বাধ্যতামূলক হলে, সেটি কার্যকরভাবে ডিজাইন করবো কীভাবে?

৩ · একটি সত্যিকারের ওভাররাইড-লগ বিশ্লেষণ

নিচের কোডে একটি ১২-কেসের সিমুলেটেড সিদ্ধান্ত-লগ আছে — প্রতিটি কেসে AI-এর সাজেশন, মানুষ ওভাররাইড করেছিল কি না (করলে তার নিজের সিদ্ধান্ত), এবং প্রকৃত সঠিক ফলাফল কী ছিল তা রেকর্ড করা আছে (একটি ঋণ-অনুমোদন সিদ্ধান্তের মতো একটি বাইনারি Approve/Deny সিনারিও)। কোডটি সত্যিকারভাবে override rate এবং ওভাররাইডের মধ্যে মানুষ বনাম AI কে কতবার সঠিক ছিল তা গণনা করে।

Python
log = [
    {"case": 1,  "ai": "Approve", "overridden": False, "human": None,     "actual": "Approve"},
    {"case": 2,  "ai": "Approve", "overridden": True,  "human": "Deny",   "actual": "Deny"},
    {"case": 3,  "ai": "Deny",    "overridden": False, "human": None,     "actual": "Deny"},
    {"case": 4,  "ai": "Deny",    "overridden": True,  "human": "Approve","actual": "Deny"},
    {"case": 5,  "ai": "Approve", "overridden": False, "human": None,     "actual": "Approve"},
    {"case": 6,  "ai": "Approve", "overridden": True,  "human": "Deny",   "actual": "Approve"},
    {"case": 7,  "ai": "Deny",    "overridden": False, "human": None,     "actual": "Approve"},
    {"case": 8,  "ai": "Approve", "overridden": True,  "human": "Deny",   "actual": "Deny"},
    {"case": 9,  "ai": "Deny",    "overridden": True,  "human": "Approve","actual": "Approve"},
    {"case": 10, "ai": "Approve", "overridden": False, "human": None,     "actual": "Approve"},
    {"case": 11, "ai": "Deny",    "overridden": False, "human": None,     "actual": "Deny"},
    {"case": 12, "ai": "Approve", "overridden": True,  "human": "Deny",   "actual": "Deny"},
]

total_cases = len(log)
overrides = [entry for entry in log if entry["overridden"]]
override_rate = len(overrides) / total_cases * 100

human_right_in_override = sum(1 for e in overrides if e["human"] == e["actual"])
ai_right_in_override = sum(1 for e in overrides if e["ai"] == e["actual"])

human_right_pct = human_right_in_override / len(overrides) * 100
ai_right_pct = ai_right_in_override / len(overrides) * 100

ai_raw_correct = sum(1 for e in log if e["ai"] == e["actual"])
ai_raw_accuracy = ai_raw_correct / total_cases * 100

final_correct = 0
for e in log:
    final_decision = e["human"] if e["overridden"] else e["ai"]
    if final_decision == e["actual"]:
        final_correct += 1
final_accuracy = final_correct / total_cases * 100

print(f"মোট সিদ্ধান্ত: {total_cases}টি, ওভাররাইড হয়েছে: {len(overrides)}টি -> override rate = {override_rate:.1f}%")
print(f"ওভাররাইডের মধ্যে মানুষ সঠিক ছিল: {human_right_in_override}/{len(overrides)} = {human_right_pct:.1f}%")
print(f"ওভাররাইডের মধ্যে AI-এর মূল সাজেশনই সঠিক ছিল: {ai_right_in_override}/{len(overrides)} = {ai_right_pct:.1f}%")
print(f"\nAI-এর কাঁচা (raw) accuracy সব কেসে: {ai_raw_correct}/{total_cases} = {ai_raw_accuracy:.1f}%")
print(f"ওভারসাইটসহ চূড়ান্ত সিদ্ধান্তের accuracy: {final_correct}/{total_cases} = {final_accuracy:.1f}%")

    
সত্যিকারের গণনা করা ফলাফল দেখুন: ১২টি সিদ্ধান্তের মধ্যে ৬টিতে (৫০%) মানুষ ওভাররাইড করেছে। সেই ৬টি ওভাররাইডের মধ্যে মানুষ ৪ বার (৬৬.৭%) সঠিক ছিল, আর AI-এর মূল সাজেশনই ২ বার (৩৩.৩%) সঠিক ছিল — অর্থাৎ মানুষ প্রতিবার সঠিকভাবে ওভাররাইড করেনি, দুটো ক্ষেত্রে (কেস ৪ ও ৬) সে ভুলভাবে AI-এর সঠিক সাজেশন পাল্টে দিয়েছে। তবু সামগ্রিক ফলাফল লক্ষ্য করুন: AI-এর কাঁচা accuracy ছিল মাত্র ৫৮.৩% (৭/১২), কিন্তু মানুষের ওভারসাইটসহ চূড়ান্ত সিদ্ধান্তের accuracy বেড়ে দাঁড়ায় ৭৫.০% (৯/১২)। অর্থাৎ ওভারসাইট প্রক্রিয়াটি নিখুঁত নয় — এতে ভুলও হয়েছে — তবু নিট ফলাফলে এটি স্পষ্টভাবে সহায়ক হয়েছে, কারণ এটি AI-এর প্রকৃত ভুলগুলোর (কেস ২, ৮, ৯) বেশিরভাগ ধরতে পেরেছে।
মূল কথা · Key takeaway

ওভাররাইড করার অধিকার থাকার মানে এই নয় যে মানুষ সবসময় সঠিক হবে — এই সিমুলেশনেই মানুষ দুইবার ভুল ওভাররাইড করেছে। আসল প্রশ্নটা হলো: ওভারসাইট প্রক্রিয়া, তার সব অসম্পূর্ণতাসহ, চূড়ান্ত ফলাফলকে গড়ে উন্নত করে কি না। এই মডিউল (M5) শেষে আমরা এখন হিউম্যান-ইন-দ্য-লুপের পূর্ণ চিত্র পেয়েছি — কখন (L19), কতটা (L20), কীভাবে হাত বদল হয় (L21), কীভাবে ভালোভাবে ইন্টারাপ্ট করা যায় (L22), এবং কীভাবে চূড়ান্ত নিয়ন্ত্রণ মানুষের হাতে থাকে (L23)। পরের মডিউলে (M6) আমরা দেখব এই সবকিছু ব্যবহারকারীর cognitive load-এর উপর কী প্রভাব ফেলে।

ভাবনার প্রশ্ন

প্রতিটি প্রশ্ন নিজে কিছুক্ষণ ভাবুন — তারপর "→ উত্তর" চাপুন।

প্র ০১ কেস ৪ ও ৬-এ মানুষ ভুলভাবে ওভাররাইড করেছে (AI-এর মূল সাজেশনই সঠিক ছিল)। এর মানে কি ওভাররাইড ফিচারটি "খারাপ" ডিজাইন?

না, প্রয়োজনীয়ভাবে নয়। ৬টি ওভাররাইডের মধ্যে ৪টি সঠিক এবং ২টি ভুল হলেও, সামগ্রিক ফলাফলে (final_accuracy ৭৫% বনাম raw AI accuracy ৫৮.৩%) ওভারসাইট প্রক্রিয়া নিট লাভজনক ছিল। কোনো মানব-প্রক্রিয়াই ১০০% নির্ভুল হবে না — প্রশ্নটা হলো গড়ে এটি সাহায্য করছে কি না। তবে যদি ভুল-ওভাররাইডের হার অনেক বেশি হতো (যেমন ওভাররাইডের ৮০%-ই ভুল), তখন প্রশ্ন উঠতো যে মানুষকে সিদ্ধান্তের প্রেক্ষাপট/তথ্য যথেষ্টভাবে দেখানো হচ্ছে কি না (M4-এর এক্সপ্লেইনেবিলিটি সমস্যা)।

প্র ০২ যদি override rate অনেক বেশি হয় (যেমন ৯০%+), এটি কী ইঙ্গিত দিতে পারে — AI সম্পর্কে, নাকি ওভাররাইড-ফিচারটি সম্পর্কে?

এটি একাধিক জিনিস ইঙ্গিত করতে পারে: AI-এর সাজেশনের মান সত্যিই খারাপ হতে পারে (তাই মানুষ প্রায়ই সংশোধন করছে), অথবা ব্যবহারকারীরা automation bias-এর বিপরীত (algorithm aversion) — অর্থাৎ AI সঠিক হলেও অকারণে অবিশ্বাস করে ওভাররাইড করছে হতে পারে। কোনটি ঘটছে তা বোঝার একমাত্র উপায় হলো — এই কোডের মতো — ওভাররাইডগুলোর মধ্যে মানুষ আসলে কতবার সঠিক ছিল তা যাচাই করা, শুধু সংখ্যা দেখা নয়।

প্র ০৩ আপনার পরিচিত কোনো সিস্টেমে (যেমন GPS নেভিগেশন, স্প্যাম ফিল্টার, বা অটো-কারেক্ট) "ওভাররাইড করা" কতটা সহজ বা কঠিন? এটি কি সহজলভ্যতা, দৃশ্যমানতা, নাকি সময়ের সমস্যা?

নির্দিষ্ট কোনো একক সঠিক উত্তর নেই — লক্ষ্য হলো নিজের অভিজ্ঞতাকে এই পাঠের চারটি বৈশিষ্ট্য (দৃশ্যমানতা, সহজলভ্যতা, যথেষ্ট সময়, ফিডব্যাক লুপ) দিয়ে বিশ্লেষণ করা। যেমন, অটো-কারেক্ট সাধারণত ওভাররাইড করা সহজ (এক ট্যাপে বাতিল করা যায়), কিন্তু কিছু GPS নেভিগেশন সিস্টেমে বিকল্প রুট বোঝা ও বেছে নেওয়া কঠিন, কারণ বিকল্পগুলো স্পষ্টভাবে দেখানো হয় না।

অনুশীলন

  1. চিন্তা করুন: উপরের লগে কেস ৭-এ ("Deny", overridden False, actual "Approve") মানুষ ওভাররাইড করেনি এবং AI ভুল ছিল। যদি এই কেসেও মানুষ ওভাররাইড করে সঠিক সিদ্ধান্ত ("Approve") নিতো, তাহলে final_accuracy কত হতো বলে আপনার ধারণা?

    বর্তমানে final_correct = ৯/১২। কেস ৭ সংশোধন হলে আরেকটি সঠিক কেস যোগ হবে, তাই অনুমান করা যায় final_correct = ১০/১২ = ৮৩.৩% হবে।

  2. পরীক্ষা করুন: উপরের কোডে কেস ৭-এর "overridden": False, "human": None-কে "overridden": True, "human": "Approve"-এ পরিবর্তন করে Run চেপে আপনার অনুমান যাচাই করুন।

    পরিবর্তনের পর final_correct সত্যিই ১০/১২ = ৮৩.৩%-এ দাঁড়ায়, ঠিক যেমন অনুমান করা হয়েছিল। এছাড়াও লক্ষ্য করুন override_rate ৫০% থেকে বেড়ে ৭/১২ = ৫৮.৩%-এ যাবে, এবং human_right_in_override বেড়ে ৫/৭ = ৭১.৪% হবে — একটি সঠিক নতুন ওভাররাইড যোগ হওয়ায় মানুষের সঠিক হওয়ার হারও বেড়ে যায়।

আরও পড়ুন · ABCL TECH-এ আপনার পরবর্তী পদক্ষেপ

  • কোর্সের সম্পূর্ণ সিলেবাস দেখুন ৫৭টি পাঠ কগনিটিভ লোড, অ্যাক্সেসিবিলিটি, হিউম্যান-AI টিমিং, ইউজেবিলিটি ইভালুয়েশন, ইন্ডাস্ট্রি ফ্রেমওয়ার্ক, গভর্নেন্স ও ক্যাপস্টোন — বাকি পাঠগুলো এই সিলেবাসেই আছে।
  • AI Ethics কোর্স সহোদর কোর্স "অর্থবহ মানব ওভারসাইট"-এর রেগুলেটরি ও আইনি দাবির গভীর কভারেজ (যেমন EU AI Act-এর ধরনের ফ্রেমওয়ার্ক) — এই কোর্স সেই ভিত্তির উপর ইন্টারঅ্যাকশন-ডিজাইনের দিকটি যোগ করে।
  • সব Courses দেখুন ABCL TECH C, C++, Python, Java, JavaScript, DSA, Machine Learning, Deep Learning, System Design, Cybersecurity, Cloud Computing & DevOps, এবং আরও অনেক কোর্স — সব এক জায়গায়।
আগের পাঠ
কার্যকর হ্যান্ডঅফ ও ইন্টারাপশন ডিজাইন