কেস স্টাডি — একটি বাস্তব-বিশ্বের AI ডিপ্লয়মেন্টের এথিক্যাল রিভিউ

১ · ডিপ্লয়মেন্ট সিনারিও — EduAdmit AI

নিচের পুরো পরিস্থিতি সম্পূর্ণ হাইপোথেটিক্যাল ও ইলাস্ট্রেটিভ — কোনো বাস্তব বিশ্ববিদ্যালয়, প্রোডাক্ট, বা প্রকৃত ব্যক্তির তথ্য এখানে ব্যবহৃত হয়নি। ধরা যাক একটি প্রতিযোগিতামূলক আন্ডারগ্র্যাজুয়েট প্রোগ্রামে "EduAdmit AI" নামের একটি স্ক্রিনিং টুল চালু করা হয়েছে — এটি প্রতিটি আবেদনকারীর একাডেমিক স্কোর (আগের ফলাফলের ভিত্তিতে) ও একটি স্বয়ংক্রিয় ভিডিও-ইন্টারভিউ বিশ্লেষণ (কণ্ঠস্বর, উত্তরের গঠন, ও "কনফিডেন্স" থেকে বের করা একটি স্কোর) একত্র করে একটি সামগ্রিক স্কোর তৈরি করে, এবং একটি নির্দিষ্ট থ্রেশহোল্ডের উপরে থাকলে আবেদনকারীকে চূড়ান্ত রাউন্ডে সুপারিশ করে। প্রশাসন এটি চালু করেছে কারণ প্রতি বছর হাজার হাজার আবেদন হাতে যাচাই করা সময়সাপেক্ষ ও ব্যয়বহুল।

২ · স্টেকহোল্ডার বিশ্লেষণ

M1-এ শেখা স্টেকহোল্ডার অ্যানালাইসিস (L03) পদ্ধতি প্রয়োগ করলে EduAdmit AI-এর প্রধান স্টেকহোল্ডাররা হলেন: আবেদনকারীরা (বিশেষত যাদের ইন্টারভিউ-কোচিং বা প্রস্তুতির সুযোগ সীমিত), ভর্তি অফিস/প্রশাসন (যারা টুলটি চালায় ও এর সিদ্ধান্তের উপর নির্ভর করে), বিদ্যমান অনুষদ ও শিক্ষার্থীরা (ক্লাসের গঠন যাদের শিক্ষার পরিবেশ প্রভাবিত করে), নিয়ন্ত্রক/অ্যাক্রেডিটেশন সংস্থা, এবং বৃহত্তর সমাজ (যাদের জন্য শিক্ষায় প্রবেশাধিকার একটি দীর্ঘমেয়াদী সামাজিক প্রশ্ন)। L03-এর পাওয়ার-বনাম-ইমপ্যাক্ট হিউরিস্টিক প্রয়োগ করলে স্পষ্ট: আবেদনকারীদের সিদ্ধান্ত প্রক্রিয়ার উপর প্রায় কোনো নিয়ন্ত্রণ নেই (কম পাওয়ার), অথচ ফলাফল তাদের ভবিষ্যতের উপর সবচেয়ে বড় প্রভাব ফেলে (উচ্চ ইমপ্যাক্ট) — অর্থাৎ ঠিক সেই "উচ্চ-ইমপ্যাক্ট, নিম্ন-পাওয়ার" গোষ্ঠী, যাদের প্রতি একটি রিভিউয়ে সবচেয়ে বেশি মনোযোগ দেওয়া উচিত।

৩ · নৈতিক ফ্রেমওয়ার্ক বিশ্লেষণ

M2-এর তিনটি লেন্স প্রয়োগ করলে: ইউটিলিটারিয়ান দৃষ্টিকোণ থেকে, স্বয়ংক্রিয় স্ক্রিনিং প্রশাসনিক খরচ কমায় ও দ্রুত সিদ্ধান্ত দেয় — সামগ্রিক দক্ষতা বাড়ে। কিন্তু ডিওন্টোলজিক্যাল দৃষ্টিকোণ থেকে প্রশ্ন ওঠে: প্রতিটি আবেদনকারীর একটি ন্যায্য, স্বতন্ত্র মূল্যায়ন পাওয়ার অধিকার আছে কি না — যদি "ভিডিও-ইন্টারভিউ কনফিডেন্স স্কোর" আসলে সামাজিক-অর্থনৈতিক প্রেক্ষাপটের একটি প্রক্সি হয়ে দাঁড়ায় (নিচে ধাপ ৪-এ গণনা করে দেখানো হয়েছে), তাহলে এই "স্বতন্ত্র মূল্যায়ন" আসলে গ্রুপ-ভিত্তিক বৈষম্যে পরিণত হয় — এটি একটি সরাসরি অধিকার-লঙ্ঘন উদ্বেগ, শুধু দক্ষতার প্রশ্ন নয়। আর ভার্চু এথিক্স-এর দৃষ্টিতে প্রশ্ন হলো: প্রতিষ্ঠান কি তার সিদ্ধান্ত প্রক্রিয়ার সীমাবদ্ধতা সম্পর্কে সৎ ও স্বচ্ছ, নাকি "AI ব্যবহার করছি" বলাটাই যথেষ্ট দায়িত্ব মনে করছে? এই তিনটি লেন্স একসাথে একটি স্পষ্ট সংকেত দেয়: দক্ষতার লাভ, একটি সম্ভাব্য অধিকার-লঙ্ঘনকে ন্যায্যতা দেয় না — পরবর্তী ধাপে এই সন্দেহ সত্যিই পরীক্ষা করে দেখা দরকার।

৪ · ফেয়ারনেস চেক — সত্যিকারের গণনা

M3-এর ফেয়ারনেস-মেট্রিক্স চিন্তাভাবনা প্রয়োগ করে দেখা যাক: দুটি আবেদনকারী গ্রুপ — Group Q (ঐতিহাসিকভাবে ইন্টারভিউ-প্রস্তুতি/কোচিং-এ কম অ্যাক্সেস আছে এমন একটি সিন্থেটিক গ্রুপ) ও Group P (তুলনামূলক বেশি অ্যাক্সেস আছে এমন একটি সিন্থেটিক গ্রুপ) — যাদের একাডেমিক মেধার প্রকৃত ডিস্ট্রিবিউশন সম্পূর্ণ সমান ধরে সিন্থেটিক ডেটা তৈরি করা হয়েছে, কিন্তু interview_confidence স্কোরে একটি সিমুলেটেড ঐতিহাসিক ফারাক আছে।

import random
random.seed(7)

def generate_applicants(n, group):
    applicants = []
    for _ in range(n):
        academic_score = random.gauss(78, 8)  # উভয় গ্রুপেই একাডেমিক মেধার প্রকৃত ডিস্ট্রিবিউশন সমান
        if group == "Q":
            # Group Q: ঐতিহাসিকভাবে ইন্টারভিউ-প্রস্তুতি/কোচিং অ্যাক্সেস কম (কাল্পনিক, সিমুলেটেড প্যাটার্ন)
            interview_confidence = max(0, random.gauss(60, 12))
        else:
            interview_confidence = max(0, random.gauss(75, 12))
        applicants.append({"group": group, "academic_score": academic_score, "interview_confidence": interview_confidence})
    return applicants

applicants = generate_applicants(300, "Q") + generate_applicants(300, "P")
random.shuffle(applicants)

def admission_score(a):
    # লক্ষ্য করুন: 'group' কোথাও সরাসরি ব্যবহৃত হচ্ছে না
    return 0.7 * a["academic_score"] + 0.3 * a["interview_confidence"]

THRESHOLD = 70
for a in applicants:
    a["score"] = admission_score(a)
    a["admitted"] = a["score"] >= THRESHOLD

gq = [a for a in applicants if a["group"] == "Q"]
gp = [a for a in applicants if a["group"] == "P"]

rate_q = sum(a["admitted"] for a in gq) / len(gq) * 100
rate_p = sum(a["admitted"] for a in gp) / len(gp) * 100
gap = abs(rate_p - rate_q)

avg_academic_q = sum(a["academic_score"] for a in gq) / len(gq)
avg_academic_p = sum(a["academic_score"] for a in gp) / len(gp)

print(f"Group Q (n={len(gq)}): গড় academic_score={avg_academic_q:.1f}, ভর্তি হার={rate_q:.1f}%")
print(f"Group P (n={len(gp)}): গড় academic_score={avg_academic_p:.1f}, ভর্তি হার={rate_p:.1f}%")
print(f"\nদুই গ্রুপের গড় academic_score প্রায় সমান -- প্রকৃত মেধায় পার্থক্য নেই।")
print(f"তবুও ভর্তি হারের ফারাক: {gap:.1f} পার্সেন্টেজ পয়েন্ট -- interview_confidence ফিচারটিই এই ফারাকের উৎস।")

৫ · প্রাইভেসি চেক

M4-এর দৃষ্টিকোণ থেকে দুটি প্রশ্ন ওঠে। প্রথমত, EduAdmit AI ভিডিও-ইন্টারভিউ থেকে বায়োমেট্রিক-ঘেঁষা সিগন্যাল (কণ্ঠস্বরের প্যাটার্ন, মুখের অভিব্যক্তি বিশ্লেষণ যদি ব্যবহৃত হয়) সংগ্রহ করে — এটি সংবেদনশীল ডেটা, এবং আবেদনকারীরা প্রকৃতপক্ষে "সম্মতি না দিলে বিকল্প নেই" এমন একটি পরিস্থিতিতে থাকে (ভর্তির প্রতিযোগিতায় অংশ নিতে হলে ডেটা দিতেই হবে) — তাই প্রকৃত স্বেচ্ছা সম্মতি কতটা বাস্তবসম্মত তা প্রশ্নসাপেক্ষ। দ্বিতীয়ত, ভর্তি কমিটি যদি প্রত্যাখ্যাত আবেদনকারীদের ডেটা (স্কুলের অঞ্চল, পারিবারিক আয়-ব্র্যাকেট, এক্সট্রাকারিকুলার ক্যাটাগরি ইত্যাদি quasi-identifier একসাথে) দীর্ঘমেয়াদে সংরক্ষণ করে, তাহলে একটি ছোট ভর্তি-কমিটির প্রেক্ষাপটে k-অ্যানোনিমিটি ভঙ্গ হওয়ার ঝুঁকি বাস্তব — অল্প কিছু আবেদনকারীর quasi-identifier সংমিশ্রণ এতটাই অনন্য হতে পারে যে ডেটাসেটে তাদের পুনরায়-শনাক্ত করা সম্ভব, এমনকি নাম বাদ দেওয়ার পরও। এই ধরনের গণনা কীভাবে করা হয় তা M4/L16-এ ও এই মডিউলের L57 ক্যাপস্টোনে বিস্তারিত দেখানো হয়েছে।

৬ · গভর্নেন্স সুপারিশ

M9-এর গভর্নেন্স নীতিগুলো প্রয়োগ করে, উপরের চারটি ধাপের ফলাফলের ভিত্তিতে একটি বাস্তবসম্মত সুপারিশ তৈরি করা যায় — শুধু "AI বন্ধ করে দিন" বা "যেমন আছে তেমনই রাখুন" নয়, বরং সুনির্দিষ্ট শর্তসহ: