AI Ethics কী এবং কেন এটি গুরুত্বপূর্ণ

What is AI Ethics & why it matters

৮ মিনিট পড়া মধ্যম · Intermediate Python কোডসহ সম্পূর্ণ বাংলায়

এক নজরে · TL;DR

AI Ethics হলো AI সিস্টেম ডিজাইন, ডেভেলপ ও ডিপ্লয় করার সময় ওঠা নৈতিক প্রশ্নগুলোর অধ্যয়ন — শুধু "কোডটি ঠিকমতো চলছে কি না" নয়, বরং "কে এর দ্বারা প্রভাবিত হচ্ছে, এটি ন্যায্য কি না, এবং ভুল হলে দায় কার" এই প্রশ্নগুলো।
AI-নির্দিষ্ট চ্যালেঞ্জ: মডেল ডেটা থেকে শেখে (এক্সপ্লিসিটলি প্রোগ্রাম করা হয় না), সিদ্ধান্ত স্কেলে নেওয়া হয় (লক্ষ লক্ষ মানুষকে প্রভাবিত করতে পারে), এবং জটিল মডেল প্রায়ই ব্ল্যাক-বক্স (কেন একটি নির্দিষ্ট সিদ্ধান্ত নেওয়া হলো তা বোঝা কঠিন)।
একটি মডেল কোনো protected attribute (যেমন gender/race) সরাসরি ব্যবহার না করলেও, একটি correlated proxy feature-এর মাধ্যমে সেই একই বায়াস আবার ফিরে আসতে পারে — নিচের ডেমোতে এটি সত্যিকারের গণনা দিয়ে দেখানো হয়েছে।
এই কোর্সের প্রায় প্রতিটি কোড সেল সত্যিকারের, চলমান Python — বায়াস মেট্রিক্স, প্রাইভেসি গ্যারান্টি, স্পেসিফিকেশন গেমিং সবকিছুই সরাসরি গণনা করে দেখানো হয়, শুধু বলা হয় না।

এই পাঠে যা শিখবেন

AI Ethics-এর সংজ্ঞা এবং এটি সাধারণ কম্পিউটিং এথিক্স থেকে কীভাবে আলাদা
কেন AI সিস্টেমে নৈতিক প্রশ্নগুলো বিশেষভাবে জরুরি — শেখা আচরণ, স্কেল, ও ব্ল্যাক-বক্স প্রকৃতি
এই কোর্স ঠিক কী কভার করে ও কীভাবে সাজানো হয়েছে
একটি সত্যিকারের, চলমান ডেমো — কীভাবে একটি "ফেয়ার-দেখতে" মডেল প্রক্সি ফিচারের মাধ্যমে বায়াসড ফলাফল দিতে পারে

১ · AI Ethics কী

AI EthicsAI EthicsAI সিস্টেম ডিজাইন, ডেভেলপ, ডিপ্লয় ও ব্যবহার করার সময় ওঠা নৈতিক প্রশ্নগুলোর অধ্যয়ন — কে প্রভাবিত হচ্ছে, এটি ন্যায্য কি না, এবং এর দায় কার তা নিয়ে। হলো AI সিস্টেম নিয়ে ওঠা নৈতিক প্রশ্নগুলোর অধ্যয়ন। একটি সিস্টেম "কারিগরিভাবে সঠিক" (কোড বাগ-মুক্ত, মডেল উচ্চ অ্যাকুরেসি দেখাচ্ছে) হওয়া আর "নৈতিকভাবে গ্রহণযোগ্য" হওয়া দুটো ভিন্ন প্রশ্ন — একটি লোন-অনুমোদন মডেল ৯৫% অ্যাকুরেট হতে পারে, অথচ সেই ৫% ভুলের বেশিরভাগই একটি নির্দিষ্ট জনগোষ্ঠীর উপর পড়তে পারে।

২ · কেন AI-তে এটি বিশেষভাবে গুরুত্বপূর্ণ

শেখা আচরণ
AI মডেল এক্সপ্লিসিটলি প্রোগ্রাম করা হয় না — ঐতিহাসিক ডেটা থেকে প্যাটার্ন শেখে। ডেটায় যদি ঐতিহাসিক বৈষম্য থাকে, মডেল সেটাও "শিখে" ফেলতে পারে।

স্কেল
একজন মানুষের একটি ভুল সিদ্ধান্ত একজনকে প্রভাবিত করে; একটি অটোমেটেড মডেলের সিস্টেমেটিক ভুল একই সাথে লক্ষ লক্ষ মানুষকে প্রভাবিত করতে পারে।

ব্ল্যাক-বক্স প্রকৃতি
জটিল মডেল (গভীর নিউরাল নেটওয়ার্ক) প্রায়ই এত জটিল যে কেন একটি নির্দিষ্ট সিদ্ধান্ত নেওয়া হলো তা মানুষের পক্ষে বোঝা কঠিন (M5-এ বিস্তারিত)।

Ethics in Computing & AI Safety কোর্সের সাথে সম্পর্ক

Ethics in Computing & AI Safety একটি বিস্তৃত সার্ভে কোর্স — সাধারণ কম্পিউটিং এথিক্স, প্রফেশনাল এথিক্স, সাইবারসিকিউরিটি এথিক্স, সেফটি-ক্রিটিক্যাল কেস স্টাডি (Therac-25, Boeing 737 MAX), এবং AI এথিক্স/সেফটির একটি অংশও কভার করে। এই কোর্স সম্পূর্ণভাবে AI-তে ফোকাস করে অনেক গভীরে যায় — বায়াস-ফেয়ারনেস মেট্রিক্স, ডিফারেনশিয়াল প্রাইভেসি, স্পেসিফিকেশন গেমিং, এবং বিশেষ করে জেনারেটিভ AI/LLM-স্পেসিফিক ঝুঁকি (RLHF, হ্যালুসিনেশন, প্রম্পট ইনজেকশন) যা সেই কোর্সে সংক্ষিপ্তভাবে আছে কিন্তু এখানে সম্পূর্ণ একটি মডিউল জুড়ে বিস্তারিত কভার করা হবে।

৩ · একটি সত্যিকারের ডেমো — প্রক্সি ফিচারের মাধ্যমে বায়াস

ধরা যাক একটি রিজিউমে-স্ক্রিনিং মডেল তৈরি করা হচ্ছে — এটি সরাসরি প্রার্থীর গ্রুপ/জনগোষ্ঠী ব্যবহার করে না, শুধু "continuous years of experience" (ক্যারিয়ারে বিরতিহীন অভিজ্ঞতার বছর) ও "skill score" ব্যবহার করে স্কোর করে — এটি "ফেয়ার" মনে হয়। কিন্তু বাস্তবে, যদি ঐতিহাসিক কারণে (যেমন কেয়ারগিভিং নর্মস) একটি গ্রুপের ক্যারিয়ারে গড়ে বেশি বিরতি থাকে, তাহলে "continuous years" ফিচারটি নিজেই গ্রুপের একটি প্রক্সি হয়ে যায়। নিচের কোড সেলে এটি সিন্থেটিক ডেটা দিয়ে সত্যিই গণনা করে দেখানো হয়েছে।

Python

import random
random.seed(42)

def generate_candidates(n, group):
    candidates = []
    for _ in range(n):
        if group == "A":
            # সিন্থেটিক ডেটা: গ্রুপ A-এর গড়ে ক্যারিয়ারে বেশি বিরতি (কাল্পনিক, ঐতিহাসিক প্যাটার্ন সিমুলেট করা)
            years_continuous = max(0, random.gauss(4, 2))
        else:
            years_continuous = max(0, random.gauss(7, 2))
        skill_score = random.gauss(75, 10)  # স্কিল স্কোর -- উভয় গ্রুপেই সমান বিতরণ থেকে
        candidates.append({"group": group, "years_continuous": years_continuous, "skill_score": skill_score})
    return candidates

candidates = generate_candidates(200, "A") + generate_candidates(200, "B")
random.shuffle(candidates)

def resume_score(c):
    # লক্ষ্য করুন: মডেল "group" মোটেও ব্যবহার করছে না -- শুধু years_continuous ও skill_score
    return 0.6 * c["years_continuous"] + 0.4 * (c["skill_score"] / 10)

THRESHOLD = 6.5
for c in candidates:
    c["score"] = resume_score(c)
    c["selected"] = c["score"] >= THRESHOLD

group_a = [c for c in candidates if c["group"] == "A"]
group_b = [c for c in candidates if c["group"] == "B"]

rate_a = sum(c["selected"] for c in group_a) / len(group_a) * 100
rate_b = sum(c["selected"] for c in group_b) / len(group_b) * 100

print(f"গ্রুপ A: {len(group_a)} জন প্রার্থী, সিলেকশন রেট: {rate_a:.1f}%")
print(f"গ্রুপ B: {len(group_b)} জন প্রার্থী, সিলেকশন রেট: {rate_b:.1f}%")
print(f"\nমডেল কি 'group' ফিচারটি সরাসরি ব্যবহার করেছে? না -- শুধু years_continuous ও skill_score।")
print(f"তবুও সিলেকশন রেটের পার্থক্য: {abs(rate_a - rate_b):.1f} পার্সেন্টেজ পয়েন্ট")

লক্ষ্য করুন — resume_score() ফাংশনে কোথাও group ব্যবহার করা হয়নি, তবুও গ্রুপ A ও গ্রুপ B-এর সিলেকশন রেটের মধ্যে বিশাল ব্যবধান দেখা যাচ্ছে (প্রায় ৪৬ পার্সেন্টেজ পয়েন্ট)। এটাই প্রক্সি ডিসক্রিমিনেশন — মডেল "protected attribute-মুক্ত" হওয়া সত্ত্বেও একটি correlated ফিচারের মাধ্যমে ঠিক সেই একই বৈষম্য পুনরুৎপাদন করছে। "আমরা তো gender/race ব্যবহারই করিনি" — এই যুক্তি একা কখনোই যথেষ্ট নয়। M3-এ ফেয়ারনেস মেট্রিক্স দিয়ে এই ধরনের গ্যাপ ফরমালি মাপা শেখানো হবে।

মূল কথা · Key takeaway

AI Ethics মানে শুধু "protected attribute বাদ দেওয়া" নয় — এর জন্য দরকার সিস্টেমেটিক চিন্তা: ডেটা কোথা থেকে এসেছে, কোন ফিচার কার প্রক্সি হতে পারে, ফলাফল কাদের উপর কীভাবে পড়ছে, এবং কে এর দায় নেবে। এই কোর্স ধাপে ধাপে — নৈতিক ফ্রেমওয়ার্ক থেকে বায়াস মেট্রিক্স, প্রাইভেসি, অ্যালাইনমেন্ট, জেনারেটিভ AI-স্পেসিফিক ঝুঁকি, এবং রেগুলেশন পর্যন্ত — এই সিস্টেমেটিক টুলকিট শেখাবে।

ভাবনার প্রশ্ন

প্রতিটি প্রশ্ন নিজে কিছুক্ষণ ভাবুন — তারপর "→ উত্তর" চাপুন।

প্র ০১ একজন ডেভেলপার বলছেন, "আমাদের মডেল সম্পূর্ণ ফেয়ার, কারণ আমরা কখনোই gender বা race ফিচার হিসেবে ব্যবহার করিনি।" উপরের ডেমোর আলোকে, এই দাবিতে কী সমস্যা আছে?

সমস্যা হলো, একটি ফিচার সরাসরি protected attribute না হলেও তা তার সাথে করিলেটেড হতে পারে (একে প্রক্সি ফিচার বলে) — যেমন উপরের ডেমোতে "continuous years of experience"। মডেল কখনো "group" দেখেনি, তবুও তার সিদ্ধান্তে গ্রুপের প্রভাব স্পষ্ট। তাই ফেয়ারনেস যাচাই করতে হলে শুধু ইনপুট ফিচার তালিকা দেখা যথেষ্ট নয় — আউটপুটের ডিস্ট্রিবিউশন গ্রুপ অনুযায়ী পরিমাপ করে দেখতে হয় (M3)।

প্র ০২ উপরের ডেমোতে যদি years_continuous ফিচারটি সম্পূর্ণ বাদ দিয়ে শুধু skill_score দিয়ে স্কোর করা হতো, তাহলে গ্রুপ A ও B-এর মধ্যে পার্থক্য কী হতো বলে আপনার ধারণা?

যেহেতু কোডে skill_score উভয় গ্রুপের জন্য একই ডিস্ট্রিবিউশন (random.gauss(75, 10)) থেকে জেনারেট করা হয়েছে, শুধু সেটি ব্যবহার করলে গ্রুপ A ও B-এর সিলেকশন রেট গড়ে প্রায় সমান হতো (শুধু র‍্যান্ডম স্যাম্পলিং ভ্যারিয়েশনের কারণে সামান্য পার্থক্য থাকতে পারে)। এটাই দেখায় বায়াসের উৎস কোথায় — years_continuous ফিচারটিই এখানে আসল সমস্যা।

প্র ০৩ বাস্তব জীবনে, কোনো একটি ফিচার "প্রক্সি" কি না তা কীভাবে সন্দেহ করা/যাচাই করা যেতে পারে?

একটি সাধারণ পদ্ধতি হলো ফিচারটি ও protected attribute-এর মধ্যে করিলেশন/স্ট্যাটিস্টিক্যাল ডিপেন্ডেন্সি পরিমাপ করা (যদি protected attribute ডেটাসেটে জানা থাকে, এমনকি শুধু অডিটের উদ্দেশ্যে)। এছাড়া ডোমেইন জ্ঞান ব্যবহার করে চিন্তা করা যায় — "এই ফিচারটি কি কোনো ঐতিহাসিক সামাজিক/অর্থনৈতিক বৈষম্যের ফলাফল হতে পারে?" (যেমন পোস্টাল কোড প্রায়ই জাতিগত ডেমোগ্রাফির প্রক্সি হয়ে যায়)। এরপর আউটপুট-লেভেল ফেয়ারনেস মেট্রিক্স (M3) দিয়ে সরাসরি পরিমাপ করাই সবচেয়ে নির্ভরযোগ্য যাচাই।

অনুশীলন

চিন্তা করুন: উপরের কোড সেলে THRESHOLD-কে 6.5 থেকে 8.0-এ বাড়ালে গ্রুপ A ও B-এর সিলেকশন রেট কীভাবে বদলাবে বলে আপনার ধারণা?

থ্রেশহোল্ড বাড়ালে উভয় গ্রুপেরই সিলেকশন রেট কমবে (কঠোর কাটঅফ), কিন্তু গ্রুপ A-এর রেট গ্রুপ B-এর তুলনায় আনুপাতিকভাবে আরও বেশি কমবে, কারণ গ্রুপ A-এর গড় স্কোর এমনিতেই কম ছিল — উচ্চতর থ্রেশহোল্ডে তাদের আরও কম প্রার্থী সেই কাটঅফ পার করতে পারবে।
পরীক্ষা করুন: উপরের কোড সেলে THRESHOLD = 6.5-কে THRESHOLD = 8.0-এ পরিবর্তন করে Run চেপে আপনার অনুমান যাচাই করুন।

থ্রেশহোল্ড ৮.০-এ উভয় গ্রুপেরই সিলেকশন রেট কমবে, তবে গ্রুপ A-এর রেট গ্রুপ B-এর তুলনায় শতাংশগত অর্থে আরও বেশি কমবে — গ্যাপ (পার্সেন্টেজ পয়েন্টে) সাধারণত কমে আসতে পারে যেহেতু উভয় সংখ্যাই ছোট হয়ে যায়, কিন্তু আপেক্ষিক (ratio) বৈষম্য প্রায়ই আরও প্রকট হয়ে ওঠে — এটাই দেখায় "গ্যাপ" কীভাবে মাপা হচ্ছে (পার্সেন্টেজ পয়েন্ট বনাম রেশিও) তা কেন গুরুত্বপূর্ণ প্রশ্ন, M3-এ যা বিস্তারিত আসবে।