নৈতিকতা বনাম আইন বনাম কমপ্লায়েন্স — AI-এর প্রেক্ষাপটে

১ · তিনটি ভিন্ন প্রশ্ন

একটি AI সিস্টেম নিয়ে আলোচনা করার সময় প্রায়ই তিনটি ভিন্ন প্রশ্ন গুলিয়ে ফেলা হয় — অথচ এগুলো একেবারেই আলাদা:

• আইন (Law) — এই কাজটি করা কি বৈধ? এটি রাষ্ট্র/আদালত দ্বারা প্রয়োগযোগ্য নিয়মের প্রশ্ন।
• নৈতিকতা (Ethics) — এই কাজটি করা কি সঠিক? এটি একটি বৃহত্তর, প্রায়ই আইনের চেয়ে দাবিদার মান — যা সমাজ বা পেশাগত নর্মের প্রশ্ন, প্রায়ই কোনো নির্দিষ্ট আদালতে প্রয়োগযোগ্য নয়।
• কমপ্লায়েন্সকমপ্লায়েন্সএকটি নির্দিষ্ট, লিখিত নিয়ম বা রেগুলেশনের আক্ষরিক শর্তগুলোর সাথে টেকনিক্যালি সঙ্গতিপূর্ণ হওয়া — যা সবসময় সেই নিয়মের অন্তর্নিহিত উদ্দেশ্য পূরণের সমতুল্য নয়। (Compliance) — একটি নির্দিষ্ট, লিখিত নিয়ম বা রেগুলেশনের আক্ষরিক শর্তগুলো কি পূরণ হচ্ছে? এটি আইনের চেয়েও সংকীর্ণ — একটি নির্দিষ্ট চেকলিস্ট মেনে চলার প্রশ্ন।

এই তিনটি ধারণা প্রায়ই ওভারল্যাপ করে, কিন্তু কখনোই সম্পূর্ণ সমতুল্য নয়। একটি AI সিস্টেম একইসাথে আইনত বৈধ, একটি নির্দিষ্ট রেগুলেশনের সাথে টেকনিক্যালি কমপ্লায়েন্ট, অথচ গভীরভাবে অনৈতিক হতে পারে — এবং উল্টোটাও সত্য।

২ · তিনটি ক্লাসিক পরিস্থিতি

ক · আইনত বৈধ, কিন্তু অনৈতিক

একটি AI সিস্টেম সম্পূর্ণভাবে বিদ্যমান আইন মেনে চলতে পারে, অথচ ব্যবহারকারীর প্রতি অসম্মানজনক বা ম্যানিপুলেটিভ আচরণ করতে পারে — উদাহরণস্বরূপ একটি "ডার্ক প্যাটার্ন" ইন্টারফেস যা ব্যবহারকারীকে বিভ্রান্ত করে এমনভাবে ডিজাইন করা হয়েছে যাতে তারা অজান্তেই একটি সাবস্ক্রিপশন চালিয়ে যান, অথচ প্রতিটি পৃথক ধাপ প্রযুক্তিগতভাবে কোনো আইন ভাঙছে না। আইন সবসময় প্রযুক্তির গতির সাথে তাল মিলিয়ে আপডেট হয় না — একটি নতুন ধরনের ক্ষতিকর প্র্যাকটিস তৈরি হওয়ার পরও আইন সেটি স্পষ্টভাবে নিষিদ্ধ করতে বছরের পর বছর সময় নিতে পারে। "এটি আইনত বৈধ" — এই যুক্তি তাই কখনোই নৈতিক প্রশ্নের চূড়ান্ত উত্তর হতে পারে না।

খ · নৈতিক, কিন্তু আইনত বাধ্যতামূলক নয়

বিপরীত দিকে, একটি প্রতিষ্ঠান আইনি ন্যূনতম প্রয়োজনীয়তার চেয়ে অনেক বেশি করতে পারে, যদিও তা করতে কোনো আইন বাধ্য করেনি — উদাহরণস্বরূপ একটি কোম্পানি স্বেচ্ছায় তার মডেলকে একাধিক ডেমোগ্রাফিক সাবগ্রুপ জুড়ে পরীক্ষা করে ফলাফল প্রকাশ্যে জানানো, অথবা আইনি ন্যূনতমের চেয়ে অনেক কম সময়ের জন্য ব্যবহারকারীর ডেটা সংরক্ষণ করা। এগুলো নৈতিকভাবে প্রশংসনীয় পদক্ষেপ, কিন্তু কোনো নির্দিষ্ট আইন এগুলো বাধ্যতামূলক করে না — একটি প্রতিষ্ঠান "শুধু আইন মেনে চলার" চেয়ে বেশি কিছু বেছে নিতে পারে, এবং প্রায়ই দায়িত্বশীল AI প্র্যাকটিসের অনেকটাই এই ক্যাটাগরিতে পড়ে (M11-এ বিস্তারিত)।

গ · টেকনিক্যালি কমপ্লায়েন্ট, কিন্তু স্পিরিট মিসড

এই তৃতীয় ক্যাটাগরিটি সবচেয়ে সূক্ষ্ম, কারণ এখানে একটি নির্দিষ্ট, লিখিত নিয়মের সাথে টেকনিক্যাল সঙ্গতি থাকা সত্ত্বেও সেই নিয়মের মূল উদ্দেশ্যই ব্যর্থ হয়। L01-এর প্রক্সি-ডিসক্রিমিনেশন ডেমো এর একটি নিখুঁত উদাহরণ: ধরা যাক একটি সংকীর্ণ নন-ডিসক্রিমিনেশন নিয়ম বলে "মডেল সরাসরি group/লিঙ্গ ফিচার ব্যবহার করতে পারবে না।" L01-এর রিজিউমে-স্ক্রিনিং মডেল এই নিয়মটি আক্ষরিকভাবে মেনে চলেছিল — এটি কখনো group ফিচার দেখেনি। তবুও, years_continuous-এর মতো একটি করিলেটেড প্রক্সি ফিচারের মাধ্যমে মডেলটি গ্রুপ A ও গ্রুপ B-এর মধ্যে প্রায় ৪৬ পার্সেন্টেজ পয়েন্টের সিলেকশন-রেট গ্যাপ তৈরি করেছিল — নিয়মটির অক্ষর (letter) মেনে চলা হয়েছে, কিন্তু নিয়মটির স্পিরিট (কোনো গোষ্ঠীর প্রতি বৈষম্য না করা) সম্পূর্ণভাবে ব্যর্থ হয়েছে।

৩ · একটি সত্যিকারের ক্লাসিফায়ার

নিচের কোড সেলে তিনটি উদাহরণ পরিস্থিতিকে boolean শর্তের উপর ভিত্তি করে একটি নিয়ম-ভিত্তিক ফাংশন দিয়ে সত্যিই শ্রেণীবদ্ধ করা হয়েছে — কোনো লেবেল হার্ডকোড করা হয়নি, প্রতিটি পরিস্থিতির ফলাফল classify() ফাংশনের লজিক থেকে গণনা করে বের করা হয়েছে।

def classify(s):
    # প্রথমে সবচেয়ে সূক্ষ্ম কেসটি পরীক্ষা করা হয়: সংকীর্ণ নিয়মের সাথে কমপ্লায়েন্ট, তবুও বৈষম্যমূলক ফলাফল
    if s["complies_with_narrow_rule"] and s["produces_disparate_outcome"]:
        return "টেকনিক্যালি কমপ্লায়েন্ট, কিন্তু স্পিরিট মিসড"
    if s["is_legal"] and not s["is_ethical"]:
        return "আইনত বৈধ, কিন্তু অনৈতিক"
    if s["is_ethical"] and not s["is_legally_required"]:
        return "নৈতিক, কিন্তু আইনত বাধ্যতামূলক নয়"
    return "শ্রেণীবদ্ধ নয়"

scenarios = [
    {
        "name": "L01-এর রিজিউমে-স্ক্রিনিং মডেল (proxy ফিচার দিয়ে বায়াস)",
        "is_legal": True, "is_ethical": False, "is_legally_required": False,
        "complies_with_narrow_rule": True, "produces_disparate_outcome": True,
    },
    {
        "name": "আইনি ন্যূনতমের চেয়ে অনেক কম সময়ের জন্য স্বেচ্ছায় ডেটা সংরক্ষণ",
        "is_legal": True, "is_ethical": True, "is_legally_required": False,
        "complies_with_narrow_rule": True, "produces_disparate_outcome": False,
    },
    {
        "name": "একটি ম্যানিপুলেটিভ 'ডার্ক প্যাটার্ন' UI যা প্রযুক্তিগতভাবে কোনো আইন ভাঙে না",
        "is_legal": True, "is_ethical": False, "is_legally_required": False,
        "complies_with_narrow_rule": False, "produces_disparate_outcome": False,
    },
]

for s in scenarios:
    print(f"{s['name']}\n  --> {classify(s)}\n")