ক্রিমিনাল জাস্টিসে AI এথিক্স

১ · COMPAS থেকে বৃহত্তর ক্রিমিনাল জাস্টিস

M3/L11-এ আমরা COMPAS-এর মতো রিসিডিভিজম-রিস্ক টুল নিয়ে আলোচনা করেছিলাম — 2016 সালের ProPublica "Machine Bias" তদন্ত এবং সামগ্রিক ক্যালিব্রেশন বনাম গোষ্ঠীভেদে ভিন্ন FPR/FNR নিয়ে পদ্ধতিগত বিতর্ক। সেটি ছিল মূলত একটি এক-বারের ক্লাসিফিকেশন সমস্যা — একটি ব্যক্তিকে একটি স্কোর দেওয়া হয়, ব্যস। কিন্তু ক্রিমিনাল-জাস্টিস সিস্টেমে AI আরও ব্যাপকভাবে ব্যবহৃত হয় — প্রি-ট্রায়াল রিস্ক অ্যাসেসমেন্ট, সেন্টেন্সিং সহায়ক টুল, এবং প্রেডিক্টিভ পুলিশিং (কোন এলাকায় বেশি টহল পাঠানো উচিত তা প্রেডিক্ট করা)। প্রেডিক্টিভ পুলিশিং-এর একটি বিশেষত্ব আছে যা COMPAS-এর মতো এক-বারের ক্লাসিফায়ারে নেই — এটি একটি ডাইনামিক সিস্টেম, যেখানে সিস্টেমের নিজের সিদ্ধান্তই পরবর্তী রাউন্ডের ট্রেনিং/আপডেট ডেটা তৈরি করে।

২ · কেন "রেকর্ডেড ইনসিডেন্ট" প্রকৃত অপরাধের হার নয়

একটি গুরুত্বপূর্ণ পার্থক্য: একটি এলাকার প্রকৃত অপরাধের হার এবং সেই এলাকা থেকে রেকর্ডেড ইনসিডেন্টের সংখ্যা এক জিনিস নয়। রেকর্ডেড ইনসিডেন্ট আংশিকভাবে পুলিশ উপস্থিতির একটি ফাংশন — যে এলাকায় বেশি টহল থাকে, সেখানে বেশি স্টপ/চেক হয়, যা বাড়তি লঙ্ঘন "আবিষ্কার" ও রেকর্ড করার সম্ভাবনা বাড়ায়, এমনকি যদি অন্তর্নিহিত প্রকৃত অপরাধের হার দুই এলাকায় সমানও হয়। ক্রিমিনোলজিস্ট ও AI-এথিক্স গবেষকদের মধ্যে এটি একটি বহুল-আলোচিত সাধারণ সমালোচনা প্রেডিক্টিভ পুলিশিং সিস্টেমের বিরুদ্ধে — যদি একটি মডেল "রেকর্ডেড ইনসিডেন্ট"-কে গ্রাউন্ড ট্রুথ ধরে পরবর্তী রাউন্ডের স্কোর আপডেট করে, তাহলে এটি নিজের অতীত সিদ্ধান্তকেই "নিশ্চিত" করছে বলে মনে করতে পারে, প্রকৃত বাস্তবতা যাচাই না করেই।

৩ · একটি সত্যিকারের সিমুলেশন — বায়াস কীভাবে কম্পাউন্ড করে

নিচের কোড সেলে দুটি সিন্থেটিক এলাকা (X ও Y) আছে — কোনো বাস্তব শহর বা প্রকৃত ডেটা নয়। দুটি এলাকারই প্রকৃত ইনসিডেন্ট-হার সম্পূর্ণ সমান রাখা হয়েছে প্রতিটি রাউন্ডে (এটাই সবচেয়ে গুরুত্বপূর্ণ সেটআপ — যদি ফলাফলে ব্যবধান দেখা যায়, তা প্রকৃত অপরাধ থেকে নয়, শুধু ফিডব্যাক-লুপ থেকেই এসেছে)। এলাকা X-এর শুরুর রিস্ক স্কোর সামান্য বেশি (হয়তো ঐতিহাসিক পুলিশিং প্যাটার্নের কারণে) — ০.৬৫ বনাম ০.৩৫। প্রতি রাউন্ডে: টহল বরাদ্দ রিস্ক স্কোরের অনুপাতে হয়, এবং টহল-উপস্থিতি বাড়লে রেকর্ডেড ইনসিডেন্ট রৈখিকভাবে নয় বরং সুপার-লিনিয়ারভাবে বাড়ে (একটি সরলীকৃত মডেলিং পছন্দ, বাস্তব সংখ্যা নয় — বেশি টহল মানে বেশি স্টপ, যা বাড়তি ঘটনা আবিষ্কারের সম্ভাবনা আনুপাতিকের চেয়ে বেশি বাড়ায় এমন ধারণাকে প্রতিফলিত করে)।

# সিন্থেটিক, ইলাস্ট্রেটিভ সিমুলেশন -- কোনো বাস্তব শহর বা প্রকৃত পুলিশ ডেটা নয়

TRUE_INCIDENT_RATE = 100  # দুই এলাকাতেই প্রকৃত ইনসিডেন্ট-হার -- ইচ্ছাকৃতভাবে সম্পূর্ণ সমান, প্রতি রাউন্ডে অপরিবর্তিত
ROUNDS = 5

risk_x, risk_y = 0.65, 0.35  # প্রাথমিক (সম্ভবত ঐতিহাসিক বায়াসড) রিস্ক স্কোর -- যোগফল = ১.০

print(f"রাউন্ড ০ (শুরু):  এলাকা X = {risk_x:.3f}   এলাকা Y = {risk_y:.3f}   (ব্যবধান = {risk_x - risk_y:.3f})")

for round_num in range(1, ROUNDS + 1):
    # ধাপ ১: টহল বরাদ্দ -- বর্তমান রিস্ক স্কোরের অনুপাতে
    patrol_x, patrol_y = risk_x, risk_y

    # ধাপ ২: রেকর্ডেড ইনসিডেন্ট -- টহল-উপস্থিতির সাথে সুপার-লিনিয়ারভাবে বাড়ে (বর্গ করে সরলীকৃত)
    recorded_x = TRUE_INCIDENT_RATE * (patrol_x ** 2)
    recorded_y = TRUE_INCIDENT_RATE * (patrol_y ** 2)

    # ধাপ ৩: পরবর্তী রাউন্ডের রিস্ক স্কোর -- রেকর্ডেড ইনসিডেন্টের ভাগ অনুযায়ী পুনর্গণনা
    total_recorded = recorded_x + recorded_y
    risk_x, risk_y = recorded_x / total_recorded, recorded_y / total_recorded

    print(f"রাউন্ড {round_num}: রেকর্ডেড ইনসিডেন্ট X={recorded_x:.1f} Y={recorded_y:.1f}  ->  "
          f"নতুন স্কোর X={risk_x:.3f} Y={risk_y:.3f}  (ব্যবধান={risk_x - risk_y:.3f})")

print(f"\nমনে রাখুন: TRUE_INCIDENT_RATE দুই এলাকাতেই প্রতি রাউন্ডে অপরিবর্তিত ছিল ({TRUE_INCIDENT_RATE})। "
      f"তবুও শুধু টহল-বরাদ্দ ফিডব্যাক-লুপের কারণে রিস্ক-স্কোরের ব্যবধান প্রতি রাউন্ডে বেড়েছে।")