স্টেকহোল্ডার অ্যানালাইসিস — একটি AI সিস্টেম কাদের প্রভাবিত করে
এই পাঠে যা শিখবেন
- স্টেকহোল্ডার অ্যানালাইসিসের সংজ্ঞা ও কেন এটি প্রতিটি AI নৈতিকতা পর্যালোচনার প্রথম ধাপ হওয়া উচিত
- একটি AI সিস্টেমে সাধারণত কোন ধরনের স্টেকহোল্ডার গোষ্ঠী জড়িত থাকে
- power (প্রভাব ফেলার ক্ষমতা) বনাম impact (প্রভাবিত হওয়ার মাত্রা) — এই দুই মাত্রায় স্কোর করার পদ্ধতি
- একটি সত্যিকারের, চলমান Python ডেমো — একটি হাইপোথেটিক্যাল লোন-অ্যাপ্রুভাল সিস্টেমের জন্য অগ্রাধিকার র্যাংকিং গণনা করা
১ · স্টেকহোল্ডার অ্যানালাইসিস কী ও কেন দরকার
স্টেকহোল্ডারস্টেকহোল্ডারএমন যেকোনো ব্যক্তি বা গোষ্ঠী যে একটি সিস্টেমের সিদ্ধান্ত দ্বারা প্রভাবিত হয়, অথবা যার সিস্টেমটির উপর কোনো প্রভাব ফেলার ক্ষমতা আছে। বলতে বোঝায় এমন যেকোনো ব্যক্তি বা গোষ্ঠীকে যে একটি সিস্টেমের সিদ্ধান্ত দ্বারা প্রভাবিত হয়, অথবা যার সিস্টেমটির উপর কোনো প্রভাব ফেলার ক্ষমতা আছে। স্টেকহোল্ডার অ্যানালাইসিস হলো এই গোষ্ঠীগুলোকে পদ্ধতিগতভাবে চিহ্নিত করা, প্রতিটির উপর প্রভাবের ধরন ও মাত্রা বোঝা, এবং সেই অনুযায়ী নৈতিক পর্যালোচনায় কাকে অগ্রাধিকার দেওয়া উচিত তা ঠিক করা।
একটি AI সিস্টেম ডিজাইন করার সময় সবচেয়ে সাধারণ ভুলগুলোর একটি হলো শুধু "ব্যবহারকারী" (যে সরাসরি সিস্টেমটি অপারেট করে, যেমন একজন লোন অফিসার) নিয়ে চিন্তা করা — অথচ যাদের উপর সিদ্ধান্তটি সবচেয়ে গভীর প্রভাব ফেলে (যেমন যে আবেদনকারীর লোন প্রত্যাখ্যাত হলো) তারা প্রায়ই সিস্টেমটির ডিজাইন প্রক্রিয়াতে কোনো কণ্ঠস্বরই পায় না। স্টেকহোল্ডার অ্যানালাইসিস এই ব্লাইন্ড-স্পট এড়াতে সাহায্য করে — এটি এই কোর্সের প্রতিটি পরবর্তী মডিউলের (ফেয়ারনেস, প্রাইভেসি, গভর্নেন্স) একটি ভিত্তি টুল।
২ · হাইপোথেটিক্যাল সিস্টেম: AI লোন-অ্যাপ্রুভাল
ধরা যাক একটি ব্যাংক একটি AI সিস্টেম ডিপ্লয় করছে যা প্রতিটি লোন আবেদন স্বয়ংক্রিয়ভাবে অনুমোদন বা প্রত্যাখ্যান করার সিদ্ধান্ত নেয়। এই একটি সিস্টেমের সিদ্ধান্তে কমপক্ষে পাঁচ ধরনের স্টেকহোল্ডার গোষ্ঠী জড়িত:
যাদের লোন অনুমোদিত বা প্রত্যাখ্যাত হচ্ছে — তাদের আর্থিক জীবনের উপর সরাসরি, গভীর প্রভাব, কিন্তু সিস্টেম কীভাবে ডিজাইন হবে তার উপর প্রায় কোনো নিয়ন্ত্রণ নেই।
সিস্টেমটি তৈরি ও ডিপ্লয় করছে — এটির উপর সবচেয়ে বেশি নিয়ন্ত্রণ আছে, এবং লাভজনকতা ও ঝুঁকি ব্যবস্থাপনার মাধ্যমে সরাসরি উপকৃত হয়।
ন্যায্য ঋণদান আইন প্রয়োগ করার ক্ষমতা রাখে — সরাসরি সিস্টেমের সিদ্ধান্তে প্রভাবিত হয় না, কিন্তু নিয়ম প্রণয়নের মাধ্যমে যথেষ্ট প্রভাব ফেলতে পারে।
যদি একটি ব্যাংকের AI সিস্টেম দ্রুত ও সস্তা হয়, প্রতিযোগীদের একই দিকে যেতে বাধ্য করতে পারে — বাজার-কাঠামোর উপর পরোক্ষ প্রভাব।
যদি সিস্টেমটি কোনো নির্দিষ্ট জনগোষ্ঠীকে পদ্ধতিগতভাবে ঋণ থেকে বঞ্চিত করে, তা দীর্ঘমেয়াদে সামাজিক অসমতা বাড়াতে পারে — কিন্তু এই বিমূর্ত গোষ্ঠীর সিস্টেম ডিজাইনে কোনো প্রত্যক্ষ কণ্ঠস্বর নেই।
৩ · Power বনাম Impact — অগ্রাধিকার গণনা
স্টেকহোল্ডার অ্যানালাইসিসের একটি সুপরিচিত হিউরিস্টিক প্রতিটি গোষ্ঠীকে দুই মাত্রায় স্কোর করে (উদাহরণস্বরূপ ১-১০ স্কেলে):
- Power (ক্ষমতা) — সিস্টেমটি কীভাবে ডিজাইন/ডিপ্লয় হবে তার উপর এই গোষ্ঠীর কতটা নিয়ন্ত্রণ বা প্রভাব ফেলার ক্ষমতা আছে।
- Impact (প্রভাব) — সিস্টেমের সিদ্ধান্ত এই গোষ্ঠীর জীবন/স্বার্থের উপর কতটা গভীর প্রভাব ফেলে।
এই দুই স্কোর থেকে একটি সাধারণ "ভালনারেবিলিটি গ্যাপ" (vulnerability gap) হিসেবে অগ্রাধিকার স্কোর গণনা করা যায়:
$$\text{priority} = \text{impact} - \text{power}$$যুক্তিটি সহজ: যদি একটি গোষ্ঠীর impact স্কোর তার power স্কোরের চেয়ে অনেক বেশি হয় (উচ্চ ধনাত্মক গ্যাপ), তার মানে সেই গোষ্ঠী সিস্টেমের সিদ্ধান্তে গভীরভাবে প্রভাবিত হচ্ছে, অথচ নিজের স্বার্থ রক্ষায় তাদের হাতে খুব কম হাতিয়ার আছে — এদেরই নৈতিক পর্যালোচনায় সবচেয়ে বেশি সুরক্ষা ও মনোযোগ প্রাপ্য। নিচের কোড সেলে এই গণনা পাঁচটি স্টেকহোল্ডার গোষ্ঠীর জন্য সত্যিই করা হয়েছে।
stakeholders = [
{"name": "আবেদনকারী (ঋণ-প্রার্থী)", "power": 2, "impact": 9},
{"name": "ঋণদাতা প্রতিষ্ঠান", "power": 9, "impact": 6},
{"name": "রেগুলেটর/নিয়ন্ত্রক সংস্থা", "power": 7, "impact": 5},
{"name": "প্রতিযোগী প্রতিষ্ঠান", "power": 4, "impact": 3},
{"name": "সমাজ (বৃহত্তর অর্থে)", "power": 2, "impact": 7},
]
# priority = impact - power -- উচ্চ impact অথচ কম power মানে নিজেকে রক্ষা করার সামর্থ্য কম,
# তাই নৈতিক অগ্রাধিকার তত বেশি হওয়া উচিত
for s in stakeholders:
s["priority_score"] = s["impact"] - s["power"]
ranked = sorted(stakeholders, key=lambda s: s["priority_score"], reverse=True)
print("power/impact অনুযায়ী অগ্রাধিকার র্যাংকিং (সর্বোচ্চ ঝুঁকি প্রথমে):\n")
for rank, s in enumerate(ranked, start=1):
print(f"{rank}. {s['name']} -- power: {s['power']}, impact: {s['impact']}, priority score: {s['priority_score']}")
print("\nবিশেষ নৈতিক মনোযোগ দরকার (priority score >= 4):")
for s in ranked:
if s["priority_score"] >= 4:
print(f" - {s['name']} (score {s['priority_score']})")স্টেকহোল্ডার অ্যানালাইসিস কোনো একবারের চেকলিস্ট নয় — এটি একটি লেন্স যা প্রতিটি ডিজাইন সিদ্ধান্তে ফিরে আসা উচিত: "এই পরিবর্তনটি কার উপর কীভাবে প্রভাব ফেলবে, এবং যারা সবচেয়ে বেশি প্রভাবিত হবে তাদের কি এই সিদ্ধান্তে কোনো কণ্ঠস্বর আছে?" উচ্চ-impact/কম-power গোষ্ঠীদের বিশেষভাবে অগ্রাধিকার দেওয়া এই কোর্সের পরবর্তী মডিউলগুলোতে (ফেয়ারনেস মেট্রিক্স, প্রাইভেসি, ইমপ্যাক্ট অ্যাসেসমেন্ট) বারবার ফিরে আসা একটি নীতি।
ভাবনার প্রশ্ন
প্রতিটি প্রশ্ন নিজে কিছুক্ষণ ভাবুন — তারপর "→ উত্তর" চাপুন।
প্র ০১ উপরের কোড সেলে ঋণদাতা প্রতিষ্ঠানের priority score সবচেয়ে কম (ঋণাত্মক)। এর মানে কি ব্যাংকের এই সিস্টেমের নৈতিক প্রভাব নিয়ে চিন্তা করার দরকার নেই?
না — এখানে priority score শুধু "কে নিজেকে রক্ষা করতে সবচেয়ে কম সক্ষম" তা মাপছে, "কার নৈতিক দায়িত্ব সবচেয়ে বেশি" তা নয়। বরং উল্টোটাই সত্য: ঋণদাতা প্রতিষ্ঠানের power সবচেয়ে বেশি বলেই তাদের দায়িত্বও সবচেয়ে বেশি (তারাই সিস্টেম ডিজাইন করছে) — এই মেট্রিকটি শুধু বলছে কোন গোষ্ঠীর প্রতি বিশেষ সুরক্ষামূলক মনোযোগ দরকার, কে দায়বদ্ধ তা আলাদা প্রশ্ন (M5-এ অ্যাকাউন্টেবিলিটি নিয়ে বিস্তারিত আসবে)।
প্র ০২ এই মডেলে "সমাজ"-কে একটি একক স্টেকহোল্ডার গোষ্ঠী হিসেবে ধরা হয়েছে। বাস্তবে এটি কেন অতিসরলীকরণ হতে পারে?
"সমাজ" নিজেই সমজাতীয় নয় — এর ভেতরে বিভিন্ন উপ-গোষ্ঠী আলাদাভাবে প্রভাবিত হতে পারে (যেমন একটি নির্দিষ্ট আয়-স্তর বা ভৌগোলিক অঞ্চলের মানুষ যারা ঐতিহাসিকভাবে ঋণ পেতে বেশি বাধার সম্মুখীন হয়েছে)। একটি সম্পূর্ণ বিশ্লেষণে "সমাজ"-কে আরও ভেঙে নির্দিষ্ট উপ-গোষ্ঠীতে স্কোর করা উচিত — ঠিক যেমন L02-এর Gender Shades ঘটনায় দেখা গিয়েছিল যে একমাত্রিক গোষ্ঠীকরণ একটি ইন্টারসেকশনাল সমস্যা লুকিয়ে ফেলতে পারে।
প্র ০৩ power ও impact স্কোর (১-১০ স্কেলে) বাস্তবে কীভাবে নির্ধারণ করা উচিত — এগুলো কি নির্বিচারে নির্ধারণ করা হয়?
বাস্তবে এই স্কোরগুলো একক ব্যক্তির অনুমানের বদলে একাধিক স্টেকহোল্ডার/বিশেষজ্ঞের ইনপুট নিয়ে, এবং যতটা সম্ভব সুনির্দিষ্ট মাপকাঠির (যেমন "কতজন মানুষ প্রভাবিত হয়", "প্রভাবটি কতটা বিপরীতমুখী করা যায়") ভিত্তিতে নির্ধারণ করা উচিত। এই পাঠের সংখ্যাগুলো একটি স্পষ্টীকরণমূলক (illustrative) উদাহরণ — বাস্তব প্রয়োগে এগুলো একটি কাঠামোবদ্ধ ইমপ্যাক্ট অ্যাসেসমেন্ট প্রক্রিয়ার মাধ্যমে আসা উচিত (M11-এ বিস্তারিত)।
অনুশীলন
-
চিন্তা করুন: উপরের কোড সেলে যদি "রেগুলেটর"-এর
powerস্কোর ৭ থেকে ৪-এ কমানো হয় (ধরা যাক এই খাতে দুর্বল প্রয়োগ ক্ষমতা), তাহলে তাদেরpriority_scoreকীভাবে বদলাবে এবং র্যাংকিংয়ে তাদের অবস্থান কী হবে বলে আপনার ধারণা?priority_score = impact - power = 5 - 4 = 1হবে (আগে ছিল5 - 7 = -2) — স্কোর বাড়বে, কারণ power কমে যাওয়ায় গ্যাপ বেড়েছে। তবে এটি এখনও আবেদনকারী (৭) বা সমাজ (৫)-এর চেয়ে কম, তাই র্যাংকিংয়ে রেগুলেটর মাঝামাঝি অবস্থানেই থাকবে, শুধু প্রতিযোগীর (-১) উপরে উঠে আসবে। -
পরীক্ষা করুন: উপরের কোড সেলে
রেগুলেটর-এর"power": 7-কে"power": 4-এ পরিবর্তন করে Run চেপে আপনার অনুমান যাচাই করুন।পরিবর্তনের পর রেগুলেটরের priority score ১ দেখাবে, এবং র্যাংকিংয়ে তারা আবেদনকারী ও সমাজের পরে, কিন্তু প্রতিযোগীর উপরে অবস্থান করবে — ঠিক যেমন গণনা করে অনুমান করা হয়েছিল। এটি দেখায় কীভাবে একটিমাত্র ইনপুট স্কোর বদলালে পুরো অগ্রাধিকার র্যাংকিং পুনর্গণিত হয়ে যায়।
আরও পড়ুন · ABCL TECH-এ আপনার পরবর্তী পদক্ষেপ
- কোর্সের সম্পূর্ণ সিলেবাস দেখুন ৫৭টি পাঠ নৈতিক ফ্রেমওয়ার্ক, বায়াস-ফেয়ারনেস, প্রাইভেসি, ট্রান্সপারেন্সি, AI অ্যালাইনমেন্ট, জেনারেটিভ AI/LLM এথিক্স, সামাজিক প্রভাব, গভর্নেন্স ও রেগুলেশন, সেক্টর-স্পেসিফিক এথিক্স ও এক্সিস্টেনশিয়াল রিস্ক বিতর্ক — বাকি পাঠগুলো শীঘ্রই যুক্ত হবে।
- Ethics in Computing & AI Safety কোর্স সহোদর কোর্স সাধারণ কম্পিউটিং এথিক্স, প্রফেশনাল এথিক্স ও সেফটি-ক্রিটিক্যাল কেস স্টাডির একটি বিস্তৃত সার্ভে — এই কোর্স সম্পূর্ণভাবে AI-তে ফোকাস করে গভীরে যায়।
- সব Courses দেখুন ABCL TECH C, C++, Python, Java, JavaScript, DSA, Machine Learning, Deep Learning, System Design, Cybersecurity, Cloud Computing & DevOps, এবং আরও অনেক কোর্স — সব এক জায়গায়।