পাঠ ১৭ · ৫৭-এর মধ্যে · মডিউল ৪
Home / AI Courses / AI Ethics / প্রাইভেসি ও ডেটা এথিক্স

সার্ভেইল্যান্স ক্যাপিটালিজম ও AI-চালিত ট্র্যাকিং

Surveillance capitalism & AI-driven tracking
৮ মিনিট পড়া মধ্যম · Intermediate Python কোডসহ সম্পূর্ণ বাংলায়

এই পাঠে যা শিখবেন

  • "সার্ভেইল্যান্স ক্যাপিটালিজম" ধারণাটি — ফ্রি সার্ভিসের প্রকৃত ব্যবসায়িক মডেল
  • কীভাবে এনগেজমেন্ট-ভিত্তিক রাজস্ব মডেল AI সিস্টেমের অপ্টিমাইজেশন-লক্ষ্যকে প্রভাবিত করে
  • একটি সত্যিকারের কম্পিউটেড ডেমো — এনগেজমেন্ট-অপ্টিমাইজড বনাম নিরপেক্ষ কনটেন্ট-র‍্যাংকিং
  • এই প্রণোদনা-কাঠামো কীভাবে এই কোর্সের পরবর্তী কয়েকটি পাঠের (মিসইনফরমেশন, ডিজিটাল অ্যাডিকশন) মূল থিম

১ · "ফ্রি" সার্ভিসের প্রকৃত মূল্য

অনেক AI-চালিত সার্ভিস (সোশ্যাল মিডিয়া ফিড, সার্চ, রিকমেন্ডেশন সিস্টেম) ব্যবহারকারীর কাছে সরাসরি অর্থ নেয় না — বদলে, তারা ব্যবহারকারীর আচরণগত ডেটা (কী দেখেন, কতক্ষণ থাকেন, কী স্কিপ করেন, কী নিয়ে ফিরে আসেন) সংগ্রহ করে, সেটি বিশ্লেষণ করে একটি বিস্তারিত আচরণগত প্রোফাইল তৈরি করে, এবং সেই প্রোফাইল বিজ্ঞাপন-টার্গেটিং-এর মাধ্যমে রাজস্বে রূপান্তর করে। এই ব্যবসায়িক মডেলটিকে ব্যাপকভাবে সার্ভেইল্যান্স ক্যাপিটালিজম নামে অভিহিত করা হয় — একটি প্রতিষ্ঠিত সমালোচনামূলক ধারণা যা বর্ণনা করে কীভাবে মানুষের আচরণ নিজেই একটি কাঁচামাল ও পণ্যে পরিণত হয়।

ডেটা সংগ্রহ
প্রতিটি ক্লিক, স্ক্রল, পজ, রি-ওয়াচ — সবকিছু ট্র্যাক করা হয় এবং একটি বিস্তারিত আচরণগত প্রোফাইলে যোগ হয়, প্রায়ই ব্যবহারকারীর সম্পূর্ণ সচেতনতা ছাড়াই।
AI-ভিত্তিক প্রেডিকশন
এই ডেটা দিয়ে ট্রেইন করা AI মডেল ভবিষ্যদ্বাণী করে কোন কনটেন্ট/বিজ্ঞাপন একজন নির্দিষ্ট ব্যবহারকারীকে সবচেয়ে বেশি "আটকে রাখবে" বা ক্লিক করাবে।
রাজস্ব-রূপান্তর
বেশি এনগেজমেন্ট = বেশি বিজ্ঞাপন-এক্সপোজার = বেশি রাজস্ব — এই সরল সমীকরণটিই প্ল্যাটফর্মের অপ্টিমাইজেশন-লক্ষ্য নির্ধারণ করে দেয়।
Ethics in Computing & AI Safety কোর্সের সাথে সম্পর্ক

Ethics in Computing & AI Safety ডেটা-প্রাইভেসি নিয়ে সাধারণ আলোচনা করে — এই কোর্স নির্দিষ্টভাবে AI-চালিত রিকমেন্ডেশন/ট্র্যাকিং সিস্টেমের ব্যবসায়িক-মডেল প্রণোদনার দিকটি গভীরে যায়।

২ · কাঠামোগত প্রণোদনা — এনগেজমেন্ট ম্যাক্সিমাইজেশন

এই ব্যবসায়িক মডেলের একটি গুরুত্বপূর্ণ পরিণতি হলো, প্ল্যাটফর্মের AI সিস্টেমকে সাধারণত "ব্যবহারকারীর জন্য সবচেয়ে উপকারী কী" অপ্টিমাইজ করতে বলা হয় না — বলা হয় "কোন কনটেন্ট সবচেয়ে বেশি এনগেজমেন্ট (সময়, ক্লিক, শেয়ার) তৈরি করবে" তা অপ্টিমাইজ করতে। বেশিরভাগ সময় এই দুটি লক্ষ্য একসাথে চলে, কিন্তু সবসময় নয় — sensational, উত্তেজক, বা আবেগ-উদ্দীপক কনটেন্ট প্রায়ই শান্ত, নির্ভুল, সুচিন্তিত কনটেন্টের চেয়ে বেশি এনগেজমেন্ট তৈরি করে। নিচের কোডে এই প্রভাবটি একটি সরল, ইলাস্ট্রেটিভ টয়-মডেলে সত্যিই গণনা করে দেখানো হয়েছে।

Python
import random
random.seed(3)

# টয় কনটেন্ট সেট: প্রতিটি আইটেমের engagement_score (স্ক্রল/রি-ওয়াচ টানার সম্ভাবনা)
# এবং info_quality (তথ্যের নির্ভরযোগ্যতা/মান) -- শুধু বিশ্লেষণের জন্য, ব্যবহারকারীর কাছে অদৃশ্য
content = []
for i in range(40):
    if i % 5 == 0:
        # sensational/কম-মানের কিন্তু হাই-এনগেজমেন্ট আইটেম
        content.append({
            "id": i,
            "engagement_score": random.uniform(70, 95),
            "info_quality": random.uniform(10, 35),
        })
    else:
        # মানসম্মত, কম sensational আইটেম
        content.append({
            "id": i,
            "engagement_score": random.uniform(20, 55),
            "info_quality": random.uniform(55, 90),
        })

def neutral_feed(items):
    return sorted(items, key=lambda c: c["id"])

def engagement_optimized_feed(items):
    return sorted(items, key=lambda c: -c["engagement_score"])

TOP_N = 10
neutral_top = neutral_feed(content)[:TOP_N]
engagement_top = engagement_optimized_feed(content)[:TOP_N]

def avg(key, items):
    return sum(c[key] for c in items) / len(items)

# টয় রেভিনিউ মডেল: প্রতি এনগেজমেন্ট-পয়েন্ট, ব্যবহারকারী গড়ে একটি নির্দিষ্ট মূল্যের বিজ্ঞাপন-এক্সপোজার আনে
AD_VALUE_PER_ENGAGEMENT_POINT = 0.05  # সম্পূর্ণ কাল্পনিক/ইলাস্ট্রেটিভ একক

for label, feed in [("Neutral (chronological)", neutral_top), ("Engagement-optimized", engagement_top)]:
    avg_engagement = avg("engagement_score", feed)
    avg_quality = avg("info_quality", feed)
    est_revenue = sum(c["engagement_score"] for c in feed) * AD_VALUE_PER_ENGAGEMENT_POINT
    print(f"{label}:")
    print(f"  টপ-{TOP_N} আইটেমের গড় engagement_score = {avg_engagement:.1f}")
    print(f"  টপ-{TOP_N} আইটেমের গড় info_quality      = {avg_quality:.1f}")
    print(f"  ইলাস্ট্রেটিভ আনুমানিক বিজ্ঞাপন-রেভিনিউ    = {est_revenue:.2f} একক\n")

    
উপরের আউটপুটে লক্ষ্য করুন — engagement-optimized ফিড neutral ফিডের চেয়ে উচ্চতর গড় engagement_score ও অনুমিত রেভিনিউ দেয়, কিন্তু একই সাথে উল্লেখযোগ্যভাবে কম গড় info_quality দেয়। এটি একটি সরলীকৃত, ইলাস্ট্রেটিভ মডেল (বাস্তব বিজ্ঞাপন-অর্থনীতি অনেক বেশি জটিল) — কিন্তু এটি মূল প্রক্রিয়াটি সত্যিকার গণনা দিয়ে দেখায়: যখন র‍্যাংকিং-অ্যালগরিদম এনগেজমেন্টের জন্য অপ্টিমাইজ করে, এবং এনগেজমেন্ট ও তথ্যের-মান পরস্পরবিরোধী হয়ে ওঠে, তখন অ্যালগরিদম নিয়মিতভাবে মান কমিয়ে দিতে পারে — কোনো "মন্দ উদ্দেশ্য" ছাড়াই, শুধু তার অপ্টিমাইজেশন-টার্গেটকে বিশ্বস্তভাবে অনুসরণ করার কারণে।
মূল কথা · Key takeaway

সার্ভেইল্যান্স ক্যাপিটালিজমের সমস্যা শুধু "ডেটা সংগ্রহ করা হচ্ছে" তা নয় — এটি একটি কাঠামোগত প্রণোদনা তৈরি করে যেখানে ব্যবহারকারীর সময় ও মনোযোগ ধরে রাখাটাই সাফল্যের মাপকাঠি হয়ে ওঠে, ব্যবহারকারীর প্রকৃত কল্যাণ নয়। এই একই থিম M8-এর "ডিজিটাল অ্যাডিকশন ও অ্যাটেনশন ইঞ্জিনিয়ারিং" (L35) পাঠে আরও গভীরে আলোচনা করা হবে — সেখানে দেখানো হবে কীভাবে ডিজাইন-লেভেল টেকনিক (ইনফিনিট স্ক্রল, ভ্যারিয়েবল রিওয়ার্ড নোটিফিকেশন) এই একই ব্যবসায়িক প্রণোদনা থেকে সরাসরি উদ্ভূত হয়।

ভাবনার প্রশ্ন

প্রতিটি প্রশ্ন নিজে কিছুক্ষণ ভাবুন — তারপর "→ উত্তর" চাপুন।

প্র ০১ একটি প্ল্যাটফর্ম বলছে, "আমাদের অ্যালগরিদম শুধু ব্যবহারকারীরা কী পছন্দ করে তা দেখায়, আমরা তাদের কিছুতে বাধ্য করি না।" উপরের ডেমোর আলোকে এই দাবির একটি সীমাবদ্ধতা কী?

এনগেজমেন্ট (ক্লিক, স্ক্রল-টাইম) সবসময় "প্রকৃত পছন্দ" বা কল্যাণের নির্ভরযোগ্য প্রক্সি নয় — মানুষ প্রায়ই এমন কনটেন্টে বেশি সময় দেয় যা তারা পরে "সময়ের অপচয় ছিল" বলে মনে করেন (sensational, রাগ-উদ্দীপক, বা কম্পালসিভ কনটেন্ট)। উপরের ডেমোতে "বেশি এনগেজমেন্ট" ও "বেশি তথ্য-মান" আলাদা জিনিস — অ্যালগরিদম যখন শুধু প্রথমটি মাপে, সেটিকে দ্বিতীয়টির প্রক্সি হিসেবে ধরে নেওয়াটাই সমস্যাজনক অনুমান।

প্র ০২ উপরের কোডে AD_VALUE_PER_ENGAGEMENT_POINT-এর মান বাড়ালে (ধরুন ০.০৫ থেকে ০.৫০-এ) দুই ফিডের রেভিনিউ-পার্থক্যের উপর কী প্রভাব পড়বে?

এই ধ্রুবকটি দুই ফিডের রেভিনিউকেই একই অনুপাতে (১০ গুণ) বাড়াবে, তাই দুটির মধ্যে আপেক্ষিক পার্থক্য (ratio) অপরিবর্তিত থাকবে, কিন্তু পরম (absolute) পার্থক্য বহুগুণ বেড়ে যাবে। বাস্তব জগতে এই ধ্রুবকটি যত বড়, engagement-অপ্টিমাইজেশনের আর্থিক প্রণোদনাও তত শক্তিশালী হয়ে ওঠে।

প্র ০৩ একজন প্রোডাক্ট ম্যানেজার হিসেবে, "শুধু এনগেজমেন্ট" ছাড়া আর কোন মেট্রিক ট্র্যাক করলে এই প্রণোদনার নেতিবাচক প্রভাব কিছুটা সামলানো যেতে পারে বলে আপনার মনে হয়?

কিছু সম্ভাব্য বিকল্প/সম্পূরক মেট্রিক: ব্যবহারকারী-জরিপে "এই কনটেন্ট দেখে আপনি কি খুশি/অনুতপ্ত" ধরনের সরাসরি ফিডব্যাক, দীর্ঘমেয়াদি রিটেনশন (দৈনিক এনগেজমেন্টের বদলে ব্যবহারকারী মাস পরেও প্ল্যাটফর্মকে মূল্যবান মনে করছেন কি না), এবং তথ্য-নির্ভরযোগ্যতা/সোর্স-বৈচিত্র্যের মতো মান-সূচক। প্রতিটিরই নিজস্ব সীমাবদ্ধতা আছে, কিন্তু একক এনগেজমেন্ট-মেট্রিকের চেয়ে এগুলো মিলিয়ে ব্যবহার করা বেশি ভারসাম্যপূর্ণ।

অনুশীলন

  1. চিন্তা করুন: উপরের কোডে TOP_N-কে 10 থেকে 40-এ (অর্থাৎ পুরো কনটেন্ট-সেট) বাড়ালে দুই ফিডের গড় info_quality-র মধ্যে পার্থক্য কী হবে বলে আপনার ধারণা?

    যদি TOP_N পুরো তালিকার সমান হয়, তাহলে neutral ও engagement-optimized উভয় ফিডেই একই ৪০টি আইটেম থাকবে (শুধু ভিন্ন ক্রমে) — তাই গড় info_quality-র পার্থক্য শূন্য হয়ে যাবে। এটাই দেখায় সমস্যাটি মূলত নির্বাচন/র‍্যাংকিং-এ (কোন সীমিত সংখ্যক আইটেম উপরে দেখানো হচ্ছে), পুরো তালিকার গঠনে নয়।

  2. পরীক্ষা করুন: উপরের কোড সেলে TOP_N = 10-কে TOP_N = 40-এ পরিবর্তন করে Run চেপে আপনার অনুমান যাচাই করুন।

    TOP_N=40-এ দুই ফিডের গড় engagement_score ও গড় info_quality হুবহু সমান হয়ে যাবে (যেহেতু উভয়েই সম্পূর্ণ কনটেন্ট-সেট কভার করছে) — শুধু আইটেমগুলোর ক্রম ভিন্ন। এটি নিশ্চিত করে যে পার্থক্যটি সম্পূর্ণভাবে "কোন সাবসেট উপরে/প্রথমে দেখানো হচ্ছে" তার উপর নির্ভরশীল।

আরও পড়ুন · ABCL TECH-এ আপনার পরবর্তী পদক্ষেপ

  • কোর্সের সম্পূর্ণ সিলেবাস দেখুন ৫৭টি পাঠ নৈতিক ফ্রেমওয়ার্ক, বায়াস-ফেয়ারনেস, প্রাইভেসি, ট্রান্সপারেন্সি, AI অ্যালাইনমেন্ট, জেনারেটিভ AI/LLM এথিক্স, সামাজিক প্রভাব, গভর্নেন্স ও রেগুলেশন, সেক্টর-স্পেসিফিক এথিক্স ও এক্সিস্টেনশিয়াল রিস্ক বিতর্ক — বাকি পাঠগুলো শীঘ্রই যুক্ত হবে।
  • Ethics in Computing & AI Safety কোর্স সহোদর কোর্স সাধারণ কম্পিউটিং এথিক্স, প্রফেশনাল এথিক্স ও সেফটি-ক্রিটিক্যাল কেস স্টাডির একটি বিস্তৃত সার্ভে — এই কোর্স সম্পূর্ণভাবে AI-তে ফোকাস করে গভীরে যায়।
  • সব Courses দেখুন ABCL TECH C, C++, Python, Java, JavaScript, DSA, Machine Learning, Deep Learning, System Design, Cybersecurity, Cloud Computing & DevOps, এবং আরও অনেক কোর্স — সব এক জায়গায়।
আগের পাঠ
অ্যানোনিমাইজেশন, k-অ্যানোনিমিটি ও ডিফারেনশিয়াল প্রাইভেসি