LLM কীভাবে কাজ করে — একটি এথিক্স-ফোকাসড রিক্যাপ

১ · Next-token prediction — মূল ধারণা

একটি LLM-এর মূল কাজ আশ্চর্যজনকভাবে সহজভাবে বর্ণনা করা যায়: এখন পর্যন্ত যা লেখা হয়েছে, তার ভিত্তিতে পরবর্তী টোকেন (শব্দ/সাব-ওয়ার্ড) কী হবে তার একটি প্রোবাবিলিটি ডিস্ট্রিবিউশন অনুমান করা। ফরমালি:

$$P(w_t \mid w_1, w_2, \dots, w_{t-1})$$

অর্থাৎ, আগের সব শব্দ $w_1$ থেকে $w_{t-1}$ দেখে মডেল পরবর্তী শব্দ $w_t$ কী হওয়ার সম্ভাবনা বেশি তা হিসাব করে। ট্রেনিং-এর সময় মডেলের প্যারামিটার এমনভাবে অ্যাডজাস্ট করা হয় যাতে বাস্তব কর্পাসে যে শব্দটি সত্যিই পরে এসেছিল, তার প্রোবাবিলিটি বাড়ে। এই প্রক্রিয়াটি সম্পূর্ণ self-supervised — কোনো মানুষকে প্রতিটি বাক্যের জন্য "সঠিক উত্তর" লেবেল করতে হয় না, কারণ কর্পাসের পরবর্তী শব্দটিই নিজে থেকে লেবেল। এই প্রক্রিয়ার নিউরাল-নেটওয়ার্ক আর্কিটেকচার (transformer) ও ট্রেনিং মেকানিক্সের সম্পূর্ণ গভীর ব্যাখ্যা Deep Learning ও Machine Learning কোর্সে আছে — এখানে আমরা শুধু ততটুকু কভার করছি যতটা এই মডিউলের নৈতিক প্রশ্নগুলো বুঝতে দরকার।

২ · প্রি-ট্রেনিং থেকে ডিপ্লয়মেন্ট পর্যন্ত

একটি আধুনিক চ্যাট-স্টাইল LLM সাধারণত কয়েকটি ধাপ পার হয়ে আসে:

সংক্ষেপে — প্রি-ট্রেনিং-এ মডেল বিশাল, বৈচিত্র্যময় (এবং প্রায়ই ফিল্টার-না-করা) টেক্সট থেকে ভাষার প্যাটার্ন শেখে। ফাইন-টিউনিং-এ মডেলকে একটি ছোট, কিউরেটেড ডেটাসেট (উদাহরণ প্রম্পট-রেসপন্স জোড়া) দিয়ে "প্রশ্নের উত্তর দেওয়ার মতো" ফরম্যাটে আচরণ করতে শেখানো হয়। RLHF (Reinforcement Learning from Human Feedback) ধাপে মানুষের ফিডব্যাক থেকে একটি "reward model" ট্রেইন করে মডেলের আচরণ আরও পরিমার্জিত করা হয় — এই ধাপটির নিজস্ব গুরুত্বপূর্ণ নৈতিক জটিলতা আছে, যা পরবর্তী পাঠ (L28)-এ একটি সত্যিকারের সিমুলেশন দিয়ে দেখানো হবে।

৩ · কেন এটি এথিক্যালি গুরুত্বপূর্ণ

৪ · একটি সত্যিকারের ডেমো — ফ্রিকোয়েন্সি বনাম সত্য

নিচের কোডে একটি অত্যন্ত সরল "next-word predictor" তৈরি করা হয়েছে — এটি কোনো বাস্তব LLM নয়, বরং একটি ছোট কর্পাসে bigram (word-pair) ফ্রিকোয়েন্সি গণনা করে সবচেয়ে বেশিবার দেখা যাওয়া continuation বেছে নেয়। লক্ষ্য করুন — কর্পাসে ইচ্ছাকৃতভাবে একটি ভুল তথ্য ("বাংলাদেশের মুদ্রার নাম রুপি") সঠিক তথ্যের ("...টাকা") চেয়ে বেশিবার রাখা হয়েছে।

from collections import defaultdict, Counter

corpus = [
    "ঢাকা বাংলাদেশের রাজধানী",
    "ঢাকা বাংলাদেশের রাজধানী",
    "বাংলাদেশের মুদ্রার নাম টাকা",       # সঠিক তথ্য -- ১ বার
    "বাংলাদেশের মুদ্রার নাম রুপি",       # ভুল তথ্য -- ৩ বার (নয়েজি স্ক্র্যাপড ডেটা সিমুলেট করা)
    "বাংলাদেশের মুদ্রার নাম রুপি",
    "বাংলাদেশের মুদ্রার নাম রুপি",
    "পদ্মা সেতু একটি বাস্তব অবকাঠামো প্রকল্প",
]

# word-level bigram counts: prev_word -> Counter(next_word)
bigram_counts = defaultdict(Counter)
for line in corpus:
    words = line.split()
    for w1, w2 in zip(words, words[1:]):
        bigram_counts[w1][w2] += 1

def predict_next(word):
    if word not in bigram_counts or not bigram_counts[word]:
        return None
    # "মডেল" সবচেয়ে বেশি frequency-র continuation বেছে নেয় -- কোনো সত্যতা-যাচাই নেই
    return bigram_counts[word].most_common(1)[0][0]

def generate(start_words, steps=1):
    words = start_words.split()
    for _ in range(steps):
        nxt = predict_next(words[-1])
        if nxt is None:
            break
        words.append(nxt)
    return " ".join(words)

print("প্রম্পট: 'বাংলাদেশের মুদ্রার নাম'")
print("মডেলের আউটপুট:", generate("বাংলাদেশের মুদ্রার নাম", steps=1))
print()
print("কর্পাসে 'নাম'-এর পরে কোন শব্দ কতবার এসেছে:", dict(bigram_counts["নাম"]))