AI-এর ইতিহাস — Turing, Dartmouth, শীতকাল আর deep learning-এর উত্থান

১ · ইতিহাস কেন পড়বেন — আর মিথ কীভাবে চিনবেন

একটি পরিচিত দৃশ্য দিয়ে শুরু করি। কোনো ফেসবুক পোস্টে লেখা: “১৯৫৬ সালে বিজ্ঞানীরা ভেবেছিলেন এক গ্রীষ্মেই AI বানিয়ে ফেলবেন!” আরেকটিতে: “Minsky একটা বই লিখে neural network মেরে ফেলেছিলেন।” তৃতীয়টিতে: “ChatGPT সব বোঝে, AGI এসে গেছে।” তিনটি বাক্যেই কিছুটা সত্য আছে, আর অনেকটা অতিরঞ্জন। এই পর্বের কাজ হলো সত্যের অংশটুকু আলাদা করা।

ইতিহাস পড়ার তিনটি কারণ। প্রথমত, আজকের প্রায় প্রতিটি “নতুন” ধারণার শিকড় পুরোনো — neural network-এর ধারণা ১৯৪৩ সালের। দ্বিতীয়ত, ইতিহাস দেখায় কোন দাবি টেকেনি, যা নতুন দাবি যাচাই করতে শেখায়। তৃতীয়ত, বিশ্ববিদ্যালয়, চাকরি বা ইন্টারভিউর পরীক্ষায় সাল আর নাম প্রায়ই জিজ্ঞেস করা হয়।

যেখানে ঐতিহাসিকদের মধ্যে মতভেদ আছে, সেখানে “মোটামুটি” বা “অনেকে বলেন” লেখা হয়েছে। এটিই সৎ ইতিহাস।

২ · পূর্বসূরিরা — Boole, Babbage, Lovelace আর McCulloch–Pitts

“যন্ত্র কি চিন্তা করতে পারে?” প্রশ্নটি কম্পিউটারের চেয়েও পুরোনো। তবে আধুনিক AI-এর সরাসরি পূর্বসূরি হিসেবে সাধারণত চারটি কাজের কথা বলা হয়।

George Boole — যুক্তিকে বীজগণিতে আনা

ইংরেজ গণিতবিদ George Boole ১৮৪৭ সালে The Mathematical Analysis of Logic আর ১৮৫৪ সালে An Investigation of the Laws of Thought প্রকাশ করেন। তাঁর মূল চিন্তা: “এবং”, “অথবা”, “না” — এই যুক্তিগুলোকে সংখ্যার মতো হিসাব করা যায়, যেখানে মান শুধু ১ (সত্য) বা ০ (মিথ্যা)। এটাই আজকের Boolean logic, যা প্রতিটি কম্পিউটারের সার্কিটে আর প্রতিটি if শর্তে কাজ করে। বিস্তারিত দেখতে পারেন কম্পিউটার ফান্ডামেন্টালস কোর্সের বুলিয়ান অ্যালজেব্রা পর্বে। যুক্তিকে যান্ত্রিক হিসাবে বদলানোর এই স্বপ্নই পরে “symbolic AI”-এর ভিত্তি হয়।

Babbage আর Lovelace — প্রথম সাধারণ-উদ্দেশ্যের যন্ত্রের নকশা

Charles Babbage ১৮৩০-এর দশকে Analytical Engine-এর নকশা করেন — punched card দিয়ে নির্দেশ নেওয়া, আলাদা “store” (মেমরি) আর “mill” (হিসাবের অংশ) সহ একটি যান্ত্রিক কম্পিউটার। যন্ত্রটি তাঁর জীবদ্দশায় পুরো তৈরি হয়নি। Ada Lovelace ১৮৪৩ সালে এই যন্ত্র নিয়ে Luigi Menabrea-র একটি প্রবন্ধ ইংরেজিতে অনুবাদ করেন এবং তার সঙ্গে নিজের দীর্ঘ টীকা জুড়ে দেন। সেই টীকার শেষটিতে (Note G) Bernoulli সংখ্যা হিসাবের একটি ধাপে ধাপে পদ্ধতি আছে।

AI-এর জন্য Lovelace-এর সবচেয়ে বিখ্যাত বাক্যটি অন্য জায়গায়: তিনি লেখেন, Analytical Engine নিজে থেকে কিছু “originate” (সৃষ্টি) করার দাবি রাখে না; আমরা যা করতে নির্দেশ দিতে জানি, সে শুধু তাই করে। Turing তাঁর ১৯৫০ সালের paper-এ এর নাম দেন “Lady Lovelace’s Objection” এবং এর জবাব দেওয়ার চেষ্টা করেন। আজকের “AI কি সত্যিই নতুন কিছু বানায়?” তর্ক এরই নতুন রূপ।

McCulloch আর Pitts (১৯৪৩) — নিউরনের গাণিতিক মডেল

১৯৪৩ সালে স্নায়ুবিজ্ঞানী Warren McCulloch আর তরুণ যুক্তিবিদ Walter Pitts প্রকাশ করেন “A Logical Calculus of the Ideas Immanent in Nervous Activity” (Bulletin of Mathematical Biophysics). তাঁরা মস্তিষ্কের নিউরনকে খুব সরল করে ভাবলেন: কয়েকটি input আসে, প্রতিটি হয় চালু (১) নয়তো বন্ধ (০); মোট উত্তেজনা একটি সীমা (threshold) পার হলে নিউরন “জ্বলে ওঠে” (১), না হলে চুপ থাকে (০)। এটাই প্রথম দিকের artificial neuron.

তাঁরা দেখালেন, এমন নিউরন জুড়ে AND, OR, NOT — যেকোনো যুক্তির হিসাব বানানো যায়। কিন্তু একটি বড় ফাঁক ছিল: এই নিউরনগুলোর weight আর threshold মানুষকে হাতে বসাতে হতো। নিউরন নিজে থেকে শিখত না। শেখার নিয়ম আসে ১৫ বছর পরে, Rosenblatt-এর হাতে (অংশ ৫)।

৩ · Turing ১৯৫০ আর Dartmouth ১৯৫৬ — প্রশ্ন আর নাম

“যন্ত্র কি চিন্তা করতে পারে?” — প্রশ্নটিকে বদলে দেওয়া

১৯৫০ সালে দর্শনের জার্নাল Mind-এ Alan Turing প্রকাশ করেন “Computing Machinery and Intelligence”. তিনি শুরুতেই বলেন, “চিন্তা করা” শব্দটির সংজ্ঞা নিয়ে তর্ক করলে কোনো ফল আসবে না। তাই তিনি প্রশ্নটিকে একটি খেলায় বদলে দেন — imitation game, যা আজ Turing test নামে পরিচিত। একজন প্রশ্নকর্তা লেখার মাধ্যমে দুজনের সঙ্গে কথা বলেন — একজন মানুষ, একটি যন্ত্র। প্রশ্নকর্তা যদি নির্ভরযোগ্যভাবে বলতে না পারেন কোনটি যন্ত্র, তাহলে কী বলা যায়?

Turing একটি সতর্ক ভবিষ্যদ্বাণীও করেছিলেন: প্রায় পঞ্চাশ বছরের মধ্যে প্রায় 10⁹ storage-এর কম্পিউটারকে এমনভাবে প্রোগ্রাম করা যাবে যে একজন গড় প্রশ্নকর্তা পাঁচ মিনিট প্রশ্নের পর ৭০ শতাংশের বেশি ক্ষেত্রে সঠিকভাবে চিনতে পারবেন না। খেয়াল করুন, তিনি “যন্ত্র চিন্তা করবে” বলেননি; একটি নির্দিষ্ট, মাপা যায় এমন দাবি করেছিলেন। paper-এর শেষ অংশে তিনি “learning machine”-এর কথাও লেখেন — শিশুর মনের মতো একটি যন্ত্র বানিয়ে তাকে শেখানো। আজকের machine learning-এর চিন্তার সঙ্গে এর মিল চোখে পড়ার মতো।

Dartmouth প্রস্তাব (১৯৫৫) আর গ্রীষ্মের workshop (১৯৫৬)

৩১ আগস্ট ১৯৫৫ তারিখের একটি প্রস্তাবে চারজন — John McCarthy (তখন Dartmouth College), Marvin Minsky (Harvard), Nathaniel Rochester (IBM) আর Claude Shannon (Bell Labs) — Rockefeller Foundation-এর কাছে ১৯৫৬ সালের গ্রীষ্মে Dartmouth-এ “২ মাস, ১০ জনের” একটি গবেষণার জন্য অর্থ চান। প্রস্তাবের শিরোনামেই ছিল “artificial intelligence” — এটিকেই সাধারণত শব্দটির প্রথম লিখিত ব্যবহার ধরা হয়, আর নামটি বেছে নেওয়ার কৃতিত্ব সাধারণত McCarthy-কে দেওয়া হয়।

প্রস্তাবের মূল অনুমানটি এখনো প্রায়ই উদ্ধৃত হয়: শেখার প্রতিটি দিক বা বুদ্ধিমত্তার যেকোনো বৈশিষ্ট্য নীতিগতভাবে এত নিখুঁতভাবে বর্ণনা করা যায় যে একটি যন্ত্র দিয়ে তার অনুকরণ করানো সম্ভব। তালিকায় ছিল ভাষা ব্যবহার, abstraction, নিজে থেকে উন্নতি, “neuron nets”, এমনকি সৃজনশীলতা।

৪ · প্রথম দিকের প্রোগ্রাম — Logic Theorist, Samuel-এর checkers আর ELIZA

১৯৫০ আর ৬০-এর দশকের প্রোগ্রামগুলো আজকের মাপে ছোট, কিন্তু তিনটি ভিন্ন পথ দেখায় — যুক্তি দিয়ে খোঁজা, অভিজ্ঞতা থেকে শেখা, আর কথার নকল।

ELIZA নিজে বানিয়ে দেখুন

ELIZA কীভাবে কাজ করত, তা বোঝার সবচেয়ে ভালো উপায় একটি ছোট সংস্করণ নিজে চালানো। নিচের প্রোগ্রামে আছে কয়েকটি pattern matching নিয়ম — উপরে থেকে নিচে যে নিয়ম প্রথম মেলে, সেটাই উত্তর বানায়। “my”-কে “your”, “I”-কে “you” করে বাক্য ফিরিয়ে দেওয়াই (reflection) পুরো কৌশলের অর্ধেক। প্রথমবার “চালান” চাপলে Python লোড হতে কয়েক সেকেন্ড লাগতে পারে; পরের বার দ্রুত হবে।

import re

REFLECT = {"i": "you", "my": "your", "me": "you", "am": "are", "you": "I"}
RULES = [  # (pattern, reply template) - checked from top to bottom
    (r"i need (.*)", "Why do you need {0}?"),
    (r"i am (.*)", "How long have you been {0}?"),
    (r"my (.*) is (.*)", "Why do you say your {0} is {1}?"),
    (r".*\b(mother|father|family)\b.*", "Tell me more about your family."),
    (r"(.*)\?", "Why do you ask that?"),
    (r"(.*)", "Please, go on."),            # fallback: always matches
]

def reflect(text):
    return " ".join(REFLECT.get(w, w) for w in text.split())

def reply(sentence):
    s = sentence.lower().strip(" .!")
    for pattern, template in RULES:
        m = re.fullmatch(pattern, s)
        if m:
            return template.format(*[reflect(g) for g in m.groups()])

chat = ["I am worried about my exam.",
        "My shop is losing money",
        "I need a better delivery plan",
        "My father runs the shop with me",
        "Can you help me?",
        "Sales in Rajshahi fell 20% but rose in Khulna, why?",
        "It is raining"]
for line in chat:
    print("USER :", line)
    print("ELIZA:", reply(line))

USER : I am worried about my exam.
ELIZA: How long have you been worried about your exam?
USER : My shop is losing money
ELIZA: Why do you say your shop is losing money?
USER : I need a better delivery plan
ELIZA: Why do you need a better delivery plan?
USER : My father runs the shop with me
ELIZA: Tell me more about your family.
USER : Can you help me?
ELIZA: Why do you ask that?
USER : Sales in Rajshahi fell 20% but rose in Khulna, why?
ELIZA: Why do you ask that?
USER : It is raining
ELIZA: Please, go on.

৫ · Perceptron, XOR আর Minsky–Papert — আসলে কী প্রমাণ হয়েছিল

McCulloch–Pitts নিউরনের weight হাতে বসাতে হতো। ১৯৫৭-৫৮ সালে Cornell Aeronautical Laboratory-র মনোবিজ্ঞানী Frank Rosenblatt এর সঙ্গে যোগ করলেন একটি শেখার নিয়ম। ১৯৫৮ সালে Psychological Review-এ প্রকাশিত “The Perceptron: A Probabilistic Model for Information Storage and Organization in the Brain” এই কাজের সবচেয়ে উদ্ধৃত রূপ। পরে Mark I Perceptron নামে একটি বিশেষ হার্ডওয়্যারও বানানো হয়, যার ক্যামেরায় ২০×২০ = ৪০০টি আলোক-কোষ ছিল বলে বর্ণনা পাওয়া যায়।

Perceptron কীভাবে সিদ্ধান্ত নেয়

একটি perceptron প্রতিটি input x-কে একটি weight w দিয়ে গুণ করে যোগ করে, সঙ্গে একটি bias b যোগ করে। যোগফল s শূন্যের বেশি হলে উত্তর ১, না হলে ০। এই “হয় ১, নয় ০” সিদ্ধান্তকে বলে step function.

s = w₁x₁ + w₂x₂ + b   →   output = 1 যদি s > 0, নাহলে 0

এখানে x₁, x₂ হলো দুটি input (০ বা ১), w₁, w₂ তাদের গুরুত্ব, আর b হলো সীমা সরানোর একটি সংখ্যা — b যত ঋণাত্মক, ১ বলতে তত বেশি “প্রমাণ” লাগে।

শেখার নিয়ম (Rosenblatt-এর perceptron learning rule) খুবই সহজ। প্রতিটি উদাহরণে উত্তর মিলিয়ে দেখুন। ঠিক হলে কিছু বদলাবেন না। ভুল হলে:

w ← w + η·(t − out)·x    এবং    b ← b + η·(t − out)

এখানে t হলো সঠিক উত্তর (target), out হলো perceptron-এর উত্তর, আর η (eta) হলো learning rate — প্রতিবার কতটা সরবেন। উত্তর ০ হওয়ার কথা কিন্তু ১ এলে (t − out = −1) weight-গুলো ওই input থেকে দূরে সরে; উল্টোটা হলে কাছে আসে। সব উদাহরণ একবার করে দেখা শেষ হলে বলে এক epoch.

নিজে চালিয়ে দেখুন — AND, OR আর XOR

নিচের প্রোগ্রাম একই নিয়ম তিনটি ছোট সমস্যায় চালায়। চারটি input জোড়া — (0,0), (0,1), (1,0), (1,1). AND-এ শুধু (1,1)-এর উত্তর ১; OR-এ যেকোনো একটি ১ হলেই ১; আর XOR-এ ঠিক একটি ১ হলে ১। শুরুর weight একটি নির্দিষ্ট seed (42) দিয়ে বাছাই করা, তাই সবাই একই সংখ্যা দেখবেন।

import numpy as np

X = np.array([[0, 0], [0, 1], [1, 0], [1, 1]])
targets = {"AND": [0, 0, 0, 1], "OR": [0, 1, 1, 1], "XOR": [0, 1, 1, 0]}

def train(y, epochs=8, lr=1.0):
    rng = np.random.default_rng(42)          # same start for every reader
    w = np.round(rng.uniform(-1, 1, 2), 1)   # two weights
    b = 0.0                                  # bias (threshold)
    for ep in range(1, epochs + 1):
        errors = 0
        for x, t in zip(X, y):
            out = 1 if w @ x + b > 0 else 0  # step function
            if out != t:                     # Rosenblatt rule:
                w = w + lr * (t - out) * x   # move w toward/away from x
                b = b + lr * (t - out)
                errors += 1
        print(f"  epoch {ep}: errors={errors}  w={w}  b={b:+.1f}")
        if errors == 0:
            return True
    return False

for name, y in targets.items():
    print(name)
    ok = train(np.array(y))
    print("  ->", "converged" if ok else "did NOT converge")

AND
  epoch 1: errors=2  w=[0.5 0.9]  b=+0.0
  epoch 2: errors=2  w=[1.5 0.9]  b=+0.0
  epoch 3: errors=3  w=[1.5 0.9]  b=-1.0
  epoch 4: errors=2  w=[1.5 1.9]  b=-1.0
  epoch 5: errors=1  w=[1.5 0.9]  b=-2.0
  epoch 6: errors=0  w=[1.5 0.9]  b=-2.0
  -> converged
OR
  epoch 1: errors=1  w=[0.5 0.9]  b=+1.0
  epoch 2: errors=1  w=[0.5 0.9]  b=+0.0
  epoch 3: errors=0  w=[0.5 0.9]  b=+0.0
  -> converged
XOR
  epoch 1: errors=2  w=[-0.5 -0.1]  b=+0.0
  epoch 2: errors=2  w=[-1.5 -0.1]  b=+0.0
  epoch 3: errors=3  w=[-1.5 -0.1]  b=+1.0
  epoch 4: errors=4  w=[-1.5 -0.1]  b=+1.0
  ...
  epoch 8: errors=4  w=[-1.5 -0.1]  b=+1.0
  -> did NOT converge

AND-এর প্রথম epoch-টি ধাপে ধাপে দেখা যাক। “পরে” চাপুন আর প্রতিটি ধাপে s, উত্তর আর weight-এর বদল খেয়াল করুন। সংখ্যাগুলো উপরের প্রোগ্রামের একই seed থেকে নেওয়া।

# x1 x2 → t1  0  0 → 02  0  1 → 03  1  0 → 04  1  1 → 1

কেন একটি রেখা XOR আলাদা করতে পারে না

Perceptron-এর সিদ্ধান্তের সীমানা হলো w₁x₁ + w₂x₂ + b = 0 — দুই মাত্রায় এটি একটি সরল রেখা। রেখার এক পাশে ১, অন্য পাশে ০। যেসব সমস্যায় একটি সরল রেখা দিয়ে দুই দল আলাদা করা যায়, তাদের বলে linearly separable. Rosenblatt-এর convergence theorem (পরে Novikoff ১৯৬২ সালে পরিষ্কার প্রমাণ দেন) বলে: সমস্যা linearly separable হলে নিয়মটি সীমিত সংখ্যক ভুলের পর থামবেই। XOR তেমন নয় — নিচে দেখুন।

Minsky–Papert (১৯৬৯) — কী দেখিয়েছিল, কী দেখায়নি

১৯৬৯ সালে Marvin Minsky আর Seymour Papert প্রকাশ করেন Perceptrons: An Introduction to Computational Geometry. বইটি গাণিতিকভাবে কঠোর। এটি দেখায়, একটি নির্দিষ্ট ধরনের perceptron (এক স্তরের শেখার weight, সীমিত “দৃষ্টি”-র input অংশ) কিছু জিনিস হিসাব করতে পারে না বা তার জন্য অবাস্তব রকম বড় হতে হয় — যেমন parity (১-এর সংখ্যা জোড় না বিজোড়; XOR তার সবচেয়ে ছোট রূপ) আর একটি ছবির আকৃতি “connected” কি না।

৬ · দুই শীতকাল — Lighthill রিপোর্ট, expert system আর পতন

১৯৬০-এর দশকে AI নিয়ে আশাবাদ ছিল আকাশছোঁয়া। Herbert Simon ১৯৬৫ সালে লেখেন, বিশ বছরের মধ্যে যন্ত্র মানুষের যেকোনো কাজ করতে পারবে — এমন বক্তব্য তখনকার পরিবেশ বোঝায়। কিন্তু দাবা খেলা বা উপপাদ্য প্রমাণের মতো “কঠিন” সমস্যার চেয়ে ভাষা অনুবাদ, ছবি চেনা বা সাধারণ বুদ্ধির মতো “সহজ” কাজ অনেক বেশি কঠিন প্রমাণিত হলো।

প্রথম শীতকাল (মোটামুটি ১৯৭০-এর দশকের মাঝামাঝি থেকে ১৯৮০ পর্যন্ত)

• যন্ত্র-অনুবাদের হতাশা: ১৯৬৬ সালে যুক্তরাষ্ট্রের ALPAC রিপোর্ট machine translation-এর অগ্রগতিকে কম বলে মূল্যায়ন করে, আর ওই খাতে সরকারি অর্থ কমে।
• Lighthill রিপোর্ট (১৯৭৩): যুক্তরাজ্যের Science Research Council-এর অনুরোধে গণিতবিদ Sir James Lighthill “Artificial Intelligence: A General Survey” লেখেন। তাঁর সমালোচনার মূল কথা: AI তার বড় প্রতিশ্রুতি রাখতে পারেনি, আর বাস্তব সমস্যায় বড় হলে সম্ভাবনার সংখ্যা বিস্ফোরিত হয় (combinatorial explosion). এর পর যুক্তরাজ্যে AI গবেষণার অর্থায়ন অনেক কমে যায় বলে সাধারণত বলা হয়; তবে কতটা সরাসরি এই রিপোর্টের কারণে, তা নিয়ে আলোচনা আছে।
• যুক্তরাষ্ট্রে: সামরিক গবেষণা সংস্থা DARPA একই সময়ে তাৎক্ষণিক ফলের প্রকল্পে অর্থ সরায়।

Expert system-এর বসন্ত (১৯৮০-এর দশক)

সমাধান এলো একটি ব্যবহারিক মোড় থেকে: সাধারণ বুদ্ধি নয়, একটি সরু বিষয়ের বিশেষজ্ঞ জ্ঞান “যদি … তাহলে …” নিয়ম হিসেবে লিখে রাখা। একে বলে expert system. পূর্বসূরি ছিল Stanford-এর DENDRAL (১৯৬৫ থেকে, রাসায়নিক অণুর গঠন অনুমান) আর MYCIN (১৯৭০-এর দশক, রক্তের সংক্রমণে antibiotic পরামর্শ; নিয়মিত চিকিৎসায় ব্যবহৃত হয়নি)।

বাণিজ্যিক সাফল্যের সবচেয়ে বেশি উদ্ধৃত উদাহরণ R1, পরে নাম XCON: Carnegie Mellon-এর John McDermott Digital Equipment Corporation (DEC)-এর জন্য বানান, যা গ্রাহকের অর্ডার অনুযায়ী VAX কম্পিউটারের যন্ত্রাংশের সঠিক বিন্যাস ঠিক করত। মোটামুটি ১৯৮০ সাল থেকে এটি DEC-এ ব্যবহার হতে থাকে, আর নিয়মের সংখ্যা সময়ের সঙ্গে হাজার হাজারে পৌঁছায়। এতে কোম্পানির কত টাকা বেঁচেছিল, তার নানা অঙ্ক বিভিন্ন উৎসে আছে; সংখ্যাগুলো মেলে না বলে এখানে কোনোটি দিচ্ছি না। ১৯৮২ সালে জাপান শুরু করে বিশাল Fifth Generation Computer Systems প্রকল্প, যার প্রতিক্রিয়ায় যুক্তরাষ্ট্র ও ইউরোপেও AI-তে অর্থ বাড়ে।

দ্বিতীয় শীতকাল (মোটামুটি ১৯৮০-এর দশকের শেষ থেকে ১৯৯০-এর দশকের শুরু)

১৯৮৭ সালের দিকে Lisp ভাষার বিশেষ কম্পিউটার (Lisp machine)-এর বাজার ভেঙে পড়ে, কারণ সাধারণ workstation আর PC সস্তা ও যথেষ্ট শক্তিশালী হয়ে যায়। বড় expert system রক্ষণাবেক্ষণ ব্যয়বহুল প্রমাণিত হয়। জাপানের Fifth Generation প্রকল্প ১৯৯২ সালে শেষ হয় বড় লক্ষ্যগুলো পূরণ না করে। আবার অর্থ কমে, আর অনেক গবেষক নিজের কাজকে “AI” না বলে অন্য নামে ডাকতে শুরু করেন।

নিচের ডায়াগ্রামে পুরো চক্রটি ধাপে ধাপে দেখুন। খেয়াল করুন, প্রতিটি উত্থানের পেছনে একটি বাস্তব অর্জন ছিল, আর প্রতিটি পতনের পেছনে ছিল সেই অর্জনকে অনেক বড় করে বলা।

৭ · পরিসংখ্যানের মোড় আর backpropagation

নিয়ম লেখা থেকে ডেটা থেকে শেখা

১৯৮০ আর ৯০-এর দশকে AI-এর একটি বড় অংশ ধীরে ধীরে নিয়ম হাতে লেখা থেকে ডেটা থেকে সম্ভাবনা হিসাব-এর দিকে সরে আসে। কয়েকটি মাইলফলক:

• Speech recognition: IBM-এ Frederick Jelinek-এর দলসহ বিভিন্ন গবেষক ১৯৭০-৮০-এর দশকে Hidden Markov Model দিয়ে কথা চেনায় বড় উন্নতি আনেন। Jelinek-এর নামে একটি ঠাট্টা চালু আছে — “যতবার একজন ভাষাবিদকে বিদায় করি, system-এর ফল ভালো হয়” — যদিও তিনি ঠিক কবে, কোন ভাষায় বলেছিলেন, তা নিয়ে বর্ণনা ভিন্ন। (Markov model দেখবেন পর্ব ৫৩-এ।)
• Bayesian network: Judea Pearl-এর ১৯৮৮ সালের বই Probabilistic Reasoning in Intelligent Systems অনিশ্চয়তা নিয়ে যুক্তির একটি পরিষ্কার কাঠামো দেয় (পর্ব ৫২-এ দেখবেন)।
• Support vector machine: Cortes আর Vapnik-এর ১৯৯৫ সালের paper-এর পর SVM এক দশকের বেশি সময় classification-এর জনপ্রিয় পদ্ধতি থাকে।

এই মোড়কেই বলা যায় machine learning-এর প্রাধান্য পাওয়া: প্রোগ্রামার নিয়ম লেখেন না, উদাহরণ দেন; যন্ত্র উদাহরণ থেকে নিয়মের মতো কিছু শেখে। কোন পথ কখন ভালো — নিয়মভিত্তিক, পরিসংখ্যানভিত্তিক না neural — তা নিয়ে বিস্তারিত তুলনা পরের পর্বে (পর্ব ৩ · AI-এর তিন পথ)।

Backpropagation — ১৯৮৬ সালে জনপ্রিয়, কিন্তু শিকড় আগের

XOR-এর ডায়াগ্রামে দেখেছেন, লুকানো স্তর থাকলে সমস্যার সমাধান হয় — প্রশ্ন ছিল লুকানো স্তরের weight কীভাবে শেখানো যায়। উত্তর: শেষের ভুলকে chain rule দিয়ে পেছনের দিকে ভাগ করে দেওয়া, প্রতিটি weight-এর জন্য “ভুল কমাতে একে কোন দিকে কতটা সরাতে হবে” হিসাব করা। এটাই backpropagation.

১৯৮৬ সালে David Rumelhart, Geoffrey Hinton আর Ronald Williams Nature-এ প্রকাশ করেন “Learning representations by back-propagating errors”. একই বছর Rumelhart আর McClelland-এর সম্পাদনায় Parallel Distributed Processing বইগুলোও বের হয়। এই কাজগুলো দেখায় যে লুকানো স্তর নিজে থেকেই কাজের উপযোগী “representation” শিখতে পারে, আর পদ্ধতিটি ব্যাপকভাবে জনপ্রিয় হয়।

১৯৮৯ সালে Yann LeCun ও সহকর্মীরা backpropagation দিয়ে convolutional network-কে হাতে লেখা ZIP কোড চেনাতে ব্যবহার করেন; ১৯৯৮ সালের LeNet-5 paper-এ চেক পড়ার মতো বাস্তব প্রয়োগ দেখানো হয়। তবু ২০০০-এর দশকে neural network আবার কিছুটা পিছিয়ে পড়ে — গভীর network শেখানো কঠিন ছিল, আর SVM প্রায়ই সমান ফল দিত। ২০০৬ সালে Hinton ও সহকর্মীদের deep belief network-এর কাজ “deep learning” নামটিকে আবার আলোচনায় আনে।

৮ · Deep Blue থেকে ChatGPT — চারটি মাইলফলক

ImageNet নিজেও একটি মাইলফলক: Fei-Fei Li ও সহকর্মীরা ২০০৯ সালে এই লেবেলযুক্ত ছবির ডেটাসেট প্রকাশ করেন, আর ২০১০ সাল থেকে তার ওপর বার্ষিক প্রতিযোগিতা (ILSVRC) চলে।

Large language model আর ChatGPT

Transformer-এর পর গবেষকেরা বিপুল পরিমাণ লেখা দিয়ে খুব বড় মডেলকে একটি সহজ কাজ শেখাতে থাকেন: লেখার পরের token (শব্দ বা শব্দাংশ) কী হতে পারে, তার সম্ভাবনা অনুমান করা। এমন মডেলকে বলে large language model (LLM). ২০২০ সালের GPT-3 paper (Brown ও সহকর্মীরা) ১৭,৫০০ কোটি parameter-এর মডেলের কথা জানায়। ৩০ নভেম্বর ২০২২ তারিখে OpenAI “research preview” হিসেবে ChatGPT সবার জন্য খুলে দেয় — কথোপকথনের জন্য মানুষের মতামত দিয়ে আরও প্রশিক্ষিত একটি LLM. এরপর AI আবার সংবাদের কেন্দ্রে আসে।

মাপ কতটা বেড়েছে — paper-এর সংখ্যা থেকে হিসাব

নিচের প্রোগ্রাম চারটি মডেলের parameter সংখ্যা নেয় — প্রতিটি সংখ্যা মূল paper-এ যেভাবে বলা আছে (গোল করা, আনুমানিক): LeNet-5 প্রায় ৬০ হাজার, AlexNet ৬ কোটি, Transformer “big” ২১.৩ কোটি (paper-এর Table 3), GPT-3 ১৭,৫০০ কোটি। তারপর হিসাব করে মোট কত গুণ বাড়ল আর বছরে গড়ে কত গুণ।

import numpy as np

# Parameter counts as stated in each paper (rounded, approximate)
models = {
    "LeNet-5 (1998)":         (1998, 60e3),    # LeCun et al., ~60,000
    "AlexNet (2012)":         (2012, 60e6),    # Krizhevsky et al., 60 million
    "Transformer big (2017)": (2017, 213e6),   # Vaswani et al., Table 3
    "GPT-3 (2020)":           (2020, 175e9),   # Brown et al., 175 billion
}
years = np.array([y for y, p in models.values()])
params = np.array([p for y, p in models.values()])

for name, (y, p) in models.items():
    print(f"{name:24s} {p:>16,.0f}  log10={np.log10(p):.2f}")

ratio = params[-1] / params[0]
span = years[-1] - years[0]
per_year = ratio ** (1 / span)          # geometric growth per year
print(f"\nGPT-3 / LeNet-5 = {ratio:,.0f}x in {span} years")
print(f"average growth = {per_year:.2f}x per year")
print(f"doubling time  = {np.log(2) / np.log(per_year):.2f} years")

LeNet-5 (1998)                     60,000  log10=4.78
AlexNet (2012)                 60,000,000  log10=7.78
Transformer big (2017)        213,000,000  log10=8.33
GPT-3 (2020)              175,000,000,000  log10=11.24

GPT-3 / LeNet-5 = 2,916,667x in 22 years
average growth = 1.97x per year
doubling time  = 1.02 years

সব মাইলফলক এক ছবিতে

এবার এই পর্বের মাইলফলকগুলো matplotlib দিয়ে একটি সময়রেখায় আঁকা যাক। ছায়া দেওয়া অংশ দুটি মোটামুটি শীতকাল — সালগুলো বিতর্কিত, তাই লেবেলে প্রশ্নবোধক চিহ্ন। ছবির লেখা ইংরেজিতে রাখা হয়েছে, কারণ matplotlib-এর ছবিতে বাংলা অক্ষর এখানে ঠিকমতো দেখায় না (বাংলা লেখা দেখানোর উপায় পর্ব ২৮-এ)।

import matplotlib.pyplot as plt

events = [(1943, "McCulloch-Pitts neuron"), (1950, "Turing: imitation game"),
          (1956, "Dartmouth workshop"), (1958, "Rosenblatt perceptron"),
          (1966, "ELIZA paper"), (1969, "Perceptrons (book)"),
          (1973, "Lighthill report"), (1980, "XCON in use at DEC"),
          (1986, "Backprop paper (Nature)"), (1997, "Deep Blue vs Kasparov"),
          (2012, "AlexNet on ImageNet"), (2016, "AlphaGo vs Lee Sedol"),
          (2017, "Transformer paper"), (2022, "ChatGPT public release")]
winters = [(1974, 1980), (1987, 1993)]     # rough, contested dates

fig, ax = plt.subplots(figsize=(7, 6))
for a, b in winters:
    ax.axvspan(a, b, color="tab:blue", alpha=0.15)
for i, (year, label) in enumerate(events):
    y = len(events) - i
    ax.plot(year, y, "o", color="tab:orange")
    ax.text(year + 1, y, f"{year}  {label}", va="center", fontsize=8)
ax.text(1975, 0.3, "winter?", fontsize=8, color="tab:blue")
ax.text(1988, 0.3, "winter?", fontsize=8, color="tab:blue")
ax.set_xlim(1940, 2060)
ax.set_ylim(0, len(events) + 1)
ax.set_yticks([])
ax.set_xlabel("Year")
ax.set_title("Some AI milestones (shaded: rough 'AI winter' periods)")
plt.tight_layout()

gaps = [(b[0] - a[0], a[0], b[0]) for a, b in zip(events, events[1:])]
g, start, end = max(gaps)
print("milestones:", len(events), f"| longest gap: {start} -> {end} ({g} years)")

milestones: 14 | longest gap: 1997 -> 2012 (15 years)

৯ · হাইপ আর শীতের ছাঁচ — ইতিহাস থেকে কী শিখবেন

সাত দশকের গল্পে কয়েকটি ছাঁচ বারবার চোখে পড়ে।

বাংলাদেশের প্রেক্ষাপট — যতটুকু নিশ্চিত

দেশে কম্পিউটারের যাত্রা নিয়ে একটি তথ্য নির্ভরযোগ্য সূত্রে (বাংলাপিডিয়াসহ) পাওয়া যায়: তখনকার পূর্ব পাকিস্তানে প্রথম কম্পিউটার — একটি IBM 1620 — ১৯৬৪ সালে ঢাকার পরমাণু শক্তি কেন্দ্রে বসানো হয়, মূলত গবেষণার জটিল হিসাবের জন্য। অর্থাৎ Dartmouth workshop-এর মাত্র আট বছর পরে এ দেশে কম্পিউটারের হিসাব শুরু হয়েছিল। দেশে AI গবেষণা বা ব্যবহারের ইতিহাস নিয়ে নির্ভরযোগ্য, যাচাইযোগ্য তথ্য আমরা খুঁজে পাইনি, তাই এখানে কোনো দাবি করছি না।

১০ · AI-এর যুগে — AI সহকারী দিয়ে ইতিহাস আর ডেটার কাজ যাচাই

ইতিহাসের প্রশ্ন AI সহকারীকে জিজ্ঞেস করা সুবিধাজনক, কিন্তু ঝুঁকিপূর্ণ। LLM প্রায়ই বিশ্বাসযোগ্য শোনায় এমন সাল, উদ্ধৃতি বা paper-এর নাম বানিয়ে দেয়, আর ইন্টারনেটে বহুল প্রচলিত মিথগুলোই বলতে পারে। ডেটা আর AI-এর কোডেও একই রকম ভুল হয়।

AI-এর দেওয়া তথ্য বা কোড হাতে পেলে — চেকলিস্ট

• প্রতিটি সাল, নাম আর উদ্ধৃতি অন্তত একটি মূল বা নির্ভরযোগ্য উৎসে মিলিয়েছি
• “প্রথম”, “একাই”, “প্রমাণ করেছে” — এমন শব্দ দেখলে আলাদা করে যাচাই করেছি
• কোড নিজে চালিয়েছি, আর library-র নিজের version-এর docs দেখেছি
• ডেটা আগে ভাগ করেছি, metric দেখেছি test ডেটায়, একটি সরল baseline-এর সঙ্গে তুলনা করেছি
• shape আর কয়েকটি নমুনা সারি দেখেছি; warning চেপে যাইনি
• কোনো ব্যক্তিগত বা গোপন ডেটা AI টুলে পেস্ট করিনি