AI কোন সমস্যা সমাধান করে — classification থেকে planning

১ · অস্পষ্ট ইচ্ছা থেকে স্পষ্ট সমস্যা

“বাজারঘর” এই কোর্সের একটি কাল্পনিক অনলাইন দোকান। এর মালিক একদিন বললেন, “AI দিয়ে বিক্রি বাড়াতে চাই।” কথাটি শুনতে পরিষ্কার, কিন্তু একজন ডেটা বিশ্লেষকের কাছে এর কোনো কাজের অর্থ নেই। কোন বিক্রি? কাদের কাছে? কোন সিদ্ধান্ত বদলাবে? কীভাবে বুঝব যে বেড়েছে?

একটি ভালো problem statement-এ পাঁচটি জিনিস লেখা থাকে। নিচের ডায়াগ্রামে “পরে” চাপুন, আর দেখুন বাজারঘরের ইচ্ছাটি ধাপে ধাপে কেমন নির্দিষ্ট হয়ে ওঠে। ডান দিকের ছকটি প্রতিটি ধাপে ভরে উঠবে।

খেয়াল করুন, পাঁচ ধাপের কোথাও কোনো algorithm-এর নাম নেই। Problem statement ঠিক না হলে সবচেয়ে ভালো algorithm-ও ভুল প্রশ্নের নিখুঁত উত্তর দেবে।

২ · আউটপুটের আকারই সমস্যার ধরন বলে দেয়

AI-এর বইয়ে সমস্যার ধরনের লম্বা তালিকা থাকে। সেগুলো মুখস্থ না করে একটি প্রশ্ন মনে রাখুন: “আমি মডেলের কাছে কী আকারের উত্তর চাই?” উত্তরটি একটি শ্রেণি, একটি সংখ্যা, একটি সাজানো তালিকা, কয়েকটি দল, নতুন একটি লেখা, নাকি কয়েকটি কাজের ধারাবাহিকতা? এই আকারই প্রায় সবসময় বলে দেয় কোন পরিবারের সমস্যা।

সবুজ বাক্সগুলোর জন্য উত্তরসহ উদাহরণ লাগে; একে বলে supervised learning. হলুদগুলো label ছাড়াই ডেটার গঠন খোঁজে; একে বলে unsupervised learning. লাল বাক্সগুলো প্রায়ই শেখা নয়, খোঁজা। শেখার তিন ধরন (supervised, unsupervised, reinforcement) নিয়ে বিস্তারিত আসবে পর্ব ৫৫-এ।

৩ · Classification আর regression — সবচেয়ে বেশি দেখা দুই ধরন

বাস্তবের AI প্রকল্পের বড় অংশই এই দুটির একটি। দুটিতেই উত্তরসহ পুরোনো উদাহরণ থেকে শিখে নতুন উদাহরণের উত্তর অনুমান করা হয়। পার্থক্য শুধু উত্তরের আকারে।

Classification — কোন বাক্সে পড়বে

পরীক্ষার খাতা দেখার কথা ভাবুন। শিক্ষক প্রতিটি খাতাকে “পাস” বা “ফেল” বাক্সে রাখেন; অথবা A+, A, B, C-এর কোনো একটিতে। Classification-ও তাই করে: প্রতিটি উদাহরণকে আগে থেকে ঠিক করা কয়েকটি শ্রেণির (class) কোনো একটিতে রাখে। তিনটি রূপ আছে:

Multi-class আর multi-label গুলিয়ে ফেলা খুব সাধারণ ভুল। প্রশ্নটি সহজ: একটি রিভিউয়ের কি একাধিক সঠিক উত্তর থাকতে পারে? থাকলে multi-label. মডেলের শেষ ধাপও আলাদা: multi-class-এ সব শ্রেণির সম্ভাবনা মিলে ১ হয়, multi-label-এ প্রতিটি ট্যাগের সম্ভাবনা আলাদা আলাদা ০ থেকে ১।

Regression — কত হবে

আউটপুট যদি একটি সংখ্যা হয়, যার মাঝামাঝি মানেরও অর্থ আছে, তাহলে সেটি regression. বাজারঘরে: “এই অর্ডারটি পৌঁছাতে কত দিন লাগবে?” “এই পণ্যের সঠিক দাম কত হলে বিক্রি সবচেয়ে বেশি?” “এই ক্রেতা আগামী তিন মাসে কত টাকার কেনাকাটা করবেন?” Regression-এর ভুল মাপা হয় অনুমান আর আসল মানের দূরত্ব দিয়ে।

ধরুন চারটি অর্ডারের আসল ডেলিভারি সময় ২, ৫, ৩, ৪ দিন, আর মডেল বলেছিল ৩, ৪, ৩, ৬ দিন। ভুলগুলো: ১, ১, ০, ২ দিন।

MAE = (১ + ১ + ০ + ২) / ৪ = ১.০ দিন

এখানে MAE (mean absolute error) মানে প্রতিটি ভুলের পরম মান (ঋণাত্মক চিহ্ন বাদ দিয়ে) নিয়ে গড়। আরেকটি জনপ্রিয় মাপ RMSE: ভুলগুলোর বর্গের গড়ের বর্গমূল, √((১ + ১ + ০ + ৪) / ৪) = √১.৫ ≈ ১.২২ দিন। RMSE বড় ভুলকে বেশি শাস্তি দেয়, কারণ ২ দিনের ভুল বর্গ করে ৪ হয়ে যায়। কোনটি বাছবেন, সেটি ব্যবসার প্রশ্ন: একবার ৫ দিন দেরি কি পাঁচবার ১ দিন দেরির চেয়ে খারাপ? তাহলে RMSE.

Classification-এর প্রথম মাপ — accuracy আর তার সীমা

Classification-এ সবচেয়ে সহজ মাপ accuracy: যত উদাহরণ ঠিক হলো, তাকে মোট দিয়ে ভাগ। ১০০টি অর্ডারের ৯০টির “দেরি হবে কি না” ঠিক বললে accuracy ৯০%. কিন্তু ভুল সব সমান নয়: “দেরি হবে না” বলে দেরি হলে ক্রেতা রেগে যান, আর “দেরি হবে” বলে না হলে বড়জোর একটি অকারণ SMS যায়। এই দুই ভুলকে আলাদা করে গোনে confusion matrix; সেখান থেকে আসে precision (মডেল যাদের “হ্যাঁ” বলল তাদের কত ভাগ সত্যিই হ্যাঁ) আর recall (সত্যিকারের হ্যাঁ-দের কত ভাগ মডেল ধরতে পারল)। এগুলোর পূর্ণ হিসাব পর্ব ৬০-এ; এখানে শুধু মনে রাখুন, accuracy একা প্রায়ই প্রতারণা করে। কেন, সেটি অংশ ৮-এ সংখ্যা দিয়ে দেখবেন।

৪ · একই ডেটা, চার রকম প্রশ্ন

একটি গুরুত্বপূর্ণ সত্য: ডেটা নিজে কোনো সমস্যার ধরন নয়। একই টেবিল থেকে আপনি কোন প্রশ্ন করছেন, তা-ই ঠিক করে সমস্যাটি কী। বাজারঘরের ১০টি অর্ডারের একটি ছোট টেবিল দিয়ে দেখি। কলামগুলো: order (অর্ডার নম্বর), items (পণ্যের সংখ্যা), amount (টাকা), km (গুদাম থেকে দূরত্ব), days (পৌঁছাতে কত দিন লাগল) আর late (৩ দিনের বেশি লাগলে yes).

order items amount  km days late
  101     1   1721 151    2   no
  102     4   2934 112    2   no
  103     4   2286  56    1   no
  104     3   2355 278    5  yes
  105     3   2237 234    4  yes
  106     5   2422 193    3   no
  107     1  48000 121    3   no
  108     4    645 247    5  yes
  109     2   2567 164    3   no
  110     1   1516 134    3   no

order items amount  km  late
  101     1   1721 151    no
  102     4   2934 112    no
  103     4   2286  56    no
  104     3   2355 278   yes
  105     3   2237 234   yes
  106     5   2422 193    no
  107     1  48000 121    no
  108     4    645 247   yes
  109     2   2567 164    no
  110     1   1516 134    no
days বাদ (late তারই রূপ)

order items amount  km  days
  101     1   1721 151     2
  102     4   2934 112     2
  103     4   2286  56     1
  104     3   2355 278     5
  105     3   2237 234     4
  106     5   2422 193     3
  107     1  48000 121     3
  108     4    645 247     5
  109     2   2567 164     3
  110     1   1516 134     3
late বাদ (days-এরই রূপ)

order items  km  → দল
  101     1 151  → 1
  102     4 112  → 2
  103     4  56  → 2
  104     3 278  → 0
  105     3 234  → 0
  106     5 193  → 0
  107     1 121  → 1
  108     4 247  → 0
  109     2 164  → 1
  110     1 134  → 1
দলের নম্বর শুধু নাম

order amount  score
  101   1721    1.4
  102   2934    1.5
  103   2286    0.1
  104   2355    0.1
  105   2237    0.2
  106   2422    0.2
  107  48000  108.0  ←
  108    645    4.0
  109   2567    0.6
  110   1516    1.9
score = |amount − median| / MAD

নিচের কোডটি এই চারটি framing সত্যিই চালিয়ে দেখায়। ডেটা তৈরি হয় seed দেওয়া random সংখ্যা দিয়ে (default_rng(42)), তাই সবার স্ক্রিনে একই সংখ্যা আসবে। প্রথমবার চালালে পাতায় Python, pandas আর scikit-learn নামতে কয়েক সেকেন্ড (scikit-learn-এর জন্য প্রায় ১০ সেকেন্ড) লাগতে পারে; পরের বার দ্রুত।

import numpy as np, pandas as pd
from sklearn.cluster import AgglomerativeClustering

rng = np.random.default_rng(42)
n = 10
df = pd.DataFrame({
    "order": range(101, 101 + n),
    "items": rng.integers(1, 6, n),
    "amount": rng.integers(300, 3000, n),
    "km": rng.integers(2, 300, n),
})
df.loc[6, "amount"] = 48000          # একটি অস্বাভাবিক বড় অর্ডার
df["days"] = 1 + df["km"] // 80 + rng.integers(0, 2, n)
df["late"] = np.where(df["days"] > 3, "yes", "no")
print(df.to_string(index=False))

# ১) Classification: target = late (হ্যাঁ/না)
print("\n1 classification, target late:", df["late"].tolist())
# ২) Regression: target = days (একটি সংখ্যা)
print("2 regression, target days:", df["days"].tolist())
# ৩) Clustering: কোনো target নেই, শুধু feature থেকে দল
X = df[["items", "km"]]
X = (X - X.mean()) / X.std()          # দুই কলাম এক মাপে
model = AgglomerativeClustering(n_clusters=3).fit(X)
print("3 clustering, no target; groups:", model.labels_.tolist())
# ৪) Anomaly detection: median থেকে অনেক দূরের অর্ডার
med = df["amount"].median()
mad = (df["amount"] - med).abs().median()
score = (df["amount"] - med).abs() / mad
print("4 anomaly, unusual orders:", df.loc[score > 5, "order"].tolist())

1 classification, target late: ['no', 'no', 'no', 'yes', 'yes', 'no', 'no', 'yes', 'no', 'no']
2 regression, target days: [2, 2, 1, 5, 4, 3, 3, 5, 3, 3]
3 clustering, no target; groups: [1, 2, 2, 0, 0, 0, 1, 0, 1, 1]
4 anomaly, unusual orders: [107]

৫ · Label ছাড়া কাজ, সাজানো আর সময়ের ক্রম

Classification আর regression-এর বাইরেও বাজারঘরের অনেক প্রশ্ন আছে। প্রতিটির জন্য দেখি: কী চাই, আউটপুট কেমন, আর সাফল্য কীভাবে মাপব।

Ranking আর recommendation — কোনটি আগে দেখাব

বাজারঘরের সার্চ বক্সে কেউ “শাড়ি” লিখলেন। মিলে যায় ৮০০টি পণ্য, কিন্তু ফোনের স্ক্রিনে প্রথমে আসে মাত্র ছয়টি। এখানে প্রতিটি পণ্যকে আলাদা করে “ভালো/খারাপ” বলা দরকার নেই; দরকার একটি ক্রম। একেই বলে ranking. আর ক্রেতা কিছু না খুঁজলেও “আপনার পছন্দ হতে পারে” তালিকা বানানো হলো recommendation. আউটপুট একটি সাজানো তালিকা। মাপা হয় তালিকার ওপরের অংশ দিয়ে, যেমন precision@k (ওপরের k-টির কতগুলো কাজের) বা NDCG (ওপরের দিকে ভালো জিনিস থাকলে বেশি নম্বর); শেষ বিচার ক্লিক আর কেনায়।

Clustering — ক্রেতাদের কয়েকটি দল

বাজারঘর জানতে চায় তার ক্রেতারা কয়েক রকম কি না: মাসের শুরুতে বড় বাজার করা পরিবার, ঈদের আগে শুধু পোশাক কেনা তরুণ, প্রতি সপ্তাহে ছোট অর্ডার দেওয়া অফিসকর্মী। কেউ আগে থেকে এই দল ঠিক করে দেয়নি, তাই label নেই। Clustering ডেটা থেকে নিজেই দল খোঁজে। আউটপুট প্রতিটি ক্রেতার একটি দল-নম্বর। মাপা কঠিন, কারণ “সঠিক উত্তর” নেই; silhouette score-এর মতো সংখ্যা বলে দলগুলো কতটা আলাদা, কিন্তু আসল পরীক্ষা হলো দলগুলো দিয়ে ব্যবসার কোনো সিদ্ধান্ত ভালো হয় কি না।

Anomaly detection — কোনটি স্বাভাবিক নয়

উপরের ১০৭ নম্বর অর্ডারের মতো অস্বাভাবিক জিনিস খোঁজা হলো anomaly detection: হঠাৎ এক ঠিকানা থেকে ৪০টি ক্যাশ-অন-ডেলিভারি অর্ডার, এক রাতে একটি পণ্যের দাম ১০ গুণ, একটি সার্ভারের response time হঠাৎ বেড়ে যাওয়া। জালিয়াতির উদাহরণ খুব কম, আর জালিয়াতেরা কৌশল বদলায়, তাই অনেক সময় label ছাড়াই “স্বাভাবিক কেমন” শিখে তার বাইরের জিনিস চিহ্নিত করা হয়। আউটপুট একটি স্কোর বা পতাকা; মাপা হয় সন্দেহজনক তালিকার কত ভাগে মানুষ যাচাই করে সত্যিই সমস্যা পেলেন তা দিয়ে।

Dimensionality reduction — অনেক কলামকে কয়েকটিতে আনা

বাজারঘরের প্রতিটি ক্রেতার ৫০টি কলাম থাকতে পারে: কোন বিভাগে কত টাকা, কোন সময়ে কেনেন, কত ছাড় নেন। ৫০ মাত্রার ছবি চোখে দেখা যায় না। Dimensionality reduction এই ৫০টি কলামকে ২–৩টি নতুন কলামে আনে, যতটা সম্ভব তথ্য রেখে, যাতে ছবি আঁকা যায় বা পরের মডেল দ্রুত চলে। জনপ্রিয় পদ্ধতি PCA. মাপা হয় কতটা তথ্য (variance) রয়ে গেল দিয়ে। এটি প্রায়ই নিজে লক্ষ্য নয়, অন্য কাজের প্রস্তুতি।

Sequence prediction আর forecasting — এরপর কী

আবহাওয়ার পূর্বাভাসের মতো: অতীতের ক্রম দেখে ভবিষ্যৎ বলা। বাজারঘরে: আগামী সপ্তাহে প্রতিদিন কত অর্ডার আসবে, যাতে ডেলিভারি রাইডার ঠিক করা যায়। এটি forecasting, regression-এরই একটি রূপ, কিন্তু একটি বড় শর্তসহ: ভবিষ্যৎ দিয়ে অতীত শেখানো যাবে না, তাই ডেটা ভাগ হয় সময় ধরে। আরও সাধারণ রূপ sequence prediction: ক্রমের পরের জিনিস অনুমান, যেমন ক্রেতা এরপর কোন পাতা খুলবেন, বা একটি বাক্যের পরের শব্দ কী। মজার কথা, আধুনিক LLM-এর ভেতরের মূল কাজটিও এটাই, পরের token-এর অনুমান (পর্ব ৭০)। Forecasting মাপা হয় MAE বা MAPE (শতকরা ভুল) দিয়ে, আর সবসময় “গত সপ্তাহের একই দিন”-এর মতো সহজ পূর্বাভাসের পাশে।

৬ · খোঁজা, পরিকল্পনা, খেলা আর সৃষ্টি — আর পুরো মানচিত্র

এখন পর্যন্ত সব সমস্যা ছিল “ডেটা থেকে শেখা”। কিন্তু AI-এর ইতিহাসের বড় অংশ অন্য এক ধরনের সমস্যা নিয়ে: যেখানে জগতের নিয়ম জানা, আর প্রশ্ন হলো সেরা কাজের ক্রম কী।

• Search আর optimization: বাজারঘরের একজন রাইডারের ১২টি ঠিকানা আছে। কোন ক্রমে গেলে মোট পথ সবচেয়ে কম? রিকশাওয়ালা যেমন জ্যাম মাথায় রেখে রুট ঠিক করেন। আউটপুট একটি সমাধান (রুট, রুটিন); মাপ খরচ বা সময়। এতে ডেটা থেকে শেখার দরকারই নাও থাকতে পারে।
• Planning: একটি লক্ষ্য (“সব অর্ডার আজ সন্ধ্যার মধ্যে প্যাক ও রওনা”) থেকে কাজের ধারাবাহিকতা বের করা: কোন কাজ আগে, কোনটি কোনটির পরে, কোন যন্ত্র কখন খালি। আউটপুট কাজের একটি তালিকা; মাপ লক্ষ্য পূরণ হলো কি না, কত ধাপে, কত খরচে।
• Game playing: প্রতিপক্ষ আছে এমন খোঁজা, যেমন দাবা বা লুডু। আউটপুট প্রতিটি অবস্থায় একটি চাল; মাপ জয়ের হার। ১৯৯৭ সালে IBM-এর Deep Blue দাবায় Garry Kasparov-কে একটি ম্যাচে হারায়; ২০১৬ সালে DeepMind-এর AlphaGo Go খেলায় Lee Sedol-কে হারায়, search আর শেখা মিলিয়ে।
• Generation: নতুন কিছু তৈরি: পণ্যের বর্ণনা লেখা, রিভিউয়ের সারাংশ, বিজ্ঞাপনের ছবি। আউটপুট লেখা, ছবি বা শব্দ। মাপা সবচেয়ে কঠিন, কারণ একটি প্রশ্নের অনেক ভালো উত্তর হয়; তাই মানুষের মূল্যায়ন আর নিয়ম যাচাই (দাম ঠিক লিখেছে কি না) লাগে। Generative model বিশ্বাসযোগ্য শোনায় এমন ভুলও লিখতে পারে।
• Perception: ছবি, ভিডিও বা শব্দ থেকে অর্থ বের করা। গুদামের ক্যামেরায় ভাঙা প্যাকেট চেনা (vision-এ classification), কল সেন্টারের কথা লেখায় রূপান্তর (speech recognition, মাপ word error rate).
• ভাষার কাজ (NLP): বাংলা রিভিউ ইতিবাচক না নেতিবাচক (classification), রিভিউ থেকে পণ্যের নাম তুলে আনা, প্রশ্নের উত্তর খোঁজা (ranking), সারাংশ লেখা (generation). বাংলার মতো ভাষায় ডেটা আর টুল ইংরেজির তুলনায় কম, যা একটি বাস্তব বাধা।

পুরো মানচিত্র — কোন ধরন, কোন পর্বে

যুক্তি আর জ্ঞান নিয়ে কাজ (logic, rule-based system, knowledge graph) মডিউল ৮-এ (পর্ব ৪৫–৪৮) আসবে; সেখানে আউটপুট একটি সিদ্ধান্ত বা প্রমাণ, যা নিয়ম থেকে বের হয়। Speech আর গভীর computer vision-এর পূর্ণ আলোচনা পরের একটি deep learning কোর্সের বিষয়; এই কোর্সে শুধু ভিত্তিটুকু থাকবে।

নিচের ছোট function-টি এই মানচিত্রকে কোডে রূপ দেয়। একটি ছোট spec (dictionary-তে লেখা কয়েকটি তথ্য) দেখে এটি সমস্যার ধরনের প্রথম খসড়া বলে। খেয়াল করুন, প্রথম দুটি শর্তই হলো “ML লাগবে কি না”। Python-এর dictionary পরিচিত না হলে Python কোর্সের dictionary পর্ব দেখে নিতে পারেন।

def choose(spec):
    """ছোট একটি spec থেকে সমস্যার ধরন অনুমান করে (শুধু প্রথম খসড়া)।"""
    if spec.get("exact_rule_known"):
        return "no ML: a rule, query or spreadsheet"
    if spec.get("examples", 0) < 100 and spec.get("needs_labels", True):
        return "no ML yet: collect data first"
    out = spec["output"]
    if out == "category":
        if spec.get("many_labels_at_once"):
            return "multi-label classification"
        k = spec.get("n_classes", 2)
        return "binary classification" if k == 2 else f"multi-class ({k})"
    if out == "number":
        return "forecasting" if spec.get("future_in_time") else "regression"
    simple = {"ordered_list": "ranking / recommendation",
              "groups": "clustering", "unusual_items": "anomaly detection",
              "new_content": "generation", "action_plan": "planning / search"}
    return simple.get(out, "unclear: refine the problem statement")

specs = {
    "late delivery?":  {"output": "category", "examples": 5000},
    "review topic":    {"output": "category", "n_classes": 4, "examples": 900},
    "review tags":     {"output": "category", "many_labels_at_once": True, "examples": 900},
    "delivery days":   {"output": "number", "examples": 5000},
    "next week sales": {"output": "number", "future_in_time": True, "examples": 700},
    "VAT on bill":     {"output": "number", "exact_rule_known": True},
    "customer groups": {"output": "groups", "needs_labels": False},
    "rider route":     {"output": "action_plan", "needs_labels": False},
    "fraud alert":     {"output": "category", "examples": 40},
}
for name, s in specs.items():
    print(f"{name:16s} -> {choose(s)}")

late delivery?   -> binary classification
review topic     -> multi-class (4)
review tags      -> multi-label classification
delivery days    -> regression
next week sales  -> forecasting
VAT on bill      -> no ML: a rule, query or spreadsheet
customer groups  -> clustering
rider route      -> planning / search
fraud alert      -> no ML yet: collect data first

৭ · কখন AI ভুল টুল

এই কোর্সটি AI নিয়ে, তবু সৎভাবে বলা দরকার: বাস্তবের অনেক সমস্যায় AI দরকার নেই, আর কিছু সমস্যায় AI ব্যবহার করা ক্ষতিকর। চারটি সংকেত মনে রাখুন।

একটি সৎ উদাহরণ: বাজারঘরের মালিক চান “AI দিয়ে বুঝব কোন পণ্যের স্টক ফুরিয়ে যাচ্ছে।” কিন্তু প্রতিটি পণ্যের বর্তমান স্টক আর গত ৭ দিনের গড় বিক্রি জানা থাকলে, “স্টক ÷ দৈনিক গড় বিক্রি < ৫ দিন হলে সতর্কবার্তা” — এই এক লাইনের নিয়মই প্রথম সংস্করণ হিসেবে যথেষ্ট। ঈদের মৌসুমে নিয়মটি বারবার ভুল করলে তখন forecasting মডেল ভাবা যায়, আর এই নিয়মই হবে তার baseline.

৮ · Baseline — আগে সবচেয়ে সহজ পদ্ধতির সঙ্গে তুলনা

ক্রিকেটে একজন ব্যাটসম্যানের গড় ৩৫ শুনে কিছু বোঝা যায় না, যতক্ষণ না জানেন দলের বাকিদের গড় কত। মডেলের “৯৫% accurate”-ও তাই; তুলনা ছাড়া অর্থহীন। তুলনার প্রথম মানদণ্ড হলো baseline: এমন একটি পদ্ধতি যা কোনো বুদ্ধি ছাড়াই উত্তর দেয়।

Majority class-এর ফাঁদ — সংখ্যা দিয়ে

বাজারঘরে পণ্য ফেরত আসে খুব কম, ধরা যাক প্রতি ১০০টি অর্ডারে ৩টির কিছু বেশি। এমন ডেটাকে বলে imbalanced (এক শ্রেণি অনেক বেশি)। এখানে একটি মডেল বানানো হলো, আর পাশে রাখা হলো সবচেয়ে বোকা baseline: “কোনো অর্ডারই ফেরত আসবে না”। নিচের কোড দুটিকে একই test ডেটায় মাপে।

import numpy as np
from sklearn.model_selection import train_test_split
from sklearn.tree import DecisionTreeClassifier
from sklearn.dummy import DummyClassifier
from sklearn.metrics import accuracy_score, recall_score

rng = np.random.default_rng(42)
n = 2000
X = rng.normal(size=(n, 3))                 # তিনটি feature, যেমন দাম, দূরত্ব, আগের রিটার্ন
risk = 1.5 * X[:, 0] + X[:, 1] + rng.normal(scale=1.0, size=n)
y = (risk > 3.8).astype(int)                # 1 = পণ্য ফেরত এসেছে (বিরল)
print("returns (1) share:", round(y.mean(), 3))

X_tr, X_te, y_tr, y_te = train_test_split(
    X, y, test_size=0.5, random_state=42, stratify=y)

base = DummyClassifier(strategy="most_frequent").fit(X_tr, y_tr)
tree = DecisionTreeClassifier(random_state=42).fit(X_tr, y_tr)

for name, m in [("baseline: always 0", base), ("decision tree", tree)]:
    p = m.predict(X_te)
    print(f"{name:20s} accuracy={accuracy_score(y_te, p):.3f}"
          f"  recall(1)={recall_score(y_te, p, zero_division=0):.2f}")

returns (1) share: 0.033
baseline: always 0   accuracy=0.967  recall(1)=0.00
decision tree        accuracy=0.951  recall(1)=0.27

Forecasting-এর baseline — গড়, শেষ মান, গত সপ্তাহ

Regression আর forecasting-এও একই নীতি। নিচের কোডে বাজারঘরের ২৮ দিনের দৈনিক অর্ডার আছে, সপ্তাহের শেষে (শুক্র-শনি) বেশি। প্রথম ২১ দিন দেখে শেষ ৭ দিন অনুমান করা হয় তিনটি সহজ উপায়ে: train-এর গড়, শেষ দিনের মান, আর গত সপ্তাহের একই দিনের মান।

import numpy as np, pandas as pd

rng = np.random.default_rng(42)
days = pd.date_range("2026-09-05", periods=28, freq="D")   # শনিবার থেকে
week = np.array([120, 110, 105, 100, 115, 160, 175])       # শনি ... শুক্র
orders = np.tile(week, 4) + np.arange(28) + rng.integers(-8, 9, 28)
s = pd.Series(orders, index=days)

train, test = s[:21], s[21:]                                # শেষ ৭ দিন লুকানো
print("test days:", test.index.strftime("%a").tolist())
print("actual   :", test.tolist())

forecasts = {
    "mean of train": np.full(7, round(train.mean())),
    "last value":    np.full(7, train.iloc[-1]),
    "same day last week": train.iloc[-7:].to_numpy(),
}
for name, f in forecasts.items():
    mae = np.abs(test.to_numpy() - f).mean()
    print(f"{name:19s} MAE = {mae:5.1f} orders/day")

test days: ['Sat', 'Sun', 'Mon', 'Tue', 'Wed', 'Thu', 'Fri']
actual   : [139, 127, 135, 129, 142, 184, 207]
mean of train       MAE =  20.6 orders/day
last value          MAE =  46.6 orders/day
same day last week  MAE =   8.1 orders/day

৯ · Framing-এর তিন ফাঁদ

সমস্যার ধরন ঠিক হলেও framing-এ এমন ভুল হতে পারে যে মডেল test-এ দারুণ, বাস্তবে অকেজো। তিনটি সবচেয়ে সাধারণ ফাঁদ:

ফাঁদ ১ — যা পরে এমনিই জানবেন, তা অনুমান করা

বাজারঘরের একজন বিশ্লেষক একটি মডেল বানালেন, যা বলে “অর্ডারটি ক্যাশ-অন-ডেলিভারি হবে কি না”। কিন্তু ক্রেতা চেকআউটের সময় নিজেই পেমেন্ট পদ্ধতি বেছে নেন, আর সেই মুহূর্তেই উত্তরটি জানা হয়ে যায়। আগে জানার কোনো সিদ্ধান্ত যদি না থাকে, তাহলে এই অনুমানের কোনো মূল্য নেই। প্রতিটি framing-এ জিজ্ঞেস করুন: উত্তরটি আগে জানলে আমি কোন কাজটি ভিন্নভাবে করব, আর কতটা আগে জানতে হবে?

ফাঁদ ২ — Target leakage

অংশ ৪-এ দেখেছেন, “দেরি হবে কি না” অনুমানে days কলাম রাখা যায় না। এটিই target leakage: এমন feature ব্যবহার করা যা সিদ্ধান্তের মুহূর্তে জানা থাকে না, বা target থেকেই তৈরি। আরও লুকানো উদাহরণ: “ক্রেতা অভিযোগ করবেন কি না” অনুমানে “কল সেন্টারে কলের সংখ্যা” feature রাখা, অথচ অভিযোগ করতেই সেই কলগুলো হয়েছিল। Test-এ accuracy প্রায় নিখুঁত আসে, আর সেটিই সতর্ক হওয়ার সংকেত। সন্দেহজনক রকম ভালো ফল দেখলে আগে leakage খুঁজুন। Train, validation, test ভাগ আর leakage-এর পূর্ণ আলোচনা পর্ব ৫৬-এ।

ফাঁদ ৩ — Proxy target যা ভুল জিনিসকে পুরস্কৃত করে

অনেক সময় আসল লক্ষ্য সরাসরি মাপা যায় না, তাই কাছাকাছি একটি সংখ্যা নেওয়া হয়। একে বলে proxy target. বাজারঘর চায় “ক্রেতা যে পণ্যে সন্তুষ্ট হবেন তা আগে দেখাতে”, কিন্তু সন্তুষ্টি মাপা কঠিন, তাই মডেলকে শেখানো হলো “ক্লিক বেশি হবে এমন পণ্য আগে”। ফল: চকচকে ছবি আর অবিশ্বাস্য ছাড়ের পণ্য ওপরে উঠল, ক্লিক বাড়ল, কিন্তু ফেরত আর খারাপ রিভিউও বাড়ল। মডেল ঠিক সেটাই করেছে যা বলা হয়েছিল; বলাটাই ভুল ছিল।

১০ · AI-এর যুগে — AI সহকারী দিয়ে সমস্যা বাছাই

AI সহকারীকে বিক্রি বাড়ানোর একটি ML মডেল চাইলে সে কয়েক সেকেন্ডে কোড দেবে, প্রায়ই একটি চমৎকার accuracy-সহ। কিন্তু সে আপনার ব্যবসা, ডেটার সময়ক্রম আর ভুলের দাম জানে না। এই সহকারীরা প্রায়ই যেসব ভুল করে:

• সমস্যার ধরন না জিজ্ঞেস করেই একটি algorithm বেছে নেয়, আর baseline দেখায় না।
• Imbalanced ডেটায় শুধু accuracy জানায়, train ডেটাতেই মাপা ফল দেখায়, বা test ডেটা ভাগ করার আগেই পুরো ডেটায় scaling করে (leakage).
• পুরোনো বা ভুল API লেখে: pandas-এ সরানো DataFrame.append, NumPy 2-এ সরানো np.float, বা এমন parameter যা সেই version-এ নেই।
• Warning চাপা দেয় (warnings.filterwarnings("ignore")), আর বিশ্বাসযোগ্য শোনায় এমন কিন্তু ভুল পরিসংখ্যান লেখে।

AI-এর পরামর্শ হাতে পেলে — যাচাইয়ের চেকলিস্ট

• Problem statement-এর পাঁচটি ঘর (input, output, ডেটা, মাপ, ভুলের দাম) নিজের ভাষায় লিখতে পারি
• প্রতিটি feature সিদ্ধান্তের মুহূর্তে সত্যিই জানা থাকে কি না যাচাই করেছি (leakage নেই)
• সবার আগে ডেটা train আর test-এ ভাগ করেছি, আর মাপ শুধু test-এ নিয়েছি
• মডেলের পাশে majority class, গড় বা শেষ মানের baseline চালিয়ে তুলনা করেছি
• নিজের library version-এর অফিসিয়াল docs দেখে প্রতিটি function আর parameter মিলিয়েছি, আর কোড নিজে চালিয়ে shape আর কয়েকটি সারি দেখেছি
• কোনো warning লুকানো হয়নি, আর ক্রেতার নাম, ফোন নম্বর বা অন্য গোপন ডেটা AI-তে পেস্ট করিনি