Data storytelling — বিশ্লেষণ থেকে সিদ্ধান্ত আর report

মডিউল ১২-এর আগের পর্বগুলো বিশ্লেষণের হাতিয়ার দিয়েছে: পর্ব ৬১ (Data science-এর জন্য SQL), পর্ব ৬২ আর ৬৩ (A/B test-এর পরিকল্পনা আর বিশ্লেষণ), পর্ব ৬৪ (Causal inference-এর পরিচয়), পর্ব ৬৫ (Customer analytics) আর পর্ব ৬৬ (Dashboard). এই পর্ব শেষ ধাপের: ফলটিকে এমনভাবে বলা, যাতে সঠিক মানুষ সঠিক সিদ্ধান্ত নিতে পারেন। Chart বাছাইয়ের মূল নিয়ম AI-এর ভিত্তি কোর্সের পর্ব ২৯-এ, আর lie factor, truncated axis, রঙকানা দৃষ্টির simulation ও action title একই কোর্সের পর্ব ৩২-এ শেখানো হয়েছে; এখানে সেগুলো আবার শেখানো হবে না, বরং একটি আসল সিদ্ধান্তের কাজে লাগানো হবে। Confidence interval-এর অর্থ AI-এর ভিত্তি কোর্সের পর্ব ৩৭-এ আছে।

চারটি ব্লক পাতাতেই চলে (ব্রাউজারের Python: NumPy, pandas, matplotlib); প্রতিটি ব্লক আলাদা, যেকোনোটি আগে চালাতে পারেন। প্রথমবার Python আর package নামতে কয়েক সেকেন্ড লাগে।

১ · প্রশ্ন, শ্রোতা আর “তাহলে কী?” — বিশ্লেষণ থেকে সিদ্ধান্ত

একটি বিশ্লেষণ শুরু হয় প্রায়ই অস্পষ্ট অনুরোধে: “delivery-র ডেটাটা একটু দেখুন তো।” এই পর্বের উদাহরণে বাজারঘর (কাল্পনিক অনলাইন দোকান) সপ্তাহ ৯ থেকে ঢাকার বাইরের delivery fee-র নিয়ম বদলেছে। কয়েক সপ্তাহ পর অভিযোগ আসে, সিলেটে পার্সেল দেরিতে পৌঁছাচ্ছে। “ডেটা দেখা” কোনো প্রশ্ন নয়। কাজের প্রশ্নটি পর্ব ০২-এর মতো একটি সিদ্ধান্ত থেকে আসে: সিলেটে courier-দের মধ্যে অর্ডার ভাগের নিয়ম কি বদলানো উচিত, আর কতটা?

প্রশ্নের পরেই শ্রোতা। একই ফল চারজন চারভাবে চান:

তৃতীয় প্রশ্নটি সবচেয়ে কঠিন: “তাহলে কী?” (so what). “সিলেটে দেরির হার ১৬.৮%” একটি তথ্য। “সিলেটে দেরি ফি বদলের পর আড়াই গুণ হয়েছে, অন্য জেলায় হয়নি, আর বাড়তি অর্ডারের বেশির ভাগ গেছে একটি courier-এর কাছে” একটি পর্যবেক্ষণ। “তাই সিলেটের অর্ডার ভাগের নিয়ম চার সপ্তাহের পাইলটে বদলে দেখা উচিত” একটি সুপারিশ। প্রতিটি বাক্যের পর “তাহলে কী?” জিজ্ঞেস করুন, যতক্ষণ না একটি কাজের কথা আসে।

ডেটা — ১৬ সপ্তাহের delivery

নিচের deliveries.py seed দেওয়া কোডে ১৬ সপ্তাহের প্রতিটি delivery বানায়: সপ্তাহ, জেলা (পাঁচটি), courier (A বা B) আর দেরি হলো কি না। ডেটা কাল্পনিক; জেলার নাম শুধু পরিচিত প্রেক্ষাপটের জন্য, কোনো বাস্তব courier বা জেলার পরিসংখ্যান নয়। Simulation-এ একটি জিনিস লুকানো আছে, যা বিশ্লেষককে খুঁজে বের করতে হবে: সপ্তাহ ৯ থেকে সিলেটে অর্ডার বাড়ে, আর বাড়তি ভার পড়ে Courier B-র ওপর।

DIST = ["Dhaka", "Chattogram", "Sylhet", "Rajshahi", "Khulna"]
BASE = [0.06, 0.07, 0.07, 0.08, 0.07]        # জেলাভেদে দেরির মূল হার

def make_deliveries(seed=67):
    r = np.random.default_rng(seed)
    parts = []
    for w in range(1, 17):
        after = w >= 9                           # সপ্তাহ 9 থেকে নতুন delivery fee
        for d, base in zip(DIST, BASE):
            syl = after and d == "Sylhet"
            n = int(r.poisson(260 if d == "Dhaka" else (170 if syl else 120)))
            cB = r.random(n) < (0.75 if syl else 0.40)          # Courier B-এর ভাগ
            p = base + 0.01 * cB + 0.10 * (cB & syl)            # সিলেটে B চাপে পড়ে
            parts.append(pd.DataFrame({"week": w, "district": d,
                                       "courier": np.where(cB, "B", "A"),
                                       "late": (r.random(n) < p).astype(int)}))
    return pd.concat(parts, ignore_index=True)

সব মিলিয়ে ১২,১৮৬টি delivery, যার ১,০১৮টি দেরিতে। বাস্তবে আপনি simulation-এর নিয়ম জানবেন না, শুধু টেবিলটি জানবেন।

২ · Answer first — pyramid principle আর situation–complication–resolution

বিশ্লেষক যে ক্রমে কাজ করেন (ডেটা → হিসাব → ফল → সুপারিশ), সেই ক্রমে লিখলে ব্যস্ত পাঠক সুপারিশ পর্যন্ত পৌঁছান না। তাই উল্টো ক্রম: আগে উত্তর, তারপর তার পক্ষের যুক্তি, তারপর প্রমাণ। সামরিক লেখায় এর নাম BLUF (bottom line up front).

এই ভাবনার সবচেয়ে পরিচিত রূপ Barbara Minto-র pyramid principle. তিনি McKinsey-তে লেখার প্রশিক্ষণ দিতে গিয়ে এটি গড়ে তোলেন, আর তাঁর The Pyramid Principle বইটি কয়েক দশক ধরে নানা সংস্করণে ছাপা হচ্ছে। নিয়ম তিনটি: চূড়ায় একটি মূল বার্তা; তার নিচে তিন-চারটি মূল যুক্তি, যারা একসঙ্গে বার্তাটিকে সমর্থন করে; প্রতিটি যুক্তির নিচে তার প্রমাণ।

ভূমিকা লেখার জন্য Minto একটি ছোট কাঠামো দেন: situation–complication–resolution (SCR). Situation: পাঠক যা আগে থেকে জানেন ও মানেন (“সপ্তাহ ৯ থেকে নতুন delivery fee চালু”)। Complication: যা বদলেছে বা সমস্যা তৈরি করেছে (“তারপর থেকে সিলেটে দেরি আড়াই গুণ”)। Resolution: আপনার উত্তর (“অর্ডার ভাগের নিয়ম বদলে চার সপ্তাহের পাইলট”)।

নিচের stepper একটি সাধারণ “পদ্ধতি-আগে” বাক্যকে ধাপে ধাপে answer-first শিরোনামে বদলায়। প্রতিটি সংখ্যা অংশ ৬-এর কোড থেকে আসা।

Slide deck-এও একই নিয়ম: প্রতিটি slide-এর শিরোনাম একটি পূর্ণ বাক্য, যা ওই slide-এর বার্তা বলে। শুধু শিরোনামগুলো পরপর পড়লেই পুরো গল্প বোঝা গেলে deck-টি ঠিক আছে। শুরুতে একটি executive summary slide, শেষে সুপারিশ আর পরের ধাপ, আর পদ্ধতির খুঁটিনাটি appendix-এ।

৩ · একটি chart দুইবার আঁকা — default থেকে বার্তাসহ chart

AI-এর ভিত্তি কোর্সের পর্ব ৩২-এ দেখেছেন, action title, direct labeling আর অপ্রয়োজনীয় সাজ (chartjunk) বাদ দিলে chart পড়া সহজ হয়। সিদ্ধান্তের report-এ আরেকটি প্রশ্ন জরুরি: এই chart কোন যুক্তির প্রমাণ? Pyramid-এর “কী ঘটেছে” স্তরের প্রমাণ হলো সিলেট বনাম বাকিদের তুলনা, ফি বদলের আগে ও পরে। তাই chart-এ ঠিক এই তুলনাটিই চোখে পড়তে হবে, অন্য কিছু নয়।

নিচের ব্লক প্রথমে pandas-এর default chart আঁকে: পাঁচ জেলা, পাঁচ রং, legend, grid, শিরোনামে শুধু বিষয়। তারপর একই ডেটায় পরিষ্কার chart: চার জেলাকে এক ধূসর রেখায় মেলানো (তারা একই রকম আচরণ করে, টেবিলে দেখা যায়), সিলেট এক উজ্জ্বল রঙে, রেখার শেষে নাম, দুই সময়ের গড়ের বিন্দুরেখা, ফি বদলের সপ্তাহে একটি দাগ আর annotation, আর শিরোনামে বার্তা।

import pandas as pd                 # deliveries.py-এর জন্য
import matplotlib.pyplot as plt
from deliveries import make_deliveries

df = make_deliveries()
wk = df.pivot_table(index="week", columns="district", values="late") * 100
print(wk.loc[[1, 8, 9, 16]].round(1))                  # কয়েকটি সপ্তাহ, % হিসেবে

# আগে: default chart — পাঁচ রং, legend, grid, কোনো বার্তা নেই
fig1, ax = plt.subplots(figsize=(6.4, 3.6))
wk.plot(ax=ax, marker="o", grid=True)
ax.set(title="Late delivery rate by district", xlabel="week", ylabel="late")

# পরে: সিলেট বনাম বাকি চার জেলা একসঙ্গে, সরাসরি label, শিরোনামে বার্তা
syl = df.district == "Sylhet"
two = {"Sylhet": df[syl].groupby("week").late.mean() * 100,
       "other 4 districts": df[~syl].groupby("week").late.mean() * 100}
fig2, ax = plt.subplots(figsize=(6.4, 3.6))
for (name, s), c in zip(two.items(), ["#D55E00", "#808080"]):
    ax.plot(s.index, s, color=c, lw=2.6 if name == "Sylhet" else 1.6)
    ax.text(16.3, s.iloc[-1], name, va="center", color=c, fontsize=10)
    for lo, hi in [(1, 8), (9, 16)]:                   # দুই সময়ের গড় রেখা
        m = s.loc[lo:hi].mean()
        ax.hlines(m, lo, hi, color=c, ls=":", lw=1)
        print(f"{name:18s} সপ্তাহ {lo:2d}-{hi:2d}: গড় {m:4.1f}%")
ax.axvline(8.5, color="#404040", ls="--", lw=1)
ax.text(8.7, 22, "new delivery fee from week 9", fontsize=9, va="top")
ax.spines[["top", "right"]].set_visible(False)
ax.set(xlim=(1, 20), ylim=(0, 22), xticks=[1, 4, 8, 12, 16], xlabel="week",
       ylabel="late deliveries (%)")
ax.set_title("Late deliveries in Sylhet rose from about 7% to 17%\n"
             "after the fee change; other districts stayed near 7%",
             loc="left", fontsize=11)

district  Chattogram  Dhaka  Khulna  Rajshahi  Sylhet
week
1                6.4    4.7     6.0       7.1     5.8
8                7.7    8.9     8.9       6.0     3.1
9                8.7    4.5     9.6       5.8    21.1
16              10.2    6.5     8.2      10.5    16.8
Sylhet             সপ্তাহ  1- 8: গড়  6.6%
Sylhet             সপ্তাহ  9-16: গড় 16.7%
other 4 districts  সপ্তাহ  1- 8: গড়  7.5%
other 4 districts  সপ্তাহ  9-16: গড়  7.4%

৪ · একই ডেটা, তিনটি ভুল গল্প — chart দেখে সিদ্ধান্ত কীভাবে বদলায়

AI-এর ভিত্তি কোর্সের পর্ব ৩২-এ truncated axis, dual axis, বেছে নেওয়া সময়ের জানালা (cherry-picking) আর Tufte-এর lie factor এসেছে। সিদ্ধান্তের প্রেক্ষাপটে প্রশ্নটি একটু আলাদা: আপনার হাতে অন্য কারও বানানো একটি slide deck, আর আপনাকে বলতে হবে কোন chart কোন ভুল সিদ্ধান্তের দিকে ঠেলছে। নিচের ব্লক বাজারঘরের একই ডেটা তিন জোড়া chart-এ আঁকে, প্রতিটি জোড়ায় বাঁয়ে বিভ্রান্তিকর আর ডানে সৎ রূপ, আর ছবির ধারণা কতটা বদলায় তা সংখ্যায় ছাপে।

import pandas as pd                 # deliveries.py-এর জন্য
import matplotlib.pyplot as plt
from deliveries import make_deliveries

df = make_deliveries()
r = df[df.week <= 8].groupby("courier").late.mean() * 100      # A বনাম B, সপ্তাহ 1-8
s = df[df.district == "Sylhet"].groupby("week").late.mean() * 100
t = df.groupby("week").agg(orders=("late", "size"), late=("late", "mean"))
fig, ax = plt.subplots(3, 2, figsize=(8, 9.5))
fig.subplots_adjust(hspace=0.6, wspace=0.45)
for a, lo, name in [(ax[0, 0], 6, "Truncated y-axis"), (ax[0, 1], 0, "Honest: starts at 0")]:
    a.bar(r.index, r, color=["#0072B2", "#E69F00"])
    a.set(ylim=(lo, 9), title=name, ylabel="late % (weeks 1-8)")
    print(f"{name:20s}: B-র bar A-র {(r.B - lo) / (r.A - lo):.2f} গুণ লম্বা")
print(f"আসল অনুপাত B/A = {r.B / r.A:.2f}  (A {r.A:.2f}%, B {r.B:.2f}%)")
ax[1, 0].plot(s.loc[9:11], "o-", color="#D55E00")
ax[1, 0].set(title="Cherry-picked: weeks 9-11", ylim=(0, 22), xticks=[9, 10, 11])
ax[1, 1].plot(s, "o-", color="#D55E00", ms=3)
ax[1, 1].axhline(s.loc[1:8].mean(), color="gray", ls=":")
ax[1, 1].set(title="Full window: weeks 1-16", ylim=(0, 22), xticks=[1, 8, 16])
print(f"সপ্তাহ 9→11: {s[9]:.1f}% → {s[11]:.1f}% ({s[11] / s[9] - 1:+.0%}); "
      f"কিন্তু 9-16-এর গড় {s.loc[9:].mean():.1f}%, 1-8-এর {s.loc[:8].mean():.1f}%")
a2 = ax[2, 0].twinx()                                  # দুই y-axis: স্কেল ইচ্ছেমতো
ax[2, 0].plot(t.orders, color="#0072B2")
a2.plot(t.late * 100, color="#D55E00")
ax[2, 0].set(title="Dual axes: look in step?", ylabel="orders")
a2.set(ylim=(5.5, 11), ylabel="late %")
idx = t / t.loc[1:8].mean() * 100                      # সপ্তাহ 1-8-এর গড় = 100
ax[2, 1].plot(idx.orders, color="#0072B2", label="orders")
ax[2, 1].plot(idx.late, color="#D55E00", label="late rate")
ax[2, 1].set(title="Honest: both indexed, 1 axis", ylabel="index (weeks 1-8 = 100)")
ax[2, 1].legend(frameon=False, fontsize=8)
ch = idx.loc[9:].mean() - 100
print(f"সপ্তাহ 9-16-এ গড় পরিবর্তন: orders {ch.orders:+.1f}%, late rate {ch.late:+.1f}%")

Truncated y-axis    : B-র bar A-র 4.98 গুণ লম্বা
Honest: starts at 0 : B-র bar A-র 1.31 গুণ লম্বা
আসল অনুপাত B/A = 1.31  (A 6.51%, B 8.52%)
সপ্তাহ 9→11: 21.1% → 12.1% (-43%); কিন্তু 9-16-এর গড় 16.7%, 1-8-এর 6.6%
সপ্তাহ 9-16-এ গড় পরিবর্তন: orders +7.2%, late rate +27.5%

তিনটি chart-এর কোনো সংখ্যাই মিথ্যা নয়; বিভ্রান্তি আসে বাছাই থেকে। তাই অন্যের chart যাচাইয়ের তিন প্রশ্ন: axis কোথা থেকে শুরু? দেখানো সময়ের বাইরে কী আছে? দুটি স্কেল থাকলে কে বেছেছে আর কেন?

৫ · অ-প্রযুক্তিগত পাঠকের জন্য অনিশ্চয়তা — interval, পরিসর আর সংখ্যার শব্দ

একটি একক সংখ্যা, যেমন “+১০.২”, হলো point estimate: ডেটা থেকে সবচেয়ে ভালো অনুমান, কিন্তু নড়াচড়ার কোনো খবর নেই। পাশে confidence interval দিলে পাঠক জানেন অনুমানটি কতটা নড়তে পারে। দুটি অনুপাতের পার্থক্যের সহজ রূপে standard error:

SE = √( p_১(১ − p_১)/n_১ + p_২(১ − p_২)/n_২ ), ৯৫% পরিসর ≈ পার্থক্য ± ১.৯৬ × SE

এখানে p_১ আর p_২ আগে ও পরের দেরির হার, n_১ আর n_২ অর্ডারের সংখ্যা, আর ১.৯৬ normal বণ্টনের ৯৭.৫ percentile (normal approximation). পরিসরটি শুধু নমুনার এলোমেলোতা ধরে; ভুল তুলনা বা লুকানো কারণ ধরে না। পরিসর বের করার আরও পথ, যেমন bootstrap, এই কোর্সের পর্ব ২১-এ।

অ-প্রযুক্তিগত পাঠকের জন্য একই পরিসর তিনভাবে আঁকা যায়। নিচের ব্লক সিলেট আর বাকি চার জেলার পরিবর্তন তিনটি প্যানেলে দেখায়: শুধু বিন্দু, বিন্দু আর error bar, আর একটি সরল পরিসর-bar যার পাশে লেখা “+৮ থেকে +১৩”। শেষে memo-র রং দুটি পরীক্ষা করে: AI-এর ভিত্তি কোর্সের পর্ব ৩২-এর একই Machado (২০০৯) matrix দিয়ে deuteranopia (সবুজ-সংবেদী cone না থাকা) simulate করে দুটি রঙের দূরত্ব কতটা কমে, আর তাদের luminance কত।

import numpy as np
import pandas as pd                 # deliveries.py-এর জন্য
import matplotlib.pyplot as plt
from deliveries import make_deliveries

df = make_deliveries()
g = df.assign(after=df.week >= 9, syl=df.district == "Sylhet")
rows = []
for name, part in [("other 4", g[~g.syl]), ("Sylhet", g[g.syl])]:
    a, b = part[~part.after].late, part[part.after].late
    d = (b.mean() - a.mean()) * 100                    # শতাংশ-বিন্দুতে পরিবর্তন
    se = np.sqrt(b.var() / len(b) + a.var() / len(a)) * 100
    rows.append((name, d, d - 1.96 * se, d + 1.96 * se))
    print(f"{name:8s}: {d:+5.1f} pp, 95% CI [{d - 1.96 * se:+5.1f}, {d + 1.96 * se:+5.1f}]")
fig, ax = plt.subplots(1, 3, figsize=(9, 2.6), sharey=True)
for k, (name, d, lo, hi) in enumerate(rows):
    ax[0].plot(d, k, "o", color="#0072B2")
    ax[1].errorbar(d, k, xerr=[[d - lo], [hi - d]], fmt="o", color="#0072B2", capsize=4)
    ax[2].barh(k, hi - lo, left=lo, height=0.35, color="#56B4E9")
    ax[2].text(hi + 0.4, k, f"{lo:+.0f} to {hi:+.0f}", va="center", fontsize=9)
for a, t in zip(ax, ["point only", "point + 95% interval", "range bar"]):
    a.axvline(0, color="gray", lw=0.8)
    a.set(title=t, xlim=(-4, 20), yticks=[0, 1], yticklabels=["other 4", "Sylhet"])
ax[1].set_xlabel("change in late rate after the fee change (percentage points)")
def lin(h):                                            # hex রং → linear RGB
    c = np.array([int(h[i:i + 2], 16) for i in (1, 3, 5)]) / 255
    return np.where(c <= 0.04045, c / 12.92, ((c + 0.055) / 1.055) ** 2.4)
DEU = np.array([[0.367322, 0.860646, -0.227968],       # Machado et al. 2009,
                [0.280085, 0.672501, 0.047413],        # deuteranopia, severity 1.0
                [-0.011820, 0.042940, 0.968881]])
Y = np.array([0.2126, 0.7152, 0.0722])                 # আপেক্ষিক উজ্জ্বলতা (luminance)
for p, q in [("#2CA02C", "#D62728"), ("#0072B2", "#D55E00")]:
    x, y = lin(p), lin(q)
    print(f"{p} বনাম {q}: দূরত্ব {np.linalg.norm(x - y):.2f} → deuteranopia-তে "
          f"{np.linalg.norm(DEU @ x - DEU @ y):.2f}; luminance {Y @ x:.2f} বনাম {Y @ y:.2f}")

other 4 :  -0.1 pp, 95% CI [ -1.1,  +0.9]
Sylhet  : +10.2 pp, 95% CI [ +7.7, +12.8]
#2CA02C বনাম #D62728: দূরত্ব 0.73 → deuteranopia-তে 0.07; luminance 0.26 বনাম 0.16
#0072B2 বনাম #D55E00: দূরত্ব 0.80 → deuteranopia-তে 0.55; luminance 0.15 বনাম 0.22

শব্দ বনাম সংখ্যা

“সম্ভবত”, “সম্ভাবনা আছে”, “প্রায় নিশ্চিত” শব্দগুলো পাঠকভেদে খুব আলাদা সংখ্যা বোঝায়। ১৯৬৪ সালে CIA-র বিশ্লেষক Sherman Kent তাঁর প্রবন্ধ “Words of Estimative Probability”-তে দেখান, একই গোয়েন্দা রিপোর্টের “serious possibility” কথাটি সহকর্মীরা খুব ভিন্ন সম্ভাবনায় পড়েছিলেন, আর শব্দের পাশে সংখ্যার পরিসর বেঁধে দেওয়ার প্রস্তাব দেন (words of estimative probability). দুটি আরও ফাঁদ আছে। শতাংশ-বিন্দু আর শতাংশ গুলিয়ে ফেলা: ৬.৬% থেকে ১৬.৮% হলো +১০.২ শতাংশ-বিন্দু, আবার আপেক্ষিক পরিবর্তনে +১৫৬%. শুধু “১৫৬% বেড়েছে” লিখলে অনেকে ভাবেন দেরি এখন ১৫৬%-এর কাছাকাছি। আর শতাংশের বদলে গোনা সংখ্যা (natural frequency), যেমন “প্রতি ১০০ অর্ডারে ৭টি থেকে ১৭টি”, অনেক পাঠকের কাছে সহজ।

সবার জন্য পড়ার যোগ্য — রং, alt text আর লেখায় সারাংশ

পুরুষদের একটি উল্লেখযোগ্য অংশের লাল-সবুজ রঙ আলাদা করতে অসুবিধা হয় (color-vision deficiency); তাই অর্থ শুধু লাল বনাম সবুজে রাখবেন না। রঙকানা-বান্ধব palette (যেমন Masataka Okabe আর Kei Ito-র প্রস্তাবিত আট রঙ), উজ্জ্বলতার পার্থক্য, আর সরাসরি label একসঙ্গে ব্যবহার করুন। প্রতিটি ছবির alt text-এ chart-এর ধরন, কী মাপা আর মূল বার্তা লিখুন; যেমন: “রেখাচিত্র: সাপ্তাহিক দেরির হার, সিলেট বনাম বাকি চার জেলা; সপ্তাহ ৯-এর পর সিলেট প্রায় ৭% থেকে ১৭%-এ ওঠে, বাকিরা প্রায় ৭%-এ থাকে।” এই পাতার কোড-চালানো ব্যবস্থা ছবির শিরোনামকেই alt text বানায়, তাই বার্তাসহ শিরোনাম এখানে দ্বিগুণ কাজ করে।

৬ · এক পাতার decision memo — প্রতিটি সংখ্যা কোড থেকে

Memo লেখার সময় সবচেয়ে সাধারণ ভুল বিশ্লেষণে নয়, নকলে: notebook থেকে সংখ্যা হাতে কপি, পরে ডেটা আপডেট হলো, কিন্তু memo-র সংখ্যা পুরোনো রয়ে গেল; বা একটি শতাংশ ভুল কলাম থেকে নেওয়া। এর সমাধান AI-এর ভিত্তি কোর্সের পর্ব ১২-এর reproducibility-র ভাবনা, report-এর স্তরে: memo-র প্রতিটি সংখ্যা একটি function ডেটা থেকে হিসাব করবে, আর memo-তে লেখা সংখ্যাগুলো সেই function-এর ফলের সঙ্গে assertion দিয়ে মেলানো হবে। ডেটা বা কোড বদলালে, আর memo বদলানো না হলে, assertion থেমে গিয়ে জানিয়ে দেবে।

import numpy as np
import pandas as pd
from deliveries import make_deliveries

def memo_numbers(df):
    """memo-র প্রতিটি সংখ্যা ডেটা থেকে আবার হিসাব; হাতে কিছু লেখা নয়"""
    after, syl = df.week >= 9, df.district == "Sylhet"
    m = lambda mask: df.late[mask].mean() * 100
    a, b = df.late[syl & ~after], df.late[syl & after]
    d = (b.mean() - a.mean()) * 100
    se = np.sqrt(a.var() / len(a) + b.var() / len(b)) * 100
    sb = lambda mask: (df.courier[mask] == "B").mean() * 100
    rA, rB = (df[syl & after].groupby("courier").late.mean() * 100)[["A", "B"]]
    return {"syl_before": m(syl & ~after), "syl_after": m(syl & after),
            "diff": d, "diff_lo": d - 1.96 * se, "diff_hi": d + 1.96 * se,
            "other_before": m(~syl & ~after), "other_after": m(~syl & after),
            "shareB_before": sb(syl & ~after), "shareB": sb(syl & after),
            "orders_growth": ((syl & after).sum() / (syl & ~after).sum() - 1) * 100,
            "late_B": rB, "late_A": rA,
            "late_per_week": b.sum() / 8 - a.mean() * len(b) / 8,
            "scenario": 0.40 * rB + 0.60 * rA}

N = memo_numbers(make_deliveries())
for k, v in N.items():
    print(f"{k:13s} {v:6.1f}")
MEMO = {"syl_before": 6.6, "syl_after": 16.8, "diff": 10.2, "diff_lo": 7.7,
        "diff_hi": 12.8, "other_before": 7.5, "other_after": 7.4, "shareB_before": 38.8,
        "shareB": 74.7, "orders_growth": 38.8, "late_B": 19.8, "late_A": 7.9,
        "late_per_week": 16.7, "scenario": 12.6}
bad = {k: (v, round(N[k], 1)) for k, v in MEMO.items() if round(N[k], 1) != v}
assert not bad, f"memo-র সংখ্যা ডেটার সঙ্গে মেলে না: {bad}"
print(f"memo-র {len(MEMO)}টি সংখ্যাই ডেটা থেকে আবার মিলেছে")

syl_before       6.6
syl_after       16.8
diff            10.2
diff_lo          7.7
diff_hi         12.8
other_before     7.5
other_after      7.4
shareB_before   38.8
shareB          74.7
orders_growth   38.8
late_B          19.8
late_A           7.9
late_per_week   16.7
scenario        12.6
memo-র 14টি সংখ্যাই ডেটা থেকে আবার মিলেছে

এবার memo নিজে। নিচের লেখাটি একটি নমুনা: এই পর্বের জন্য লেখা, কোনো বাস্তব প্রতিষ্ঠানের নয়; তবে প্রতিটি সংখ্যা ওপরের ব্লকের আসল আউটপুট থেকে। এক পাতায়, decision memo-র কাঠামোয়: শিরোনামে উত্তর, SCR, পরিসরসহ প্রভাব, সুপারিশ আর ঝুঁকি।

খেয়াল করুন memo কী বলে না: “ফি বদলের কারণে দেরি বেড়েছে” বা “B খারাপ courier”. আগে-পরের তুলনা দিয়ে কারণ প্রমাণ করা যায় না; কারণ খোঁজার পদ্ধতি (যেমন difference-in-differences) পর্ব ৬৪ (Causal inference-এর পরিচয়)-এর বিষয়, আর সুপারিশটি নিজেই একটি পরীক্ষা, যার নকশা পর্ব ৬২ (A/B test-এর পরিকল্পনা)-এর মতো করা যায়। আর memo-তে কোনো p-value নেই: সিদ্ধান্তের পাঠকের কাজে লাগে প্রভাবের আকার আর পরিসর (effect size), p-value নয়।

৭ · Report আর slide deck — executive summary, appendix আর যাচাইয়ের পথ

লম্বা report-এর কাঠামোও pyramid-এর মতো। প্রথম পাতায় executive summary: memo-র মতো উত্তর, তিনটি মূল যুক্তি আর সুপারিশ। মূল অংশে প্রতিটি যুক্তির জন্য একটি করে অংশ, প্রতিটিতে একটি chart আর তার বার্তা শিরোনামে। আর appendix-এ সব যা যাচাইয়ের জন্য লাগে, কিন্তু সিদ্ধান্তের জন্য নয়।

Appendix-এর শেষ সারিটি বিশেষ জরুরি: “যেসব বিশ্লেষণ বাদ দেওয়া হয়েছে”। বিশ্লেষক অনেক পথে হাঁটেন: কোন সপ্তাহ, কোন জেলা, কোন সংজ্ঞা। শেষে যে পথটি সবচেয়ে সুন্দর গল্প দেয়, শুধু সেটি দেখালে পর্ব ০৪-এর garden of forking paths-এর সমস্যা হয়। অনেক জেলা আর অনেক metric একসঙ্গে দেখে সবচেয়ে বড়টি তুলে ধরলে পর্ব ২২-এর একাধিক তুলনার সমস্যা। এখানে প্রশ্নটি এসেছিল গ্রাহকের অভিযোগ থেকে, ডেটা ঘেঁটে নয়; সেটিও লিখে রাখুন।

৮ · AI-এর যুগে — AI-এর লেখা সারাংশে কারণের বাড়াবাড়ি ধরা

বিশ্লেষণের টেবিল দিয়ে AI assistant-কে “একটি executive summary লিখে দিন” বললে কয়েক সেকেন্ডে সাবলীল লেখা আসে। সমস্যা হলো, AI প্রায়ই সংযোগকে কারণ বানায় (“X-এর ফলে Y”), অনিশ্চয়তা মুছে দেয় (“নিশ্চিতভাবে”), সবচেয়ে নাটকীয় সংখ্যাটি বেছে নেয়, আর কখনো এমন সংখ্যা লেখে যা টেবিলে নেই। নিচের stepper একটি নমুনা AI-সারাংশ (এই পর্বের জন্য বানানো) বাক্য ধরে যাচাই করে।

AI-এর লেখা সারাংশ হাতে পেলে — যাচাইয়ের চেকলিস্ট

• প্রতিটি সংখ্যা কোডের ফলের সঙ্গে মিলিয়েছি; উৎসহীন সংখ্যা বাদ দিয়েছি
• “কারণ”, “দায়ী”, “নিশ্চিত”-এর মতো শব্দ খুঁজে প্রমাণ অনুযায়ী বদলেছি
• আপেক্ষিক পরিবর্তনের পাশে আসল হার আর শতাংশ-বিন্দু আছে
• প্রভাবের পাশে পরিসর আছে, আর কী জানা নেই তা লেখা
• Chart-এর axis, সময়ের জানালা আর স্কেল নিজে দেখেছি
• কোনো গ্রাহক বা কর্মীর ব্যক্তিগত ডেটা AI-তে পেস্ট করিনি