ওয়েনার ফিল্টারিং — অপটিমাল লিনিয়ার এস্টিমেশন

১ · অপটিমাল লিনিয়ার এস্টিমেশন সমস্যা

ধরা যাক আমাদের কাছে একটি নয়েজি অবজারভেশন আছে, additive নয়েজ মডেল (L49) অনুযায়ী:

যেখানে $x$ হলো প্রকৃত (অজানা) সিগন্যাল মান আর $w$ হলো জিরো-মিন নয়েজ। আমরা $y$ থেকে $x$-এর একটি এস্টিমেট $\hat{x}$ বের করতে চাই। সবচেয়ে সহজ পন্থা — লিনিয়ার এস্টিমেশন: $\hat{x} = G \cdot y$, যেখানে $G$ একটি একক গেইন (স্কেলার)। প্রশ্ন হলো — কোন $G$ বেছে নিলে গড়ে সবচেয়ে কম এরর হবে? এটাই ওয়েনার ফিল্টারWiener filter — সিগন্যাল ও নয়েজের পরিসংখ্যানিক বৈশিষ্ট্য (ভ্যারিয়েন্স/অটোকোরিলেশন) জানা থাকলে, মিন-স্কোয়ার্ড এরর (MSE) সর্বনিম্ন করে এমন অপটিমাল লিনিয়ার এস্টিমেটর।-এর মূল প্রশ্ন — এটি নরবার্ট ওয়েনারের নামে নামাঙ্কিত একটি সুপরিচিত, ক্লাসিক ফলাফল।

২ · ওয়েনার গেইন — ক্লোজড-ফর্ম সূত্র

যদি সিগন্যাল $x$ ও নয়েজ $w$ উভয়ই জিরো-মিন এবং পরস্পর সম্পর্কহীন (uncorrelated) হয়, এবং তাদের ভ্যারিয়েন্স যথাক্রমে $\sigma_x^2$ ও $\sigma_w^2$ জানা থাকে, তাহলে MSE $E[(\hat{x}-x)^2] = E[(Gy-x)^2]$ সর্বনিম্ন করে এমন $G$-এর সুপরিচিত ক্লোজড-ফর্ম সমাধান:

লক্ষ্য করুন এই সূত্রের সহজবোধ্য চরম আচরণ: যদি নয়েজ না থাকে ($\sigma_w^2 \to 0$), $G \to 1$ — অর্থাৎ অবজারভেশনকে যেমন আছে তেমনই বিশ্বাস করা উচিত। যদি নয়েজ অসীম বড় হয় ($\sigma_w^2 \to \infty$), $G \to 0$ — অর্থাৎ অবজারভেশনকে সম্পূর্ণ উপেক্ষা করে শূন্য (জিরো-মিন প্রত্যাশা) এস্টিমেট করাই ভালো। মাঝামাঝি ক্ষেত্রে, $G$ সিগন্যাল ও নয়েজের আপেক্ষিক "শক্তি"-র উপর ভিত্তি করে দুটোর মধ্যে ভারসাম্য বজায় রাখে — এটাই L49-এর SNR ধারণার সাথে সরাসরি সংযুক্ত, কারণ $G = \frac{\text{SNR}}{\text{SNR}+1}$ যেখানে SNR $= \sigma_x^2/\sigma_w^2$ (লিনিয়ার স্কেলে, dB নয়)।

৩ · একটি সত্যিকারের ডেমো

নিচের কোড সেলে দুটি ইলাস্ট্রেটিভ (হাইপোথেটিক্যাল) ভ্যারিয়েন্স বেছে নেওয়া হয়েছে — $\sigma_x^2=4.0$ (সিগন্যাল), $\sigma_w^2=1.0$ (নয়েজ) — এবং সেখান থেকে ওয়েনার গেইন $G$ হাতে গণনা করা হয়েছে। এরপর random.gauss দিয়ে (ফিক্সড সিড, $\sigma_x=\sqrt{4.0}=2.0$ ব্যবহার করে) ১২টি "ক্লিন" মান এবং আলাদা একটি ফিক্সড সিড দিয়ে ($\sigma_w=\sqrt{1.0}=1.0$) নয়েজ জেনারেট করে, দুটো যোগ করে নয়েজি অবজারভেশন তৈরি করা হয়েছে। প্রতিটি অবজারভেশনে $G$ প্রয়োগ করে ওয়েনার এস্টিমেট বের করা হয়েছে, এবং তুলনার জন্য $G=1.0$ (অর্থাৎ কোনো ফিল্টারিং না করে সরাসরি নয়েজি মান ব্যবহার) দিয়েও একটি "raw" এস্টিমেট রাখা হয়েছে। শেষে দুটোরই MSE প্রকৃত ক্লিন মানের সাপেক্ষে গণনা করা হয়েছে।

import random, statistics

# জানা (হাইপোথেটিক্যাল/ইলাস্ট্রেটিভ) ভ্যারিয়েন্স
signal_var = 4.0   # প্রকৃত সিগন্যাল ভ্যারিয়েন্স
noise_var = 1.0    # নয়েজ ভ্যারিয়েন্স

G = signal_var / (signal_var + noise_var)
print(f"signal_var = {signal_var}, noise_var = {noise_var}")
print(f"ওয়েনার গেইন G = signal_var / (signal_var + noise_var) = {G:.4f}")
print()

# ছোট একগুচ্ছ ক্লিন মান (জিরো-মিন, ভ্যারিয়েন্স ~ signal_var)
# এবং additive নয়েজ (জিরো-মিন, ভ্যারিয়েন্স ~ noise_var), ফিক্সড সিড
random.seed(11)
n_obs = 12
clean_vals = [random.gauss(0.0, signal_var ** 0.5) for _ in range(n_obs)]
random.seed(99)
noise_vals = [random.gauss(0.0, noise_var ** 0.5) for _ in range(n_obs)]
noisy_vals = [c + n for c, n in zip(clean_vals, noise_vals)]

wiener_est = [G * y for y in noisy_vals]
raw_est = [1.0 * y for y in noisy_vals]  # G=1, অর্থাৎ কোনো ফিল্টারিং নেই

print(f"{'n':>3} | {'clean':>8} | {'noisy':>8} | {'wiener est':>10} | {'raw est':>8}")
for i in range(n_obs):
    print(f"{i:>3} | {clean_vals[i]:>8.4f} | {noisy_vals[i]:>8.4f} | {wiener_est[i]:>10.4f} | {raw_est[i]:>8.4f}")

mse_wiener = statistics.mean([(w - c) ** 2 for w, c in zip(wiener_est, clean_vals)])
mse_raw = statistics.mean([(r - c) ** 2 for r, c in zip(raw_est, clean_vals)])

print()
print(f"MSE (ওয়েনার এস্টিমেট, G={G:.4f}) = {mse_wiener:.4f}")
print(f"MSE (raw নয়েজি, G=1.0, কোনো ফিল্টারিং নেই) = {mse_raw:.4f}")
print(f"উন্নতির অনুপাত = {mse_raw / mse_wiener:.4f}x")

৪ · সীমাবদ্ধতা ও ব্যবহারিক প্রয়োগ

উপরের উদাহরণটি সবচেয়ে সহজ রূপ — একটি একক স্কেলার গেইন, কোনো সময়-সম্পর্ক (temporal correlation) ছাড়াই। পূর্ণাঙ্গ ওয়েনার ফিল্টার তত্ত্ব (সিগন্যাল প্রসেসিং টেক্সটবুকে) সিগন্যাল ও নয়েজের অটোকোরিলেশন ফাংশন (L11) ব্যবহার করে ফ্রিকোয়েন্সি-নির্ভর গেইন বের করে — যেখানে সিগন্যালের পাওয়ার নয়েজের চেয়ে বেশি সেই ফ্রিকোয়েন্সিতে বেশি বিশ্বাস করা হয়, আর যেখানে নয়েজ প্রাধান্য পায় সেখানে দমন করা হয় — ধারণাগতভাবে এটি M7/M8-এর ফিল্টার ডিজাইনের (নির্দিষ্ট কাটঅফ ফ্রিকোয়েন্সি ঠিক করা) সাথে সম্পর্কিত, কিন্তু ওয়েনার ফিল্টার কাটঅফ "হাতে বেছে নেয়" না — এটি সিগন্যাল/নয়েজের পরিসংখ্যান থেকে সরাসরি সর্বোত্তম গেইন ডিরাইভ করে। এই কারণেই একে "অপটিমাল" বলা হয় — প্রদত্ত পরিসংখ্যানিক তথ্যের অধীনে, লিনিয়ার এস্টিমেটরের মধ্যে এর চেয়ে কম MSE কোনো ফিল্টার দিতে পারে না। ব্যবহারিক সীমাবদ্ধতা হলো — সঠিক ফলাফলের জন্য সিগন্যাল ও নয়েজের ভ্যারিয়েন্স (বা পূর্ণ অটোকোরিলেশন) সত্যিই জানা বা যথাযথভাবে এস্টিমেট করা থাকতে হয়; ভুল ভ্যারিয়েন্স অনুমান করলে ফলাফল সর্বোত্তম থাকবে না।