ডিপ লার্নিং, NLP আর Generative AI শব্দকোষ — ১৪২৯টি শব্দের সহজ বাংলা মানে
Deep Learning, NLP & Generative AI Glossary in Bangla — every technical term from the course, with pronunciation and a plain Bangla explanation.
কোর্সের প্রতিটি পর্বে যে ইংরেজি শব্দগুলো এসেছে — pointer, struct — সবগুলো এখানে এক জায়গায়। প্রতিটির পাশে বাংলা উচ্চারণ, সহজ মানে আর কোন পর্বে বিস্তারিত শিখবেন, তার লিংক।
মোট ১৪২৯টি শব্দ
#
- </s> (end token)এন্ড টোকেন
- Output শেষ বোঝানোর বিশেষ token, EOS নামেও পরিচিত; model এটিও শেখে বলে নিজেই থামতে পারে।যেখানে শিখবেন: পর্ব ৩০পর্ব ৫০পর্ব ৫৬
- <pad> tokenপ্যাড টোকেন
- Padding-এর জন্য রাখা বিশেষ token, সাধারণত id 0; এর কোনো অর্থ নেই, তাই model আর loss-কে mask দিয়ে একে উপেক্ষা করতে বলা হয়।যেখানে শিখবেন: পর্ব ১১পর্ব ২৭পর্ব ৩০
- <s> (start token)স্টার্ট টোকেন
- Decoder-কে লেখা শুরু করার সংকেত দেওয়া বিশেষ token, BOS নামেও পরিচিত।যেখানে শিখবেন: পর্ব ৩০
- <unk> tokenআনক টোকেন
- Vocabulary-তে নেই এমন শব্দের জায়গায় বসানো বিশেষ token; বেশি <unk> মানে model লেখার বড় অংশ দেখতেই পাচ্ছে না।যেখানে শিখবেন: পর্ব ১১পর্ব ২৭পর্ব ৩৯
- 0-1 lossজিরো-ওয়ান লস
- ভুল শ্রেণি বললে ১, ঠিক বললে ০; গুনতে সহজ কিন্তু ঢাল প্রায় সবখানে শূন্য, তাই সরাসরি train করা কঠিন।যেখানে শিখবেন: পর্ব ০২
- 1 × 1 (pointwise) convolutionপয়েন্টওয়াইজ কনভলিউশন
- 1 × 1 kernel-এর convolution, যা প্রতিটি pixel-এ আলাদাভাবে channel-গুলোর ওজনদার যোগ করে; channel কমাতে বা বাড়াতে আর channel মেশাতে ব্যবহৃত।যেখানে শিখবেন: পর্ব ২০পর্ব ২১পর্ব ২২
- 1D convolution (Conv1d)ওয়ান-ডি কনভলিউশন
- একটি kernel শুধু সময়ের অক্ষ ধরে সরিয়ে প্রতিটি জানালায় গুণ-যোগ করা; input-এর shape (N, C, T), weight-এর shape (O, C, k).যেখানে শিখবেন: পর্ব ৩১
- [CLS] tokenসিএলএস টোকেন
- BERT-এর বাক্যের শুরুতে বসানো বিশেষ token, যার output প্রায়ই পুরো বাক্যের প্রতিনিধি হিসেবে classification-এ যায়।যেখানে শিখবেন: পর্ব ৪৪পর্ব ৪৮পর্ব ৬৭
- [SEP] tokenসেপ টোকেন
- বাক্যের শেষ বা দুই বাক্যের সীমা বোঝানোর বিশেষ token.যেখানে শিখবেন: পর্ব ৪৪পর্ব ৪৮
- {% generation %} markerজেনারেশন মার্কার
- Chat template-এর ভেতরের একটি চিহ্ন, যা বলে দেয় লেখার কোন অংশ assistant নিজে লেখে; এ থেকেই assistant mask তৈরি হয়।যেখানে শিখবেন: পর্ব ৫৬
- β-VAEবিটা-ভিএই
- Higgins ও সহকর্মীদের (২০১৭) প্রস্তাবিত রূপ, যেখানে loss = rec + β·KL; β > ১ latent-এ কম তথ্য রাখতে বাধ্য করে, reconstruction-এর দামে।যেখানে শিখবেন: পর্ব ৭৬
- সাধু আর চলিতসাধু, চলিত
- লেখ্য বাংলার দুই রীতি: সাধুতে তাহার, করিয়া; চলিতে তার, করে। বিশেষত সর্বনাম আর ক্রিয়ার রূপে পার্থক্য।যেখানে শিখবেন: পর্ব ৩৯
A
- Ablation studyঅ্যাবলেশন স্টাডি
- একটি ব্যবস্থার একটি অংশ একবারে বদলে বা সরিয়ে তার প্রভাব মাপার পরীক্ষা, বাকি সব একই রেখে।যেখানে শিখবেন: পর্ব ২৪
- Absolute discountingঅ্যাবসলিউট ডিসকাউন্টিং
- প্রতিটি দেখা n-gram-এর গোনা থেকে একই সংখ্যা d বাদ দেওয়া; বাদ পড়া ভাগ ছোট context-এর probability-র মাধ্যমে বণ্টন করা হয়।যেখানে শিখবেন: পর্ব ৪৬
- Absolute positionঅ্যাবসোলিউট পজিশন
- Sequence-এর শুরু থেকে একটি token-এর ঘরের নম্বর, যেমন index 7.যেখানে শিখবেন: পর্ব ৩৪
- Abstentionঅ্যাবস্টেনশন
- উত্তর না দিয়ে “জানি না” বলা; সিদ্ধান্ত না নেওয়ার বিকল্পটি বেছে নেওয়া।যেখানে শিখবেন: পর্ব ৫২পর্ব ৬৯পর্ব ৭০
- Acceptance criteriaঅ্যাকসেপ্টেন্স ক্রাইটেরিয়া
- কাজ শুরুর আগে লেখা শর্ত, যা পূরণ হলে একটি ধাপ বা মাইলফলক গ্রহণযোগ্য ধরা হয়; ফল দেখার পরে শর্ত বদলানো হয় না।যেখানে শিখবেন: পর্ব ৮৬
- Accuracyঅ্যাকুরেসি
- মোট উদাহরণের মধ্যে কত ভাগ model ঠিক বলেছে তার মাপ; শ্রেণিগুলোর আকার খুব অসমান হলে বিভ্রান্তিকর হতে পারে।যেখানে শিখবেন: পর্ব ১০
- Activation functionঅ্যাক্টিভেশন ফাংশন
- Neuron-এর weighted sum z-কে output-এ বদলানোর function, যেমন step, sigmoid, tanh বা ReLU; non-linear activation না থাকলে স্তরগুলো একটি linear স্তরে মিশে যায়।যেখানে শিখবেন: পর্ব ০১পর্ব ০৩পর্ব ৫৯
- Activation memoryঅ্যাক্টিভেশন মেমরি
- Training-এ backward pass-এর জন্য forward pass-এর মধ্যবর্তী মান জমিয়ে রাখতে যে memory লাগে; batch-এর আকার আর স্তরের সংখ্যার সঙ্গে বাড়ে।যেখানে শিখবেন: পর্ব ০৪পর্ব ১২পর্ব ৫১
- Active unitsঅ্যাক্টিভ ইউনিট
- যে latent মাত্রায় ছবিভেদে encoder-এর গড় μ যথেষ্ট বদলায় (প্রচলিত সীমা variance > 0.01); বাকি মাত্রা prior-এর মতো, কোনো তথ্য বহন করে না।যেখানে শিখবেন: পর্ব ৭৬
- AdaIN (Adaptive Instance Normalization)অ্যাডা-ইন
- প্রতিটি feature channel-কে নিজের গড় আর বিস্তার দিয়ে normalize করে, তারপর বাইরের একটি style থেকে আসা scale আর bias বসানো; প্রথম StyleGAN-এ style ঢোকানোর উপায়।যেখানে শিখবেন: পর্ব ৭৮
- Adam optimizerঅ্যাডাম অপটিমাইজার
- Gradient-এর চলমান গড় (momentum) আর বর্গের চলমান গড় দিয়ে প্রতিটি parameter-এর ধাপ আলাদা করে ঠিক করা optimizer, শুরুর পক্ষপাত সংশোধনসহ।যেখানে শিখবেন: পর্ব ০৬পর্ব ৭৭পর্ব ৯০
- AdamWঅ্যাডাম-ডাব্লিউ
- Adam-এর একটি রূপ, যেখানে weight decay gradient-এ না মিশে সরাসরি ওজনকে প্রতি ধাপে একটু ছোট করে (Loshchilov আর Hutter); deep learning-এ বহুল ব্যবহৃত।যেখানে শিখবেন: পর্ব ১০পর্ব ১২পর্ব ১৫
- Adapter (bottleneck adapter)অ্যাডাপ্টার
- Transformer-এর প্রতিটি layer-এর ভেতরে বসানো ছোট একটি bottleneck MLP, যা শুধু নিজে শেখে; Houlsby ও সহলেখক ২০১৯ সালে প্রস্তাব করেন। Peft-এর ভাষায় LoRA-র ফাইলকেও অনেক সময় adapter বলা হয়।যেখানে শিখবেন: পর্ব ৫৫
- Additive (add-k, Lidstone) smoothingঅ্যাডিটিভ স্মুদিং
- প্রতিটি গোনায় একটি ছোট ধনাত্মক সংখ্যা k যোগ আর হরে kV যোগ; k = 1 হলে এটিই Laplace smoothing.যেখানে শিখবেন: পর্ব ৪৬
- Additive attentionঅ্যাডিটিভ অ্যাটেনশন
- Score = vᵀtanh(W_q s + W_k h) ধরে নেওয়া attention; একটি ছোট শেখা network স্কোর দেয়, Bahdanau attention নামেও পরিচিত।যেখানে শিখবেন: পর্ব ৩২
- Adequacy and fluencyঅ্যাডিকোয়েসি আর ফ্লুয়েন্সি
- মানুষের অনুবাদ মূল্যায়নের দুটি মাপ: adequacy মানে উৎসের অর্থ কতটা এসেছে, fluency মানে লক্ষ্য ভাষায় লেখাটি কতটা স্বাভাবিক।যেখানে শিখবেন: পর্ব ৪৫
- Adversarial exampleঅ্যাডভারসারিয়াল এক্সাম্পল
- ইচ্ছে করে সামান্য বদলানো input, যা মানুষের চোখে প্রায় একই দেখায় কিন্তু model-কে ভুল উত্তর দিতে বাধ্য করে; বদল সাধারণত model-এর gradient দেখে বানানো হয়।যেখানে শিখবেন: পর্ব ২৬
- Adversarial robustnessঅ্যাডভারসারিয়াল রোবাস্টনেস
- একটি নির্দিষ্ট সীমার (যেমন প্রতি pixel-এ ε) সবচেয়ে খারাপ বদলেও model কতটা ঠিক থাকে তার মাপ; শক্তিশালী আক্রমণে মাপা accuracy দিয়ে রিপোর্ট করা হয়।যেখানে শিখবেন: পর্ব ২৬
- Adversarial trainingঅ্যাডভারসারিয়াল ট্রেনিং
- শেখানোর সময় প্রতিটি batch-এ adversarial example বানিয়ে সেগুলোতেও loss কমানো, যাতে model ছোট ক্ষতিকর বদলে কম টলে; সাধারণত পরিষ্কার accuracy কিছুটা কমে আর খরচ বাড়ে।যেখানে শিখবেন: পর্ব ২৬
- Agentএজেন্ট
- এমন যেকোনো কিছু, যা sensor দিয়ে পরিবেশ টের পায় আর actuator দিয়ে পরিবেশে কাজ করে।যেখানে শিখবেন: পর্ব ৭২
- Agent loopএজেন্ট লুপ
- Observe, think, act-এর বারবার ঘোরা চক্র: ইতিহাস পড়া, পরের কাজ ঠিক করা, tool চালিয়ে ফল ইতিহাসে যোগ করা।যেখানে শিখবেন: পর্ব ৭২
- Agent memoryএজেন্ট মেমরি
- Agent-এর মনে রাখার ব্যবস্থা, যা আসলে কোডের নকশা: short-term হলো এই কাজের context-এর ইতিহাস, long-term হলো আগের কথোপকথনের চিরকুটের ভান্ডার।যেখানে শিখবেন: পর্ব ৭২
- Agent traceএজেন্ট ট্রেস
- একটি agent run-এর প্রতিটি ধাপের লিখিত ইতিহাস: model-এর লেখা, tool-ডাক, argument আর ফল; ডিবাগ আর মাপার মূল উপাদান।যেখানে শিখবেন: পর্ব ৭২
- ALBERTঅ্যালবার্ট
- BERT-এর parameter কমানোর দুটি কৌশলের model: embedding ভাঙা আর সব layer-এ একই weight ভাগ করা।যেখানে শিখবেন: পর্ব ৪৮
- AlexNetঅ্যালেক্সনেট
- Krizhevsky, Sutskever আর Hinton-এর একটি বড় convolutional network, যা ২০১২ সালের ImageNet প্রতিযোগিতায় GPU-তে train হয়ে বড় ব্যবধানে জেতে; deep learning-এর ফিরে আসার প্রতীক হিসেবে উদ্ধৃত হয়।যেখানে শিখবেন: পর্ব ০১পর্ব ২১
- ALiBi (Attention with Linear Biases)আলিবি
- Softmax-এর আগে score থেকে দূরত্বের সমানুপাতিক একটি মান বিয়োগ করার পদ্ধতি, যাতে দূরের token-এ attention কমে; আলাদা position vector লাগে না।যেখানে শিখবেন: পর্ব ৩৪
- Alignment matrixঅ্যালাইনমেন্ট ম্যাট্রিক্স
- Output-এর প্রতিটি ধাপে input-এর প্রতিটি token-এর attention weight সাজানো matrix; ছবিতে দেখালে তাকে heatmap বলে।যেখানে শিখবেন: পর্ব ৩২
- Alignment scoreঅ্যালাইনমেন্ট স্কোর
- একটি query আর একটি key কতটা মেলে তার softmax-এর আগের সংখ্যা; যেকোনো বাস্তব মান হতে পারে।যেখানে শিখবেন: পর্ব ৩২
- Allowlistঅ্যালাউলিস্ট
- শুধু অনুমোদিত জিনিসের তালিকা; এর বাইরের সবকিছু আটকে যায়।যেখানে শিখবেন: পর্ব ৭৩পর্ব ৮৬পর্ব ৯১
- Alpha-bar (ᾱ_t)আলফা-বার
- শুরু থেকে t পর্যন্ত সব (1 − β)-এর গুণফল; t ধাপে মূল ছবির সংকেতের কতটা থাকে তা বলে, x_t = √ᾱ_t·x_0 + √(1 − ᾱ_t)·ε সূত্রে।যেখানে শিখবেন: পর্ব ৭৯পর্ব ৮৮পর্ব ৯০
- Amortized inferenceঅ্যামর্টাইজড ইনফারেন্স
- প্রতিটি ডেটা-বিন্দুর জন্য আলাদা optimisation না চালিয়ে একটি শেখা network দিয়ে x থেকে এক ধাপে q(z | x)-এর parameter বের করা; VAE-র encoder ঠিক এই কাজ করে।যেখানে শিখবেন: পর্ব ৭৬
- Ancestral samplingঅ্যানসেস্ট্রাল স্যাম্পলিং
- নির্ভরতার ক্রম মেনে নমুনা তোলা: আগে যার ওপর অন্যরা নির্ভর করে সেটি, তারপর তার মান জেনে পরেরটি; autoregressive মডেলে এক মাত্রা করে।যেখানে শিখবেন: পর্ব ৭৪পর্ব ৭৯
- Anchor boxঅ্যাঙ্কর বক্স
- Feature map-এর প্রতিটি অবস্থানে আগে থেকে বসানো কয়েকটি নির্দিষ্ট মাপ আর অনুপাতের box; network প্রতিটির জন্য বস্তু আছে কি না আর আসল box পেতে কতটা সরাতে হবে তা শেখে।যেখানে শিখবেন: পর্ব ২৫
- Anomaly detectionঅ্যানোমালি ডিটেকশন
- স্বাভাবিক আচরণ থেকে অনেক আলাদা উদাহরণ খুঁজে বের করা, যেমন সন্দেহজনক অর্ডার বা ত্রুটিপূর্ণ পণ্যের ছবি; সাধারণত label খুব কম থাকে।যেখানে শিখবেন: পর্ব ৭৫
- Anomaly detection (autograd)অ্যানোমালি ডিটেকশন
- PyTorch-এর torch.autograd.set_detect_anomaly(True) মোড, যা backward-এ কোনো function NaN দিলেই error তোলে আর সেই হিসাবের forward লাইন দেখায়; ধীর, তাই শুধু ডিবাগে।যেখানে শিখবেন: পর্ব ১৮
- Anomaly scoreঅ্যানোমালি স্কোর
- প্রতিটি উদাহরণকে দেওয়া একটি সংখ্যা, যা যত বড় তত অস্বাভাবিক বলে ধরা হয়; একটি threshold দিয়ে এটি থেকে হ্যাঁ বা না সিদ্ধান্ত নেওয়া হয়।যেখানে শিখবেন: পর্ব ৭৫
- Answer correctnessঅ্যানসার কারেক্টনেস
- উত্তর রেফারেন্স বা gold উত্তরের সঙ্গে মেলে কি না; উৎস ভুল বা পুরোনো হলে faithful উত্তরও এই মাপে ভুল হয়।যেখানে শিখবেন: পর্ব ৭০
- Answer extractionআনসার এক্সট্র্যাকশন
- Model-এর লম্বা লেখা থেকে চূড়ান্ত উত্তরটি, যেমন একটি সংখ্যা, নিয়ম মেনে বের করা; নিয়ম ভুল হলে ঠিক উত্তরও ভুল গোনা হয়।যেখানে শিখবেন: পর্ব ৬৩
- Answer normalisationআনসার নরমালাইজেশন
- মেলানোর আগে উত্তর আর reference দুই পাশে একই নিয়মে পরিষ্কার করা: NFC, বাংলা অঙ্ক বদলানো, দাঁড়ি-কমা আর বাড়তি ফাঁকা জায়গা সরানো।যেখানে শিখবেন: পর্ব ৫৮পর্ব ৬২পর্ব ৬৩
- Answer relevanceঅ্যানসার রেলিভেন্স
- উত্তর যা জিজ্ঞেস করা হয়েছে সেটির কথা বলছে কি না; সত্য কিন্তু অবান্তর উত্তর এই মাপে কম পায়।যেখানে শিখবেন: পর্ব ৭০
- Apache Arrowঅ্যাপাচি অ্যারো
- মেমরিতে কলাম-ভিত্তিক ডেটা সাজানোর একটি মান ও library, যাতে আলাদা টুল কপি ছাড়াই একই ডেটা ভাগ করতে পারে; Hugging Face datasets ভেতরে এটিই ব্যবহার করে।যেখানে শিখবেন: পর্ব ৫৩
- API gatewayএপিআই গেটওয়ে
- সব অনুরোধের সামনের দরজা, যা লগইন যাচাই, rate limit, routing আর log-এর মতো সাধারণ কাজ এক জায়গায় করে।যেখানে শিখবেন: পর্ব ৮৫
- Approximate nearest neighbor (ANN)অ্যাপ্রক্সিমেট নিয়ারেস্ট নেইবার
- সব vector না দেখে প্রায়-নিকটতমগুলো খোঁজার পদ্ধতি; সময় আর মেমরি বাঁচে, বদলে প্রকৃত সেরা k-এর কয়েকটি হারাতে পারে।যেখানে শিখবেন: পর্ব ৬৮
- Approximation errorঅ্যাপ্রক্সিমেশন এরর
- Hypothesis class-এর সেরা সদস্যটিও আসল function থেকে কতটা দূরে, তার মাপ; class নিজে কতটা সীমিত তা বোঝায়, ডেটার ওপর নির্ভর করে না।যেখানে শিখবেন: পর্ব ০৬
- argparseআর্গপার্স
- Python-এর standard library-র module, যা command line-এর --flag পড়ে type অনুযায়ী রূপান্তর করে আর ভুল বা অজানা flag-এ error দেয়।যেখানে শিখবেন: পর্ব ১৯
- Argument accuracyআর্গুমেন্ট অ্যাকুরেসি
- Tool লাগে এমন প্রশ্নের যতগুলোতে model ঠিক tool আর ঠিক argument, দুটোই দিয়েছে, তার অনুপাত; schema-বৈধ হওয়া আর সঠিক হওয়া আলাদা।যেখানে শিখবেন: পর্ব ৭১
- Arithmetic intensityঅ্যারিথমেটিক ইনটেনসিটি
- Memory থেকে আনা প্রতি byte ডেটায় কতগুলো গণনা হয়; কম হলে কাজ memory-bound, বেশি হলে compute-bound বলা হয়।যেখানে শিখবেন: পর্ব ৮৩
- Artificial neuronআর্টিফিশিয়াল নিউরন
- মস্তিষ্কের নিউরনের খুব সরল গাণিতিক মডেল: input-গুলোর weight দেওয়া যোগফলে bias যোগ করে একটি activation function দিয়ে output দেয়।যেখানে শিখবেন: পর্ব ০২
- Assistant messageঅ্যাসিস্ট্যান্ট মেসেজ
- কথোপকথনে model-এর আগের উত্তর; stateless API-তে পরের পালায় এটিও ইতিহাসের অংশ হিসেবে আবার পাঠাতে হয়।যেখানে শিখবেন: পর্ব ৬৪
- Assistant-only loss (prompt masking)অ্যাসিস্ট্যান্ট-অনলি লস
- SFT-এ শুধু assistant-এর উত্তরের token-এ loss গোনা; system আর user অংশের label −100 করে বাদ রাখা হয়।যেখানে শিখবেন: পর্ব ৫৬
- Asymmetric (affine) quantizationঅ্যাসিমেট্রিক কোয়ান্টাইজেশন
- Tensor-এর আসল min থেকে max পরিসরকে পুরো পূর্ণসংখ্যার grid-এ ছড়ানো, scale আর zero point দুটি দিয়ে; ReLU-র পরের মতো একদিকে হেলা মানে ত্রুটি কম।যেখানে শিখবেন: পর্ব ৫৯
- Asymmetric distance computation (ADC)অ্যাসিমেট্রিক ডিস্ট্যান্স কম্পিউটেশন
- PQ-তে প্রশ্নকে না চেপে প্রতিটি টুকরোয় codeword-এর সঙ্গে দূরত্বের টেবিল বানানো, তারপর ডেটার code দেখে টেবিলের ঘর যোগ করে দূরত্ব আন্দাজ।যেখানে শিখবেন: পর্ব ৬৮
- Asymmetric searchঅ্যাসিমেট্রিক সার্চ
- যে খোঁজে প্রশ্ন ছোট আর নথি লম্বা, দুটির ধরন আলাদা; e5-এর মতো model প্রশ্নে query আর নথিতে passage উপসর্গ দিয়ে এই পার্থক্য জানায়।যেখানে শিখবেন: পর্ব ৬৭
- Asynchronous execution (CUDA)অ্যাসিনক্রোনাস এক্সিকিউশন
- CPU GPU-র কাজ একটি সারিতে (stream) পাঠিয়েই পরের লাইনে চলে যায়, GPU শেষ করা পর্যন্ত অপেক্ষা করে না; তাই সময় মাপার আগে synchronize করতে হয়।যেখানে শিখবেন: পর্ব ১২
- Attention (neural networks)অ্যাটেনশন
- একটি অংশের হিসাব করার সময় ইনপুটের কোন কোন অংশকে কতটা গুরুত্ব দেওয়া হবে তা শেখার কৌশল।যেখানে শিখবেন: পর্ব ০১পর্ব ৩২পর্ব ৩৩
- Attention mapঅ্যাটেনশন ম্যাপ
- একটি token কোন token-কে কত ভাগ weight দিল তার ছক; ছবিতে patch-এর grid-এ আঁকা হয়, তবে এটি সিদ্ধান্তের নিশ্চিত ব্যাখ্যা নয়।যেখানে শিখবেন: পর্ব ৩৮
- Attention maskঅ্যাটেনশন মাস্ক
- Batch-এর আকারের একটি True/False বা 1/0 matrix, যেখানে আসল token-এর ঘরে 1 আর pad-এর ঘরে 0; model এটা দেখে pad-কে হিসাবের বাইরে রাখে।যেখানে শিখবেন: পর্ব ১১পর্ব ২৭পর্ব ৩৩
- Attention sinkঅ্যাটেনশন সিংক
- Sequence-এর শুরুর যে token-গুলো অর্থ কম হলেও অনেক attention পায়; Xiao ও সহকর্মীদের ২০২৩ সালের প্রবন্ধের নাম।যেখানে শিখবেন: পর্ব ৩৭
- Attention weightsঅ্যাটেনশন ওয়েটস
- Alignment score-এর softmax; সব মান ০ থেকে ১-এর মধ্যে, যোগফল ১.যেখানে শিখবেন: পর্ব ৩২পর্ব ৩৩
- AUC (ROC-AUC)এ-ইউ-সি
- Model-এর score একটি এলোমেলো ইতিবাচক উদাহরণকে একটি এলোমেলো নেতিবাচকের ওপরে রাখার সম্ভাবনা; ০.৫ মানে কোনো সংকেত নেই, ১ মানে নিখুঁত ক্রম, আর এটি সিদ্ধান্তের সীমার ওপর নির্ভর করে না।যেখানে শিখবেন: পর্ব ৬১পর্ব ৭৫
- Audit logঅডিট লগ
- কে, কখন, কী করেছে তার রেকর্ড, যা পরে যাচাই আর তদন্তে কাজে লাগে।যেখানে শিখবেন: পর্ব ৭৩
- Auto class (AutoModel, AutoTokenizer)অটো ক্লাস
- transformers-এর এমন class, যা repo-র config দেখে ঠিক model বা tokenizer class নিজে বেছে নেয়, ফলে architecture-এর নাম আলাদা করে লিখতে হয় না।যেখানে শিখবেন: পর্ব ৫৩
- AutoAugmentঅটোঅগমেন্ট
- Reinforcement learning দিয়ে খুঁজে পাওয়া augmentation নীতি (কোন রূপান্তর, কত সম্ভাবনায়, কত জোরে); খোঁজার খরচ অনেক বেশি ছিল।যেখানে শিখবেন: পর্ব ২৪
- Autoencoderঅটোএনকোডার
- দুই অংশের একটি network: encoder input-কে ছোট একটি code-এ নেয়, decoder সেই code থেকে input আবার বানায়; label ছাড়া, input নিজেকে লক্ষ্য ধরে শেখে।যেখানে শিখবেন: পর্ব ৭৫পর্ব ৮০
- Autogradঅটোগ্র্যাড
- PyTorch-এর automatic differentiation ব্যবস্থা, যা tensor-এর ওপর প্রতিটি কাজ graph-এ লিখে রাখে আর backward() ডাকলে chain rule চালিয়ে leaf tensor-এর .grad-এ gradient জমায়।যেখানে শিখবেন: পর্ব ০৫
- Automatic differentiationঅটোমেটিক ডিফারেনশিয়েশন
- প্রোগ্রামের প্রতিটি ছোট হিসাবের derivative chain rule দিয়ে জুড়ে সঠিক gradient বের করার কৌশল; PyTorch, JAX-এর মতো library এটি করে।যেখানে শিখবেন: পর্ব ০৫
- Autoregressive generationঅটোরিগ্রেসিভ জেনারেশন
- নিজের আগের output-কে পরের ধাপের input বানিয়ে এক token করে লেখা।যেখানে শিখবেন: পর্ব ৩৭পর্ব ৪৯
- Autoregressive modelঅটোরিগ্রেসিভ মডেল
- Chain rule দিয়ে p(x) = ∏ p(x_d | x_<d) লিখে প্রতিটি শর্তসাপেক্ষ অংশ শেখা মডেল; likelihood হুবহু মেলে, কিন্তু নমুনা তুলতে একটির পর একটি ধাপ লাগে।যেখানে শিখবেন: পর্ব ৭৪
- Auxiliary classifierঅক্সিলিয়ারি ক্লাসিফায়ার
- Network-এর মাঝের স্তর থেকে বের করা বাড়তি একটি ছোট classifier, যার loss training-এর সময় মূল loss-এর সঙ্গে যোগ হয়; GoogLeNet-এ মাঝের স্তরে gradient পৌঁছাতে ব্যবহার হয়েছিল।যেখানে শিখবেন: পর্ব ২১
- Average poolingঅ্যাভারেজ পুলিং
- প্রতিটি জানালার মানগুলোর গড় রাখা pooling; max pooling-এর চেয়ে মসৃণ ফল দেয়।যেখানে শিখবেন: পর্ব ২০
- Average precision (AP, PR AUC)অ্যাভারেজ প্রিসিশন
- Precision-recall curve-এর সংক্ষিপ্ত মাপ: প্রতিটি threshold-এ recall যতটুকু বাড়ে, তাকে সেই জায়গার precision দিয়ে গুণ করে যোগফল। এলোমেলো model-এর AP মোটামুটি positive-এর ভাগের সমান।যেখানে শিখবেন: পর্ব ১৩পর্ব ২৫
- Averaged perceptronঅ্যাভারেজড পারসেপট্রন
- Training-এর প্রতিটি ধাপের weight-এর গড়কে চূড়ান্ত model হিসেবে নেওয়া perceptron; Freund আর Schapire-এর voted perceptron-এর সহজ রূপ, যা শেষ weight-এর চেয়ে কম দোলে।যেখানে শিখবেন: পর্ব ০২
- AWQ (Activation-aware Weight Quantization)এডব্লিউকিউ
- Lin ও সহলেখকদের ২০২৩ সালের পদ্ধতি: activation বড় এমন অল্প কিছু গুরুত্বপূর্ণ channel-কে quantize-এর আগে scale করে রক্ষা করা, তারপর ওজন 4-bit-এ।যেখানে শিখবেন: পর্ব ৫৯
B
- Backboneব্যাকবোন
- Pretrained network-এর head বাদে বাকি অংশ, যা ইনপুট থেকে feature বানায়; resnet18-এ stem থেকে layer4 আর global average pool.যেখানে শিখবেন: পর্ব ২৩পর্ব ২৫
- Backoffব্যাকঅফ
- লম্বা context-এর গোনা কম বা শূন্য হলে ছোট context-এর গোনার ওপর ভরসা করার কৌশল। এই পর্বের রূপে প্রতিটি দেখা গোনা থেকে একটি discount কেটে নিচের ধাপকে দেওয়া হয়।যেখানে শিখবেন: পর্ব ৪৬
- Backpropagationব্যাকপ্রপাগেশন
- Neural network-এর শেষের ভুলকে chain rule দিয়ে পেছনের দিকে ছড়িয়ে প্রতিটি weight-কে কোন দিকে কতটা সরাতে হবে তা হিসাব করার পদ্ধতি; ১৯৮৬ সালে জনপ্রিয় হয়, শিকড় আরও আগের।যেখানে শিখবেন: পর্ব ০১পর্ব ০৪পর্ব ০৫
- Backpropagation through time (BPTT)ব্যাকপ্রপাগেশন থ্রু টাইম
- খোলা RNN-এ সাধারণ backpropagation চালানো; একই weight-এর gradient হলো সব ধাপের অবদানের যোগফল।যেখানে শিখবেন: পর্ব ২৮পর্ব ৮৮পর্ব ৮৯
- Backpropagation through time (BPTT)ব্যাকপ্রপাগেশন থ্রু টাইম
- RNN-কে সময় ধরে খুলে একটি লম্বা network ধরে তার ওপর backpropagation চালানো।যেখানে শিখবেন: পর্ব ২৯
- Backtestingব্যাকটেস্টিং
- অতীতের কয়েকটি তারিখে দাঁড়িয়ে, শুধু সেই তারিখ পর্যন্ত জানা ডেটা দিয়ে model শিখিয়ে পরের দিনগুলোর অনুমান মেলানো; সময়ের ডেটার জন্য cross-validation-এর রূপ।যেখানে শিখবেন: পর্ব ৩১
- Bag of wordsব্যাগ অফ ওয়ার্ডস
- লেখাকে শুধু কোন শব্দ কতবার এসেছে তার গণনা দিয়ে প্রকাশ করা; ক্রম বাদ পড়ে।যেখানে শিখবেন: পর্ব ২৭
- Bag-of-embeddingsব্যাগ অফ এমবেডিংস
- একটি লেখার সব token-এর embedding-এর গড় বা যোগফল দিয়ে একটি vector বানানো; সহজ baseline, কিন্তু শব্দের ক্রম হারায়।যেখানে শিখবেন: পর্ব ২৭পর্ব ২৯পর্ব ৩১
- BanglaBERTবাংলাবার্ট
- বাংলার ১১০টি সাইট থেকে সংগ্রহ করা ২৭.৫ GB লেখায় ELECTRA পদ্ধতিতে শেখা encoder, প্রবন্ধ ২০২২ সালের NAACL Findings-এ।যেখানে শিখবেন: পর্ব ৪৮
- Banglish / Romanized Banglaবাংলিশ
- ইংরেজি হরফে লেখা বাংলা, বা এক বাক্যে বাংলা আর ইংরেজি মেশানো; একই শব্দের বহু বানান তৈরি হয়।যেখানে শিখবেন: পর্ব ৪২পর্ব ৬৬পর্ব ৮৯
- Base modelবেস মডেল
- শুধু বিপুল লেখায় পরের token অনুমান করে শেখা model; নির্দেশ মানা বা কথোপকথনের নিয়ম তাকে আলাদা করে শেখানো হয়নি।যেখানে শিখবেন: পর্ব ৫৬
- Baselineবেসলাইন
- তুলনার জন্য সবচেয়ে সহজ একটি পদ্ধতি, যেমন সবসময় সবচেয়ে বেশি দেখা শ্রেণি বা গড় বলা; মডেলকে অন্তত এটিকে হারাতে হয়।যেখানে শিখবেন: পর্ব ০১পর্ব ২১পর্ব ৩৯
- Basic blockবেসিক ব্লক
- ResNet-18 আর ResNet-34-এর residual block: দুটি 3×3 conv, প্রতিটির পরে BatchNorm, তারপর shortcut যোগ করে ReLU.যেখানে শিখবেন: পর্ব ২২
- Batch APIব্যাচ এপিআই
- অনেকগুলো অনুরোধ একসঙ্গে জমা দিয়ে কয়েক ঘণ্টার মধ্যে উত্তর নেওয়ার ব্যবস্থা; তাড়া নেই এমন কাজে কয়েকটি কোম্পানির নথি কম দামের কথা বলে।যেখানে শিখবেন: পর্ব ৬৫
- Batch normalization (BatchNorm)ব্যাচ নরমালাইজেশন
- প্রতিটি feature-কে batch-এর গড় আর variance দিয়ে normalize করে শেখা γ আর β বসানো; training-এ batch-এর পরিসংখ্যান, eval-এ জমানো running statistics ব্যবহার হয়।যেখানে শিখবেন: পর্ব ১৪পর্ব ২২পর্ব ২৩
- Batch size (B)ব্যাচ সাইজ
- একবারে একসঙ্গে কয়টি উদাহরণ network-এর ভেতর দিয়ে যায়; input matrix-এর প্রথম মাত্রা B, আর weight-এর shape এর ওপর নির্ভর করে না।যেখানে শিখবেন: পর্ব ০৩পর্ব ১১পর্ব ৮৪
- batch_firstব্যাচ ফার্স্ট
- RNN-ধরনের module-এর একটি বিকল্প; True হলে ইনপুট আর output (B, T, F) আকারে, default-এ (T, B, F); h_n-এর আকারে এর প্রভাব নেই।যেখানে শিখবেন: পর্ব ২৭
- Batched matrix multiplicationব্যাচড ম্যাটমুল
- একসঙ্গে অনেকগুলো matrix গুণ: শেষ দুই অক্ষে matrix গুণ হয় আর আগের অক্ষগুলো batch হিসেবে থাকে, যেমন (B, T, F) @ (B, F, O) থেকে (B, T, O) আকারের ফল আসে।যেখানে শিখবেন: পর্ব ০৭
- BCEWithLogitsLossবিসিই উইথ লজিটস লস
- দুই শ্রেণির সমস্যার loss, যা একটি logit নিয়ে sigmoid আর binary cross-entropy একসঙ্গে সংখ্যাগতভাবে স্থির উপায়ে হিসাব করে; আলাদা sigmoid আর BCELoss-এর চেয়ে নিরাপদ।যেখানে শিখবেন: পর্ব ১০পর্ব ১৩পর্ব ২৫
- Beam searchবিম সার্চ
- প্রতিটি ধাপে সবচেয়ে সম্ভাব্য কয়েকটি আংশিক sequence একসঙ্গে ধরে রেখে এগোনোর decoding পদ্ধতি।যেখানে শিখবেন: পর্ব ৩০পর্ব ৫০পর্ব ৯০
- Benchmarkবেঞ্চমার্ক
- সবার জন্য একই প্রশ্নের set আর একই নম্বরের নিয়ম, যাতে বিভিন্ন model একই মাপে তুলনা করা যায়, যেমন MMLU আর GSM8K-এর প্রশ্নমালা।যেখানে শিখবেন: পর্ব ৫৮
- Benchmark datasetবেঞ্চমার্ক ডেটাসেট
- সবার জন্য একই train আর test ভাগসহ একটি নির্দিষ্ট ডেটাসেট, যার ওপর বিভিন্ন পদ্ধতির ফল তুলনা করা হয়; তুলনা সহজ করে, কিন্তু বারবার ব্যবহারে তার ওপর অতিরিক্ত মানিয়ে নেওয়ার ঝুঁকি থাকে।যেখানে শিখবেন: পর্ব ২১
- Benchmark saturationবেঞ্চমার্ক স্যাচুরেশন
- অনেক model প্রায় পূর্ণ নম্বর পেয়ে যাওয়ায় benchmark আর তাদের মধ্যে পার্থক্য দেখাতে না পারার অবস্থা।যেখানে শিখবেন: পর্ব ৫৮
- BERTবার্ট
- Bidirectional Encoder Representations from Transformers. Masked token অনুমান করে শেখা একটি Transformer encoder.যেখানে শিখবেন: পর্ব ৪৪পর্ব ৪৭পর্ব ৪৮
- BERTScoreবার্ট স্কোর
- Reference আর candidate-এর token-এর contextual embedding মিলিয়ে P, R আর F মাপা metric; Zhang ও সহকর্মী, ২০২০।যেখানে শিখবেন: পর্ব ৪৫
- Best checkpointবেস্ট চেকপয়েন্ট
- Training-এর মাঝে সংরক্ষিত weight-গুলোর মধ্যে validation metric-এ যেটি সবচেয়ে ভালো; শেষে সেটিই ফিরিয়ে আনা হয়, শেষ epoch-এর weight নয়।যেখানে শিখবেন: পর্ব ৫৪
- Best-of-n samplingবেস্ট-অফ-এন
- একই prompt-এ n টি উত্তর তুলে reward model-এর score-এ সবচেয়ে বেশিটি বেছে নেওয়া; training ছাড়াই optimise করার সরল উপায়।যেখানে শিখবেন: পর্ব ৫৭
- Beta distributionবিটা ডিস্ট্রিবিউশন
- ০ থেকে ১-এর মধ্যে একটি অজানা হারের জন্য continuous distribution, দুটি ধনাত্মক parameter α আর β; Mixup-এ λ টানা হয় Beta(α, α) থেকে।যেখানে শিখবেন: পর্ব ২৪
- bfloat16 (brain floating point)বি-ফ্লোট সিক্সটিন
- ২ বাইটের দশমিক সংখ্যা যা float32-এর ৮টি exponent বিট রাখে কিন্তু mantissa মাত্র ৭ বিট; পরিসর float32-এর মতো বড়, নির্ভুলতা কম।যেখানে শিখবেন: পর্ব ০৭পর্ব ১২পর্ব ৫৪
- Bi-encoderবাই-এনকোডার
- প্রশ্ন আর নথিকে আলাদা আলাদা একই encoder দিয়ে vector বানিয়ে cosine বা dot দিয়ে মেলানোর নকশা; নথির vector আগেই বানিয়ে রাখা যায়, তাই খোঁজ দ্রুত।যেখানে শিখবেন: পর্ব ৬৭পর্ব ৬৯
- Bias (model parameter)বায়াস
- Neuron-এর যোগফলে যোগ করা একটি আলাদা সংখ্যা, যা সিদ্ধান্তের সীমানাকে মূলবিন্দু থেকে সরায়; এখানে এটি ডেটার পক্ষপাত অর্থে নয়।যেখানে শিখবেন: পর্ব ০২
- Bias correction (Adam)বায়াস কারেকশন
- শূন্য থেকে শুরু করা চলমান গড় m আর v-কে (1 − β^t) দিয়ে ভাগ করা, যাতে শুরুর দিকের শূন্যমুখী ঝোঁক বাতিল হয়।যেখানে শিখবেন: পর্ব ৯০
- Bidirectional LSTM (BiLSTM)বাই-এলএসটিএম
- দুটি LSTM, একটি বাক্য সামনে থেকে আর একটি পেছন থেকে পড়ে; শেষ state দুটি জুড়ে পুরো বাক্যের সারাংশ হয়।যেখানে শিখবেন: পর্ব ৪২
- Bidirectional RNNবাইডিরেকশনাল আরএনএন
- দুটি RNN, একটি শুরু থেকে শেষে আর অন্যটি শেষ থেকে শুরুতে পড়ে, আর প্রতি ধাপে দুই hidden state জোড়া লাগে; ভবিষ্যৎ দেখে বলে forecasting-এ leakage ঘটায়।যেখানে শিখবেন: পর্ব ২৮পর্ব ৩২পর্ব ৪৩
- Big-O notationবিগ-ও নোটেশন
- Input-এর আকার বাড়লে কাজ বা মেমরি কোন হারে বাড়ে, তা ধ্রুবক বাদ দিয়ে উপরের সীমা হিসেবে লেখার উপায়।যেখানে শিখবেন: পর্ব ৩৩
- Bigramবাইগ্রাম
- পাশাপাশি দুটি শব্দের জোড়া, যেমন “ভালো না”; bag-এ যোগ করলে কাছের ক্রমের কিছু তথ্য ফেরে।যেখানে শিখবেন: পর্ব ২৭পর্ব ৪৬
- Bigram modelবাইগ্রাম মডেল
- শুধু আগের একটি token দেখে পরের token-এর probability বলে এমন model, যা গোনা জোড়ার হিসাব থেকে পাওয়া যায়।যেখানে শিখবেন: পর্ব ৩৬
- Binary cross-entropy (BCE)বাইনারি ক্রস-এনট্রপি
- ০ থেকে ১-এর লক্ষ্যের জন্য loss: −[x log x̂ + (১ − x) log(১ − x̂)]; ছবির প্রতিটি pixel-কে একটি probability ধরে autoencoder-এ ব্যবহৃত হয়।যেখানে শিখবেন: পর্ব ৭৫
- BIO taggingবি-আই-ও ট্যাগিং
- Span-কে token-এর label-এ আনার নিয়ম: B-X টুকরোর শুরু, I-X চলমান, O টুকরোর বাইরে; E ধরনে 2E + 1টি tag.যেখানে শিখবেন: পর্ব ৪৩পর্ব ৮৮
- BIOES (BILOU)বায়োস
- BIO-র সঙ্গে E-X (টুকরোর শেষ) আর S-X (এক token-এর টুকরো) যোগ করা scheme; E ধরনে 4E + 1টি tag.যেখানে শিখবেন: পর্ব ৪৩
- Bits per characterবিটস পার ক্যারেক্টার
- পুরো লেখার মোট negative log-likelihood (base 2)-কে অক্ষরের সংখ্যা দিয়ে ভাগ করা মান; ভিন্ন tokenizer-এর model-কে একই লেখায় তুলনা করা যায়।যেখানে শিখবেন: পর্ব ৪৯
- Bits per dimension (bits/dim)বিটস পার ডাইমেনশন
- Test ডেটার গড় NLL-কে ln ২ আর মাত্রার সংখ্যা D দিয়ে ভাগ করা মান; প্রতি pixel বা মাত্রা লিখতে গড়ে কত bit লাগবে, তার মাপ।যেখানে শিখবেন: পর্ব ৭৪
- Bits per tokenবিটস পার টোকেন
- Base 2 log-এ মাপা গড় NLL. Perplexity = 2 ঘাত bits, আর nats থেকে bits পেতে ln 2 দিয়ে ভাগ করতে হয়।যেখানে শিখবেন: পর্ব ৪৬পর্ব ৭৪
- bitsandbytesবিটস অ্যান্ড বাইটস
- 8-bit আর 4-bit quantization, 8-bit optimizer আর paged optimizer-এর একটি open-source library; transformers-এ BitsAndBytesConfig দিয়ে model লোড করার সময় ব্যবহার হয়।যেখানে শিখবেন: পর্ব ৫৯
- BLAS / LAPACKব্লাস / ল্যাপ্যাক
- ভেক্টর আর matrix-এর মৌলিক হিসাব (গুণ, যোগ, সমীকরণ সমাধান) দ্রুত করার মানক library-সংকলন; NumPy আর SciPy ভেতরে এগুলো ডাকে।যেখানে শিখবেন: পর্ব ০৩পর্ব ১২
- BLEUব্লু
- Machine translation-এর একটি metric, যা output আর মানুষের অনুবাদের n-gram মিল মাপে।যেখানে শিখবেন: পর্ব ৩০পর্ব ৩৯পর্ব ৪৫
- BLEU smoothingব্লু স্মুদিং
- কোনো n-gram precision শূন্য হলে পুরো BLEU শূন্য হওয়া ঠেকাতে ছোট মান বসানো; sacrebleu-র default পদ্ধতির নাম exp.যেখানে শিখবেন: পর্ব ৪৫
- BM25 (Okapi BM25)বি-এম টোয়েন্টি-ফাইভ
- TF-IDF-এর পরিশীলিত আত্মীয়: শব্দ বারবার থাকলে লাভ একসময় থামে (k1) আর লম্বা নথিকে কিছুটা শাস্তি দেওয়া হয় (b); শব্দভিত্তিক খোঁজে বহুল ব্যবহৃত।যেখানে শিখবেন: পর্ব ৬৭পর্ব ৭৩পর্ব ৮৭
- Bootstrapবুটস্ট্র্যাপ
- নিজের নমুনা থেকে ফেরত রেখে বারবার একই আকারের নমুনা নিয়ে কোনো পরিমাপ কতটা নড়ে, তা দেখে অনিশ্চয়তা অনুমানের পদ্ধতি; Bradley Efron ১৯৭৯ সালে প্রকাশ করেন।যেখানে শিখবেন: পর্ব ১৯পর্ব ৪৫পর্ব ৫১
- Bottleneckবটলনেক
- একটি প্রক্রিয়ার সবচেয়ে ধীর অংশ, যা পুরো প্রক্রিয়ার গতি ঠিক করে দেয়; সেটি ছাড়া অন্য অংশ দ্রুত করলে মোট সময় প্রায় বদলায় না।যেখানে শিখবেন: পর্ব ১২পর্ব ৭৫
- Bottleneck blockবটলনেক ব্লক
- ResNet-50 আর তার চেয়ে গভীর model-এর residual block: 1×1 conv-এ channel কমিয়ে 3×3 conv চালানো, তারপর 1×1 দিয়ে আবার বাড়ানো; বেশি channel-এ খরচ অনেক কমায়।যেখানে শিখবেন: পর্ব ২২
- Bottleneck layerবটলনেক লেয়ার
- দামি স্তরের আগে channel-এর সংখ্যা ইচ্ছা করে কমিয়ে আনা একটি স্তর, সাধারণত 1×1 convolution; বোতলের সরু গলার মতো, যাতে পরের হিসাব সস্তা হয়।যেখানে শিখবেন: পর্ব ২১
- Bounding boxবাউন্ডিং বক্স
- একটি বস্তুকে ঘিরে রাখা অক্ষ-সমান্তরাল আয়তক্ষেত্র, চারটি সংখ্যায় লেখা: যেমন xyxy (দুই কোণ), xywh (বাম-ওপর কোণ, প্রস্থ, উচ্চতা) বা cxcywh (কেন্দ্র, প্রস্থ, উচ্চতা)।যেখানে শিখবেন: পর্ব ২৫
- Bradley–Terry modelব্র্যাডলি–টেরি মডেল
- জোড়ায় তুলনার সম্ভাবনা-মডেল: প্রতিটির লুকানো score r, আর একটি জেতার সম্ভাবনা σ(r_w − r_l); এর negative log-likelihood-ই reward model শেখানোর মূল সূত্র।যেখানে শিখবেন: পর্ব ৫৭পর্ব ৮৯
- Brevity penaltyব্রেভিটি পেনাল্টি
- BLEU-র ছোট output-এর শাস্তি: c ≥ r হলে ১, নইলে e^(1 − r/c), যেখানে c আর r candidate আর reference-এর দৈর্ঘ্য।যেখানে শিখবেন: পর্ব ৪৫পর্ব ৮৮
- Brier scoreব্রায়ার স্কোর
- অনুমিত probability আর আসল ফলের বর্গ পার্থক্যের গড়; ধারাবাহিক মেট্রিক, তাই সঠিক উত্তরের probability একটু বাড়লেও স্কোর একটু ভালো হয়।যেখানে শিখবেন: পর্ব ৫১
- Broadcastingব্রডকাস্টিং
- ভিন্ন shape-এর দুটি array-কে নির্দিষ্ট নিয়মে মিলিয়ে ঘরে ঘরে হিসাব করার NumPy-র ব্যবস্থা, যেখানে দৈর্ঘ্য 1-এর দিক অন্য দিকের মাপে প্রসারিত ধরা হয়, data কপি না করেই।যেখানে শিখবেন: পর্ব ০১পর্ব ০৩পর্ব ০৫
- Brute-force search (exact search)ব্রুট-ফোর্স সার্চ
- প্রশ্নের vector-কে ডেটার প্রতিটি vector-এর সঙ্গে মেপে সবচেয়ে কাছের k-টি বের করা; ফল নির্ভুল, কিন্তু প্রতি প্রশ্নে খরচ N × d.যেখানে শিখবেন: পর্ব ৬৮
- Bucketingবাকেটিং
- কাছাকাছি দৈর্ঘ্যের sequence একই batch-এ রাখার কৌশল, যাতে padding আর বাড়তি হিসাব কমে।যেখানে শিখবেন: পর্ব ১১পর্ব ৩৩
- Buffer (PyTorch)বাফার
- register_buffer দিয়ে module-এ রাখা tensor, যা state_dict-এ সেভ হয় আর device ও dtype-এর সঙ্গে সরে, কিন্তু gradient দিয়ে শেখানো হয় না; যেমন normalization-এর গড় বা BatchNorm-এর চলমান গড়।যেখানে শিখবেন: পর্ব ০৯পর্ব ১৪
C
- C2PA (Content Credentials)সি-টু-পি-এ
- Coalition for Content Provenance and Authenticity-র খোলা মান, যাতে ছবি বা ভিডিওর সঙ্গে স্বাক্ষরিত একটি manifest থাকে: কে, কোন ডিভাইস বা tool দিয়ে, কী সম্পাদনা করেছে; বিষয়বস্তু সত্য কি না তা বলে না।যেখানে শিখবেন: পর্ব ৮১
- Cache hit rateক্যাশ হিট রেট
- মোট অনুরোধ বা token-এর কত অংশ cache থেকে পাওয়া গেল; বাকিটা miss, যা পুরো দামে আবার হিসাব হয়।যেখানে শিখবেন: পর্ব ৬৫
- Cache TTLক্যাশ টিটিএল
- Time to live: ব্যবহার না হলে cache-এর একটি ভুক্তি কতক্ষণ রাখা হবে; সময় পার হলে তা মুছে যায় আর পরের অনুরোধ আবার পুরো দামে লেখে।যেখানে শিখবেন: পর্ব ৬৫
- Calibrationক্যালিব্রেশন
- Model-এর দেওয়া সম্ভাবনা বাস্তবের হারের সঙ্গে কতটা মেলে; ০.৮ বলা অনুমানগুলোর প্রায় ৮০% ঠিক হলে model calibrated.যেখানে শিখবেন: পর্ব ১৩পর্ব ১৬পর্ব ৫২
- Calibration data (quantization)ক্যালিব্রেশন ডেটা
- Quantization-এর scale বা ওজনের সংশোধন ঠিক করতে model-এ চালানো অল্প কিছু প্রতিনিধিত্বমূলক উদাহরণ; label লাগে না।যেখানে শিখবেন: পর্ব ৫৯পর্ব ৮৪
- Canary releaseক্যানারি রিলিজ
- নতুন সংস্করণ প্রথমে অল্প অংশ অনুরোধে চালু করা, guardrail metric ঠিক থাকলে ধাপে ধাপে বাড়ানো, খারাপ হলে ফিরিয়ে নেওয়া।যেখানে শিখবেন: পর্ব ৮৪
- Canary stringক্যানারি স্ট্রিং
- পরীক্ষার জন্য বানানো একটি অনন্য নকল কোড বা লিংক; উত্তরে এটি দেখা গেলে বোঝা যায় নির্দেশটি মানা হয়েছে, কোনো আসল ক্ষতি ছাড়াই।যেখানে শিখবেন: পর্ব ৭৩পর্ব ৮৬পর্ব ৯১
- Candidate cell valueক্যান্ডিডেট সেল ভ্যালু
- tanh দিয়ে −১ থেকে ১-এর মধ্যে রাখা নতুন তথ্যের প্রস্তাব; input gate যতটা ছাড়ে, ততটাই cell state-এ যোগ হয়।যেখানে শিখবেন: পর্ব ২৯
- Capacity planningক্যাপাসিটি প্ল্যানিং
- ভবিষ্যতের চাপ অনুমান করে আগে থেকেই কত সার্ভার, GPU বা replica লাগবে তা ঠিক করার কাজ; LLM-এ হিসাবটি token-এ।যেখানে শিখবেন: পর্ব ৮৫পর্ব ৮৮
- Catastrophic forgettingক্যাটাস্ট্রফিক ফরগেটিং
- নতুন কাজ বা ডেটায় শেখানোর সময় network-এর আগের শেখা দক্ষতা দ্রুত হারিয়ে যাওয়া; বড় learning rate-এ fine-tuning-এ এর ঝুঁকি বেশি।যেখানে শিখবেন: পর্ব ২৩পর্ব ৫৪পর্ব ৫৫
- Causal convolutionকজাল কনভলিউশন
- যে convolution-এর t সময়ের output শুধু t আর তার আগের input দিয়ে তৈরি, ভবিষ্যতের কোনো মান তাতে পৌঁছায় না; পুরো padding বাঁয়ে দিয়ে পাওয়া যায়।যেখানে শিখবেন: পর্ব ৩১পর্ব ৮৮
- Causal maskকজাল মাস্ক
- যে mask প্রতিটি token-কে শুধু নিজেকে আর আগের token-কে দেখতে দেয়; matrix-এ এটি উপরের ত্রিভুজ, j > i ঘরগুলো আটকানো।যেখানে শিখবেন: পর্ব ৩৩পর্ব ৩৫পর্ব ৩৬
- CBOW (Continuous Bag of Words)সিবাউ
- word2vec-এর যে রূপ প্রসঙ্গের শব্দগুলোর vector-এর গড় দেখে মাঝের শব্দ অনুমান করে শেখে; skip-gram-এর চেয়ে সাধারণত দ্রুত।যেখানে শিখবেন: পর্ব ৪১
- CC BY 4.0সিসি বাই
- Creative Commons-এর লাইসেন্স: উৎস ও লেখকের নাম আর পরিবর্তনের কথা জানিয়ে ব্যবহার, বদল ও ভাগ করা যায়।যেখানে শিখবেন: পর্ব ৪২পর্ব ৪৮
- CDF (cumulative distribution function)সি-ডি-এফ
- F(x) = P(X ≤ x), মানে x বা তার কম হওয়ার সম্ভাবনা; standard normal-এর CDF-কে Φ লেখা হয়, যা GELU-তে লাগে।যেখানে শিখবেন: পর্ব ০৩
- Cell stateসেল স্টেট
- LSTM-এর আলাদা দীর্ঘমেয়াদি স্মৃতি vector; গুণ আর যোগের সরল পথে এক ধাপ থেকে পরের ধাপে যায়, gate ঠিক করে কতটা থাকবে আর কতটা নতুন ঢুকবে।যেখানে শিখবেন: পর্ব ২৯
- Central differenceসেন্ট্রাল ডিফারেন্স
- দুই দিকে সমান ছোট ধাপ h নিয়ে [f(x + h) − f(x − h)] / 2h দিয়ে derivative-এর আনুমানিক মান; ভুল প্রায় h²-এর অনুপাতে, তাই সূত্র যাচাইয়ে কাজে লাগে।যেখানে শিখবেন: পর্ব ০৩পর্ব ০৪পর্ব ২৮
- Centroidসেন্ট্রয়েড
- একটি দলের বিন্দুগুলোর গড় অবস্থান; IVF-এ প্রতিটি cell-এর প্রতিনিধি vector.যেখানে শিখবেন: পর্ব ৬৮
- Chain ruleচেইন রুল
- একটি function-এর ভেতরে আরেকটি function থাকলে মোট derivative হলো প্রতিটি ধাপের derivative-এর গুণফল; backpropagation-এর মূল নিয়ম।যেখানে শিখবেন: পর্ব ০১পর্ব ০৪পর্ব ০৫
- Chain rule of probabilityপ্রবাবিলিটি চেইন রুল
- একটি পুরো ক্রমের probability-কে ধাপে ধাপে শর্তাধীন probability-র গুণফলে ভাঙার নিয়ম: P(a, b, c) = P(a) P(b | a) P(c | a, b). এটি অনুমান নয়, সবসময় সত্য।যেখানে শিখবেন: পর্ব ৪৬
- Chain rule of probabilityচেইন রুল অব প্রোবাবিলিটি
- যৌথ probability-কে শর্তসাপেক্ষ probability-র গুণফলে লেখার নিয়ম, p(x₁, …, x_D) = p(x₁) p(x₂ | x₁) ⋯ p(x_D | x_<D); কোনো অনুমান ছাড়াই যেকোনো ক্রমে সত্য।যেখানে শিখবেন: পর্ব ৭৪
- Chain-of-thought (CoT)চেইন-অব-থট
- উত্তরের আগে model-কে মধ্যবর্তী যুক্তি বা হিসাবের ধাপ লিখতে দেওয়ার prompt কৌশল; Wei ও সহকর্মীরা ২০২২ সালে প্রবন্ধে নামটি দেন।যেখানে শিখবেন: পর্ব ৬৩
- Channels-last / channels-firstচ্যানেলস-লাস্ট
- ছবির array-তে channel অক্ষ কোথায় তার রীতি: (H, W, C) বা NHWC হলো channels-last, (C, H, W) বা NCHW হলো channels-first; PyTorch-এর convolution NCHW shape চায়।যেখানে শিখবেন: পর্ব ০৭
- Character error rate (CER)ক্যারেক্টার এরর রেট
- Levenshtein distance-কে সঠিক উত্তরের অক্ষর-সংখ্যা দিয়ে ভাগ করা মান; কম হলে ভালো, আর ১-এর বেশিও হতে পারে।যেখানে শিখবেন: পর্ব ৩০
- Character n-gramক্যারেক্টার এন-গ্রাম
- শব্দের ভেতরের পরপর n-টি অক্ষরের টুকরো, যা বিভক্তি-রূপের মধ্যে মিল ধরতে পারে।যেখানে শিখবেন: পর্ব ৩৯পর্ব ৪২
- Character n-gramক্যারেক্টার এন-গ্রাম
- শব্দের ভেতরের পরপর কয়েকটি অক্ষরের টুকরো, যেমন টাকা থেকে টা আর কা; বানান আর বিভক্তির বৈচিত্র্য কিছুটা সামলায়।যেখানে শিখবেন: পর্ব ৬১
- Chat templateচ্যাট টেমপ্লেট
- বার্তার তালিকাকে (system, user, assistant) model-এর শেখা ঠিক সেই লেখার ছাঁচে সাজানোর নিয়ম; প্রতিটি model-এর ছাঁচ আলাদা হতে পারে।যেখানে শিখবেন: পর্ব ৫২পর্ব ৫৬পর্ব ৬০
- Checkerboard artifactচেকারবোর্ড আর্টিফ্যাক্ট
- Transposed convolution-এ output-এর কিছু pixel বেশি আর কিছু কম ছাপ পেলে ছবিতে দাবার ছকের মতো নিয়মিত দাগ; kernel-এর মাপ stride দিয়ে বিভাজ্য না হলে ঝুঁকি বেশি।যেখানে শিখবেন: পর্ব ৭৮
- Checkpointচেকপয়েন্ট
- Training-এর কোনো মুহূর্তের সংরক্ষিত অবস্থা: model আর optimizer-এর state_dict, epoch, early stopping-এর হিসাব আর RNG state, যাতে পরে সেখান থেকে আবার চালানো বা সেরা model ফেরানো যায়।যেখানে শিখবেন: পর্ব ১০পর্ব ১৯
- Chinchilla ratioচিনচিলা রেশিও
- Hoffmann আর সহলেখকদের ২০২২ সালের পরিমাপ থেকে পাওয়া হিসাব: compute-optimal training-এ প্রতি parameter-এ প্রায় ২০টি token; নির্দিষ্ট পরীক্ষার ফল, সর্বজনীন নিয়ম নয়।যেখানে শিখবেন: পর্ব ৫১পর্ব ৮৮পর্ব ৯১
- Chosen / rejectedচোজেন / রিজেক্টেড
- পছন্দের জোড়ায় যে উত্তরটি ভালো বলে বাছা হয়েছে তা chosen (y_w), আর যেটি বাদ পড়েছে তা rejected (y_l) উত্তর।যেখানে শিখবেন: পর্ব ৫৭
- chrFসি-এইচ-আর-এফ
- Character n-gram ধরে মাপা অনুবাদের metric; শব্দের রূপ একটু বদলালেও আংশিক কৃতিত্ব দেয়।যেখানে শিখবেন: পর্ব ৩৯পর্ব ৪৫পর্ব ৮৭
- Chunk metadataচাংক মেটাডেটা
- প্রতিটি টুকরোর সঙ্গে রাখা বাড়তি তথ্য, যেমন নথির id, শিরোনাম, হালনাগাদের তারিখ, অবস্থা আর ভাষা; citation দেখাতে আর filter করতে লাগে।যেখানে শিখবেন: পর্ব ৬৯
- Chunk overlapচাংক ওভারল্যাপ
- পাশাপাশি দুই টুকরোয় কিছু লেখা একই রাখা, যাতে সীমানায় কাটা তথ্য অন্তত একটি টুকরোয় পুরো থাকে; দাম হলো বাড়তি জায়গা আর embedding-এর খরচ।যেখানে শিখবেন: পর্ব ৬৯
- Chunked prefillচাঙ্কড প্রিফিল
- লম্বা prompt-এর prefill টুকরো টুকরো করে decode ধাপের সঙ্গে মিশিয়ে চালানো, যাতে একটি লম্বা prompt অন্যদের token লেখা আটকে না দেয়।যেখানে শিখবেন: পর্ব ৮৩
- Chunkingচাংকিং
- বাক্যকে noun phrase, verb phrase-এর মতো ছোট শব্দগুচ্ছে ভাগ করার কাজ।যেখানে শিখবেন: পর্ব ৪৩
- CIFAR-10সিফার-টেন
- Alex Krizhevsky ও সহকর্মীদের সংগ্রহ করা ৩২ × ৩২ রঙিন ছবির ডেটাসেট: ১০টি class, ৫০,০০০ train আর ১০,০০০ test ছবি।যেখানে শিখবেন: পর্ব ২২পর্ব ২৪
- Circuit breakerসার্কিট ব্রেকার
- একটি অংশ বারবার ব্যর্থ হলে কিছুক্ষণ তাকে ডাকা বন্ধ রেখে সঙ্গে সঙ্গে বিকল্প পথে পাঠানো, তারপর অল্প পরীক্ষামূলক অনুরোধে আবার যাচাই।যেখানে শিখবেন: পর্ব ৮৫
- Citation checkসাইটেশন চেক
- উত্তরের উৎস-নম্বরগুলো সত্যিই দেওয়া উৎসের মধ্যে আছে কি না আর উত্তরের দাবি বা সংখ্যা সেই উৎসে আছে কি না, তা কোড দিয়ে মিলিয়ে দেখা।যেখানে শিখবেন: পর্ব ৬৯পর্ব ৮৬
- Citation precisionসাইটেশন প্রিসিশন
- উত্তরে উদ্ধৃত উৎসগুলোর কত ভাগ সত্যিই সেই দাবিকে সমর্থন করে।যেখানে শিখবেন: পর্ব ৭০
- Citation recallসাইটেশন রিকল
- উত্তরের জন্য দরকারি উৎসগুলোর কত ভাগ উত্তরে উদ্ধৃত হয়েছে।যেখানে শিখবেন: পর্ব ৭০
- Claim decompositionক্লেইম ডিকম্পোজিশন
- উত্তরকে ছোট ছোট আলাদা দাবিতে ভেঙে প্রতিটি দাবি উৎসে আছে কি না যাচাই করা; faithfulness মাপার প্রচলিত পথ।যেখানে শিখবেন: পর্ব ৭০
- Class activation map (CAM)ক্লাস অ্যাক্টিভেশন ম্যাপ
- শেষ conv স্তরের পরে global average pooling আর linear স্তর থাকলে, class-এর weight দিয়ে feature map-গুলোর ওজন করা যোগফল; ছবির কোন জায়গা ওই class-এর পক্ষে, তার মোটা দাগের ছবি।যেখানে শিখবেন: পর্ব ২৬
- Class imbalanceক্লাস ইমব্যালান্স
- যখন একটি শ্রেণির উদাহরণ অন্যগুলোর চেয়ে অনেক বেশি, যেমন ২০০টি রিভিউয়ের মধ্যে মাত্র ২৩টি অভিযোগ।যেখানে শিখবেন: পর্ব ১১পর্ব ১৩পর্ব ২৫
- Class tokenক্লাস টোকেন
- patch token-গুলোর সামনে জোড়া একটি শেখা vector; শেষ block-এর পরে শুধু এটিকেই শ্রেণিবিভাগের head-এ পাঠানো হয়।যেখানে শিখবেন: পর্ব ৩৮পর্ব ৮২পর্ব ৮৮
- Class weightক্লাস ওয়েট
- শেখার সময় প্রতিটি শ্রেণির ভুলের ওজন ঠিক করার সেটিং; PyTorch-এ CrossEntropyLoss(weight=w). Balanced ওজন N/(K·n_c) ছোট শ্রেণির ভুলকে বেশি দামি করে, ফলে তার probability আর recall সাধারণত বাড়ে।যেখানে শিখবেন: পর্ব ১৩পর্ব ৪২পর্ব ৮৬
- Classifier guidanceক্লাসিফায়ার গাইডেন্স
- Noisy ছবিতে train করা একটি আলাদা classifier-এর gradient ∇ log p(c | x_t) দিয়ে প্রতিটি ধাপে নমুনাকে শ্রেণির দিকে ঠেলা; Dhariwal আর Nichol-এর ২০২১ সালের প্রবন্ধে জনপ্রিয়।যেখানে শিখবেন: পর্ব ৮০
- Classifier headক্লাসিফায়ার হেড
- Backbone-এর feature থেকে শ্রেণির logit বানানো শেষ ছোট অংশ, সাধারণত একটি linear layer; transfer learning-এ নতুন কাজের শ্রেণির সংখ্যা অনুযায়ী এটি বদলে নতুন করে বসানো হয়।যেখানে শিখবেন: পর্ব ২৩
- Classifier-feature FIDক্লাসিফায়ার-ফিচার এফআইডি
- Inception-এর বদলে নিজের শেখানো classifier-এর feature দিয়ে হিসাব করা Fréchet দূরত্ব; একই ব্যবস্থার মধ্যে model তুলনায় কাজের, কিন্তু পেপারের Inception FID-এর সঙ্গে তুলনীয় নয়।যেখানে শিখবেন: পর্ব ৭৮
- Classifier-free guidance (CFG)ক্লাসিফায়ার-ফ্রি গাইডেন্স
- একই network-কে শর্তসহ আর শর্তহীন দুইভাবে train করে sampling-এ ε̃ = ε_u + w·(ε_c − ε_u) দিয়ে দুই অনুমান মেলানো; আলাদা classifier লাগে না।যেখানে শিখবেন: পর্ব ৮০পর্ব ৮৭পর্ব ৮৮
- CLIP (Contrastive Language-Image Pre-training)ক্লিপ
- ছবি আর লেখার জন্য দুটি encoder-এর model, যা বিপুল ছবি-caption জোড়ায় contrastive উপায়ে শেখে, যাতে মিলে যাওয়া ছবি আর লেখার vector কাছাকাছি থাকে; Radford ও সহকর্মীরা ২০২১ সালে প্রকাশ করেন।যেখানে শিখবেন: পর্ব ৮১পর্ব ৮২পর্ব ৮৭
- CLIP scoreক্লিপ স্কোর
- একটি ছবি আর একটি লেখার CLIP embedding-এর cosine similarity, শূন্যের নিচে কেটে ১০০ দিয়ে গুণ (কিছু উৎসে ২.৫ দিয়ে); একই শর্তে দুটি model-এর prompt মানার তুলনায় কাজে লাগে।যেখানে শিখবেন: পর্ব ৮১পর্ব ৮৯
- Clipped precisionক্লিপড প্রিসিশন
- BLEU-র precision, যেখানে কোনো n-gram-এর গণনা reference-এ তার সর্বোচ্চ গণনায় আটকে দেওয়া হয়; একই শব্দ বারবার লিখলে নম্বর বাড়ে না।যেখানে শিখবেন: পর্ব ৪৫
- Co-occurrenceকো-অকারেন্স
- দুটি শব্দ একটি নির্দিষ্ট window বা লেখার ভেতরে কতবার একসঙ্গে এলো তার গণনা।যেখানে শিখবেন: পর্ব ৪১
- Code mixingকোড মিক্সিং
- এক বাক্যে দুই ভাষা মেশানো, যেমন বাংলা বাক্যে ইংরেজি শব্দ।যেখানে শিখবেন: পর্ব ৩৯
- Code pointকোড পয়েন্ট
- Unicode-এ একটি চিহ্নের নম্বর। “ক্ষ” চোখে একটি হলেও তিনটি code point: ক, হসন্ত আর ষ।যেখানে শিখবেন: পর্ব ৩৬পর্ব ৪০পর্ব ৪৫
- Codebookকোডবুক
- PQ-তে প্রতিটি টুকরোর জন্য শেখা centroid-এর তালিকা (সাধারণত ২৫৬টি); code মানে এই তালিকার ক্রমিক নম্বর।যেখানে শিখবেন: পর্ব ৬৮
- Codebook (VQ-VAE)কোডবুক
- VQ-VAE-তে শেখা vector-গুলোর তালিকা; encoder-এর প্রতিটি output এই তালিকার সবচেয়ে কাছের vector দিয়ে বদলানো হয়, আর তার ক্রমিক নম্বরই কোড।যেখানে শিখবেন: পর্ব ৭৬
- Cohen's kappaকোহেনস কাপা
- দুজন স্কোরারের মিলের মাপ, যা কাকতালীয় মিল বাদ দেয়: κ = (p_o − p_e)/(1 − p_e); ১ মানে পূর্ণ মিল, ০ মানে কাকতালীয়ের সমান।যেখানে শিখবেন: পর্ব ৪৫পর্ব ৫৮পর্ব ৭০
- collate_fnকোলেট ফাংশন
- DataLoader-এর যে function কয়েকটি আলাদা নমুনার তালিকাকে একটি batch tensor-এ জোড়া দেয়; ভিন্ন দৈর্ঘ্যের টেক্সটে এখানেই padding আর mask তৈরি হয়।যেখানে শিখবেন: পর্ব ১১
- Color jitterকালার জিটার
- ছবির brightness, contrast, saturation বা hue এলোমেলোভাবে একটু বদলানো, যাতে model আলো আর ক্যামেরার পার্থক্যে বিচলিত না হয়।যেখানে শিখবেন: পর্ব ২৪
- Commit hash (commit ID)কমিট হ্যাশ
- একটি commit-এর পুরো লেখা (tree, parent, author, committer, বার্তা) hash করে পাওয়া অনন্য নাম; SHA-1-এ ৪০ অক্ষরের hexadecimal, দৈনন্দিন কাজে প্রথম ৭টির মতো অক্ষরই যথেষ্ট।যেখানে শিখবেন: পর্ব ৫৩
- Common Crawlকমন ক্রল
- ওয়েব পাতা সংগ্রহ করে প্রকাশ করা একটি উন্মুক্ত সংগ্রহশালা; এর লেখার অধিকার মূল মালিকদের শর্তের অধীনে থাকতে পারে।যেখানে শিখবেন: পর্ব ৪৭
- Compact setকমপ্যাক্ট সেট
- ℝᵈ-এ সীমাবদ্ধ আর বন্ধ (সীমানাসহ) একটি এলাকা, যেমন [0, 1]ᵈ; universal approximation শুধু এমন এলাকার ভেতরে নিশ্চয়তা দেয়।যেখানে শিখবেন: পর্ব ০৬
- Complex-step derivativeকমপ্লেক্স স্টেপ ডেরিভেটিভ
- input-এ খুব ছোট কাল্পনিক অংশ যোগ করে output-এর কাল্পনিক অংশ থেকে derivative পড়া; খুব ছোট মানেও rounding error প্রায় হয় না।যেখানে শিখবেন: পর্ব ২৯
- Component-wise evaluationকম্পোনেন্ট-ওয়াইজ ইভ্যালুয়েশন
- একটি pipeline-এর প্রতিটি অংশ, যেমন RAG-এর retriever আর generator, আলাদা করে মাপা, যাতে ভুল কোন ধাপের তা বোঝা যায়।যেখানে শিখবেন: পর্ব ৭০
- Compound scalingকম্পাউন্ড স্কেলিং
- একটি সংখ্যা φ দিয়ে depth, width আর resolution একসঙ্গে αᵠ, βᵠ, γᵠ গুণ বাড়ানো, শর্ত α·β²·γ² ≈ 2, যাতে প্রতি ধাপে FLOP প্রায় দ্বিগুণ হয়।যেখানে শিখবেন: পর্ব ২২
- Compound word (সমাস)কম্পাউন্ড ওয়ার্ড
- দুই বা বেশি শব্দ মিলে একটি শব্দ হওয়া, প্রায়ই ফাঁকা ছাড়া, যেমন বাজারঘর।যেখানে শিখবেন: পর্ব ৩৯
- Compression (lossless)কম্প্রেশন
- তথ্য না হারিয়ে ডেটাকে কম bit-এ লেখা; একটি probability মডেল আর entropy coder দিয়ে গড়ে প্রায় −log₂ q(x) bit-এ লেখা যায়, তাই ভালো likelihood মানে ভালো compression.যেখানে শিখবেন: পর্ব ৭৪
- Computational graphকম্পিউটেশনাল গ্রাফ
- একটি হিসাবকে ছোট ছোট ধাপের জাল হিসেবে আঁকা, যেখানে প্রতিটি ধাপের মান আর ঢাল জানা; backpropagation আর autograd এই জাল ধরে পেছনে chain rule চালায়।যেখানে শিখবেন: পর্ব ০৫পর্ব ০৮
- Compute budget (C)কম্পিউট বাজেট
- একটি training-এ খরচের জন্য বরাদ্দ মোট FLOP; প্রায় C ≈ 6·N·D, যেখানে N parameter আর D দেখা token.যেখানে শিখবেন: পর্ব ৫১
- Compute-optimal trainingকম্পিউট-অপটিমাল ট্রেনিং
- একটি নির্দিষ্ট compute বাজেটে যে N আর D-এর জোড়া সবচেয়ে কম loss দেয়; এখানে শুধু training-এর খরচ ধরা হয়, পরে model চালানোর খরচ নয়।যেখানে শিখবেন: পর্ব ৫১
- compute_metricsকম্পিউট মেট্রিকস
- Trainer-কে দেওয়া একটি ফাংশন, যা মূল্যায়নের logits আর label নিয়ে macro-F1 বা span F1-এর মতো সংখ্যা ফেরত দেয়।যেখানে শিখবেন: পর্ব ৫৪
- Concept driftকনসেপ্ট ড্রিফট
- সময় বা জায়গা বদলের সঙ্গে input আর উত্তরের সম্পর্কটাই বদলে যাওয়া, ফলে পুরোনো model-এর শেখা নিয়ম আর খাটে না।যেখানে শিখবেন: পর্ব ৮৪
- Condition dropoutকন্ডিশন ড্রপআউট
- CFG-এর জন্য training-এর সময় কিছু ভাগ নমুনায় (যেমন ১০%) শর্ত মুছে একটি শূন্য শর্ত দেওয়া, যাতে একই network শর্তহীন অনুমানও শেখে।যেখানে শিখবেন: পর্ব ৮০
- Conditional GAN (cGAN)কন্ডিশনাল গ্যান
- যে GAN-এ একটি শর্ত, যেমন শ্রেণির label, generator আর discriminator দুজনকেই দেওয়া হয়, যাতে নির্দিষ্ট ধরনের নমুনা চাওয়া যায় আর discriminator শর্ত মিলছে কি না যাচাই করে।যেখানে শিখবেন: পর্ব ৭৮
- Conditional generationকন্ডিশনাল জেনারেশন
- একটি শর্ত c (শ্রেণির লেবেল, text বা ছবি) দিয়ে p(x | c) থেকে নমুনা বানানো, যাতে কী ধরনের output আসবে তা নিয়ন্ত্রণ করা যায়।যেখানে শিখবেন: পর্ব ৮০
- Conditional Random Field (linear-chain CRF)সিআরএফ
- পুরো tag-পথকে একটি score দেওয়া মডেল, emission আর পাশাপাশি tag-এর transition মিলিয়ে; P(y | x) = exp(score)/Z.যেখানে শিখবেন: পর্ব ৪৩
- Conditional VAE (CVAE)কন্ডিশনাল ভিএই
- Encoder আর decoder দুজনকেই একটি শর্ত y (যেমন লেবেল) দেওয়া VAE, যাতে নমুনা তোলার সময় কোন ধরনের ছবি চাই তা বলে দেওয়া যায়।যেখানে শিখবেন: পর্ব ৭৬
- Confidence intervalকনফিডেন্স ইন্টারভাল
- নমুনা থেকে হিসাব করা একটি পরিসর, যা একটি নির্দিষ্ট পদ্ধতিতে বারবার করলে নির্দিষ্ট ভাগ সময় (যেমন ৯৫%) আসল মানকে ধরে; গড়ের অনিশ্চয়তা বোঝায়।যেখানে শিখবেন: পর্ব ১৯পর্ব ৪৫পর্ব ৫৮
- Confidence scoreকনফিডেন্স স্কোর
- Detector প্রতিটি box-এর সঙ্গে যে ০ থেকে ১-এর সংখ্যা দেয়, যা বলে box-এ ওই শ্রেণির বস্তু থাকার সম্ভাবনা কতটা বলে model মনে করে; NMS আর score threshold এটি ব্যবহার করে।যেখানে শিখবেন: পর্ব ২৫
- Configuration (config)কনফিগারেশন
- প্রোগ্রামের সেটিংগুলো, যেমন seed, learning rate, batch size, এক জায়গায় রাখা মান; কোডের ভেতরে ছড়ানো সংখ্যার বদলে।যেখানে শিখবেন: পর্ব ১৯
- Confoundingকনফাউন্ডিং
- দুটি কারণের প্রভাব ডেটায় মিশে থাকা, যেমন পালার নম্বর আর প্রশ্নের ধরন একসঙ্গে বদলানো; তখন ফলের পার্থক্য কোন কারণে, তা আলাদা করা যায় না।যেখানে শিখবেন: পর্ব ৬৪
- Confusion matrixকনফিউশন ম্যাট্রিক্স
- আসল শ্রেণি আর model-এর উত্তরের জোড়া গুনে বানানো টেবিল; কোন শ্রেণিকে কোন শ্রেণি ভাবা হচ্ছে তা দেখায়।যেখানে শিখবেন: পর্ব ৪২পর্ব ৮৬
- Constant error carouselকনস্ট্যান্ট এরর ক্যারোসেল
- LSTM-এর ১৯৯৭ সালের মূল ধারণা: cell-এর স্থানীয় derivative ১ রেখে gradient-কে বহু ধাপ ধরে না কমিয়ে বয়ে নেওয়া।যেখানে শিখবেন: পর্ব ২৯
- Constitutional AIকনস্টিটিউশনাল এ-আই
- Anthropic-এর ২০২২ সালের পদ্ধতি: লিখিত নীতির তালিকা ধরে model নিজের উত্তর সমালোচনা ও সংশোধন করে, আর AI-এর তুলনা থেকে শেখা preference model দিয়ে RL হয়।যেখানে শিখবেন: পর্ব ৫৭
- Constrained decodingকনস্ট্রেইনড ডিকোডিং
- নতুন করে না শিখিয়ে শুধু decode-এর সময় অবৈধ transition নিষিদ্ধ করে সেরা বৈধ পথ বের করা।যেখানে শিখবেন: পর্ব ৪৩পর্ব ৫০পর্ব ৬২
- Content provenanceকনটেন্ট প্রোভেনান্স
- একটি ছবি, ভিডিও বা লেখা কোথা থেকে এসেছে আর কীভাবে বদলেছে, তার যাচাইযোগ্য ইতিহাস।যেখানে শিখবেন: পর্ব ৮১
- Content-free inputকনটেন্ট-ফ্রি ইনপুট
- “N/A”, ফাঁকা লেখা বা “[MASK]”-এর মতো অর্থহীন input, যা আসল input-এর জায়গায় বসিয়ে prompt-এর নিজস্ব ঝোঁক মাপা হয়।যেখানে শিখবেন: পর্ব ৬১
- Context budgetকনটেক্সট বাজেট
- Context window-এর token-গুলো কোন অংশে কতটা যাবে তার পরিকল্পনা: system prompt, ইতিহাস, প্রাসঙ্গিক তথ্য আর উত্তরের জন্য রাখা জায়গা।যেখানে শিখবেন: পর্ব ৬৫
- Context recallকনটেক্সট রিকল
- উত্তরের জন্য দরকারি প্রমাণ আনা টুকরোগুলোর লেখায় সত্যিই আছে কি না; ঠিক নথি এসেও ভুল টুকরো এলে এটি কম হয়।যেখানে শিখবেন: পর্ব ৭০
- Context relevanceকনটেক্সট রেলিভেন্স
- Retriever-এর আনা প্রতিটি টুকরো প্রশ্নের সঙ্গে প্রাসঙ্গিক কি না; কম হলে prompt-এ আবর্জনা আর ভুল উৎস থেকে উত্তর তোলার ঝুঁকি বাড়ে।যেখানে শিখবেন: পর্ব ৭০
- Context vectorকনটেক্সট ভেক্টর
- Encoder-এর শেষে পাওয়া নির্দিষ্ট আকারের vector; পুরোনো seq2seq-এ decoder পুরো input সম্পর্কে শুধু এটুকুই জানে।যেখানে শিখবেন: পর্ব ৩০পর্ব ৩২
- Context windowকনটেক্সট উইন্ডো
- একটি শব্দের দুই পাশের নির্দিষ্ট সংখ্যক শব্দ, যাদের প্রসঙ্গ হিসেবে ধরা হয় (word2vec-এ); LLM-এর ক্ষেত্রে, model একবারে সর্বোচ্চ যত token প্রশ্ন ও উত্তর মিলিয়ে বিবেচনা করতে পারে।যেখানে শিখবেন: পর্ব ৩৭পর্ব ৪০পর্ব ৪১
- Context-free grammarকনটেক্সট-ফ্রি গ্রামার
- নিয়মের এমন সংকলন, যা ভেতরে ভেতরে বসানো গঠন (যেমন বন্ধনীর ভেতরে বন্ধনী) বর্ণনা করতে পারে; পুরো JSON-এর গঠন এভাবে লেখা হয়।যেখানে শিখবেন: পর্ব ৬২
- Contextual calibrationকনটেক্সচুয়াল ক্যালিব্রেশন
- Content-free input-এ prompt-এর নিজস্ব label-ঝোঁক মেপে প্রতিটি সম্ভাবনাকে তা দিয়ে ভাগ করে আবার normalise করা; Zhao ও সহকর্মীদের ২০২১ সালের পদ্ধতি।যেখানে শিখবেন: পর্ব ৬১
- Contextual embeddingকনটেক্সচুয়াল এমবেডিং
- যে vector শব্দটি কোন বাক্যে বসেছে তার ওপর নির্ভর করে, তাই একই বানানে ব্যবহারভেদে ভিন্ন vector আসে।যেখানে শিখবেন: পর্ব ৪৪
- Contiguous array / tensorকন্টিগুয়াস অ্যারে
- যে array বা tensor-এর ঘরগুলো সারি ধরে পড়লে storage-এর ক্রমে কোনো ফাঁক বা লাফ ছাড়া পড়া হয়; transpose বা permute-এর পর সাধারণত আর contiguous থাকে না।যেখানে শিখবেন: পর্ব ০৭পর্ব ৮৮পর্ব ৯০
- Continuous batchingকন্টিনিউয়াস ব্যাচিং
- প্রতিটি decode ধাপের পর batch নতুন করে সাজানো: শেষ হওয়া অনুরোধ সঙ্গে সঙ্গে বেরিয়ে যায়, সারির নতুন অনুরোধ খালি জায়গায় ঢোকে; iteration-level scheduling নামেও পরিচিত।যেখানে শিখবেন: পর্ব ৮৩পর্ব ৮৯পর্ব ৯১
- Contrastive learningকনট্রাস্টিভ লার্নিং
- মিল থাকা জোড়ার vector কাছে আর অমিল জোড়ার vector দূরে ঠেলে শেখার পদ্ধতি; অনেক sentence embedding আর image-text model এভাবে শেখে।যেখানে শিখবেন: পর্ব ১৩পর্ব ৪৭পর্ব ৬৭
- Conv1D (GPT-2 class)কনভ ওয়ান-ডি
- Hugging Face-এর GPT-2 কোডে ব্যবহৃত class, নাম Conv1D হলেও কাজে linear layer; weight-এর shape শুধু উল্টো থাকে।যেখানে শিখবেন: পর্ব ৪৯
- Conversational format (messages)কনভারসেশনাল ফরম্যাট
- ডেটার প্রতিটি উদাহরণ role আর content-ওয়ালা বার্তার তালিকা, যেমন system, user, assistant; chat template পরে এটিকে লেখায় সাজায়।যেখানে শিখবেন: পর্ব ৫৬
- ConvNeXtকনভনেক্সট
- Liu ও সহকর্মীদের ২০২২ সালের CNN, যা ResNet থেকে শুরু করে 7×7 depthwise conv, inverted bottleneck, LayerNorm, GELU, patchify stem আর আধুনিক training কৌশল যোগ করে বানানো।যেখানে শিখবেন: পর্ব ২২
- Convolutionকনভলিউশন
- একটি ছোট kernel ছবির ওপর সরিয়ে প্রতিটি অবস্থানে নিচের pixel-গুলোকে kernel-এর মান দিয়ে গুণ করে যোগ করার কাজ; ঝাপসা করা, কিনারা খোঁজা আর CNN-এর মূল হিসাব।যেখানে শিখবেন: পর্ব ২০পর্ব ২১পর্ব ৮৪
- Convolutional autoencoderকনভোলিউশনাল অটোএনকোডার
- যে autoencoder-এর encoder-এ convolution আর decoder-এ transposed convolution বা upsampling থাকে, তাই ছবির পাশাপাশি pixel-এর সম্পর্ক কাজে লাগায়।যেখানে শিখবেন: পর্ব ৭৫পর্ব ৮০
- Convolutional neural network (CNN)কনভলিউশনাল নিউরাল নেটওয়ার্ক
- যে neural network-এর স্তরগুলো ছোট filter ছবির সবখানে একই weight-এ চালায়; কাছের pixel সম্পর্কিত, এই অনুমানের ওপর দাঁড়ানো, ছবির কাজে বহুল ব্যবহৃত।যেখানে শিখবেন: পর্ব ০৬পর্ব ২০পর্ব ২১
- Core MLকোর এমএল
- Apple-এর যন্ত্রে model চালানোর framework; coremltools দিয়ে PyTorch model রূপান্তর করা হয়।যেখানে শিখবেন: পর্ব ৮৪
- Corrected resampled t-testকারেক্টেড রিস্যাম্পলড টি-টেস্ট
- Nadeau আর Bengio-র সংশোধন: fold-গুলো স্বাধীন নয় বলে variance-এর গুণক 1/J থেকে বাড়িয়ে 1/J + ntest/ntrain করা হয়।যেখানে শিখবেন: পর্ব ৪২পর্ব ৪৮
- Cosine annealingকোসাইন অ্যানিলিং
- Learning rate-কে cosine বক্ররেখার অর্ধেক চক্র ধরে সর্বোচ্চ থেকে সর্বনিম্নে নামানো; শুরু আর শেষে ধীরে, মাঝে দ্রুত কমে।যেখানে শিখবেন: পর্ব ১৫পর্ব ৮৮
- Cosine similarityকোসাইন সিমিলারিটি
- দুটি vector-এর মধ্যের কোণের cosine, মানে dot product-কে দুই দৈর্ঘ্যের গুণফল দিয়ে ভাগ; মান −১ থেকে ১, দৈর্ঘ্যের প্রভাব থাকে না।যেখানে শিখবেন: পর্ব ৩২পর্ব ৬১পর্ব ৬৭
- Cost matrixকস্ট ম্যাট্রিক্স
- কোন ভুলের দাম কত তার টেবিল; এটি থেকে threshold আর model বাছাইয়ের হিসাব আসে।যেখানে শিখবেন: পর্ব ৪২
- CoT faithfulnessফেইথফুলনেস
- Model-এর লেখা যুক্তি তার উত্তরের আসল কারণকে কতটা সত্যিই প্রকাশ করে; লেখা যুক্তি বিশ্বাসযোগ্য হলেও আসল কারণ আলাদা হতে পারে।যেখানে শিখবেন: পর্ব ৬৩
- Covariance matrixকোভ্যারিয়েন্স ম্যাট্রিক্স
- d-টি feature-এর জন্য d×d symmetric matrix Σ, যার কর্ণে প্রতিটি feature-এর variance আর বাইরে প্রতি জোড়ার covariance; centred X থেকে XᵀX / (n − 1).যেখানে শিখবেন: পর্ব ৮১
- Cover's function counting theoremকভারের থিওরেম
- Thomas Cover-এর ১৯৬৫ সালের ফল: d-মাত্রায় সাধারণ অবস্থানের N বিন্দুর মোট ২^N রকম label-এর মধ্যে মূলবিন্দু দিয়ে যাওয়া সমতলে আলাদা করা যায় ঠিক 2∑ C(N−1, k) রকম (k = 0 থেকে d−1); N = 2d হলে ঠিক অর্ধেক।যেখানে শিখবেন: পর্ব ০২
- Coverage matrixকভারেজ ম্যাট্রিক্স
- কাজের ধরন, ভাষা আর edge case-এর একটি ছক, যার প্রতিটি ঘরে eval set-এর কতটি প্রশ্ন আছে তা গোনা হয়; ফাঁকা ঘর মানে সেই অবস্থা পরীক্ষাই হচ্ছে না।যেখানে শিখবেন: পর্ব ৬৬
- create_graphক্রিয়েট গ্রাফ
- backward বা autograd.grad-এর একটি option; True হলে gradient-এর হিসাবও graph-এ লেখা হয়, তাই সেই gradient-কে আবার differentiate করে দ্বিতীয় ক্রমের derivative পাওয়া যায়।যেখানে শিখবেন: পর্ব ০৮
- CreativeML OpenRAIL-M licenceওপেনরেইল লাইসেন্স
- Stable Diffusion v1-এর ওজনের খোলা লাইসেন্স, যা ব্যবহার ও বিতরণের অনুমতি দেয় কিন্তু কিছু ক্ষতিকর ব্যবহার নিষেধ করে, আর সেই নিষেধ পরের ব্যবহারকারীদের ওপরও চাপাতে বলে।যেখানে শিখবেন: পর্ব ৮০
- Critic (WGAN)ক্রিটিক
- WGAN-এর discriminator-এর রূপ, যা সম্ভাবনা নয়, একটি বাস্তব সংখ্যার score দেয়; আসল আর নকল নমুনার গড় score-এর পার্থক্য Wasserstein দূরত্বের একটি অনুমান।যেখানে শিখবেন: পর্ব ৭৮
- Cross-attentionক্রস-অ্যাটেনশন
- যে attention-এ query আসে decoder থেকে আর key ও value আসে encoder-এর output থেকে; এভাবেই decoder input পড়ে দেখে।যেখানে শিখবেন: পর্ব ৩৫পর্ব ৪৯পর্ব ৮০
- Cross-correlationক্রস-কোরিলেশন
- Kernel না উল্টে জানালার ওপর বসিয়ে গুণ-যোগ করা; গণিতের convolution kernel ১৮০° ঘুরিয়ে নেয়, আর PyTorch-এর conv2d আসলে cross-correlation চালায়।যেখানে শিখবেন: পর্ব ২০
- Cross-encoderক্রস-এনকোডার
- প্রশ্ন আর নথি একসঙ্গে একটি input হিসেবে model-এ দিয়ে সরাসরি একটি মিলের score বের করার নকশা; সাধারণত বেশি নির্ভুল কিন্তু প্রতিটি জোড়ায় পুরো model চালাতে হয়, তাই reranking-এ ব্যবহৃত হয়।যেখানে শিখবেন: পর্ব ৬৭পর্ব ৬৯পর্ব ৮৬
- Cross-entropyক্রস-এনট্রপি
- আসল distribution p থেকে আসা ঘটনাগুলোকে মডেল q-এর সম্ভাবনায় লিখলে গড় খরচ, −∑ p log q; softmax-এর সঙ্গে এর gradient সহজ রূপ P − Y নেয়।যেখানে শিখবেন: পর্ব ০২পর্ব ০৩পর্ব ০৪
- Cross-layer parameter sharingক্রস-লেয়ার প্যারামিটার শেয়ারিং
- সব layer একই weight ব্যবহার করে, তাই গভীরতা বাড়লেও parameter বাড়ে না।যেখানে শিখবেন: পর্ব ৪৮
- Cross-lingual retrievalক্রস-লিঙ্গুয়াল রিট্রিভাল
- এক ভাষার প্রশ্ন দিয়ে অন্য ভাষার নথি খোঁজা, যেমন বাংলা প্রশ্নে ইংরেজি নথি; বহুভাষিক embedding অনুবাদের জোড়া কাছাকাছি রেখে এটি সম্ভব করে।যেখানে শিখবেন: পর্ব ৬৭
- CUDAকুডা
- NVIDIA GPU-তে সাধারণ হিসাব চালানোর প্ল্যাটফর্ম ও library-সংকলন। PyTorch-এর GPU-রূপ সাধারণত একটি নির্দিষ্ট CUDA version-এর জন্য build করা থাকে।যেখানে শিখবেন: পর্ব ১২
- CUDA contextকুডা কনটেক্সট
- একটি প্রোগ্রামের জন্য GPU-তে driver যে কাজের পরিবেশ তৈরি করে (memory-র হিসাব, লোড করা kernel ইত্যাদি); প্রথম CUDA কাজের সময় একবার তৈরি হয় বলে সেই কাজটি ধীর।যেখানে শিখবেন: পর্ব ১২
- Curse of dimensionalityকার্স অব ডাইমেনশনালিটি
- মাত্রা বাড়লে যে সমস্যাগুলো দেখা দেয় তার সাধারণ নাম: জায়গা বিশাল হয়ে ডেটা পাতলা হয়, আর grid-এর মতো কৌশলে প্রয়োজনীয় ঘর বা unit মাত্রার সঙ্গে exponentially বাড়ে।যেখানে শিখবেন: পর্ব ০৬
- Custom autograd.Functionকাস্টম অটোগ্র্যাড ফাংশন
- torch.autograd.Function-এর subclass, যেখানে forward আর backward দুটিই নিজে লেখা হয়; ctx.save_for_backward দিয়ে মান রাখা হয় আর .apply দিয়ে ডাকা হয়।যেখানে শিখবেন: পর্ব ০৮
- CutMixকাটমিক্স
- একটি ছবির একটি আয়তাকার টুকরো আরেকটি ছবিতে বসিয়ে, টুকরোর ক্ষেত্রফল অনুযায়ী label মেশানোর augmentation কৌশল।যেখানে শিখবেন: পর্ব ১৬পর্ব ২৪
- Cutoutকাটআউট
- ছবির একটি এলোমেলো আয়তক্ষেত্র মুছে (শূন্য বা ধূসর করে) দেওয়ার augmentation; CutMix সেখানে অন্য ছবির টুকরো বসায়।যেখানে শিখবেন: পর্ব ২৪
- CycleGANসাইকেলগ্যান
- জোড়া ছবি ছাড়াই দুই ধরনের ছবির মধ্যে রূপান্তর শেখা GAN; দুটি generator আর cycle-consistency শর্ত, অর্থাৎ A থেকে B হয়ে আবার A-তে ফিরলে আসল ছবি পাওয়া চাই।যেখানে শিখবেন: পর্ব ৭৮
D
- DAG (directed acyclic graph)ড্যাগ
- যে graph-এর প্রতিটি edge-এর একটি দিক আছে, আর কোনো node থেকে তীর ধরে এগিয়ে আবার সেই node-এ ফেরা যায় না, অর্থাৎ কোনো চক্র নেই।যেখানে শিখবেন: পর্ব ০৫
- Data augmentationডেটা অগমেন্টেশন
- বিদ্যমান উদাহরণ থেকে অর্থ না বদলে নতুন রূপ বানানো, যেমন ছবি একটু কাটা বা উল্টানো, যাতে model বেশি বৈচিত্র্য দেখে।যেখানে শিখবেন: পর্ব ১১পর্ব ১৬পর্ব ২১
- Data bottleneckডেটা বটলনেক
- Model বড় করেও loss না কমার অবস্থা, কারণ আলাদা ডেটা ফুরিয়ে গেছে আর model মুখস্থের দিকে যাচ্ছে।যেখানে শিখবেন: পর্ব ৫১
- Data collatorডেটা কোলেটর
- কয়েকটি আলাদা দৈর্ঘ্যের উদাহরণকে একটি batch-এ জোড়া দেওয়ার ফাংশন; সাধারণত batch-এর সবচেয়ে লম্বা সারি পর্যন্ত padding দেয়, আর token classification-এ label-এ −100 বসায়।যেখানে শিখবেন: পর্ব ৫৪
- Data contaminationডেটা কন্টামিনেশন
- মূল্যায়নের প্রশ্ন বা তার খুব কাছের রূপ training ডেটায় ঢুকে যাওয়া; তখন স্কোর শেখার বদলে মনে রাখা মাপে।যেখানে শিখবেন: পর্ব ৫৬পর্ব ৫৮
- Data driftডেটা ড্রিফট
- সময়ের সঙ্গে input-এর বণ্টন training-এর সময়ের বণ্টন থেকে সরে যাওয়া; label না জেনেই মাপা যায়।যেখানে শিখবেন: পর্ব ৮৪
- Data hungerডেটা হাঙ্গার
- কোনো model-এর ভালো ফল দিতে অনেক ডেটা লাগার প্রবণতা; ViT-এ কাঠামোগত অনুমান কম থাকায় সাধারণত CNN-এর চেয়ে এটি বেশি।যেখানে শিখবেন: পর্ব ৩৮পর্ব ৮৯
- Data leakageডেটা লিকেজ
- মূল্যায়নের ডেটার বা ভবিষ্যতের তথ্য কোনোভাবে training-এ ঢুকে যাওয়া, যাতে ফল বাস্তবের চেয়ে ভালো দেখায়।যেখানে শিখবেন: পর্ব ০৯পর্ব ১০পর্ব ১১
- Data leakage (LLM)ডেটা লিকেজ
- LLM-এর উত্তরে গোপন বা ব্যক্তিগত তথ্য বেরিয়ে আসা: system prompt থেকে, context-এর ডেটা থেকে বা শেখার ডেটা থেকে।যেখানে শিখবেন: পর্ব ৭৩
- Data minimisationডেটা মিনিমাইজেশন
- কাজের জন্য যতটুকু ব্যক্তিগত তথ্য দরকার, তার বেশি সংগ্রহ, পাঠানো বা সংরক্ষণ না করার নীতি।যেখানে শিখবেন: পর্ব ৮৫
- Data retentionডেটা রিটেনশন
- কোন ডেটা কতদিন রাখা হবে আর মেয়াদ শেষে কীভাবে মুছে ফেলা বা নাম-পরিচয়হীন করা হবে, তার নিয়ম।যেখানে শিখবেন: পর্ব ৮৫
- Data sparsityডেটা স্পার্সিটি
- সম্ভাব্য ঘরের তুলনায় ডেটা এত কম যে বেশিরভাগ ঘর ফাঁকা থাকে। n বাড়লে n-gram খাতায় এই সমস্যা দ্রুত বাড়ে।যেখানে শিখবেন: পর্ব ৪৬
- Data versioningডেটা ভার্সনিং
- Code-এর মতো ডেটা আর label-এরও প্রতিটি সংস্করণ চিহ্নিত করে রাখা, যাতে কোন ফল কোন ডেটা থেকে এসেছে তা পরে নিশ্চিতভাবে বলা যায়।যেখানে শিখবেন: পর্ব ১৯
- dataclassডেটাক্লাস
- @dataclass লিখে বানানো class, যেখানে ঘরের নাম আর type hint থেকে Python নিজেই __init__, __repr__ আর __eq__ লিখে দেয়; frozen=True দিলে পরে মান বদলানো যায় না।যেখানে শিখবেন: পর্ব ১৯
- DataLoaderডেটালোডার
- PyTorch-এর যে class একটি Dataset থেকে index বেছে নমুনা আনে, collate_fn দিয়ে batch বানায় আর দরকারে আলাদা worker process-এ এই কাজ চালায়।যেখানে শিখবেন: পর্ব ১১
- DataLoader worker (num_workers)ডেটালোডার ওয়ার্কার
- নমুনা আনা আর batch বানানোর জন্য আলাদা process; num_workers ঠিক করে কয়টি, আর Windows-এ এগুলো spawn পদ্ধতিতে তৈরি হয় বলে শুরুতে সময় লাগে।যেখানে শিখবেন: পর্ব ১১
- Datasetডেটাসেট
- শেখা বা মাপার জন্য জোগাড় করা উদাহরণের পুরো সংগ্রহ; PyTorch-এ torch.utils.data.Dataset একটি class, যার __len__ মোট নমুনার সংখ্যা আর __getitem__ একটি নমুনা ফেরত দেয়।যেখানে শিখবেন: পর্ব ১১
- Dataset cardডেটাসেট কার্ড
- Hub-এর একটি dataset repo-র README, যেখানে ডেটার উৎস, সংগ্রহের পদ্ধতি, লাইসেন্স, ভাষা, কলাম আর জানা সীমাবদ্ধতা লেখা থাকে।যেখানে শিখবেন: পর্ব ৫৩
- DCGAN (Deep Convolutional GAN)ডিসিগ্যান
- Radford ও সহলেখকদের ২০১৫ সালের GAN নকশা: discriminator-এ stride-যুক্ত convolution, generator-এ transposed convolution, BatchNorm, generator-এ ReLU আর শেষে tanh, discriminator-এ LeakyReLU; ছবির GAN-এর একটি প্রচলিত শুরুর বিন্দু।যেখানে শিখবেন: পর্ব ৭৮
- DDIM (Denoising Diffusion Implicit Model)ডিডিআইএম
- Song, Meng আর Ermon-এর sampling পদ্ধতি, যা একই প্রশিক্ষিত network দিয়ে noise ছাড়া, নির্ধারিত পথে আর ধাপ বাদ দিয়ে sample করে।যেখানে শিখবেন: পর্ব ৭৯পর্ব ৮০
- DDPM (Denoising Diffusion Probabilistic Model)ডিডিপিএম
- Ho, Jain আর Abbeel-এর ২০২০ সালের diffusion model: ε-prediction-এর সরল loss আর প্রতিটি ধাপে নতুন noise যোগ করে অনেক ধাপের sampling.যেখানে শিখবেন: পর্ব ৭৯পর্ব ৯০
- Decision boundaryডিসিশন বাউন্ডারি
- Feature-এর জগতে যে রেখা বা তল একটি classifier-এর এক শ্রেণির অঞ্চলকে আরেক শ্রেণির অঞ্চল থেকে আলাদা করে।যেখানে শিখবেন: পর্ব ০১পর্ব ০২
- Decision thresholdডিসিশন থ্রেশহোল্ড
- যে সম্ভাবনার ওপরে model-এর উত্তরকে একটি শ্রেণি ধরা হয়; 0.5 বাধ্যতামূলক নয়, খরচ দেখে ঠিক করা যায়।যেখানে শিখবেন: পর্ব ৪২
- Decode phaseডিকোড ফেজ
- Prefill-এর পরের ধাপ, যেখানে একবারে একটি করে নতুন token লেখা হয়; প্রতিটি token-এর জন্য model-এর একটি ছোট pass লাগে।যেখানে শিখবেন: পর্ব ৬৫পর্ব ৮৩পর্ব ৮৮
- Decoderডিকোডার
- Model-এর যে অংশ encoder-এর দেওয়া তথ্য থেকে ধাপে ধাপে output token লেখে।যেখানে শিখবেন: পর্ব ৩০পর্ব ৭৫
- Decoder (VAE, generative network)ডিকোডার
- VAE-র যে network latent z থেকে ডেটার বণ্টন p(x | z) দেয়, যেমন প্রতিটি pixel ১ হওয়ার probability; নমুনা তোলার সময় শুধু এটিই লাগে।যেখানে শিখবেন: পর্ব ৭৬
- Decoder-only modelডিকোডার-অনলি মডেল
- Encoder ছাড়া শুধু causal self-attention-এর block সাজিয়ে বানানো language model; cross-attention থাকে না, আর প্রতিটি ঘর পরের token অনুমান করে।যেখানে শিখবেন: পর্ব ৪৯
- Decoding (text generation)ডিকোডিং
- Model-এর দেওয়া পরের token-এর বণ্টন থেকে আসলে কোন token নেওয়া হবে তা ঠিক করার নিয়ম; model-এর weight এতে বদলায় না।যেখানে শিখবেন: পর্ব ৫০
- Deduplicationডিডুপ্লিকেশন
- ডেটা থেকে হুবহু বা প্রায় হুবহু একই উদাহরণ সরানো, যাতে কোনো ধরন অকারণে বেশি ওজন না পায় আর test-এ ফাঁস না হয়।যেখানে শিখবেন: পর্ব ৫৬
- Deep Learningডিপ লার্নিং
- অনেক স্তরের neural network দিয়ে machine learning, যেখানে মাঝের স্তরগুলো কাঁচা ডেটা থেকে নিজেই কাজের feature শেখে। “Deep” মানে স্তরের সংখ্যা বেশি।যেখানে শিখবেন: পর্ব ০১পর্ব ১৯
- Deepfakeডিপফেক
- AI দিয়ে তৈরি নকল ছবি, ভিডিও বা কণ্ঠ, যা দেখতে বা শুনতে আসল মানুষের মতো লাগে।যেখানে শিখবেন: পর্ব ৮১
- Defense in depthডিফেন্স ইন ডেপথ
- একটি নিয়ন্ত্রণে ভরসা না করে কয়েকটি স্বাধীন স্তরে সুরক্ষা সাজানোর কৌশল।যেখানে শিখবেন: পর্ব ৭৩
- Define-by-run (eager execution)ডিফাইন-বাই-রান
- কোড চলার সময়ই computational graph তৈরি করার পদ্ধতি, তাই সাধারণ Python-এর if, লুপ আর debugger সরাসরি কাজ করে; PyTorch-এর default আচরণ।যেখানে শিখবেন: পর্ব ০৫
- Degradation problemডিগ্রেডেশন প্রবলেম
- plain network-এ স্তর বাড়ালে training error-ই বেড়ে যাওয়া, যা overfitting নয় বরং optimisation-এর ব্যর্থতা; ResNet প্রবন্ধ এই সমস্যা দিয়েই residual connection-এর যুক্তি দেয়।যেখানে শিখবেন: পর্ব ১৭পর্ব ২২পর্ব ৮৯
- DeiTডিআইটি
- Data-efficient image Transformer; ২০২০ সালের একটি কাজ, যা শক্ত augmentation আর distillation token দিয়ে শুধু ImageNet-এ ViT শেখায়।যেখানে শিখবেন: পর্ব ৩৮
- Delayed-recall taskডিলেইড রিকল টাস্ক
- প্রথমে একটি চিহ্ন দেখিয়ে অনেকগুলো অপ্রাসঙ্গিক ধাপের পরে সেটি মনে করতে বলা; sequence model-এর স্মৃতি মাপার পরীক্ষা।যেখানে শিখবেন: পর্ব ২৯
- Delimiterডিলিমিটার
- Prompt-এর এক অংশকে আরেক অংশ থেকে আলাদা করার চিহ্ন, যেমন তিনটি উদ্ধৃতিচিহ্ন, Markdown শিরোনাম বা XML-ধরনের ট্যাগ; বিভ্রান্তি কমায়, নিরাপত্তা দেয় না।যেখানে শিখবেন: পর্ব ৬০পর্ব ৬৪পর্ব ৮৮
- Demonstration (in-context example)ডেমনস্ট্রেশন
- Few-shot prompt-এর একটি উদাহরণ: একটি input আর তার কাঙ্ক্ষিত output-এর জোড়া, যা model-কে task আর ফরম্যাট দেখায়।যেখানে শিখবেন: পর্ব ৬১
- Dendriteডেনড্রাইট
- জীবন্ত নিউরনের শাখার মতো অংশ, যেখানে অন্য নিউরনের সংকেত এসে পৌঁছায়; গবেষণায় দেখা গেছে এখানে নিজস্ব non-linear হিসাবও হতে পারে।যেখানে শিখবেন: পর্ব ০২
- Denoising autoencoderডিনয়েজিং অটোএনকোডার
- Input-এ ইচ্ছা করে noise দিয়ে model-কে পরিষ্কার আসল input ফেরাতে শেখানো autoencoder; হুবহু কপি করে এই কাজ হয় না, তাই ডেটার গঠন শিখতে হয়।যেখানে শিখবেন: পর্ব ৭৫
- Density estimationডেনসিটি এস্টিমেশন
- শুধু নমুনা থেকে অজানা বণ্টনের density অনুমান করা, যাতে ফল অ-ঋণাত্মক হয়, মোট integral ১ হয়, আর আসল density-র যতটা সম্ভব কাছে থাকে।যেখানে শিখবেন: পর্ব ৭৪
- Denylistডিনাইলিস্ট
- নিষিদ্ধ জিনিসের তালিকা; তালিকায় নেই এমন সবকিছু পার হয়ে যায়, তাই নতুন রূপের আক্রমণ সহজে এড়ায়।যেখানে শিখবেন: পর্ব ৭৩পর্ব ৯১
- Depth separationডেপথ সেপারেশন
- তাত্ত্বিক ফল যে কিছু function গভীর network অল্প unit-এ প্রকাশ করতে পারে, কিন্তু কম গভীর network-এ কাছাকাছি আনতে অনেক বেশি (প্রায়ই exponentially বেশি) unit লাগে।যেখানে শিখবেন: পর্ব ০৬
- Depthwise convolutionডেপথওয়াইজ কনভলিউশন
- যে conv প্রতিটি input channel-এ নিজের একটি filter চালায় আর channel মেশায় না; PyTorch-এ groups = channel-সংখ্যা।যেখানে শিখবেন: পর্ব ২২
- Depthwise separable convolutionডেপথওয়াইজ সেপারেবল কনভলিউশন
- সাধারণ convolution-কে দুই ধাপে ভাঙা: প্রতিটি channel-এ আলাদা k × k (depthwise), তারপর channel মেশাতে 1 × 1 (pointwise); খরচ প্রায় 1/C_out + 1/k² গুণ।যেখানে শিখবেন: পর্ব ২০পর্ব ২২পর্ব ৮৭
- Dequantizationডিকোয়ান্টাইজেশন
- পূর্ণসংখ্যা q থেকে আবার দশমিক মান বের করা, x̂ = (q − z) × s; ফল আসল মানের কাছাকাছি, হুবহু নয়।যেখানে শিখবেন: পর্ব ৫৯
- Derivativeডেরিভেটিভ
- একটি function-এর কোনো বিন্দুতে বদলের তাৎক্ষণিক হার, মানে সেই বিন্দুতে curve-এর ঢাল; f′(x) বা df/dx লেখা হয়।যেখানে শিখবেন: পর্ব ০৩
- detach()ডিটাচ
- একই memory ভাগ করা কিন্তু graph থেকে বিচ্ছিন্ন একটি নতুন tensor ফেরত দেওয়া; এর মধ্য দিয়ে gradient পেছনে যায় না, তাই হিসাবের একটি অংশকে ধ্রুবক ধরা যায়।যেখানে শিখবেন: পর্ব ০৮পর্ব ২৮
- Dev and test splitডেভ আর টেস্ট স্প্লিট
- Eval set-কে দুই ভাগ করা: dev ভাগ দেখে prompt বদলানো হয়, আর লুকানো test ভাগ শুধু শেষ সিদ্ধান্তে চলে, যাতে prompt দেখা প্রশ্নের জন্য overfit না হয়।যেখানে শিখবেন: পর্ব ৮৬
- Developer messageডেভেলপার মেসেজ
- OpenAI-এর API নথিতে অ্যাপ নির্মাতার স্থায়ী নির্দেশের বার্তা; নথি অনুযায়ী user বার্তার চেয়ে বেশি অগ্রাধিকার পায়, অন্য API-তে এর কাজ system বার্তা করে।যেখানে শিখবেন: পর্ব ৬৪
- Device (PyTorch)ডিভাইস
- Tensor-এর ডেটা কোন যন্ত্রের memory-তে আছে আর হিসাব কোথায় হবে, যেমন "cpu" বা "cuda"; ভিন্ন device-এর দুটি tensor একসঙ্গে হিসাব করা যায় না।যেখানে শিখবেন: পর্ব ০৭
- Dice coefficientডাইস কোএফিশিয়েন্ট
- দুটি mask-এর মিলের মাপ 2|P ∩ G| ÷ (|P| + |G|), ০ থেকে ১; IoU-এর সঙ্গে সম্পর্ক Dice = 2·IoU ÷ (1 + IoU). Sørensen–Dice নামেও পরিচিত।যেখানে শিখবেন: পর্ব ২৫
- Dice lossডাইস লস
- 1 − soft Dice, যেখানে hard mask-এর বদলে predicted probability বসানো হয় যাতে differentiable হয়; ছোট বস্তু আর ভারসাম্যহীন pixel-এর segmentation-এ প্রায়ই BCE-এর সঙ্গে যোগ করে ব্যবহার হয়।যেখানে শিখবেন: পর্ব ২৫
- Diffusion Modelডিফিউশন মডেল
- যে generative model এলোমেলো noise থেকে শুরু করে ধাপে ধাপে noise সরিয়ে ছবি বা শব্দ তৈরি করতে শেখে।যেখানে শিখবেন: পর্ব ০১পর্ব ৭৪পর্ব ৮৯
- Digital signatureডিজিটাল সিগনেচার
- বার্তার hash-এর ওপর private key দিয়ে বানানো মান, যা public key দিয়ে যে কেউ যাচাই করতে পারেন কিন্তু private key ছাড়া কেউ বানাতে পারেন না।যেখানে শিখবেন: পর্ব ৮১
- Digital watermarkডিজিটাল ওয়াটারমার্ক
- ছবি, অডিও বা লেখার ভেতরে বসানো একটি চিহ্ন, প্রায়ই চোখে বা কানে অদৃশ্য, যা পরে একটি detector দিয়ে খুঁজে পাওয়া যায়; crop বা নতুন করে তৈরি করলে অনেক watermark হারায়।যেখানে শিখবেন: পর্ব ৮১
- Dilation (dilated convolution)ডাইলেশন
- Kernel-এর ঘরগুলোর মাঝে d − 1 ঘর ফাঁক রেখে বসানো, যাতে weight না বাড়িয়ে বড় এলাকা দেখা যায়; 3 × 3 kernel d = 2-তে 5 × 5 এলাকা ছোঁয়।যেখানে শিখবেন: পর্ব ২০পর্ব ৩১
- DINOডিনো
- লেবেল ছাড়া ViT শেখানোর একটি পদ্ধতি, যেখানে একটি student network একটি teacher network-এর output নকল করে শেখে।যেখানে শিখবেন: পর্ব ৩৮
- Direct multi-step forecastingডিরেক্ট ফোরকাস্টিং
- প্রতিটি horizon h-এর জন্য আলাদা model, যা শুধু origin পর্যন্ত জানা তথ্য দিয়ে সরাসরি h ধাপ পরের মান শেখে; নিজের অনুমান ফেরত খায় না, কিন্তু model অনেকগুলো।যেখানে শিখবেন: পর্ব ৩১
- Direct prompt injectionডিরেক্ট প্রম্পট ইনজেকশন
- ব্যবহারকারী নিজেই এমন বার্তা লেখেন, যা model-কে অ্যাপ নির্মাতার নির্দেশ ভাঙাতে চায়।যেখানে শিখবেন: পর্ব ৬৪পর্ব ৭৩
- Discriminative fine-tuning (layer-wise learning rate)ডিসক্রিমিনেটিভ ফাইন-টিউনিং
- Fine-tuning-এ স্তরভেদে আলাদা learning rate দেওয়া, নিচের সাধারণ layer-এ ছোট আর head-এর কাছে বড়; PyTorch-এ optimizer-এর parameter group দিয়ে করা হয়।যেখানে শিখবেন: পর্ব ২৩
- Discriminative Modelডিসক্রিমিনেটিভ মডেল
- যে মডেল সরাসরি p(y | x) শেখে, অর্থাৎ ইনপুট দেখে লেবেলের সম্ভাবনা; সে নতুন ইনপুট তৈরি করে না।যেখানে শিখবেন: পর্ব ৭৪
- Discriminator (GAN)ডিসক্রিমিনেটর
- GAN-এর যে binary classifier একটি নমুনা নিয়ে বলে সেটি আসল ডেটা থেকে আসার সম্ভাবনা কত; binary cross-entropy দিয়ে train হয় আর generator-এর বিচারক হিসেবে কাজ করে।যেখানে শিখবেন: পর্ব ৭৭পর্ব ৭৮
- Disentanglementডিসএনট্যাঙ্গলমেন্ট
- Latent-এর প্রতিটি মাত্রা ডেটার আলাদা একটি কারণ (যেমন আকার, ঘোরানো) ধরবে, এই লক্ষ্য; label ছাড়া নির্ভরযোগ্যভাবে পাওয়া কঠিন বলে দেখানো হয়েছে।যেখানে শিখবেন: পর্ব ৭৬
- DistilBERTডিস্টিলবার্ট
- BERT থেকে knowledge distillation দিয়ে শেখা ছোট model: layer অর্ধেক, token-type embedding আর pooler নেই।যেখানে শিখবেন: পর্ব ৪৮
- Distractorডিসট্র্যাক্টর
- MCQ-এর ভুল অপশন, যা ইচ্ছা করে একটি পরিচিত ভুল ধারণা বা বাদ পড়া ধাপ থেকে বানানো হয়, যেমন bias বাদ দিয়ে parameter গোনা বা √dk দিয়ে ভাগ ভুলে যাওয়া।যেখানে শিখবেন: পর্ব ৮৮
- Distribution shiftডিস্ট্রিবিউশন শিফট
- Model যে ডেটায় শিখেছে আর যে ডেটায় ব্যবহৃত হচ্ছে, তাদের বণ্টন আলাদা হয়ে যাওয়া, যেমন নতুন ক্যামেরার ছবি।যেখানে শিখবেন: পর্ব ২৪পর্ব ২৬পর্ব ২৭
- Distributional hypothesisডিস্ট্রিবিউশনাল হাইপোথিসিস
- যে শব্দগুলো একই রকম প্রসঙ্গে বসে, তাদের অর্থও প্রায়ই কাছাকাছি, এই কাজের অনুমান।যেখানে শিখবেন: পর্ব ৪১
- Document chunkingডকুমেন্ট চাংকিং
- লম্বা নথিকে খোঁজা আর prompt-এ বসানোর উপযোগী ছোট টুকরোয় ভাগ করা; নির্দিষ্ট দৈর্ঘ্যে, বাক্য ধরে বা শিরোনাম ধরে করা যায়।যেখানে শিখবেন: পর্ব ৬৯পর্ব ৭০পর্ব ৮৮
- Domain classifierডোমেইন ক্লাসিফায়ার
- দুই ডেটাসেটের নমুনা (যেমন উৎস আর লক্ষ্য) আলাদা করতে শেখানো একটি classifier; accuracy প্রায় ৫০% হলে দুটি প্রায় একই রকম, বেশি হলে shift বড়।যেখানে শিখবেন: পর্ব ২৩
- Domain shift (domain gap)ডোমেইন শিফট
- Model যে ধরনের ডেটায় শিখেছে আর যেখানে ব্যবহার হচ্ছে, এই দুইয়ের পার্থক্য; যেমন ইন্টারনেটের রঙিন ছবিতে শেখা model দিয়ে রসিদের সাদা-কালো স্ক্যান চেনা।যেখানে শিখবেন: পর্ব ২৩পর্ব ৪৭পর্ব ৮৬
- Dot productডট প্রোডাক্ট
- একই দৈর্ঘ্যের দুটি vector-এর মিলে যাওয়া ঘরগুলো গুণ করে সব যোগ করা; ফল একটি সংখ্যা।যেখানে শিখবেন: পর্ব ৩২পর্ব ৬৭পর্ব ৬৮
- Dot-product attentionডট-প্রোডাক্ট অ্যাটেনশন
- Score = sᵀh ধরে নেওয়া attention; নিজের কোনো parameter নেই, তবে query আর key-এর মাপ সমান হতে হয়।যেখানে শিখবেন: পর্ব ৩২
- Double descentডাবল ডিসেন্ট
- কিছু পরিস্থিতিতে দেখা ঘটনা: জটিলতা বাড়াতে থাকলে test ভুল কমে, interpolation threshold-এর কাছে বাড়ে, তারপর আরও জটিল model-এ আবার কমে।যেখানে শিখবেন: পর্ব ০৬পর্ব ১৬
- Double quantizationডাবল কোয়ান্টাইজেশন
- Block-ভিত্তিক quantization-এর scale ধ্রুবকগুলোকেও আবার 8-bit-এ quantize করা; QLoRA-তে প্রতি parameter-এ ধ্রুবকের খরচ প্রায় ০.৫ থেকে ০.১২৭ bit-এ নামে।যেখানে শিখবেন: পর্ব ৫৫
- Downsamplingডাউনস্যাম্পলিং
- Feature map-এর দৈর্ঘ্য-প্রস্থ কমানো, যেমন stride ২-এর convolution বা pooling দিয়ে অর্ধেক করা; হিসাব কমে আর receptive field দ্রুত বাড়ে।যেখানে শিখবেন: পর্ব ২০পর্ব ২১পর্ব ২২
- Downstream taskডাউনস্ট্রিম টাস্ক
- Pretraining-এর পরে model দিয়ে যে আসল কাজ করা হয়, যেমন sentiment classification.যেখানে শিখবেন: পর্ব ৪৭
- DPM-Solverডিপিএম-সলভার
- Lu ও সহকর্মীদের ২০২২ সালের দ্রুত diffusion sampler, যা diffusion-এর ODE-কে উচ্চ-ক্রমের পদ্ধতিতে সমাধান করে কম ধাপে নমুনা বানায়।যেখানে শিখবেন: পর্ব ৮০
- DPO (Direct Preference Optimization)ডি-পি-ও
- Rafailov ও সহলেখকদের ২০২৩ সালের পদ্ধতি: KL-সীমিত RLHF লক্ষ্যের সমাধান থেকে reward-কে β·log(π/π_ref) লিখে, reward model আর sampling ছাড়াই পছন্দের জোড়া থেকে সরাসরি policy শেখায়।যেখানে শিখবেন: পর্ব ৫৭পর্ব ৮৮পর্ব ৯১
- drop_lastড্রপ লাস্ট
- DataLoader-এর setting; True দিলে শেষের অসম্পূর্ণ batch বাদ যায়, তাই প্রতি epoch-এ batch সংখ্যা floor(N/B) হয়।যেখানে শিখবেন: পর্ব ১১
- Dropoutড্রপআউট
- Neural network-এর training-এ প্রতি ধাপে কিছু neuron এলোমেলোভাবে বন্ধ রাখা, যাতে network কোনো একক পথের ওপর নির্ভর না করে; eval mode-এ এটি কিছুই করে না।যেখানে শিখবেন: পর্ব ০৯পর্ব ১০পর্ব ১৬
- dtype (data type)ডি-টাইপ
- Array বা tensor-এর প্রতিটি ঘর কত বাইটের আর বিটগুলো কীভাবে পড়তে হবে তার ঘোষণা, যেমন float32, int64 বা bool; PyTorch-এ দশমিকের default float32.যেখানে শিখবেন: পর্ব ০৭পর্ব ৯০
- Dual numberডুয়াল নাম্বার
- a + bε আকারের সংখ্যা, যেখানে ε² = ০; f(x + ε) = f(x) + f′(x)ε হয় বলে এর সাহায্যে forward-mode automatic differentiation করা যায়।যেখানে শিখবেন: পর্ব ০৫
- Dying ReLUডাইং রেলু
- যে ReLU unit সব input-এ ঋণাত্মক z পায়, তার output আর ঢাল দুটিই ০ হয়ে যাওয়া; gradient তাকে আর বদলাতে পারে না, তাই সে স্থায়ীভাবে নিষ্ক্রিয়।যেখানে শিখবেন: পর্ব ০৩পর্ব ১৭পর্ব ১৮
- Dynamic batchingডায়নামিক ব্যাচিং
- সারিতে জমা অনুরোধ থেকে একটি সর্বোচ্চ মাপ বা সময়সীমা পর্যন্ত batch বানানো; batch শুরু হলে সেটি তবু একসঙ্গে শেষ হয়।যেখানে শিখবেন: পর্ব ৮৩পর্ব ৮৪
- Dynamic paddingডাইনামিক প্যাডিং
- পুরো ডেটাকে এক দৈর্ঘ্যে না এনে প্রতিটি batch-কে শুধু তার নিজের সবচেয়ে লম্বা সারি পর্যন্ত padding দেওয়া; এতে গণনা আর memory বাঁচে।যেখানে শিখবেন: পর্ব ৫৪
- Dynamic quantizationডাইনামিক কোয়ান্টাইজেশন
- ওজন আগে থেকেই int8-এ রাখা, আর activation-এর scale প্রতিটি batch চলার সময় মেপে quantize করা; calibration ডেটা লাগে না।যেখানে শিখবেন: পর্ব ৫৯
E
- Early stoppingআর্লি স্টপিং
- Validation-এর loss কয়েক epoch আর না কমলে training থামিয়ে সেরা অবস্থার model রাখা; overfitting ঠেকানোর সস্তা উপায়।যেখানে শিখবেন: পর্ব ১০পর্ব ১৬পর্ব ৩৬
- Earth mover's distanceআর্থ মুভার্স ডিসট্যান্স
- Wasserstein-1 দূরত্বের আরেক নাম: এক স্তূপ মাটি আরেক জায়গার গর্তে সরানোর সবচেয়ে কম খরচ, যেখানে খরচ মানে সরানো ভর গুণ দূরত্ব।যেখানে শিখবেন: পর্ব ৭৮
- Echo state networkইকো স্টেট নেটওয়ার্ক
- যে RNN-এর recurrent weight এলোমেলো রেখে দেওয়া হয়, spectral radius ঠিক করে, আর শুধু output স্তর শেখানো হয়।যেখানে শিখবেন: পর্ব ২৮
- Edge caseএজ কেস
- নিয়মের কিনারার বা অস্বাভাবিক ইনপুট, যেমন ঠিক সীমার মানের অর্ডার, বানান ভুল বা রাগী বার্তা, যেখানে ভুলের সম্ভাবনা বেশি।যেখানে শিখবেন: পর্ব ৬৬
- Edge detectionএজ ডিটেকশন
- ছবির যেখানে উজ্জ্বলতা হঠাৎ বদলায়, সেই কিনারাগুলো খুঁজে বের করা; Sobel-এর মতো kernel দিয়ে করা যায়।যেখানে শিখবেন: পর্ব ২০
- Edge deviceএজ ডিভাইস
- ব্যবহারকারীর কাছের যন্ত্র, যেমন ফোন, browser, ছোট কম্পিউটার বা ক্যামেরা, যেখানে model server ছাড়াই চলে।যেখানে শিখবেন: পর্ব ৮৪
- efConstructionই-এফ কনস্ট্রাকশন
- HNSW বানানোর সময় নতুন node-এর প্রতিবেশী খুঁজতে কতটি প্রার্থী রাখা হয়; বড় হলে graph ভালো, build ধীর। FAISS-এ ডিফল্ট 40.যেখানে শিখবেন: পর্ব ৬৮
- Effective batch sizeইফেক্টিভ ব্যাচ সাইজ
- একটি optimizer ধাপে মোট যতগুলো উদাহরণের gradient মেলানো হয়: micro-batch × accumulation-এর সংখ্যা × GPU-র সংখ্যা।যেখানে শিখবেন: পর্ব ১৫
- EfficientNetএফিশিয়েন্টনেট
- Tan আর Le-এর ২০১৯ সালের CNN পরিবার: NAS দিয়ে খোঁজা B0 থেকে compound scaling-এ B1–B7 বানানো।যেখানে শিখবেন: পর্ব ২২
- efSearchই-এফ সার্চ
- HNSW-এ খোঁজার সময় স্তর ০-এ রাখা প্রার্থী-তালিকার আকার; বাড়ালে recall আর সময় বাড়ে, index আবার না বানিয়েই বদলানো যায়।যেখানে শিখবেন: পর্ব ৬৮
- Eigenvalueআইগেনভ্যালু
- Av = λv সম্পর্কে যে সংখ্যা λ বলে দেয়, matrix A ওই বিশেষ দিকের vector-কে কত গুণ করে।যেখানে শিখবেন: পর্ব ২৮
- einsumআইনসাম
- Einstein summation নিয়মে অক্ষের নাম দিয়ে গুণ আর যোগ লেখার উপায়; দুই input-এ একই অক্ষর মানে মিলিয়ে গুণ, output-এ না থাকা অক্ষর মানে সেই অক্ষ ধরে যোগ।যেখানে শিখবেন: পর্ব ০৭
- ELBO (evidence lower bound)ইএলবিও
- log p(x)-এর একটি নিম্নসীমা, E_q[log p(x, z) − log q(z | x)]; log p(x) = ELBO + KL(q ‖ আসল posterior), তাই q আসল posterior হলে সীমা ছুঁয়ে যায়। VAE-তে এটি reconstruction বিয়োগ KL(q ‖ prior), আর এর ঋণাত্মক মানই loss হিসেবে কমানো হয়।যেখানে শিখবেন: পর্ব ৭৬পর্ব ৮৭পর্ব ৮৯
- ELECTRAইলেকট্রা
- যে encoder শেখে প্রতিটি token আসল না কি একটি ছোট generator-এর বসানো, তা ধরতে। Pretraining-এর পরে generator ফেলে দেওয়া হয়।যেখানে শিখবেন: পর্ব ৪৮
- ELMoএলমো
- ২০১৮ সালের একটি পদ্ধতি, যা দুই দিকের LSTM language model-এর layer-গুলোর শেখা মিশ্রণ থেকে contextual vector দেয়।যেখানে শিখবেন: পর্ব ৪৪
- Embeddingএমবেডিং
- একটি id-কে কয়েকটি বাস্তব সংখ্যার vector-এ প্রকাশ করা; এই vector-গুলো সাধারণত train-এর সময় শেখা হয়।যেখানে শিখবেন: পর্ব ২৭পর্ব ২৯পর্ব ৩০
- Embedding biasএমবেডিং বায়াস
- লেখা থেকে শেখা vector-এ সামাজিক ধরন বা পক্ষপাতের ছাপ, যেমন পেশা আর লিঙ্গের সংশ্লিষ্টতা; একটি দিক সরালেই পুরোপুরি মুছে যায় না।যেখানে শিখবেন: পর্ব ৪১
- Emergent abilityইমার্জেন্ট অ্যাবিলিটি
- Wei আর সহলেখকদের ২০২২ সালের সংজ্ঞায়, যে ক্ষমতা ছোট model-এ নেই কিন্তু বড় model-এ আছে, আর ছোট model-এর উন্নতি টেনে অনুমান করা যায় না।যেখানে শিখবেন: পর্ব ৫১পর্ব ৬৩
- Emission scoreএমিশন স্কোর
- একটি token-এ একটি tag কতটা মানায় তার বাস্তব সংখ্যা; BiLSTM-CRF-এ শেষ linear স্তর থেকে আসে।যেখানে শিখবেন: পর্ব ৪৩
- Encoderএনকোডার
- Model-এর যে অংশ input পড়ে তাকে এক বা একাধিক vector-এ রূপ দেয়।যেখানে শিখবেন: পর্ব ৩০পর্ব ৭৫
- Encoder (VAE, inference network)এনকোডার
- VAE-র যে network একটি ছবি x থেকে latent-এর আনুমানিক posterior q(z | x)-এর parameter, সাধারণত μ আর log σ², দেয়।যেখানে শিখবেন: পর্ব ৭৬
- Encoder–decoderএনকোডার-ডিকোডার
- দুই অংশের network: encoder input-কে ছোট একটি প্রতিনিধিত্বে আনে, decoder তা থেকে কাঙ্ক্ষিত output বানায়; segmentation-এ encoder ছবি ছোট করে আর decoder আবার পূর্ণ মাপে ফেরায়।যেখানে শিখবেন: পর্ব ২৫পর্ব ৩০পর্ব ৮২
- End-to-end evaluationএন্ড-টু-এন্ড ইভ্যালুয়েশন
- পুরো ব্যবস্থাকে ব্যবহারকারীর ইনপুট থেকে শেষ উত্তর পর্যন্ত একসঙ্গে মাপা, যাতে router, retrieval, gate আর generator-এর ভুল যোগ হয়ে ধরা পড়ে।যেখানে শিখবেন: পর্ব ৮৬
- End-to-end latency (E2E)এন্ড-টু-এন্ড লেটেন্সি
- অনুরোধ পাঠানো থেকে উত্তরের শেষ token পাওয়া পর্যন্ত মোট সময়; সারিতে অপেক্ষা, prefill আর সব decode ধাপ এর ভেতরে।যেখানে শিখবেন: পর্ব ৮৩
- End-to-end learningএন্ড-টু-এন্ড লার্নিং
- কাঁচা ইনপুট থেকে চূড়ান্ত output পর্যন্ত পুরো model-কে একটি loss দিয়ে একসঙ্গে train করা, যাতে মাঝের ধাপগুলো আলাদাভাবে হাতে ঠিক করতে না হয়।যেখানে শিখবেন: পর্ব ০১
- Energy-based model (EBM)এনার্জি-বেসড মডেল
- q(x) ∝ e^(−E(x)) আকারের মডেল, যেখানে কম energy মানে বেশি সম্ভব; normalising ধ্রুবক Z সাধারণত হিসাব করা যায় না, তাই শেখা আর নমুনা তোলা কঠিন।যেখানে শিখবেন: পর্ব ৭৪
- Ensemble learningএনসেম্বল লার্নিং
- অনেকগুলো model-এর অনুমান মিলিয়ে একটি সিদ্ধান্ত নেওয়া, যেমন probability-র গড় বা ভোট; deep learning-এ আলাদা seed-এর কয়েকটি network-এর গড়কে deep ensemble বলে।যেখানে শিখবেন: পর্ব ১৬
- Entropy (Shannon entropy)এনট্রপি
- একটি distribution-এর গড় surprise, H = −∑ p log p; সব ফল সমান হলে সর্বোচ্চ, একটি ফল নিশ্চিত হলে শূন্য।যেখানে শিখবেন: পর্ব ৫০পর্ব ৭৪
- enumইনাম
- নির্দিষ্ট কয়েকটি মানের তালিকা, যার বাইরে কিছু চলবে না; যেমন দশটি জেলার নাম।যেখানে শিখবেন: পর্ব ৬২
- Epistemic uncertaintyএপিস্টেমিক আনসার্টেনটি
- Model-এর parameter ঠিক জানা নেই বলে যে অনিশ্চয়তা; ডেটা যেখানে কম সেখানে বেশি, আর বেশি ডেটায় কমে।যেখানে শিখবেন: পর্ব ১৬
- Epochইপক
- প্রশিক্ষণের সময় পুরো training ডেটা একবার করে দেখা শেষ হওয়া।যেখানে শিখবেন: পর্ব ০৪পর্ব ১০পর্ব ১১
- Epsilon prediction (ε-prediction)এপসাইলন প্রেডিকশন
- Diffusion network-কে noisy ছবি থেকে মেশানো noise ε অনুমান করানো, আর loss হিসেবে ε ও অনুমানের mean squared error নেওয়া।যেখানে শিখবেন: পর্ব ৭৯পর্ব ৯০
- Error analysisএরর অ্যানালিসিস
- Model-এর সত্যিকারের ভুলগুলো হাতে পড়ে ভাগ করা, যাতে বোঝা যায় পরের চেষ্টা ডেটায়, লেবেলে না model-এ দরকার।যেখানে শিখবেন: পর্ব ৪২পর্ব ৭০পর্ব ৮৬
- Estimation errorএস্টিমেশন এরর
- সীমিত আর noisy ডেটা থেকে শেখার কারণে class-এর সেরা সদস্যের চেয়ে যতটা খারাপ হয়, সেই বাড়তি ভুল; ডেটা বাড়লে কমে, class খুব নমনীয় হলে বাড়ে।যেখানে শিখবেন: পর্ব ০৬
- Eval setইভ্যাল সেট
- একটি model বা prompt পরীক্ষার জন্য বাছাই করা প্রশ্ন বা ইনপুটের তালিকা, প্রতিটির পাশে প্রত্যাশিত উত্তর বা নম্বর দেওয়ার নিয়ম; প্রতিটি বদলের পর একই তালিকা আবার চালানো হয়।যেখানে শিখবেন: পর্ব ৬৬পর্ব ৭০পর্ব ৮৫
- eval_strategyইভ্যাল স্ট্র্যাটেজি
- Training-এর কোন সময়ে validation-এ মূল্যায়ন হবে, প্রতি epoch-এ, প্রতি কয়েকটি step-এ, নাকি কখনো নয়, সেই সেটিং।যেখানে শিখবেন: পর্ব ৫৪
- Event file (tfevents)ইভেন্ট ফাইল
- TensorBoard-এর ফাইল, যাতে প্রতিটি লেখা মান step, সময় আর tag-সহ জমা হয়; নামে সময়, যন্ত্রের নাম আর process id থাকে।যেখানে শিখবেন: পর্ব ১৯
- Evidence (marginal likelihood)মার্জিনাল লাইকলিহুড
- Latent z-এর সব সম্ভাব্য মানের ওপর যোগ বা integral করে পাওয়া ডেটার মোট probability, p(x) = ∫ p(x | z) p(z) dz; VAE-তে এটি সরাসরি হিসাব করা যায় না।যেখানে শিখবেন: পর্ব ৭৬
- Exact cacheএক্স্যাক্ট ক্যাশ
- হুবহু একই প্রশ্ন (ফাঁকা জায়গা আর যতিচিহ্ন এক রূপে এনে) আবার এলে আগের উত্তর ফেরত দেওয়া cache; ভুল hit প্রায় হয় না, কিন্তু hit কম।যেখানে শিখবেন: পর্ব ৮৫
- Exact-match accuracyএগজ্যাক্ট-ম্যাচ অ্যাকিউরেসি
- যত ভাগ output সঠিক উত্তরের সঙ্গে অক্ষরে অক্ষরে মিলেছে; একটি অক্ষর ভুল হলেও পুরোটাই ভুল ধরা হয়।যেখানে শিখবেন: পর্ব ৩০পর্ব ৫১পর্ব ৫৮
- Excessive agencyএক্সেসিভ এজেন্সি
- AI-এর হাতে দরকারের চেয়ে বেশি tool, অধিকার বা স্বাধীনতা থাকার ঝুঁকি।যেখানে শিখবেন: পর্ব ৭৩
- Execution providerএক্সিকিউশন প্রোভাইডার
- ONNX Runtime-এর হার্ডওয়্যার-সংযোগ: কোন operation CPU, CUDA, TensorRT বা OpenVINO-র মতো কোন backend-এ চলবে, তা এটি ঠিক করে।যেখানে শিখবেন: পর্ব ৮৪
- ExecuTorchএক্সিকিউটর্চ
- PyTorch-এর edge-এর inference সমাধান; torch.export-এর graph থেকে .pte ফাইল বানিয়ে ফোন থেকে embedded যন্ত্রে চালায়।যেখানে শিখবেন: পর্ব ৮৪
- Exfiltrationএক্সফিলট্রেশন
- ভেতরের ডেটা গোপনে বাইরে নিয়ে যাওয়া।যেখানে শিখবেন: পর্ব ৭৩
- Expansion factor (r)এক্সপ্যানশন ফ্যাক্টর
- FFN-এর মাঝের স্তর d-এর কত গুণ চওড়া, সেই সংখ্যা; মূল Transformer-এ 2048/512 = 4.যেখানে শিখবেন: পর্ব ৩৫
- Expected calibration error (ECE)এক্সপেক্টেড ক্যালিব্রেশন এরর
- প্রতিটি ঝুড়িতে গড় অনুমান আর বাস্তব হারের পরম পার্থক্য, ঝুড়ির উদাহরণের অনুপাত দিয়ে ওজন করে যোগফল; কম হলে ভালো, তবে ঝুড়ির সংখ্যা আর ধরনের ওপর নির্ভর করে।যেখানে শিখবেন: পর্ব ১৩পর্ব ৫২পর্ব ৯১
- Exploding gradientএক্সপ্লোডিং গ্রেডিয়েন্ট
- গভীর network-এ backpropagation-এর সময় প্রতিটি স্তরে ১-এর চেয়ে বড় গুণনীয়ক জমে gradient বিশাল হয়ে যাওয়া, ফলে একটি আপডেটেই weight লাফিয়ে যায় আর loss inf বা NaN হয়ে পড়ে।যেখানে শিখবেন: পর্ব ১৭পর্ব ১৮পর্ব ৩৫
- Exponential backoff (with jitter)এক্সপোনেনশিয়াল ব্যাকঅফ
- প্রতিবার ব্যর্থ হলে পরের চেষ্টার আগে অপেক্ষা গুণিতক হারে বাড়ানো, সঙ্গে একটু এলোমেলো সময়, যাতে সবাই একসঙ্গে আবার চেষ্টা না করে।যেখানে শিখবেন: পর্ব ৮৫
- Exponential moving averageএক্সপোনেনশিয়াল মুভিং অ্যাভারেজ
- যে চলমান গড়ে নতুন মানের ওজন (1 − β) আর পুরোনো গড়ের ওজন β; deep learning-এ training-এর weight-এর এমন গড় আলাদা কপিতে রাখা হয়।যেখানে শিখবেন: পর্ব ১৬পর্ব ৭৯
- Exposure biasএক্সপোজার বায়াস
- Training-এ শুধু সঠিক ইতিহাস দেখা decoder নিজের ভুলের পরের পরিস্থিতিতে দুর্বল হওয়ার সমস্যা।যেখানে শিখবেন: পর্ব ৩০
- External data (ONNX)এক্সটার্নাল ডেটা
- ONNX ফাইলের ওজন আলাদা একটি .data ফাইলে রাখার ব্যবস্থা; মূল .onnx ফাইল তখন ছোট, কিন্তু দুটি ফাইল একসঙ্গে না থাকলে model খোলে না।যেখানে শিখবেন: পর্ব ৮৪
- Extrapolationএক্সট্রাপোলেশন
- মাপা সীমার বাইরের মান সূত্র দিয়ে অনুমান করা; fit ভালো হলেও বাইরে ভুল হতে পারে, কারণ বাইরে ডেটা নেই বলে সূত্রটি যাচাই হয়নি।যেখানে শিখবেন: পর্ব ৫১
F
- F1 scoreএফ-ওয়ান স্কোর
- Precision আর recall-এর harmonic mean: F1 = 2·TP / (2·TP + FP + FN).যেখানে শিখবেন: পর্ব ৪২পর্ব ৪৩পর্ব ৪৫
- Factorized embeddingফ্যাক্টরাইজড এমবেডিং
- V × H মাপের একটি table-এর বদলে V × E আর E × H দুটি ছোট matrix, যেখানে E অনেক ছোট।যেখানে শিখবেন: পর্ব ৪৮
- Failure modeফেইলিওর মোড
- কোনো উত্তর কোন ধরনে ভুল হলো তার নাম, যেমন ফরম্যাট ভাঙা, বানানো নীতি, ভুল ভাষা বা নির্দেশ উপেক্ষা; ভুলগুলো ধরন ধরে গুনলে কোথায় কাজ করতে হবে তা বোঝা যায়।যেখানে শিখবেন: পর্ব ৬৬
- FAISSফেইস
- Meta-র গবেষণা দলের তৈরি open-source library, dense vector-এর similarity search আর clustering-এর জন্য; Flat, IVF, PQ, HNSW-সহ বহু index দেয়।যেখানে শিখবেন: পর্ব ৬৮
- Faithfulnessফেইথফুলনেস
- উত্তরের দাবিগুলো দেওয়া উৎস বা নথিতে সত্যিই আছে কি না, অর্থাৎ বাইরে থেকে কিছু বানানো হয়নি কি না, তার মাপ।যেখানে শিখবেন: পর্ব ৫৮পর্ব ৬৯পর্ব ৭০
- Fallbackফলব্যাক
- প্রথম পথ সময়মতো বা ঠিকমতো উত্তর না দিলে পরিকল্পিত দ্বিতীয় পথ, যেমন ছোট model বা মানুষের কাছে টিকিট; মান কমতে পারে, তাই আলাদা করে মাপতে হয়।যেখানে শিখবেন: পর্ব ৮৫পর্ব ৯১
- False hit (cache)ফলস হিট
- Cache থেকে এমন উত্তর দেওয়া, যা আসলে অন্য প্রশ্নের; semantic cache-এ কাছাকাছি কিন্তু আলাদা প্রশ্নে এটি ঘটে।যেখানে শিখবেন: পর্ব ৮৫
- False positiveফলস পজিটিভ
- নিরীহ জিনিসকে ভুল করে ক্ষতিকর বলে সতর্কতা দেওয়া বা আটকানো।যেখানে শিখবেন: পর্ব ৭৩
- Fan-in (fan_in)ফ্যান-ইন
- একটি neuron-এ কতগুলো input ঢোকে; nn.Linear(in, out)-এ fan_in = in, আর fan_out = out.যেখানে শিখবেন: পর্ব ১৪
- Fashion-MNISTফ্যাশন-এমনিস্ট
- Zalando Research-এর ২০১৭ সালের ডেটাসেট: ১০টি পোশাক-শ্রেণির ২৮×২৮ মাপের ৭০,০০০টি ধূসর ছবি, ৬০,০০০ train আর ১০,০০০ test; MNIST-এর জায়গায় একটু কঠিন বিকল্প হিসেবে বানানো।যেখানে শিখবেন: পর্ব ২১পর্ব ৭৫পর্ব ৭৮
- Fast tokenizerফাস্ট টোকেনাইজার
- Rust-এ লেখা tokenizers library-ভিত্তিক tokenizer, যা অনেক বাক্য একসঙ্গে দ্রুত ভাঙে আর প্রতিটি token মূল লেখার কোন অক্ষর থেকে এসেছে (offset) তাও দেয়।যেখানে শিখবেন: পর্ব ৫৩
- FastAPIফাস্ট-এপিআই
- Python-এর একটি web framework, যা function-এর type hint থেকে ইনপুট যাচাই আর OpenAPI docs তৈরি করে; Starlette আর Pydantic-এর ওপর বানানো।যেখানে শিখবেন: পর্ব ৮৪পর্ব ৮৬
- fastTextফাস্টটেক্সট
- Bojanowski ও সহকর্মীদের পদ্ধতি ও library, যা শব্দের vector-কে তার character n-gram-এর vector থেকে বানায়, তাই অদেখা শব্দেও vector দিতে পারে।যেখানে শিখবেন: পর্ব ৪১
- Feature engineeringফিচার ইঞ্জিনিয়ারিং
- কাঁচা কলাম থেকে model-এর কাজে লাগে এমন সংখ্যা বানানো: scaling, encoding, log, অনুপাত, সময়ের অংশ ইত্যাদি; যা কিছু ডেটা থেকে শেখে, তা শুধু train অংশে fit করতে হয়।যেখানে শিখবেন: পর্ব ০১
- Feature extraction (transfer learning)ফিচার এক্সট্র্যাকশন
- Pretrained backbone পুরো freeze রেখে তার feature-এর ওপর শুধু নতুন head শেখানো; অল্প ডেটায় নিরাপদ, আর feature একবার হিসাব করে রেখে দেওয়া যায়।যেখানে শিখবেন: পর্ব ২৩পর্ব ৩৮
- Feature hierarchyফিচার হায়ারার্কি
- গভীর network-এ স্তরে স্তরে feature-এর সাজানো রূপ: প্রথম দিকের layer কিনারা আর রঙের মতো সাধারণ জিনিস, মাঝের layer texture আর অংশ, আর শেষের layer কাজের শ্রেণির কাছাকাছি নির্দিষ্ট ধারণা ধরে।যেখানে শিখবেন: পর্ব ২৩
- Feature map (activation map)ফিচার ম্যাপ
- CNN-এ একটি filter ছবি বা আগের স্তরের ওপর সরে যে ২-মাত্রার output বানায়; যেখানে filter-এর নকশা মেলে সেখানে মান বড় হয়, আর প্রতিটি channel-এর জন্য এমন একটি করে map তৈরি হয়।যেখানে শিখবেন: পর্ব ২৫পর্ব ২৬
- Feature map (CNN)ফিচার ম্যাপ
- একটি filter পুরো ছবিতে চালিয়ে পাওয়া 2-D output, অর্থাৎ ছবির কোথায় কোন নকশা কতটা আছে তার মানচিত্র; একটি স্তরের প্রতিটি output channel একটি feature map.যেখানে শিখবেন: পর্ব ২০
- Feature map (φ)ফিচার ম্যাপ
- প্রতিটি ইনপুট x-কে নতুন, সাধারণত বেশি মাত্রার একটি vector φ(x)-এ নেওয়ার নিয়ম; সেই জগতে টানা সরল সমতল মূল জগতে বাঁকা সীমানা হয়।যেখানে শিখবেন: পর্ব ০২
- Feature Pyramid Network (FPN)ফিচার পিরামিড নেটওয়ার্ক
- Backbone-এর গভীর আর অগভীর স্তরের feature map ওপর থেকে নিচে মিলিয়ে কয়েকটি মাপের map বানানোর কাঠামো, যাতে বড় আর ছোট দুই রকম বস্তুই খোঁজা যায়; Lin ও সহকর্মীরা ২০১৭ সালে প্রস্তাব করেন।যেখানে শিখবেন: পর্ব ২৫
- Few-shotফিউ-শট
- Model-কে prompt-এ অল্প কয়েকটি উদাহরণ দেখিয়ে কাজ করানো, আলাদা করে train না করে।যেখানে শিখবেন: পর্ব ৩৯পর্ব ৬১
- FGSM (Fast Gradient Sign Method)এফজিএসএম
- এক ধাপের adversarial আক্রমণ: x′ = x + ε · sign(∇ₓL), অর্থাৎ প্রতিটি pixel loss বাড়ানোর দিকে ঠিক ε নড়ে; ২০১৪ সালে Goodfellow ও সহকর্মীরা প্রস্তাব করেন।যেখানে শিখবেন: পর্ব ২৬
- FID (Fréchet Inception Distance)এফআইডি
- আসল আর generated ছবির feature-কে দুটি Gaussian ধরে তাদের Fréchet distance; কম মানে কাছাকাছি, তবে নমুনার সংখ্যা আর feature extractor বদলালে মান বদলায়।যেখানে শিখবেন: পর্ব ৭৮পর্ব ৭৯পর্ব ৮১
- Fine-tuningফাইন-টিউনিং
- Pretrained weight থেকে শুরু করে নিজের ডেটায় backbone-এর কিছু বা সব layer আরও শেখানো, সাধারণত head-এর চেয়ে ছোট learning rate-এ।যেখানে শিখবেন: পর্ব ২৩পর্ব ৪৮পর্ব ৫৪
- Finite differenceফাইনাইট ডিফারেন্স
- একটি মানে খুব ছোট পরিবর্তন করে output-এর বদল মেপে derivative অনুমান করার পদ্ধতি; central রূপে (f(x+ε) − f(x−ε)) / 2ε.যেখানে শিখবেন: পর্ব ৩৫পর্ব ৯০
- Finite-state machineফাইনাইট-স্টেট মেশিন
- সীমিত কয়েকটি অবস্থা আর এক অবস্থা থেকে আরেকটিতে যাওয়ার নিয়ম দিয়ে তৈরি যন্ত্র-ধারণা; regex আর সরল ব্যাকরণ এভাবে লেখা যায়।যেখানে শিখবেন: পর্ব ৬২
- First-token latencyফার্স্ট টোকেন লেটেন্সি
- অনুরোধ পাঠানোর পর প্রথম token আসতে যে সময় লাগে; এর বড় অংশ যায় prompt-এর পূর্ণ pass-এ।যেখানে শিখবেন: পর্ব ৩৭পর্ব ৬৫
- Fixed-context bottleneckফিক্সড-কনটেক্সট বটলনেক
- Input যত লম্বাই হোক, সব তথ্য একই আকারের context vector দিয়ে পার করার সীমাবদ্ধতা।যেখানে শিখবেন: পর্ব ৩০
- Fixed-window neural LMফিক্সড-উইন্ডো এলএম
- শেষের নির্দিষ্ট w টি token-এর embedding জুড়ে একটি MLP দিয়ে পরের token অনুমান করা। Bengio ও সহকর্মীদের ২০০৩ সালের প্রবন্ধের মূল ধারণা।যেখানে শিখবেন: পর্ব ৪৬
- FlashAttentionফ্ল্যাশ অ্যাটেনশন
- Dao ও সহকর্মীদের ২০২২ সালের একটি exact attention পদ্ধতি, যা tile আর online softmax দিয়ে GPU-র বড় memory-তে আনা-নেওয়া কমায়।যেখানে শিখবেন: পর্ব ৩৭পর্ব ৮৯
- float16 (half precision)ফ্লোট সিক্সটিন
- ২ বাইটের IEEE 754 দশমিক সংখ্যা: ৫টি exponent আর ১০টি mantissa বিট; নির্ভুলতা মোটামুটি, কিন্তু সর্বোচ্চ মান প্রায় ৬৫,৫০৪, তার বেশি হলে inf হয়।যেখানে শিখবেন: পর্ব ০৭পর্ব ১২পর্ব ৫৯
- float32 (single precision)ফ্লোট থার্টি-টু
- ৪ byte-এর দশমিক সংখ্যা, যার নির্ভুলতা প্রায় ৭টি অঙ্ক; float64-এর অর্ধেক মেমরি নেয়, কিন্তু লম্বা যোগফলে ভুল দ্রুত জমে।যেখানে শিখবেন: পর্ব ০১পর্ব ০৩পর্ব ০৭
- float64ফ্লোট সিক্সটি-ফোর
- ৬৪ bit-এর দশমিক সংখ্যা (double precision), প্রায় ১৫–১৬ অঙ্ক পর্যন্ত নির্ভুল; gradient check-এর মতো সূক্ষ্ম তুলনায় ব্যবহার হয়।যেখানে শিখবেন: পর্ব ০৮
- Floating-point underflowআন্ডারফ্লো
- হিসাবের ফল এত ছোট যে float তা রাখতে পারে না, তাই চুপচাপ ০ হয়ে যায়; যেমন float64-এ e^(−800), যার log নিলে −inf আসে।যেখানে শিখবেন: পর্ব ০৩পর্ব ১২পর্ব ১৭
- FLOP (floating-point operation)ফ্লপ
- দশমিক সংখ্যার একটি যোগ বা গুণ; হিসাবের খরচ গোনার একক, যেমন (B, n) আর (n, m) matrix গুণে প্রায় 2·B·n·m FLOP.যেখানে শিখবেন: পর্ব ০৪পর্ব ১২পর্ব ২০
- Focal lossফোকাল লস
- −α_t (1 − p_t)^γ ln p_t আকারের loss, যেখানে p_t সঠিক শ্রেণির probability; γ বাড়ালে ভালোভাবে শেখা সহজ উদাহরণের loss প্রায় শূন্য হয় আর জোর যায় কঠিন উদাহরণে। Lin ও সহকর্মীরা ২০১৭ সালে object detection-এর জন্য প্রস্তাব করেন।যেখানে শিখবেন: পর্ব ১৩পর্ব ২৫
- Forecast originফোরকাস্ট অরিজিন
- যে মুহূর্তে দাঁড়িয়ে অনুমান করা হয়; এর পরের কোনো মান তখনো জানা নেই।যেখানে শিখবেন: পর্ব ৩১
- Forget gateফরগেট গেট
- LSTM-এর gate, যা ০ থেকে ১-এর মান দিয়ে ঠিক করে পুরোনো cell state-এর কত অংশ পরের ধাপে থাকবে; ১ মানে পুরোটা থাকে, ০ মানে সব মুছে যায়।যেখানে শিখবেন: পর্ব ২৯পর্ব ৮৮
- Forget-gate biasফরগেট-গেট বায়াস
- forget gate-এর bias-কে শুরুতে ধনাত্মক রাখা, যাতে training-এর শুরুতেই f ১-এর কাছাকাছি থাকে আর gradient অনেক ধাপ পৌঁছায়।যেখানে শিখবেন: পর্ব ২৯
- Format breakফরম্যাট ব্রেক
- উত্তর চাওয়া আকারে না আসা, যেমন শুরুতে নির্দিষ্ট ট্যাগ নেই, ফলে উত্তর পড়া প্রোগ্রাম সেটি ব্যবহার করতে পারে না।যেখানে শিখবেন: পর্ব ৬৬
- Format complianceফরম্যাট কমপ্লায়েন্স
- Model-এর উত্তর চাওয়া ফরম্যাট হুবহু মেনেছে কি না, যেমন শুধু একটি অনুমোদিত শব্দ; নির্ভুলতা থেকে আলাদা করে গোনা হয়।যেখানে শিখবেন: পর্ব ৬০
- Format overfittingফরম্যাট ওভারফিটিং
- SFT-এর পর model যে প্রশ্নই পাক, শেখার ডেটার ছাঁচ বা বিষয় চাপিয়ে উত্তর দেয়; নতুন ধরনের প্রশ্নে এটি চোখে পড়ে।যেখানে শিখবেন: পর্ব ৫৬পর্ব ৯১
- Forward algorithmফরোয়ার্ড অ্যালগরিদম
- সব পথের মোট সম্ভাবনা বা score-যোগফল বের করার dynamic programming পদ্ধতি; CRF-এ এটি log Z দেয়, Viterbi-র max-এর জায়গায় log-sum-exp নিয়ে।যেখানে শিখবেন: পর্ব ৪৩
- Forward hookফরোয়ার্ড হুক
- PyTorch-এ register_forward_hook দিয়ে একটি module-এ বসানো function, যা প্রতিবার forward-এর পরে input আর output হাতে পায়; মাপা বা লগ করার জন্য কাজে লাগে।যেখানে শিখবেন: পর্ব ২২পর্ব ২৬পর্ব ৫২
- Forward passফরওয়ার্ড পাস
- Input থেকে শুরু করে প্রতিটি layer-এর হিসাব (matrix গুণ, bias, activation) পেরিয়ে output আর loss পর্যন্ত একবার হিসাব করা।যেখানে শিখবেন: পর্ব ০৩
- Forward process (diffusion)ফরওয়ার্ড প্রসেস
- Diffusion model-এ ছবিতে ধাপে ধাপে Gaussian noise মেশানোর নির্দিষ্ট Markov chain; এতে শেখার কোনো parameter নেই, আর শেষে ছবি প্রায় খাঁটি noise হয়ে যায়।যেখানে শিখবেন: পর্ব ৭৯
- Forward-mode automatic differentiationফরওয়ার্ড মোড
- প্রোগ্রামের সঙ্গে সঙ্গে একটি input দিকের derivative সামনে বয়ে নেওয়া, যা একবারে একটি Jacobian-vector product দেয়; কম input আর বেশি output-এ সুবিধাজনক।যেখানে শিখবেন: পর্ব ০৫
- Free bitsফ্রি বিটস
- Kingma ও সহকর্মীদের (২০১৬) কৌশল: প্রতিটি latent মাত্রায় একটি ন্যূনতম পরিমাণ KL-এর জন্য দণ্ড না দেওয়া, যাতে মাত্রাগুলো পুরো নিষ্ক্রিয় না হয়।যেখানে শিখবেন: পর্ব ৭৬
- Free-running decodeফ্রি-রানিং ডিকোড
- Decoder যখন পরের ইনপুট হিসেবে নিজের আগের অনুমানই নেয়; আসল ব্যবহারের সময় এটিই ঘটে।যেখানে শিখবেন: পর্ব ৩০
- Freezing parametersফ্রিজিং প্যারামিটার্স
- কিছু parameter-এর requires_grad False করে দেওয়া, যাতে training-এ সেগুলোর gradient হিসাব না হয় আর মান না বদলায়; pretrained model-এর অংশ স্থির রাখতে ব্যবহার হয়।যেখানে শিখবেন: পর্ব ০৮পর্ব ২৩পর্ব ৪৮
- Frozen encoderফ্রোজেন এনকোডার
- Pretrained অংশের weight স্থির রেখে শুধু ওপরের head শেখানো।যেখানে শিখবেন: পর্ব ৪৭
- Fréchet distance (দুটি Gaussian-এর)ফ্রেশে ডিস্ট্যান্স
- দুটি Gaussian-এর দূরত্ব ‖μ₁ − μ₂‖² + Tr(Σ₁ + Σ₂ − 2(Σ₁Σ₂)^½); এক মাত্রায় এটি (μ₁ − μ₂)² + (σ₁ − σ₂)², অর্থাৎ গড় আর ছড়ানো দুটোই মিলতে হয়।যেখানে শিখবেন: পর্ব ৮১পর্ব ৮৯
- Full fine-tuningফুল ফাইন-টিউনিং
- Pretrained model-এর সব parameter নতুন কাজের ডেটায় শেখানো; প্রতিটি parameter-এর gradient আর optimizer state লাগে বলে memory আর জমার খরচ সবচেয়ে বেশি।যেখানে শিখবেন: পর্ব ৫৫পর্ব ৮৬পর্ব ৮৯
- Function calling (tool calling)ফাংশন কলিং
- LLM-কে function-এর নাম আর parameter-এর JSON Schema দেওয়া, যাতে model উত্তরের বদলে কোন function কোন argument দিয়ে ডাকতে হবে তা JSON-এ লেখে; চালানোর কাজ আপনার কোডের।যেখানে শিখবেন: পর্ব ৬২
- FVSBN (fully visible sigmoid belief network)এফভিএসবিএন
- সবচেয়ে সরল autoregressive মডেল: প্রতিটি ০/১ মাত্রার জন্য আগের সব মাত্রা থেকে একটি logistic regression; hidden layer নেই।যেখানে শিখবেন: পর্ব ৭৪
G
- GAN (generative adversarial network)গ্যান
- দুটি network-এর একটি generative model: generator নমুনা বানায় আর discriminator আসল ও নকল আলাদা করতে শেখে; দুজনের প্রতিযোগিতায় generator আসলের মতো নমুনা বানাতে শেখে। Goodfellow ও সহকর্মীরা ২০১৪ সালে প্রস্তাব করেন।যেখানে শিখবেন: পর্ব ৭৭
- Gaussian mixture model (GMM)গাউসিয়ান মিক্সচার মডেল
- কয়েকটি Gaussian-এর ওজন দেওয়া যোগফল দিয়ে বানানো density, p(x) = ∑ πₖ N(x; μₖ, Σₖ); EM দিয়ে শেখা হয় আর component বেছে নিয়ে নমুনা তোলা যায়।যেখানে শিখবেন: পর্ব ৭৪
- GELU (Gaussian Error Linear Unit)জেলু
- z·Φ(z) সূত্রের মসৃণ activation, যেখানে Φ standard normal-এর CDF; বড় ধনাত্মক z প্রায় পুরোটা রাখে, বড় ঋণাত্মক z প্রায় ০ করে, আর অনেক Transformer-এ ব্যবহৃত।যেখানে শিখবেন: পর্ব ০৩পর্ব ২২পর্ব ৩৫
- GEMM (general matrix multiply)জেম
- BLAS লাইব্রেরির সাধারণ matrix গুণের routine, যা cache আর vector instruction কাজে লাগিয়ে খুব দ্রুত চলে; im2col convolution-কে এতে রূপান্তর করে।যেখানে শিখবেন: পর্ব ২০
- Generalisation gapজেনারালাইজেশন গ্যাপ
- Validation বা test-এর loss আর train loss-এর পার্থক্য; ফাঁক বড় আর বাড়তে থাকলে model training ডেটা মুখস্থ করছে।যেখানে শিখবেন: পর্ব ১৮
- Generalizationজেনারালাইজেশন
- Training-এ দেখা হয়নি এমন নতুন উদাহরণেও ঠিক উত্তর দিতে পারার ক্ষমতা।যেখানে শিখবেন: পর্ব ০৬
- Generation promptজেনারেশন প্রম্পট
- Template-এর শেষে জোড়া assistant-এর পালা শুরুর চিহ্ন; এটি না থাকলে model উত্তর শুরু করার সংকেত পায় না।যেখানে শিখবেন: পর্ব ৫২পর্ব ৫৬
- Generative adversarial network (GAN)জেনারেটিভ অ্যাডভারসারিয়াল নেটওয়ার্ক
- Generator আর discriminator নামের দুটি network-এর প্রতিযোগিতায় শেখা implicit মডেল; দ্রুত নমুনা দেয়, কিন্তু q(x)-এর কোনো সূত্র দেয় না।যেখানে শিখবেন: পর্ব ৭৪পর্ব ৮৯
- Generative learning trilemmaজেনারেটিভ লার্নিং ট্রাইলেমা
- উঁচু মানের নমুনা, বৈচিত্র্য আর দ্রুত নমুনা — এই তিন চাহিদার টানাপোড়েন; Xiao, Kreis আর Vahdat-এর ২০২২-এর প্রবন্ধে দেওয়া নাম।যেখানে শিখবেন: পর্ব ৭৪
- Generative Modelজেনারেটিভ মডেল
- যে মডেল ডেটার বণ্টন p(x) বা p(x, y) শেখে; তাই নতুন নমুনা তৈরি করতে পারে, আর অনেক ক্ষেত্রে একটি x কতটা সম্ভব তাও বলতে পারে।যেখানে শিখবেন: পর্ব ৭৪
- Generator (GAN)জেনারেটর
- GAN-এর যে network একটি এলোমেলো latent vector z নিয়ে একটি নমুনা G(z) বানায়; সে আসল ডেটা সরাসরি দেখে না, শুধু discriminator-এর gradient থেকে শেখে।যেখানে শিখবেন: পর্ব ৭৭পর্ব ৭৮
- GGUFজিজিইউএফ
- llama.cpp প্রকল্পের একটি ফাইল ফরম্যাট, যাতে ওজন, tokenizer আর metadata একসঙ্গে থাকে আর নানা block-ভিত্তিক quantization ধরন সমর্থিত; CPU-তে local LLM চালাতে প্রচলিত।যেখানে শিখবেন: পর্ব ৫৯পর্ব ৮৩
- Global average pooling (GAP)গ্লোবাল অ্যাভারেজ পুলিং
- প্রতিটি channel-এর পুরো H × W-এর গড় নিয়ে (N, C, H, W) থেকে (N, C) বানানো; parameter নেই আর যেকোনো আকারের ছবি নেওয়া যায়।যেখানে শিখবেন: পর্ব ২০পর্ব ২১পর্ব ২২
- Global forecasting modelগ্লোবাল মডেল
- অনেকগুলো series (যেমন সব জেলা বা সব পণ্য) একসঙ্গে একটি model-এ শেখানো, series-এর পরিচয় একটি feature হিসেবে দিয়ে; ছোট বা নতুন series অন্যদের ধরন থেকে ধার নিতে পারে।যেখানে শিখবেন: পর্ব ৩১
- GloVeগ্লোভ
- Pennington, Socher আর Manning-এর ২০১৪ সালের পদ্ধতি, যা ওজনসহ least squares-এ log co-occurrence-কে দুই vector-এর dot আর bias দিয়ে কাছে আনে।যেখানে শিখবেন: পর্ব ৪১
- Goal driftগোল ড্রিফট
- বহু ধাপের কাজে agent-এর মূল অনুরোধ থেকে সরে যাওয়া, যেমন অপ্রয়োজনীয় কাজ করা বা অনুরোধের বাইরে ঝুঁকিপূর্ণ কাজ করা।যেখানে শিখবেন: পর্ব ৭২
- Goodhart's lawগুডহার্টের নিয়ম
- যখন একটি মাপ লক্ষ্য হয়ে যায়, তখন সেটি আর ভালো মাপ থাকে না, কারণ মানুষ বা model মাপটিকে আসল লক্ষ্য ছাড়াই বাড়াতে শেখে।যেখানে শিখবেন: পর্ব ৪৫পর্ব ৫৭
- Goodputগুডপুট
- প্রতি সেকেন্ডে কতগুলো অনুরোধ নির্ধারিত সময়সীমার (যেমন TTFT আর TPOT-এর সীমা) মধ্যে শেষ হয়; শুধু token/s-এর চেয়ে ব্যবহারকারীর কাছে বেশি অর্থবহ।যেখানে শিখবেন: পর্ব ৮৩পর্ব ৮৭
- GoogLeNetগুগলেনেট
- Szegedy ও সহকর্মীদের ২০১৪ সালের ২২ স্তরের CNN, যা Inception module সাজিয়ে বানানো আর AlexNet-এর চেয়ে অনেক কম parameter নিয়ে সেই বছরের ImageNet classification প্রতিযোগিতায় প্রথম হয়।যেখানে শিখবেন: পর্ব ২১
- GPTQজিপিটিকিউ
- Frantar ও সহলেখকদের ২০২২ সালের post-training পদ্ধতি: অল্প calibration ডেটায় layer-এর output যত কম বদলায়, সেভাবে ওজন একে একে ৩–৪ bit-এ নেওয়া আর বাকি ওজন সংশোধন করা।যেখানে শিখবেন: পর্ব ৫৯
- GPU (Graphics Processing Unit)জিপিইউ
- মূলত ছবি আঁকার জন্য তৈরি processor, যা একসঙ্গে হাজার হাজার সরল হিসাব করতে পারে; তাই neural network প্রশিক্ষণে খুব কাজে লাগে।যেখানে শিখবেন: পর্ব ০১পর্ব ০৩পর্ব ১২
- Graceful degradationগ্রেসফুল ডিগ্রেডেশন
- কোনো অংশ ব্যর্থ হলে পুরো সেবা বন্ধ না করে সরল রূপে মূল কাজ চালিয়ে যাওয়া, যেমন বড় model বন্ধ থাকলে ছোট model বা টিকিট।যেখানে শিখবেন: পর্ব ৮৫
- Grad-CAMগ্র্যাড-ক্যাম
- শেষ conv স্তরের প্রতিটি channel-এর জন্য class score-এর gradient-এর স্থান-গড় α নিয়ে, ReLU(∑ α·A) দিয়ে বানানো localisation map; যেকোনো CNN-এ এক forward আর এক backward-এ চলে।যেখানে শিখবেন: পর্ব ২৬
- grad_fnগ্র্যাড এফএন
- PyTorch-এ কোনো কাজের ফল tensor-এর সঙ্গে যুক্ত backward node, যেমন MulBackward0; এটি জানে কোন parent-দের কাছে gradient পাঠাতে হবে আর সেজন্য কোন মান মনে রাখা আছে। leaf tensor-এর grad_fn থাকে None.যেখানে শিখবেন: পর্ব ০৮
- Graded relevanceগ্রেডেড রেলিভেন্স
- প্রাসঙ্গিকতাকে শুধু হ্যাঁ বা না না ধরে মাত্রায় দেওয়া, যেমন ২ = পুরো উত্তর, ১ = আংশিক, ০ = অপ্রাসঙ্গিক; nDCG এমন মাত্রা সামলাতে পারে।যেখানে শিখবেন: পর্ব ৭০
- Gradient accumulationগ্রেডিয়েন্ট অ্যাকিউমুলেশন
- একাধিক backward-এর gradient মুছে না ফেলে যোগ হতে দেওয়া; ইচ্ছা করে করলে কয়েকটি ছোট batch মিলিয়ে বড় batch-এর প্রভাব পাওয়া যায়, ভুলে হলে আপডেট ভুল হয়।যেখানে শিখবেন: পর্ব ০৫পর্ব ১৫পর্ব ৯০
- Gradient boostingগ্রেডিয়েন্ট বুস্টিং
- ছোট গাছ একটির পর একটি যোগ করে, প্রতিটি নতুন গাছ আগের মিলিত অনুমানের ভুলের দিক (loss-এর gradient) শেখে; ধাপে ধাপে bias কমায়।যেখানে শিখবেন: পর্ব ৩১
- Gradient checkingগ্রেডিয়েন্ট চেকিং
- হাতে লেখা gradient-এর সূত্রকে finite difference দিয়ে পাওয়া সংখ্যার সঙ্গে মিলিয়ে বাগ ধরার অভ্যাস।যেখানে শিখবেন: পর্ব ০৪পর্ব ২৮পর্ব ৪১
- Gradient checkpointingগ্রেডিয়েন্ট চেকপয়েন্টিং
- Forward-এর কিছু activation না রেখে শুধু কয়েকটি বিন্দুতে রাখা, আর backward-এর সময় বাকিগুলো আবার হিসাব করা; বাড়তি হিসাবের বিনিময়ে memory বাঁচে।যেখানে শিখবেন: পর্ব ০৪পর্ব ০৫
- Gradient clippingগ্রেডিয়েন্ট ক্লিপিং
- আপডেটের আগে gradient-কে একটি সীমার মধ্যে আনা: norm ধরে (পুরো vector ছোট করা, দিক একই) বা value ধরে (প্রতিটি ঘর আলাদা কাটা, দিক বদলাতে পারে)।যেখানে শিখবেন: পর্ব ১৭পর্ব ২৮পর্ব ২৯
- Gradient descentগ্রেডিয়েন্ট ডিসেন্ট
- বারবার gradient-এর উল্টো দিকে ছোট পা ফেলে (w ← w − η·∇L) loss কমানোর পুনরাবৃত্তিমূলক পদ্ধতি।যেখানে শিখবেন: পর্ব ০১পর্ব ০২
- Gradient hookগ্র্যাডিয়েন্ট হুক
- tensor.register_hook দিয়ে বসানো একটি function, যা backward-এর সময় ওই tensor-এর gradient হাতে পায়; দেখার জন্য বা নতুন gradient ফেরত দিয়ে বদলানোর জন্য ব্যবহার হয়।যেখানে শিখবেন: পর্ব ০৮পর্ব ১৭
- Gradient maskingগ্রেডিয়েন্ট মাস্কিং
- যখন কোনো প্রতিরক্ষা model-এর gradient-কে অগোছালো বা অকেজো করে gradient-নির্ভর আক্রমণকে বিভ্রান্ত করে, অথচ আসল robustness বাড়ে না; শক্তিশালী বা অভিযোজিত আক্রমণে ধরা পড়ে।যেখানে শিখবেন: পর্ব ২৬
- Gradient normগ্রেডিয়েন্ট নর্ম
- সব gradient-এর ঘরগুলোর বর্গের যোগফলের বর্গমূল, অর্থাৎ gradient vector-এর দৈর্ঘ্য; স্তর ধরে বা পুরো model-এর জন্য লগ করলে vanishing আর exploding gradient ধরা পড়ে।যেখানে শিখবেন: পর্ব ১৭পর্ব ১৮পর্ব ৩৫
- Gradient penalty (WGAN-GP)গ্রেডিয়েন্ট পেনাল্টি
- আসল আর নকল নমুনার মাঝের এলোমেলো বিন্দুতে critic-এর input-সাপেক্ষ gradient-এর মাপ ১ থেকে সরে গেলে λ·(‖∇D‖ − ১)² শাস্তি; weight clipping-এর বদলে Lipschitz শর্ত রাখার নরম উপায়।যেখানে শিখবেন: পর্ব ৭৮
- Gradient × inputগ্রেডিয়েন্ট গুণ ইনপুট
- Saliency-কে pixel-এর মান দিয়ে গুণ করা ব্যাখ্যা; ছবি দেখতে সুন্দর হয়, কিন্তু গুণের কারণে এলোমেলো model-এও ছবির আকার ফুটে উঠতে পারে।যেখানে শিখবেন: পর্ব ২৬
- GradScalerগ্র্যাড-স্কেলার
- PyTorch-এর dynamic loss scaling-এর ব্যবস্থা: gradient-এ inf বা NaN পেলে সেই ধাপ বাদ দিয়ে scale অর্ধেক করে, অনেক ধাপ ঠিক চললে scale দ্বিগুণ করে।যেখানে শিখবেন: পর্ব ১২
- Grapheme clusterগ্রাফিম ক্লাস্টার
- চোখে একটি অক্ষর বলে দেখা একক, যা কয়েকটি code point দিয়ে তৈরি হতে পারে, যেমন বা (ব + া) বা ক্ষ (ক + ্ + ষ)।যেখানে শিখবেন: পর্ব ৪০পর্ব ৪১পর্ব ৮৯
- Greedy decodingগ্রিডি ডিকোডিং
- প্রতিটি ধাপে সবচেয়ে বেশি probability-র token বেছে নেওয়া; সহজ, কিন্তু পুরো sequence-এর সেরা উত্তরের নিশ্চয়তা দেয় না।যেখানে শিখবেন: পর্ব ৩০পর্ব ৪৯পর্ব ৫০
- Greedy searchগ্রিডি সার্চ
- প্রতিটি ধাপে শুধু তখনকার সবচেয়ে ভালো দেখানো পথ বাছা; HNSW-এ বর্তমান node-এর প্রতিবেশীদের মধ্যে প্রশ্নের সবচেয়ে কাছেরটিতে যাওয়া।যেখানে শিখবেন: পর্ব ৬৮
- Grid searchগ্রিড সার্চ
- প্রতিটি hyperparameter-এর কয়েকটি মান দিয়ে সব সমাহার চালিয়ে সেরাটি বাছাই; মাত্রা বাড়লে খরচ গুণে বাড়ে।যেখানে শিখবেন: পর্ব ১৯
- Griddingগ্রিডিং
- সব স্তরে একই dilation দিলে receptive field-এর ভেতরের কিছু input কখনো দেখা না হওয়ার সমস্যা; d = ১ থেকে শুরু করে ভিন্ন dilation দিলে কমে।যেখানে শিখবেন: পর্ব ৩১
- Ground truthগ্রাউন্ড ট্রুথ
- মানুষের দেওয়া সঠিক উত্তর বা লেবেল, যেমন হাতে আঁকা box বা mask, যার সঙ্গে model-এর prediction মেলানো হয়।যেখানে শিখবেন: পর্ব ২৫
- Group normalization (GroupNorm)গ্রুপ নরমালাইজেশন
- প্রতিটি নমুনার channel-গুলোকে কয়েকটি দলে ভাগ করে প্রতিটি দলের ভেতরে normalize করা; batch-নিরপেক্ষ, তাই ছোট batch-এর ছবির কাজে BatchNorm-এর বিকল্প।যেখানে শিখবেন: পর্ব ১৪পর্ব ৭৯পর্ব ৮০
- Group splitগ্রুপ স্প্লিট
- একই দলের সব সারি একসঙ্গে train বা test-এর এক পাশে রেখে ভাগ করা; একই গ্রাহক বা প্রায় একই লেখা তখন দুই পাশে থাকে না।যেখানে শিখবেন: পর্ব ৪২পর্ব ৯০
- Grouped-query attention (GQA)গ্রুপড কোয়েরি অ্যাটেনশন
- কয়েকটি query head মিলে এক জোড়া key-value head ভাগ করে নেওয়া, যাতে KV cache ছোট হয়।যেখানে শিখবেন: পর্ব ৩৭পর্ব ৪৯পর্ব ৫৫
- GRPO (Group Relative Policy Optimization)জি-আর-পি-ও
- DeepSeekMath প্রবন্ধের (২০২৪) PPO-রূপ: একই প্রশ্নের কয়েকটি উত্তরের reward-কে দলের গড় আর std দিয়ে normalise করে advantage বের করে, তাই value model লাগে না।যেখানে শিখবেন: পর্ব ৫৭
- GRU (Gated Recurrent Unit)জি-আর-ইউ
- LSTM-এর চেয়ে সরল gate-সহ recurrent unit: আলাদা cell state নেই, gate দুটি (update আর reset), parameter প্রায় চার ভাগের তিন ভাগ।যেখানে শিখবেন: পর্ব ২৯পর্ব ৩০
- Guardrailগার্ডরেল
- Model-এর বাইরে বসানো নিয়ম বা পরীক্ষা, যা input বা output যাচাই করে নিষিদ্ধ বা ঝুঁকিপূর্ণ কিছু আটকায় বা মানুষের কাছে পাঠায়।যেখানে শিখবেন: পর্ব ৮৫পর্ব ৮৬পর্ব ৮৮
- Guidance (diffusion)গাইডেন্স
- Sampling-এর সময় প্রতিটি ধাপে নমুনাকে শর্তের দিকে বাড়তি ঠেলা দেওয়ার কৌশল, যাতে শর্তের সঙ্গে মিল বাড়ে আর বৈচিত্র্য কিছুটা কমে।যেখানে শিখবেন: পর্ব ৮০
- Guidance scale (w)গাইডেন্স স্কেল
- CFG-এর সূত্রে শর্তের দিকে কত দূর যাওয়া হবে তার গুণক: ০ মানে শর্তহীন, ১ মানে সাধারণ conditional, বড় মানে শর্তের সঙ্গে বেশি মিল কিন্তু কম বৈচিত্র্য।যেখানে শিখবেন: পর্ব ৮০
H
- Hadamard product (element-wise product)হাদামার্ড প্রোডাক্ট
- একই shape-এর দুটি array-র ঘরে ঘরে গুণ, ⊙ চিহ্নে লেখা; NumPy-তে সাধারণ * চিহ্ন।যেখানে শিখবেন: পর্ব ০৪পর্ব ২৯
- Hallucinationহ্যালুসিনেশন
- LLM-এর আত্মবিশ্বাসী ভঙ্গিতে এমন কিছু লেখা, যা মিথ্যা বা বানানো; নামটি রূপক, model কিছু দেখছে এমন নয়।যেখানে শিখবেন: পর্ব ৫২পর্ব ৫৬পর্ব ৬৪
- Hapax legomenonহ্যাপাক্স
- কোনো সংকলনে মাত্র একবার আসা শব্দ।যেখানে শিখবেন: পর্ব ৩৯
- Hard attentionহার্ড অ্যাটেনশন
- সব ঘর মেশানোর বদলে একটিমাত্র ঘর বেছে নেওয়া; বাছাই differentiable নয়, তাই সরাসরি backpropagation চলে না।যেখানে শিখবেন: পর্ব ৩২
- Hard negativeহার্ড নেগেটিভ
- প্রশ্নের খুব কাছাকাছি দেখতে কিন্তু আসলে ভুল নথি; শেখার সময় এগুলো যোগ করলে model সূক্ষ্ম পার্থক্য শেখে।যেখানে শিখবেন: পর্ব ৬৭
- Hasanta (হসন্ত)হসন্ত
- ব্যঞ্জনের স্বর সরানোর চিহ্ন, U+09CD; Unicode-এ যুক্তাক্ষরও এটি দিয়ে গড়া হয়, তাই চোখের এক অক্ষর যন্ত্রে কয়েকটি code point.যেখানে শিখবেন: পর্ব ৩৯
- Hash collisionহ্যাশ কলিশন
- দুটি ভিন্ন ইনপুট একই hash মান বা bucket-এ পড়া; fastText-এ দুটি n-gram তখন একই vector ভাগ করে।যেখানে শিখবেন: পর্ব ৪১
- Hash functionহ্যাশ ফাংশন
- যেকোনো আকারের ডেটা থেকে নির্দিষ্ট দৈর্ঘ্যের একটি ছোট সংখ্যা বা ছাপ বানানোর নিয়ম; একই ইনপুটে সবসময় একই ফল দেয়, যেমন SHA-256.যেখানে শিখবেন: পর্ব ১৯পর্ব ৮১
- He/Kaiming initializationহি ইনিশিয়ালাইজেশন
- He ও সহকর্মীদের (২০১৫) নিয়ম: ReLU-এর জন্য weight-এর variance 2/fan_in, কারণ ReLU অর্ধেক মান শূন্য করে দেয়; PyTorch-এ kaiming_normal_ বা kaiming_uniform_.যেখানে শিখবেন: পর্ব ১৪পর্ব ৮৭পর্ব ৮৮
- Head-only trainingহেড-অনলি ট্রেইনিং
- Encoder জমিয়ে রেখে শুধু ওপরের classification head শেখানো।
- Health checkহেলথ চেক
- সার্ভিসের একটি ছোট endpoint, যা ডেকে বাইরের সিস্টেম জানতে পারে সার্ভিস চলছে কি না আর model load হয়েছে কি না।যেখানে শিখবেন: পর্ব ৮৪পর্ব ৮৬
- Heaps' lawহিপসের সূত্র
- লেখা বড় হলে আলাদা শব্দের সংখ্যা V ≈ K·N^β ধরে বাড়ে, যেখানে β এক-এর কম। অর্থাৎ নতুন শব্দ ধীরে হলেও আসতেই থাকে।যেখানে শিখবেন: পর্ব ৩৯
- Held-out dataহেল্ড-আউট ডেটা
- Training-এর গোনায় বা weight শেখায় ব্যবহার না করে সরিয়ে রাখা ডেটা, যা দিয়ে model-এর সাধারণীকরণ মাপা হয়।যেখানে শিখবেন: পর্ব ৪৬
- Held-out setহেল্ড-আউট সেট
- শেখানোর সময় model-কে একবারও না দেখানো আলাদা উদাহরণ, শুধু মূল্যায়নের জন্য রাখা।যেখানে শিখবেন: পর্ব ৫৬
- Hessian matrixহেসিয়ান
- একটি সংখ্যা-ফেরত function-এর সব দ্বিতীয় partial derivative-এর matrix, (i, j) ঘরে ∂²f/∂xᵢ∂xⱼ; n চলকের জন্য এর আকার n × n.যেখানে শিখবেন: পর্ব ০৮
- Hessian-vector productহেসিয়ান-ভেক্টর প্রোডাক্ট
- পুরো Hessian না বানিয়ে সরাসরি Hv হিসাব করা; gradient আর v-এর dot product-এর gradient নিলেই পাওয়া যায়, খরচ কয়েকটি gradient-এর সমান।যেখানে শিখবেন: পর্ব ০৮
- Hinge lossহিঞ্জ লস
- max(0, 1 − m), যেখানে m = y·z হলো margin; margin ১-এর কম হলেই শাস্তি দেয়, বেশি হলে শূন্য। SVM-এর loss, যা দিক শেখায় কিন্তু সম্ভাবনা দেয় না।যেখানে শিখবেন: পর্ব ০২
- Histogramহিস্টোগ্রাম
- মানের পরিসরকে কয়েকটি ব্যবধানে (bin) ভাগ করে প্রতিটিতে কতগুলো মান পড়ে তা গোনা; গোনাকে মোট সংখ্যা আর bin-এর প্রস্থ দিয়ে ভাগ করলে একটি সরল density পাওয়া যায়।যেখানে শিখবেন: পর্ব ৭৪
- Histogram-based gradient boosting (HistGradientBoosting)হিস্ট গ্রেডিয়েন্ট বুস্টিং
- scikit-learn-এর histogram-ভিত্তিক gradient boosting (HistGradientBoostingClassifier ও Regressor), যা feature-কে কয়েকটি bin-এ ভাগ করে দ্রুত split খোঁজে আর missing মান নিজেই সামলায়।যেখানে শিখবেন: পর্ব ০১
- HNSW (Hierarchical Navigable Small World)এইচ-এন-এস-ডব্লিউ
- কয়েক স্তরের প্রতিবেশী-graph-এর ANN index; ওপরের স্তরে অল্প node আর লম্বা লাফ, নিচে সব node, খোঁজা লোভীভাবে ওপর থেকে নামে।যেখানে শিখবেন: পর্ব ৬৮
- Huber lossহুবার লস
- ছোট ভুলে বর্গ আর বড় ভুলে পরম মানের মতো আচরণ করা loss; সীমা δ পেরোলে ঢাল স্থির থাকে, তাই outlier-এর টান সীমিত। Peter Huber ১৯৬৪ সালে প্রস্তাব করেন।যেখানে শিখবেন: পর্ব ১৩
- Hugging Face Hubহাগিং ফেস হাব
- model, dataset আর demo রাখার একটি অনলাইন ভান্ডার, যেখানে প্রতিটি repository Git-এর মতো commit ইতিহাস রাখে আর huggingface_hub library দিয়ে ফাইল নামানো যায়।যেখানে শিখবেন: পর্ব ০১পর্ব ২৩পর্ব ৫৩
- Human evaluationহিউম্যান ইভ্যালুয়েশন
- মানুষকে দিয়ে model-এর output বিচার করানো, যেমন দুটি ছবি পাশাপাশি দেখিয়ে কোনটি বেশি বাস্তব বা prompt বেশি মানে জিজ্ঞেস করা; ধীর ও ব্যয়বহুল, কিন্তু স্বয়ংক্রিয় মাপের শেষ যাচাই।যেখানে শিখবেন: পর্ব ৮১
- Human-in-the-loopহিউম্যান ইন দ্য লুপ
- স্বয়ংক্রিয় ব্যবস্থার মাঝে একজন মানুষের অনুমোদনের ধাপ; ঝুঁকির কাজ, যেমন বার্তা পাঠানো বা টাকা ফেরত, মানুষ “হ্যাঁ” বলার পরেই চলে।যেখানে শিখবেন: পর্ব ৭১পর্ব ৭২পর্ব ৭৩
- Hybrid searchহাইব্রিড সার্চ
- শব্দভিত্তিক খোঁজ (BM25 বা TF-IDF) আর embedding-এর খোঁজ মিলিয়ে একটি তালিকা বানানো।যেখানে শিখবেন: পর্ব ৬৭
- Hydraহাইড্রা
- একটি open-source Python library, যা একাধিক YAML config জোড়া লাগানো, command line থেকে override আর একসঙ্গে অনেক config চালানোর ব্যবস্থা দেয়।যেখানে শিখবেন: পর্ব ১৯
- Hyperparameterহাইপারপ্যারামিটার
- Training শুরুর আগে মানুষ যে সেটিং বেছে দেন, যেমন learning rate, hidden-এর মাপ বা dropout; model নিজে এটি শেখে না।যেখানে শিখবেন: পর্ব ১৯পর্ব ২৮
- Hyperparameter sensitivityহাইপারপ্যারামিটার সেনসিটিভিটি
- Learning rate বা epoch-এর মতো সেটিং একটু বদলালে ফল কতটা নড়ে, তার মাপ; কয়েকটি seed-এ দেখা উচিত।যেখানে শিখবেন: পর্ব ৫৪
I
- IA3আই-এ-থ্রি
- Key, value আর feed-forward-এর মাঝের activation-কে শেখা vector দিয়ে উপাদান ধরে গুণ করার পদ্ধতি; খুব কম parameter লাগে, Liu ও সহলেখক ২০২২ সালে প্রস্তাব করেন।যেখানে শিখবেন: পর্ব ৫৫
- id2labelআইডি টু লেবেল
- Model config-এর একটি dict, যা output-এর প্রতিটি সারির নম্বরকে label-এর নামে (যেমন 0 থেকে positive) মেলায়; এটি বদলালে একই ওজনে label বদলে যায়।যেখানে শিখবেন: পর্ব ৫৩
- Idempotency keyআইডেমপোটেন্সি কি
- প্রতিটি কাজের সঙ্গে পাঠানো একটি অনন্য মান, যা দেখে server একই অনুরোধ দুবার এলে কাজটি দুবার করে না; retry-তে দুবার বার্তা বা দুবার টাকা যাওয়া আটকায়।যেখানে শিখবেন: পর্ব ৭১
- Identity mappingআইডেন্টিটি ম্যাপিং
- যে function input-কে হুবহু ফেরত দেয়, f(x) = x; residual block-এ F = 0 হলে পুরো block identity, তাই বাড়তি স্তর অন্তত ক্ষতি না করার একটি সহজ পথ পায়।যেখানে শিখবেন: পর্ব ১৭পর্ব ৮৯
- ignore_indexইগনোর ইনডেক্স
- CrossEntropyLoss-এর argument (default −100); লক্ষ্য এই মান হলে সেই ঘরের loss বাদ যায় আর গড়েও গোনা হয় না, তাই padding বাদ দিতে ব্যবহৃত হয়।যেখানে শিখবেন: পর্ব ১৩পর্ব ৩০পর্ব ৩৩
- im2col (image to column)ইম-টু-কল
- Convolution-এর প্রতিটি জানালার সব সংখ্যা একটি কলামে সাজিয়ে বড় matrix বানানোর কৌশল, যাতে পুরো convolution একটি matrix গুণ হয়ে যায়; বদলে মেমরি প্রায় k² গুণ লাগে।যেখানে শিখবেন: পর্ব ২০পর্ব ৯০
- Image captioningইমেজ ক্যাপশনিং
- ছবি দেখে তার বর্ণনা-বাক্য লেখার কাজ; সাধারণত একটি image encoder আর একটি লেখার decoder দিয়ে, next-token loss-এ শেখানো।যেখানে শিখবেন: পর্ব ৮২
- ImageNetইমেজনেট
- শব্দের শ্রেণি অনুযায়ী সাজানো লাখো লেবেলসহ ছবির একটি বড় ডেটাসেট; ২০১০ থেকে ২০১৭ পর্যন্ত এর ভিত্তিতে ছবি চেনার একটি বার্ষিক প্রতিযোগিতা (ILSVRC) হতো।যেখানে শিখবেন: পর্ব ০১পর্ব ২১পর্ব ২৩
- img2img (image-to-image)ইমেজ-টু-ইমেজ
- একটি বিদ্যমান ছবির latent-এ কিছুটা noise যোগ করে মাঝের একটি ধাপ থেকে denoise করে নতুন ছবি বানানো; কতটা noise, তা strength ঠিক করে।যেখানে শিখবেন: পর্ব ৮০
- Implicit generative modelইমপ্লিসিট জেনারেটিভ মডেল
- যে model নমুনা বানাতে পারে কিন্তু কোনো নমুনার সম্ভাবনা p(x) হিসাব করতে পারে না, যেমন GAN; তাই likelihood দিয়ে train বা মাপা যায় না।যেখানে শিখবেন: পর্ব ৭৭
- Implicit regularizationইমপ্লিসিট রেগুলারাইজেশন
- Loss-এ কোনো শাস্তি যোগ না করেও optimizer-এর আচরণ (শুরুর বিন্দু, ধাপের সংখ্যা, noise) থেকে আসা regularization, যেমন শূন্য থেকে শুরু করা gradient descent-এর minimum-norm সমাধানে পৌঁছানো।যেখানে শিখবেন: পর্ব ০৬পর্ব ১৬
- Implicit rewardইমপ্লিসিট রিওয়ার্ড
- DPO-তে policy আর reference-এর log-ratio-কে β দিয়ে গুণ করা মান, β·log(π_θ(y|x)/π_ref(y|x)); আলাদা reward model ছাড়াই policy-র ভেতরে লুকানো reward.যেখানে শিখবেন: পর্ব ৫৭পর্ব ৮৯
- Importance samplingইম্পর্ট্যান্স স্যাম্পলিং
- যে বণ্টনের গড় চাই, তার বদলে একটি সহজ বণ্টন q থেকে নমুনা তুলে প্রতিটিকে p/q অনুপাতে ওজন দিয়ে গড় নেওয়া; q ভালো হলে অল্প নমুনাতেই নির্ভুল অনুমান।যেখানে শিখবেন: পর্ব ৭৬
- Improper output handlingইমপ্রপার আউটপুট হ্যান্ডলিং
- Model-এর output যাচাই ছাড়া browser, database বা shell-এর মতো জায়গায় ব্যবহার করার ঝুঁকি।যেখানে শিখবেন: পর্ব ৭৩
- Impulse test (impulse response)ইমপালস রেসপন্স
- সব শূন্য রেখে এক সময়ে ১ বসিয়ে output দেখা; কোন সময়ের input কোন সময়ের output-এ পৌঁছায় তা ধরা পড়ে, তাই causal কি না যাচাই করা যায়।যেখানে শিখবেন: পর্ব ৩১
- In-batch negativesইন-ব্যাচ নেগেটিভস
- একটি batch-এ প্রতিটি প্রশ্নের জন্য অন্য জোড়ার নথিগুলোকে ভুল উত্তর ধরা; আলাদা করে negative খুঁজতে হয় না, তবে মাঝে মাঝে সত্যিকারের সঠিক নথিও ভুল ধরা পড়ে।যেখানে শিখবেন: পর্ব ৬৭পর্ব ৮২
- In-context learning (ICL)ইন-কনটেক্সট লার্নিং
- Weight না বদলে শুধু prompt-এর ভেতরের উদাহরণ দেখে language model-এর আচরণ বদলানো; এটি সত্যিকারের শেখা না আগে দেখা task চেনা, তা নিয়ে বিতর্ক আছে।যেখানে শিখবেন: পর্ব ৬১
- In-place operationইন-প্লেস অপারেশন
- নতুন tensor না বানিয়ে পুরোনো tensor-এর মান সরাসরি বদলানো কাজ; PyTorch-এ নামের শেষে underscore থাকে, যেমন add_, আর autograd-এর দরকারি মান বদলালে error আসে।যেখানে শিখবেন: পর্ব ০৭পর্ব ০৮
- Inception moduleইনসেপশন মডিউল
- একই input-এর ওপর 1×1, 3×3, 5×5 convolution আর pooling পাশাপাশি চালিয়ে তাদের output channel-এর দিকে জুড়ে দেওয়া block; বড় শাখার আগে 1×1 convolution বসিয়ে খরচ কমানো হয়।যেখানে শিখবেন: পর্ব ২১
- Inception Score (IS)ইনসেপশন স্কোর
- Generated ছবিতে একটি classifier-এর p(y|x) আর সব ছবির গড় p(y)-এর KL divergence-এর গড়ের exponential; ছবিপ্রতি নিশ্চিত আর class-এ বৈচিত্র্য থাকলে বাড়ে, কিন্তু আসল ডেটা দেখে না।যেখানে শিখবেন: পর্ব ৮১
- Indirect prompt injectionইনডিরেক্ট প্রম্পট ইনজেকশন
- Model যে বাইরের লেখা পড়ে, যেমন ওয়েবপেজ, ইমেইল বা রিভিউ, তার ভেতরে তৃতীয় কারও লুকিয়ে রাখা নির্দেশ; ব্যবহারকারী নিজে নির্দোষ থাকেন।যেখানে শিখবেন: পর্ব ৬৪পর্ব ৬৯পর্ব ৭১
- Inductive biasইনডাক্টিভ বায়াস
- ডেটা দেখার আগেই একটি model বা architecture যে অনুমানগুলো ধরে নেয়, যেমন কাছের pixel সম্পর্কিত বা function মসৃণ; এগুলো ছাড়া দেখা উদাহরণের বাইরে কিছু বলা যায় না।যেখানে শিখবেন: পর্ব ০৬পর্ব ২০পর্ব ২১
- Inflection (বিভক্তি)ইনফ্লেকশন
- বাক্যে ভূমিকা, কাল বা পুরুষ বোঝাতে শব্দের রূপ বদলানো, যেমন বাজার থেকে বাজারে, বাজারের।যেখানে শিখবেন: পর্ব ৩৯
- InfoNCE lossইনফোএনসিই লস
- একটি batch-এর সব জোড়ার similarity-কে temperature দিয়ে ভাগ করে cross-entropy নেওয়া, যেখানে সঠিক জোড়াটি সঠিক শ্রেণি আর বাকিরা negative; contrastive learning-এর প্রচলিত loss.যেখানে শিখবেন: পর্ব ১৩পর্ব ৬৭পর্ব ৮২
- Initial lossইনিশিয়াল লস
- Training শুরুর আগে, এলোমেলো weight-এ মাপা loss; C শ্রেণির ঠিকঠাক শুরু করা classifier-এ cross-entropy প্রায় −ln(1/C) = ln C হয়।যেখানে শিখবেন: পর্ব ১৮পর্ব ৯০
- Injection detectorইনজেকশন ডিটেক্টর
- Model-এ পাঠানোর আগে লেখায় নির্দেশের মতো অংশ খোঁজার নিয়ম বা classifier; সতর্কতা দেয়, নিশ্চয়তা দেয় না।যেখানে শিখবেন: পর্ব ৭৩
- Inpaintingইনপেইন্টিং
- ছবির একটি mask দেওয়া অংশ নতুন করে বানানো, আর বাকি অংশ অপরিবর্তিত রাখা।যেখানে শিখবেন: পর্ব ৮০
- Input gateইনপুট গেট
- LSTM-এর gate, যা ঠিক করে নতুন candidate-এর কত অংশ cell state-এ লেখা হবে।যেখানে শিখবেন: পর্ব ২৯
- Input validationইনপুট ভ্যালিডেশন
- Model-এ দেওয়ার আগে অনুরোধের প্রতিটি field-এর ধরন, সীমা আর চেনা মান যাচাই করা, আর ভুল হলে পরিষ্কার error (যেমন HTTP 422) ফেরত দেওয়া।যেখানে শিখবেন: পর্ব ৮৬
- Instance segmentationইনস্ট্যান্স সেগমেন্টেশন
- প্রতিটি আলাদা বস্তুর জন্য আলাদা pixel-mask আর শ্রেণি দেওয়া, যেমন একই তাকের দুটি বোতলের দুটি আলাদা mask; Mask R-CNN এর পরিচিত উদাহরণ।যেখানে শিখবেন: পর্ব ২৫
- Instruct modelইনস্ট্রাক্ট মডেল
- Base model-কে নির্দেশ-উত্তরের ডেটায় (আর প্রায়ই পছন্দের ডেটায়) আরও শিখিয়ে বানানো model, যে chat template-এ প্রশ্ন পেলে উত্তর দিয়ে থামে।যেখানে শিখবেন: পর্ব ৬০
- Instruction hierarchyইনস্ট্রাকশন হায়ারার্কি
- কোন উৎসের নির্দেশ বেশি মানা হবে তার ক্রম, যেমন প্ল্যাটফর্ম, তারপর অ্যাপ নির্মাতা, তারপর ব্যবহারকারী, আর বাইরের ডেটার কোনো অধিকার নেই; model-এ এটি training-এ শেখানো আচরণ, নিশ্চিত নিয়ম নয়।যেখানে শিখবেন: পর্ব ৬৪
- Instruction tuningইনস্ট্রাকশন টিউনিং
- নির্দেশ আর ভালো উত্তরের জোড়ায় pretrained language model-কে আরও প্রশিক্ষণ দেওয়া, যাতে সে নির্দেশ মেনে উত্তরের ধরনে লেখে।যেখানে শিখবেন: পর্ব ৫৬
- int64ইন্ট সিক্সটি-ফোর
- ৮ বাইটের চিহ্নযুক্ত পূর্ণসংখ্যার dtype; PyTorch-এ Python-এর পূর্ণসংখ্যা থেকে তৈরি tensor আর class index সাধারণত এই dtype-এর।যেখানে শিখবেন: পর্ব ০৭
- Inter-token latency (ITL)ইন্টার-টোকেন লেটেন্সি
- Streaming-এ পরপর দুটি token আসার মাঝের সময়; এর গড় প্রায় TPOT-এর সমান, তবে এর বণ্টন দেখায় মাঝে মাঝে কতটা থেমে যায়।যেখানে শিখবেন: পর্ব ৮৩
- Internal covariate shiftইন্টারনাল কোভ্যারিয়েট শিফট
- Training-এ আগের স্তর বদলালে পরের স্তরের input-এর বণ্টন সরে যাওয়া; BatchNorm-এর মূল প্রবন্ধের ব্যাখ্যা, যা পরের গবেষণায় বিতর্কিত হয়েছে।যেখানে শিখবেন: পর্ব ১৪
- Interpolation thresholdইন্টারপোলেশন থ্রেশহোল্ড
- Model-এর জটিলতার যে সীমায় এটি সবে train ডেটা হুবহু মেলাতে পারে (train ভুল শূন্য); double descent-এ test ভুলের চূড়া সাধারণত এখানে।যেখানে শিখবেন: পর্ব ০৬
- Interpretabilityইন্টারপ্রেটেবিলিটি
- একটি model কী শিখেছে আর কেন একটি অনুমান দেয়, মানুষ তা কতটা বুঝতে পারে তার মাপ; model নিজে পড়া যায় এমন হতে পারে, বা পরে জোড়া ব্যাখ্যা দিয়ে বোঝা যায়।যেখানে শিখবেন: পর্ব ২৬
- intra_op_num_threadsইন্ট্রা-অপ থ্রেডস
- ONNX Runtime-এ একটি operation-এর ভেতরের কাজ কয়টি CPU thread ভাগ করে করবে, তার সংখ্যা।যেখানে শিখবেন: পর্ব ৮৪
- Intrinsic dimensionইনট্রিনসিক ডাইমেনশন
- একটি কাজ শিখতে parameter-এর জায়গার যত কম মাত্রার উপস্থান যথেষ্ট, তার মাপ; Aghajanyan ও সহলেখক দেখান বড় pretrained model-এ এটি খুব ছোট হতে পারে।যেখানে শিখবেন: পর্ব ৫৫
- Invarianceইনভ্যারিয়েন্স
- কোনো রূপান্তরে (যেমন ছবি উল্টানো বা সরানো) উত্তর বা label অপরিবর্তিত থাকার গুণ; augmentation এই গুণ ডেটার মাধ্যমে শেখায়।যেখানে শিখবেন: পর্ব ২৪
- Invented policyইনভেন্টেড পলিসি
- গ্রাহক-সহায়তা model-এর এমন নিয়ম, ছাড় বা প্রতিশ্রুতি বলা, যা দেওয়া তথ্যে নেই; hallucination-এর একটি দামি রূপ।যেখানে শিখবেন: পর্ব ৬৪পর্ব ৬৬
- Inverse scalingইনভার্স স্কেলিং
- কিছু কাজে model বড় হলে ফল খারাপ হওয়ার ঘটনা; McKenzie আর সহলেখকেরা ১১টি ডেটাসেটে এটি দেখিয়েছেন।যেখানে শিখবেন: পর্ব ৫১
- Inverted dropoutইনভার্টেড ড্রপআউট
- Dropout-এর প্রচলিত রূপ, যেখানে training-এ বেঁচে থাকা মানকে 1/(1 − p) দিয়ে গুণ করা হয়, যাতে গড় অপরিবর্তিত থাকে আর inference-এ কোনো বদল লাগে না।যেখানে শিখবেন: পর্ব ০৯পর্ব ১৬পর্ব ৮৮
- Inverted indexইনভার্টেড ইনডেক্স
- চাবি থেকে তালিকা: text search-এ শব্দ থেকে নথির তালিকা, IVF-এ cell থেকে vector-এর তালিকা।যেখানে শিখবেন: পর্ব ৬৮
- Inverted residual (MBConv)ইনভার্টেড রেসিডুয়াল
- MobileNetV2-এর block: সরু input থেকে 1×1-এ channel বাড়ানো, চওড়া জায়গায় depthwise conv, তারপর 1×1-এ আবার সরু, আর shortcut সরু অংশের মধ্যে; ResNet-এর bottleneck-এর উল্টো আকার।যেখানে শিখবেন: পর্ব ২২
- IoU (Intersection over Union)আইওইউ
- দুটি box বা mask-এর ছেদের ক্ষেত্রফলকে তাদের সংযোগের ক্ষেত্রফল দিয়ে ভাগ; ০ মানে না মেলা, ১ মানে হুবহু এক। Detection-এ TP ঠিক করতে আর anchor-এ লেবেল দিতে ব্যবহৃত হয়।যেখানে শিখবেন: পর্ব ২৫পর্ব ৮৭পর্ব ৮৮
- Irreducible loss (E)ইরিডিউসিবল লস
- ডেটার নিজের অনিশ্চয়তার কারণে যে loss কোনো model-ই কমাতে পারে না; Chinchilla-র সূত্রে E দিয়ে লেখা, আর এই সীমা থাকলে loss শূন্যের দিকে যায় না।যেখানে শিখবেন: পর্ব ৫১
- IsoFLOP sliceআইসো-ফ্লপ স্লাইস
- সমান FLOP খরচে ভিন্ন আকারের model চালিয়ে loss তুলনা: বড় model কম step পায়, ছোট model বেশি step পায়। সবচেয়ে কম loss যেখানে, সেটিই ওই বাজেটের ভালো আকার।যেখানে শিখবেন: পর্ব ৫১
- IterableDatasetইটারেবল ডেটাসেট
- যে Dataset নমুনা একটির পর একটি stream আকারে দেয়, index দিয়ে নয়; বড় ফাইল বা চলমান ডেটার জন্য, তবে shuffle আর worker-এর ভাগ নিজেকে সামলাতে হয়।যেখানে শিখবেন: পর্ব ১১পর্ব ৫৩
- Iterate averaging (Polyak–Ruppert)ইটারেট অ্যাভারেজিং
- SGD-এর শেষ দিকের parameter-গুলোর গড়কে উত্তর হিসেবে নেওয়া, যাতে gradient-এর noise-এর কাঁপুনি কমে।যেখানে শিখবেন: পর্ব ১৬
- IVF index (inverted file)আই-ভি-এফ ইনডেক্স
- k-means দিয়ে vector-গুলোকে cell-এ ভাগ করে প্রতিটি cell-এর তালিকা রাখা index; খোঁজার সময় শুধু কাছের কয়েকটি cell দেখা হয়।যেখানে শিখবেন: পর্ব ৬৮
- IWAE bound (importance weighted)আই-ডাব্লিউ-এ-ই
- Burda ও সহকর্মীদের (২০১৬) এই সীমা K টি নমুনার ওজনের গড়ের log দিয়ে log p(x)-এর নিম্নসীমা দেয়; K = ১-এ এটি ELBO, আর K বাড়লে log p(x)-এর দিকে ওঠে।যেখানে শিখবেন: পর্ব ৭৬
J
- Jaccard indexজাকার্ড ইনডেক্স
- দুটি set-এর মিলের মাপ |A ∩ B| ÷ |A ∪ B|; উদ্ভিদবিজ্ঞানী Paul Jaccard-এর নামে, ছবিতে একেই IoU বলে।যেখানে শিখবেন: পর্ব ২৫পর্ব ৪২
- Jaccard similarityজ্যাকার্ড সিমিলারিটি
- দুটি সেটের মিল: ছেদের আকার ভাগ সংযোগের আকার; ০ মানে কিছুই মেলে না, ১ মানে হুবহু।যেখানে শিখবেন: পর্ব ৫৬
- Jacobian matrixজ্যাকোবিয়ান
- একটি vector function-এর প্রতিটি output-এর প্রতিটি input-এর সাপেক্ষে partial derivative সাজানো matrix; ছোট সরণ dx-এ output-এর বদল প্রায় J·dx.যেখানে শিখবেন: পর্ব ০৪পর্ব ০৫পর্ব ০৮
- Jacobian-vector product (JVP)জ্যাকোবিয়ান-ভেক্টর প্রোডাক্ট
- Jacobian J-কে ডান দিক থেকে একটি input দিক v দিয়ে গুণ, Jv; একটি input দিকে সামান্য সরলে সব output কতটা বদলায় তা দেয়, আর forward mode একবারে ঠিক এটিই হিসাব করে।যেখানে শিখবেন: পর্ব ০৫পর্ব ০৮
- Jailbreak (LLM)জেলব্রেক
- LLM-এর নিজের নিরাপত্তা-প্রশিক্ষণ পাশ কাটিয়ে এমন উত্তর বের করার চেষ্টা, যা model সাধারণত দিত না।যেখানে শিখবেন: পর্ব ৭৩
- Jensen's inequalityজেনসেনস ইনইকুয়ালিটি
- Concave function-এর জন্য f(E[X]) ≥ E[f(X)]; log concave বলে log E[w] ≥ E[log w], যা থেকে ELBO আর IWAE সীমা পাওয়া যায়।যেখানে শিখবেন: পর্ব ৭৬
- Jensen–Shannon divergence (JS)জেনসেন-শ্যানন ডাইভারজেন্স
- দুই বণ্টন p আর q-এর পার্থক্যের প্রতিসম মাপ: ½KL(p ‖ m) + ½KL(q ‖ m), যেখানে m = (p + q)/২; মান ০ থেকে ln ২, আর দুই বণ্টন এক হলেই মান শূন্য।যেখানে শিখবেন: পর্ব ৭৭পর্ব ৭৮পর্ব ৮৭
- JSONজেসন
- JavaScript Object Notation: চাবি আর মানের জোড়া, তালিকা আর লেখা দিয়ে ডেটা রাখার একটি সহজ লেখা-ভিত্তিক format.যেখানে শিখবেন: পর্ব ৬২
- JSON modeজেসন মোড
- API-র এমন সেটিং, যাতে উত্তর বৈধ JSON হয়, কিন্তু কোন চাবি বা ধরন থাকবে তার নিশ্চয়তা নেই; সাধারণত response_format-এ json_object দিয়ে চালু হয়।যেখানে শিখবেন: পর্ব ৬২
- JSON Schemaজেসন স্কিমা
- JSON দিয়েই লেখা একটি নিয়মপত্র, যা বলে একটি JSON-এ কোন চাবি থাকবে, প্রতিটির ধরন কী আর কোন মান চলবে; খোলা মান, এখনকার draft 2020-12.যেখানে শিখবেন: পর্ব ৬২পর্ব ৭১
- JSON-RPC 2.0জেসন আর-পি-সি
- JSON-এ লেখা একটি সরল remote procedure call মান: অনুরোধে method, params আর id, উত্তরে একই id-সহ result বা error; id ছাড়া বার্তা notification, যার উত্তর আসে না।যেখানে শিখবেন: পর্ব ৭১
K
- k-meansকে-মিনস
- ডেটাকে k-টি দলে ভাগ করার পদ্ধতি: প্রতিটি বিন্দুকে কাছের centroid-এ দেওয়া আর centroid-কে দলের গড়ে সরানো, পালা করে।যেখানে শিখবেন: পর্ব ৬৮
- k-Nearest Neighbors (k-NN)কে-নিয়ারেস্ট নেইবার্স
- নতুন বিন্দুর সবচেয়ে কাছের k-টি পরিচিত বিন্দু খুঁজে তাদের label-এর ভোটে শ্রেণি অনুমানের পদ্ধতি; few-shot-এ কাছের উদাহরণ বাছাইয়েও একই খোঁজা কাজে লাগে।যেখানে শিখবেন: পর্ব ৬১পর্ব ৭৫পর্ব ৮১
- keepdimsকিপ-ডিমস
- sum বা mean-এর মতো aggregation-এ True দিলে যে axis ধরে হিসাব হলো তা মাপ 1 হিসেবে থেকে যায়, তাই ফল মূল array-র সঙ্গে সরাসরি broadcast হয়।যেখানে শিখবেন: পর্ব ০৫
- Kernel (convolution filter)কার্নেল
- Convolution-এ ব্যবহৃত ছোট সংখ্যার টেবিল, যেমন 3 × 3; এর সংখ্যাগুলো ঠিক করে কোন বৈশিষ্ট্য (গড়, কিনারা) খোঁজা হবে, আর CNN-এ এগুলো শেখা weight.যেখানে শিখবেন: পর্ব ২০পর্ব ২৬
- Kernel fusionকার্নেল ফিউশন
- কয়েকটি পরপর কাজকে একটি kernel-এ জুড়ে দেওয়া, যাতে মাঝের ফল GPU memory-তে লিখে আবার পড়তে না হয় আর launch-এর সংখ্যা কমে।যেখানে শিখবেন: পর্ব ১২
- Kernel launchকার্নেল লঞ্চ
- CPU থেকে GPU-কে একটি ছোট প্রোগ্রাম (kernel) চালানোর নির্দেশ পাঠানো; প্রতিটি launch-এ কয়েক microsecond-এর স্থির খরচ থাকে, তাই খুব ছোট কাজে এই খরচই প্রধান হয়ে ওঠে।যেখানে শিখবেন: পর্ব ১২
- Key (attention)কি
- প্রতিটি input token-এর লেবেলের মতো vector, যার সঙ্গে query মিলিয়ে score বের হয়।যেখানে শিখবেন: পর্ব ৩২পর্ব ৩৩
- key_padding_maskকি প্যাডিং মাস্ক
- nn.MultiheadAttention-এর (B, T) আকারের argument, যেখানে True মানে সেই token key হিসেবে বাদ যাবে।যেখানে শিখবেন: পর্ব ৩৩
- KID (Kernel Inception Distance)কেআইডি
- Inception feature-এ একটি polynomial kernel দিয়ে মাপা maximum mean discrepancy; FID-এর মতো কাজ করে, কিন্তু এর অনুমান পক্ষপাতহীন, তাই কম নমুনায় তুলনা নিরাপদ।যেখানে শিখবেন: পর্ব ৮১
- KL annealing (KL warm-up)কেএল অ্যানিলিং
- Training-এর শুরুতে KL পদের ওজন শূন্য বা ছোট রেখে কয়েক epoch ধরে ধীরে ১-এ তোলা, যাতে encoder আগে কাজের তথ্য রাখতে শেখে।যেখানে শিখবেন: পর্ব ৭৬
- KL divergence (Kullback–Leibler)কেএল ডাইভারজেন্স
- মডেল q দিয়ে আসল p লেখার বাড়তি খরচ, H(p, q) − H(p); সবসময় শূন্য বা ধনাত্মক, আর দুই দিকে সাধারণত আলাদা। PyTorch-এর KLDivLoss input হিসেবে log-probability চায়।যেখানে শিখবেন: পর্ব ১৩পর্ব ৫৭পর্ব ৭৪
- KL penalty (β)কেএল পেনাল্টি
- Reward থেকে β গুণ KL divergence বাদ দেওয়ার শাস্তি, যাতে policy reference model থেকে বেশি দূরে না সরে; β বড় মানে লাগাম শক্ত।যেখানে শিখবেন: পর্ব ৫৭পর্ব ৮৯
- Kneser-Ney smoothingনিজার-নে স্মুদিং
- Absolute discounting-এর একটি রূপ, যেখানে নিচের ধাপে token-টির ঘনত্বের বদলে সে কত রকম আলাদা context-এর পরে এসেছে সেটি গোনা হয়।যেখানে শিখবেন: পর্ব ৪৬
- Knot (breakpoint)নট
- Piecewise linear function-এ যে বিন্দুতে ঢাল বদলায়; ReLU(w·t + b)-এর knot হলো t = −b/w.যেখানে শিখবেন: পর্ব ০৬
- Knowledge cutoffনলেজ কাটঅফ
- যে তারিখের পরের ঘটনা model-এর training ডেটায় নেই বা খুব কম; কোনো tool বা দেওয়া নথি ছাড়া এর পরের তথ্য model জানার কথা নয়।যেখানে শিখবেন: পর্ব ৫২পর্ব ৬৯পর্ব ৮৯
- Knowledge distillationনলেজ ডিস্টিলেশন
- একটি বড় teacher model-এর নরম output (temperature দিয়ে) দেখে একটি ছোট student model-কে শেখানো, যাতে ছোটটি কাছাকাছি উত্তর দেয় কিন্তু দ্রুত চলে।যেখানে শিখবেন: পর্ব ১৩পর্ব ৪৮পর্ব ৫৯
- KV cacheকেভি ক্যাশ
- Generation-এর সময় প্রতিটি স্তরে আগের token-গুলোর key আর value জমা রাখা, যাতে নতুন token-এ শুধু একটি সারির হিসাব লাগে; ফল একই থাকে।যেখানে শিখবেন: পর্ব ৩৭পর্ব ৪৯পর্ব ৫০
- KV cache blockকেভি ক্যাশ ব্লক
- PagedAttention-এ KV cache-এর একক টুকরো, যাতে নির্দিষ্ট সংখ্যক token-এর K আর V থাকে; অনুরোধ বাড়লে নতুন block নেওয়া হয়।যেখানে শিখবেন: পর্ব ৮৩
L
- L2 norm (Euclidean)এল-টু নর্ম
- সব ঘরের বর্গের যোগফলের বর্গমূল, ‖g‖ = √(g₁² + g₂² + …); clip_grad_norm_-এর default মাপ।যেখানে শিখবেন: পর্ব ১৭
- L2 penaltyএল-টু পেনাল্টি
- Loss-এর সঙ্গে ½λ‖w‖² যোগ করা, যাতে gradient-এ λw আসে আর weight ছোট থাকে; SGD-তে weight decay-এর সমান, Adam-এ নয়।যেখানে শিখবেন: পর্ব ১৫
- L2 regularizationএল-টু রেগুলারাইজেশন
- Loss-এর সঙ্গে (λ/2)‖w‖² যোগ করা, যাতে gradient-এ λw যোগ হয়; সাধারণ SGD-তে weight decay-এর সমান, কিন্তু Adam-এ নয়।যেখানে শিখবেন: পর্ব ১৬
- L2-SPএল-টু এস-পি
- Fine-tuning-এ weight-কে শূন্যের দিকে নয়, শুরুর pretrained weight-এর দিকে টানার regularization; আগের শেখা কম হারায়।যেখানে শিখবেন: পর্ব ৫৪
- Label alignmentলেবেল অ্যালাইনমেন্ট
- শব্দ ধরে দেওয়া label-কে subword-এর ক্রমে বসানো, যাতে প্রতিটি token-এর পাশে একটি label বা −100 থাকে।
- Label noiseলেবেল নয়েজ
- Training ডেটার কিছু উদাহরণে ভুল label থাকা; model এগুলো মুখস্থ করতে গেলে overfitting বাড়ে।যেখানে শিখবেন: পর্ব ১০পর্ব ৪২পর্ব ৬১
- Label shift (right-shift)লেবেল শিফট
- Input আর target একই ক্রম থেকে নেওয়া, শুধু target এক ঘর এগিয়ে; ঘর t-র উত্তর হলো পরের ঘরের আসল token, যা ক্রমেই লেখা আছে।যেখানে শিখবেন: পর্ব ৪৯
- Label smoothingলেবেল স্মুদিং
- One-hot লক্ষ্যের বদলে নরম লক্ষ্য (1 − ε)·y + ε/K দিয়ে cross-entropy হিসাব করা, যাতে model সঠিক শ্রেণিকে চরম probability দেওয়ার তাগিদ না পায়; PyTorch-এ CrossEntropyLoss(label_smoothing=ε).যেখানে শিখবেন: পর্ব ১৩পর্ব ১৬পর্ব ৮৭
- Lag featureল্যাগ ফিচার
- অতীতের কোনো দিনের মানকে এখনকার সারির কলাম হিসেবে ব্যবহার করা, যেমন গতকালের বিক্রি।যেখানে শিখবেন: পর্ব ২৭পর্ব ৩১
- Language modelল্যাঙ্গুয়েজ মডেল
- আগের লেখা দেখে পরের token-এর probability দেয় এমন একটি model. সেই probability থেকে একটি একটি করে token তুলে নতুন লেখা বানানো যায়।যেখানে শিখবেন: পর্ব ৩৬পর্ব ৪৪পর্ব ৪৬
- Laplace smoothingল্যাপলাস স্মুদিং
- প্রতিটি গণনায় ১ যোগ করে নেওয়া, যাতে training-এ না দেখা ঘটনার সম্ভাবনা শূন্য না হয়ে যায়।যেখানে শিখবেন: পর্ব ৪৬
- Large Language Model (LLM)লার্জ ল্যাঙ্গুয়েজ মডেল
- বিপুল লেখায় আগের token দেখে পরের token অনুমান করতে প্রশিক্ষিত বড় neural network, যা পরে সহায়কের আচরণের জন্য আরও প্রশিক্ষিত হতে পারে। এর লেখা সাবলীল হলেও ভুল হতে পারে।যেখানে শিখবেন: পর্ব ০১
- Latencyলেটেন্সি
- একটি কাজ শুরু থেকে শেষ হতে যে সময় লাগে; GPU-তে ছোট কাজে latency-র বড় অংশ launch আর অপেক্ষার খরচ।যেখানে শিখবেন: পর্ব ২২পর্ব ৫৮পর্ব ৫৯
- Latent codeলেটেন্ট কোড
- Encoder-এর output: input-এর ছোট একটি সংখ্যার তালিকা z, যা থেকে decoder input আবার বানায়; latent মানে সরাসরি দেখা যায় না এমন।যেখানে শিখবেন: পর্ব ৭৫
- Latent diffusion model (LDM)লেটেন্ট ডিফিউশন
- যে diffusion model পিক্সেলের বদলে একটি আগে-শেখা autoencoder-এর ছোট latent space-এ noise যোগ ও সরানো শেখে, আর শেষে decoder দিয়ে ছবি বানায়; Rombach ও সহকর্মীদের ২০২২ সালের প্রবন্ধ থেকে।যেখানে শিখবেন: পর্ব ৮০
- Latent interpolationলেটেন্ট ইন্টারপোলেশন
- দুটি ছবির latent কোডের মাঝখানের পথে কয়েকটি বিন্দু নিয়ে decode করা, যাতে একটি ছবি থেকে আরেকটিতে ধীরে বদল দেখা যায়।যেখানে শিখবেন: পর্ব ৭৬
- Latent scaling factorস্কেলিং ফ্যাক্টর
- Autoencoder-এর latent-কে diffusion-এ পাঠানোর আগে যে স্থির সংখ্যা দিয়ে গুণ করা হয় যাতে variance প্রায় ১ হয়, আর decode-এর আগে যা দিয়ে ভাগ করা হয়; Stable Diffusion v1-এ ০.১৮২১৫।যেখানে শিখবেন: পর্ব ৮০
- Latent spaceলেটেন্ট স্পেস
- Latent কোড z যে জায়গায় থাকে; VAE-তে এটি একটি ছোট মাত্রার বাস্তব-সংখ্যার জায়গা, যেখানে কাছাকাছি বিন্দু সাধারণত দেখতে কাছাকাছি ছবি দেয়।যেখানে শিখবেন: পর্ব ৭৬পর্ব ৮০
- Latent variableলেটেন্ট ভ্যারিয়েবল
- যে চলক ডেটা তৈরিতে ভূমিকা রাখে কিন্তু সরাসরি দেখা যায় না, যেমন GMM-এ কোন component থেকে বিন্দুটি এসেছে বা VAE-তে ছবির পেছনের ছোট কোড z.যেখানে শিখবেন: পর্ব ৭৪পর্ব ৭৬
- Latent vector (noise vector)লেটেন্ট ভেক্টর
- Generator-এর input: একটি সহজ বণ্টন (প্রায়ই N(0, I)) থেকে নেওয়া কয়েকটি এলোমেলো সংখ্যা z; z বদলালে বানানো নমুনা বদলায়।যেখানে শিখবেন: পর্ব ৭৭
- Layer normalization (LayerNorm)লেয়ার নরমালাইজেশন
- প্রতিটি নমুনার feature vector-কে তার নিজের গড় আর variance দিয়ে normalize করে শেখা মাপে বদলানো; batch-এর ওপর নির্ভর করে না, train আর eval-এ একই, Transformer-এ প্রচলিত।যেখানে শিখবেন: পর্ব ১৪পর্ব ১৭পর্ব ২২
- Layer-wise learning-rate decay (LLRD)লেয়ার-ওয়াইজ এলআর ডিকে
- ওপরের layer থেকে নিচে নামতে প্রতি ধাপে learning rate একটি গুণক ξ দিয়ে গুণ করা, তাই নিচের layer কম বদলায়।যেখানে শিখবেন: পর্ব ৪৮
- Leaf tensorলিফ টেনসর
- যে tensor কোনো কাজের ফল নয়, সরাসরি তৈরি (যেমন requires_grad=True দেওয়া weight); backward-এর পর gradient এদের .grad-এ জমা থাকে।যেখানে শিখবেন: পর্ব ০৫পর্ব ০৮
- Leaky ReLUলিকি রেলু
- z ধনাত্মক হলে z, নইলে αz (α ছোট, যেমন 0.01); ঋণাত্মক দিকেও সামান্য ঢাল রাখে বলে unit পুরোপুরি মরে না।যেখানে শিখবেন: পর্ব ০৩পর্ব ৭৭পর্ব ৭৮
- Learned position embeddingলার্নড পজিশন এমবেডিং
- প্রতিটি position-এর জন্য একটি শেখার যোগ্য vector রাখা টেবিল; সীমা max length পর্যন্ত, আর training-এ যে ঘর আসেনি তার সারি শেখে না।যেখানে শিখবেন: পর্ব ৩৪পর্ব ৪৯
- Learned projectionলার্নড প্রজেকশন
- Training-এ শেখা একটি matrix দিয়ে vector-কে গুণ করে নতুন vector পাওয়া; self-attention-এ W_Q, W_K, W_V এমন তিনটি matrix.যেখানে শিখবেন: পর্ব ৩৩
- Learning curveলার্নিং কার্ভ
- Training এগোনোর সঙ্গে (epoch বা ধাপ ধরে) train আর validation loss-এর লেখচিত্র; underfitting, overfitting, খুব বড় learning rate বা plateau-এর মতো সমস্যা এর আকার থেকে চেনা যায়।যেখানে শিখবেন: পর্ব ১৮পর্ব ৯১
- Learning rate (η)লার্নিং রেট
- প্রতিটি ধাপে weight কতটা সরানো হবে তা ঠিক করার সংখ্যা, প্রায়ই η (eta) দিয়ে লেখা হয়; খুব বড় হলে loss লাফায় বা ছড়িয়ে যায়, খুব ছোট হলে শেখা ধীর হয়।যেখানে শিখবেন: পর্ব ০২পর্ব ০৪পর্ব ১০
- Learning-rate scheduleলার্নিং রেট শিডিউল
- Training চলার সঙ্গে learning rate কীভাবে বদলাবে তার নিয়ম, যেমন step, cosine বা warmup; PyTorch-এ scheduler object optimizer.step()-এর পরে ডাকা হয়।যেখানে শিখবেন: পর্ব ১০পর্ব ১৫
- Learning-rate warm-upলার্নিং রেট ওয়ার্ম-আপ
- Training-এর প্রথম কিছু ধাপে learning rate ছোট মান থেকে ধীরে ধীরে সর্বোচ্চ মানে তোলা, যাতে শুরুর অস্থির সময়ে বড় লাফ না হয়।যেখানে শিখবেন: পর্ব ১৫পর্ব ৫৪
- Least privilegeলিস্ট প্রিভিলেজ
- প্রতিটি মানুষ বা প্রোগ্রামকে কাজের জন্য ন্যূনতম অনুমতি দেওয়ার নীতি; LLM অ্যাপে model শুধু দরকারি tool আর তথ্য পায়, যাতে নির্দেশ ভাঙলেও ক্ষতি সীমিত থাকে।যেখানে শিখবেন: পর্ব ৬৪পর্ব ৭১পর্ব ৭২
- Least-to-most promptingলিস্ট-টু-মোস্ট প্রম্পটিং
- প্রশ্নকে সহজ থেকে কঠিন ক্রমে ছোট উপ-প্রশ্নে ভেঙে একে একে সমাধান করা, আগের উত্তর পরের prompt-এ যোগ করে; Zhou ও সহকর্মীদের ২০২২ সালের পদ্ধতি।যেখানে শিখবেন: পর্ব ৬৩
- Left padding (causal)লেফট প্যাডিং
- সময়ের অক্ষে (k − 1)·d ঘর শূন্য শুধু শুরুতে বসানো, যাতে output-এর দৈর্ঘ্য input-এর সমান থাকে আর জানালা ভবিষ্যৎ না দেখে।যেখানে শিখবেন: পর্ব ৩১
- Left padding (generation)লেফট প্যাডিং
- Batched generation-এ pad token prompt-এর বাঁয়ে বসানো, যাতে সব সারির শেষ ঘরে আসল token থাকে আর নতুন token একই কলামে বসে।যেখানে শিখবেন: পর্ব ৩৭
- Lemmatizationলেমাটাইজেশন
- অভিধান আর প্রসঙ্গ দেখে শব্দের আসল মূল রূপে আনা, যা stemming-এর চেয়ে নির্ভুল কিন্তু বানানো কঠিন।যেখানে শিখবেন: পর্ব ৩৯
- LeNet-5লিনেট
- LeCun ও সহকর্মীদের ১৯৯৮ সালের প্রবন্ধে বর্ণিত ছোট CNN, যা হাতে লেখা অঙ্ক চিনত; convolution, subsampling আর fully connected স্তরের যে ক্রম এটি দেখায়, পরের প্রায় সব CNN সেই কাঠামো মানে।যেখানে শিখবেন: পর্ব ২১
- Length extrapolationলেংথ এক্সট্রাপোলেশন
- ছোট sequence-এ train করা model training-এর চেয়ে লম্বা sequence-এ কতটা ঠিক কাজ করে, সেই ক্ষমতা।যেখানে শিখবেন: পর্ব ৩৪
- Length normalisationলেংথ নরমালাইজেশন
- বিকল্পের মোট log-probability-কে token, অক্ষর বা byte-এর সংখ্যা দিয়ে ভাগ করা, যাতে ছোট বিকল্প শুধু ছোট বলে না জেতে।যেখানে শিখবেন: পর্ব ৫৮
- Length penaltyলেংথ পেনাল্টি
- Beam-এর মোট log-probability-কে দৈর্ঘ্যের ঘাত দিয়ে ভাগ করা, যাতে ছোট sequence শুধু ছোট বলেই না জেতে।যেখানে শিখবেন: পর্ব ৫০
- Levenshtein distance (edit distance)লেভেনশটাইন ডিসট্যান্স
- একটি লেখাকে আরেকটিতে বদলাতে সবচেয়ে কম কতটি অক্ষর যোগ, বাদ বা পরিবর্তন লাগে, তার সংখ্যা।যেখানে শিখবেন: পর্ব ৩০
- Likelihoodলাইকলিহুড
- দেখা ডেটা স্থির রেখে parameter θ-এর function হিসেবে পড়া সম্ভাবনা, L(θ) = p(ডেটা | θ); এটি θ-এর ওপর কোনো সম্ভাবনা বণ্টন নয়, তাই θ-এর ওপর যোগফল ১ হতে হয় না।যেখানে শিখবেন: পর্ব ১৩পর্ব ৭৭
- Linear decayলিনিয়ার ডিকে
- Warmup শেষে learning rate-কে সরলরেখায় কমিয়ে পরিকল্পিত শেষ step-এ শূন্যে নামানো।যেখানে শিখবেন: পর্ব ৫৪
- Linear interpolation (Jelinek-Mercer)ইন্টারপোলেশন
- সব order-এর probability-র ওজন করা যোগফল নেওয়া; ওজন λ-গুলোর যোগফল ১, আর এগুলো held-out ডেটায় ঠিক করা হয়।যেখানে শিখবেন: পর্ব ৪৬
- Linear layer (nn.Linear)লিনিয়ার লেয়ার
- Fully connected স্তর, যা y = xWᵀ + b হিসাব করে; PyTorch-এ weight-এর আকার (out, in), অর্থাৎ প্রতিটি সারিতে একটি output neuron-এর সব ওজন থাকে।যেখানে শিখবেন: পর্ব ০৯পর্ব ২০পর্ব ৩৩
- Linear probeলিনিয়ার প্রোব
- Freeze করা feature-এর ওপর শুধু একটি linear classifier (যেমন logistic regression) শিখিয়ে feature কতটা কাজের তা মাপার পদ্ধতি; feature extraction-এর সরলতম রূপ।যেখানে শিখবেন: পর্ব ২৩পর্ব ৭৫পর্ব ৮২
- Linear regionলিনিয়ার রিজিয়ন
- Input-এর যে এলাকায় ReLU network-এর প্রতিটি unit-এর চালু/বন্ধ অবস্থা স্থির, তাই network সেখানে একটি সাধারণ linear function; এদের সংখ্যা network-এর প্রকাশক্ষমতার একটি মাপ।যেখানে শিখবেন: পর্ব ০৩পর্ব ০৬
- Linear scaling ruleলিনিয়ার স্কেলিং রুল
- Batch size k গুণ করলে SGD-র learning rate-ও k গুণ করার অভিজ্ঞতালব্ধ নিয়ম (Goyal ও সহকর্মী, ২০১৭), সাধারণত warmup-সহ; খুব বড় batch-এ খাটে না।যেখানে শিখবেন: পর্ব ১৫
- Linearly separableলিনিয়ারলি সেপারেবল
- দুই দলের বিন্দুকে একটি সরল রেখা (বা বেশি মাত্রায় একটি সমতল) দিয়ে পুরোপুরি আলাদা করা গেলে ডেটাকে এই নামে ডাকা হয়।যেখানে শিখবেন: পর্ব ০২
- Linformerলিনফর্মার
- Key আর value-কে দৈর্ঘ্যের অক্ষে ছোট আকারে নামিয়ে attention-এর খরচ দৈর্ঘ্যের সরলরৈখিক হারে আনার একটি আসন্ন পদ্ধতি।যেখানে শিখবেন: পর্ব ৩৭
- Lipschitz continuity (1-Lipschitz)লিপশিৎস কন্টিনিউইটি
- একটি ফাংশনের ঢাল সীমিত থাকার শর্ত: |f(a) − f(b)| ≤ K·|a − b|; K = ১ হলে 1-Lipschitz, যা WGAN-এর critic-এর জন্য দরকার।যেখানে শিখবেন: পর্ব ৭৮
- LiteRTলাইট-আরটি
- Google-এর edge runtime, TensorFlow Lite-এর ভিত্তিতে বানানো; PyTorch, TensorFlow আর JAX থেকে .tflite ফাইলে রূপান্তরের কথা নথিতে বলা।যেখানে শিখবেন: পর্ব ৮৪
- Little’s Lawলিটলস ল
- সূত্র L = λ × W: একসঙ্গে চলমান কাজের গড় সংখ্যা সমান আগমনের হার গুণ প্রতিটি কাজের গড় সময়; স্থিতিশীল যেকোনো system-এ খাটে।যেখানে শিখবেন: পর্ব ৮৩পর্ব ৮৪পর্ব ৮৫
- Live codingলাইভ কোডিং
- ইন্টারভিউয়ারের সামনে, সাধারণত সময় বেঁধে, একটি সমস্যার কোড লেখা ও চালানো; শেষ কোডের সাথে চিন্তার পথ আর যাচাইয়ের অভ্যাসও দেখা হয়।যেখানে শিখবেন: পর্ব ৯০
- LLM (Large Language Model)এল-এল-এম
- বিপুল লেখায় আগে থেকে train করা বড় language model, যা পরের token অনুমান করে লেখা তৈরি করে।যেখানে শিখবেন: পর্ব ৩৯
- LLM agentএলএলএম এজেন্ট
- এমন ব্যবস্থা, যেখানে একটি language model বারবার পরের ধাপ ঠিক করে, tool ডাকার প্রস্তাব দেয় আর ফল দেখে আবার সিদ্ধান্ত নেয়, যতক্ষণ না কাজ শেষ হয় বা থামার নিয়ম খাটে।যেখানে শিখবেন: পর্ব ৭২
- LLM servingএলএলএম সার্ভিং
- একটি LLM-কে অনেক ব্যবহারকারীর অনুরোধের উত্তর দেওয়ার মতো করে চালানো: সারি, batch, KV cache-এর memory আর গতি একসঙ্গে সামলানো।যেখানে শিখবেন: পর্ব ৮৩
- LLM workflowএলএলএম ওয়ার্কফ্লো
- আগে থেকে কোডে লেখা পথ, যেখানে LLM আর tool নির্দিষ্ট ক্রমে চলে; পরের ধাপ model নয়, কোড ঠিক করে।যেখানে শিখবেন: পর্ব ৭২
- LLM-as-a-judgeএলএলএম অ্যাজ আ জাজ
- একটি LLM-কে দিয়ে অন্য model-এর উত্তরের মান বিচার করানো, জোড়া তুলনায় বা নম্বর দিয়ে; দ্রুত আর সস্তা, তবে নিজস্ব পক্ষপাত আছে।যেখানে শিখবেন: পর্ব ৫৮পর্ব ৬৬পর্ব ৭০
- LLM.int8()এলএলএম ইন্ট-এইট
- Dettmers ও সহলেখকদের ২০২২ সালের পদ্ধতি: matrix গুণ int8-এ, কিন্তু বড় outlier feature-এর মাত্রাগুলো আলাদা করে ১৬-bit-এ; bitsandbytes-এর 8-bit লোড এটি ব্যবহার করে।যেখানে শিখবেন: পর্ব ৫৯
- LM headএলএম হেড
- Language model-এর শেষ linear layer, যা (B, T, d) থেকে (B, T, V) আকারের logits বানায়।যেখানে শিখবেন: পর্ব ৩৫পর্ব ৫২
- Load generatorলোড জেনারেটর
- পরীক্ষার জন্য নির্দিষ্ট হারে আর নির্দিষ্ট seed-এ কৃত্রিম অনুরোধ পাঠানোর প্রোগ্রাম, যাতে server-এর latency আর throughput মাপা যায়।যেখানে শিখবেন: পর্ব ৮৩
- Load sheddingলোড শেডিং
- সামর্থ্যের বেশি অনুরোধ এলে কিছু অনুরোধ ইচ্ছা করে দ্রুত ফিরিয়ে দেওয়া, যাতে বাকিগুলো ঠিকমতো চলে।যেখানে শিখবেন: পর্ব ৮৫
- Local connectivityলোকাল কানেক্টিভিটি
- প্রতিটি output শুধু input-এর একটি ছোট কাছাকাছি এলাকার সঙ্গে যুক্ত থাকার নিয়ম, পুরো input-এর সঙ্গে নয়।যেখানে শিখবেন: পর্ব ২০
- Local gradientলোকাল গ্রেডিয়েন্ট
- একটি ধাপের output-এর তার নিজের input-এর সাপেক্ষে derivative, যেমন ReLU-তে ০ বা ১; upstream gradient-এর সঙ্গে গুণ করে আগের ধাপে পাঠানো হয়।যেখানে শিখবেন: পর্ব ০৪পর্ব ০৫
- Local response normalization (LRN)লোকাল রেসপন্স নরমালাইজেশন
- AlexNet-এ ব্যবহৃত একটি স্তর, যা একই অবস্থানের পাশের channel-গুলোর মানের বর্গ দিয়ে একটি channel-এর মান ভাগ করে; পরে BatchNorm আসার পর প্রায় বাদ পড়েছে।যেখানে শিখবেন: পর্ব ২১
- Log loss (binary cross-entropy)লগ লস
- Classifier যা আসলে ঘটেছে তাকে যে সম্ভাবনা দিয়েছিল, তার −log-এর গড়; ±1 label-এ এটি log(1 + e^(−y·z)), আত্মবিশ্বাসী ভুলে খুব বড় হয়।যেখানে শিখবেন: পর্ব ০২
- Log scaleলগ স্কেল
- যে মাপে সমান দূরত্ব মানে সমান গুণ (১০, ১০০, ১০০০), সমান যোগ নয়; learning rate-এর মতো কয়েক গুণ জুড়ে ছড়ানো মান টানার জন্য।যেখানে শিখবেন: পর্ব ১৯
- Log-likelihoodলগ-লাইকলিহুড
- দেখা ডেটার probability-র log, ∑ log q(xᵢ); গুণফলকে যোগফলে বদলায়, underflow এড়ায়, আর সর্বোচ্চ বিন্দু likelihood-এর সঙ্গে একই থাকে।যেখানে শিখবেন: পর্ব ৭৪পর্ব ৭৬
- Log-likelihood scoringলগ-লাইকলিহুড স্কোরিং
- Multiple-choice-এ প্রতিটি বিকল্পের token-গুলোর log-probability যোগ বা গড় করে সবচেয়ে বড়টিকে model-এর উত্তর ধরা; লেখা তৈরি করতে হয় না।যেখানে শিখবেন: পর্ব ৫৮পর্ব ৬১
- Log-log plotলগ-লগ প্লট
- দুই অক্ষই logarithm স্কেলে আঁকা ছবি; power law এখানে সরল রেখা হয়, আর রেখার ঢাল হলো সূচক।যেখানে শিখবেন: পর্ব ৫১
- Log-odds (logit)লগ-অডস
- সম্ভাবনা p-এর জন্য ln(p ÷ (১ − p)); দুই label-এ এটি দুই log-likelihood-এর পার্থক্য, আর শূন্যের ওপরে মানে প্রথম label বেশি সম্ভাব্য।যেখানে শিখবেন: পর্ব ৬১
- Log-probabilityলগ প্রোবাবিলিটি
- Probability-র logarithm; গুণের বদলে যোগ চলে বলে লম্বা sequence-এ সংখ্যা শূন্যে হারিয়ে যায় না।যেখানে শিখবেন: পর্ব ৫০পর্ব ৫২পর্ব ৫৭
- Log-sum-expলগ-সাম-এক্সপ
- log(e^a + e^b + …) নিরাপদে হিসাবের কৌশল: সবচেয়ে বড় মান m বের করে m + log ∑ e^(x − m); log-softmax = z − LSE(z), SciPy-তে scipy.special.logsumexp.যেখানে শিখবেন: পর্ব ০৩পর্ব ০৪পর্ব ১০
- Logistic Regressionলজিস্টিক রিগ্রেশন
- একটি discriminative classification model, যা feature-এর ওজনযুক্ত যোগফলকে sigmoid দিয়ে ০ থেকে ১-এর সম্ভাবনায় আনে। নামে regression হলেও কাজটি classification.যেখানে শিখবেন: পর্ব ০১পর্ব ০২পর্ব ৩৯
- Logit lensলজিট লেন্স
- মাঝের স্তরের hidden state-কে সরাসরি শেষ normalization আর lm_head দিয়ে পাঠিয়ে দেখা, ওই স্তরে পরের token-এর অনুমান কী হতো।যেখানে শিখবেন: পর্ব ৫২
- Logit scaleলজিট স্কেল
- Softmax-এর আগে cosine-কে যে সংখ্যা দিয়ে গুণ করা হয়, temperature-এর উল্টো (s = ১/T); CLIP এটি নিজে শেখে, আর বড় s সম্ভাবনাকে তীক্ষ্ণ করে।যেখানে শিখবেন: পর্ব ৮২পর্ব ৮৭
- Logitsলজিটস
- Network-এর শেষ স্তরের কাঁচা স্কোর, softmax বা sigmoid লাগানোর আগে; যেকোনো বাস্তব সংখ্যা হতে পারে।যেখানে শিখবেন: পর্ব ০৩পর্ব ০৪পর্ব ১০
- Long-term memory (vector memory)লং-টার্ম মেমরি
- আগের কথোপকথন থেকে রাখা চিরকুট, সাধারণত embedding-সহ একটি vector store-এ; দরকারের সময় প্রাসঙ্গিক কয়েকটি খুঁজে prompt-এ আনা হয়।যেখানে শিখবেন: পর্ব ৭২
- LoRA (Low-Rank Adaptation)লো-রা
- Pretrained ওজন W স্থির রেখে পাশে দুটি সরু matrix B আর A শেখানো, যাতে পরিবর্তন ΔW = BA-র rank হয় সর্বোচ্চ r; Hu ও সহলেখকদের ২০২১ সালের প্রস্তাব।যেখানে শিখবেন: পর্ব ৫৫পর্ব ৫৬পর্ব ৮৭
- LoRA rank (r)লো-রা র্যাঙ্ক
- B আর A-র মাঝের চওড়া মাপ; শেখা পরিবর্তনের rank এর বেশি হতে পারে না, আর প্রতি layer-এ নতুন parameter r(d + k)টি।যেখানে শিখবেন: পর্ব ৫৫
- lora_alpha (α)লো-রা আলফা
- LoRA-র পাশের পথের গুণক; output-এ BAx-কে α/r দিয়ে গুণ করা হয়, যাতে r বদলালেও পরিবর্তনের মাপ মোটামুটি এক থাকে।যেখানে শিখবেন: পর্ব ৫৫
- Loss plateauলস প্ল্যাটো
- Learning curve-এর সমতল অংশ, যেখানে অনেক ধাপ ধরে loss প্রায় বদলায় না; পরে হঠাৎ নামতে পারে, বা learning rate বা শুরুর মান বদলানোর দরকার জানায়।যেখানে শিখবেন: পর্ব ১৮
- Loss scalingলস স্কেলিং
- float16-এ ছোট gradient শূন্য হয়ে যাওয়া ঠেকাতে backward-এর আগে loss-কে একটি বড় সংখ্যা দিয়ে গুণ করা, আর weight আপডেটের আগে gradient-কে আবার সেই সংখ্যা দিয়ে ভাগ করা।যেখানে শিখবেন: পর্ব ১২
- Lost in the middleলস্ট ইন দ্য মিডল
- Liu ও সহকর্মীদের ২০২৩ সালের পর্যবেক্ষণ: পরীক্ষা করা model-গুলো লম্বা প্রসঙ্গের শুরু বা শেষের তথ্য বেশি কাজে লাগায়, মাঝখানের তথ্য প্রায়ই কম।যেখানে শিখবেন: পর্ব ৬০
- Lottery ticket hypothesisলটারি টিকিট হাইপোথিসিস
- Frankle ও Carbin-এর ২০১৯ সালের প্রস্তাব: বড় network-এর ভেতরে এমন ছোট sub-network থাকে, যা তার আসল শুরুর ওজন থেকে একা শেখালেও প্রায় একই মানে পৌঁছায়।
- LR range testএলআর রেঞ্জ টেস্ট
- খুব ছোট থেকে প্রতি batch-এ learning rate বাড়িয়ে loss লিখে রাখা, যাতে কোন পরিসরে loss দ্রুত নামে আর কোথায় বিস্ফোরিত হয় তা কয়েকশো ধাপেই দেখা যায়।যেখানে শিখবেন: পর্ব ১৫
- LSTM (Long Short-Term Memory)এল-এস-টি-এম
- gate-সহ একটি recurrent unit, যার cell state যোগের পথে এক ধাপ থেকে পরের ধাপে যায়; forget gate প্রায় ১ হলে gradient অনেক ধাপ পেরিয়েও টিকে থাকে।যেখানে শিখবেন: পর্ব ১৭পর্ব ২৯পর্ব ৮৭
- L∞ norm (max norm)এল-ইনফিনিটি নর্ম
- একটি vector-এর ঘরগুলোর পরম মানের সর্বোচ্চটি; adversarial আক্রমণে ‖δ‖∞ ≤ ε মানে কোনো pixel ε-এর বেশি বদলায় না।যেখানে শিখবেন: পর্ব ২৬
M
- MAC (multiply-accumulate)ম্যাক
- একটি গুণ আর একটি যোগ মিলিয়ে একটি গুণ-যোগ; conv আর matrix গুণের খরচ গোনার একক, এক MAC = দুই FLOP.যেখানে শিখবেন: পর্ব ২২
- MAC (multiply-accumulate)ম্যাক
- একটি গুণ আর একটি যোগ মিলিয়ে একটি হিসাবের একক; কেউ কেউ ১ MAC-কে প্রায় ২ FLOP ধরেন, তাই কোন একক ব্যবহার হলো তা দেখে নেওয়া দরকার।যেখানে শিখবেন: পর্ব ৩৫
- Machine epsilonমেশিন এপসাইলন
- ১-এর পরের সবচেয়ে কাছের float আর ১-এর পার্থক্য; float32-এ প্রায় 1.19 × 10⁻⁷, bfloat16-এ 0.0078.যেখানে শিখবেন: পর্ব ০৭পর্ব ১২
- Machine translationমেশিন ট্রান্সলেশন
- যন্ত্র দিয়ে এক ভাষার লেখা অন্য ভাষায় অনুবাদ।যেখানে শিখবেন: পর্ব ৩৯
- Macro average (macro-F1)ম্যাক্রো অ্যাভারেজ
- প্রতিটি শ্রেণির F1 আলাদা বের করে সমান ওজনে গড় নেওয়া; ছোট শ্রেণির খারাপ ফল এতে সরাসরি ধরা পড়ে।যেখানে শিখবেন: পর্ব ৪২
- Macro-F1ম্যাক্রো-এফ-ওয়ান
- প্রতিটি শ্রেণির F1 আলাদা হিসাব করে সরল গড় নেওয়া, তাই ছোট শ্রেণিও বড় শ্রেণির সমান গোনা হয়।যেখানে শিখবেন: পর্ব ৩৯পর্ব ৪৫পর্ব ৪৭
- MADE (masked autoencoder for distribution estimation)মেড
- একটি MLP-এর weight-এ ০/১ mask বসিয়ে এমন autoregressive মডেল, যেখানে output d শুধু আগের মাত্রাগুলো দেখে; এক forward pass-এ সব শর্তসাপেক্ষ probability দেয়।যেখানে শিখবেন: পর্ব ৭৪
- MAE (Mean Absolute Error, L1 loss)এমএই
- অনুমান আর আসল মানের পার্থক্যের পরম মানগুলোর গড়; এর একক আসল মানের এককের মতোই, আর একটি constant-এর মধ্যে median একে সবচেয়ে কম করে।যেখানে শিখবেন: পর্ব ১৩
- Magnitude pruningম্যাগনিচুড প্রুনিং
- যে ওজনগুলোর পরম মান সবচেয়ে ছোট, সেগুলো শূন্য করে দেওয়া, এই ধারণায় যে ছোট ওজনের প্রভাবও ছোট।যেখানে শিখবেন: পর্ব ৫৯
- Majority voteমেজরিটি ভোট
- কয়েকটি উত্তরের মধ্যে যেটি সবচেয়ে বেশিবার এসেছে, সেটিকে চূড়ান্ত ধরা; সমান হলে আগে থেকে ঠিক করা একটি নিয়মে বাছাই।যেখানে শিখবেন: পর্ব ৬৩
- Majority-class baselineমেজরিটি-ক্লাস বেসলাইন
- সব উদাহরণের জন্য সবচেয়ে বেশি দেখা শ্রেণিটি বলে দেওয়া, feature না দেখেই।যেখানে শিখবেন: পর্ব ৩৯
- Majority-label biasমেজরিটি-লেবেল বায়াস
- Few-shot উদাহরণে যে label বেশিবার আছে, model-এর সেটিই বেশি বলার প্রবণতা।যেখানে শিখবেন: পর্ব ৬১পর্ব ৮৮
- Manifold hypothesisম্যানিফোল্ড হাইপোথিসিস
- বাস্তবের উঁচু মাত্রার ডেটা সাধারণত পুরো জায়গা জুড়ে নয়, একটি কম মাত্রার বাঁকানো পাতার কাছাকাছি থাকে, এই ধারণা।যেখানে শিখবেন: পর্ব ৭৫
- Many-to-manyম্যানি-টু-ম্যানি
- Sequence-এর প্রতিটি ধাপে একটি output দেওয়ার task, যেমন প্রতিদিনের পরের দিনের পূর্বাভাস বা প্রতিটি শব্দের tag.যেখানে শিখবেন: পর্ব ২৮
- Many-to-oneম্যানি-টু-ওয়ান
- পুরো sequence পড়ে একটি মাত্র output দেওয়ার task, যেমন একটি review থেকে একটি sentiment.যেখানে শিখবেন: পর্ব ২৮
- mAP (detection)এম-এ-পি
- Detector-এর প্রধান মাপ: প্রতিটি শ্রেণির average precision-এর গড়। PASCAL VOC-তে IoU ০.৫-এ, COCO-তে IoU ০.৫০ থেকে ০.৯৫ পর্যন্ত দশটি threshold-এর গড়।যেখানে শিখবেন: পর্ব ২৫
- Map-style datasetম্যাপ-স্টাইল ডেটাসেট
- যে Dataset-এ index দিয়ে যেকোনো নমুনা সরাসরি পাওয়া যায় আর মোট সংখ্যা জানা থাকে; তাই shuffle আর sampler এতে স্বাভাবিকভাবে কাজ করে।যেখানে শিখবেন: পর্ব ১১পর্ব ৫৩
- Mapping networkম্যাপিং নেটওয়ার্ক
- StyleGAN-এর কয়েকটি fully connected স্তরের network, যা Gaussian latent z-কে আরেকটি latent w-তে নেয়; w-এর জায়গায় বৈশিষ্ট্যগুলো বেশি আলাদা দিকে থাকে বলে ধরা হয়।যেখানে শিখবেন: পর্ব ৭৮
- Marginমার্জিন
- সীমানা থেকে সবচেয়ে কাছের training বিন্দুর চিহ্নসহ দূরত্ব, min yᵢ(w·xᵢ + b)/‖w‖; এটি যত বড়, ডেটা তত পরিষ্কারভাবে আলাদা।যেখানে শিখবেন: পর্ব ০২
- Markov chainমারকভ চেইন
- অবস্থার এমন একটি ক্রম, যেখানে পরের অবস্থার সম্ভাবনা শুধু এখনকার অবস্থার ওপর নির্ভর করে; transition matrix দিয়ে পুরোটা লেখা যায়।যেখানে শিখবেন: পর্ব ৭৯
- Markov propertyমারকভ প্রপার্টি
- বর্তমান অবস্থা জানা থাকলে অতীতের ইতিহাস পরের অবস্থার সম্ভাবনা আর বদলায় না, এই অনুমান; সংক্ষেপে ভবিষ্যৎ শুধু বর্তমানের ওপর নির্ভর করে।যেখানে শিখবেন: পর্ব ৪৬
- MASE (mean absolute scaled error)এমএএসই
- Holdout-এর MAE-কে training-এ এক-ধাপ naive বা seasonal naive-এর MAE দিয়ে ভাগ; ১-এর নিচে মানে সেই মাপকাঠির চেয়ে ছোট ভুল।যেখানে শিখবেন: পর্ব ৩১
- Masked autoencoder (MAE)মাস্কড অটোএনকোডার
- ছবির বেশির ভাগ patch লুকিয়ে বাকিগুলো থেকে pixel পুনর্গঠন করতে শেখানো self-supervised পদ্ধতি।যেখানে শিখবেন: পর্ব ৩৮
- Masked language modeling (MLM)মাস্কড ল্যাঙ্গুয়েজ মডেলিং
- কিছু token লুকিয়ে দুই পাশের প্রসঙ্গ থেকে সেগুলো অনুমান করতে শেখানোর লক্ষ্য।যেখানে শিখবেন: পর্ব ৪৪পর্ব ৪৭পর্ব ৫৪
- Masked poolingমাস্কড পুলিং
- Sequence-এর সময়-অক্ষ জুড়ে গড় বা সর্বোচ্চ নেওয়ার সময় mask দিয়ে pad-এর ঘর বাদ দেওয়া, যাতে ফল batch-এর দৈর্ঘ্যের ওপর নির্ভর না করে।যেখানে শিখবেন: পর্ব ২৭পর্ব ৪২পর্ব ৪৮
- Matrix multiplication (@)ম্যাট্রিক্স মাল্টিপ্লিকেশন
- বাঁয়ের প্রতিটি সারি আর ডানের প্রতিটি কলামের dot product দিয়ে নতুন matrix বানানো; (m, k) @ (k, n) থেকে (m, n), ভেতরের k মিলতে হয়।যেখানে শিখবেন: পর্ব ০৩
- Max length (max position)ম্যাক্স লেংথ
- Model যত দীর্ঘ sequence নিতে পারে বলে কনফিগার করা; Hugging Face config-এ প্রায়ই n_positions বা max_position_embeddings নামে থাকে।যেখানে শিখবেন: পর্ব ৩৪
- Max poolingম্যাক্স পুলিং
- প্রতিটি জানালার সবচেয়ে বড় মানটি রাখা pooling; জানালার ভেতরের ছোট সরণে ফল বদলায় না।যেখানে শিখবেন: পর্ব ২০পর্ব ২১
- Max-over-time poolingম্যাক্স ওভার টাইম পুলিং
- প্রতিটি filter-এর সব সময়ের সাড়ার মধ্যে সবচেয়ে বড়টি নেওয়া; দৈর্ঘ্য যাই হোক (N, F) পাওয়া যায়, আর নকশাটির অবস্থান হারিয়ে যায়।যেখানে শিখবেন: পর্ব ৩১
- Maximum likelihood estimation (MLE)ম্যাক্সিমাম লাইকলিহুড
- মডেলের এমন parameter বেছে নেওয়া, যাতে দেখা ডেটার সম্ভাবনা (likelihood) সবচেয়ে বেশি হয়; এটি cross-entropy বা KL divergence কমানোর সমান।যেখানে শিখবেন: পর্ব ৪৬পর্ব ৭৪
- MC dropoutএমসি ড্রপআউট
- Inference-এর সময় dropout চালু রেখে একই input-এ অনেকবার forward করে উত্তরের গড় আর ছড়ানো ভাব নেওয়া; অনিশ্চয়তার একটি সস্তা আভাস, নিখুঁত মাপ নয়।যেখানে শিখবেন: পর্ব ১৬
- McNemar's testম্যাকনিমার টেস্ট
- একই test set-এ দুই classifier-এর তুলনা, শুধু সেই উদাহরণগুলো দিয়ে যেখানে একজন ঠিক আর অন্যজন ভুল।যেখানে শিখবেন: পর্ব ৪২পর্ব ৪৪পর্ব ৫৮
- MCP (Model Context Protocol)এম-সি-পি
- AI অ্যাপকে বাইরের tool, তথ্য আর prompt-ছাঁচের সঙ্গে এক নিয়মে যুক্ত করার একটি খোলা protocol; host প্রতিটি server-এর জন্য একটি client বানায়, বার্তা JSON-RPC 2.0-তে। Anthropic ২০২৪ সালে প্রকাশ করে।যেখানে শিখবেন: পর্ব ৭১
- Mean poolingমিন পুলিং
- সব ঘরের vector-এর গড় নিয়ে পুরো sequence-এর জন্য একটি vector বানানো।যেখানে শিখবেন: পর্ব ৩৪পর্ব ৩৮পর্ব ৪৭
- Mean reciprocal rank (MRR)মিন রেসিপ্রোকাল র্যাঙ্ক
- প্রতিটি প্রশ্নে প্রথম প্রাসঙ্গিক ফলের অবস্থান r হলে 1/r, তারপর সব প্রশ্নের গড়; MRR@10-এ প্রথম ১০-এর বাইরে হলে ০ ধরা হয়।যেখানে শিখবেন: পর্ব ৬৭পর্ব ৮৮পর্ব ৮৯
- Mean squared error (MSE)মিন স্কোয়ার্ড এরর
- প্রতিটি অনুমানের ভুলকে বর্গ করে সবগুলোর গড়; বড় ভুলকে বেশি শাস্তি দেয়, আর একটি constant-এর মধ্যে গড় একে সবচেয়ে কম করে।যেখানে শিখবেন: পর্ব ০৫পর্ব ১৩পর্ব ৭৫
- Medianমিডিয়ান
- মানগুলো সাজালে ঠিক মাঝের মান (জোড় সংখ্যক হলে মাঝের দুটির গড়); গড়ের চেয়ে একক খুব বড় বা ছোট মানে অনেক কম নড়ে।যেখানে শিখবেন: পর্ব ১৩
- MedianPrunerমিডিয়ান প্রুনার
- Optuna-র pruner: warmup-এর পরে একটি trial-এর এখন পর্যন্ত সেরা মান একই step-এ শেষ হওয়া trial-গুলোর median-এর চেয়ে খারাপ হলে তাকে থামায়।যেখানে শিখবেন: পর্ব ১৯
- Memorizationমেমোরাইজেশন
- Model-এর training উদাহরণগুলো, এমনকি এলোমেলো label-ও, হুবহু মনে রেখে দেওয়া; এতে train-এ ভুল শূন্য হয়, কিন্তু নতুন ডেটায় কোনো লাভ হয় না।যেখানে শিখবেন: পর্ব ১৮পর্ব ৩৬পর্ব ৭৩
- Memory (encoder output)মেমরি
- Encoder stack-এর শেষ output, আকার (B, T_src, d); decoder-এর প্রতিটি block cross-attention-এ এটি পড়ে।যেখানে শিখবেন: পর্ব ৩৫
- Memory footprintমেমরি ফুটপ্রিন্ট
- একটি model-এর ওজন আর buffer memory-তে মোট কতটা জায়গা নেয়; চালানোর সময়ের activation আর cache এর বাইরে।যেখানে শিখবেন: পর্ব ৫৯
- Memory mapping (np.memmap)মেমোরি ম্যাপিং
- ডিস্কের একটি ফাইলকে মেমরির array-এর মতো ব্যবহার করা, যেখানে যে অংশ ছোঁয়া হয় শুধু সেটুকু ডিস্ক থেকে আনা হয়; RAM-এর চেয়ে বড় ডেটার জন্য।যেখানে শিখবেন: পর্ব ৫৩
- Memory-bound vs compute-boundমেমরি-বাউন্ড
- কোনো কাজের গতি হিসাবের ক্ষমতায় না আটকে memory থেকে ডেটা আনা-নেওয়ার গতিতে আটকালে সেটি memory-bound; ReLU বা যোগের মতো উপাদান-ধরে কাজ সাধারণত তাই, বড় matmul সাধারণত compute-bound.যেখানে শিখবেন: পর্ব ১২পর্ব ২২পর্ব ৮৩
- Memory-Efficient Attentionমেমরি এফিশিয়েন্ট অ্যাটেনশন
- PyTorch-এর SDPA-র একটি GPU backend, যা পুরো score matrix একসঙ্গে না রেখে attention হিসাব করে।যেখানে শিখবেন: পর্ব ৩৭
- Merge tableমার্জ টেবিল
- BPE training-এ শেখা জোড়ার ক্রমিক তালিকা; encode-এর সময় এই ক্রমেই টুকরো জোড়া লাগে।যেখানে শিখবেন: পর্ব ৪০
- Merging a LoRA adapterলো-রা মার্জ
- শেখা adapter-কে মূল ওজনে যোগ করে W + (α/r)BA একটি matrix বানানো; এতে inference-এ বাড়তি হিসাব থাকে না, কিন্তু adapter আর আলাদা থাকে না।যেখানে শিখবেন: পর্ব ৫৫
- Metadata filteringমেটাডেটা ফিল্টারিং
- Vector-এর পাশে রাখা সাধারণ তথ্য (বিষয়, জেলা, তারিখ, অনুমতি) দিয়ে খোঁজার ফল ছাঁকা।যেখানে শিখবেন: পর্ব ৬৮পর্ব ৬৯
- Metric artefact (mirage)মেট্রিক আর্টিফ্যাক্ট
- আসল উন্নতি মসৃণ হলেও পরিমাপের ধরনের কারণে হঠাৎ লাফের মতো দেখানো; Schaeffer আর সহলেখকেরা ২০২৩ সালে emergent দাবির একটি ব্যাখ্যা হিসেবে এটি প্রস্তাব করেন।যেখানে শিখবেন: পর্ব ৫১
- Micro average (micro-F1)মাইক্রো অ্যাভারেজ
- সব শ্রেণির TP, FP আর FN আগে যোগ করে তারপর একটি F1 বের করা; প্রতিটি উদাহরণে ঠিক একটি লেবেল থাকলে এটি accuracy-র সমান।যেখানে শিখবেন: পর্ব ৪২
- Micro-F1মাইক্রো এফ-ওয়ান
- সব class-এর TP, FP আর FN আগে যোগ করে একবারে হিসাব করা F1; প্রতিটি নমুনায় একটি label থাকলে এটি accuracy-র সমান।যেখানে শিখবেন: পর্ব ৪৫
- Min-p samplingমিন-পি
- সবচেয়ে বড় probability-র একটি ভগ্নাংশকে সীমা ধরে তার নিচের token বাদ দেওয়া; সীমা বণ্টনের সঙ্গে নিজে বদলায়।যেখানে শিখবেন: পর্ব ৫০
- MinHashমিনহ্যাশ
- Set-কে ছোট স্বাক্ষরে নামিয়ে Jaccard অনুমান করার কৌশল; বড় ডেটায় সব জোড়া না মিলিয়েও মিল খোঁজা যায়।যেখানে শিখবেন: পর্ব ৪২
- Mini-batchমিনি-ব্যাচ
- Network-এ একবারে পাঠানো ডেটার ছোট একটি দল, যেমন ৩২টি সারি; সারিগুলো একটি matrix-এ পাশাপাশি থাকে।যেখানে শিখবেন: পর্ব ০৩পর্ব ০৪পর্ব ১০
- Minimax objective (GAN)মিনিম্যাক্স অবজেক্টিভ
- GAN-এর মূল লক্ষ্য min_G max_D E[ln D(x)] + E[ln(1 − D(G(z)))]: discriminator মানটি বাড়াতে চায়, generator কমাতে চায়।যেখানে শিখবেন: পর্ব ৭৭
- Minimum-norm solutionমিনিমাম-নর্ম সলিউশন
- অনেক সমান ভালো সমাধানের মধ্যে যেটির দৈর্ঘ্য ‖a‖ সবচেয়ে কম; pseudo-inverse আর np.linalg.lstsq কম-নির্ধারিত সমস্যায় এটিই দেয়।যেখানে শিখবেন: পর্ব ০৬
- Mixed precision trainingমিক্সড প্রিসিশন
- Training-এ ভারী কাজ (matrix গুণ, convolution) ১৬-bit-এ আর সংবেদনশীল কাজ (যোগফল, loss, weight আপডেট) float32-এ চালানো, যাতে গতি বাড়ে আর memory কমে কিন্তু নির্ভুলতা প্রায় একই থাকে।যেখানে শিখবেন: পর্ব ১২পর্ব ৩৬পর্ব ৫৫
- Mixture of experts (MoE)মিক্সচার অব এক্সপার্টস
- একটি FFN-এর জায়গায় কয়েকটি FFN (expert) রাখা, আর একটি router প্রতিটি token-এর জন্য অল্প কয়েকটি বেছে নেয়; মোট parameter বড় হলেও প্রতি token-এ অল্প অংশ চলে।যেখানে শিখবেন: পর্ব ৪৯পর্ব ৫১
- Mixupমিক্সআপ
- দুটি training উদাহরণ আর তাদের label-এর ওজনযুক্ত মিশ্রণ দিয়ে নতুন উদাহরণ বানানোর augmentation কৌশল।যেখানে শিখবেন: পর্ব ১৬পর্ব ২৪
- MLflowএম-এল-ফ্লো
- Experiment tracking, model সংরক্ষণ আর model registry-র জন্য একটি open-source প্ল্যাটফর্ম।যেখানে শিখবেন: পর্ব ১৯
- MLP (multi-layer perceptron)এমএলপি
- Input আর output-এর মাঝে এক বা একাধিক hidden layer থাকা সবচেয়ে সরল ধরনের neural network.যেখানে শিখবেন: পর্ব ০১পর্ব ০৩পর্ব ০৫
- MobileNetমোবাইলনেট
- ফোনের মতো কম শক্তির যন্ত্রের জন্য বানানো CNN পরিবার (২০১৭ থেকে), depthwise separable conv আর পরে inverted residual ও squeeze-and-excitation-এর ওপর দাঁড়ানো।যেখানে শিখবেন: পর্ব ২২
- Mode collapseমোড কলাপ্স
- Generative মডেল, বিশেষ করে GAN, যখন ডেটার কয়েকটি ধরনই বারবার তৈরি করে আর বাকিগুলো বাদ দেয়; নমুনার বৈচিত্র্য কমে যায়।যেখানে শিখবেন: পর্ব ৭৪পর্ব ৭৭পর্ব ৭৮
- Mode coverageমোড কভারেজ
- ডেটার সব ধরন বা চূড়া (mode) মডেলের নমুনায় কতটা উপস্থিত, তার মাপ; কম হলে নমুনা ভালো দেখালেও বৈচিত্র্য কম।যেখানে শিখবেন: পর্ব ৭৪পর্ব ৭৮
- Mode-coveringমোড-কভারিং
- KL(p ‖ q) কমালে q-এর আচরণ: যেখানে ডেটা আছে সেখানে q শূন্য হতে পারে না, তাই সব চূড়া ঢাকে, প্রয়োজনে মাঝখানেও probability ছড়িয়ে।যেখানে শিখবেন: পর্ব ৭৪
- Mode-seeking (zero-forcing)মোড-সিকিং
- KL(q ‖ p) কমালে q-এর আচরণ: যেখানে p প্রায় শূন্য সেখানে q ভর রাখে না, তাই বহু-চূড়ার p-এর একটি চূড়ায় বসে থাকে।যেখানে শিখবেন: পর্ব ৭৪
- Model cardমডেল কার্ড
- একটি model-এর উদ্দেশ্য, training data, মূল্যায়ন, সীমা আর licence এক জায়গায় লিখে রাখার নথি; ব্যবহারের আগে পড়ার কথা।যেখানে শিখবেন: পর্ব ২৩পর্ব ৫৩পর্ব ৮০
- Model registryমডেল রেজিস্ট্রি
- Model-এর প্রতিটি version, তার metadata, মূল্যায়নের ফল আর কোনটি চালু, তা এক জায়গায় রাখার ব্যবস্থা; rollback-এ আগের version খুঁজে পেতে কাজে লাগে।যেখানে শিখবেন: পর্ব ৮৪
- Model routingমডেল রাউটিং
- প্রতিটি অনুরোধের জন্য কোন model বা কোন পথ (ছোট model, বড় model, tool, মানুষ) ব্যবহার হবে, তা নিয়ম বা একটি শেখা classifier দিয়ে ঠিক করা।যেখানে শিখবেন: পর্ব ৮৫পর্ব ৮৬
- Model servingমডেল সার্ভিং
- শেখানো model-কে এমনভাবে চালু রাখা, যাতে অন্য সিস্টেম বা মানুষ নতুন ডেটার অনুমান নিতে পারে: আগে থেকে batch-এ হিসাব করে, অনুরোধ এলে API দিয়ে, বা যন্ত্রের ভেতরেই।যেখানে শিখবেন: পর্ব ৮৪
- Model size (N)মডেল সাইজ
- Kaplan-এর হিসাবে embedding বাদে বাকি parameter-এর সংখ্যা; Chinchilla-র হিসাবে embedding-সহ মোট parameter. দুটি মেলানোর আগে সংজ্ঞা দেখতে হয়।যেখানে শিখবেন: পর্ব ৫১
- Module backward hookব্যাকওয়ার্ড হুক
- nn.Module-এ register_full_backward_hook দিয়ে বসানো function, যা backward-এর সময় ওই স্তরের input আর output-এর gradient হাতে পায়; স্তর ধরে gradient মাপার সহজ উপায়।যেখানে শিখবেন: পর্ব ১৭পর্ব ২৬
- modules_to_saveমডিউলস টু সেভ
- LoRA ছাড়াও যে module পুরোটা শেখানো আর adapter ফাইলে সংরক্ষণ করা হয়, যেমন নতুন classifier head.যেখানে শিখবেন: পর্ব ৫৫
- Momentumমোমেন্টাম
- Gradient descent-এ আগের ধাপগুলোর একটি চলমান যোগফল ধরে রাখার কৌশল, যাতে একই দিকে ধাপ দ্রুত হয় আর এলোমেলো দোলা কমে।যেখানে শিখবেন: পর্ব ১০পর্ব ১৫
- Monte Carlo estimateমন্টে কার্লো
- অনেক এলোমেলো নমুনা তুলে তাদের গড় দিয়ে একটি গড় বা integral অনুমান করার পদ্ধতি; নমুনা বাড়লে ভুল সাধারণত ১/√n হারে কমে।যেখানে শিখবেন: পর্ব ৭৬
- Morphologyমরফোলজি
- শব্দের গঠন আর রূপভেদের নিয়ম, যেমন বিভক্তি, নির্দেশক আর সমাস।যেখানে শিখবেন: পর্ব ৪১
- MRR (Mean Reciprocal Rank)এম-আর-আর
- প্রতিটি প্রশ্নে প্রথম ঠিক উত্তরের rank-এর উল্টো মানের গড়; উত্তর যত ওপরে, মান তত বেশি।যেখানে শিখবেন: পর্ব ৩৯পর্ব ৬৯পর্ব ৭০
- Multi-agentমাল্টি-এজেন্ট
- যে পরিবেশে একাধিক agent আছে, যাদের নিজস্ব লক্ষ্য; তারা সহযোগী বা প্রতিপক্ষ হতে পারে।যেখানে শিখবেন: পর্ব ৭২
- Multi-class perceptronমাল্টি-ক্লাস পারসেপট্রন
- প্রতিটি শ্রেণির জন্য একটি weight সারি রাখা perceptron, যা সবচেয়ে বড় score-এর শ্রেণি বলে; ভুল হলে ঠিক শ্রেণির সারিতে x যোগ আর ভুল করে বাছা শ্রেণির সারি থেকে x বিয়োগ করে।যেখানে শিখবেন: পর্ব ০২
- Multi-head attentionমাল্টি-হেড অ্যাটেনশন
- Q, K, V-কে h ভাগে কেটে প্রতি ভাগে আলাদা attention চালিয়ে ফল জুড়ে একটি শেষ projection দেওয়ার পদ্ধতি; একই খরচে h-টি আলাদা ওজনের ছক পাওয়া যায়।যেখানে শিখবেন: পর্ব ৩৩পর্ব ৩৫পর্ব ৩৬
- Multi-head latent attention (MLA)ল্যাটেন্ট অ্যাটেনশন
- DeepSeek-এর প্রতিবেদনে বর্ণিত attention, যেখানে key আর value-কে ছোট একটি latent vector-এ চেপে রেখে KV cache কমানো হয়।যেখানে শিখবেন: পর্ব ৪৯
- Multi-horizon forecastমাল্টি-হরাইজন ফোরকাস্ট
- একটি origin থেকে একসঙ্গে সামনের অনেক দিনের অনুমান দেওয়া, যেমন একবারে আগামী ২৮ দিন।যেখানে শিখবেন: পর্ব ৩১
- Multi-label classificationমাল্টি-লেবেল ক্লাসিফিকেশন
- যে classification-এ একটি উদাহরণ একসঙ্গে শূন্য, এক বা কয়েকটি ট্যাগ পেতে পারে; উত্তর একটি ০/১ vector, প্রতিটি ট্যাগে একটি করে হ্যাঁ/না।যেখানে শিখবেন: পর্ব ১৩
- Multi-turn conversationমাল্টি-টার্ন
- একাধিক প্রশ্ন-উত্তরের পালা নিয়ে একটি কথোপকথন; পরের উত্তর আগের পালাগুলো প্রসঙ্গ হিসেবে দেখে।যেখানে শিখবেন: পর্ব ৫৬
- Multiclass classificationমাল্টিক্লাস ক্লাসিফিকেশন
- দুইয়ের বেশি শ্রেণি থেকে ঠিক একটি বেছে নেওয়ার কাজ, যেমন একজন গ্রাহক বাজেট, নিয়মিত না প্রিমিয়াম।যেখানে শিখবেন: পর্ব ০২
- Multimodal modelমাল্টিমোডাল মডেল
- একাধিক ধরনের ডেটা, যেমন ছবি, লেখা বা শব্দ, একসঙ্গে নিতে বা মেলাতে পারে এমন model; CLIP আর vision-language model এর উদাহরণ।যেখানে শিখবেন: পর্ব ৮২
- Multiple choice gradeমাল্টিপল চয়েস গ্রেড
- সবচেয়ে বেশি probability ঠিক বিকল্পে থাকলে ১, নাহলে ০; probability একটু বদলালেও স্কোর না বদলাতে পারে, তাই এটি লাফ দিয়ে বদলায়।যেখানে শিখবেন: পর্ব ৫১
- Multiply-accumulate (MAC)ম্যাক
- একটি গুণ আর তার ফল যোগফলে জমা করা, এই জোড়া কাজ; convolution আর matrix গুণের খরচ সাধারণত MAC-এ গোনা হয়, আর ১ MAC প্রায় ২ FLOP.যেখানে শিখবেন: পর্ব ২১
- Multivariate Gaussian N(μ, Σ)মাল্টিভ্যারিয়েট গাউসিয়ান
- একাধিক সংখ্যার যৌথ normal distribution, যা গড় vector μ আর covariance matrix Σ দিয়ে পুরো বর্ণিত; Σ = LLᵀ হলে z ~ N(0, I) থেকে x = μ + Lz এমন নমুনা দেয়।যেখানে শিখবেন: পর্ব ৮১
N
- n-gramএন-গ্রাম
- পরপর n টি token বা অক্ষরের টুকরো। n-gram model আগের n − ১টি token দেখে পরেরটি অনুমান করে, গোনা হিসাব থেকে।যেখানে শিখবেন: পর্ব ৩৬পর্ব ৩৯পর্ব ৪৫
- Naive forecast (last value)নাইভ ফোরকাস্ট
- কিছু না শিখে শেষ দেখা মানকেই পরের মানের অনুমান ধরা; forecasting-এর সহজতম baseline.যেখানে শিখবেন: পর্ব ২৭
- NaN (Not a Number)ন্যান
- IEEE 754 float-এর একটি বিশেষ মান, যা inf/inf বা 0/0-এর মতো অর্থহীন হিসাবে জন্মায়; এটি নিজেরও সমান নয়, তাই np.isnan দিয়ে খুঁজতে হয়।যেখানে শিখবেন: পর্ব ০৩পর্ব ০৮পর্ব ১৭
- Nash equilibriumন্যাশ ইকুইলিব্রিয়াম
- খেলার এমন অবস্থা যেখানে কোনো খেলোয়াড় অন্যদের চাল স্থির রেখে একা নিজের চাল বদলে লাভবান হতে পারে না; GAN-এর আদর্শ লক্ষ্য এমন একটি অবস্থা।যেখানে শিখবেন: পর্ব ৭৭
- Natsন্যাটস
- স্বাভাবিক log (ln) দিয়ে মাপা তথ্যের একক। PyTorch-এর cross_entropy এই এককে ফল দেয়; ১ nat ≈ ১.৪৪৩ bit.যেখানে শিখবেন: পর্ব ৪৬
- ndarray (NumPy array)এন-ডি অ্যারে
- NumPy-র মূল ডেটা-কাঠামো: একই dtype-এর সংখ্যা একটি টানা memory-তে, সঙ্গে shape, strides আর dtype-এর বর্ণনা।যেখানে শিখবেন: পর্ব ০৭
- NDCG (normalized discounted cumulative gain)এনডিসিজি
- তালিকার প্রতিটি অবস্থানের প্রাসঙ্গিকতাকে 1 ÷ log2(i + 1) দিয়ে ছাড় দিয়ে যোগ করে সেরা সম্ভাব্য সাজানোর যোগফল দিয়ে ভাগ করা মাপ; মান ০ থেকে ১, একাধিক প্রাসঙ্গিক ফল আর অবস্থান দুটোই ধরে।যেখানে শিখবেন: পর্ব ৭০পর্ব ৮৭পর্ব ৮৯
- Near-duplicateনিয়ার-ডুপ্লিকেট
- প্রায় হুবহু একই লেখা, যেমন একটি বিরামচিহ্ন বা বানান আলাদা; train আর test-এ ভাগ হয়ে গেলে test সহজ হয়ে যায়।যেখানে শিখবেন: পর্ব ৪২পর্ব ৪৭পর্ব ৫৬
- Nearest neighbor searchনিয়ারেস্ট নেইবার সার্চ
- একটি প্রশ্নের vector-এর সবচেয়ে কাছের (বা সবচেয়ে মিলের) k-টি vector খুঁজে বের করার কাজ।যেখানে শিখবেন: পর্ব ৬৮
- Negative log-likelihood (CRF)নেগেটিভ লগ-লাইকলিহুড
- CRF-এর loss, −log P(y* | x) = log Z − score(y*); সঠিক পথের score বাড়ায় আর বাকি পথগুলোকে তুলনায় নামায়।যেখানে শিখবেন: পর্ব ৪৩
- Negative log-likelihood (NLL)নেগেটিভ লগ-লাইকলিহুড
- দেখা ডেটার likelihood-এর log-কে ঋণাত্মক করে নেওয়া loss; এটি কমানো মানে likelihood বাড়ানো, আর categorical label-এ এটিই cross-entropy.যেখানে শিখবেন: পর্ব ১৩
- Negative markingনেগেটিভ মার্কিং
- MCQ পরীক্ষার নিয়ম, যেখানে ভুল উত্তরে নম্বর কাটা যায়, যেমন ঠিক হলে +১ আর ভুলে −০.২৫; তাই অন্ধ আন্দাজের চেয়ে কয়েকটি অপশন নিশ্চিতভাবে বাদ দিয়ে উত্তর দেওয়া লাভজনক।যেখানে শিখবেন: পর্ব ৮৮
- Negative promptনেগেটিভ প্রম্পট
- CFG-এর শর্তহীন শাখার খালি prompt-এর জায়গায় বসানো একটি অবাঞ্ছিত বর্ণনা, যাতে নমুনা সেদিক থেকে দূরে ঠেলা খায়; এটি নিয়ম বা নিরাপত্তা ফিল্টার নয়।যেখানে শিখবেন: পর্ব ৮০
- Negative samplingনেগেটিভ স্যাম্পলিং
- পুরো softmax-এর বদলে একটি আসল জোড়া আর k-টি এলোমেলো জোড়াকে আলাদা করার sigmoid কাজ, তাই প্রতি জোড়ায় খরচ V-এর ওপর নির্ভর করে না।যেখানে শিখবেন: পর্ব ৪১
- Negative transferনেগেটিভ ট্রান্সফার
- উৎস কাজের জ্ঞান লক্ষ্য কাজে সাহায্য না করে উল্টো ক্ষতি করা, যাতে pretrained শুরু এলোমেলো শুরুর চেয়েও খারাপ ফল দেয়; সাধারণত domain অনেক দূরে হলে ঘটে।যেখানে শিখবেন: পর্ব ২৩
- NER (Named Entity Recognition)এন-ই-আর
- লেখা থেকে নাম, স্থান, পণ্যের মতো নির্দিষ্ট অংশ খুঁজে তার ধরন বলা।যেখানে শিখবেন: পর্ব ৩৯পর্ব ৪৩পর্ব ৫৪
- Neural architecture search (NAS)নিউরাল আর্কিটেকচার সার্চ
- মানুষের বদলে একটি স্বয়ংক্রিয় অনুসন্ধান দিয়ে network-এর স্থাপত্য (স্তরের ধরন, kernel, প্রস্থ) বাছাই করা, প্রায়ই accuracy আর latency দুটি লক্ষ্য মিলিয়ে।যেখানে শিখবেন: পর্ব ২২
- Neural language modelনিউরাল ল্যাঙ্গুয়েজ মডেল
- গোনার খাতার বদলে শেখা weight দিয়ে পরের token-এর probability বলে এমন model; embedding-এর কারণে একই ধরনের token-এর মধ্যে তথ্য ভাগ হতে পারে।যেখানে শিখবেন: পর্ব ৪৬
- Neural Networkনিউরাল নেটওয়ার্ক
- স্তরে স্তরে সাজানো ছোট ছোট হিসাবের একক (neuron) দিয়ে তৈরি model; প্রতিটি সংযোগের weight প্রশিক্ষণে ঠিক হয়। মস্তিষ্ক থেকে নাম এলেও এটি একটি গাণিতিক ফাংশন।যেখানে শিখবেন: পর্ব ০১
- Neural text degenerationনিউরাল টেক্সট ডিজেনারেশন
- সবচেয়ে সম্ভাব্য পথ ধরে লেখা তৈরি করলে একঘেয়ে ও পুনরাবৃত্ত লেখা আসার ঘটনা; Holtzman ও সহলেখকদের দেওয়া নাম।যেখানে শিখবেন: পর্ব ৫০
- Newly failing itemনিউলি ফেইলিং আইটেম
- যে প্রশ্ন পুরনো version-এ পাশ করত কিন্তু নতুন version-এ ফেল করে; গড় পাশের হার বাড়লেও এমন প্রশ্ন থাকতে পারে।যেখানে শিখবেন: পর্ব ৬৬
- Next sentence prediction (NSP)নেক্সট সেন্টেন্স প্রেডিকশন
- BERT-এর pretraining-এর দ্বিতীয় কাজ: দ্বিতীয় অংশটি কি সত্যিই প্রথম অংশের পরের লেখা, তা অনুমান করা।যেখানে শিখবেন: পর্ব ৪৮
- Next-token predictionনেক্সট-টোকেন প্রেডিকশন
- এ পর্যন্ত আসা token দেখে পরের token-এর ওপর একটি সম্ভাব্যতা বণ্টন দেওয়ার কাজ; decoder-only model-এর training আর generation দুটোরই ভিত্তি।যেখানে শিখবেন: পর্ব ৪৯
- NF4 (4-bit NormalFloat)এন-এফ-ফোর
- ১৬টি মানের একটি 4-bit সংখ্যার ধরন, যার মানগুলো normal বণ্টনের quantile থেকে বানানো; normal-ধাঁচের ওজনের জন্য QLoRA-তে প্রস্তাবিত।যেখানে শিখবেন: পর্ব ৫৫পর্ব ৫৯
- NFC (Normalization Form C)এন-এফ-সি
- Unicode normalization-এর সবচেয়ে প্রচলিত রূপ, যা সাধারণত অক্ষর জোড়া লাগিয়ে রাখে; তবে য়, ড়, ঢ়-কে নিয়ম অনুযায়ী দুই code point-এ রাখে।যেখানে শিখবেন: পর্ব ১১পর্ব ৪০পর্ব ৪৫
- NFKC (Normalization Form KC)এন-এফ-কে-সি
- NFC-এর চেয়ে বেশি কড়া Unicode normalization, যা compatibility চিহ্নকেও সাধারণ রূপে আনে, যেমন ① থেকে 1; তাই অর্থ বদলাতে পারে।যেখানে শিখবেন: পর্ব ৪০
- NLP (Natural Language Processing)এন-এল-পি
- মানুষের লেখা বা বলা ভাষা নিয়ে যন্ত্রের কাজ, যেমন শ্রেণিবিভাগ, অনুবাদ বা খোঁজা।যেখানে শিখবেন: পর্ব ৩৯
- nn.Embeddingএনএন এমবেডিং
- PyTorch-এর শেখার যোগ্য V × D টেবিল; id দিলে সেই সারিটি ফেরত দেয়, তাই (B, T) ইনপুট থেকে (B, T, D) আউটপুট হয়।যেখানে শিখবেন: পর্ব ২৭পর্ব ৩৪
- nn.EmbeddingBagএমবেডিং ব্যাগ
- PyTorch-এর module, যা টেবিল থেকে vector তুলে একসঙ্গে গড় বা যোগফল করে; bag-of-embeddings-এর তৈরি রূপ।যেখানে শিখবেন: পর্ব ২৭
- nn.Moduleএনএন মডিউল
- PyTorch-এর সব layer আর model-এর মূল class; attribute হিসেবে রাখা sub-module, parameter আর buffer নিজে নিবন্ধন করে, আর forward-এ হিসাব লেখা হয়।যেখানে শিখবেন: পর্ব ০৯
- nn.ModuleListমডিউল লিস্ট
- Module-এর একটি তালিকা, যা নিজেও একটি Module, তাই ভেতরের প্রতিটি layer নিবন্ধিত হয়; সাধারণ Python list-এ রাখা layer PyTorch দেখে না।যেখানে শিখবেন: পর্ব ০৯
- nn.Sequentialএনএন সিকোয়েনশিয়াল
- কয়েকটি module-কে ক্রমে একের পর এক চালানোর container; ভেতরের layer-গুলোর নাম হয় ০, ১, ২ ক্রমিক নম্বর।যেখানে শিখবেন: পর্ব ০৯
- no_repeat_ngram_sizeনো রিপিট এন-গ্রাম
- একই n-gram দ্বিতীয়বার তৈরি হতে পারে এমন token-কে পুরোপুরি নিষিদ্ধ করার কড়া নিয়ম.যেখানে শিখবেন: পর্ব ৫০
- Noise distributionনয়েজ ডিস্ট্রিবিউশন
- Negative শব্দ যে distribution থেকে তোলা হয়; word2vec-এ শব্দের কম্পাঙ্কের 3/4 ঘাত, ভাগ করে যোগফল 1.যেখানে শিখবেন: পর্ব ৪১
- Noise scheduleনয়েজ শিডিউল
- Diffusion-এর প্রতিটি ধাপে কতটা noise যোগ হবে (β_1 থেকে β_T) তার তালিকা; linear আর cosine সবচেয়ে পরিচিত।যেখানে শিখবেন: পর্ব ৭৯পর্ব ৯০
- Non-leaf tensorনন-লিফ টেনসর
- requires_grad থাকা অন্য tensor থেকে কোনো কাজের মাধ্যমে তৈরি tensor, যার grad_fn আছে; backward-এর পর এর .grad default-ভাবে রাখা হয় না, retain_grad() দিলে রাখা হয়।যেখানে শিখবেন: পর্ব ০৮
- Non-maximum suppression (NMS)নন-ম্যাক্সিমাম সাপ্রেশন
- Detector-এর একই বস্তুর একাধিক box ছাঁটার greedy নিয়ম: score অনুযায়ী সাজিয়ে সর্বোচ্চটি রাখা আর তার সঙ্গে IoU threshold-এর বেশি মেলা বাকি box বাদ দেওয়া, তালিকা খালি না হওয়া পর্যন্ত।যেখানে শিখবেন: পর্ব ২৫
- Non-saturating generator lossনন-স্যাচুরেটিং লস
- Generator-এর জন্য −ln D(G(z)) কমানো, অর্থাৎ নকলকে লেবেল ১ দিয়ে binary cross-entropy; discriminator নিশ্চিত হলেও gradient জোরালো থাকে।যেখানে শিখবেন: পর্ব ৭৭
- Normal distributionনরমাল ডিস্ট্রিবিউশন
- ঘণ্টার মতো আকারের সম্ভাবনার বণ্টন, যা গড় আর standard deviation দিয়ে পুরোপুরি বর্ণনা করা যায়।যেখানে শিখবেন: পর্ব ৭৯
- Normal vectorনরমাল ভেক্টর
- কোনো রেখা বা সমতলের ওপর লম্ব একটি vector; w·x + b = 0 সমতলের normal হলো w নিজেই, আর w-এর দিকে গেলে w·x + b সবচেয়ে দ্রুত বাড়ে।যেখানে শিখবেন: পর্ব ০২
- Normalizing flowনরমালাইজিং ফ্লো
- উল্টানো যায় এমন রূপান্তরের শিকল দিয়ে সরল বণ্টনকে জটিল বণ্টনে বদলানো মডেল; change-of-variables সূত্রে Jacobian-এর determinant দিয়ে হুবহু log-likelihood পাওয়া যায়।যেখানে শিখবেন: পর্ব ৭৪
- nprobeএন-প্রোব
- IVF-এ খোঁজার সময় প্রশ্নের কাছের কতটি cell দেখা হবে; বাড়ালে recall আর সময় দুটিই বাড়ে। FAISS-এ ডিফল্ট 1.যেখানে শিখবেন: পর্ব ৬৮পর্ব ৮৮
- Numerical stabilityনিউমেরিক্যাল স্টেবিলিটি
- Float সংখ্যার সীমার মধ্যে থেকে হিসাব এমনভাবে লেখা, যাতে overflow, underflow বা log(0)-এর মতো কারণে ফল inf বা nan না হয়।যেখানে শিখবেন: পর্ব ০৩
O
- Object detectionঅবজেক্ট ডিটেকশন
- ছবিতে যত বস্তু আছে তার প্রতিটির শ্রেণি আর অবস্থান (সাধারণত একটি bounding box) বের করার কাজ; output-এর দৈর্ঘ্য আগে থেকে জানা থাকে না।যেখানে শিখবেন: পর্ব ২৫
- Object hallucinationঅবজেক্ট হ্যালুসিনেশন
- ছবিতে নেই এমন বস্তুকে model-এর আছে বলা বা বর্ণনায় লেখা; অনুপস্থিত বস্তু নিয়ে হ্যাঁ/না প্রশ্নে “হ্যাঁ”-র হার দিয়ে মাপা হয়।যেখানে শিখবেন: পর্ব ৮২
- Observabilityঅবজার্ভেবিলিটি
- Log, metric আর trace জোগাড় করে চলমান ব্যবস্থার ভেতরে কী ঘটছে বোঝার সক্ষমতা; LLM-এ token, model, prompt-সংস্করণ আর নথির id-ও এর অংশ।যেখানে শিখবেন: পর্ব ৮৫পর্ব ৯১
- Occlusion sensitivityঅক্লুশন সেনসিটিভিটি
- ছবির একটি অংশ patch দিয়ে ঢেকে প্রতিটি অবস্থানে class-এর সম্ভাবনা আবার মাপা; যেখানে ঢাকলে সম্ভাবনা বেশি কমে, সেই অংশ অনুমানের জন্য গুরুত্বপূর্ণ।যেখানে শিখবেন: পর্ব ২৬
- OCR (Optical Character Recognition)ও-সি-আর
- ছবি থেকে লেখা পড়ে টেক্সটে রূপান্তর করার কাজ, যেমন রসিদ বা হাতে লেখা ঠিকানা পড়া।যেখানে শিখবেন: পর্ব ২৪
- Offline mode (HF_HUB_OFFLINE)অফলাইন মোড
- HF_HUB_OFFLINE=1 দিলে Hugging Face library নেটওয়ার্কে যায় না, শুধু local cache থেকে ফাইল খোলে; cache-এ না থাকলে সঙ্গে সঙ্গে error দেয়।যেখানে শিখবেন: পর্ব ৫৩
- One-cycle policyওয়ান-সাইকেল পলিসি
- Leslie Smith-এর প্রস্তাবিত schedule: learning rate ছোট মান থেকে একবার সর্বোচ্চে উঠে আবার প্রায় শূন্যে নামে, আর momentum উল্টো দিকে চলে; PyTorch-এ OneCycleLR.যেখানে শিখবেন: পর্ব ১৫
- One-hot encodingওয়ান-হট এনকোডিং
- একটি শ্রেণিকে এমন vector-এ লেখা যার সঠিক শ্রেণির ঘরে ১ আর বাকি সব ঘরে ০; তিন শ্রেণিতে দ্বিতীয় শ্রেণি (0, 1, 0).যেখানে শিখবেন: পর্ব ০৪পর্ব ২৭পর্ব ২৮
- One-to-manyওয়ান-টু-ম্যানি
- একটি input থেকে পুরো একটি sequence তৈরি করার task; সাধারণত আগের output পরের ধাপের input হয়।যেখানে শিখবেন: পর্ব ২৮
- One-vs-rest (OvR)ওয়ান-ভার্সাস-রেস্ট
- দুই শ্রেণির classifier দিয়ে বহু শ্রেণির কাজ করার কৌশল: প্রতিটি শ্রেণির জন্য একটি model, “এই শ্রেণি বনাম বাকি সব”, আর যার score সবচেয়ে বড় সেটিই উত্তর।যেখানে শিখবেন: পর্ব ০২
- Online softmaxঅনলাইন সফটম্যাক্স
- সব score একসঙ্গে না রেখে চলতি সর্বোচ্চ মান আর স্কেল করা যোগফল ধরে ধরে softmax-এর একই ফল বের করা।যেখানে শিখবেন: পর্ব ৩৭
- ONNX (Open Neural Network Exchange)ওএনএনএক্স
- Machine learning model-এর একটি খোলা ফরম্যাট, যাতে একটি টুলে বানানো model অন্য runtime-এ, এমনকি Python ছাড়া, চালানো যায়।যেখানে শিখবেন: পর্ব ২৫পর্ব ৮৪
- ONNX Runtimeওএনএনএক্স রানটাইম
- ONNX graph চালানোর একটি C++ engine, যা Python, C#, Java বা JavaScript থেকে ডাকা যায়; graph-এর operation জুড়ে দেয় আর execution provider দিয়ে হার্ডওয়্যার বাছে।যেখানে শিখবেন: পর্ব ৮৪
- OOV (Out-of-vocabulary)ও-ও-ভি
- যে শব্দ train থেকে বানানো vocabulary-তে নেই। OOV হার হলো অদেখা লেখায় এমন token-এর ভাগ।যেখানে শিখবেন: পর্ব ৩৯পর্ব ৪১
- Open weightsওপেন ওয়েটস
- Model-এর weight ডাউনলোড করে নিজে চালানো যায়, কিন্তু training data বা পুরো training code প্রকাশিত নাও হতে পারে; licence আলাদা করে পড়তে হয়।যেখানে শিখবেন: পর্ব ৪৯
- OpenAI-compatible APIওপেনএআই-কম্প্যাটিবল এপিআই
- OpenAI-এর chat completions-এর মতো একই আকারের HTTP অনুরোধ আর উত্তর মেনে চলা API; ফলে একই client কোড নানা server-এ চলে।যেখানে শিখবেন: পর্ব ৮৩
- OpenVINOওপেনভিনো
- Intel-এর inference toolkit, যা নথি অনুযায়ী CPU, GPU আর NPU-তে model চালায় আর PyTorch ও ONNX থেকে রূপান্তর করে।যেখানে শিখবেন: পর্ব ৮৪
- Operator fusionঅপারেটর ফিউশন
- পাশাপাশি কয়েকটি operation (যেমন Conv আর ReLU) একটি kernel-এ জুড়ে চালানো, যাতে মাঝের ফল memory-তে লিখে আবার পড়তে না হয়।যেখানে শিখবেন: পর্ব ৮৪
- Operator overloadingঅপারেটর ওভারলোডিং
- নিজের class-এ +, -, *-এর মতো operator-এর অর্থ দেওয়া; Python-এ এটি dunder method (যেমন __add__, __mul__) লিখে করা হয়।যেখানে শিখবেন: পর্ব ০৫
- Opsetঅপসেট
- ONNX-এর operation-তালিকার version নম্বর; একটি ফাইল যে opset-এ লেখা, runtime-কে সেটি চিনতে হয়।যেখানে শিখবেন: পর্ব ৮৪
- Optimal discriminatorঅপটিমাল ডিসক্রিমিনেটর
- Generator স্থির থাকলে GAN-এর মান সর্বোচ্চ করে যে discriminator: D*(x) = p_data(x) / (p_data(x) + p_g(x)), যার logit দুই density-র log অনুপাত।যেখানে শিখবেন: পর্ব ৭৭পর্ব ৮৭পর্ব ৮৮
- Optimization errorঅপটিমাইজেশন এরর
- Train loss-এর সত্যিকারের সর্বনিম্নের বদলে optimizer যেখানে থামে, তার জন্য বাড়তি ভুল; বেশি ধাপ, ভালো শুরু বা ভালো learning rate দিলে কমে।যেখানে শিখবেন: পর্ব ০৬
- Optimizerঅপটিমাইজার
- যে object model-এর parameter-এর তালিকা রাখে আর step() ডাকলে gradient দেখে নির্দিষ্ট নিয়মে (SGD, Adam, AdamW) সেগুলো বদলায়; momentum বা চলমান গড়ের মতো নিজের অবস্থাও রাখে।যেখানে শিখবেন: পর্ব ১০
- Optimizer stateঅপটিমাইজার স্টেট
- Optimizer প্রতিটি parameter-এর জন্য যে বাড়তি মান মনে রাখে: momentum-সহ SGD-তে একটি, Adam আর AdamW-তে দুটি, অর্থাৎ প্রথম আর দ্বিতীয় moment.যেখানে শিখবেন: পর্ব ১২পর্ব ৫৫পর্ব ৮৮
- Optunaঅপটুনা
- একটি open-source hyperparameter খোঁজের Python library, যেখানে search space কোডের ভেতরে trial.suggest_… দিয়ে লেখা হয়, আর TPE sampler ও pruning আছে।যেখানে শিখবেন: পর্ব ১৯
- Oracle contextওরাকল কনটেক্সট
- Retriever বাদ দিয়ে ঠিক নথি নিজে হাতে generator-কে দেওয়া; তখনও উত্তর ভুল হলে দোষ generator-এর।যেখানে শিখবেন: পর্ব ৭০পর্ব ৮৯
- Oscillation (GAN training)অসিলেশন
- GAN training-এ generator আর discriminator একে অপরকে তাড়া করে ঘুরতে থাকা, ফলে loss বা নমুনার ধরন একটি স্থির অবস্থায় না থেমে বারবার ওঠানামা করে।যেখানে শিখবেন: পর্ব ৭৭
- Outlierআউটলায়ার
- বাকি ডেটা থেকে অস্বাভাবিকভাবে দূরের একটি মান বা সারি; এটি ভুল এন্ট্রি হতে পারে, আবার সত্যিকারের বিরল ঘটনাও হতে পারে, তাই বদলানোর আগে কারণ খোঁজা দরকার।যেখানে শিখবেন: পর্ব ১৩পর্ব ৫৯
- Output checkআউটপুট চেক
- Model-এর উত্তর ব্যবহারকারীকে দেখানোর আগে কোড দিয়ে যাচাই, যেমন গোপন শব্দ বা নিষিদ্ধ তথ্য আটকানো; শুধু চেনা রূপই ধরে।যেখানে শিখবেন: পর্ব ৬৪
- Output filterআউটপুট ফিল্টার
- Model-এর উত্তর ব্যবহারকারীর কাছে যাওয়ার আগে কোড দিয়ে পরীক্ষা করে নিষিদ্ধ জিনিস, যেমন canary বা অচেনা লিংক, আটকানোর স্তর।যেখানে শিখবেন: পর্ব ৭৩পর্ব ৮৬
- Output gateআউটপুট গেট
- LSTM-এর gate, যা ঠিক করে cell state-এর কত অংশ এই ধাপে hidden state হয়ে বাইরে যাবে।যেখানে শিখবেন: পর্ব ২৯
- Overcomplete autoencoderওভারকমপ্লিট অটোএনকোডার
- যে autoencoder-এর code input-এর সমান বা বড়; বাড়তি বাধা (noise, sparsity) না থাকলে input প্রায় হুবহু কপি করে কিছু না শিখেই loss কমাতে পারে।যেখানে শিখবেন: পর্ব ৭৫
- Overconfidenceওভারকনফিডেন্স
- Model-এর সম্ভাবনা বাস্তবের চেয়ে চরম হওয়া, যেমন ০.৯৫ বলা ঘটনার মাত্র ৭০% ঘটা; reliability diagram-এ রেখা কর্ণের চেয়ে চ্যাপ্টা দেখায়।যেখানে শিখবেন: পর্ব ১৩পর্ব ৫২
- Overfit one batchওভারফিট ওয়ান ব্যাচ
- একটি ছোট batch-এ বারবার train করে দেখা loss প্রায় শূন্যে নামে কি না; না নামলে model, loss বা gradient-এর কোডে ভুল আছে।যেখানে শিখবেন: পর্ব ১৮পর্ব ৯০পর্ব ৯১
- Overfittingওভারফিটিং
- Model train ডেটার noise-সহ মুখস্থ করে ফেলে, তাই train-এ ভালো কিন্তু নতুন ডেটায় খারাপ করে; train loss নামে অথচ validation loss বাড়ে।যেখানে শিখবেন: পর্ব ১০পর্ব ১৬পর্ব ১৮
- Overflow (floating-point)ওভারফ্লো
- হিসাবের ফল float-এর সবচেয়ে বড় মান পেরিয়ে inf হয়ে যাওয়া; float64-এ e^z ভাঙে z ≈ 709.8-এর পরে, float32-এ z ≈ 88.7-এর পরে।যেখানে শিখবেন: পর্ব ০৩পর্ব ০৪পর্ব ০৮
- Overparameterisationওভারপ্যারামিটারাইজেশন
- Model-এর parameter-এর সংখ্যা train উদাহরণের চেয়ে বেশি হওয়া, ফলে train ডেটা পুরো মুখস্থ করার ক্ষমতা থাকা।যেখানে শিখবেন: পর্ব ০৬
- OWASPও-ওয়াস্প
- Open Worldwide Application Security Project: software নিরাপত্তা নিয়ে কাজ করা একটি উন্মুক্ত community, যার বিনামূল্যের তালিকা আর নির্দেশিকা সবাই ব্যবহার করতে পারে।যেখানে শিখবেন: পর্ব ৭৩
P
- PackedSequenceপ্যাকড সিকোয়েন্স
- সব sequence-এর আসল ধাপ সময় ধরে এক সারিতে রাখা বস্তু, সঙ্গে batch_sizes; এতে RNN pad-এর ওপর চলে না।যেখানে শিখবেন: পর্ব ২৭পর্ব ২৯পর্ব ৩০
- Paddingপ্যাডিং
- ছোট sequence-এর শেষে একটি বিশেষ pad token বসিয়ে batch-এর সব সারিকে সমান দৈর্ঘ্যে আনা, যাতে একটি আয়তাকার matrix বানানো যায়।যেখানে শিখবেন: পর্ব ১১পর্ব ১৩পর্ব ২৯
- Padding (convolution)প্যাডিং
- Convolution-এর আগে ছবির চারপাশে বাড়তি সারি-কলাম, সাধারণত শূন্য, বসানো; stride ১-এ বিজোড় k-এর জন্য p = (k − 1)/2 দিলে output-এর আকার input-এর সমান থাকে।যেখানে শিখবেন: পর্ব ২০
- Padding mask (attention)প্যাডিং মাস্ক
- Softmax-এর আগে pad ঘরের score −inf করে দেওয়ার নিয়ম, যাতে pad-এর weight ঠিক ০ হয় আর বাকি ঘরের যোগফল ১ থাকে।যেখানে শিখবেন: পর্ব ৩২পর্ব ৩৩
- padding_idxপ্যাডিং আইডিএক্স
- nn.Embedding-এর যে সারি pad-এর জন্য রাখা; এটি শূন্য দিয়ে শুরু হয় আর gradient পায় না, তবে গড়ে mask তবু লাগে।যেখানে শিখবেন: পর্ব ২৭
- Paged optimizerপেজড অপটিমাইজার
- GPU-র memory ফুরিয়ে এলে optimizer state সাময়িকভাবে CPU-র RAM-এ সরিয়ে দেওয়ার ব্যবস্থা, NVIDIA unified memory দিয়ে; হঠাৎ memory বাড়লে out-of-memory ঠেকায়।যেখানে শিখবেন: পর্ব ৫৫
- PagedAttentionপেজড অ্যাটেনশন
- KV cache-কে ছোট নির্দিষ্ট মাপের block-এ ভাগ করে রাখা, আর প্রতিটি অনুরোধের জন্য block table রাখা, অপারেটিং সিস্টেমের paging-এর মতো; এতে memory-র অপচয় কমে।যেখানে শিখবেন: পর্ব ৮৩
- Paired bootstrapপেয়ার্ড বুটস্ট্র্যাপ
- দুটি পদ্ধতি একই item-এ মাপা হলে একই item-এর সূচক দুই পাশে একসঙ্গে resample করে পার্থক্যের অনিশ্চয়তা মাপা; আলাদা resample-এর চেয়ে সাধারণত সরু CI দেয়।যেখানে শিখবেন: পর্ব ৬১পর্ব ৬৬পর্ব ৬৭
- Paired comparisonপেয়ার্ড কম্প্যারিসন
- দুই model-কে একই অবস্থায় (একই seed, একই ডেটা) মেপে প্রতিটি জোড়ার পার্থক্য থেকে অনিশ্চয়তা হিসাব করা; আলাদা আলাদা মাপার চেয়ে ন্যায্য আর সূক্ষ্ম।যেখানে শিখবেন: পর্ব ১৯পর্ব ৪২পর্ব ৪৭
- Pairwise comparisonপেয়ারওয়াইজ কম্প্যারিসন
- একই প্রশ্নের দুটি উত্তর পাশাপাশি দেখিয়ে কোনটি ভালো তা জিজ্ঞেস করা; সূক্ষ্ম পার্থক্য ধরে, তবে উত্তরের ক্রমের প্রভাব পড়ে।যেখানে শিখবেন: পর্ব ৫৮
- Parallel tool callsপ্যারালেল টুল কলস
- Model-এর এক পালায় একাধিক tool-ডাক, যেমন দুটি অর্ডার একসঙ্গে দেখা; স্বাধীন কাজে সময় বাঁচায়, কিন্তু নির্ভরশীল কাজে চলে না।যেখানে শিখবেন: পর্ব ৭১
- Parameter (model parameter)প্যারামিটার
- মডেলের ভেতরের যে সংখ্যাগুলো (weight, bias) প্রশিক্ষণে শেখা হয়; একটি পূর্ণ-সংযুক্ত layer-এ (n_in + 1) × n_out টি।যেখানে শিখবেন: পর্ব ০৩পর্ব ০৯পর্ব ৪৮
- Parameter groupপ্যারামিটার গ্রুপ
- PyTorch optimizer-এর param_groups-এর একটি ভাগ, যার নিজের learning rate বা weight decay থাকতে পারে; যেমন bias আর norm-এর weight-কে decay ছাড়া রাখা।যেখানে শিখবেন: পর্ব ১৫পর্ব ২৩
- Paraphraseপ্যারাফ্রেজ
- একই অর্থ ভিন্ন শব্দ বা ভিন্ন গঠনে লেখা; prompt-এর ক্ষেত্রে একই নির্দেশের বিকল্প রূপ।যেখানে শিখবেন: পর্ব ৬০
- Partition function (Z)পার্টিশন ফাংশন
- সব সম্ভাব্য পথের exp(score)-এর যোগফল, যা দিয়ে ভাগ করলে সম্ভাবনার যোগফল ১ হয়; CRF-এ forward algorithm দিয়ে হিসাব হয়।যেখানে শিখবেন: পর্ব ৪৩পর্ব ৫৭
- pass@kপাস অ্যাট কে
- কোড-তৈরির মাপ: একটি সমস্যায় k বার চেষ্টার মধ্যে অন্তত একটি সমাধান সব unit test পাশ করার সম্ভাবনা।যেখানে শিখবেন: পর্ব ৫৮
- Patchপ্যাচ
- ছবি থেকে কাটা একটি ছোট বর্গ টুকরো, যেমন ১৬ × ১৬ pixel; ViT-এ এটিই একটি token-এর উৎস।যেখানে শিখবেন: পর্ব ৩৮পর্ব ৮২
- Patch embeddingপ্যাচ এমবেডিং
- প্রতিটি patch-এর সংখ্যাগুলোকে একই শেখা linear map দিয়ে D মাত্রার vector-এ নেওয়ার ধাপ; stride = kernel = P convolution দিয়েও ঠিক এটি করা যায়।যেখানে শিখবেন: পর্ব ৩৮পর্ব ৮২
- Patienceপেশেন্স
- Early stopping-এ কত epoch টানা উন্নতি না হলে training থামানো হবে তার সংখ্যা; ছোট হলে আগেভাগে, বড় হলে দেরিতে থামে।যেখানে শিখবেন: পর্ব ১০
- Payload (vector metadata)পেলোড
- Vector database-এ প্রতিটি vector-এর সঙ্গে রাখা JSON-ধাঁচের তথ্য, যেমন বিষয়, ভাষা বা মূল লেখা; ফিল্টারে ব্যবহার হয়।যেখানে শিখবেন: পর্ব ৬৮
- PCA (Principal Component Analysis)পিসিএ
- ডেটার গড় বাদ দিয়ে সবচেয়ে বেশি variance-এর দিকগুলো খুঁজে কম মাত্রায় আনার পদ্ধতি; SVD দিয়ে হিসাব করা যায়।যেখানে শিখবেন: পর্ব ৪১পর্ব ৭৪পর্ব ৭৫
- Peak allocated memoryপিক অ্যালোকেটেড মেমরি
- এক run-এ PyTorch যত GPU memory একসঙ্গে সবচেয়ে বেশি tensor-এর জন্য নিয়েছিল। torch.cuda.max_memory_allocated এটি জানায়।যেখানে শিখবেন: পর্ব ৪৮
- Peak factorপিক ফ্যাক্টর
- সবচেয়ে ব্যস্ত সময়ের চাপ গড় চাপের কত গুণ, সেই অনুপাত; সাধারণত পুরনো মাপ থেকে নেওয়া বা ধরে নেওয়া একটি মান।যেখানে শিখবেন: পর্ব ৮৫
- Peephole connectionপিপহোল কানেকশন
- LSTM-এর একটি রূপ, যেখানে gate সরাসরি cell state-ও দেখে; PyTorch-এর nn.LSTM-এ এটি নেই।যেখানে শিখবেন: পর্ব ২৯
- PEFT (parameter-efficient fine-tuning)পেফট
- Model-এর বেশির ভাগ ওজন স্থির রেখে অল্প কিছু নতুন বা বাছাই করা parameter শেখানোর পদ্ধতির পরিবার, যেমন LoRA, adapter, prefix tuning; Hugging Face-এর একই নামের library-ও আছে।যেখানে শিখবেন: পর্ব ৫৫পর্ব ৫৬
- Per-channel quantizationপার-চ্যানেল কোয়ান্টাইজেশন
- প্রতিটি সারি বা কলামের (channel) জন্য আলাদা scale রাখা, যাতে বড় মানের একটি channel বাকিদের নির্ভুলতা নষ্ট না করে।যেখানে শিখবেন: পর্ব ৫৯পর্ব ৮৪
- Per-tensor quantizationপার-টেনসর কোয়ান্টাইজেশন
- পুরো tensor-এর জন্য একটিই scale (আর zero point) ব্যবহার করা; সবচেয়ে কম বাড়তি জায়গা, কিন্তু একটি outlier সবার ত্রুটি বাড়ায়।যেখানে শিখবেন: পর্ব ৫৯
- Percentileপার্সেন্টাইল
- এমন একটি মান, যার নিচে মোটামুটি নির্দিষ্ট শতাংশ ডেটা থাকে; ৫০ percentile হলো median, p95 মানে ৯৫ শতাংশ অনুরোধ এর মধ্যে শেষ।যেখানে শিখবেন: পর্ব ৮৩পর্ব ৮৪পর্ব ৮৫
- Perceptronপারসেপট্রন
- Frank Rosenblatt-এর (১৯৫৮) শিখতে পারা artificial neuron: input-এর weight দেওয়া যোগফল আর bias দেখে ০ বা ১ বলে, আর ভুল হলে weight শোধরায়।যেখানে শিখবেন: পর্ব ০১পর্ব ০২পর্ব ৮৭
- Perceptron convergence theorem (Novikoff bound)পারসেপট্রন কনভার্জেন্স থিওরেম
- ডেটা margin γ নিয়ে আলাদা করা যায় আর প্রতিটি বিন্দুর দৈর্ঘ্য R-এর বেশি নয়, তাহলে perceptron যে ক্রমেই ডেটা দেখুক, মোট ভুল (R/γ)²-এর বেশি হয় না; পরিষ্কার প্রমাণের জন্য Albert Novikoff-এর ১৯৬২ সালের কাজ উদ্ধৃত হয়।যেখানে শিখবেন: পর্ব ০২
- Perceptron lossপারসেপট্রন লস
- max(0, −y·z), যেখানে z = w·x + b; ভুল দিকে থাকলেই শাস্তি, ঠিক দিকে থাকলে শূন্য। এর ওপর এক-একটি উদাহরণে SGD চালালে হুবহু perceptron নিয়ম পাওয়া যায়।যেখানে শিখবেন: পর্ব ০২
- Performerপারফর্মার
- Random feature দিয়ে softmax kernel-এর আসন্ন মান বের করে attention-এর খরচ কমানোর পদ্ধতি।যেখানে শিখবেন: পর্ব ৩৭
- Permutation equivarianceপারমুটেশন ইকুইভেরিয়ান্স
- Input-এর ক্রম যেভাবে বদলায়, output-এর ক্রমও ঠিক সেভাবে বদলানোর ধর্ম: Z(PX) = P·Z(X). Position ছাড়া self-attention এমন আচরণ করে।যেখানে শিখবেন: পর্ব ৩৩পর্ব ৩৪
- permuteপারমিউট
- Tensor-এর সব অক্ষের ক্রম ইচ্ছামতো সাজানো, যেমন (N, H, W, C) থেকে (N, C, H, W); কপি না করে stride সাজিয়ে view দেয়।যেখানে শিখবেন: পর্ব ০৭পর্ব ৯০
- Perplexityপারপ্লেক্সিটি
- গড় cross-entropy-র exp. Language model গড়ে যেন কতগুলো সমান সম্ভাব্য বিকল্পের মধ্যে দোটানায়, তার মাপ; কম হলে ভালো।যেখানে শিখবেন: পর্ব ৩৬পর্ব ৩৯পর্ব ৪৬
- persistent_workersপারসিস্টেন্ট ওয়ার্কার্স
- DataLoader-এর setting; True দিলে epoch শেষে worker process বন্ধ হয় না, তাই পরের epoch-এ আবার চালু করার খরচ লাগে না।যেখানে শিখবেন: পর্ব ১১
- Persona (role prompt)পারসোনা
- System prompt-এ model-কে দেওয়া একটি ভূমিকা, যেমন সহায়তা সহকারী; সুর আর দৃষ্টিকোণ বদলায়, কিন্তু নতুন জ্ঞান বা নিয়মের সীমা যোগ করে না।যেখানে শিখবেন: পর্ব ৬৪
- PGD (Projected Gradient Descent) attackপিজিডি অ্যাটাক
- ছোট ধাপে বারবার FGSM চালিয়ে প্রতিবার বদলকে ε-সীমার ভেতরে ফেরত আনা (projection); FGSM-এর চেয়ে শক্তিশালী, robustness মাপার প্রচলিত আক্রমণ।যেখানে শিখবেন: পর্ব ২৬
- pgvectorপি-জি-ভেক্টর
- PostgreSQL-এর open-source extension, যা vector কলাম, দূরত্বের অপারেটর আর HNSW ও IVFFlat index যোগ করে।
- Phase transitionফেজ ট্রানজিশন
- পদার্থবিজ্ঞান থেকে নেওয়া শব্দ: একটি সীমা পেরোলে আচরণের হঠাৎ গুণগত বদল, যেমন পানি জমে বরফ হওয়া।যেখানে শিখবেন: পর্ব ৫১
- pickleপিকল
- Python-এর বস্তুকে বাইটে বদলে ফাইলে রাখা আর ফেরত আনার নিজস্ব মডিউল; খোলার সময় ফাইলের নির্দেশে কোড চলতে পারে, তাই শুধু বিশ্বস্ত ফাইল খোলা উচিত।যেখানে শিখবেন: পর্ব ০৯পর্ব ৫৩
- Piecewise linear functionপিসওয়াইজ লিনিয়ার
- এমন function, যা কয়েকটি এলাকায় ভাগ করা আর প্রতিটি এলাকায় একটি সরলরেখা বা সমতল; ReLU network-এর output সবসময় এমন।যেখানে শিখবেন: পর্ব ০৩
- Piecewise linear functionপিসওয়াইজ লিনিয়ার ফাংশন
- কয়েকটি সোজা রেখার টুকরো জোড়া দিয়ে তৈরি function, যার ঢাল শুধু নির্দিষ্ট কিছু বিন্দুতে বদলায়; ReLU network ঠিক এমন function হিসাব করে।যেখানে শিখবেন: পর্ব ০৬
- PII (Personally Identifiable Information)পি-আই-আই
- যে তথ্য একা বা অন্য তথ্যের সঙ্গে মিলিয়ে একজন মানুষকে চিনিয়ে দেয়, যেমন নাম, ফোন নম্বর বা ঠিকানা।যেখানে শিখবেন: পর্ব ৭৩
- PII maskingপিআইআই মাস্কিং
- লেখার ভেতরের ব্যক্তিগত তথ্য (ফোন নম্বর, email, অর্ডার id, নাম) খুঁজে [PHONE]-এর মতো চিহ্ন দিয়ে ঢেকে দেওয়া, যাতে পরের ধাপে আসল তথ্য না পৌঁছায়।যেখানে শিখবেন: পর্ব ৮৫পর্ব ৮৬
- pin_memoryপিন মেমরি
- Batch-কে page-locked CPU memory-তে রাখার setting, যাতে GPU-তে পাঠানো দ্রুত আর non_blocking হয়; GPU না থাকলে এর কোনো সুবিধা নেই।যেখানে শিখবেন: পর্ব ১১
- Pinned (page-locked) memoryপিনড মেমরি
- CPU-র RAM-এর এমন অংশ যা operating system সরিয়ে রাখতে পারে না; সেখান থেকে GPU-তে কপি দ্রুত হয় আর non_blocking=True দিয়ে হিসাবের সঙ্গে একসাথে চলতে পারে।যেখানে শিখবেন: পর্ব ১২
- pipeline() (Hugging Face)পাইপলাইন
- transformers-এর একটি function, যা task আর model-এর নাম পেয়ে config, tokenizer, model লোড আর preprocess, forward, postprocess এক ডাকে জুড়ে দেয়।যেখানে শিখবেন: পর্ব ৫৩
- pix2pixপিক্স-টু-পিক্স
- জোড়া ছবি থেকে শেখা conditional GAN, যা একটি ছবিকে আরেক রূপে নেয়; U-Net generator, ছোট টুকরো বিচার করা PatchGAN discriminator আর L1 loss ব্যবহার করে।যেখানে শিখবেন: পর্ব ৭৮
- Plain networkপ্লেইন নেটওয়ার্ক
- Residual connection ছাড়া শুধু স্তরের পর স্তর সাজানো network; তুলনার জন্য ResNet-এর একই গভীরতার shortcut-হীন রূপ।যেখানে শিখবেন: পর্ব ২২
- Plan-and-executeপ্ল্যান অ্যান্ড এক্সিকিউট
- Agent-এর নকশা, যেখানে আগে একটি ডাকে পুরো পরিকল্পনা লেখা হয়, তারপর ধাপে ধাপে সেটি করা হয়; ভুল পরিকল্পনা পুরো কাজে ছড়াতে পারে।যেখানে শিখবেন: পর্ব ৭২
- Planningপ্ল্যানিং
- একটি লক্ষ্যে পৌঁছাতে কোন কাজ কোন ক্রমে করতে হবে তা বের করা।যেখানে শিখবেন: পর্ব ৭২
- PMI (Pointwise Mutual Information)পিএমআই
- দুটি শব্দ স্বাধীন হলে যতবার একসঙ্গে আসার কথা, তার চেয়ে কত বেশি আসে তার log মাপ: log[P(i,j) ÷ (P(i)P(j))].যেখানে শিখবেন: পর্ব ৪১
- Pocket algorithmপকেট অ্যালগরিদম
- আলাদা করা যায় না এমন ডেটার জন্য perceptron-এর রূপ, যা চলতে চলতে এখন পর্যন্ত সবচেয়ে কম ভুলের weight “পকেটে” রেখে দেয় আর শেষে সেটিই ফেরত দেয়; Stephen Gallant-এর ১৯৯০ সালের প্রবন্ধে পরিচিত হয়।যেখানে শিখবেন: পর্ব ০২
- Pointwise scoringপয়েন্টওয়াইজ স্কোরিং
- প্রতিটি উত্তরকে আলাদাভাবে একটি স্কেলে (যেমন ১ থেকে ৫) নম্বর দেওয়া; ক্রমের পক্ষপাত নেই, তবে কাছাকাছি উত্তর আলাদা করা কঠিন।যেখানে শিখবেন: পর্ব ৫৮
- Poisson arrivalsপোয়াসোঁ অ্যারাইভাল
- এমন এলোমেলো আগমন যেখানে প্রতিটি আগমন অন্যগুলোর ওপর নির্ভর করে না আর গড় হার স্থির; দুই আগমনের মাঝের সময় exponential বণ্টন মানে।যেখানে শিখবেন: পর্ব ৮৩
- Policy (π)পলিসি
- Reinforcement learning-এ কোন অবস্থায় কোন action নেওয়া হবে তার নিয়ম বা বণ্টন; LLM-এর alignment-এ শেখার language model নিজেই policy, আর প্রতিটি token যেন একটি সিদ্ধান্ত।যেখানে শিখবেন: পর্ব ৫৭
- Polysemyপলিসেমি
- একই শব্দের একাধিক অর্থ থাকা, যেমন গাছের পাতা আর বইয়ের পাতা।যেখানে শিখবেন: পর্ব ৪৪
- Pooler outputপুলার আউটপুট
- BERT-এর [CLS] vector-কে একটি linear layer আর tanh-এর ভেতর দিয়ে পাঠিয়ে পাওয়া vector. Hugging Face-এর sequence classification head সাধারণত এটি নেয়।যেখানে শিখবেন: পর্ব ৪৮
- Poolingপুলিং
- কয়েকটি vector বা মানকে একটিতে নামানো, যেমন সর্বোচ্চ বা গড়; CNN-এ feature map-এর একটি জানালায়, আর NLP-তে কয়েকটি token বা subword-এর vector থেকে একটি vector বানাতে। এতে শেখা কোনো weight নেই।যেখানে শিখবেন: পর্ব ২০পর্ব ২৭পর্ব ৪৪
- POS taggingপিওএস ট্যাগিং
- প্রতিটি শব্দে তার পদ, যেমন বিশেষ্য বা ক্রিয়া, বসানোর কাজ; POS মানে part of speech.যেখানে শিখবেন: পর্ব ৪৩পর্ব ৪৪
- pos_weightপজ ওয়েট
- BCEWithLogitsLoss-এর argument, যা প্রতিটি ট্যাগ বা শ্রেণির positive উদাহরণের loss-কে একটি সংখ্যা দিয়ে গুণ করে; বিরল positive-এর recall বাড়াতে ব্যবহৃত হয়।যেখানে শিখবেন: পর্ব ১৩
- Position biasপজিশন বায়াস
- বিচারক model-এর উত্তরের মান না দেখে প্রথম বা দ্বিতীয় অবস্থানের উত্তরকে বেশি পছন্দ করার প্রবণতা।যেখানে শিখবেন: পর্ব ৫৮পর্ব ৬৬পর্ব ৭০
- Position idপজিশন আইডি
- প্রতিটি token-এর ক্রমিক অবস্থান; pad থাকলে mask থেকে গুনে নিতে হয়, যাতে প্রথম আসল token-এর অবস্থান 0 হয়।যেখানে শিখবেন: পর্ব ৩৭
- Position-wise feed-forward network (FFN)ফিড-ফরোয়ার্ড নেটওয়ার্ক
- Block-এর ভেতরের দুই স্তরের ছোট MLP, যা প্রতিটি token-এ আলাদাভাবে কিন্তু একই weight দিয়ে চলে; token-গুলোর মধ্যে তথ্য বিনিময় করে না।যেখানে শিখবেন: পর্ব ৩৫পর্ব ৪৮
- Positional embeddingপজিশনাল এমবেডিং
- প্রতিটি token-এর অবস্থানের জন্য একটি vector, যা token-এর সঙ্গে যোগ হয়; শেখা হতে পারে, আবার sin-cos দিয়ে স্থিরও হতে পারে।যেখানে শিখবেন: পর্ব ৩৮
- Positional encodingপজিশনাল এনকোডিং
- Sequence-এর কোন ঘরে কোন token আছে, সেই তথ্য model-এ ঢোকানোর পদ্ধতি; self-attention নিজে থেকে ক্রম দেখে না বলে এটি দরকার হয়।যেখানে শিখবেন: পর্ব ৪৪পর্ব ৪৮পর্ব ৮৭
- Post-filteringপোস্ট-ফিল্টারিং
- আগে index থেকে সেরা k আনা, তারপর শর্ত না মানাগুলো বাদ; সহজ, কিন্তু ফল k-এর কম, এমনকি শূন্য হতে পারে।যেখানে শিখবেন: পর্ব ৬৮
- Post-hoc explanationপোস্ট-হক এক্সপ্লেনেশন
- Model শেখানোর পরে তার অনুমান দেখে বানানো ব্যাখ্যা, যেমন saliency, Grad-CAM, SHAP বা surrogate; এটি model-এর আনুমানিক বর্ণনা, model নিজে নয়।যেখানে শিখবেন: পর্ব ২৬
- Post-training quantization (PTQ)পোস্ট-ট্রেনিং কোয়ান্টাইজেশন
- শেখানো শেষ হওয়া model-কে আবার training ছাড়াই কম bit-এ নেওয়া; সস্তা আর দ্রুত, খুব কম bit-এ মান বেশি পড়তে পারে।যেখানে শিখবেন: পর্ব ৫৯
- Posterior (posterior distribution)পোস্টেরিয়র
- ডেটা দেখার পরে হালনাগাদ করা বণ্টন, Bayes-এর নিয়মে p(z | x) = p(x | z) p(z) / p(x); হরে p(x) থাকায় VAE-তে এটি সরাসরি পাওয়া যায় না।যেখানে শিখবেন: পর্ব ৭৬
- Posterior collapseপোস্টেরিয়র কলাপ্স
- VAE-তে q(z | x) প্রায় সব x-এ prior-এর সমান হয়ে যাওয়া, ফলে KL প্রায় শূন্য আর decoder z-কে উপেক্ষা করে; শক্তিশালী autoregressive decoder-এ বেশি দেখা যায়।যেখানে শিখবেন: পর্ব ৭৬
- Power lawপাওয়ার ল
- y = c·x^(−α) ধরনের সম্পর্ক, যেখানে x যত গুণ বাড়ে y একটি নির্দিষ্ট অনুপাতে বদলায়; log-log ছবিতে এটি সরল রেখা।যেখানে শিখবেন: পর্ব ৫১
- Power-law exponent (α)পাওয়ার-ল এক্সপোনেন্ট
- Power law-এর সূচক; x দ্বিগুণ হলে y গুণ হয় 2^(−α) দিয়ে। Log-log ছবিতে রেখার ঢাল −α.যেখানে শিখবেন: পর্ব ৫১
- PPMI (Positive PMI)পিপিএমআই
- PMI-এর ঋণাত্মক মান শূন্য করে দেওয়া রূপ, যা শব্দের co-occurrence matrix-এ প্রায়ই ব্যবহার হয়।যেখানে শিখবেন: পর্ব ৪১
- PPO (Proximal Policy Optimization)পি-পি-ও
- Schulman ও সহলেখকদের ২০১৭ সালের policy-gradient algorithm, যা নতুন আর পুরনো policy-র অনুপাত একটি সীমায় কেটে ছোট ছোট ধাপে আপডেট করে; InstructGPT-এর RL ধাপে ব্যবহৃত।যেখানে শিখবেন: পর্ব ৫৭
- Practical significanceপ্র্যাকটিক্যাল সিগনিফিকেন্স
- পার্থক্যটি কাজের জন্য যথেষ্ট বড় কি না, যা p-value থেকে আলাদা প্রশ্ন।যেখানে শিখবেন: পর্ব ৪২
- Pre-filteringপ্রি-ফিল্টারিং
- আগে শর্ত মানা নথি বাছাই, তারপর শুধু তাদের মধ্যে নিকটতম খোঁজা; ফল সঠিক, কিন্তু ANN index পুরো কাজে লাগে না।যেখানে শিখবেন: পর্ব ৬৮
- Pre-norm vs post-normপ্রি-নর্ম আর পোস্ট-নর্ম
- Transformer-এ LayerNorm-এর জায়গা: post-norm residual যোগের পরে বসায় (মূল ২০১৭ নকশা), pre-norm residual শাখার ভেতরে sublayer-এর আগে বসায়, যা গভীর model-এ সাধারণত বেশি স্থির।যেখানে শিখবেন: পর্ব ১৪পর্ব ৩৪পর্ব ৩৫
- Precisionপ্রিসিশন
- Model বা detector যাদের হ্যাঁ বলেছে তাদের কত ভাগ সত্যিই হ্যাঁ: TP / (TP + FP).যেখানে শিখবেন: পর্ব ২৫পর্ব ৪৩পর্ব ৪৫
- Precision and recall for generative modelsপ্রিসিশন আর রিকল
- Generated নমুনার কত ভাগ আসল ডেটার এলাকায় পড়ে (precision, মান) আর আসল ডেটার কত ভাগ generated নমুনার এলাকায় পড়ে (recall, বৈচিত্র্য); এলাকা আঁকা হয় k-তম নিকটতম প্রতিবেশীর দূরত্বের বল দিয়ে।যেখানে শিখবেন: পর্ব ৮১পর্ব ৮৯
- Precision at k (P@k)প্রিসিশন অ্যাট কে
- প্রথম k-টি ফলের কত ভাগ সত্যিই প্রাসঙ্গিক; প্রাসঙ্গিক ফল r-টি হলে r ÷ k.যেখানে শিখবেন: পর্ব ৭০
- Prediction-powered inferenceপ্রেডিকশন-পাওয়ার্ড ইনফারেন্স
- অনেক item-এ একটি model-এর অনুমান আর অল্প item-এ মানুষের লেবেল মিলিয়ে model-এর ভুল শুধরে নির্ভরযোগ্য অনুমান আর ব্যবধান বের করার পরিসংখ্যান পদ্ধতি।যেখানে শিখবেন: পর্ব ৭০
- Preference dataপ্রেফারেন্স ডেটা
- একই prompt-এর দুটি (বা বেশি) উত্তর আর কোনটি বেশি পছন্দের তার চিহ্ন; reward model আর DPO এই তুলনা থেকে শেখে।যেখানে শিখবেন: পর্ব ৫৭
- Prefillপ্রিফিল
- Generation-এর প্রথম ধাপ, যেখানে পুরো prompt একসঙ্গে model-এ চলে আর KV cache ভরে; এর সময় prompt-এর দৈর্ঘ্যের সঙ্গে বাড়ে।যেখানে শিখবেন: পর্ব ৬৫পর্ব ৮৩পর্ব ৮৮
- Prefix cachingপ্রিফিক্স ক্যাশিং
- Prompt-এর শুরুর মিলে যাওয়া অংশের KV cache জমিয়ে রাখা; শুরু থেকে একটি token-ও বদলালে সেখান থেকে বাকিটা আবার হিসাব করতে হয়।যেখানে শিখবেন: পর্ব ৬৫পর্ব ৮৩পর্ব ৮৯
- Prefix tuningপ্রিফিক্স টিউনিং
- প্রতিটি attention layer-এর key আর value-র আগে কয়েকটি শেখা vector জুড়ে দেওয়া, model-এর ওজন স্থির রেখে; Li আর Liang ২০২১ সালে প্রস্তাব করেন।যেখানে শিখবেন: পর্ব ৫৫
- Pretrained modelপ্রিট্রেইনড মডেল
- বড় কোনো ডেটাসেটে (যেমন ImageNet) আগে থেকে train করা model, যার weight নিজের কাজে সরাসরি, feature হিসেবে বা fine-tune করে ব্যবহার করা যায়।যেখানে শিখবেন: পর্ব ২৩পর্ব ৪৮পর্ব ৫৪
- Pretrainingপ্রিট্রেনিং
- আসল কাজের আগে বড় সাধারণ ডেটায় model-এর প্রথম প্রশিক্ষণ; ভাষার model-এ সাধারণত লেবেলহীন লেখায় হয়।যেখানে শিখবেন: পর্ব ৪৭
- Pretraining objectiveপ্রিট্রেনিং অবজেক্টিভ
- লেবেলহীন লেখা থেকে input আর target বানানোর নিয়ম, যেমন masked, causal বা span corruption.যেখানে শিখবেন: পর্ব ৪৭
- Price per million tokensপ্রাইস পার মিলিয়ন টোকেনস
- API-র দাম সাধারণত প্রতি ১০ লাখ token-এ লেখা থাকে, input আর output আলাদা; মোট খরচ = token-সংখ্যা × দাম ÷ ১০ লাখ।যেখানে শিখবেন: পর্ব ৬৫
- Principal angles (subspace angles)প্রিন্সিপাল অ্যাঙ্গেল
- দুটি subspace কতটা মেলে তার মাপ: একের পর এক সবচেয়ে কাছের দিক-জোড়ার কোণ; সব কোণ শূন্য হলে দুটি একই subspace.যেখানে শিখবেন: পর্ব ৭৫
- Principal componentপ্রিন্সিপাল কম্পোনেন্ট
- PCA-র একটি নতুন অক্ষ: ডেটার সবচেয়ে বেশি variance-এর একক দিক, যা আগের সব অক্ষের সঙ্গে সমকোণে থাকে।যেখানে শিখবেন: পর্ব ৭৫
- Prior (prior distribution)প্রায়র
- ডেটা দেখার আগে একটি চলকের ধরে নেওয়া বণ্টন; VAE-তে latent z-এর prior সাধারণত N(0, I).যেখানে শিখবেন: পর্ব ৭৬
- Probing classifier (probe)প্রোবিং ক্লাসিফায়ার
- Model স্থির রেখে তার vector-এর ওপর বসানো ছোট classifier, যা দেখে কোনো তথ্য সেই vector থেকে পড়া যায় কি না।যেখানে শিখবেন: পর্ব ৪৪পর্ব ৭৫
- Product quantization (PQ)প্রোডাক্ট কোয়ান্টাইজেশন
- Vector-কে m-টি টুকরোয় ভাগ করে প্রতিটি টুকরোকে নিজের codebook-এর একটি নম্বরে বদলানো; nbits = 8 হলে vector হয় m byte.যেখানে শিখবেন: পর্ব ৬৮পর্ব ৮৭
- Profiler (torch.profiler)প্রোফাইলার
- প্রোগ্রাম চলার সময় প্রতিটি কাজে CPU আর GPU কত সময় নিল তা মেপে টেবিল বা timeline দেয়; কোথায় সময় যাচ্ছে তা অনুমান না করে দেখার হাতিয়ার।যেখানে শিখবেন: পর্ব ১২
- Program-aided reasoningপ্রোগ্রাম-এইডেড রিজনিং
- Model যুক্তির ধাপ কোড হিসেবে লেখে আর একটি interpreter হিসাবটি করে; PAL আর Program of Thoughts এর উদাহরণ।
- Progressive growingপ্রোগ্রেসিভ গ্রোয়িং
- GAN-কে প্রথমে খুব ছোট ছবিতে শেখানো, তারপর ধীরে ধীরে নতুন স্তর মিশিয়ে ছবির মাপ বাড়ানো; বড় ছবিতে শেখা স্থির করতে Karras ও সহলেখকেরা প্রস্তাব করেন।যেখানে শিখবেন: পর্ব ৭৮
- Projection shortcutপ্রজেকশন শর্টকাট
- Residual block-এর input আর output-এর channel বা আকার আলাদা হলে shortcut-এ বসানো 1×1 conv (সাধারণত stride 2, সঙ্গে BatchNorm), যাতে যোগের আগে দুটির shape মেলে।যেখানে শিখবেন: পর্ব ২২পর্ব ৮৮
- Projector (VLM)প্রজেক্টর
- Vision encoder-এর vector-কে LLM-এর token embedding-এর মাপে আনার ছোট network, সাধারণত একটি linear layer বা দুই স্তরের MLP; এর output visual token হিসেবে prompt-এ বসে।যেখানে শিখবেন: পর্ব ৮২
- Promptপ্রম্পট
- Language model-কে দেওয়া পুরো input লেখা: নির্দেশ, প্রসঙ্গ, ডেটা, উদাহরণ আর আগের বার্তা মিলে যা model পড়ে পরের token অনুমান করে।যেখানে শিখবেন: পর্ব ৬০
- Prompt cachingপ্রম্পট ক্যাশিং
- একাধিক অনুরোধে হুবহু একই শুরুর অংশ (prefix) থাকলে তার হিসাব একবার করে জমিয়ে রাখা আর পরের অনুরোধে আবার ব্যবহার করা; সময় আর input-এর খরচ দুটিই কমতে পারে।যেখানে শিখবেন: পর্ব ৬৫পর্ব ৭১পর্ব ৮৮
- Prompt compressionপ্রম্পট কম্প্রেশন
- একই কাজের prompt কম token-এ লেখা: অপ্রয়োজনীয় কথা, উদাহরণ বা ইতিহাস ছাঁটা; নির্ভুলতা কমল কি না, তা eval set-এ মাপতে হয়।যেখানে শিখবেন: পর্ব ৬৫
- Prompt engineeringপ্রম্পট ইঞ্জিনিয়ারিং
- কাজের ফল নির্ভরযোগ্যভাবে পেতে prompt-এর অংশ বাছাই, সাজানো আর বদল করা, আর প্রতিটি বদল একটি eval set-এ মেপে দেখা।যেখানে শিখবেন: পর্ব ৬০
- Prompt ensembleপ্রম্পট এনসেম্বল
- একই class-এর কয়েকটি ভিন্ন বাক্য-ছাঁচের (template) text embedding-এর গড় নিয়ে একটি class-vector বানানো, যাতে zero-shot ফল একটি বাক্যের শব্দচয়নের ওপর কম নির্ভর করে।যেখানে শিখবেন: পর্ব ৮২
- Prompt injectionপ্রম্পট ইনজেকশন
- ব্যবহারকারী বা নথির লেখায় নির্দেশ লুকিয়ে model-এর আচরণ বদলানোর চেষ্টা; এর প্রতিরক্ষা নকশার অংশ হওয়া দরকার।যেখানে শিখবেন: পর্ব ৫২পর্ব ৬০পর্ব ৬৪
- Prompt sensitivityপ্রম্পট সেনসিটিভিটি
- অর্থ একই রেখে শুধু শব্দ, ক্রম বা ফরম্যাট বদলালে model-এর ফল কতটা বদলায়; কয়েকটি paraphrase-এ ফলের পরিসর দিয়ে মাপা হয়।যেখানে শিখবেন: পর্ব ৬০পর্ব ৬৬
- Prompt tuning (soft prompt)প্রম্পট টিউনিং
- শুধু input-এর শুরুতে কয়েকটি শেখা embedding vector যোগ করা, বাকি সব স্থির; Lester ও সহলেখক ২০২১ সালে দেখান, model বড় হলে এর ফল full fine-tuning-এর কাছে যায়।যেখানে শিখবেন: পর্ব ৫৫
- Prompt versioningপ্রম্পট ভার্শনিং
- প্রতিটি prompt-কে আলাদা ফাইল, hash, তারিখ আর বদলের কারণসহ রাখা, আর প্রতিটি উত্তরের সঙ্গে কোন version ব্যবহার হয়েছে তা লগে রাখা।যেখানে শিখবেন: পর্ব ৬৬
- Pruning (trial pruning)প্রুনিং
- Hyperparameter খোঁজে মাঝের ফল (যেমন প্রতি epoch-এর val loss) দেখে আশাহীন trial-কে বাজেট শেষের আগেই থামানো, যাতে সময় ভালো trial-এ খরচ হয়।যেখানে শিখবেন: পর্ব ১৯
- Pydanticপাইড্যান্টিক
- Python-এর একটি library, যেখানে type hint দিয়ে লেখা class দিয়ে ডেটা যাচাই হয় আর JSON Schema বানানো যায়; FastAPI এর ওপর দাঁড়ানো।যেখানে শিখবেন: পর্ব ৬২
Q
- QDQ formatকিউ-ডি-কিউ ফরম্যাট
- Quantize আর Dequantize node-এর জোড়া মূল operation-এর আগে-পরে বসিয়ে int8 model লেখার ধরন; runtime সুযোগ পেলে জোড়াগুলো মিলিয়ে int8 kernel চালায়।যেখানে শিখবেন: পর্ব ৮৪
- Qdrantকিউড্রান্ট
- একটি open-source vector database; এর Python client-এ server ছাড়া চলা local mode আছে, যা নথি অনুযায়ী উন্নয়ন আর পরীক্ষার জন্য।যেখানে শিখবেন: পর্ব ৬৮
- QLoRAকিউ-লো-রা
- Base model-কে 4-bit NF4-এ quantize করে স্থির রাখা আর তার ওপর LoRA শেখানো, সঙ্গে double quantization আর paged optimizer; Dettmers ও সহলেখকদের ২০২৩ সালের পদ্ধতি।যেখানে শিখবেন: পর্ব ৫৫পর্ব ৯১
- QPS / RPS (requests per second)কিউ-পি-এস
- প্রতি সেকেন্ডে কতগুলো অনুরোধ আসে বা শেষ হয়; ধারণক্ষমতার হিসাবের মূল একক।যেখানে শিখবেন: পর্ব ৮৫
- Quantizationকোয়ান্টাইজেশন
- Model-এর weight বা হিসাব কম bit-এ (যেমন float32 থেকে int8) রাখা, যাতে memory কমে আর প্রায়ই গতি বাড়ে; বদলে ফল একটু বদলাতে পারে, তাই আবার মূল্যায়ন দরকার।যেখানে শিখবেন: পর্ব ২৫পর্ব ৫৯পর্ব ৮৭
- Quantization-aware training (QAT)কোয়ান্টাইজেশন-অ্যাওয়্যার ট্রেনিং
- Training-এর সময়ই forward-এ rounding-এর প্রভাব নকল করা, যাতে model কম bit-এর ত্রুটি সামলাতে শেখে; খরচ বেশি, কম bit-এ মান সাধারণত ভালো।যেখানে শিখবেন: পর্ব ৫৯
- Query (attention)কোয়েরি
- Attention-এ “এখন কী খুঁজছি” বোঝানো vector; seq2seq-এ সাধারণত decoder-এর আগের state.যেখানে শিখবেন: পর্ব ৩২পর্ব ৩৩
- Query rewritingকোয়েরি রিরাইটিং
- খোঁজার আগে ব্যবহারকারীর প্রশ্নকে নতুন করে লেখা, যেমন কথোপকথনের প্রসঙ্গ জুড়ে পূর্ণ প্রশ্ন বানানো বা একটি প্রশ্ন ভেঙে কয়েকটি উপপ্রশ্ন করা।যেখানে শিখবেন: পর্ব ৬৯
- Query, key, value (Q, K, V)কোয়েরি, কি, ভ্যালু
- Attention-এর তিন ভূমিকা: query যা খোঁজে, key যার সঙ্গে মেলানো হয়, আর value যা মিশিয়ে ফল হয়।যেখানে শিখবেন: পর্ব ৩৪
- Question answeringকোয়েশ্চেন আনসারিং
- প্রশ্নের উত্তর দেওয়ার কাজ, প্রায়ই দেওয়া লেখা থেকে উত্তরের অংশ তুলে আনা।যেখানে শিখবেন: পর্ব ৩৯
R
- RAG (retrieval-augmented generation)র্যাগ
- প্রশ্নের সঙ্গে মেলে এমন নথি খুঁজে এনে prompt-এ জুড়ে model-কে উত্তর দিতে সাহায্য করার নকশা।যেখানে শিখবেন: পর্ব ৭৩পর্ব ৯১
- RandAugmentর্যান্ডঅগমেন্ট
- একটি তালিকা থেকে প্রতিটি ছবিতে N টি রূপান্তর এলোমেলোভাবে বেছে M শক্তিতে প্রয়োগ করার সরল augmentation; শুধু দুটি knob.যেখানে শিখবেন: পর্ব ২৪
- Random featuresর্যান্ডম ফিচারস
- Hidden layer-এর weight এলোমেলো বসিয়ে স্থির রাখা আর শুধু output-এর linear অংশ শেখা; শেখা তখন একটি linear model-এর সমস্যা (যেমন least squares বা logistic regression).যেখানে শিখবেন: পর্ব ০৬পর্ব ২৩
- Random searchর্যান্ডম সার্চ
- একটি নির্দিষ্ট সংখ্যক বার প্রতিটি hyperparameter-এর মান কোনো বণ্টন থেকে এলোমেলো টেনে মাপা; একই বাজেটে প্রতিটি মাত্রায় বেশি আলাদা মান দেখে।যেখানে শিখবেন: পর্ব ১৯
- Random seedর্যান্ডম সিড
- Random সংখ্যা তৈরির শুরুর মান; একই seed দিলে প্রতিবার একই ক্রমের সংখ্যা আসে, তাই ফল পুনরুৎপাদন করা যায়।যেখানে শিখবেন: পর্ব ০৭পর্ব ১০পর্ব ১৯
- Random seedর্যান্ডম সিড
- Random সংখ্যার ধারা শুরুর মান; একই seed, একই কোড ও একই পরিবেশে একই ধারা পাওয়া যায়।যেখানে শিখবেন: পর্ব ৫০পর্ব ৫৪
- random_splitর্যান্ডম স্প্লিট
- PyTorch-এর function যা একটি Dataset-কে এলোমেলোভাবে কয়েকটি Subset-এ ভাগ করে; একই ভাগ ফেরত পেতে একটি seed দেওয়া Generator দিতে হয়।যেখানে শিখবেন: পর্ব ১১
- RandomResizedCropর্যান্ডম রিসাইজড ক্রপ
- ছবির এলোমেলো আকার আর অনুপাতের একটি অংশ কেটে নির্দিষ্ট মাপে আনার augmentation; torchvision-এ v2.RandomResizedCrop.যেখানে শিখবেন: পর্ব ২৪
- Rank (of a matrix)র্যাঙ্ক
- একটি matrix-এর স্বাধীন সারি বা কলামের সর্বোচ্চ সংখ্যা; শূন্য নয় এমন singular value-র সংখ্যাও এটিই।যেখানে শিখবেন: পর্ব ৫৫
- Rate limitরেট লিমিট
- নির্দিষ্ট সময়ে একজন ব্যবহারকারী বা উৎস কতগুলো অনুরোধ বা কাজ করতে পারবে তার সীমা।যেখানে শিখবেন: পর্ব ৭৩
- Rate limiterরেট লিমিটার
- একটি ক্লায়েন্ট নির্দিষ্ট সময়ে কতগুলো অনুরোধ (LLM-এ কত token) পাঠাতে পারবে তার সীমা টানে; সীমা ছাড়ালে সাধারণত 429 উত্তর দেয়।যেখানে শিখবেন: পর্ব ৮৫
- Re-rankingরি-র্যাংকিং
- দ্রুত কিন্তু মোটা দাগের পদ্ধতিতে কিছু প্রার্থী বাছার পর আরও নির্ভুল মাপ দিয়ে শুধু তাদের আবার সাজানো।যেখানে শিখবেন: পর্ব ৬৮
- ReActরিঅ্যাক্ট
- Reasoning আর Acting মেশানো agent-এর ধাঁচ: প্রতি ধাপে model একটি চিন্তা লেখে, একটি কাজ করে, আর পর্যবেক্ষণ পড়ে পরের ধাপ ঠিক করে; Yao ও সহকর্মীদের ২০২২ সালের প্রবন্ধ থেকে।যেখানে শিখবেন: পর্ব ৭২
- Reasoning effortরিজনিং এফোর্ট
- Reasoning model কত বাড়তি ভেতরের token খরচ করবে তার সেটিং, যেমন low, medium, high; নাম আর মান প্রতিষ্ঠান ও model ভেদে আলাদা।
- Reasoning modelরিজনিং মডেল
- উত্তরের আগে লম্বা ভেতরের লেখা তৈরি করতে training-এর সময় শেখানো language model; কতটা লিখবে তা সাধারণত একটি effort বা budget সেটিং দিয়ে ঠিক হয়।যেখানে শিখবেন: পর্ব ৬৩
- Recallরিকল
- সত্যিকারের হ্যাঁ-দের কত ভাগ model ধরতে পেরেছে: TP / (TP + FN).যেখানে শিখবেন: পর্ব ১৩পর্ব ২৫পর্ব ৪৩
- Recall@kরিকল অ্যাট কে
- প্রথম k-টি ফলের মধ্যে প্রাসঙ্গিক উত্তরের কত ভাগ পাওয়া গেল।যেখানে শিখবেন: পর্ব ৩৯পর্ব ৬৭পর্ব ৬৮
- Recency biasরিসেন্সি বায়াস
- Prompt-এর শেষের দিকের উদাহরণের প্রভাব বেশি পড়া, যেমন শেষ উদাহরণের label বেশি বলা; দিক আর মাত্রা model ধরে বদলায়।যেখানে শিখবেন: পর্ব ৬১
- Receptive fieldরিসেপটিভ ফিল্ড
- মূল input-এর যে এলাকা একটি output pixel-এর মানকে প্রভাবিত করতে পারে; প্রতিটি স্তরে r ← r + (k − 1)·j নিয়মে বাড়ে, যেখানে j আগের সব stride-এর গুণফল।যেখানে শিখবেন: পর্ব ২০পর্ব ২১পর্ব ২৬
- Reciprocal rank fusion (RRF)রেসিপ্রোকাল র্যাঙ্ক ফিউশন
- কয়েকটি ranked তালিকা মেলানোর পদ্ধতি: প্রতিটি নথির score = প্রতিটি তালিকায় 1/(k + rank)-এর যোগফল; শুধু অবস্থান লাগে, তাই আলাদা মাপের score মেলানোর ঝামেলা নেই।যেখানে শিখবেন: পর্ব ৬৭
- Reconstruction errorরিকনস্ট্রাকশন এরর
- কম মাত্রার code থেকে ফেরানো x̂ আর আসল x-এর পার্থক্যের মাপ, যেমন pixel-ভিত্তিক MSE; PCA আর autoencoder দুটিতেই ব্যবহৃত।যেখানে শিখবেন: পর্ব ৭৫
- Reconstruction termরিকনস্ট্রাকশন টার্ম
- ELBO-র E_q[log p(x | z)] অংশ: encoder-এর দেওয়া z থেকে decoder আসল x কতটা ফিরিয়ে আনে; ০/১ pixel-এ এর ঋণাত্মক হলো binary cross-entropy-র যোগফল।যেখানে শিখবেন: পর্ব ৭৬
- Recurrent neural network (RNN)রিকারেন্ট নিউরাল নেটওয়ার্ক
- যে neural network একটি sequence-এর উপাদান একে একে পড়ে আর একটি ভেতরের অবস্থা পরের ধাপে বয়ে নেয়; একই weight প্রতিটি ধাপে ব্যবহার হয়।যেখানে শিখবেন: পর্ব ২৮পর্ব ২৯পর্ব ৩০
- Recursive (iterated) forecastingরিকার্সিভ ফোরকাস্টিং
- এক ধাপ সামনের একটি model দিয়ে আগামীকাল অনুমান করে সেই অনুমানকে আসল মানের জায়গায় বসিয়ে পরের দিন অনুমান করা, এভাবে বারবার; আগের ধাপের ভুল পরের ধাপে বয়ে যায়।যেখানে শিখবেন: পর্ব ৩১
- Red teamরেড টিম
- অনুমতি নিয়ে প্রতিপক্ষের মতো আচরণ করে নিজের ব্যবস্থার দুর্বলতা খোঁজে এমন দল বা প্রক্রিয়া।যেখানে শিখবেন: পর্ব ৭৩
- ReduceLROnPlateauরিডিউস এলআর অন প্ল্যাটো
- PyTorch-এর একটি scheduler, যা val loss-এর মতো metric নির্দিষ্ট কয়েক epoch উন্নতি না করলে learning rate একটি গুণক দিয়ে কমায়।যেখানে শিখবেন: পর্ব ১৫
- Reduction (loss)রিডাকশন
- প্রতিটি উদাহরণের loss-কে একটি সংখ্যায় আনার নিয়ম: 'none' সব আলাদা রাখে, 'sum' যোগ করে, 'mean' গড় করে; weight দিলে PyTorch-এর 'mean' weight-এর যোগফল দিয়ে ভাগ করে।যেখানে শিখবেন: পর্ব ১৩
- Reference (metric)রেফারেন্স
- মানুষের লেখা নমুনা অনুবাদ বা সারাংশ, যার সঙ্গে model-এর output মেলানো হয়; সঠিক উত্তরের একটিমাত্র রূপ, একমাত্র সঠিক উত্তর নয়।যেখানে শিখবেন: পর্ব ৪৫
- Reference model (π_ref)রেফারেন্স মডেল
- Alignment-এর সময় স্থির রাখা model-এর কপি, সাধারণত SFT model; নতুন policy এর থেকে কত দূরে সরল তা KL বা log-ratio দিয়ে মাপা হয়।যেখানে শিখবেন: পর্ব ৫৭
- Reference-free evaluationরেফারেন্স-ফ্রি ইভ্যালুয়েশন
- Gold উত্তর ছাড়াই মূল্যায়ন, যেমন উত্তর আর উৎস বা প্রশ্নের সম্পর্ক দেখে faithfulness বা প্রাসঙ্গিকতা মাপা।যেখানে শিখবেন: পর্ব ৭০
- Reflection (self-critique)রিফ্লেকশন
- উত্তর চূড়ান্ত করার আগে বা ব্যর্থ চেষ্টার পরে model-কে নিজের কাজ যাচাই করতে বা ভুল নিয়ে লিখতে বলা; উপকারী হতে পারে, কিন্তু model নিজের ভুল ধরবেই এমন নিশ্চয়তা নেই।যেখানে শিখবেন: পর্ব ৭২
- Region Proposal Network (RPN)রিজিয়ন প্রোপোজাল নেটওয়ার্ক
- Faster R-CNN-এর প্রথম ধাপের ছোট network, যা anchor থেকে কয়েকশো সম্ভাব্য বস্তুর box প্রস্তাব করে; দ্বিতীয় ধাপ সেগুলোর শ্রেণি আর সূক্ষ্ম box ঠিক করে।যেখানে শিখবেন: পর্ব ২৫
- Regression testরিগ্রেশন টেস্ট
- কিছু বদলানোর পর পুরনো প্রশ্নগুলো আবার চালিয়ে দেখা, আগে ঠিক থাকা কিছু এখন ভেঙেছে কি না।যেখানে শিখবেন: পর্ব ৫৮পর্ব ৬৬পর্ব ৮৬
- Regularizationরেগুলারাইজেশন
- Model-কে train ডেটা মুখস্থ করা থেকে সংযত রাখার যেকোনো কৌশল, যেমন weight-এর শাস্তি, dropout, early stopping বা augmentation; লক্ষ্য নতুন ডেটায় ভালো করা।যেখানে শিখবেন: পর্ব ১৬
- Rehearsal (replay)রিহার্সাল
- নতুন কাজ শেখানোর সময় পুরোনো কাজের কিছু ডেটাও মিশিয়ে দেওয়া, যাতে model আগের দক্ষতা ভুলে না যায়।যেখানে শিখবেন: পর্ব ৫৪
- Reinforcement Learningরিইনফোর্সমেন্ট লার্নিং
- যে শেখায় একটি agent পরিবেশে কাজ করে পুরস্কার (reward) পায়, আর চেষ্টা ও ভুলের মধ্য দিয়ে মোট পুরস্কার বাড়ানোর নীতি শেখে।যেখানে শিখবেন: পর্ব ৫৭
- Relative errorরিলেটিভ এরর
- দুটি মানের পার্থক্যকে তাদের মাপ দিয়ে ভাগ করা ভুল, যেমন ‖a − b‖ / (‖a‖ + ‖b‖); মাপ থেকে স্বাধীন বলে gradient check-এ ব্যবহার হয়।যেখানে শিখবেন: পর্ব ০৪পর্ব ২৮
- Relative positionরিলেটিভ পজিশন
- দুই token-এর মধ্যে ঘরের ব্যবধান j − i; কোন ঘরে আছে নয়, কতদূরে আছে, সেই তথ্য।যেখানে শিখবেন: পর্ব ৩৪
- Release gateরিলিজ গেট
- নতুন version চালু করার আগে লেখা শর্তের তালিকা, যেমন মোট পাশ কমবে না আর ঝুঁকির ধরনে নতুন ফেল থাকবে না; ফল দেখার আগে লিখতে হয়।যেখানে শিখবেন: পর্ব ৬৬পর্ব ৮৬
- ReLU (rectified linear unit)রেলু
- max(0, z): ঋণাত্মক মানকে ০ করে, ধনাত্মক মান যেমন আছে রাখে; ধনাত্মক দিকে ঢাল ১ বলে hidden layer-এ আজকের সাধারণ পছন্দ।যেখানে শিখবেন: পর্ব ০১পর্ব ০৩পর্ব ০৪
- Repair-and-retry loopরিপেয়ার-রিট্রাই লুপ
- যাচাইয়ে ব্যর্থ উত্তর আগে কোডে সস্তায় মেরামতের চেষ্টা, না হলে ভুলের বার্তাসহ model-কে সীমিত বার আবার জিজ্ঞাসা, শেষে মানুষের কাছে পাঠানো।যেখানে শিখবেন: পর্ব ৬২
- Reparameterization trickরিপ্যারামিটারাইজেশন ট্রিক
- নমুনাকে z = μ + σ·ε রূপে লেখা, যেখানে ε আসে N(0, 1) থেকে; এলোমেলোতা parameter-মুক্ত ε-তে সরে যায়, তাই backpropagation μ আর σ পর্যন্ত পৌঁছায়।যেখানে শিখবেন: পর্ব ৭৬পর্ব ৮৭পর্ব ৮৮
- Repetition penaltyরিপিটিশন পেনাল্টি
- আগে দেখা token-এর logit কমানো: ধনাত্মক হলে r দিয়ে ভাগ, ঋণাত্মক হলে r দিয়ে গুণ।যেখানে শিখবেন: পর্ব ৫০
- Replaced token detection (RTD)রিপ্লেসড টোকেন ডিটেকশন
- ELECTRA-র pretraining কাজ: প্রতিটি token দেখে বলা, সেটি আসল না কি generator-এর বসানো।যেখানে শিখবেন: পর্ব ৪৮
- Replanningরিপ্ল্যানিং
- চলার সময় plan অচল হলে বর্তমান অবস্থা থেকে নতুন plan বানানো।যেখানে শিখবেন: পর্ব ৭২
- Replicationরেপ্লিকেশন
- একই ডেটার কপি একাধিক সার্ভারে রাখা, যাতে একটি নষ্ট হলেও সেবা চলে আর পড়ার চাপ ভাগ হয়।যেখানে শিখবেন: পর্ব ৬৮
- Representation learningরিপ্রেজেন্টেশন লার্নিং
- কোন feature কাজে লাগবে তা মানুষ না বলে দিয়ে model-কেই ডেটা থেকে নিজের ভেতরের feature বানাতে দেওয়া।যেখানে শিখবেন: পর্ব ০১পর্ব ৭৫
- Reproducibilityরিপ্রোডিউসিবিলিটি
- পুনরুৎপাদনযোগ্যতা: একই কোড, ডেটা আর পরিবেশ থেকে আবার একই ফল পাওয়ার ক্ষমতা।যেখানে শিখবেন: পর্ব ১০পর্ব ৫৩
- requires_gradরিকোয়ার্স গ্র্যাড
- Tensor-এর একটি flag; True হলে PyTorch এই tensor-এর ওপর হওয়া কাজগুলো graph-এ লিখে রাখে, যাতে পরে এর সাপেক্ষে gradient বের করা যায়।যেখানে শিখবেন: পর্ব ০৮
- Reranker gateরির্যাংকার গেট
- Reranker-এর সেরা score একটি সীমার নিচে হলে LLM না ডেকে সরাসরি “উৎসে নেই” বলার নিয়ম; সীমাটি আলাদা dev set থেকে বাছা হয়।যেখানে শিখবেন: পর্ব ৮৬পর্ব ৮৯
- Rerankingরির্যাংকিং
- দ্রুত প্রথম খোঁজায় পাওয়া শীর্ষ কয়েকটি ফলকে একটি ধীর কিন্তু নির্ভুলতর model, সাধারণত cross-encoder, দিয়ে নতুন করে সাজানো।যেখানে শিখবেন: পর্ব ৬৯পর্ব ৮৬
- Reset gateরিসেট গেট
- GRU-র gate, যা ঠিক করে নতুন candidate বানাতে পুরোনো hidden state-এর কতটা কাজে লাগবে।যেখানে শিখবেন: পর্ব ২৯
- Residual connection (skip connection)রেসিডুয়াল কানেকশন
- একটি block-এর input-কে সরাসরি তার output-এর সঙ্গে যোগ করা, h + F(h); derivative-এ I + F′ আসে বলে gradient-এর একটি সরাসরি পথ থাকে, তাই খুব গভীর network-ও শেখানো যায়।যেখানে শিখবেন: পর্ব ১৭পর্ব ২২পর্ব ২৯
- Residual init scalingরেসিডুয়াল ইনিট স্কেলিং
- GPT-2-এর শুরুর নিয়ম: residual layer-এর weight-কে 1/√N দিয়ে ছোট করা, যেখানে N হলো residual layer-এর সংখ্যা, যাতে যোগফল গভীরতার সঙ্গে ফুলে না যায়।যেখানে শিখবেন: পর্ব ৪৯
- ResNet (residual network)রেসনেট
- He ও সহকর্মীদের ২০১৫ সালের CNN পরিবার, যার প্রতিটি block-এর output ReLU(F(x) + x); ResNet-18, 34, 50, 101, 152 নামের সংখ্যা ওজনওয়ালা স্তর গোনে।যেখানে শিখবেন: পর্ব ২২
- retain_graphরিটেইন গ্রাফ
- PyTorch-এর backward()-এর একটি argument; True দিলে backward-এর পর graph-এর মনে রাখা মাঝের মান মোছে না, তাই একই graph-এ আবার backward চালানো যায়।যেখানে শিখবেন: পর্ব ০৫
- Retrievalরিট্রিভাল
- একটি প্রশ্নের সঙ্গে সবচেয়ে মেলা লেখাগুলো অনেক লেখার মধ্য থেকে খুঁজে সাজানো।যেখানে শিখবেন: পর্ব ৩৯পর্ব ৬৯
- Retrieval missরিট্রিভাল মিস
- প্রশ্নের উত্তর যে নথিতে আছে, retriever সেটি প্রথম k-টির মধ্যে আনতেই পারেনি এমন ভুল।যেখানে শিখবেন: পর্ব ৭০
- Retrieval-augmented generation (RAG)রিট্রিভাল-অগমেন্টেড জেনারেশন
- প্রশ্নের সময় নথি থেকে মেলা টুকরো খুঁজে এনে prompt-এ বসিয়ে LLM দিয়ে উত্তর লেখানোর পদ্ধতি; model নিজের স্মৃতির বদলে দেওয়া উৎস পড়ে উত্তর দেয়, আর নথি বদলালে শুধু index হালনাগাদ করলেই চলে।যেখানে শিখবেন: পর্ব ৬৯পর্ব ৭০পর্ব ৮৯
- Retryরিট্রাই
- ব্যর্থ অনুরোধ আবার পাঠানো; ক্ষণিকের ত্রুটিতে কাজের, কিন্তু সীমা আর অপেক্ষা ছাড়া চাপের সময় চাপ কয়েক গুণ বাড়ায়।যেখানে শিখবেন: পর্ব ৮৫
- Reverse process (diffusion)রিভার্স প্রসেস
- Noise থেকে শুরু করে প্রতিটি ধাপে একটি শেখা network দিয়ে noise সরিয়ে ছবিতে ফেরার chain; diffusion model-এর শেখার সব কাজ এখানে।যেখানে শিখবেন: পর্ব ৭৯
- Reverse-mode automatic differentiationরিভার্স মোড
- আগে পুরো হিসাব চালিয়ে মাঝের মান মনে রাখা, তারপর output থেকে পেছনে chain rule দিয়ে vector-Jacobian product গুণ করা; একটি scalar loss-এর সব parameter-এর gradient একবারেই দেয়।যেখানে শিখবেন: পর্ব ০৫পর্ব ৮৮পর্ব ৮৯
- Reward hackingরিওয়ার্ড হ্যাকিং
- Policy যখন reward-এর মাপের ফাঁক কাজে লাগিয়ে score বাড়ায় কিন্তু আসল লক্ষ্য পূরণ করে না, যেমন লম্বা কিন্তু তথ্যহীন উত্তর।যেখানে শিখবেন: পর্ব ৫৭পর্ব ৮৯
- Reward modelরিওয়ার্ড মডেল
- Prompt আর উত্তর নিয়ে একটি সংখ্যা (score) দেয় এমন model, মানুষের তুলনা থেকে শেখা; score-এর শুধু পার্থক্যের অর্থ আছে।যেখানে শিখবেন: পর্ব ৫৭পর্ব ৮৯
- Reward over-optimisationরিওয়ার্ড ওভার-অপটিমাইজেশন
- Proxy reward model-এর বিরুদ্ধে বেশি চাপ দিলে proxy score বাড়তে থাকে কিন্তু আসল মান একসময় কমে যাওয়ার ঘটনা; Goodhart-এর নিয়মের রূপ।যেখানে শিখবেন: পর্ব ৫৭
- ReZero / LayerScaleরিজিরো, লেয়ারস্কেল
- Residual শাখার output-কে শেখা যায় এমন একটি ছোট গুণক দিয়ে গুণ করার কৌশল, যাতে শুরুতে block প্রায় identity-র মতো চলে।যেখানে শিখবেন: পর্ব ৩৫
- RLAIF (RL from AI feedback)আর-এল-এ-আই-এফ
- মানুষের বদলে একটি AI model-এর তুলনা থেকে preference model শিখে reinforcement learning চালানো; Constitutional AI-এর দ্বিতীয় ধাপ।যেখানে শিখবেন: পর্ব ৫৭
- RLHF (reinforcement learning from human feedback)আর-এল-এইচ-এফ
- মানুষের তুলনামূলক পছন্দ থেকে একটি reward model শিখে, reinforcement learning দিয়ে language model-কে সেই পছন্দের দিকে সামঞ্জস্য করার পদ্ধতি।যেখানে শিখবেন: পর্ব ৫৬পর্ব ৫৭
- RMSE (root mean squared error)আরএমএসই
- ভুলের বর্গের গড়ের বর্গমূল; target-এর এককেই ভুলের মাপ দেয়, বড় ভুলকে বেশি শাস্তি দেয়।যেখানে শিখবেন: পর্ব ০৬
- RMSNormআরএমএস নর্ম
- LayerNorm-এর সরল রূপ: গড় বিয়োগ না করে প্রতিটি vector-কে তার root mean square দিয়ে ভাগ করে শেখা γ দিয়ে গুণ; মাপ মোছে, স্থানান্তর মোছে না।যেখানে শিখবেন: পর্ব ১৪পর্ব ৩৫পর্ব ৪৯
- RNG stateআরএনজি স্টেট
- Random number generator-এর বর্তমান অবস্থা; এটি সংরক্ষণ করে ফেরালে পরের random সংখ্যাগুলো (dropout mask, shuffle-এর ক্রম) হুবহু একই আসে।যেখানে শিখবেন: পর্ব ১০পর্ব ১৯
- RNN cellআরএনএন সেল
- এক ধাপের হিসাব: আগের hidden state আর নতুন input থেকে নতুন hidden state বের করার function; এই একটি function-ই সব ধাপে চলে।যেখানে শিখবেন: পর্ব ২৮
- RoBERTaরোবার্টা
- ২০১৯ সালের একটি প্রবন্ধের model, যা BERT-এর pretraining পদ্ধতি বদলে দেখায়: বেশি ডেটা, বড় batch, dynamic masking, NSP বাদ, BPE tokenizer.যেখানে শিখবেন: পর্ব ৪৮
- ROC curveআরওসি কার্ভ
- Receiver operating characteristic: threshold বদলাতে বদলাতে প্রতিটি মানে false positive rate (x অক্ষ) আর true positive rate (y অক্ষ) বসিয়ে আঁকা রেখা।যেখানে শিখবেন: পর্ব ৭৫
- Rollbackরোলব্যাক
- নতুন সংস্করণে সমস্যা দেখা দিলে আগের পরীক্ষিত সংস্করণে ফিরে যাওয়া; model-এর ক্ষেত্রে আগের model ফাইল আর তার metadata আবার চালু করা।যেখানে শিখবেন: পর্ব ৮৪
- Rolling summaryরোলিং সামারি
- কথোপকথনের পুরনো পালা বাদ দেওয়ার সময় তার দরকারি তথ্য ছোট একটি সারাংশে রেখে দেওয়া, যাতে token বাঁচে কিন্তু তথ্য না হারায়।যেখানে শিখবেন: পর্ব ৬৪
- RoPE (Rotary Position Embedding)রোপ
- Query আর key-কে অবস্থান অনুযায়ী ঘুরিয়ে position-এর তথ্য দেওয়া, যাতে score-এ অবস্থানের প্রভাব শুধু দুই token-এর আপেক্ষিক দূরত্বে নির্ভর করে।যেখানে শিখবেন: পর্ব ৩৪পর্ব ৩৭পর্ব ৪৯
- Rotation matrixরোটেশন ম্যাট্রিক্স
- একটি 2×2 matrix [[cos a, −sin a], [sin a, cos a]], যা vector-কে a কোণে ঘোরায় আর দৈর্ঘ্য বদলায় না।যেখানে শিখবেন: পর্ব ৩৪
- ROUGEরুজ
- সারাংশের metric, যা তৈরি সারাংশ আর মানুষের সারাংশের n-gram মিল মাপে।যেখানে শিখবেন: পর্ব ৩৯পর্ব ৪৫
- Round tripরাউন্ড ট্রিপ
- লেখা encode করে আবার decode করলে হুবহু একই লেখা ফেরে কি না, তার পরীক্ষা।যেখানে শিখবেন: পর্ব ৪০
- Row-major order (C order)রো-মেজর অর্ডার
- বহু-মাত্রার array-কে মেমরিতে সারি ধরে রাখার নিয়ম, যেখানে শেষ মাত্রাটি সবচেয়ে দ্রুত বদলায়; C আর NumPy-র ডিফল্ট।যেখানে শিখবেন: পর্ব ০৩পর্ব ০৭
- rsLoRA (rank-stabilized LoRA)আর-এস লো-রা
- LoRA-র একটি রূপ, যেখানে গুণক α/r-এর বদলে α/√r; বড় rank-এ শেখা থেমে যাওয়া ঠেকাতে Kalajdzievski ২০২৩ সালে প্রস্তাব করেন।যেখানে শিখবেন: পর্ব ৫৫
- Rubricরুব্রিক
- উত্তর মূল্যায়নের আগে থেকে লেখা মানদণ্ডের তালিকা, প্রতিটির জন্য স্পষ্ট নম্বরের নিয়মসহ।যেখানে শিখবেন: পর্ব ৫৬পর্ব ৫৮পর্ব ৬৬
- Rule checkerরুল চেকার
- System prompt-এর প্রতিটি নিয়মের জন্য কোডে লেখা ছোট পরীক্ষা, যেমন ভাষা, নির্দিষ্ট বাক্য বা চিহ্ন; দ্রুত আর একই রায় দেয়, কিন্তু শুধু লেখা নিয়মই ধরে।যেখানে শিখবেন: পর্ব ৬৪পর্ব ৬৬
- Running parityরানিং প্যারিটি
- ০ আর ১-এর একটি ধারায় প্রতি ধাপে এ পর্যন্ত ১-এর সংখ্যা জোড় না বিজোড়, তা বলার task; XOR-এর সময়-ধরা রূপ।যেখানে শিখবেন: পর্ব ২৮
S
- safetensorsসেফটেনসরস
- Model-এর ওজন রাখার একটি ফাইল ফরম্যাট, যেখানে একটি JSON header (নাম, dtype, shape) আর তারপর কাঁচা সংখ্যা থাকে; কোনো কোড থাকে না, তাই খোলা নিরাপদ।যেখানে শিখবেন: পর্ব ০৯পর্ব ৫৩পর্ব ৮৪
- Saliency mapস্যালিয়েন্সি ম্যাপ
- Input-এর সাপেক্ষে class score-এর gradient-এর পরম মান দিয়ে বানানো map, যা দেখায় কোন pixel সামান্য বদলালে score সবচেয়ে বেশি বদলায়।যেখানে শিখবেন: পর্ব ২৬
- Sample sizeস্যাম্পল সাইজ
- মাপতে কয়টি প্রশ্ন বা উদাহরণ লাগবে; accuracy-র CI-এর অর্ধ-প্রস্থ প্রায় ১.৯৬√(p(1−p)/n), তাই প্রস্থ অর্ধেক করতে n চারগুণ।যেখানে শিখবেন: পর্ব ৫৮
- Samplerস্যাম্পলার
- DataLoader-কে কোন ক্রমে কোন index দেওয়া হবে, তা ঠিক করার object; SequentialSampler, RandomSampler আর WeightedRandomSampler এর উদাহরণ।যেখানে শিখবেন: পর্ব ১১
- Sampler (scheduler)স্যাম্পলার
- Diffusion model-এর ε বা score-এর অনুমান থেকে noise-এর অবস্থা থেকে ছবিতে কোন পথে, কত ধাপে যাওয়া হবে তার নিয়ম; diffusers-এ এর নাম scheduler, আর বদলাতে নতুন training লাগে না।যেখানে শিখবেন: পর্ব ৮০
- Sampling with replacementস্যাম্পলিং উইথ রিপ্লেসমেন্ট
- প্রতিটি নমুনা তোলার পর তা আবার ফেরত রাখা, তাই একই জিনিস একাধিকবার আসতে পারে।যেখানে শিখবেন: পর্ব ১১
- Sandboxস্যান্ডবক্স
- আলাদা করে ঘেরা পরিবেশ, যেখানে কোড বা tool চললে বাইরের সিস্টেম, network বা আসল ডেটার ক্ষতি করতে পারে না; পরীক্ষার জন্য নকল ফাইল আর নকল কাজ।যেখানে শিখবেন: পর্ব ৭১
- Sandhi (সন্ধি)সন্ধি
- পাশাপাশি দুটি ধ্বনি মিলে শব্দের রূপ বদলানো, যেমন বিদ্যা আর আলয় মিলে বিদ্যালয়। তাই সোজা কেটে মূল শব্দ পাওয়া যায় না।যেখানে শিখবেন: পর্ব ৩৯
- Sanity checkস্যানিটি চেক
- বড় কাজের আগে করা ছোট, সস্তা পরীক্ষা, যার সঠিক উত্তর আগে থেকেই জানা; যেমন শুরুর loss −ln(1/C)-এর কাছে কি না, বা এক batch-এ loss প্রায় শূন্যে নামে কি না।যেখানে শিখবেন: পর্ব ১৮পর্ব ২৬
- Sarcasmসারকাজম
- ব্যঙ্গ: শব্দের সাধারণ অর্থের উল্টোটি বোঝানো; শুধু শব্দ গুনে ধরা কঠিন।যেখানে শিখবেন: পর্ব ৪২
- Saturating generator lossস্যাচুরেটিং লস
- মূল minimax রূপে generator-এর loss ln(1 − D(G(z))); discriminator নিশ্চিতভাবে নকল ধরলে এর gradient প্রায় শূন্য হয়ে যায়।যেখানে শিখবেন: পর্ব ৭৭
- Saturation (activation)স্যাচুরেশন
- Sigmoid বা tanh-এর দুই প্রান্তে input অনেক বদলালেও output প্রায় স্থির থাকা, ফলে ঢাল প্রায় ০ আর সেই unit প্রায় শেখে না।যেখানে শিখবেন: পর্ব ০৩পর্ব ১৭
- Saved tensorসেভড টেনসর
- Backward হিসাবের জন্য forward-এর সময় grad_fn node-এ রেখে দেওয়া মান, যেমন গুণের অন্য গুণনীয়ক বা sigmoid-এর output; প্রথম backward-এর পর default-ভাবে মুছে যায়।
- Sawtooth functionস'টুথ ফাংশন
- করাতের দাঁতের মতো বারবার ওঠানামা করা piecewise linear function; tent map বারবার জুড়ে বানালে k ধাপে ২ᵏটি টুকরো হয়।যেখানে শিখবেন: পর্ব ০৬
- Scalar mixস্ক্যালার মিক্স
- কয়েকটি layer-এর vector-এর ওজনসহ যোগ, যেখানে প্রতিটি layer-এ একটিমাত্র শেখা ওজন থাকে আর ওজনগুলো softmax থেকে আসে।যেখানে শিখবেন: পর্ব ৪৪
- Scalar quantizationস্কেলার কোয়ান্টাইজেশন
- প্রতিটি সংখ্যাকে আলাদাভাবে কম bit-এ (যেমন float32 থেকে int8) গোল করে রাখা; মেমরি কমে, সামান্য নির্ভুলতা যায়।যেখানে শিখবেন: পর্ব ৬৮
- Scale (quantization)স্কেল
- পাশাপাশি দুটি পূর্ণসংখ্যার ঘরের মধ্যে দশমিক মানের পার্থক্য; x-কে s দিয়ে ভাগ করে round করলে পূর্ণসংখ্যা আসে।যেখানে শিখবেন: পর্ব ৫৯পর্ব ৮৪পর্ব ৮৮
- Scaled dot-product attentionস্কেলড ডট-প্রোডাক্ট অ্যাটেনশন
- softmax(QKᵀ/√d_k)V সূত্রের attention: query আর key-এর dot product-কে √d_k দিয়ে ভাগ করে softmax, তারপর value-এর ওজনসহ যোগ।যেখানে শিখবেন: পর্ব ৩৩পর্ব ৮৭পর্ব ৮৮
- scaled_dot_product_attention (SDPA)স্কেলড ডট প্রোডাক্ট অ্যাটেনশন
- PyTorch-এর function, যা attention-এর হিসাব করে আর CUDA-তে input দেখে একটি দক্ষ kernel বেছে নিতে পারে।যেখানে শিখবেন: পর্ব ৩৭
- Scaling lawস্কেলিং ল
- Model-এর আকার, ডেটা বা compute বাড়লে loss কীভাবে বদলায়, তার পরিমাপ থেকে পাওয়া সূত্র; প্রমাণিত প্রাকৃতিক নিয়ম নয়, মাপা সীমার ভেতরের একটি fit.যেখানে শিখবেন: পর্ব ৫১পর্ব ৯১
- Scheduled samplingশিডিউলড স্যাম্পলিং
- Training যত এগোয়, teacher forcing ratio ধীরে ধীরে কমিয়ে decoder-কে নিজের অনুমানে চলতে শেখানোর কৌশল।যেখানে শিখবেন: পর্ব ৩০
- Schema validationস্কিমা ভ্যালিডেশন
- একটি JSON নির্দিষ্ট schema-র চাবি, ধরন, enum আর সীমা মানে কি না, তা কোডে পরীক্ষা করা; আকার পরীক্ষা করে, তথ্যের সত্যতা নয়।যেখানে শিখবেন: পর্ব ৬২
- Score (∇ₓ log p(x))স্কোর
- একটি density-র log-এর ডেটা x-এর সাপেক্ষে gradient; প্রতিটি বিন্দুতে কোন দিকে গেলে সম্ভাবনা দ্রুত বাড়ে তা বলে, আর noise অনুমানের সঙ্গে সরাসরি সম্পর্কিত।যেখানে শিখবেন: পর্ব ৭৯
- Score-based modelস্কোর-বেসড মডেল
- log-density-র gradient (score) শেখা মডেল; noise-যুক্ত ডেটা থেকে ধাপে ধাপে noise সরিয়ে নমুনা তোলে, আর diffusion model-এর একটি দৃষ্টিভঙ্গি।যেখানে শিখবেন: পর্ব ৭৪
- Score-function estimator (REINFORCE)স্কোর-ফাংশন এস্টিমেটর
- ∇E_q[f(z)] = E_q[f(z)·∇log q(z)] সূত্রে gradient অনুমান; f-এর অবকলন লাগে না বলে discrete চলকেও চলে, কিন্তু ওঠানামা সাধারণত reparameterization-এর চেয়ে অনেক বেশি।যেখানে শিখবেন: পর্ব ৭৬
- Scratchpadস্ক্র্যাচপ্যাড
- Model-এর লেখা মধ্যবর্তী হিসাবের জায়গা, যা context-এ থেকে পরের ধাপকে সাহায্য করে; Nye ও সহকর্মীদের ২০২১ সালের কাজ থেকে নামটি পরিচিত।যেখানে শিখবেন: পর্ব ৬৩
- Seasonal naiveসিজনাল নাইভ
- গত ঋতুচক্রের একই অবস্থানের মানকে অনুমান ধরা, যেমন গত সপ্তাহের একই বারের অর্ডার।যেখানে শিখবেন: পর্ব ২৭পর্ব ৩১
- Segment embeddingসেগমেন্ট এমবেডিং
- Token প্রথম না দ্বিতীয় বাক্যের অংশ, তা জানাতে যোগ করা শেখা vector.যেখানে শিখবেন: পর্ব ৪৪পর্ব ৪৮
- Selective predictionসিলেক্টিভ প্রেডিকশন
- যেখানে model যথেষ্ট নিশ্চিত নয়, সেখানে উত্তর না দিয়ে বিরত থাকা; কত ভাগ প্রশ্নে উত্তর দিল (coverage) আর তাতে কত ভুল (risk), দুটি একসঙ্গে মাপা হয়।যেখানে শিখবেন: পর্ব ৮৬
- Self-attentionসেলফ অ্যাটেনশন
- যে attention-এ query, key আর value তিনটিই একই sequence থেকে আসে, তাই প্রতিটি token একই sequence-এর সব token-এর ওজনসহ মিশ্রণ পায়।যেখানে শিখবেন: পর্ব ৩৩পর্ব ৩৪পর্ব ৩৬
- Self-consistencyসেলফ-কনসিসটেন্সি
- একই CoT prompt-এ temperature দিয়ে কয়েকটি আলাদা উত্তর-পথ নিয়ে চূড়ান্ত উত্তরগুলোর সংখ্যাগরিষ্ঠ ভোট নেওয়া; Wang ও সহকর্মীদের ২০২২ সালের পদ্ধতি।যেখানে শিখবেন: পর্ব ৬৩পর্ব ৮৮
- Self-consistency checkসেলফ কনসিসটেন্সি চেক
- একই প্রশ্নে কয়েকটি উত্তর sample করে মিল দেখা; মিল কম হলে উত্তরটি সন্দেহজনক ধরে নেওয়া একটি পদ্ধতি, প্রমাণ নয়।যেখানে শিখবেন: পর্ব ৫২
- Self-Instructসেলফ-ইনস্ট্রাক্ট
- অল্প কিছু মানুষের লেখা উদাহরণ থেকে শুরু করে একটি language model দিয়েই নতুন নির্দেশ আর উত্তর বানিয়ে instruction ডেটা তৈরির পদ্ধতি; Wang ও সহকর্মীরা ২০২২ সালে এটি প্রকাশ করেন।যেখানে শিখবেন: পর্ব ৫৬
- Self-preference biasসেলফ-প্রেফারেন্স বায়াস
- বিচারক model-এর নিজের বা নিজের পরিবারের লেখা উত্তরকে বেশি পছন্দ করার প্রবণতা; Zheng ও সহকর্মীরা একে self-enhancement বলেছেন।যেখানে শিখবেন: পর্ব ৫৮পর্ব ৭০
- Self-supervised learningসেলফ-সুপারভাইজড লার্নিং
- মানুষের দেওয়া লেবেল ছাড়া ডেটার একটি অংশ লুকিয়ে সেটিকেই লক্ষ্য বানিয়ে শেখা।যেখানে শিখবেন: পর্ব ৪৭পর্ব ৭৫
- Semantic cacheসিমান্টিক ক্যাশ
- নতুন প্রশ্নের embedding আগের প্রশ্নগুলোর কোনোটির খুব কাছে (cosine একটি সীমার ওপরে) হলে তার উত্তর ফেরত দেওয়া cache; hit বেশি, কিন্তু ভুল উত্তরের ঝুঁকি।যেখানে শিখবেন: পর্ব ৮৫পর্ব ৯১
- Semantic searchসিম্যান্টিক সার্চ
- শব্দ হুবহু মেলানোর বদলে অর্থের কাছাকাছি লেখা খোঁজা, সাধারণত embedding-এর cosine দিয়ে।যেখানে শিখবেন: পর্ব ৬৭
- Semantic segmentationসিম্যান্টিক সেগমেন্টেশন
- ছবির প্রতিটি pixel-কে একটি শ্রেণি দেওয়া; একই শ্রেণির দুটি আলাদা বস্তুকে আলাদা করে না।যেখানে শিখবেন: পর্ব ২৫
- Sentence embeddingসেনটেন্স এমবেডিং
- পুরো একটি বাক্য বা অনুচ্ছেদের জন্য একটি নির্দিষ্ট মাত্রার vector, যাতে অর্থে কাছাকাছি বাক্যের cosine বড় হয়।যেখানে শিখবেন: পর্ব ৬৭পর্ব ৭২পর্ব ৮৬
- SentencePieceসেন্টেন্সপিস
- BPE আর Unigram পদ্ধতিতে subword tokenizer train করার একটি খোলা library, যা whitespace-কে ▁ চিহ্ন দিয়ে রাখে।যেখানে শিখবেন: পর্ব ৪০
- Sentiment analysisসেন্টিমেন্ট অ্যানালাইসিস
- একটি লেখা ইতিবাচক না নেতিবাচক, তা অনুমান করার কাজ।যেখানে শিখবেন: পর্ব ২৯পর্ব ৪২পর্ব ৮৬
- Sentinel tokenসেন্টিনেল টোকেন
- সরানো টুকরোর জায়গায় বসানো বিশেষ token; input আর target-এ একই চিহ্ন দিয়ে টুকরোটির ঠিকানা মেলায়।যেখানে শিখবেন: পর্ব ৪৭
- Seq2seq (sequence-to-sequence)সিক-টু-সিক
- একটি sequence পড়ে আরেকটি sequence লেখার model, যেখানে input আর output-এর দৈর্ঘ্য আলাদা হতে পারে।যেখানে শিখবেন: পর্ব ৩০
- seqevalসিকইভাল
- Sequence labeling-এর span স্তরের metric হিসাবের Python library; default-এ lenient, strict চাইলে mode আর scheme বলে দিতে হয়।যেখানে শিখবেন: পর্ব ৪৩পর্ব ৫৪
- Sequence classificationসিকোয়েন্স ক্লাসিফিকেশন
- পুরো একটি লেখাকে একটি শ্রেণি দেওয়া, যেমন রিভিউ ধনাত্মক না ঋণাত্মক; encoder-এর একটি vector-এর ওপর একটি head বসে।যেখানে শিখবেন: পর্ব ৫৪
- Sequence labelingসিকোয়েন্স লেবেলিং
- প্রতিটি token-কে একটি করে tag দেওয়ার কাজ, যেমন NER বা POS tagging.যেখানে শিখবেন: পর্ব ৩৯পর্ব ৪৩
- Serving engineসার্ভিং ইঞ্জিন
- LLM চালিয়ে অনুরোধের উত্তর দেওয়ার software, যেমন vLLM, SGLang বা llama.cpp-এর server; scheduler, KV cache আর kernel এর ভেতরে থাকে।যেখানে শিখবেন: পর্ব ৮৩
- SFTTrainerএসএফটি ট্রেইনার
- TRL-এর trainer, যা conversational ডেটায় chat template বসায়, tokenize করে, দরকার হলে শুধু উত্তরে loss রাখে আর Trainer দিয়ে শেখায়।যেখানে শিখবেন: পর্ব ৫৬
- Shadow deploymentশ্যাডো ডিপ্লয়মেন্ট
- নতুন model আসল অনুরোধের একটি কপি পেয়ে পাশাপাশি অনুমান করে আর তা লিখে রাখে, কিন্তু ব্যবহারকারী শুধু পুরোনো model-এর উত্তর দেখেন।যেখানে শিখবেন: পর্ব ৮৪
- Shapeশেপ
- একটি array বা tensor-এর প্রতিটি মাত্রায় কতগুলো উপাদান, তার তালিকা; যেমন ৬টি উদাহরণ আর ৪টি feature-এর input-এর shape (6, 4).যেখানে শিখবেন: পর্ব ০৩পর্ব ০৭
- Sharding (partitioning)শার্ডিং
- বড় ডেটাকে ভাগ করে আলাদা সার্ভারে রাখা, প্রতিটি ভাগ একটি shard; vector database-এ খোঁজা সব shard-এ চলে, তারপর ফল মেলানো হয়।যেখানে শিখবেন: পর্ব ৬৮
- Shortcut learningশর্টকাট লার্নিং
- Model আসল লক্ষণ না শিখে training data-তে উত্তরের সঙ্গে মিলে যাওয়া সহজ কোনো সংকেত (যেমন কোণের লোগো) শিখে ফেলা, যা নতুন ডেটায় আর কাজ করে না।যেখানে শিখবেন: পর্ব ২৬
- Sigmoid (logistic function)সিগময়েড
- σ(z) = 1/(1 + e^(−z)) সূত্রের S-আকারের function, যা যেকোনো বাস্তব সংখ্যাকে ০ আর ১-এর মাঝের একটি সংখ্যায় আনে; z = 0-তে মান ০.৫ আর derivative হয় σ(1 − σ) আকারের।যেখানে শিখবেন: পর্ব ০১পর্ব ০২পর্ব ০৩
- Signal propagationসিগন্যাল প্রোপাগেশন
- গভীর network-এর স্তর পেরিয়ে activation আর gradient-এর মাপ কীভাবে বদলায়; প্রতি স্তরের গুণক ১-এর কম হলে signal হারায়, বেশি হলে ফেটে যায়।যেখানে শিখবেন: পর্ব ১৪
- Signal-to-noise ratio (SNR)সিগন্যাল-টু-নয়েজ রেশিও
- সংকেতের শক্তি আর noise-এর শক্তির অনুপাত; diffusion-এ SNR(t) = ᾱ_t ÷ (1 − ᾱ_t), আর SNR ১ মানে দুটি সমান।যেখানে শিখবেন: পর্ব ৭৯পর্ব ৮৭পর্ব ৯০
- Signed distanceসাইনড ডিসট্যান্স
- একটি বিন্দু থেকে সমতলের দূরত্ব, চিহ্নসহ: (w·x + b)/‖w‖; ধনাত্মক মানে w যেদিকে দেখায় সেই পাশে, ঋণাত্মক মানে উল্টো পাশে।যেখানে শিখবেন: পর্ব ০২
- Silent bugসাইলেন্ট বাগ
- এমন ভুল, যাতে প্রোগ্রাম কোনো error ছাড়াই চলে আর বিশ্বাসযোগ্য দেখতে ফল দেয়, কিন্তু ফলটি ভুল; deep learning-এ এলোমেলো label বা ভুল shape-এর loss এর পরিচিত উদাহরণ।যেখানে শিখবেন: পর্ব ১৮
- SiLU / Swishসিলু / সুইশ
- z·σ(z) সূত্রের মসৃণ activation (Swish-এ z·σ(βz), β = 1 হলে একই); ঋণাত্মক দিকে একটু নিচে নামে, আর বড় language model-এর SwiGLU-তে এর gate-যুক্ত রূপ দেখা যায়।যেখানে শিখবেন: পর্ব ০৩
- Singular valueসিঙ্গুলার ভ্যালু
- SVD-তে পাওয়া অ-ঋণাত্মক সংখ্যা, যা বলে matrix কোনো মূল দিকে vector-কে কত গুণ টানে বা চাপে; Jacobian-এর সব singular value ১-এর কাছে থাকলে gradient-এর মাপ টিকে থাকে।যেখানে শিখবেন: পর্ব ১৭পর্ব ২৮পর্ব ৫৫
- Sinusoidal positional encodingসাইনুসয়ডাল এনকোডিং
- নানা wavelength-এর sine আর cosine দিয়ে প্রতিটি position-এর একটি স্থির vector বানানোর সূত্র, যাতে কোনো শেখার যোগ্য parameter নেই।যেখানে শিখবেন: পর্ব ৩৪পর্ব ৭৯
- Skip connectionস্কিপ কানেকশন
- কোনো স্তরের output-কে মাঝের কয়েকটি স্তর এড়িয়ে পরের কোনো স্তরে পৌঁছে দেওয়ার পথ; ResNet-এ যোগ হয়, U-Net-এ channel ধরে জোড়া (concatenate) হয়।যেখানে শিখবেন: পর্ব ২৫
- Skip-gramস্কিপ-গ্রাম
- word2vec-এর যে রূপ কেন্দ্রের শব্দ দেখে window-র প্রসঙ্গের শব্দ অনুমান করে শেখে।যেখানে শিখবেন: পর্ব ৪১
- SLI (Service Level Indicator)এসএলআই
- সেবার মান বোঝাতে মাপা একটি সংখ্যা, যেমন সফল অনুরোধের অনুপাত বা p95 latency; SLO এই সংখ্যার লক্ষ্য ঠিক করে।যেখানে শিখবেন: পর্ব ৮৫
- Sliding windowস্লাইডিং উইন্ডো
- Series-এর ওপর সমান মাপের একটি জানালা এক ঘর করে সরিয়ে প্রতিবার আগের L মানকে ইনপুট আর পরের মানকে উত্তর বানানো।যেখানে শিখবেন: পর্ব ২৭পর্ব ৬৪
- Sliding window attentionস্লাইডিং উইন্ডো অ্যাটেনশন
- প্রতিটি token শুধু নিজের আগের নির্দিষ্ট W-টি token দেখে; খরচ আর cache সীমিত হয়, কিন্তু ফল পুরো attention থেকে আলাদা।যেখানে শিখবেন: পর্ব ৩৭পর্ব ৪৯পর্ব ৮৯
- SLO (Service Level Objective)এসএলও
- একটি SLI-এর জন্য নির্দিষ্ট সময়-জানালায় দলের নিজের লক্ষ্য, যেমন ৩০ দিনে ৯৯.৫% অনুরোধে উত্তর; সাধারণত চুক্তির (SLA) চেয়ে কড়া।যেখানে শিখবেন: পর্ব ৮৫
- Slot (server slot)স্লট
- Server-এ একসঙ্গে চলতে পারে এমন অনুরোধের একটি জায়গা; llama.cpp-এর server-এ --parallel দিয়ে কয়টি slot থাকবে তা ঠিক হয়।যেখানে শিখবেন: পর্ব ৮৩
- Slot fillingস্লট ফিলিং
- কাজ শেষ করতে যে তথ্যগুলো লাগে, যেমন অর্ডার নম্বর বা ঠিকানা, সেগুলো কথোপকথনে একটি একটি করে জেনে নির্দিষ্ট ঘরে রাখা।যেখানে শিখবেন: পর্ব ৬৪
- Smoothing (language model)স্মুদিং
- দেখা ঘটনার probability থেকে সামান্য কেটে না-দেখা ঘটনাকে ভাগ দেওয়া, যাতে কোনো নতুন token-এর probability শূন্য না হয়।যেখানে শিখবেন: পর্ব ৪৬
- SmoothL1 lossস্মুথ এল-ওয়ান লস
- Huber loss-কে β দিয়ে ভাগ করা রূপ: |r| < β হলে 0.5·r²/β, নইলে |r| − 0.5·β; PyTorch-এ HuberLoss(delta=δ) = δ × SmoothL1Loss(beta=δ).যেখানে শিখবেন: পর্ব ১৩
- Soft labelসফট লেবেল
- এক শ্রেণিতে ১ আর বাকিতে ০-এর বদলে কয়েকটি শ্রেণিতে ভাগ করা probability-র label, যেমন Mixup-এর [0.7, 0.3, 0].যেখানে শিখবেন: পর্ব ২৪
- Soft lookupসফট লুকআপ
- একটি key হুবহু খোঁজার বদলে সব key-এর সঙ্গে মিল মেপে সব value-এর ওজনসহ যোগ নেওয়া; হিসাবটি differentiable বলে gradient দিয়ে শেখা যায়।যেখানে শিখবেন: পর্ব ৩২
- Soft targetsসফট টার্গেট
- Teacher-এর temperature-সহ softmax থেকে পাওয়া পুরো probability বণ্টন, যা শুধু সঠিক শ্রেণি নয়, ভুল শ্রেণিগুলোর আপেক্ষিক মিলও বলে।যেখানে শিখবেন: পর্ব ৫৯
- Softmaxসফটম্যাক্স
- কয়েকটি score-কে e-এর ঘাতে তুলে তাদের যোগফল দিয়ে ভাগ করে এমন সম্ভাবনায় আনার নিয়ম, যাদের যোগফল ১; দুই শ্রেণিতে এটি sigmoid-এর সমান।যেখানে শিখবেন: পর্ব ০১পর্ব ০২পর্ব ০৩
- Softmax saturationসফটম্যাক্স স্যাচুরেশন
- Score-এর পার্থক্য খুব বড় হলে softmax প্রায় one-hot হয়ে যাওয়া, যখন p(1 − p) প্রায় শূন্য বলে gradient খুব ছোট হয়।যেখানে শিখবেন: পর্ব ৩৩
- Softplusসফটপ্লাস
- log(1 + eˣ) function, ReLU-এর একটি মসৃণ রূপ; এর derivative sigmoid. বড় x-এ eˣ overflow এড়াতে max(x, 0) + log1p(e^(−|x|)) রূপে লেখা হয়।যেখানে শিখবেন: পর্ব ০৮
- Software licenseসফটওয়্যার লাইসেন্স
- কোড, model বা ডেটা কে, কোন কাজে, কোন শর্তে ব্যবহার, বদল আর বিতরণ করতে পারবেন, তার আইনি লেখা; যেমন MIT, Apache 2.0 বা অবাণিজ্যিক লাইসেন্স।যেখানে শিখবেন: পর্ব ৫৩
- Span corruptionস্প্যান করাপশন
- টানা কয়েকটি token সরিয়ে একটি sentinel বসানো, আর decoder-কে শুধু সরানো টুকরোগুলো লিখতে শেখানোর লক্ষ্য।যেখানে শিখবেন: পর্ব ৪৭পর্ব ৮৯
- Span F1স্প্যান এফ-ওয়ান
- পুরো নাম বা অংশ ধরে F1 মাপা; সীমা বা ধরন একটু ভুল হলেও পুরো span ভুল গোনা হয়।যেখানে শিখবেন: পর্ব ৩৯পর্ব ৪৩পর্ব ৪৫
- Sparse attentionস্পার্স অ্যাটেনশন
- সব token জোড়ার বদলে নির্দিষ্ট নকশার অল্প কিছু জোড়ায় attention হিসাব করা।যেখানে শিখবেন: পর্ব ৩৭
- Sparse autoencoderস্পার্স অটোএনকোডার
- Loss-এ code-এর ওপর একটি শাস্তি (যেমন L1) যোগ করা autoencoder, যাতে প্রতিটি input-এ code-এর অল্প কয়েকটি মান শূন্য ছাড়া থাকে।যেখানে শিখবেন: পর্ব ৭৫
- Sparsityস্পারসিটি
- Model-এর ওজনের মধ্যে কত অংশ ঠিক শূন্য, শতাংশে; ৯০% sparsity মানে দশটির নয়টি ওজন শূন্য।যেখানে শিখবেন: পর্ব ৫৯
- spawn (process start method)স্পন
- নতুন process খোলার যে পদ্ধতিতে একটি নতুন Python interpreter চালু হয়ে মূল script import করে; Windows-এ এটিই default, তাই if __name__ == "__main__" পাহারা লাগে।যেখানে শিখবেন: পর্ব ১১
- Spearman rank correlationস্পিয়ারম্যান কোরিলেশন
- মানগুলোকে তাদের ক্রম (rank) দিয়ে বদলে তারপর Pearson r; দুটি map একই ক্রমে উজ্জ্বল হলে ১-এর কাছে, সম্পর্ক না থাকলে ০-এর কাছে থাকে।যেখানে শিখবেন: পর্ব ২৬
- Special tokenস্পেশাল টোকেন
- লেখার অংশ নয়, model-এর জন্য নির্দিষ্ট সংকেত, যেমন [CLS], [SEP], [PAD], [UNK]; এদের id নির্দিষ্ট থাকে।যেখানে শিখবেন: পর্ব ৪০পর্ব ৪৭পর্ব ৫২
- Spectral normalizationস্পেকট্রাল নরমালাইজেশন
- প্রতিটি স্তরের ওজন-matrix-কে তার সবচেয়ে বড় singular value দিয়ে ভাগ করা, যাতে স্তরের ঢাল ১-এর বেশি না হয়; GAN-এর discriminator স্থির রাখতে বহুল ব্যবহৃত।যেখানে শিখবেন: পর্ব ৭৮
- Spectral radius (ρ)স্পেকট্রাল রেডিয়াস
- একটি বর্গাকার matrix-এর eigenvalue-গুলোর মধ্যে সবচেয়ে বড় absolute মান; matrix-কে বারবার গুণ করলে দীর্ঘমেয়াদে মাপ কত দ্রুত বাড়ে বা কমে, তা এটি বলে।যেখানে শিখবেন: পর্ব ২৮
- Spectrogramস্পেকট্রোগ্রাম
- শব্দকে ছোট ছোট সময়-খণ্ডে ভাগ করে প্রতিটি খণ্ডে কোন কম্পাঙ্ক কত জোরে আছে তার ছবি; log-Mel spectrogram মানুষের কানের মতো মাপে সাজানো রূপ।যেখানে শিখবেন: পর্ব ৮২
- Speculative decodingস্পেকুলেটিভ ডিকোডিং
- ছোট model কয়েকটি token আগাম লেখে আর বড় model এক pass-এ সেগুলো যাচাই করে, যাতে একই বণ্টনে দ্রুত লেখা যায়।যেখানে শিখবেন: পর্ব ৩৭পর্ব ৮৩
- Spotlightingস্পটলাইটিং
- অবিশ্বস্ত লেখায় চিহ্ন বসিয়ে বা রূপ বদলে model-কে দেখানো কোন অংশ শুধু ডেটা; Microsoft-এর গবেষকদের দেওয়া নাম।যেখানে শিখবেন: পর্ব ৭৩
- Spread-spectrum watermarkস্প্রেড-স্পেকট্রাম ওয়াটারমার্ক
- একটি গোপন চাবি থেকে বানানো ±১-এর এলোমেলো প্যাটার্ন ছোট মাপে পুরো ছবিতে ছড়িয়ে যোগ করা, আর ছবির সঙ্গে প্যাটার্নের correlation মেপে খুঁজে পাওয়া; বেশি pixel-এ সংকেত √N অনুপাতে শক্ত হয়।যেখানে শিখবেন: পর্ব ৮১
- squeezeস্কুইজ
- মাপ ১-এর অক্ষ বাদ দেওয়া; অক্ষ না বললে মাপ ১-এর সব অক্ষ বাদ যায়, তাই squeeze(-1)-এর মতো নির্দিষ্ট অক্ষ বলা নিরাপদ।যেখানে শিখবেন: পর্ব ০৭
- Squeeze-and-excitation (SE)স্কুইজ-অ্যান্ড-এক্সাইটেশন
- প্রতিটি channel-এর গড় নিয়ে একটি ছোট network দিয়ে ০ থেকে ১-এর মধ্যে একটি গুরুত্ব শেখা, আর সেই সংখ্যা দিয়ে channel-টিকে গুণ করা; Hu ও সহকর্মীরা ২০১৮ সালে প্রস্তাব করেন।যেখানে শিখবেন: পর্ব ২২
- Stable softmaxস্টেবল সফটম্যাক্স
- Score থেকে সবচেয়ে বড় মান বিয়োগ করে তারপর exp নেওয়া, যাতে সংখ্যা overflow না করে; ফল একই থাকে।
- Stacked RNNস্ট্যাকড আরএনএন
- একাধিক RNN স্তর, যেখানে নিচের স্তরের প্রতি ধাপের output ওপরের স্তরের input হয়; PyTorch-এ num_layers দিয়ে ঠিক হয়।যেখানে শিখবেন: পর্ব ২৮পর্ব ২৯
- Stacked suffixesস্ট্যাকড সাফিক্স
- একটি শব্দের শেষে একের পর এক প্রত্যয় বা বিভক্তি জুড়ে যাওয়া, যেমন বাজার + গুলো + তে। এই পর্বে শব্দটি এই সরল অর্থে ব্যবহৃত।যেখানে শিখবেন: পর্ব ৩৯
- Stale documentস্টেল ডকুমেন্ট
- বাতিল বা পুরোনো হয়ে যাওয়া নথি, যা index-এ রয়ে গেছে; এর থেকে লেখা উত্তর faithful হলেও বাস্তবে ভুল।যেখানে শিখবেন: পর্ব ৭০
- Standard deviationস্ট্যান্ডার্ড ডেভিয়েশন
- আদর্শ বিচ্যুতি: variance-এর বর্গমূল, যা মূল এককেই ডেটার ছড়ানো মাপে।যেখানে শিখবেন: পর্ব ১৪পর্ব ১৯
- Standardization (z-score)স্ট্যান্ডার্ডাইজেশন
- প্রতিটি কলাম থেকে গড় বাদ দিয়ে standard deviation দিয়ে ভাগ করা, z = (x − μ) / σ; ফলে কলামগুলোর একক তুলনীয় হয়।যেখানে শিখবেন: পর্ব ০৯পর্ব ১৮পর্ব ২৪
- STAR methodস্টার মেথড
- আচরণগত প্রশ্নের উত্তর সাজানোর কাঠামো: Situation (পরিস্থিতি), Task (দায়িত্ব), Action (নিজের কাজ), Result (ফল)। শেষে একটি শিক্ষা যোগ করা ভালো।যেখানে শিখবেন: পর্ব ৯১
- state_dictস্টেট ডিক্ট
- Model-এর সব parameter আর persistent buffer-এর একটি ক্রমবদ্ধ অভিধান, যেখানে key হলো module-গাছের পথ, যেমন hidden.0.weight; সেভ আর load-এর প্রচলিত একক।যেখানে শিখবেন: পর্ব ০৯পর্ব ১০পর্ব ৮৪
- Stateless APIস্টেটলেস এপিআই
- যে API আগের অনুরোধের কিছু মনে রাখে না; কথোপকথন চালাতে প্রতিবার system prompt আর আগের সব বার্তা আবার পাঠাতে হয়।যেখানে শিখবেন: পর্ব ৬৪
- Static batchingস্ট্যাটিক ব্যাচিং
- কয়েকটি অনুরোধ একসঙ্গে শুরু করে সবার শেষ না হওয়া পর্যন্ত batch আটকে রাখা; ছোট উত্তরের জায়গা খালি পড়ে থাকে, নতুন অনুরোধ অপেক্ষা করে।যেখানে শিখবেন: পর্ব ৮৩
- Static embeddingস্ট্যাটিক এমবেডিং
- বানান-প্রতি একটি স্থির vector, যা বাক্য বদলালেও বদলায় না।যেখানে শিখবেন: পর্ব ৪৪পর্ব ৮৮
- Static graph (define-and-run)স্ট্যাটিক গ্রাফ
- আগে পুরো computational graph প্রতীকে সংজ্ঞায়িত করে পরে আলাদা ধাপে ডেটা দিয়ে চালানোর পদ্ধতি; Theano আর TensorFlow 1.x-এর ধারা, optimize করা সহজ কিন্তু debug কঠিন।যেখানে শিখবেন: পর্ব ০৫
- Static quantizationস্ট্যাটিক কোয়ান্টাইজেশন
- Calibration ডেটা চালিয়ে activation-এর পরিসর আগে মেপে scale আর zero point ফাইলে ধ্রুবক হিসেবে লেখা; চলার সময় সস্তা।যেখানে শিখবেন: পর্ব ৮৪
- Stemস্টেম
- CNN-এর একেবারে শুরুর এক বা কয়েকটি স্তর, যা কাঁচা ছবিকে দ্রুত ছোট করে প্রথম feature map বানায়, যেমন ResNet-এর 7×7, stride 2-এর conv আর max pool.যেখানে শিখবেন: পর্ব ২২
- Stemmingস্টেমিং
- শব্দের শেষের বিভক্তি বা প্রত্যয় নিয়ম ধরে ছেঁটে একটি মূল রূপে আনা, অর্থ না দেখেই।যেখানে শিখবেন: পর্ব ৩৯
- Step budgetস্টেপ বাজেট
- একটি কাজে agent সর্বোচ্চ কতবার model ডাকবে বা কত ধাপ চলবে তার সীমা, যাতে ঘুরপাকে খরচ আর সময় সীমাহীন না হয়।যেখানে শিখবেন: পর্ব ৭২পর্ব ৮৯
- Step decayস্টেপ ডিকে
- নির্দিষ্ট কয়েকটি ধাপ বা epoch পরপর learning rate হঠাৎ একটি গুণক (যেমন ১০ ভাগের ১) দিয়ে কমানোর schedule; PyTorch-এ StepLR.যেখানে শিখবেন: পর্ব ১৫
- Step functionস্টেপ ফাংশন
- যে ফাংশন একটি সীমার নিচে একটি মান আর উপরে আরেকটি মান দেয় (০/১ বা −১/+১); প্রথম দিকের perceptron এটিই ব্যবহার করত, আর এর ঢাল প্রায় সবখানে শূন্য।
- Stochastic depth (DropPath)স্টোকাস্টিক ডেপথ
- Training-এ residual block-এর পুরো শাখা এলোমেলোভাবে বাদ দেওয়া, যাতে শুধু identity পথ থাকে; eval-এ সব শাখা থাকে।যেখানে শিখবেন: পর্ব ১৬পর্ব ২২পর্ব ৩৫
- Stochastic gradient descent (SGD)স্টোকাস্টিক গ্রেডিয়েন্ট ডিসেন্ট
- পুরো ডেটার বদলে এলোমেলোভাবে বাছা এক বা অল্প কয়েকটি সারি দিয়ে gradient আন্দাজ করে প্রতিবার পা ফেলার পদ্ধতি।যেখানে শিখবেন: পর্ব ০৪
- Stochastic Weight Averaging (SWA)স্টোকাস্টিক ওয়েট অ্যাভারেজিং
- Training-এর শেষ দিকে কয়েকটি epoch-এর weight-এর সমান গড় নেওয়া, প্রায়ই বড় বা চক্রাকার learning rate-এর সঙ্গে; PyTorch-এ torch.optim.swa_utils দিয়ে করা হয়।যেখানে শিখবেন: পর্ব ১৬
- Stop sequenceস্টপ সিকোয়েন্স
- যে লেখা বেরোলে generation থেমে যায়, এমন একটি নির্দিষ্ট অক্ষরমালা; অনেক API-তে এটি উত্তরে থাকে না।যেখানে শিখবেন: পর্ব ৫০
- Stopping conditionস্টপিং কন্ডিশন
- Agent loop কখন থামবে তার নিয়ম: চূড়ান্ত উত্তর, budget শেষ, একই ডাকের পুনরাবৃত্তি বা লক্ষ্য পূরণ যাচাই।যেখানে শিখবেন: পর্ব ৭২
- Straight-through estimatorস্ট্রেইট-থ্রু এস্টিমেটর
- যে কাজের derivative প্রায় সব জায়গায় শূন্য (যেমন round), তার backward-এ gradient-কে বদল ছাড়াই পার করে দেওয়ার কৌশল; গণিতে সঠিক নয়, কিন্তু quantization-এ কাজে লাগে।যেখানে শিখবেন: পর্ব ০৮পর্ব ৭৬
- StratifiedGroupKFoldস্ট্র্যাটিফায়েড গ্রুপ কে-ফোল্ড
- k-fold ভাগ যেখানে একই দল এক fold-এ থাকে আর শ্রেণির অনুপাত প্রায় একই থাকে; scikit-learn-এর একটি class.যেখানে শিখবেন: পর্ব ৪২পর্ব ৪৮পর্ব ৮৬
- Streaming outputস্ট্রিমিং আউটপুট
- পুরো উত্তর শেষ হওয়ার অপেক্ষা না করে token লেখা হতে হতেই টুকরো টুকরো পাঠানো; মোট সময় একই থাকে, কিন্তু ব্যবহারকারী আগে লেখা দেখতে পান।যেখানে শিখবেন: পর্ব ৬৫পর্ব ৮৩পর্ব ৮৬
- Strideস্ট্রাইড
- প্রতিটি অক্ষে এক ঘর এগোতে storage-এ কত ঘর লাফাতে হয় তার তালিকা; PyTorch-এ ঘর গোনে, NumPy-তে বাইট, যেমন contiguous (২, ৩) tensor-এর stride হয় (৩, ১) আকারের।যেখানে শিখবেন: পর্ব ০৭পর্ব ৮৭পর্ব ৯০
- Stride (convolution)স্ট্রাইড
- Convolution বা pooling-এর জানালা প্রতিবার কত ঘর লাফিয়ে এগোয়; stride ২ হলে output প্রতিটি দিকে প্রায় অর্ধেক হয়।যেখানে শিখবেন: পর্ব ২০
- Structured outputস্ট্রাকচারড আউটপুট
- LLM-কে মুক্ত লেখার বদলে নির্দিষ্ট আকারে, সাধারণত একটি schema মানা JSON-এ, উত্তর দেওয়ানো, যাতে প্রোগ্রাম সরাসরি পড়তে পারে।যেখানে শিখবেন: পর্ব ৬২পর্ব ৯১
- Structured pruningস্ট্রাকচার্ড প্রুনিং
- পুরো neuron, channel, attention head বা layer কেটে ফেলা, যাতে matrix সত্যিই ছোট হয় আর যেকোনো হার্ডওয়্যারে গতি বাড়ে; মান সাধারণত বেশি পড়ে।যেখানে শিখবেন: পর্ব ৫৯
- Student modelস্টুডেন্ট মডেল
- Distillation-এ যে ছোট model teacher-এর output নকল করতে শেখে, যাতে কম memory আর কম সময়ে কাছাকাছি ফল দেয়।যেখানে শিখবেন: পর্ব ৫৯
- Style modulationস্টাইল মডুলেশন
- w থেকে বানানো style দিয়ে generator-এর প্রতিটি স্তরের feature-এর scale আর bias, বা ওজন, বদলানো; মোটা স্তরে আকার আর সূক্ষ্ম স্তরে টেক্সচার নিয়ন্ত্রণ হয়।যেখানে শিখবেন: পর্ব ৭৮
- StyleGANস্টাইলগ্যান
- Karras ও সহলেখকদের GAN পরিবার (২০১৮ থেকে), যেখানে mapping network z থেকে w বানায় আর w প্রতিটি মাপের স্তরের style বদলায়; এক ধরনের বস্তুর উচ্চ মানের বড় ছবির জন্য পরিচিত।যেখানে শিখবেন: পর্ব ৭৮
- Sublayerসাবলেয়ার
- Block-এর ভেতরের একটি কাজের অংশ, যেমন attention বা FFN; প্রতিটির চারপাশে residual আর LayerNorm বসে।যেখানে শিখবেন: পর্ব ৩৫
- Subsampling (frequent words)সাবস্যাম্পলিং
- খুব ঘন শব্দের কিছু উপস্থিতি training-এর আগে এলোমেলোভাবে ফেলে দেওয়া, যাতে সময় বাঁচে আর window-তে অর্থবহ শব্দ ঢোকে।যেখানে শিখবেন: পর্ব ৪১
- Subwordসাবওয়ার্ড
- Tokenizer শব্দ ভেঙে যে ছোট টুকরো বানায়। WordPiece-এ পরের টুকরোর আগে ## বসে।যেখানে শিখবেন: পর্ব ৪৪পর্ব ৫৪
- Subword (character) n-gramসাবওয়ার্ড এন-গ্রাম
- সীমানা চিহ্নসহ একটি শব্দের পরপর n-টি character-এর টুকরো; fastText-এ সাধারণত n = ৩ থেকে ৬।যেখানে শিখবেন: পর্ব ৪১
- Subword tokenizationসাবওয়ার্ড টোকেনাইজেশন
- শব্দকে ডেটা থেকে শেখা ছোট ছোট টুকরোয় ভাঙা, যাতে ঘন ঘন আসা শব্দ পুরো থাকে আর বিরল বা নতুন শব্দ চেনা টুকরো দিয়ে গড়া যায়।যেখানে শিখবেন: পর্ব ৪০
- Successive halvingসাকসেসিভ হাভিং
- অনেক configuration অল্প সম্পদে (কম epoch বা কম ডেটা) চালিয়ে প্রতি ধাপে ভালো ভাগটুকু রেখে বাকিদের বাদ দেওয়া আর টিকে থাকাদের সম্পদ বাড়ানো।যেখানে শিখবেন: পর্ব ১৯
- Summarizationসামারাইজেশন
- লম্বা লেখা থেকে মূল কথা ধরে ছোট লেখা তৈরি।যেখানে শিখবেন: পর্ব ৩৯
- Supervised fine-tuning (SFT)সুপারভাইজড ফাইন-টিউনিং
- মানুষের লেখা বা বাছাই করা নমুনা উত্তর দেখিয়ে, পরের token-এর সাধারণ cross-entropy loss দিয়ে language model-কে শেখানো; instruction tuning-এর মূল পদ্ধতি।যেখানে শিখবেন: পর্ব ৫৬পর্ব ৫৭পর্ব ৮৮
- Support (of a distribution)সাপোর্ট
- একটি বণ্টনে যেসব ফলের probability শূন্য নয় তাদের দল; top-k বা top-p এই দলটিকে ছোট করে।যেখানে শিখবেন: পর্ব ৫০
- Support vector machine (SVM)সাপোর্ট ভেক্টর মেশিন
- দুই শ্রেণির মাঝে সবচেয়ে চওড়া ফাঁক (margin) রেখে সীমানা টানা model; kernel দিয়ে বাঁকা সীমানাও টানতে পারে।যেখানে শিখবেন: পর্ব ০২
- Surrogate lossসারোগেট লস
- আসল লক্ষ্য (যেমন ভুলের সংখ্যা) সরাসরি কমানো কঠিন বলে তার বদলে কমানো একটি সহজ, সাধারণত convex loss, যেমন log loss বা hinge.যেখানে শিখবেন: পর্ব ০২
- Swap consistencyসোয়াপ কনসিস্টেন্সি
- দুটি উত্তরের ক্রম বদলে আবার জিজ্ঞেস করলে বিচারক একই উত্তরকে বিজয়ী বলে, এমন জোড়ার ভাগ।যেখানে শিখবেন: পর্ব ৫৮
- SwiGLUসুইগ্লু
- Gate-যুক্ত FFN: SiLU(W₁x) আর W₂x-কে উপাদান ধরে গুণ করে W₃ দিয়ে d-তে ফেরায়; তিনটি matrix থাকে, তাই মাঝের মাপ সাধারণত প্রায় 8d/3 রাখা হয়।যেখানে শিখবেন: পর্ব ৩৫পর্ব ৪৯
- Swin Transformerসুইন ট্রান্সফর্মার
- ছোট জানালার ভেতরে attention আর সরানো জানালা ব্যবহার করে স্তরে স্তরে feature বানানো ViT; খরচ ছবির আকারের সঙ্গে প্রায় linear হারে বাড়ে।যেখানে শিখবেন: পর্ব ৩৮
- Sycophancyসিকোফ্যান্সি
- Model-এর ঠিক উত্তরের বদলে ব্যবহারকারীর মত বা প্রত্যাশার সঙ্গে একমত হওয়ার প্রবণতা; মানুষের পছন্দ থেকে শেখা reward এটি বাড়াতে পারে।যেখানে শিখবেন: পর্ব ৫৭
- Symmetric quantizationসিমেট্রিক কোয়ান্টাইজেশন
- শূন্যের দুই পাশে সমান পরিসর ধরে quantize করা: zero point ০ আর scale = সর্বোচ্চ |x| ÷ ১২৭ (int8-এ); হিসাব সহজ, কিন্তু একদিকে হেলা মানে ঘর নষ্ট হয়।যেখানে শিখবেন: পর্ব ৫৯
- Symmetry breakingসিমেট্রি ব্রেকিং
- Weight এলোমেলোভাবে শুরু করা, যাতে একই স্তরের hidden unit-গুলো আলাদা gradient পেয়ে আলাদা feature শেখে; সব weight সমান হলে সব unit চিরকাল যমজ থাকে।যেখানে শিখবেন: পর্ব ১৪
- Synthetic dataসিন্থেটিক ডেটা
- মানুষের বদলে কোনো model বা নিয়ম দিয়ে তৈরি ডেটা; সস্তা, কিন্তু উৎস model-এর ভুল আর ব্যবহারের শর্ত সঙ্গে আসতে পারে।যেখানে শিখবেন: পর্ব ৫৬
- SynthIDসিন্থআইডি
- Google DeepMind-এর watermark ব্যবস্থা, যা Google-এর AI দিয়ে তৈরি ছবি, ভিডিও, অডিও আর লেখায় অদৃশ্য চিহ্ন বসায় আর detector দিয়ে খোঁজে; চিহ্ন না পাওয়া মানে AI-তৈরি নয়, এমন নয়।যেখানে শিখবেন: পর্ব ৮১
T
- T5টি-ফাইভ
- Text-to-Text Transfer Transformer; Raffel ও সহকর্মীদের encoder-decoder model, যেখানে প্রতিটি কাজকে লেখা থেকে লেখায় রূপান্তর হিসেবে দেখা হয়।যেখানে শিখবেন: পর্ব ৪৭
- Tabular dataট্যাবুলার ডেটা
- সারি আর কলামের টেবিলে সাজানো ডেটা, প্রতিটি কলামের আলাদা অর্থ; ব্যবসার বেশিরভাগ ডেটা এমন।যেখানে শিখবেন: পর্ব ০১
- Tail latencyটেইল লেটেন্সি
- Latency বণ্টনের ধীর প্রান্ত, যেমন p95 বা p99; গড়ের আড়ালে লুকিয়ে থাকে, কিন্তু ধীরতম ব্যবহারকারীর অভিজ্ঞতা এটিই।যেখানে শিখবেন: পর্ব ৮৩পর্ব ৮৪পর্ব ৮৬
- tanh (hyperbolic tangent)ট্যান-এইচ
- যে S-আকৃতির activation যেকোনো z-কে −১ থেকে ১-এর মধ্যে আনে আর ০-কে কেন্দ্র করে; ঢাল 1 − tanh², সর্বোচ্চ ১।যেখানে শিখবেন: পর্ব ০১পর্ব ০৩পর্ব ০৫
- target_modulesটার্গেট মডিউলস
- peft-এর LoraConfig-এ কোন layer-এ LoRA বসবে তার নামের তালিকা, যেমন query আর value বা all-linear; নাম model-এর architecture অনুযায়ী আলাদা।যেখানে শিখবেন: পর্ব ৫৫
- Task decompositionটাস্ক ডিকম্পোজিশন
- একটি বড় কাজকে ছোট, আলাদা করে যাচাই করা যায় এমন ধাপে ভাগ করা।
- Task success rateটাস্ক সাকসেস রেট
- Eval set-এর কাজগুলোর কত অংশ agent পুরোপুরি ঠিকভাবে শেষ করেছে, আগে থেকে লেখা সঠিক ফলের সঙ্গে মিলিয়ে।যেখানে শিখবেন: পর্ব ৭২
- Teacher forcingটিচার ফোর্সিং
- Training-এ decoder-এর পরের ইনপুট হিসেবে model-এর নিজের অনুমানের বদলে আগের ধাপের সঠিক token দেওয়া।যেখানে শিখবেন: পর্ব ৩০পর্ব ৪৯পর্ব ৮৮
- Teacher forcing ratioটিচার ফোর্সিং রেশিও
- প্রতিটি ধাপে সঠিক token দেওয়ার সম্ভাবনা: ১ মানে সবসময়, ০ মানে কখনো নয়।যেখানে শিখবেন: পর্ব ৩০
- Teacher modelটিচার মডেল
- Distillation-এ যে বড়, আগে শেখানো model-এর output দেখে ছোট model শেখে; teacher নিজে আর বদলায় না।যেখানে শিখবেন: পর্ব ৫৯
- Temperature (distillation)টেম্পারেচার
- Distillation-এ teacher আর student-এর logit যে সংখ্যা T দিয়ে ভাগ করে softmax নেওয়া হয়; T বড় হলে বণ্টন নরম হয় আর ছোট probability-গুলো চোখে পড়ে।যেখানে শিখবেন: পর্ব ৫৯
- Temperature (sampling)টেম্পারেচার
- Softmax-এর আগে logit-কে যে সংখ্যা দিয়ে ভাগ করা হয়। কম হলে বণ্টন তীক্ষ্ণ, বেশি হলে সমতল; model-এর weight বদলায় না।যেখানে শিখবেন: পর্ব ৫০পর্ব ৬৩পর্ব ৬৭
- Temperature scalingটেম্পারেচার স্কেলিং
- Multiclass model-এর সব logit-কে একটিমাত্র সংখ্যা T দিয়ে ভাগ করে softmax নেওয়া, T শেখা হয় আলাদা ডেটায় log loss কমিয়ে; সবচেয়ে বড় শ্রেণি বদলায় না, তাই accuracy একই থাকে।যেখানে শিখবেন: পর্ব ১৩পর্ব ৫২পর্ব ৮৯
- Temporal convolutional network (TCN)টিসিএন
- Causal আর dilated convolution, residual connection আর regularization মিলিয়ে গড়া sequence model; Bai ও সহকর্মীদের ২০১৮ সালের প্রবন্ধে নামটি ছড়ায়।যেখানে শিখবেন: পর্ব ৩১
- Temporal leakageটেম্পোরাল লিকেজ
- ভবিষ্যদ্বাণীর মুহূর্তের পরের তথ্য train বা feature-এ ঢুকে পড়া, যাতে মূল্যায়নের ফল বাস্তবের চেয়ে ভালো দেখায়।যেখানে শিখবেন: পর্ব ২৭
- Tensorটেনসর
- PyTorch-এর মতো library-র বহুমাত্রিক array, NumPy-র ndarray-এর মতো, সঙ্গে gradient রাখার আর GPU-তে হিসাব করার ব্যবস্থা।যেখানে শিখবেন: পর্ব ০৫পর্ব ০৭পর্ব ১১
- Tensor Coreটেনসর কোর
- আধুনিক NVIDIA GPU-র বিশেষ হিসাব-একক, যা ছোট matrix-এর গুণ-যোগ এক ধাপে করে; সাধারণত ১৬-bit বা আরও কম bit-এর input-এ সবচেয়ে দ্রুত।যেখানে শিখবেন: পর্ব ১২
- TensorBoardটেনসরবোর্ড
- Training-এর metric, histogram আর ছবি event ফাইলে লিখে browser-এ curve হিসেবে দেখানোর open-source টুল; PyTorch-এ torch.utils.tensorboard.SummaryWriter দিয়ে লেখা হয়।যেখানে শিখবেন: পর্ব ১৯
- TensorRTটেনসর-আরটি
- NVIDIA GPU-তে deep learning inference দ্রুত করার SDK; PyTorch বা ONNX থেকে model নিয়ে একটি অপ্টিমাইজ করা engine বানায়।যেখানে শিখবেন: পর্ব ৮৪
- TER (Translation Edit Rate)টি-ই-আর
- Reference-এ পৌঁছাতে কতটি শব্দ বদলানো, মুছা, যোগ বা সরানো লাগে, তাকে reference-এর শব্দসংখ্যা দিয়ে ভাগ; কম হলে ভালো।যেখানে শিখবেন: পর্ব ৪৫
- Test-time augmentation (TTA)টেস্ট-টাইম অগমেন্টেশন
- Inference-এর সময় একই ছবির কয়েকটি স্থির, label রক্ষাকারী রূপ model-কে দেখিয়ে probability-র গড় নেওয়া; খরচ রূপের সংখ্যার গুণ।যেখানে শিখবেন: পর্ব ২৪
- Text CNNটেক্সট সিএনএন
- শব্দের embedding-এর ওপর কয়েক দৈর্ঘ্যের 1D convolution, তারপর সময় ধরে max আর linear স্তর দিয়ে লেখার শ্রেণিবিভাগ; Kim-এর ২০১৪ সালের প্রবন্ধে জনপ্রিয় হয়।যেখানে শিখবেন: পর্ব ৩১পর্ব ৪২
- Text encoderটেক্সট এনকোডার
- যে network prompt-এর token-গুলোকে vector-এর একটি সারিতে রূপান্তর করে, যা ছবি তৈরির model শর্ত হিসেবে পড়ে; Stable Diffusion v1-এ CLIP-এর text অংশ।যেখানে শিখবেন: পর্ব ৮০
- TF-IDFটি-এফ আই-ডি-এফ
- Term frequency × inverse document frequency: একটি লেখায় শব্দটি কতবার আছে, তাকে সব লেখায় শব্দটি কত বিরল তা দিয়ে গুণ করে পাওয়া ওজন; যে শব্দ সব জায়গায় আছে তার ওজন কম।যেখানে শিখবেন: পর্ব ৩১পর্ব ৩৯পর্ব ৪২
- TF32 (TensorFloat-32)টি-এফ থার্টি-টু
- কিছু NVIDIA GPU-র matrix গুণের একটি mode, যেখানে float32 input-এর mantissa ১০ bit-এ ছেঁটে Tensor Core-এ গুণ হয় আর যোগফল float32-এ থাকে; PyTorch-এ set_float32_matmul_precision দিয়ে চালু হয়।যেখানে শিখবেন: পর্ব ১২
- Think-aloudথিংক-অ্যালাউড
- কাজ করার সময় মনে মনে যা ভাবছেন তা জোরে বলা, যাতে শ্রোতা আপনার যুক্তির ধাপগুলো অনুসরণ করতে পারেন।যেখানে শিখবেন: পর্ব ৯০
- Thinking or reasoning tokensথিংকিং টোকেন
- Reasoning model-এর উত্তরের আগে তৈরি ভেতরের token; অনেক API-তে দেখা যায় না বা সারাংশ আকারে আসে, তবু output হিসেবে গোনা আর বিল হয়।
- Throughputথ্রুপুট
- নির্দিষ্ট সময়ে কতগুলো কাজ শেষ হয় তার হার, যেমন প্রতি সেকেন্ডে কতগুলো নমুনা বা batch.যেখানে শিখবেন: পর্ব ১১পর্ব ৮৩পর্ব ৮৭
- Tile (attention)টাইল
- Q, K, V-এর ছোট একটি টুকরো, যা একবারে চিপের দ্রুত memory-তে এনে হিসাব করা হয়।যেখানে শিখবেন: পর্ব ৩৭
- Time embeddingটাইম এমবেডিং
- Diffusion network-কে কোন ধাপ t চলছে জানাতে t-কে sinusoidal সূত্র আর ছোট MLP দিয়ে একটি vector বানানো, যা প্রতিটি block-এ যোগ হয়।যেখানে শিখবেন: পর্ব ৭৯পর্ব ৮০
- Time per output token (TPOT)টাইম পার আউটপুট টোকেন
- প্রথম token-এর পরে গড়ে একটি নতুন token লিখতে যে সময় লাগে; (মোট সময় − TTFT) ÷ (output token − ১) দিয়ে মাপা হয়।যেখানে শিখবেন: পর্ব ৮৩পর্ব ৮৭পর্ব ৮৮
- Time seriesটাইম সিরিজ
- সময়ের ক্রমে মাপা মানের সারি, যেমন দৈনিক অর্ডার; ক্রম বদলালে অর্থ বদলায়।যেখানে শিখবেন: পর্ব ২৭
- Time stepটাইম স্টেপ
- Sequence-এর একটি অবস্থান, যেমন একটি দিন, একটি শব্দ বা একটি অক্ষর; RNN প্রতিটি অবস্থানে একবার করে চলে।যেখানে শিখবেন: পর্ব ২৮
- Time to first token (TTFT)টাইম টু ফার্স্ট টোকেন
- অনুরোধ পাঠানো থেকে উত্তরের প্রথম token হাতে আসা পর্যন্ত সময়; লম্বা prompt-এ এর বড় অংশ prefill-এর।যেখানে শিখবেন: পর্ব ৬৫পর্ব ৮৩পর্ব ৮৫
- Time-boxingটাইম-বক্সিং
- একটি কাজের প্রতিটি ধাপের জন্য আগে থেকে সময় বেঁধে রাখা আর সময় শেষ হলে সরল পথে ফিরে আসা, যাতে একটি ধাপে পুরো সময় না ফুরায়।যেখানে শিখবেন: পর্ব ৯০
- Timeoutটাইমআউট
- একটি উত্তরের জন্য সর্বোচ্চ কতক্ষণ অপেক্ষা করা হবে তার সীমা; পেরোলে অপেক্ষা ছেড়ে বিকল্প পথ বা ত্রুটি।যেখানে শিখবেন: পর্ব ৮৫
- timm (PyTorch Image Models)টিম
- শত শত ছবির model আর pretrained weight এক API-তে দেওয়া একটি জনপ্রিয় Python library; weight-গুলো Hugging Face Hub-এ card-সহ রাখা।যেখানে শিখবেন: পর্ব ২৩
- Tokenটোকেন
- টেক্সটের যে ছোট একক model দেখে: একটি শব্দ, শব্দাংশ বা অক্ষর; প্রতিটির একটি পূর্ণসংখ্যা id থাকে।যেখানে শিখবেন: পর্ব ২৭পর্ব ৩৪পর্ব ৩৯
- Token accuracyটোকেন অ্যাকুরেসি
- মোট token-এর কত ভাগের tag ঠিক; NER-এ বেশিরভাগ token O বলে এটি বিভ্রান্তিকরভাবে উঁচু দেখায়।যেখানে শিখবেন: পর্ব ৪৩
- Token bucketটোকেন বাকেট
- একটি বালতিতে নির্দিষ্ট হারে token জমে, একটি সর্বোচ্চ পর্যন্ত; প্রতিটি অনুরোধ একটি token খরচ করে, না থাকলে ফেরত। গড় হার বাঁধা থাকে, তবু ছোট burst চলে।যেখানে শিখবেন: পর্ব ৮৫
- Token classificationটোকেন ক্লাসিফিকেশন
- প্রতিটি token-কে একটি করে শ্রেণি দেওয়া, যেমন NER-এ B-PROD বা O; encoder-এর প্রতিটি অবস্থানের vector-এর ওপর একই head চলে।যেখানে শিখবেন: পর্ব ৫৪
- Token edit distanceটোকেন এডিট ডিসট্যান্স
- উত্তর আর সঠিক উত্তরের মধ্যে কতগুলো token বদলাতে, যোগ করতে বা মুছতে হয়; আংশিক ঠিক উত্তরকেও আংশিক নম্বর দেয়।যেখানে শিখবেন: পর্ব ৫১
- Token fertilityটোকেন ফার্টিলিটি
- একটি tokenizer গড়ে প্রতি শব্দকে কতগুলো token-এ ভাঙে; যে ভাষায় এটি বেশি, সেখানে একই কথায় খরচ, সময় আর context-এর জায়গা বেশি লাগে।যেখানে শিখবেন: পর্ব ৬৫পর্ব ৮৯পর্ব ৯১
- Token maskটোকেন মাস্ক
- Decoding-এর এক ধাপে যে token-গুলো নিয়মে অচল, তাদের logit −∞ করে দেওয়া, যাতে softmax-এর পর তাদের সম্ভাবনা শূন্য হয়।যেখানে শিখবেন: পর্ব ৬২
- token_type_idsটোকেন টাইপ আইডি
- প্রতিটি token কোন অংশের, তার সংখ্যা: প্রথম বাক্যে 0, দ্বিতীয় বাক্যে 1. Segment embedding এই সংখ্যা দিয়ে খোঁজা হয়।যেখানে শিখবেন: পর্ব ৪৮
- Tokenizerটোকেনাইজার
- লেখাকে একটি নির্দিষ্ট ভান্ডারের token id-তে ভাঙার আর id থেকে আবার লেখা বানানোর পদ্ধতি।যেখানে শিখবেন: পর্ব ৩৬পর্ব ৪০পর্ব ৪৭
- Tokens per correct answerটোকেন পার কারেক্ট
- গড় output token-কে accuracy দিয়ে ভাগ করা; একটি সঠিক উত্তর পেতে গড়ে কত token খরচ হয়, তার মাপ।যেখানে শিখবেন: পর্ব ৬৩
- Tokens per secondটোকেনস পার সেকেন্ড
- প্রথম token-এর পরে প্রতি সেকেন্ডে কতগুলো নতুন token লেখা হয়; decode ধাপের গতি।যেখানে শিখবেন: পর্ব ৬৫
- Tool callingটুল কলিং
- LLM-কে কয়েকটি tool-এর নাম, বর্ণনা আর argument-এর schema দেওয়া, যাতে model দরকার মনে করলে উত্তরের বদলে কোন tool কোন argument দিয়ে ডাকতে হবে তা লেখে; যাচাই করে চালানো আর ফল ফেরত দেওয়া অ্যাপের কাজ। Function calling নামেও পরিচিত।যেখানে শিখবেন: পর্ব ৭১পর্ব ৭২
- Tool dispatcherটুল ডিসপ্যাচার
- যে কোড model-এর tool-ডাক parse করে, registry-তে নাম খোঁজে, argument যাচাই করে, তারপর ঠিক function চালায় বা স্পষ্ট error ফেরত দেয়।যেখানে শিখবেন: পর্ব ৭১
- Tool registryটুল রেজিস্ট্রি
- অ্যাপে অনুমোদিত tool-এর তালিকা, যেখানে প্রতিটি নামের সঙ্গে তার function আর argument-এর schema থাকে। তালিকার বাইরের নাম model লিখলেও চালানো হয় না।যেখানে শিখবেন: পর্ব ৭১
- Tool round tripটুল রাউন্ড ট্রিপ
- Tool ব্যবহারের পুরো চক্র: model-এর প্রস্তাব, কোডে যাচাই, tool চালানো, ডাকের id মিলিয়ে ফল model-কে ফেরত, তারপর model-এর শেষ উত্তর।যেখানে শিখবেন: পর্ব ৭১
- Tool-selection accuracyটুল সিলেকশন অ্যাকুরেসি
- যত প্রশ্নে model ঠিক tool বা tool-এর ঠিক সেট বেছেছে (tool লাগবে না এমন প্রশ্নে কোনো tool না ডাকাসহ), তার অনুপাত।যেখানে শিখবেন: পর্ব ৭১
- tool_choiceটুল চয়েস
- API-র একটি সেটিং: auto হলে model নিজে বাছে, required বা any হলে অন্তত একটি tool ডাকবেই, নির্দিষ্ট নাম দিলে সেটিই, আর none হলে কোনো tool ডাকা হবে না।যেখানে শিখবেন: পর্ব ৭১
- Top-1 accuracy (per token)টপ-ওয়ান অ্যাকিউরেসি
- Model-এর সবচেয়ে বেশি probability-র পরের token কত ভাগ ক্ষেত্রে আসল token-এর সঙ্গে মেলে; এক token-এর হিসাব।যেখানে শিখবেন: পর্ব ৫১
- Top-5 errorটপ-ফাইভ এরর
- Model-এর সবচেয়ে সম্ভাব্য পাঁচটি অনুমানের কোনোটিই সঠিক label না হলে ভুল ধরা হয়, এমন ছবির অনুপাত; ImageNet প্রতিযোগিতার প্রধান মাপ ছিল।যেখানে শিখবেন: পর্ব ২১
- Top-k samplingটপ-কে
- সবচেয়ে বড় k-টি probability রেখে বাকিগুলো শূন্য করা, তারপর যোগফল আবার ১ করে সেখান থেকে তোলা।যেখানে শিখবেন: পর্ব ৫০পর্ব ৯০
- Top-p (nucleus) samplingটপ-পি
- সম্ভাবনা বড় থেকে ছোট সাজিয়ে সবচেয়ে ছোট এমন দল রাখা যাদের যোগ অন্তত p, বাকিগুলো বাদ দিয়ে সেই দল থেকে তোলা।যেখানে শিখবেন: পর্ব ৫০পর্ব ৮৭পর্ব ৮৮
- Topological sortটপোলজিক্যাল সর্ট
- একটি DAG-এর node-গুলোকে এমন এক সারিতে সাজানো, যাতে প্রতিটি তীর u → v-তে u আগে আসে; autograd-এর backward এই ক্রমের উল্টো দিকে চলে।যেখানে শিখবেন: পর্ব ০৫
- torch.autocastঅটোকাস্ট
- একটি context manager, যার ভেতরে PyTorch প্রতিটি কাজের জন্য নিজের তালিকা দেখে dtype ঠিক করে: matmul-এর মতো কাজ ১৬-bit-এ, softmax বা loss-এর মতো কাজ float32-এ।যেখানে শিখবেন: পর্ব ১২
- torch.autograd.gradcheckগ্র্যাডচেক
- PyTorch-এর একটি function, যা একটি কাজের analytical Jacobian (backward থেকে) আর finite difference দিয়ে পাওয়া numerical Jacobian মিলিয়ে দেখে; float64 input-এ চালাতে হয়।যেখানে শিখবেন: পর্ব ০৮
- torch.compileটর্চ কম্পাইল
- PyTorch 2-এর ব্যবস্থা, যা eager কোড চলার সময় graph ধরে নিয়ে optimize করা kernel বানায়; প্রথম call-এ compile-এর সময় লাগে, পরে প্রায়ই দ্রুত।যেখানে শিখবেন: পর্ব ১২
- torch.cuda.memory_allocated / max_memory_allocatedমেমরি অ্যালোকেটেড
- PyTorch এই মুহূর্তে tensor-এর জন্য GPU-র কত byte ব্যবহার করছে, আর শেষ reset-এর পর সর্বোচ্চ কত ব্যবহার করেছিল; caching allocator-এর রেখে দেওয়া খালি অংশ এতে গোনা হয় না।যেখানে শিখবেন: পর্ব ১২
- torch.cuda.synchronize()সিঙ্ক্রোনাইজ
- CPU-কে থামিয়ে রাখে যতক্ষণ না GPU-র সারিতে পাঠানো সব কাজ শেষ হয়; সঠিক সময় মাপার জন্য টাইমার থামানোর আগে ডাকা হয়।যেখানে শিখবেন: পর্ব ১২
- torch.exportটর্চ এক্সপোর্ট
- PyTorch model-এর পুরো গণনাকে একটি স্থির graph (ExportedProgram)-এ ধরার পথ, dynamic মাত্রার জন্য symbolic আকার আর শর্তসহ; ONNX, ExecuTorch আর Core ML-এর রূপান্তর এখান থেকে শুরু হয়।যেখানে শিখবেন: পর্ব ৮৪
- torch.Generatorজেনারেটর
- PyTorch-এর একটি আলাদা random সংখ্যার উৎস, যার নিজস্ব seed আর অবস্থা থাকে; generator=g দিলে global seed-এর ওপর নির্ভর না করে একই সংখ্যা পাওয়া যায়।যেখানে শিখবেন: পর্ব ০৭পর্ব ১১
- torch.inference_modeইনফারেন্স মোড
- no_grad-এর চেয়েও কড়া একটি context manager, যা graph-এর সঙ্গে view আর version-এর হিসাবও বাদ দেয়; এর ভেতরে তৈরি tensor পরে autograd-এর হিসাবে ব্যবহার করা যায় না।যেখানে শিখবেন: পর্ব ০৮
- torch.no_gradনো গ্র্যাড
- একটি context manager, যার ভেতরের কাজ graph-এ লেখা হয় না আর ফলের requires_grad হয় False; evaluation আর weight হালনাগাদের সময় ব্যবহার হয়।যেখানে শিখবেন: পর্ব ০৮পর্ব ১০
- TorchScriptটর্চস্ক্রিপ্ট
- PyTorch model-কে trace বা script করে Python ছাড়া চালানোর পুরনো পথ; PyTorch-এর নথি এখন একে deprecated বলে আর torch.export-এর কথা বলে।যেখানে শিখবেন: পর্ব ৮৪
- torchvision weights enumটর্চভিশন ওয়েটস এনাম
- torchvision-এর প্রতিটি model-এর pretrained weight-এর নামযুক্ত তালিকা, যেমন ResNet18_Weights.IMAGENET1K_V1; প্রতিটির সঙ্গে ডাউনলোডের ঠিকানা, transforms() আর meta (শ্রেণির নাম, recipe, accuracy) থাকে।যেখানে শিখবেন: পর্ব ২৩
- torchvision.transforms.v2টর্চভিশন ট্রান্সফর্মস ভি-টু
- torchvision-এর ছবি রূপান্তরের module; ToImage, RandomResizedCrop, ToDtype, Normalize-এর মতো ধাপ Compose দিয়ে জুড়ে একটি pipeline বানানো যায়।যেখানে শিখবেন: পর্ব ১১পর্ব ২৪
- TP (span-এ)টি-পি
- যে পূর্বাভাসিত span-এর ধরন, শুরু আর শেষ সবই একটি আসল span-এর সঙ্গে মেলে।যেখানে শিখবেন: পর্ব ৪৩
- Traceট্রেস
- একটি অনুরোধ কয়েকটি অংশ পেরিয়ে যে সব কাজ করল তার রেকর্ড; প্রতিটি কাজ একটি span, আর সবগুলোর trace id এক।যেখানে শিখবেন: পর্ব ৮৫
- Train mode / eval modeট্রেন মোড / ইভ্যাল মোড
- PyTorch module-এর training flag; model.train() এটি True আর model.eval() False করে, যা Dropout আর BatchNorm-এর আচরণ বদলায়, কিন্তু gradient বন্ধ করে না।যেখানে শিখবেন: পর্ব ০৯পর্ব ১০পর্ব ১৪
- Trainer (Hugging Face)ট্রেইনার
- transformers library-র একটি class, যা training loop, মূল্যায়ন, checkpoint রাখা, logging আর mixed precision একসঙ্গে চালায়; নিয়মগুলো আসে TrainingArguments থেকে।যেখানে শিখবেন: পর্ব ৫৪
- Training loopট্রেনিং লুপ
- Model শেখানোর পুনরাবৃত্ত কাঠামো: প্রতি batch-এ forward, loss, zero_grad, backward আর step, আর প্রতি epoch শেষে validation, checkpoint ও থামার সিদ্ধান্ত।যেখানে শিখবেন: পর্ব ১০
- Training tokens (D)ট্রেনিং টোকেন
- Training-এ model যত token দেখেছে। একই লেখা বারবার দেখলে দেখা token বাড়ে, কিন্তু আলাদা token বাড়ে না; দুটি গুলিয়ে ফেলা ভুল।যেখানে শিখবেন: পর্ব ৫১
- TrainingArgumentsট্রেইনিং আর্গুমেন্টস
- Trainer-এর সব সেটিং এক জায়গায়: learning rate, batch, epoch, কখন মূল্যায়ন ও সংরক্ষণ, কোন metric দিয়ে সেরা checkpoint বাছা হবে ইত্যাদি।যেখানে শিখবেন: পর্ব ৫৪
- Transfer learningট্রান্সফার লার্নিং
- একটি কাজে বা বিপুল সাধারণ ডেটায় শেখা weight বা feature আরেকটি সম্পর্কিত কাজে কাজে লাগানো, যাতে অল্প ডেটা আর কম সময়ে ভালো model পাওয়া যায়।যেখানে শিখবেন: পর্ব ২৩পর্ব ৯১
- Transformerট্রান্সফর্মার
- ২০১৭ সালের paper “Attention Is All You Need”-এ প্রস্তাবিত neural network স্থাপত্য, যা attention দিয়ে একটি ক্রমের সব অংশের সম্পর্ক একসাথে হিসাব করে; আধুনিক LLM-এর ভিত্তি।যেখানে শিখবেন: পর্ব ০১পর্ব ০৬পর্ব ৩৩
- Transformer blockট্রান্সফর্মার ব্লক
- Attention, feed-forward network, LayerNorm আর residual connection মিলিয়ে তৈরি একটি পুনরাবৃত্ত একক; একই আকারের অনেক block পরপর সাজিয়ে Transformer বানানো হয়।যেখানে শিখবেন: পর্ব ৩৫
- Transition scoreট্রানজিশন স্কোর
- একটি tag-এর ঠিক পরে আরেকটি tag কতটা মানায়; K × K আকারের একটি শেখা টেবিল।যেখানে শিখবেন: পর্ব ৪৩
- Translation equivarianceট্রান্সলেশন ইকুইভেরিয়েন্স
- Input সরালে output-ও একই পরিমাণ সরে যাওয়ার গুণ; stride ১-এর convolution-এ কিনারা বাদে এটি হুবহু সত্য।যেখানে শিখবেন: পর্ব ২০পর্ব ৩৮পর্ব ৮৯
- Translation invarianceট্রান্সলেশন ইনভেরিয়েন্স
- Input সরালেও output না বদলানোর গুণ; pooling আর global average pooling ছোট সরণে আংশিকভাবে এটি দেয়, পুরোপুরি নয়।যেখানে শিখবেন: পর্ব ২০
- Transliteration (লিপ্যন্তর)ট্রান্সলিটারেশন
- এক লিপির শব্দ আরেক লিপিতে লেখা, অর্থ না বদলে; যেমন ভালো থেকে valo.যেখানে শিখবেন: পর্ব ৩৯
- Transposeট্রান্সপোজ
- দুটি অক্ষের ক্রম অদলবদল করা; PyTorch-এ t() আর transpose(d0, d1) কোনো কপি না করে শুধু shape আর stride বদলে একটি view দেয়।যেখানে শিখবেন: পর্ব ০৭
- Transposed convolutionট্রান্সপোজড কনভলিউশন
- শেখা যায় এমন upsampling স্তর (PyTorch-এ nn.ConvTranspose2d): input-এর প্রতিটি মান kernel দিয়ে গুণ হয়ে output-এ একটি টুকরো যোগ করে; মাপ (in − 1)·stride − 2·padding + kernel. ভুল করে deconvolution-ও বলা হয়।যেখানে শিখবেন: পর্ব ২৫পর্ব ৭৫পর্ব ৭৮
- Trialট্রায়াল
- Hyperparameter খোঁজের একটি চেষ্টা: একটি নির্দিষ্ট মানের সমাহারে একবার train ও মূল্যায়ন; Optuna-য় COMPLETE, PRUNED বা FAIL অবস্থায় শেষ হয়।যেখানে শিখবেন: পর্ব ১৯
- Trigramট্রাইগ্রাম
- পরপর তিনটি token; trigram model আগের দুটি token দেখে পরেরটির probability বলে।যেখানে শিখবেন: পর্ব ৪৬
- Triplet lossট্রিপলেট লস
- max(0, d(a, p) − d(a, n) + margin) আকারের loss, যা একটি anchor-কে তার মিলের উদাহরণের কাছে আর অমিল উদাহরণ থেকে অন্তত margin দূরে রাখতে চায়।যেখানে শিখবেন: পর্ব ১৩
- TrivialAugmentট্রিভিয়ালঅগমেন্ট
- প্রতিটি ছবিতে একটিমাত্র এলোমেলো রূপান্তর এলোমেলো শক্তিতে প্রয়োগ করা augmentation, কোনো hyperparameter নেই; torchvision-এ v2.TrivialAugmentWide.যেখানে শিখবেন: পর্ব ২৪
- TRL (Transformer Reinforcement Learning)টি-আর-এল
- Hugging Face-এর library, যাতে SFT, DPO, GRPO-র মতো post-training-এর trainer আছে।যেখানে শিখবেন: পর্ব ৫৬
- Truncated BPTTট্রাঙ্কেটেড বিপিটিটি
- লম্বা sequence-কে k দৈর্ঘ্যের window-এ ভাগ করে backward-কে প্রতিটি window-এর ভেতরে রাখা; hidden state-এর মান সামনে যায়, gradient যায় না।যেখানে শিখবেন: পর্ব ২৮
- Truncated SVDট্রাঙ্কেটেড এস-ভি-ডি
- SVD-এর শুধু সবচেয়ে বড় k-টি singular value আর তাদের দিক রাখা; এতে matrix-এর সবচেয়ে ভালো rank-k রূপ পাওয়া যায়।যেখানে শিখবেন: পর্ব ৪১পর্ব ৫৫
- Truncationট্রাঙ্কেশন
- সীমার বেশি হলে token কেটে বাদ দেওয়া; কোন দিক থেকে কাটা হয়, তার ওপর নির্ভর করে কী হারায়।যেখানে শিখবেন: পর্ব ৫২পর্ব ৬৪
- Truncation trickট্রাঙ্কেশন ট্রিক
- নমুনা নেওয়ার সময় latent-কে গড়ের দিকে টেনে আনা, যেমন w′ = w̄ + ψ(w − w̄); ψ কমালে নমুনা বেশি গড়পড়তা ও সাধারণত পরিষ্কার হয়, কিন্তু বৈচিত্র্য কমে।যেখানে শিখবেন: পর্ব ৭৮
- trust_remote_codeট্রাস্ট রিমোট কোড
- transformers-এর একটি argument; True দিলে model repo-তে থাকা Python ফাইল নামিয়ে আপনার মেশিনে চালানো হয়, তাই কোড পড়ে আর commit hash পিন করে তবেই দেওয়া উচিত।যেখানে শিখবেন: পর্ব ৫৩
- Tuned lensটিউনড লেন্স
- প্রতিটি স্তরের জন্য একটি affine map শিখে তারপর hidden state পড়া; logit lens-এর সংশোধিত রূপ।যেখানে শিখবেন: পর্ব ৫২
- Type promotion (upcasting)টাইপ প্রোমোশন
- ভিন্ন dtype-এর মান একসঙ্গে হিসাব করার সময় এমন একটি dtype বেছে নেওয়া যাতে দুটিই ধরে; যেমন int64 আর float32 মিশলে ফল float32.যেখানে শিখবেন: পর্ব ০৭
U
- U-Netইউ-নেট
- Ronneberger, Fischer আর Brox-এর ২০১৫ সালের segmentation network: U আকারের encoder–decoder, যেখানে প্রতিটি মাপের encoder map skip connection দিয়ে decoder-এর একই মাপের স্তরে জোড়া লাগে।যেখানে শিখবেন: পর্ব ২৫পর্ব ৭৯পর্ব ৮০
- Undercomplete autoencoderআন্ডারকমপ্লিট অটোএনকোডার
- যে autoencoder-এর code-এর মাপ input-এর মাপের চেয়ে ছোট, তাই সব তথ্য রাখতে না পেরে গুরুত্বপূর্ণ অংশ বাছতে বাধ্য হয়।যেখানে শিখবেন: পর্ব ৭৫
- Underfittingআন্ডারফিটিং
- Model training ডেটার প্রবণতাও ধরতে পারছে না, ফলে train আর validation দুই জায়গাতেই loss বেশি আর প্রায় সমান।যেখানে শিখবেন: পর্ব ১৮
- Unicode normalizationইউনিকোড নরমালাইজেশন
- একই দেখতে কিন্তু ভিন্ন code point-এ লেখা string-কে একটি নির্দিষ্ট রূপে (যেমন NFC) আনা, যাতে তুলনা আর গণনা ঠিক হয়।যেখানে শিখবেন: পর্ব ১১পর্ব ৪০পর্ব ৫৩
- Uniform dequantizationইউনিফর্ম ডিকোয়ান্টাইজেশন
- Discrete মানের সঙ্গে [০, ১) থেকে uniform noise যোগ করে continuous density মডেল বসানোর কৌশল; এভাবে মাপা NLL আসল discrete NLL-এর গড়ে একটি ঊর্ধ্বসীমা।যেখানে শিখবেন: পর্ব ৭৪
- Unigramইউনিগ্রাম
- একটি একক token; unigram model আগের কিছু না দেখে শুধু token-টির মোট ঘনত্ব থেকে probability বলে।যেখানে শিখবেন: পর্ব ৪৬
- Unigram distributionইউনিগ্রাম ডিস্ট্রিবিউশন
- প্রতিটি শব্দের আপেক্ষিক কম্পাঙ্ক, অর্থাৎ শব্দটি মোট token-এর কত ভাগ।যেখানে শিখবেন: পর্ব ৪১
- Unigram tokenizerইউনিগ্রাম টোকেনাইজার
- প্রতিটি টুকরোর একটি সম্ভাবনা ধরে নিয়ে সবচেয়ে সম্ভাব্য ভাঙন বেছে নেওয়া subword পদ্ধতি; training-এ বড় ভান্ডার থেকে কম কাজের টুকরো ছাঁটা হয়।যেখানে শিখবেন: পর্ব ৪০
- Unique n-gram ratioইউনিক এন-গ্রাম রেশিও
- একটি লেখায় আলাদা n-gram-এর সংখ্যা ভাগ মোট n-gram-এর সংখ্যা; ১ মানে কোনো পুনরাবৃত্তি নেই।যেখানে শিখবেন: পর্ব ৫০
- Universal approximation theoremইউনিভার্সাল অ্যাপ্রক্সিমেশন থিওরেম
- যে ফল বলে, polynomial নয় এমন activation-এর এক hidden layer-এর network যথেষ্ট unit পেলে একটি compact এলাকায় যেকোনো ধারাবাহিক function-কে যত কাছে চাই আনতে পারে; unit-এর সংখ্যা, শেখা বা generalization নিয়ে কিছু বলে না।যেখানে শিখবেন: পর্ব ০৬পর্ব ৮৮
- Unrollingআনরোলিং
- RNN-এর লুপকে সময় ধরে খুলে T স্তরের একটি feedforward network হিসেবে লেখা, যার প্রতিটি স্তরে একই weight থাকে।যেখানে শিখবেন: পর্ব ২৮
- unsqueezeআনস্কুইজ
- নির্দিষ্ট জায়গায় মাপ ১-এর একটি নতুন অক্ষ যোগ করা, যেমন (3,) থেকে (1, 3); broadcasting-এর জন্য shape মেলাতে কাজে লাগে।যেখানে শিখবেন: পর্ব ০৭
- Unstructured pruningআনস্ট্রাকচার্ড প্রুনিং
- আলাদা আলাদা ওজন যেকোনো জায়গায় শূন্য করা; matrix-এর আকার একই থাকে, তাই সাধারণ dense হার্ডওয়্যারে গতি প্রায় বাড়ে না।যেখানে শিখবেন: পর্ব ৫৯
- Untrusted dataআনট্রাস্টেড ডেটা
- বাইরে থেকে আসা লেখা, যেমন রিভিউ, ইমেইল, ওয়েবপেজ বা tool-এর ফল, যাকে শুধু তথ্য হিসেবে পড়তে হয়; এর ভেতরের নির্দেশ মানার কথা নয়।যেখানে শিখবেন: পর্ব ৬৪
- Update gateআপডেট গেট
- GRU-র gate, যা পুরোনো hidden state আর নতুন candidate-এর মিশ্রণের অনুপাত ঠিক করে; LSTM-এর forget আর input gate-এর কাজ একসাথে করে।যেখানে শিখবেন: পর্ব ২৯
- Upsertআপসার্ট
- একই id থাকলে হালনাগাদ, না থাকলে নতুন যোগ: update আর insert একসঙ্গে।যেখানে শিখবেন: পর্ব ৬৮
- Upstream gradientআপস্ট্রিম গ্রেডিয়েন্ট
- Backward pass-এ একটি ধাপের output-এর সাপেক্ষে loss-এর gradient, যা পরের দিকের (loss-এর কাছের) ধাপ থেকে এই ধাপে পৌঁছায়।যেখানে শিখবেন: পর্ব ০৪
- User messageইউজার মেসেজ
- Chat API-তে ব্যবহারকারীর পালার বার্তা, যেখানে প্রতিবারের প্রশ্ন আর ডেটা থাকে; স্থায়ী নিয়ম সাধারণত system বা developer বার্তায় থাকে।যেখানে শিখবেন: পর্ব ৬০পর্ব ৬৪
- UTF-8ইউ-টি-এফ এইট
- Unicode code point-কে ১ থেকে ৪ byte-এ লেখার সবচেয়ে প্রচলিত encoding; ইংরেজি অক্ষর ১ byte, বাংলা ৩ byte.যেখানে শিখবেন: পর্ব ৪০পর্ব ৮৮
- uvইউ-ভি
- Astral কোম্পানির Rust-এ লেখা দ্রুত Python package ও প্রকল্প ম্যানেজার (২০২৪)। Python নামানো, venv তৈরি, package ইনস্টল আর lockfile লেখা — এক টুলে।যেখানে শিখবেন: পর্ব ০১
V
- Validation setভ্যালিডেশন সেট
- Training থেকে আলাদা রাখা যে অংশ দেখে model, hyperparameter বা feature বাছাই করা হয়; বাছাইয়ে ব্যবহার হয় বলে এটি শেষ নিরপেক্ষ মাপের জন্য নয়।যেখানে শিখবেন: পর্ব ০৪পর্ব ১০পর্ব ৫৪
- Value (attention)ভ্যালু
- প্রতিটি input token-এর যে vector আসলে মিশিয়ে নেওয়া হয়; ওজন ঠিক হয় key দিয়ে, মেশানো হয় value.যেখানে শিখবেন: পর্ব ৩২পর্ব ৩৩
- Value functionভ্যালু ফাংশন
- একটি অবস্থা থেকে ভবিষ্যতে মোট কত reward প্রত্যাশিত তার অনুমান; PPO-তে advantage বের করতে আলাদা একটি model হিসেবে শেখানো হয়।যেখানে শিখবেন: পর্ব ৫৭
- Vanishing gradientভ্যানিশিং গ্রেডিয়েন্ট
- গভীর network-এ backpropagation-এর সময় প্রতিটি স্তরে ছোট ঢাল গুণ হয়ে শুরুর স্তরে gradient প্রায় শূন্য হয়ে যাওয়া, ফলে সেই স্তরগুলো প্রায় শেখে না।যেখানে শিখবেন: পর্ব ০৩পর্ব ১৪পর্ব ১৭
- Varianceভ্যারিয়েন্স
- ভেদাঙ্ক: গড় থেকে প্রতিটি মানের দূরত্বের বর্গের গড়, যা ডেটা কতটা ছড়ানো তা মাপে; স্বাধীন রাশির যোগে variance যোগ হয়।যেখানে শিখবেন: পর্ব ১৪
- Variational autoencoder (VAE)ভেরিয়েশনাল অটোএনকোডার
- Encoder আর decoder-ওয়ালা latent variable মডেল, যা log-likelihood-এর একটি নিম্নসীমা (ELBO) বাড়িয়ে শেখে আর latent z থেকে নতুন নমুনা তৈরি করে।যেখানে শিখবেন: পর্ব ৭৪পর্ব ৭৬পর্ব ৮৯
- Variational inferenceভ্যারিয়েশনাল ইনফারেন্স
- কঠিন posterior-এর বদলে একটি সহজ বণ্টনের পরিবার থেকে optimisation দিয়ে সবচেয়ে কাছেরটি খোঁজা, সাধারণত ELBO বাড়িয়ে।যেখানে শিখবেন: পর্ব ৭৬
- Vector databaseভেক্টর ডেটাবেস
- Vector index-এর চারপাশে database-এর কাজগুলো যোগ করা ব্যবস্থা: metadata ফিল্টার, যোগ-মোছা, disk-এ রাখা, backup আর replication.যেখানে শিখবেন: পর্ব ৬৮পর্ব ৭২
- Vector quantizationভেক্টর কোয়ান্টাইজেশন
- একটি continuous vector-কে একটি নির্দিষ্ট তালিকার সবচেয়ে কাছের vector দিয়ে বদলে দেওয়া, যাতে তাকে একটি পূর্ণসংখ্যা দিয়ে লেখা যায়।যেখানে শিখবেন: পর্ব ৭৬
- Vector-Jacobian product (VJP)ভেক্টর-জ্যাকোবিয়ান প্রোডাক্ট
- একটি vector u-কে Jacobian-এর বাঁ দিক থেকে গুণ, uᵀJ; পুরো Jacobian না বানিয়েই হিসাব করা যায়, আর backpropagation আসলে এর শিকল।যেখানে শিখবেন: পর্ব ০৪পর্ব ০৫পর্ব ০৮
- Vectorizationভেক্টরাইজেশন
- Python-এর loop-এর বদলে পুরো array-এর ওপর একবারে একটি কাজ চালানো, যেমন পুরো batch-এর জন্য একটি matrix গুণ, যাতে আসল loop compiled কোডে দ্রুত চলে।যেখানে শিখবেন: পর্ব ০৩পর্ব ১২
- Verbosity biasভার্বোসিটি বায়াস
- লম্বা, বেশি কথার উত্তরকে, সঠিক না হলেও, ভালো বলে রায় দেওয়ার প্রবণতা।যেখানে শিখবেন: পর্ব ৫৮পর্ব ৬৬পর্ব ৯১
- Version counterভার্সন কাউন্টার
- প্রতিটি tensor-এর একটি গোনার সংখ্যা, যা প্রতিটি in-place কাজে এক বাড়ে; backward-এর সময় রাখা মানের version বদলে গেছে দেখলে autograd RuntimeError দেয়।যেখানে শিখবেন: পর্ব ০৮
- VGG networkভিজিজি নেটওয়ার্ক
- Simonyan আর Zisserman-এর ২০১৪ সালের CNN পরিবার, যা শুধু 3×3 convolution পরপর সাজিয়ে আর প্রতিটি pooling-এর পরে channel দ্বিগুণ করে ১১ থেকে ১৯ স্তরের গভীর network বানায়।যেখানে শিখবেন: পর্ব ২১
- View (tensor)ভিউ
- নিজস্ব ডেটা ছাড়া একটি tensor, যা অন্য tensor-এর storage-কে নতুন shape আর stride দিয়ে দেখায়; view-এ লিখলে মূল tensor-ও বদলায়।যেখানে শিখবেন: পর্ব ০৭পর্ব ৯০
- Virtual environment (venv)ভার্চুয়াল এনভায়রনমেন্ট
- একটি প্রকল্পের জন্য আলাদা Python-পরিবেশ, যার নিজস্ব package অন্য প্রকল্পে মেশে না। python -m venv বা uv দিয়ে তৈরি হয়, সাধারণত .venv ফোল্ডারে।যেখানে শিখবেন: পর্ব ০১
- Vision Transformer (ViT)ভিশন ট্রান্সফর্মার
- ছবিকে ছোট patch-এ কেটে token বানিয়ে Transformer block দিয়ে পড়া model; patch embedding ছাড়া এতে সাধারণত আর convolution থাকে না।যেখানে শিখবেন: পর্ব ৩৮পর্ব ৮৯
- Vision-language model (VLM)ভিশন-ল্যাঙ্গুয়েজ মডেল
- ছবি আর লেখা একসঙ্গে নিয়ে লেখায় উত্তর দেয় এমন model; প্রচলিত নকশায় একটি vision encoder, একটি projector আর একটি LLM থাকে।যেখানে শিখবেন: পর্ব ৮২পর্ব ৯১
- Viterbiভিটারবি
- সবচেয়ে সম্ভাব্য পথ বা ক্রম খোঁজার dynamic programming পদ্ধতি; প্রতিটি অবস্থানে সেরা আংশিক ফল মনে রেখে এগোয়।যেখানে শিখবেন: পর্ব ৪০
- Viterbi algorithmভিটারবি অ্যালগরিদম
- সব পথ না গুনে dynamic programming দিয়ে সবচেয়ে বেশি score বা সম্ভাবনার পথ বের করার পদ্ধতি; প্রতি ধাপে max নেয় আর back pointer রাখে, খরচ O(T·K²).যেখানে শিখবেন: পর্ব ৪৩
- Vocabularyভোকাবুলারি
- Training ডেটায় দেখা token আর তাদের সংখ্যা-id-এর তালিকা; তালিকার বাইরের শব্দ <unk> id পায়।যেখানে শিখবেন: পর্ব ১১পর্ব ২৭পর্ব ৩০
- Voronoi cellভরোনয় সেল
- যেসব বিন্দু একটি নির্দিষ্ট centroid-এর সবচেয়ে কাছে, তাদের জায়গা; IVF-এর প্রতিটি তালিকা এমন একটি cell.যেখানে শিখবেন: পর্ব ৬৮
- VQ-VAE (vector-quantized VAE)ভিকিউ-ভিএই
- যে VAE-তে latent কোড continuous নয়, একটি শেখা codebook-এর সবচেয়ে কাছের vector; ফলে ছবি হয় কয়েকটি পূর্ণসংখ্যার grid, আর prior পরে আলাদা করে শেখা হয়।যেখানে শিখবেন: পর্ব ৭৬
W
- Warm-up runওয়ার্ম-আপ
- মাপার আগে কোড কয়েকবার চালিয়ে নেওয়া, যাতে CUDA context তৈরি, library লোড, memory বরাদ্দ বা compile-এর মতো এককালীন খরচ মাপের মধ্যে না আসে।যেখানে শিখবেন: পর্ব ১২
- Wasserstein distance (W1)ভাসারস্টাইন ডিসট্যান্স
- এক বণ্টনের ভর আরেক বণ্টনের জায়গায় সরাতে সবচেয়ে কম যত ভর × দূরত্বের খরচ লাগে; দুই বণ্টন না মিললেও দূরত্বের সঙ্গে মসৃণভাবে বদলায়।যেখানে শিখবেন: পর্ব ৭৮পর্ব ৮৮
- Wavelengthওয়েভলেংথ
- একটি ঢেউ যত ঘর পরে নিজের জায়গায় ফেরে, সেই দূরত্ব; ω কৌণিক কম্পাঙ্ক হলে 2π/ω.যেখানে শিখবেন: পর্ব ৩৪
- Weightওয়েট
- Neural network বা perceptron-এ একটি input-এর গুরুত্ব আর দিক বোঝানো সংখ্যা; শেখা মানে মূলত এই সংখ্যাগুলো ঠিক করা।যেখানে শিখবেন: পর্ব ০২
- Weight clippingওয়েট ক্লিপিং
- প্রতিটি update-এর পরে network-এর সব ওজন একটি ছোট পরিসর [−c, c]-এর মধ্যে কেটে রাখা; মূল WGAN এভাবে critic-এর ঢাল সীমিত রাখে, কিন্তু এতে critic-এর ক্ষমতা কমে।যেখানে শিখবেন: পর্ব ৭৮
- Weight decayওয়েট ডিকে
- প্রতিটি ধাপে weight-কে একটু শূন্যের দিকে টানা, যাতে model খুব বড় weight দিয়ে ডেটা মুখস্থ না করে; এটি এক ধরনের regularization কৌশল।যেখানে শিখবেন: পর্ব ১০পর্ব ১৫পর্ব ১৬
- Weight initializationওয়েট ইনিশিয়ালাইজেশন
- Training শুরুর আগে weight-এর প্রথম মান বাছার নিয়ম; PyTorch-এর nn.Linear default-এ U(−1/√in, 1/√in) থেকে নেয়।যেখানে শিখবেন: পর্ব ০৯পর্ব ১৪
- Weight normalizationওয়েট নরমালাইজেশন
- একটি weight vector-কে তার দিক আর দৈর্ঘ্যে ভাগ করে আলাদা শেখানো; batch-এর ওপর নির্ভর করে না, Salimans ও Kingma-র ২০১৬ সালের কাজ।যেখানে শিখবেন: পর্ব ৩১
- Weight sharingওয়েট শেয়ারিং
- একই weight-এর সেট input-এর সব অবস্থানে ব্যবহার করা; convolution-এ একটি kernel পুরো ছবিতে চলে, তাই parameter ছবির আকারের ওপর নির্ভর করে না।যেখানে শিখবেন: পর্ব ২০পর্ব ২৮
- Weight tyingওয়েট টাইয়িং
- Token embedding আর output layer-এ একই weight matrix ব্যবহার করা; bias না থাকলে V·d সংখ্যক parameter বাঁচে।যেখানে শিখবেন: পর্ব ৩৫পর্ব ৩৬পর্ব ৪৭
- Weighted F1ওয়েটেড এফ-ওয়ান
- প্রতিটি শ্রেণির F1-এর গড়, ওজন সেই শ্রেণির উদাহরণ সংখ্যা; বড় শ্রেণি বেশি প্রভাব ফেলে, তাই ছোট শ্রেণির ব্যর্থতা ঢাকা পড়তে পারে।যেখানে শিখবেন: পর্ব ৪২
- Weighted meanওয়েটেড মিন
- প্রতিটি মানকে তার ওজন দিয়ে গুণ করে যোগ, তারপর মোট ওজন দিয়ে ভাগ; batch-এর metric-এর ক্ষেত্রে ওজন হলো batch-এর উদাহরণের সংখ্যা।যেখানে শিখবেন: পর্ব ১০
- WeightedRandomSamplerওয়েটেড র্যান্ডম স্যাম্পলার
- প্রতিটি সারির ওজন অনুযায়ী সম্ভাবনা দিয়ে index টানে, সাধারণত replacement-সহ; বিরল শ্রেণির সারির ওজন বাড়িয়ে batch-এ শ্রেণির ভারসাম্য আনা যায়।যেখানে শিখবেন: পর্ব ১১
- WGAN (Wasserstein GAN)ডাবলিউ-গ্যান
- Arjovsky ও সহলেখকদের ২০১৭ সালের GAN, যেখানে JS divergence-এর বদলে Wasserstein দূরত্ব কমানো হয়; discriminator-এর জায়গায় sigmoid ছাড়া একটি critic থাকে আর মূল রূপে Lipschitz শর্ত রাখতে ওজন কাটা হয়।যেখানে শিখবেন: পর্ব ৭৮
- Wilson intervalউইলসন ইন্টারভাল
- সাফল্যের অনুপাতের একটি confidence interval, যা ছোট নমুনা আর ১-এর কাছের মানেও ভালো আচরণ করে।যেখানে শিখবেন: পর্ব ৪৪পর্ব ৬১পর্ব ৮২
- Winner's curseউইনার্স কার্স
- অনেক চেষ্টার মধ্যে সবচেয়ে ভালো বলে বাছা ফল গড়ে তার আসল মানের চেয়ে ভালো দেখায়, কারণ বাছাইয়ে ভাগ্যও বাছা হয়।যেখানে শিখবেন: পর্ব ১৯
- Word analogyওয়ার্ড অ্যানালজি
- a : b :: c : ? ধাঁচের পরীক্ষা, যেখানে b + c − a-এর সবচেয়ে কাছের শব্দকে উত্তর ধরা হয়; সাধারণত a, b, c-কে উত্তর থেকে বাদ দেওয়া হয়।যেখানে শিখবেন: পর্ব ৪১
- Word dropoutওয়ার্ড ড্রপআউট
- Training-এর সময় এলোমেলোভাবে কিছু শব্দকে UNK-এ বদলানো, যাতে মডেল অজানা শব্দে প্রসঙ্গের ওপর ভর করতে শেখে।যেখানে শিখবেন: পর্ব ৪৩
- Word embeddingওয়ার্ড এমবেডিং
- প্রতিটি শব্দের জন্য একটি ছোট dense vector, সাধারণত প্রসঙ্গ থেকে শেখা, যাতে একই ধরনের প্রসঙ্গের শব্দ কাছাকাছি থাকে।যেখানে শিখবেন: পর্ব ৪১
- Word senseওয়ার্ড সেন্স
- একটি শব্দের একটি নির্দিষ্ট অর্থ। অর্থের ভাগ কতটা সূক্ষ্ম হবে, তা কাজের ওপর নির্ভর করে।যেখানে শিখবেন: পর্ব ৪৪
- Word typeওয়ার্ড টাইপ
- লেখায় থাকা একটি আলাদা শব্দ, যতবারই আসুক। Type-এর মোট সংখ্যাই vocabulary-র আকার।যেখানে শিখবেন: পর্ব ৩৯
- word2vecওয়ার্ড টু ভেক
- ২০১৩ সালে Mikolov ও সহকর্মীদের প্রস্তাবিত পদ্ধতি, যা পাশের শব্দ অনুমানের ছোট কাজ থেকে word vector শেখে; skip-gram আর CBOW এর দুটি রূপ।যেখানে শিখবেন: পর্ব ৪১
X
- Xavier/Glorot initializationজেভিয়ার ইনিশিয়ালাইজেশন
- Glorot আর Bengio-র (২০১০) নিয়ম: weight-এর variance 2/(fan_in + fan_out), যাতে forward আর backward দুই দিকেই variance মোটামুটি স্থির থাকে; tanh আর linear-এ মানায়।যেখানে শিখবেন: পর্ব ১৪
- XLM-Rএক্স-এল-এম আর
- একশো ভাষার filter করা CommonCrawl ডেটায় MLM দিয়ে শেখা বহু-ভাষার encoder, বাংলাও তালিকায় আছে।যেখানে শিখবেন: পর্ব ৪৮
- XOR (exclusive OR)এক্স-অর
- দুটি input-এর ঠিক একটি সত্য হলে সত্য, দুটোই সত্য বা দুটোই মিথ্যা হলে মিথ্যা; কোনো একটি সরল রেখা এর দুই দল আলাদা করতে পারে না, তাই এক স্তরের perceptron এটি শিখতে পারে না।যেখানে শিখবেন: পর্ব ০২
Y
Z
- Zero pointজিরো পয়েন্ট
- আসল দশমিক ০.০ যে পূর্ণসংখ্যায় পড়ে; asymmetric quantization-এ এটি পরিসরকে সরিয়ে পুরো grid-এ বসায়, symmetric-এ এটি ০।যেখানে শিখবেন: পর্ব ৫৯পর্ব ৮৪পর্ব ৮৭
- Zero-shotজিরো-শট
- কোনো উদাহরণ না দিয়ে শুধু নির্দেশ দিয়ে model-কে একটি কাজ করানো।যেখানে শিখবেন: পর্ব ৬১পর্ব ৮২পর্ব ৯১
- Zero-shot chain-of-thoughtজিরো-শট চেইন-অব-থট
- কোনো উদাহরণ ছাড়া শুধু “Let's think step by step” ধরনের একটি বাক্য যোগ করে ধাপ লেখানো; Kojima ও সহকর্মীদের ২০২২ সালের পদ্ধতি।যেখানে শিখবেন: পর্ব ৬৩
- Zero-sum gameজিরো-সাম গেম
- যে খেলায় একজনের লাভ ঠিক অন্যজনের ক্ষতি, দুজনের প্রাপ্তির যোগফল সবসময় একই; তাই একজন যা বাড়াতে চায়, অন্যজন ঠিক তা-ই কমাতে চায়।যেখানে শিখবেন: পর্ব ৭৭
- zero_gradজিরো গ্র্যাড
- Optimizer বা model-এর method, যা নতুন backward-এর আগে সব parameter-এর পুরোনো gradient মুছে দেয়; PyTorch 2.0 থেকে default-ভাবে gradient-কে None করে।যেখানে শিখবেন: পর্ব ০৫পর্ব ০৮পর্ব ১০
- Zipf's lawজিপ্ফের সূত্র
- শব্দের গণনা তার rank-এর প্রায় উল্টো অনুপাতে কমে, f(r) ∝ 1/r^s, যেখানে s প্রায় ১। এটি একটি মোটা পরিসংখ্যানগত নিয়ম।যেখানে শিখবেন: পর্ব ৩৯
- ZWNJ (Zero-width non-joiner)জেড-ডব্লিউ-এন-জে
- চোখে দেখা যায় না এমন একটি অক্ষর, U+200C, যা জোড়া রোধ করে। NFC একে সরায় না, তাই দুটি শব্দ দেখতে এক হলেও অসমান হতে পারে।যেখানে শিখবেন: পর্ব ৩৯
এই শব্দটি পাওয়া যায়নি। বানান বদলে বা বাংলায় লিখে দেখুন।
← ডিপ লার্নিং, NLP আর Generative AI কোর্সের হোম পেজে ফিরে যান