GPU আর্কিটেকচার বেসিকস

১ · GPU কী এবং কেন তৈরি হয়েছিল

একটি ছবি রেন্ডার করতে স্ক্রিনের প্রতিটি পিক্সেলের রং আলাদাভাবে হিসাব করতে হয় — একটি ১০৮০p স্ক্রিনে প্রায় ২০ লাখেরও বেশি পিক্সেল! গুরুত্বপূর্ণ ব্যাপার হলো, প্রতিটি পিক্সেলের হিসাব বেশিরভাগ ক্ষেত্রে একে অপরের থেকে স্বাধীন এবং একই ধরনের গাণিতিক অপারেশন (একই "শেডার" কোড) দিয়ে করা হয় — এটাই M11/L50-এ শেখা SIMDSingle Instruction, Multiple Dataএকটি ইনস্ট্রাকশন একসাথে একাধিক ডেটার ওপর প্রয়োগ হয়। মডেলের একটি চরম, বাস্তব-জগতের উদাহরণ — GPU ঠিক এই ধরনের বিপুল-স্কেল, ডেটা-প্যারালাল কাজের জন্যই ডিজাইন করা হয়েছিল।

২ · CPU বনাম GPU — মৌলিক ডিজাইন-দর্শনের পার্থক্য

সংক্ষেপে: CPU জেতে যখন কাজ জটিল, শাখাযুক্ত, একে অপরের ওপর নির্ভরশীল — GPU জেতে যখন কাজ সরল কিন্তু বিপুল পরিমাণে, স্বাধীনভাবে পুনরাবৃত্ত হয়।

৩ · GPGPU — গ্রাফিক্সের বাইরেও GPU

যেহেতু GPU মূলত "একই সরল অপারেশন বিপুল ডেটার ওপর" চালাতে দক্ষ, প্রকৌশলীরা লক্ষ্য করলেন এই একই ক্ষমতা গ্রাফিক্সের বাইরে অন্য অনেক কাজেও কাজে লাগে — যেমন ম্যাট্রিক্স গুণন, যা আধুনিক AI/ML মডেল ট্রেনিং-এর কেন্দ্রীয় অপারেশন। এই সাধারণ-উদ্দেশ্যে GPU ব্যবহারকেই GPGPU বলা হয় — আজকের AI যুগের একটি বড় হার্ডওয়্যার চালিকাশক্তি।

৪ · GPU কখন সাহায্য করে, কখন করে না

একটি সৎ, গুরুত্বপূর্ণ সত্য: GPU সবকিছুতে CPU-কে হারায় না। GPU দারুণ কাজ করে যখন কাজটি highly parallel এবং data-parallel — একই সরল অপারেশন বিপুল পরিমাণ স্বাধীন ডেটার ওপর প্রয়োগ করতে হয়। কিন্তু জটিল শাখা-নির্ভরতা, sequential dependency, বা low-latency সিঙ্গেল-থ্রেড পারফরম্যান্স দরকার হলে GPU আসলে CPU-এর চেয়ে খারাপ — এই কারণেই বাস্তব সিস্টেমে GPU কখনো CPU-কে সম্পূর্ণ প্রতিস্থাপন করে না, বরং দুটো একসাথে সহাবস্থান করে, প্রতিটি নিজের উপযুক্ত কাজের জন্য অপটিমাইজড।

নিচের কোড সেলে CPU-স্টাইল (এক এক করে) বনাম GPU-স্টাইল (ব্যাচে-ব্যাচে, বহু "লেন" সমান্তরালে) প্রসেসিং সিমুলেট করে দেখা যাক একটি বিশাল, embarrassingly-parallel কাজে বাস্তব সাইকেল-সংখ্যার পার্থক্য কতটা বড়।

import math

def cpu_style_processing(data, per_element_cycles):
    """CPU-স্টাইল -- প্রতিটি এলিমেন্ট একে একে, সিকোয়েনশিয়ালি প্রসেস হয়"""
    total_cycles = 0
    for _ in data:
        total_cycles += per_element_cycles  # প্রতিটি এলিমেন্ট নিজের সময় নেয়
    return total_cycles


def gpu_style_processing(data, per_element_cycles, num_parallel_cores):
    """GPU-স্টাইল -- num_parallel_cores সংখ্যক 'লেন' একসাথে একই কাজ করে
    (প্রকৃত GPU হার্ডওয়্যারে এটি সত্যিকার সমান্তরাল ALU লেন দিয়ে হয় -- এখানে
    শুধু ব্যাচ-গণনার মাধ্যমে ধারণাগতভাবে সিমুলেট করা হচ্ছে)"""
    num_batches = math.ceil(len(data) / num_parallel_cores)
    total_cycles = num_batches * per_element_cycles  # একটি ব্যাচের সব লেন সমান্তরালে শেষ হয়
    return total_cycles


data = list(range(10_000))       # ১০,০০০টি স্বাধীন এলিমেন্ট -- embarrassingly parallel কাজ
per_element_cycles = 5           # প্রতিটি এলিমেন্টের হিসাবে (সিমুলেটেড) খরচ
num_parallel_cores = 1000        # GPU-স্টাইলে একসাথে চলা "লেন" সংখ্যা

cpu_cycles = cpu_style_processing(data, per_element_cycles)
gpu_cycles = gpu_style_processing(data, per_element_cycles, num_parallel_cores)

print(f"এলিমেন্ট সংখ্যা: {len(data):,}")
print(f"CPU-স্টাইল (সিকোয়েনশিয়াল) মোট সাইকেল: {cpu_cycles:,}")
print(f"GPU-স্টাইল ({num_parallel_cores} সমান্তরাল লেন) মোট সাইকেল: {gpu_cycles:,}")
print(f"স্পিডআপ: {cpu_cycles / gpu_cycles:.1f}x")