এতদিন "বড় ভাষা মডেল" বলতে বোঝাতো একটা দূরের ডেটা সেন্টার — আপনার প্রতিটা প্রশ্ন পাঠিয়ে দেওয়া ক্লাউডে, তারপর অপেক্ষা করা উত্তরের জন্য। ধরুন আপনি পাহাড়ি এলাকায় বসে আছেন, নেটওয়ার্ক নেই — তাহলে সেই "স্মার্ট" অ্যাসিস্ট্যান্টটা হঠাৎ বোবা হয়ে যায়, তাই না? ২০২৪ সাল থেকে এই বাস্তবতা বদলাতে শুরু করেছে। অ্যাপল, গুগল, কোয়ালকম, স্যামসাং, মাইক্রোসফট ও মেটা — সবাই এখন বিনিয়োগ করছে "এজ এআই""এজ এআই"এআই মডেল দূরবর্তী ক্লাউড সার্ভারের বদলে সরাসরি ব্যবহারকারীর ডিভাইসে চালানোর প্রযুক্তি-এ, যেখানে মডেল চলে সরাসরি আপনার ফোনে, ল্যাপটপে বা এমবেডেড ডিভাইসে; ইন্টারনেট ছাড়াই, ক্লাউড ছাড়াই।

এই পরিবর্তনের পেছনে আমি তিনটা প্রযুক্তিগত কারণ দেখি — ছোট কিন্তু সক্ষম মডেল, বিশেষায়িত NPU (নিউরাল প্রসেসিং ইউনিট)NPU (নিউরাল প্রসেসিং ইউনিট)এআই গণনার জন্য বিশেষভাবে তৈরি দ্রুতগতির চিপ যা ফোন বা ডিভাইসেই মডেল চালাতে সাহায্য করে চিপ, এবং কোয়ান্টাইজেশন কৌশল, যা মডেলের আকার বহুগুণ কমিয়ে আনে। তিনটা মিলেই সম্ভব হয়েছে এমন কিছু, যা তিন বছর আগেও কল্পনা করা কঠিন ছিল।

অ্যাপলের বাজি — গোপনীয়তা আগে, ক্ষমতা পরে

২০২৪ সালের জুন মাসে WWDC সম্মেলনে অ্যাপল ঘোষণা করে Apple Intelligence — তাদের নিজস্ব অন-ডিভাইস জেনারেটিভ এআই ব্যবস্থা। পণ্যটির রোলআউট শুরু হয় ২০২৪ সালের অক্টোবরে iOS 18.1-এর মাধ্যমে, চলে iPhone 15 Pro ও তার পরবর্তী সব মডেলে। বেশি ভারী টাস্কের জন্য "Private Cloud Compute" নামের একটা সুরক্ষিত সার্ভার ব্যবহৃত হয়, যেখানে ডেটা মাত্র সাময়িকভাবে থাকে। আমার কাছে এই দুই-স্তরের নকশাটাই সবচেয়ে গুরুত্বপূর্ণ সিদ্ধান্ত — অ্যাপল বাজি ধরেছে যে ব্যবহারকারীরা সক্ষমতার চেয়ে গোপনীয়তাকে বেশি মূল্য দেবেন, আর আমার ধারণা তারা ভুল বাজি ধরেননি।

গুগলের জেমিনি ন্যানো: প্রথম বড় আকারের পরীক্ষা

গুগলের Gemini Nano ২০২৩ সালের ডিসেম্বরে প্রথম যুক্ত হয় Pixel 8 ও 8 Pro-তে; পরে স্যামসাং Galaxy S24 সিরিজেও। টেক্সট সামারাইজেশন, Magic Compose, ভয়েস রেকর্ডার ট্রান্সক্রিপশন — সব কিছু এখন ইন্টারনেট ছাড়াই চলে। এটা ছিল কোনো বড় ক্লাউড কোম্পানির থেকে প্রথম বাণিজ্যিক অন-ডিভাইস LLMLLMবিপুল পরিমাণ লেখা দিয়ে প্রশিক্ষিত বড় ভাষা মডেল যা মানুষের ভাষা বুঝে ও তৈরি করে-এর এত বড় আকারে স্থাপন — অর্থাৎ যে কোম্পানি ক্লাউড থেকে সবচেয়ে বেশি আয় করে, সেই কোম্পানিই প্রথম বড়সড়ভাবে ব্যবহারকারীর ফোনে বাজি ধরল। এই বৈপরীত্যটা লক্ষ্য করার মতো।

চিপের লড়াই: ফোনেই ১০ বিলিয়ন প্যারামিটার

২০২৩ সালের অক্টোবরে কোয়ালকম উন্মোচন করে Snapdragon 8 Gen 3, যার বিল্ট-ইন NPU দাবি করে ১০ বিলিয়ন প্যারামিটার পর্যন্ত LLM সরাসরি ফোনে চালাতে পারে। এই চিপ এখন বিশ্বব্যাপী ফ্ল্যাগশিপ অ্যান্ড্রয়েড ফোনের ভিত্তি। Snapdragon X Elite ল্যাপটপ চিপও এসেছে, যার ফলে জন্ম নিয়েছে Microsoft Copilot+ PCs লাইন। কয়েক বছর আগে "AI PC" কথাটা বিপণনের চটক মনে হতো; এখন এটা হার্ডওয়্যারের বাস্তবতা।

ছোট মডেলের বড় লক্ষ্য — ফাই-৩, লামা ৩.২, জেমা

এজ এআইয়ের আরেক স্তম্ভ হলো ছোট ভাষা মডেল (SLM)ছোট ভাষা মডেল (SLM)তুলনামূলক কম প্যারামিটারের ছোট আকারের ভাষা মডেল যা সীমিত হার্ডওয়্যারে চলতে পারে। মাইক্রোসফট ২০২৪ সালের এপ্রিলে চালু করে Phi-3 সিরিজ, যার ৩.৮ বিলিয়ন প্যারামিটার সংস্করণ ফোনেই চলে। সেপ্টেম্বরে মেটা প্রকাশ করে Llama 3.2-এর ১বি ও ৩বি মডেল, বিশেষভাবে ডিভাইস-কেন্দ্রিক করে তৈরি। গুগলের Gemma 2B একই রকম লক্ষ্যে তৈরি। ৪-বিট কিংবা int8 কোয়ান্টাইজেশনের মাধ্যমে এসব মডেলের RAM-ব্যবহার নামিয়ে আনা হয়েছে দুই-তিন গিগাবাইটে — অর্থাৎ যে RAM এক সময় একটা গোটা অপারেটিং সিস্টেমের জন্যও যথেষ্ট ছিল না, সেটাই এখন একটা ভাষা মডেল চালানোর জন্য যথেষ্ট।

সুবিধা স্পষ্ট, কিন্তু ফাঁকিও আছে

অন-ডিভাইস এআইয়ের সুবিধাগুলো আমার কাছে অস্বীকার করার উপায় নেই:

  • গোপনীয়তা — আপনার ব্যক্তিগত বার্তা, ছবি ও স্বাস্থ্য-তথ্য ডিভাইসের বাইরে যায় না
  • অফলাইন সক্ষমতা — ইন্টারনেট না থাকলেও এআই কাজ করে
  • শূন্য লেটেন্সি — প্রতিটা প্রশ্নে নেটওয়ার্ক রাউন্ড-ট্রিপ নেই
  • এপিআই খরচ নেই — প্রতি টোকেনের বিল থেকে মুক্তি

তবে আমি এটাও মনে করিয়ে দিতে চাই — সীমাবদ্ধতাও বাস্তব। ডিভাইসে চলা মডেল ক্লাউডের ফ্রন্টিয়ার মডেলেরফ্রন্টিয়ার মডেলেরসবচেয়ে বড় ও সক্ষম, সাধারণত ক্লাউডে চলা অত্যাধুনিক এআই মডেল তুলনায় সক্ষমতায় এখনো পিছিয়ে, ব্যাটারি ও তাপ নিয়েও সীমা রয়েছে, আর বড় প্রসঙ্গ-উইন্ডোপ্রসঙ্গ-উইন্ডোএকবারে একটি এআই মডেল কতটুকু লেখা মনে রেখে প্রক্রিয়া করতে পারে তার সীমা এখনো দুর্লভ। অর্থাৎ এটা ক্লাউড এআইকে প্রতিস্থাপন করছে না — বরং তার পাশে একটা নতুন স্তর যোগ করছে।

বাংলাদেশের প্রান্তিক এলাকায় এর মানে কী?

আমাদের শহরগুলোতে ফোর-জি ও ফাইভ-জি মোটামুটি সহজলভ্য, কিন্তু চর, পাহাড়ি এলাকা ও প্রত্যন্ত গ্রামে ইন্টারনেট গতি এখনো অনিয়মিত — এটা আমরা সবাই জানি, কিন্তু কতটা গুরুত্ব দিয়ে ভাবি? আমার মতে, অন-ডিভাইস এআই এই অসমতা কমানোর একটা বাস্তব হাতিয়ার হতে পারে। কৃষি পরামর্শ, প্রাথমিক স্বাস্থ্য পরামর্শ, শিক্ষা-ভিত্তিক অ্যাপ নেটওয়ার্ক ছাড়াও কাজ করতে পারবে। শিক্ষার্থীরা নিম্ন-মধ্যম দামের স্মার্টফোনেও এআই টিউটর ব্যবহার করতে পারবেন, ডেটা চার্জের চিন্তা ছাড়াই।

কিন্তু এখানে একটা বড় ঘাটতির কথা না বললে অসৎ বিশ্লেষণ হবে — ডিভাইসে চলতে সক্ষম, উন্নত মানের বাংলা-সমর্থিত মডেল এখনো সীমিত। বেশিরভাগ ছোট মডেল ইংরেজিতে প্রশিক্ষিত, বাংলায় নির্ভরযোগ্যতা কম। এই ঘাটতি পূরণের দায়িত্ব এখন আমাদের নিজেদের গবেষকদের হাতে — যারা লামা ৩.২ বা ফাই-৩ ফাইন-টিউন করে বাংলার জন্য ছোট মডেল তৈরি করতে পারেন। এটা কারো এসে করে দেওয়ার অপেক্ষায় থাকার বিষয় নয়।

ক্লাউড এআই একেবারে বিলুপ্ত হবে না — বড়, জটিল কাজের জন্য এটাই থাকবে। কিন্তু দৈনন্দিন বেশিরভাগ এআই-অভিজ্ঞতা আগামী কয়েক বছরে ধীরে ধীরে সরে আসবে হাতের মুঠোয় থাকা ডিভাইসে। এই পরিবর্তনটা যত আগে চিহ্নিত করা যাবে, ততই ভালো — আর আমার বিশ্বাস, এটাই বাংলাদেশের প্রযুক্তি সম্প্রদায়ের জন্য সবচেয়ে কম আলোচিত অথচ সবচেয়ে বড় সুযোগগুলোর একটা।