AGI ও এক্সিস্টেনশিয়াল রিস্ক বিতর্ক

১ · এই বিতর্কে "AGI" ও "এক্সিস্টেনশিয়াল রিস্ক" মানে কী

এই বিতর্ক বোঝার আগে দুটি টার্মের সংজ্ঞা স্পষ্ট করা দরকার, কারণ এদের অস্পষ্ট ব্যবহার প্রায়ই বিতর্ককে বিভ্রান্ত করে। AGI (Artificial General Intelligence) বলতে বোঝানো হয় একটি হাইপোথেটিক্যাল/ লক্ষ্যযুক্ত ভবিষ্যৎ ধরনের সিস্টেম, যার প্রায় সব ধরনের বুদ্ধিবৃত্তিক কাজে মানুষের সমান বা তার বেশি সাধারণ সক্ষমতা থাকবে — এটি বর্তমানে বিদ্যমান কোনো নির্দিষ্ট সিস্টেমের নাম নয়, বরং একটি ভবিষ্যৎ সম্ভাবনার ধারণা। এক্সিস্টেনশিয়াল রিস্ক এই প্রসঙ্গে বোঝায় এমন ঝুঁকি যা সভ্যতা-স্কেল, সম্ভাব্যত অপরিবর্তনীয় বিপর্যয় ঘটাতে পারে। এই দুটি টার্ম নিরপেক্ষভাবে সংজ্ঞায়িত করার পর, নিচে দুটি বিশ্বাসযোগ্য অবস্থান তুলনামূলক গভীরতায় উপস্থাপন করা হলো।

২ · পক্ষ ১ — সিভিয়ার/সভ্যতা-স্কেল ঝুঁকির যুক্তি

অ্যালাইনমেন্ট কঠিন, এবং ব্যর্থতা স্কেল-নির্ভরভাবে গুরুতর হতে পারে। এই কোর্সের M6-এ আমরা দেখেছি স্পেসিফিকেশন গেমিং (L24), গুডহার্টস ল (L25), ও করিজিবিলিটি সমস্যা (L26) — এগুলো দেখায় একটি AI সিস্টেমকে ঠিক আমরা যা চাই তা নির্ভরযোগ্যভাবে করানো একটি প্রকৃত, এখনো-অমীমাংসিত প্রকৌশল সমস্যা। এই পক্ষের মূল যুক্তি হলো: যদি একটি সিস্টেম যথেষ্ট সক্ষম হয় (বিস্তৃত পরিসরে স্বাধীনভাবে পরিকল্পনা ও কাজ করতে পারে) অথচ তার লক্ষ্য মানুষের প্রকৃত উদ্দেশ্যের সাথে নির্ভরযোগ্যভাবে না মেলে, তাহলে সেই ভুল-মিলের পরিণতি ছোট সফটওয়্যার বাগের মতো সহজে সীমাবদ্ধ বা পূর্বাবস্থায় ফেরানো নাও যেতে পারে — বিশেষ করে যদি সিস্টেমটি L26-এ আলোচিত "নিজের বন্ধ হওয়া প্রতিরোধ করা" ধরনের ইন্সট্রুমেন্টাল লক্ষ্য গ্রহণ করে।

ক্যাপাবিলিটি ট্র্যাজেক্টরি অনুমান করা কঠিন। L52-এ আমরা দেখেছি কিছু ক্যাপাবিলিটি স্কেলের সাথে স্মুথভাবে না বেড়ে তুলনামূলকভাবে হঠাৎ আবির্ভূত হতে পারে। এই পক্ষ যুক্তি দেন, এর মানে হলো একটি নতুন, উল্লেখযোগ্যভাবে বড় সিস্টেমের সম্পূর্ণ ক্ষমতা ডিপ্লয়মেন্টের আগে সম্পূর্ণ নিশ্চিতভাবে যাচাই করা কঠিন — যা নিরাপত্তা মূল্যায়নকে বিশেষভাবে কঠিন করে তোলে এবং সতর্কতার পক্ষে যুক্তি জোগায়।

অনিশ্চয়তার মধ্যেও সিভিয়ারিটি-ভিত্তিক প্রিকশনারি যুক্তি। এই পক্ষ যুক্তি দেন, যখন কোনো সম্ভাব্য ফলাফল সিভিয়ার ও অপরিবর্তনীয় হতে পারে, তখন তার সঠিক সম্ভাব্যতা নিয়ে সম্পূর্ণ নিশ্চিততা না থাকলেও গুরুত্বপূর্ণ প্রস্তুতিমূলক বিনিয়োগ যুক্তিসঙ্গত হতে পারে — এভিয়েশন সেফটি বা মহামারী প্রস্তুতির মতো অন্যান্য উচ্চ-স্টেক ক্ষেত্রেও একই ধরনের যুক্তি ব্যবহৃত হয় (একটি সাদৃশ্য হিসেবে, নিশ্চিত দাবি হিসেবে নয়)।

ক্ষেত্র-স্তরের উদ্বেগের বাস্তব উপস্থিতি। এটি একটি ভালোভাবে-নথিভুক্ত সত্য যে বর্তমান AI গবেষণা সম্প্রদায়ের একটি উল্লেখযোগ্য অংশ — প্রযুক্তিগত সেফটি গবেষক, প্রধান AI ল্যাবের ভেতরের ডেডিকেটেড সেফটি টিম, এবং বহু স্বতন্ত্র গবেষক — এই ধরনের দীর্ঘমেয়াদী ঝুঁকিকে গুরুত্ব সহকারে নেওয়ার মতো যথেষ্ট গুরুত্বপূর্ণ মনে করেন যে তারা তাদের ক্যারিয়ার এই বিষয়ে গবেষণায় নিয়োজিত করেছেন — এটি এই উদ্বেগ কতটা ব্যাপক তা নিয়ে কোনো নির্দিষ্ট শতাংশ দাবি না করেই বলা যায়।

৩ · পক্ষ ২ — সংশয়বাদী দৃষ্টিভঙ্গি

টাইমলাইন অত্যন্ত অনিশ্চিত। কবে, বা আদৌ, মানুষের-সমান সাধারণ সক্ষমতাসম্পন্ন সিস্টেম তৈরি হবে কি না তা ভবিষ্যদ্বাণী করা অত্যন্ত কঠিন — AI-এর ইতিহাসে বারবার দেখা গেছে বিশেষজ্ঞ ভবিষ্যদ্বাণী উভয় দিকেই (অতিরিক্ত আশাবাদী ও অতিরিক্ত হতাশাবাদী) ভুল প্রমাণিত হয়েছে, এটি একটি সাধারণ, ভালোভাবে-নথিভুক্ত প্যাটার্ন। এই পক্ষের যুক্তি হলো, একটি নির্দিষ্ট, উচ্চ-অনিশ্চিত সময়রেখাকে ভিত্তি করে আজকের সিদ্ধান্তে দৃঢ়ভাবে কাজ করা নিজেই ঝুঁকিপূর্ণ যুক্তি-পদ্ধতি হতে পারে।

বর্তমান কৌশল ও AGI-এর মধ্যে ব্যবধান বড়। এই পক্ষ যুক্তি দেন, বর্তমান সিস্টেম — নির্দিষ্ট টাস্কে যতই সক্ষম হোক না কেন — এখনও ব্রিটল (নতুন, প্রশিক্ষণ-বহির্ভূত পরিস্থিতিতে সহজেই ব্যর্থ হয়), নতুন বাস্তব-বিশ্ব ডোমেইনে দৃঢ়, সাধারণ যুক্তি/পরিকল্পনার অভাব দেখায়, এবং সীমিত পরিসরেও নির্ভরযোগ্যভাবে ডিপ্লয় করতে ব্যাপক বিশেষায়িত প্রকৌশল প্রয়োজন হয়। সংশয়বাদীদের মতে, "সাধারণভাবে সক্ষম, স্বায়ত্তশাসিতভাবে কাজ করতে সক্ষম AGI"-এ পৌঁছানোর ব্যবধান বড় এবং কোনো অনুমানযোগ্য সময়সূচিতে স্পষ্টভাবে সংকুচিত হচ্ছে বলে প্রমাণিত নয় — তাই সভ্যতা-স্কেল ঝুঁকিকে একটি আসন্ন পরিকল্পনা-অগ্রাধিকার হিসেবে ধরে নেওয়া অকালপক্ব হতে পারে।

সুযোগ-ব্যয় ও মনোযোগ সরে যাওয়ার ঝুঁকি। এই পক্ষের একটি প্রধান যুক্তি হলো, প্রতিভা, তহবিল ও রেগুলেটরি মনোযোগ — সবই সীমিত সম্পদ — যদি অনুমাননির্ভর দীর্ঘমেয়াদী দৃশ্যকল্পে ব্যাপকভাবে ব্যয় হয়, তাহলে আজকের, ইতিমধ্যে-নথিভুক্ত, বাস্তব মানুষকে পরিমাপযোগ্যভাবে প্রভাবিত করা ক্ষতি — বায়াস ও বৈষম্যমূলক ফলাফল (M3), শ্রমবাজার ব্যাঘাত (L34), মিসইনফরমেশন অ্যামপ্লিফিকেশন (L33), মুষ্টিমেয় বড় AI কোম্পানির হাতে ক্ষমতা কেন্দ্রীভূত হওয়া — এসবের মোকাবিলা পিছিয়ে পড়তে পারে। কিছু সমালোচক আরও যুক্তি দেন, নাটকীয় এক্সিস্টেনশিয়াল-রিস্ক ফ্রেমিং কখনো কখনো বড়, প্রতিষ্ঠিত AI কোম্পানির স্বার্থেও কাজ করতে পারে — এই ধারণা তৈরি করে যে শুধু বড়, সুপ্রতিষ্ঠিত ল্যাবই এত "শক্তিশালী" প্রযুক্তি নিরাপদে সামলাতে পারে, যা আজকের নিয়ন্ত্রক নজরদারি কমাতে বা বাজারের অবস্থান সুসংহত করতে পরোক্ষভাবে সাহায্য করতে পারে — এটি গবেষণা সম্প্রদায়ে সত্যিই উত্থাপিত একটি সমালোচনা, নিরপেক্ষভাবে এখানে উপস্থাপন করা হলো।

ফলসিফায়াবিলিটি ও প্রমাণ-ভিত্তিক কঠোরতার প্রশ্ন। সংশয়বাদীরা যুক্তি দেন, কিছু দীর্ঘমেয়াদী ঝুঁকির যুক্তি এমপিরিক্যালি পরীক্ষা বা ফলসিফাই করা কঠিন, কারণ বর্ণিত দৃশ্যকল্পের কোনো ঐতিহাসিক নজির নেই। তাদের মতে, এটি এই ক্ষেত্রের সাধারণ পছন্দের (এই কোর্স জুড়ে শেখানো হয়েছে — যেমন M3-এর নির্ভুল, গণনাকৃত ফেয়ারনেস মেট্রিকের উপর জোর) সাথে কিছুটা অস্বস্তিকরভাবে বসে, যেখানে দাবিগুলো পরিমাপযোগ্য প্রমাণের উপর ভিত্তি করে তৈরি করার চেষ্টা করা হয়।

৪ · একটি সত্যিকারের গণনা — কেন সম্ভাব্যতার অনুমান এত গুরুত্বপূর্ণ

নিচের কোড সেলে একটি ইচ্ছাকৃতভাবে সরল, ইলাস্ট্রেটিভ সূত্র ব্যবহার করা হয়েছে — সিভিয়ারিটি ও টাইমলাইন স্থির রেখে শুধু সম্ভাব্যতার অনুমান সংশয়বাদী-স্টাইল নিম্ন মান থেকে উদ্বিগ্ন-পক্ষ-স্টাইল উচ্চতর মান পর্যন্ত পরিবর্তন করা হয়েছে, যাতে দেখা যায় শুধু এই একটি অনুমানের পার্থক্যই ফলাফলকে কতটা বদলে দিতে পারে। মান দুটি কোনো নির্দিষ্ট গবেষক বা প্রতিষ্ঠানের প্রকাশিত অনুমান নয় — সম্পূর্ণ ইলাস্ট্রেটিভ।

def illustrative_expected_impact(probability, severity=1.0, years_out=1.0):
    # একটি ইচ্ছাকৃতভাবে সরল, ইলাস্ট্রেটিভ হিউরিস্টিক -- বাস্তব সিদ্ধান্ত-তত্ত্বের সম্পূর্ণ মডেল নয়
    return probability * severity / years_out

# সিভিয়ারিটি ও টাইমলাইন এখানে একটি স্বাভাবিক রেফারেন্স মান হিসেবে স্থির রাখা হয়েছে,
# যাতে শুধু সম্ভাব্যতা অনুমানের প্রভাবটি আলাদাভাবে দেখা যায়
severity = 1.0
years_out = 1.0

# সংশয়বাদী-স্টাইল নিম্ন অনুমান থেকে উদ্বিগ্ন-পক্ষ-স্টাইল উচ্চতর অনুমান পর্যন্ত একটি পরিসর -- ইলাস্ট্রেটিভ
probabilities = [0.001, 0.01, 0.05, 0.1, 0.2, 0.3]

baseline = illustrative_expected_impact(probabilities[0], severity, years_out)

for p in probabilities:
    score = illustrative_expected_impact(p, severity, years_out)
    ratio_to_lowest = score / baseline
    print(f"সম্ভাব্যতা অনুমান = {p:>5.3f}  →  ইলাস্ট্রেটিভ স্কোর = {score:.3f}   (সর্বনিম্ন অনুমানের {ratio_to_lowest:>3.0f}× বেশি)")

print()
print("লক্ষ্য করুন -- সিভিয়ারিটি ও টাইমলাইন এখানে স্থির; শুধু সম্ভাব্যতার অনুমান বদলানো হয়েছে,")
print("আর তাতেই ইলাস্ট্রেটিভ স্কোর সর্বনিম্ন থেকে সর্বোচ্চ অনুমানে ৩০০× পর্যন্ত বদলে যাচ্ছে --")
print("এটাই দেখায় কেন এই বিতর্কের একটা বড় অংশ মূল্যবোধের পার্থক্য নয়, সম্ভাব্যতা/টাইমলাইনের")
print("অনুমানের পার্থক্য থেকে আসে।")