অ্যালাইনমেন্ট প্রবলেম — আসলে এর অর্থ কী

১ · একটি নির্ভুল সংজ্ঞা

L36-এ আমরা দেখেছি একটি ক্যাপাবল সিস্টেম তাকে যা "অপ্টিমাইজ করতে বলা হয়েছে" তা খুব দক্ষতার সাথে করে, কিন্তু একটি অ্যালাইনড সিস্টেম তার ডিজাইনার/ব্যবহারকারী আসলে যা চেয়েছিলেন তা করে। অ্যালাইনমেন্ট প্রবলেমThe Alignment Problemএকটি AI সিস্টেমে এমনভাবে উদ্দেশ্য specify ও instill করার সমস্যা যাতে তার আচরণ মানুষের প্রকৃত উদ্দেশ্যের সাথে নির্ভরযোগ্যভাবে মিলে যায় — অনাকাঙ্ক্ষিত পরিস্থিতিতেও। হলো ঠিক এই ফাঁকটি বন্ধ করার প্রযুক্তিগত ও গবেষণা-সমস্যা। একটু আরও নির্ভুলভাবে বললে, এটি দুটি স্বতন্ত্র উপ-সমস্যায় ভাগ করা যায়:

• স্পেসিফিকেশন সমস্যা: ডিজাইনারের মাথায় থাকা জটিল, প্রায়ই আংশিক-অলিখিত উদ্দেশ্যকে একটি লিখিত নির্দেশনা, রিওয়ার্ড ফাংশন বা ট্রেনিং সিগন্যালে রূপান্তর করা — এমনভাবে যা সেই উদ্দেশ্যকে যথাসম্ভব সম্পূর্ণভাবে ধারণ করে।
• রোবাস্টনেস/ইনস্টিলেশন সমস্যা: সিস্টেমটি সেই স্পেসিফিকেশন অনুযায়ী নির্ভরযোগ্যভাবে আচরণ করবে কিনা — শুধু ট্রেনিংয়ের সময় দেখা পরিস্থিতিতে নয়, বরং নতুন, অপ্রত্যাশিত পরিস্থিতিতেও।

এই দ্বিতীয় শর্তটি — "পরিস্থিতি যা ডিজাইনাররা সরাসরি আগে থেকে ভাবেননি" — সংজ্ঞাটির একটি গুরুত্বপূর্ণ অংশ। একটি সিস্টেম ট্রেনিং/টেস্টিং-এর সময় দেখা সব পরিস্থিতিতে নিখুঁতভাবে "সঠিক" আচরণ করলেও, বাস্তব দুনিয়ার নতুন পরিস্থিতিতে (যেখানে স্পেসিফিকেশনটি অস্পষ্ট বা অসম্পূর্ণ হয়ে পড়ে) সম্পূর্ণ ভিন্নভাবে আচরণ করতে পারে — এটিই অ্যালাইনমেন্টকে শুধু "টেস্ট পাস করা"র চেয়ে অনেক কঠিন একটি সমস্যা বানায়।

২ · কেন প্রকৃত উদ্দেশ্য সম্পূর্ণভাবে লেখা এত কঠিন

মানুষের উদ্দেশ্য প্রায়ই বিপুল পরিমাণ অলিখিত প্রেক্ষাপট ও ধরে-নেওয়া শর্ত (implicit constraints) বহন করে যা আমরা সাধারণত বলার প্রয়োজনই বোধ করি না — কারণ মানুষে-মানুষে যোগাযোগে এগুলো স্বতঃসিদ্ধ ধরে নেওয়া হয়। "ঘরটা পরিষ্কার করো" বললে আমরা ধরেই নিই যে আসবাবপত্র ভাঙা যাবে না, গুরুত্বপূর্ণ কাগজ ফেলে দেওয়া যাবে না, রাতে জোরে শব্দ করা যাবে না — এসব কখনোই স্পষ্টভাবে বলা হয় না। একটি সাংখ্যিক স্পেসিফিকেশন বা রিওয়ার্ড ফাংশনে এই সব অলিখিত শর্ত অন্তর্ভুক্ত করতে ব্যর্থ হলে, সিস্টেমটি সেই স্পেসিফিকেশন যতই নিখুঁতভাবে "অপ্টিমাইজ" করুক না কেন, ফলাফল প্রকৃত উদ্দেশ্য থেকে বিচ্যুত হতে পারে।

৩ · একটি ছোট্ট "স্পেসিফিকেশন গ্যাপ" হিসাব

নিচের কোড সেলে এই ধারণাটি একটি ছোট, ইলাস্ট্রেটিভ সংখ্যায় দেখা যাক — একটি ঘর-পরিষ্কার-করা রোবটের ডিজাইনারের মাথায় থাকা উদ্দিষ্ট শর্তের তালিকা বনাম তাকে সত্যিকারে দেওয়া স্পেসিফিকেশনে কতটুকু আসলে লেখা আছে। (এই একই রোবট দৃশ্যকল্প L38-এ আরও গভীরে বিশ্লেষণ করা হবে।)

# একটি সিন্থেটিক, ইলাস্ট্রেটিভ উদাহরণ -- বাস্তব কোনো রোবট বা কোম্পানির ডেটা নয়
# একটি ঘর-পরিষ্কার-করা রোবটের ডিজাইনারের মাথায় থাকা "প্রকৃত উদ্দিষ্ট" শর্তের তালিকা

intended_constraints = [
    "ঘরের দৃশ্যমান ও অদৃশ্য সব জায়গা থেকে প্রকৃতপক্ষে ময়লা সরাতে হবে",
    "আসবাবপত্র বা দেয়ালের কোনো ক্ষতি করা যাবে না",
    "গুরুত্বপূর্ণ কাগজপত্র বা ছোট জিনিস ভুল করে ফেলে দেওয়া যাবে না",
    "বাসিন্দা ঘুমানোর সময় জোরে শব্দ করে কাজ করা যাবে না",
    "নিজের সেন্সর/ক্যামেরাকে বিভ্রান্ত করে মিথ্যা 'কাজ শেষ' রিপোর্ট দেওয়া যাবে না",
]

# রোবটকে সত্যিকারের যে সাংখ্যিক স্পেসিফিকেশন/রিওয়ার্ড লক্ষ্য হিসেবে দেওয়া হয়েছে
# তা উপরের তালিকার মাত্র একটি অংশ সরাসরি কভার করে -- বাকিগুলো "implicit" থেকে যায়
specified_constraints = [
    "ঘরের দৃশ্যমান ও অদৃশ্য সব জায়গা থেকে প্রকৃতপক্ষে ময়লা সরাতে হবে",
]

def specification_gap(intended, specified):
    covered = [c for c in intended if c in specified]
    missing = [c for c in intended if c not in specified]
    return covered, missing

covered, missing = specification_gap(intended_constraints, specified_constraints)

print(f"মোট উদ্দিষ্ট শর্ত সংখ্যা:        {len(intended_constraints)}")
print(f"স্পেসিফিকেশনে সরাসরি লেখা আছে:   {len(covered)}")
print(f"স্পেসিফিকেশনে অনুপস্থিত (implicit): {len(missing)}\n")
print("অনুপস্থিত শর্তগুলো:")
for m in missing:
    print(f"  - {m}")

৪ · এই সংজ্ঞা থেকে বাকি M9-এ যা আসছে