05/08/2026
এআই হ্যালুসিনেশন কী এবং কেন এটা থামছে না?
২০২৪ সালের ২ এপ্রিল বিশ্ব স্বাস্থ্য সংস্থা (WHO) নতুন একটা চ্যাটবট চালু করে, যার নাম ছিল SARAH (Smart AI Resource Assistant for Health)। মুখের অভিব্যক্তি বদলাতে সক্ষম এই ভার্চুয়াল সহকারী GPT-3.5 প্রযুক্তির ওপর তৈরি। ৮টি ভাষায়, দিনরাত ২৪ ঘণ্টা মানুষের সঙ্গে এটা কথা বলে। আর এর কাজও গুরুত্বপূর্ণ—স্বাস্থ্যকর খাবার, ধূমপান ছাড়া, মানসিক চাপ সামলানোসহ নানা বিষয়ে পরামর্শ দেওয়া।
কিন্তু কয়েক দিনের মধ্যেই একটা সমস্যা ধরা পড়ে। SARAH এমন তথ্য দিতে শুরু করে, যেগুলি বাস্তবে নেই। একবার তো সান ফ্রান্সিসকোর কয়েকটা ক্লিনিকের নাম-ঠিকানাই বানিয়ে বলেছিল, বাস্তবে যেগুলির কোনো অস্তিত্বই নেই।
শেষ পর্যন্ত WHO নিজেদের ওয়েবসাইটেই সতর্কবার্তা দিয়ে জানায়, চ্যাটবটের দেওয়া উত্তর সব সময় সঠিক নাও হতে পারে।
ঘটনাটা কয়েক দিনের মধ্যেই চাপা পড়ে যায়। কিন্তু প্রশ্ন ঠিকই থেকে যায় যে, কোটি কোটি তথ্য শিখেও এআই কেন আত্মবিশ্বাসের সঙ্গে ভুল তথ্য বানিয়ে বলে? আর এত পরিচিত সমস্যা এখনও পুরোপুরি দূর করা যায়নি কেন?
এই বানিয়ে ফেলা তথ্যের নামই হ্যালুসিনেশন (hallucination)। সহজ করে বললে, এমন উত্তর যা পড়তে বা শুনতে একেবারে বিশ্বাসযোগ্য লাগে, অথচ বাস্তবের সঙ্গে তার কোনো মিল নেই।
কখনও সরাসরি ভুল তথ্য, কখনো আগাগোড়া বানানো রেফারেন্স, কখনো যুক্তির ভেতরে ফাঁক, আবার কখনো প্রশ্নের প্রেক্ষাপটটাই ভুল বোঝা। চেহারা যেমনই হোক, মূল ব্যাপারটা একই থাকে, যন্ত্র আত্মবিশ্বাসের সঙ্গে এমন কথা বলছে, যা সত্য নয়।
চ্যাটবট প্রযুক্তির সবচেয়ে আলোচিত এবং জটিল সমস্যাগুলির একটা তাই এটা। তবে শুরুতেই পরিষ্কার করে নেওয়া দরকার, এটা কোনো সফটওয়্যার ত্রুটি বা সাময়িক গোলযোগ নয়। বরং ভাষা মডেল যেভাবে কাজ করে, সেই পদ্ধতির মধ্যেই এই সীমাবদ্ধতার শিকড় লুকিয়ে আছে।
যন্ত্র আসলে করছে কী
অনেকের ধারণা, চ্যাটবট কোনো ডেটাবেজ থেকে উত্তর খুঁজে আনে। আসলে বড় ভাষা মডেল (LLM) সাধারণ অবস্থায় তা করে না। এটা সার্চ ইঞ্জিন বা বিশ্বকোষ নয়; ভাষার সম্পর্ক শিখে নেওয়া একটা গাণিতিক ব্যবস্থা।
একটা সহজ উদাহরণ ধরা যাক। কেউ যদি লেখে, "বাংলাদেশের রাজধানী..."—আপনি প্রায় না ভেবেই বলতে পারবেন, "ঢাকা"। আবার, "আজ আকাশটা..."—তখন আপনার মাথায় আসতে পারে "নীল", "মেঘলা" বা "পরিষ্কার"।
কারণ এই শব্দগুলির সঙ্গে আগের শব্দগুলির সম্পর্ক আপনি অসংখ্যবার দেখেছেন। বড় ভাষা মডেলও অনেকটা এমনভাবেই কাজ করে। তবে পার্থক্য হল, মানুষের মত বোঝার চেষ্টা না করে সে গাণিতিক হিসাবের মাধ্যমে অনুমান করে এরপর কোন শব্দ আসার সম্ভাবনা সবচেয়ে বেশি।
এই কাজ করতে গিয়ে মডেল কোনো বইয়ের পাতা উল্টায় না। তার ভেতরে থাকে কোটি কোটি গাণিতিক মান, যেগুলিকে বলা হয় প্যারামিটার।
এগুলিকে অনেকটা ভাষা শেখার অভিজ্ঞতার ছাপ বলা যায়। প্রশিক্ষণের সময় মডেল ইন্টারনেট, বই, গবেষণাপত্রসহ বিপুল পরিমাণ লেখা পড়ে। সেই লেখাগুলি মুখস্থ করে না; বরং কোন শব্দের সঙ্গে কোন শব্দের সম্পর্ক, কোন প্রসঙ্গে কী ধরনের বাক্য গড়ে ওঠে, সেগুলির পরিসংখ্যানগত ছাঁদ শিখে নেয়।
আর উত্তর লেখার সময়ও সে একসঙ্গে পুরো বাক্য তৈরি করে না। বরং ধাপে ধাপে আগায়। প্রথমে একটা শব্দ বা শব্দাংশ বেছে নেয়, তারপর সেটাকে সামনে রেখে পরের শব্দের সম্ভাবনা হিসাব করে। এরপর নতুন অবস্থান থেকে একই হিসাব চালায়।
এভাবেই একটার পর একটা শব্দ জুড়ে তৈরি হয় বাক্য, অনুচ্ছেদ, এমনকি পুরো একটা নিবন্ধ। এই প্রক্রিয়ার নাম next-token prediction।
এখানেই লুকিয়ে আছে হ্যালুসিনেশনের বীজ। মডেল আসলে সত্য-মিথ্যা যাচাই করে না; সে কেবল হিসাব করে কোন উত্তর ভাষার দিক থেকে সবচেয়ে সম্ভাব্য। ফলে অনেক সময় এমন উত্তর তৈরি হয়, যা পড়তে বিশ্বাসযোগ্য লাগে, কিন্তু বাস্তবের সঙ্গে মেলে না। অর্থাৎ তার কাছে "সবচেয়ে সম্ভাব্য" আর "সবচেয়ে সত্য", এই দুই বিষয় এক নয়।
উত্তর কতটা সতর্ক হবে, আর কতটা সৃজনশীল হবে, সেটাও কিছুটা নিয়ন্ত্রণ করা যায়। এর জন্য ব্যবহৃত হয় temperature নামের সেটিং। মান কম হলে মডেল তুলনামূলক নিরাপদ ও অনুমেয় উত্তর দেয়।
মান বাড়ালে নতুন ধরনের উত্তর দেওয়ার প্রবণতা বাড়ে, তবে ভুল করার ঝুঁকিও বেড়ে যায়। কিন্তু একটা বিষয় মনে রাখা জরুরি, temperature শূন্যে নামিয়ে দিলেও হ্যালুসিনেশন পুরাপুরি দূর হয় না। কারণ সমস্যা শুধু অনুমানের মাত্রায় নয়; ভাষা মডেলের কাজ করার মৌলিক পদ্ধতির মধ্যেই এর শিকড় রয়েছে।
যেখান থেকে হ্যালুসিনেশন শুরু
২০২৩ সালের ফেব্রুয়ারিতে গুগল তাদের নতুন চ্যাটবট Bard–এর (বর্তমান Gemini) প্রথম ডেমো প্রকাশ করে। সেখানে চ্যাটবট দাবি করেছিল, জেমস ওয়েব স্পেস টেলিস্কোপ সৌরজগতের বাইরের একটা গ্রহের প্রথম ছবি তুলেছে।
এই তথ্য ভুল ছিল। প্রথম ছবি তুলেছিল ইউরোপিয়ান সাদার্ন অবজারভেটরির ভেরি লার্জ টেলিস্কোপ, সেটাও ২০০৪ সালে, অথার্ৎ জেমস ওয়েব উৎক্ষেপণের বহু বছর আগে।
একই বছরে আরেকটা ঘটনা দেখায়, এই সমস্যা কত গুরুতর হতে পারে।
২০২৩ সালে নিউইয়র্কের আইনজীবী স্টিভেন শোয়ার্টজ আদালতে একটা মামলার নথি জমা দেন। সেখানে ছয়টা আদালতের রায় উদ্ধৃত করা হয়েছিল। পরে দেখা যায়, একটারও অস্তিত্ব নেই। সবগুলিই ChatGPT বানিয়ে দিয়েছিল।
আরও উদ্বেগের বিষয়, আইনজীবী যখন চ্যাটবটকে জিজ্ঞেস করেন, মামলাগুলি সত্যি কিনা, সে আত্মবিশ্বাসের সঙ্গে উত্তর দেয়, “হ্যাঁ, এগুলি বাস্তব।” পরে বিচারক আইনজীবীদের ৫,০০০ ডলার জরিমানা করেন।
এই দুই ঘটনা একই শিক্ষা দেয়। একটা ভাষা মডেল খুব আত্মবিশ্বাসের সঙ্গে কথা বলতে পারে, কিন্তু সেই আত্মবিশ্বাস কখনোই তার নির্ভুলতার প্রমাণ নয়। বরং সবচেয়ে বড় ঝুঁকি হল, ভুল তথ্যও সে এমন ভঙ্গিতে বলে, যেন তাতে কোনো সন্দেহেরই অবকাশ নেই।
“জানি না” বলতে না পারার আসল কারণ
এই সমস্যা বোঝার জন্য একটা ছোট ঘটনা দিয়ে শুরু করা যাক।
এআই কেন ভুল তথ্য বানায়, তা নিয়ে গবেষণা করছেন কম্পিউটার বিজ্ঞানী অ্যাডাম কালাই (Adam Kalai)। একদিন একটা চ্যাটবটকে তার নিজের পিএইচডি অভিসন্দর্ভের নাম জিজ্ঞেস করা হল। চ্যাটবট পুরো আত্মবিশ্বাসের সঙ্গে তিনবারে তিনটা ভিন্ন নাম বলল, যার একটাও সঠিক নয়।
এরপর তার জন্মতারিখ জানতে চাইলে আবারও তিনটা আলাদা উত্তর দিল, সেগুলিও সব ভুল। যে গবেষক এ সমস্যা নিয়ে কাজ করছেন, তার সম্পর্কেই মডেলের এমন আত্মবিশ্বাসী ভুল গবেষকদের নতুন করে ভাবতে বাধ্য করে।
২০২৫ সালে OpenAI ও জর্জিয়া টেকের একদল গবেষক (অ্যাডাম কালাই, ওফির নাখুম, সন্তোষ ভেম্পালা ও এডউইন ঝাং) এই বিষয় নতুনভাবে ব্যাখ্যা করেন। পরে ২০২৬ সালে তাদের গবেষণা Nature-এ প্রকাশিত হয়। যুক্তি ছিল, হ্যালুসিনেশন শুধু মডেলের সমস্যা নয়; আমরা যেভাবে মডেলের দক্ষতা মাপি, সেই পদ্ধতিও এর জন্য দায়ী।
গবেষকেরা এর জন্য সহজ উদাহরণ দেন। পরীক্ষার হলে এমন একজন শিক্ষার্থীর কথা ভাবুন, যে একটা কঠিন প্রশ্নেরও উত্তর জানে না। খাতা ফাঁকা রাখলে যদি নিশ্চিতভাবেই শূন্য পেতে হয়, সে আন্দাজেই কিছু একটা লিখে দেয়।
ভুল হলেও হয়ত কিছু নম্বর পাওয়ার সুযোগ থাকবে। ভাষা মডেলের অবস্থাও অনেকটা এমন। তাকে এমনভাবে মূল্যায়ন করা হয়, যেখানে প্রতিটা প্রশ্নের উত্তর দেওয়াই লাভজনক। ফলে "জানি না" বলার চেয়ে আন্দাজ করে উত্তর দেওয়াই তার কাছে বেশি যুক্তিসংগত হয়ে ওঠে।
গবেষকেরা আরও গুরুত্বপূর্ণ বিষয় তুলে ধরেছেন। একটা উত্তর তৈরি করা আর সেটা সত্য কিনা যাচাই করা, এই দুই বিষয়ও এক নয়।
ভুলের হার কমানো যায় কতটা
হ্যালুসিনেশন পুরাপুরি দূর করা না গেলেও, এর হার কমানোর জন্য কাজ চলছে।
সবচেয়ে সহজ উপায় হল আরও উন্নত ও নির্ভুল তথ্য দিয়ে মডেলকে প্রশিক্ষণ দেওয়া। এতে ভুলের হার কিছুটা কমে। আরেকটা গুরুত্বপূর্ণ পদ্ধতি হলো RAG (Retrieval-Augmented Generation)।
এতে ভাষা মডেলকে নির্ভরযোগ্য ডেটাবেজ বা সার্চব্যবস্থার সঙ্গে যুক্ত করা হয়। ফলে শুধু নিজের শেখা তথ্যের ওপর নির্ভর না করে, প্রয়োজন হলে সে বাইরের উৎস থেকেও তথ্য নিয়ে উত্তর দিতে পারে।
ধাপে ধাপে যুক্তি সাজিয়ে উত্তর দেওয়া, মানুষের প্রতিক্রিয়া থেকে শেখানো এবং নিয়মিত পরীক্ষার মাধ্যমে ভুলের হার মাপাও হ্যালুসিনেশন কমাতে সাহায্য করছে। তবে এগুলি ভুল পুরা দূর করতে পারে না।
বিভিন্ন মডেলের মধ্যেও পার্থক্য আছে। যেমন, Claude অনেক সময় নিজের অনিশ্চয়তা সম্পর্কে বেশি সতর্ক থাকে। এতে ভুল তথ্য বলার ঝুঁকি কমে, কিন্তু অনেক ক্ষেত্রে সে উত্তর না দেওয়াকেই বেছে নেয়। অর্থাৎ নির্ভুলতা আর সব প্রশ্নের উত্তর দেওয়ার মধ্যে এখনও একটা টানাপোড়েন রয়ে গেছে।
যে সীমা থেকেই যায়
সব উন্নতির পরেও একটা মৌলিক বিষয় বদলায় না। বড় ভাষা মডেল মূলত সম্ভাবনার ভিত্তিতে কাজ করে। অর্থাৎ কোন উত্তর সবচেয়ে সম্ভাব্য, সেটা হিসাব করে; কোনটা শতভাগ সত্য, সেটা নিশ্চিত করে না। তাই কোনো প্রতিষ্ঠানই বাস্তবসম্মতভাবে বলতে পারে না যে তাদের ভাষা মডেল ভুল করবে না।
এখানেই আসে alignment-এর প্রশ্ন। একটা মডেলের প্রধান লক্ষ্য কী? সব সময় সত্যের সবচেয়ে কাছাকাছি উত্তর দেওয়া, নাকি ব্যবহারকারীর কাছে সবচেয়ে গ্রহণযোগ্য উত্তর তৈরি করা? বাস্তবে এই দুই লক্ষ্য সব সময় এক নয়।
যখন তাদের মধ্যে সংঘাত তৈরি হয়, তখন অনেক সময় মডেল এমন উত্তর বেছে নেয়, যা শুনতে বেশি বিশ্বাসযোগ্য, কিন্তু বাস্তবতার সঙ্গে পুরাপুরি মেলে না।
দায়টা তাহলে কার
শেষ পর্যন্ত প্রশ্ন শুধু প্রযুক্তির নয়, মানুষেরও।
ভাষা মডেল যে ভুল করতে পারে, এটা এখন আর নতুন খবর নয়। কিন্তু সেই ভুল তথ্য যাচাই না করেই বিশ্বাস করা বা ছড়িয়ে দেওয়ার দায় আমাদের। এই ঝুঁকি সবচেয়ে বেশি চিকিৎসা, আইন, শিক্ষা ও সংবাদমাধ্যমে হয়ে থাকে। যেখানে একটা ভুল তথ্যের প্রভাব অনেক দূর পর্যন্ত গড়াতে পারে।
তাই এআই-কে শেষ কথা নয়, বরং একজন দক্ষ সহকারি হিসাবে ব্যবহার করাই বুদ্ধিমানের কাজ হবে। গুরুত্বপূর্ণ তথ্য, তারিখ, সংখ্যা ও রেফারেন্স নির্ভরযোগ্য উৎসে মিলিয়ে দেখার অভ্যাসই বেশির ভাগ ভুল এড়াতে পারে।
সবচেয়ে গুরুত্বপূর্ণ বিষয় হল, হ্যালুসিনেশন কোনো সাময়িক ত্রুটি নয়, এটা ভাষা মডেলের কাজ করার পদ্ধতির সঙ্গেই জড়িয়ে আছে। ভবিষ্যতে সার্চভিত্তিক উত্তর, এজেন্টের মাধ্যমে তথ্য যাচাই, আলাদা verification স্তর এবং আরও উন্নত প্রশিক্ষণ-পদ্ধতি এই সমস্যা অনেকটাই কমিয়ে দিতে পারে।
কিন্তু সম্পূর্ণ দূর করতে পারবে, এমন নিশ্চয়তা আজ কেউ দিতে পারে না। কেননা এআইকে বুঝে ব্যবহার করলে এটা আসলে অসাধারণ শক্তিশালী একটা সহকারী হতে পারে আপনার জন্য। কিন্তু অন্ধভাবে বিশ্বাস করলে একই প্রযুক্তি বিভ্রান্তির উৎসও হয়ে উঠতে পারে।
এআই হয়ত একদিন আরও ভালভাবে "জানি না" বলতে শিখবে। কিন্তু তত দিন পর্যন্ত যে তথ্য সত্য হওয়া জরুরি, সেটা যাচাই করার দায় আমাদেরই। কারণ যন্ত্র এখনও "জানি না" বলতে শেখেনি।
#এআই #হ্যালুসিনেশন #ভুল
