AI কেন কখনও কখনও ভুল তথ্য দেয়? Hallucination (AI 360° - পর্ব ১২)

AI কি মিথ্যা বলে? AI কেন কখনও কখনও ভুল তথ্য দেয়? এই সব কিছুর উত্তর লুকিয়ে আছে Hallucination-এর মাঝে। অনেকেই AI ব্যবহার করার সময় একটি অদ্ভুত অভিজ্ঞতার মুখোমুখি হন। AI খুব আত্মবিশ্বাসের সঙ্গে একটি তথ্য দেয়—কিন্তু পরে দেখা যায় সেই তথ্যটি ভুল। কখনও AI এমন বইয়ের নাম বলে, যা বাস্তবে নেই। কখনও এমন গবেষণার উদ্ধৃতি দেয়, যা খুঁজে পাওয়া যায় না। আবার কখনও তারিখ, নাম বা ঘটনা এমনভাবে বলে, যা সম্পূর্ণ ভুল।

তাহলে প্রশ্ন আসে—AI কি ইচ্ছা করে মিথ্যা বলে? উত্তরটি অনেকের ধারণার চেয়ে ভিন্ন। AI সাধারণত মিথ্যা বলার উদ্দেশ্যে কিছু তৈরি করে না। বরং এটি এমন একটি প্রযুক্তিগত সীমাবদ্ধতা, যার নাম—Hallucination

Hallucination কী?

সহজ ভাষায় বলতে গেলে—AI যখন আত্মবিশ্বাসের সঙ্গে ভুল বা কাল্পনিক তথ্য তৈরি করে, সেটিকেই Hallucination বলা হয়। অর্থাৎ AI এমন তথ্য তৈরি করে, যা বাস্তবে সত্য নাও হতে পারে, কিন্তু ভাষার দিক থেকে খুবই স্বাভাবিক ও বিশ্বাসযোগ্য শোনায়।

কেন এই নাম “Hallucination”?

“Hallucination” শব্দের অর্থ হলো—বাস্তব নয় এমন কিছু দেখা বা অনুভব করা। মানুষের ক্ষেত্রে এটি মানসিক বিভ্রান্তির একটি অবস্থা। AI-এর ক্ষেত্রে শব্দটি ব্যবহার করা হয় একটি রূপক অর্থে। কারণ AI—কিছু “দেখে” না, কিছু “অনুভব” করে না, তবুও এমন উত্তর তৈরি করে, যা বাস্তবের মতো মনে হয়

AI কীভাবে ভুল তথ্য তৈরি করে?

এটি বুঝতে হলে AI-এর কাজের মৌলিক প্রক্রিয়া মনে করতে হবে। আগের পর্বে আমরা জেনেছি—AI চিন্তা করে না, বরং সম্ভাবনার ভিত্তিতে পরবর্তী শব্দ বা বাক্য তৈরি করে। এখন সমস্যাটি এখানেই। AI যখন উত্তর তৈরি করে, তখন তার লক্ষ্য থাকে—সবচেয়ে সম্ভাব্য ও স্বাভাবিক শোনানো বাক্য তৈরি করা; সবসময় সত্য খোঁজা নয়।

ধরুন কেউ AI'কে জিজ্ঞেস করলো—"বাংলাদেশের প্রথম প্রেসিডেন্ট কে ছিলেন?" AI সাধারণত সঠিক উত্তর দেবে। কিন্তু যদি প্রশ্নটি একটু অস্বাভাবিক বা অস্পষ্ট হয়—যেমন:"বাংলাদেশের প্রথম প্রেসিডেন্টের প্রিয় বই কোনটি ছিল?" এ ধরনের তথ্য যদি AI-এর প্রশিক্ষণ ডেটায় স্পষ্টভাবে না থাকে, তখন এটি অনুমান করে একটি উত্তর তৈরি করতে পারে। আর এই অনুমানই কখনও কখনও ভুল তথ্য হয়ে যায়।

AI কেন আত্মবিশ্বাসীভাবে ভুল বলে?

মানুষ যখন কিছু না জানে, তখন সাধারণত বলে—"আমি নিশ্চিত না।" কিন্তু AI-এর কাজ আলাদা, AI ভাষা তৈরি করতে প্রশিক্ষিত। তাই এটি এমনভাবে বাক্য গঠন করে, যাতে মনে হয় উত্তরটি নিশ্চিত। আর এর কারণ AI-এর লক্ষ্য হলো—একটি পূর্ণাঙ্গ ও স্বাভাবিক বাক্য তৈরি করা; প্রতিটি তথ্য যাচাই করা নয়।

Hallucination সব AI-তেই কেন ঘটে?

কারণ বর্তমান AI সিস্টেমগুলোর মূল ভিত্তি হলো—ভাষা মডেল, সম্ভাবনা নির্ভর পূর্বাভাস, প্রশিক্ষণ ডেটা থেকে শেখা প্যাটার্ন। এগুলো মিলিয়ে AI উত্তর তৈরি করে। যদি নির্ভুল তথ্য না থাকে, তখন এটি “ফাঁকা জায়গা” পূরণ করে সম্ভাব্য শব্দ দিয়ে। এই “ফাঁকা জায়গা পূরণ করাই” অনেক সময় ভুল তথ্য তৈরি করে।

সবসময় না। কিছু ক্ষেত্রে AI-এর অনুমান—প্রায় সঠিক হতে পারে, যুক্তিসংগত হতে পারে, মানুষের চিন্তার কাছাকাছি হতে পারে। কিন্তু সমস্যা হলো—এটি যাচাই করা তথ্যের উপর নয়, বরং সম্ভাবনার উপর দাঁড়িয়ে থাকে। কোন ক্ষেত্রে Hallucination বেশি হয়? এমন প্রশ্ন আমাদের মনে জাগতেই পারে। আসলে Hallucination হয় বেশীরভাগ ক্ষেত্রেঃ অতি নির্দিষ্ট তথ্য (যেমন—তারিখ, নাম, ছোট গবেষণার উদ্ধৃতি), কম পরিচিত বিষয় (যে বিষয়ে অনলাইনে কম তথ্য আছে), কাল্পনিক প্রশ্ন (যেমন—"যদি এমন হতো..."), জটিল যুক্তিভিত্তিক বিশ্লেষণ (যেখানে একাধিক ধাপের তথ্য একসঙ্গে দরকার হয়)।

Hallucination কি বিপজ্জনক?

Hallucination বিপজ্জনক হতে পারে, যদি অন্ধভাবে বিশ্বাস করা হয়। বিশেষ করে—চিকিৎসা, আইন, অর্থনীতি, গুরুত্বপূর্ণ সিদ্ধান্ত ইত্যাদি ক্ষেত্রে AI-এর তথ্য যাচাই করা অত্যন্ত জরুরি। তাহলে প্রশ্ন উঠতেই পারে, "AI কি অবিশ্বস্ত?"। উত্তর "না"। AI অবিশ্বস্ত নয়, বরং এটি একটি “non-deterministic language system”। এর মানে—AI সবসময় একইভাবে নির্ভুল উত্তর দিতে বাধ্য নয়। এটি একটি সহায়ক টুল, সিদ্ধান্ত গ্রহণকারী নয়।

কীভাবে Hallucination কমানো যায়?

AI ব্যবহারকারীরা কিছু কৌশল ব্যবহার করে ভুল কমাতে পারেন—স্পষ্ট প্রশ্ন করা (অস্পষ্ট প্রশ্নে ভুলের সম্ভাবনা বাড়ে), উৎস (source) চাওয়া ("এই তথ্যের উৎস দাও" বলা যেতে পারে), একাধিকভাবে যাচাই করা (একটি উৎসের উপর নির্ভর না করা), AI-কে সীমা নির্ধারণ করে দেওয়া ("যদি না জানো, বলো 'আমি নিশ্চিত নই'"—এভাবে নির্দেশ দেওয়া যায়)।

এই পর্ব শেষ করার আগে বলতে চাই, "AI-এর সবচেয়ে গুরুত্বপূর্ণ শিক্ষা হলো AI সব জানে না, AI সবসময় সত্য বলে না, AI কখনও কখনও খুব ভালোভাবে ভুলও বলতে পারে"।

মানুষ বনাম AI: একটি গুরুত্বপূর্ণ পার্থক্য

মানুষ—

• জানে না বললে বলতে পারে
• সন্দেহ প্রকাশ করতে পারে
• অভিজ্ঞতা থেকে বিচার করতে পারে

AI—

• ভাষা তৈরি করে
• সম্ভাবনা অনুযায়ী উত্তর দেয়
• আত্মবিশ্বাসী ভাষা ব্যবহার করে