AI Hallucination কী: আত্মবিশ্বাসী ভুল তথ্য চেনার বাস্তব কৌশল

চ্যাটবটের উত্তর গুছানো, বিস্তারিত এবং আত্মবিশ্বাসী হতে পারে। তবু তার মধ্যে ভুল তারিখ, অস্তিত্বহীন গবেষণা, বানানো উদ্ধৃতি বা উৎসের বক্তব্যের ভুল ব্যাখ্যা থাকতে পারে। বিপদটি এখানেই—অসঙ্গত বা এলোমেলো উত্তরের চেয়ে সাবলীল ভুল তথ্য শনাক্ত করা অনেক কঠিন।

AI Hallucination বলতে এমন পরিস্থিতি বোঝায়, যখন জেনারেটিভ এআই ভুল, ভিত্তিহীন, কাল্পনিক বা দেওয়া তথ্যের সঙ্গে অসংগত বিষয়কে সত্যের মতো উপস্থাপন করে। মডেল প্রতিটি বাক্য লেখার আগে দাবিগুলো আলাদাভাবে সত্য-মিথ্যা যাচাই করে না। শেখা ভাষাগত ধরন, ব্যবহারকারীর নির্দেশনা এবং সম্ভাব্য পরবর্তী শব্দ বা token-এর ভিত্তিতে উত্তর তৈরি করে।

তাই ChatGPT, Gemini বা অন্য কোনো চ্যাটবটকে চূড়ান্ত তথ্যসূত্র হিসেবে ব্যবহার করা ঠিক নয়। খসড়া লেখা, ধারণা সাজানো, সম্ভাব্য প্রশ্ন তৈরি বা গবেষণার পথ খুঁজতে এগুলো কার্যকর। কিন্তু নাম, সংখ্যা, উদ্ধৃতি, গবেষণা, আইন, স্বাস্থ্য, অর্থ বা নিরাপত্তাসংক্রান্ত তথ্য ব্যবহারের আগে মূল উৎস দেখা জরুরি।

এআই হ্যালুসিনেশন কেমন হতে পারে

যুক্তরাষ্ট্রের National Institute of Standards and Technology বা NIST এ ধরনের সমস্যার জন্য confabulation শব্দটি ব্যবহার করেছে। তাদের সংজ্ঞায়, জেনারেটিভ এআই ভুল বা মিথ্যা তথ্য আত্মবিশ্বাসের সঙ্গে উপস্থাপন করতে পারে। ব্যবহারকারীর নির্দেশনা বা দেওয়া নথি থেকে সরে যাওয়া এবং একই কথোপকথনের আগের বক্তব্যের সঙ্গে বিরোধ তৈরি করাও এর মধ্যে পড়ে। প্রচলিত আলোচনায় একেই hallucination বা fabrication বলা হয়।

বাস্তবে সমস্যাটি কয়েকভাবে দেখা যায়:

• কোনো ব্যক্তি, বই, আইন, প্রতিষ্ঠান বা ঘটনা সম্পর্কে বানানো তথ্য দেওয়া।
• অস্তিত্বহীন গবেষণা, জার্নাল, ওয়েবপেজ বা আদালতের মামলার নাম তৈরি করা।
• আসল উৎসের নাম ব্যবহার করেও তার বক্তব্য ভুলভাবে তুলে ধরা।
• দেওয়া নথিতে নেই—এমন তথ্যকে সেই নথির সারাংশ হিসেবে দেখানো।
• পর্যাপ্ত তথ্য না থাকলেও অনুমানকে প্রতিষ্ঠিত সত্যের মতো লেখা।
• একই কথোপকথনে আগের তথ্যের সঙ্গে অসামঞ্জস্য তৈরি করা।

OpenAI-এর ব্যবহারকারী নির্দেশিকাতেও ভুল সংজ্ঞা, তারিখ ও তথ্যের পাশাপাশি বানানো উদ্ধৃতি, গবেষণা, citation এবং অস্তিত্বহীন উৎসকে হ্যালুসিনেশনের উদাহরণ হিসেবে দেখানো হয়েছে। সেখানে স্পষ্ট সতর্কতা রয়েছে: আত্মবিশ্বাসী ভাষা নির্ভরযোগ্যতার প্রমাণ নয়।

প্রতিটি ভুল উত্তর হ্যালুসিনেশন নয়

এআইয়ের সব ভুলকে একই শ্রেণিতে ফেললে সমস্যার আসল কারণ বোঝা কঠিন হয়। কয়েকটি পার্থক্য মনে রাখা দরকার।

পুরোনো তথ্য: মডেল বা তার ব্যবহৃত উৎসে সাম্প্রতিক পরিবর্তন না থাকলে পুরোনো সফটওয়্যার ফিচার, নীতি, মূল্য বা পদধারী ব্যক্তির নাম আসতে পারে। তথ্যটি ভুল হলেও প্রতিবারই নতুন করে বানানো নয়।

অস্পষ্ট প্রশ্নের ভুল ব্যাখ্যা: দেশ, সাল, সংস্করণ বা প্রেক্ষাপট উল্লেখ না করলে মডেল একটি সম্ভাব্য অর্থ ধরে উত্তর দিতে পারে। সেই অনুমান ভুল হলে পুরো উত্তরও ভুল পথে চলে যায়।

হিসাব বা যুক্তির ভুল: সংখ্যা কপি করার সময় ভুল, সূত্রের ভুল প্রয়োগ বা কোনো ধাপ বাদ পড়া আলাদা গণনাগত ব্যর্থতা হতে পারে। তবে মডেল যদি ভুল ফলের সমর্থনে ভিত্তিহীন ব্যাখ্যা তৈরি করে, তখন হ্যালুসিনেশনের বৈশিষ্ট্যও যুক্ত হয়।

ভুল উৎসের পুনরাবৃত্তি: ওয়েব অনুসন্ধান বা প্রশিক্ষণ উপাদানে ভুল তথ্য থাকলে মডেল সেটি আবার বলতে পারে। তথ্যটি মডেল নিজে তৈরি না করলেও যাচাই ছাড়া উপস্থাপন করায় উত্তরটি অনির্ভরযোগ্য থাকে।

মতামতকে প্রতিষ্ঠিত তথ্য হিসেবে দেখানো: বিতর্কিত বিষয়ে একটি দৃষ্টিভঙ্গিকে চূড়ান্ত সত্য হিসেবে তুলে ধরা পক্ষপাত, অতিরিক্ত সরলীকরণ বা প্রয়োজনীয় প্রসঙ্গ বাদ পড়ার ফল হতে পারে।

পাঠকের জন্য প্রযুক্তিগত শ্রেণিবিন্যাসের চেয়ে তিনটি প্রশ্ন বেশি জরুরি: দাবিটি কি প্রমাণ করা যায়, উৎসটি সত্যিই আছে কি না এবং ভুল হলে তার প্রভাব কতটা গুরুতর হবে।

চ্যাটবট আত্মবিশ্বাসের সঙ্গে ভুল উত্তর কেন দেয়

ভাষা তৈরি করা সত্য যাচাইয়ের সমান নয়

বড় ভাষা মডেল বিপুল পরিমাণ লেখায় শব্দ, বাক্য ও ধারণার মধ্যকার সম্পর্ক শেখে। Pretraining-এর সময় সাধারণত পরবর্তী token অনুমান করার মাধ্যমে এই শিক্ষা চলে। প্রশিক্ষণের প্রতিটি বাক্যের পাশে আলাদা করে “সত্য” বা “মিথ্যা” লেখা থাকে না।

ফলে একটি বাক্য ভাষাগতভাবে সাবলীল এবং প্রসঙ্গের সঙ্গে মানানসই হতে পারে, অথচ তার তথ্যগত ভিত্তি দুর্বল হতে পারে। NIST বিশেষ করে দীর্ঘ, উন্মুক্ত উত্তর এবং বেশি বিশেষজ্ঞ জ্ঞান প্রয়োজন এমন কাজে এই ঝুঁকির কথা উল্লেখ করেছে।

বিরল তথ্য ভাষার ধরন দেখে নির্ভুলভাবে অনুমান করা যায় না

পরিচিত বানান, ব্যাকরণ বা বাক্যগঠনে নিয়মিত ধরন থাকে। কিন্তু অল্প পরিচিত কোনো ব্যক্তির জন্মতারিখ, ছোট প্রতিষ্ঠানের পুরোনো নথি বা স্থানীয় ঘটনার নির্দিষ্ট তথ্য সাধারণ ভাষার ধরন থেকে নির্ভুলভাবে অনুমান করা কঠিন।

OpenAI-এর গবেষকেরা ব্যাখ্যা করেছেন, কম দেখা বা অনির্দেশ্য তথ্য next-word prediction থেকে নির্ভরযোগ্যভাবে পুনর্গঠন করা কঠিন। শুধু সঠিক উত্তরের হার দিয়ে মডেল মূল্যায়ন করা হলে “জানি না” বলার বদলে উত্তর অনুমান করার প্রবণতাও উৎসাহিত হতে পারে। গবেষণাটি পরে ২০২৬ সালে Nature-এ প্রকাশিত হয়।

প্রশ্নে প্রয়োজনীয় তথ্য না থাকলে মডেল ফাঁক পূরণ করতে পারে

“এই আইনটি কি প্রযোজ্য?”—এই প্রশ্নে কোন দেশ, কোন আইন, কোন সময় এবং কী ধরনের পরিস্থিতির কথা বলা হচ্ছে, তা পরিষ্কার নয়। এমন প্রশ্নে নির্ভুল উত্তর দেওয়া সম্ভব নয়।

চ্যাটবট সব সময় স্পষ্টীকরণ চায় না। কখনো নিজেই অনুপস্থিত প্রসঙ্গ অনুমান করে নেয়। তাই আইন, মূল্য, সফটওয়্যার, নীতি বা স্থানীয় সেবার বিষয়ে প্রশ্ন করার সময় দেশ, তারিখ, সংস্করণ এবং ব্যবহারের পরিস্থিতি উল্লেখ করা দরকার।

ওয়েব সার্চ বা RAG-ও পূর্ণ নিশ্চয়তা দেয় না

Search, browsing অথবা retrieval-augmented generation বা RAG ব্যবহারে মডেল বাইরের নথি থেকে তথ্য নিতে পারে। নির্দিষ্ট knowledge-intensive কাজে retrieval শুধু মডেলের অভ্যন্তরীণ জ্ঞানের ওপর নির্ভর করার তুলনায় তথ্যভিত্তিক উত্তর উন্নত করতে পারে।

তবে বাইরের উৎস যুক্ত হলেই ভুলের ঝুঁকি শেষ হয় না। সিস্টেম অপ্রাসঙ্গিক বা পুরোনো নথি আনতে পারে, সঠিক নথির বক্তব্য ভুল বুঝতে পারে কিংবা একটি আসল citation-এর সঙ্গে অসমর্থিত সিদ্ধান্ত জুড়ে দিতে পারে।

Stanford-এর আইনবিষয়ক একটি পরীক্ষায় RAG-নির্ভর বিশেষায়িত আইনি টুল সাধারণ চ্যাটবটের তুলনায় কম ভুল করেছে। তবু সেগুলো উল্লেখযোগ্য হারে ভুল তথ্য তৈরি করেছে। এটি একটি নির্দিষ্ট আইনি benchmark-এর ফল; সব RAG সিস্টেমে একই ফল হবে, এমন ধরে নেওয়া যাবে না।

আত্মবিশ্বাসী ভুল তথ্য চেনার ৮টি সংকেত

একটি সংকেত দেখেই কোনো উত্তর বাতিল করা উচিত নয়। তবে কয়েকটি সংকেত একসঙ্গে থাকলে যাচাই না করে তথ্যটি ব্যবহার করা ঝুঁকিপূর্ণ।

১. অতিরিক্ত নির্দিষ্ট তথ্য, কিন্তু প্রমাণ নেই

নির্দিষ্ট পৃষ্ঠা, শতকরা হার, মামলা নম্বর, গবেষকের নাম বা প্রকাশের তারিখ দেওয়া হয়েছে, অথচ যাচাইযোগ্য উৎস নেই। নির্দিষ্টতা উত্তরকে বিশ্বাসযোগ্য দেখায়; তথ্যটি সত্য প্রমাণ করে না।

২. Citation দেওয়া হয়েছে, কিন্তু উৎস খুঁজে পাওয়া যায় না

গবেষণার শিরোনাম, লেখকের নাম, জার্নাল, প্রকাশের সাল এবং DOI আলাদাভাবে খুঁজুন। বানানো citation সাধারণত এসব তথ্য একসঙ্গে মেলাতে পারে না।

লিংক খুলছে বলেই citation সঠিক নয়। সেই পেজে সংশ্লিষ্ট দাবি, সংখ্যা বা উদ্ধৃতি সত্যিই আছে কি না, সেটিও দেখতে হবে।

৩. সরাসরি উদ্ধৃতি উৎসের সঙ্গে মেলে না

কোনো ব্যক্তি বা প্রতিষ্ঠানের নামে উদ্ধৃতি দেওয়া হলে মূল উৎসে বাক্যটি খুঁজুন। exact wording পাওয়া না গেলে সেটি সরাসরি উদ্ধৃতি, নাকি মডেলের তৈরি সারাংশ—এই পার্থক্য স্পষ্ট করুন।

সারাংশকে উদ্ধৃতিচিহ্নে বসিয়ে কারও সরাসরি বক্তব্য হিসেবে প্রকাশ করা উচিত নয়।

৪. একই প্রশ্ন ঘুরিয়ে করলে তথ্য বদলে যায়

একবার ২০১৯, পরে ২০২১; একবার চারটি ধাপ, পরে ছয়টি—এ ধরনের পরিবর্তন উত্তরটির স্থিতিশীলতা নিয়ে প্রশ্ন তোলে।

তবে উত্তর বদলালেই কোনো একটি উত্তর নিশ্চিতভাবে ভুল, এমন নয়। নতুন প্রসঙ্গ, প্রশ্নের ভাষা বা generation settings-এর কারণেও পার্থক্য আসতে পারে। দুটি উত্তরই স্বাধীন উৎসে পরীক্ষা করতে হবে।

৫. প্রশ্নের ভুল ধারণা যাচাই না করেই মেনে নেয়

ব্যবহারকারী অস্তিত্বহীন কোনো বই, আইন বা সফটওয়্যার ফিচারকে সত্য ধরে প্রশ্ন করলে চ্যাটবট কখনো সেই ভিত্তি পরীক্ষা না করেই বিস্তারিত ব্যাখ্যা শুরু করে।

প্রশ্নের মধ্যে থাকা নাম, তারিখ ও পূর্বধারণাও উত্তরের দাবির মতোই যাচাই করুন।

৬. ব্যতিক্রম ছাড়া চূড়ান্ত ভাষা ব্যবহার করে

“সব দেশে”, “সব ডিভাইসে”, “আইন অনুযায়ী অবশ্যই” বা “কোনো ঝুঁকি নেই”—এ ধরনের বাক্য বাড়তি সতর্কতার দাবি রাখে।

আইন, স্বাস্থ্য, সফটওয়্যার এবং প্ল্যাটফর্ম নীতিতে অঞ্চল, সংস্করণ ও ব্যক্তিগত পরিস্থিতি অনুযায়ী ব্যতিক্রম থাকা স্বাভাবিক।

৭. সাম্প্রতিক তথ্যের সঙ্গে তারিখ নেই

পদধারী ব্যক্তি, মূল্য, সফটওয়্যার সংস্করণ, সময়সূচি, আইন ও প্ল্যাটফর্ম নীতি দ্রুত বদলাতে পারে। উত্তরটি কোন সময়ের তথ্যের ওপর দাঁড়িয়ে আছে, তা জানা না গেলে প্রকাশের আগে আবার যাচাই করুন।

৮. তথ্য, অনুমান ও পরামর্শ একসঙ্গে মিশে আছে

দীর্ঘ অনুচ্ছেদের মধ্যে উৎসে পাওয়া তথ্য, মডেলের অনুমান এবং ব্যবহারিক পরামর্শ মিশে গেলে কোন দাবিটি যাচাই করতে হবে, তা বোঝা কঠিন হয়।

মডেলকে আলাদাভাবে লিখতে বলা যায়:

• সরাসরি উৎসে পাওয়া তথ্য
• উৎস থেকে করা অনুমান
• যাচাই করা যায়নি এমন বিষয়

এআইয়ের উত্তর যাচাই করার বাস্তব পদ্ধতি

প্রথমে দাবিগুলো ভেঙে নিন

পুরো অনুচ্ছেদ একসঙ্গে যাচাই না করে নাম, তারিখ, সংখ্যা, উদ্ধৃতি, নিয়ম, কারণ এবং সিদ্ধান্ত আলাদা করুন।

ধরা যাক, উত্তরে লেখা হয়েছে: “একটি গবেষণায় ৬৫ শতাংশ শিক্ষার্থী এআই ব্যবহারে ভালো ফল পেয়েছে।” এখানে অন্তত চারটি দাবি আছে:

• গবেষণাটি সত্যিই আছে কি না
• অংশগ্রহণকারী কারা ছিল
• ৬৫ শতাংশ কোন প্রশ্ন বা ফলাফল বোঝাচ্ছে
• তথ্যটি কোন বছরে প্রকাশিত

প্রতিটি অংশ আলাদাভাবে না দেখলে একটি আসল গবেষণার সঙ্গে ভুল সংখ্যা বা অতিরঞ্জিত সিদ্ধান্ত জুড়ে যেতে পারে।

ভুল হলে কী ক্ষতি হবে, সেটি আগে ভাবুন

সব তথ্য একই মাত্রায় যাচাই করার প্রয়োজন নেই।

Google-এর Gemini নির্দেশিকাতেও চিকিৎসা, আইন, অর্থ বা অন্য পেশাগত সিদ্ধান্তে চ্যাটবটের উত্তরের ওপর নির্ভর না করতে বলা হয়েছে।

উৎসের নাম নয়, উৎসের ভেতরের দাবি দেখুন

মডেলের দেওয়া লিংক নিজে খুলুন। লেখক, প্রকাশক ও তারিখ মিলিয়ে নেওয়ার পর পেজে নির্দিষ্ট শব্দ, সংখ্যা বা উদ্ধৃতি খুঁজুন।

চ্যাটবটের দেওয়া সারাংশ পড়া এবং মূল উৎস যাচাই করা এক কাজ নয়। অনেক সময় উৎসটি আসল, কিন্তু মডেল তার বক্তব্যের সীমা বা শর্ত বাদ দেয়।

প্রাথমিক উৎসকে অগ্রাধিকার দিন

আইনের জন্য সরকারি গেজেট বা নিয়ন্ত্রক সংস্থা, সফটওয়্যার ফিচারের জন্য অফিসিয়াল ডকুমেন্টেশন, গবেষণার জন্য মূল পেপার এবং কোম্পানির ফলাফলের জন্য আনুষ্ঠানিক filing বা প্রতিবেদন দেখুন।

সংবাদ প্রতিবেদন প্রেক্ষাপট বোঝাতে সহায়ক হতে পারে। তবে মূল নথি পাওয়া গেলে সেটিই আগে দেখা উচিত।

স্বাধীন দ্বিতীয় উৎসে মিলিয়ে নিন

একটি প্রেস রিলিজ হুবহু প্রকাশ করা দুটি ওয়েবসাইট স্বাধীন উৎস নয়। আলাদা প্রতিষ্ঠান, আলাদা ডেটা বা স্বতন্ত্র রিপোর্টিংয়ের উৎস বেছে নিন।

দুটি চ্যাটবট একই উত্তর দিলেও সেটি দ্বৈত fact-check নয়। মডেল দুটির শেখা তথ্য বা ব্যবহৃত ওয়েব উৎস একই হতে পারে।

তারিখ, অঞ্চল ও সংস্করণ নোট করুন

“Android-এ সেটিংটি আছে” বলার বদলে কোন Android সংস্করণ, কোন নির্মাতার interface এবং কোন তারিখে তথ্যটি যাচাই করা হয়েছে, তা লিখুন।

আইন, সরকারি সেবা ও প্ল্যাটফর্ম নীতির ক্ষেত্রে দেশ, রাজ্য বা প্রযোজ্য অঞ্চল উল্লেখ করাও জরুরি।

নিশ্চিত তথ্য ও অনুমান আলাদা রাখুন

প্রকাশের আগে দাবিগুলো তিন ভাগে ভাগ করা যায়:

• নির্ভরযোগ্য উৎসে নিশ্চিত
• উৎস থেকে করা যৌক্তিক অনুমান
• যাচাই করা যায়নি

এতে অনিশ্চিত তথ্যকে প্রতিষ্ঠিত সত্য হিসেবে প্রকাশ করার ঝুঁকি কমে।

ভালো প্রম্পট কীভাবে সাহায্য করতে পারে

স্পষ্ট নির্দেশনা মডেলের অনুমান করার সুযোগ কমাতে পারে। যেমন:

নিচের নথিতে থাকা তথ্যের বাইরে কিছু যোগ করবে না। প্রতিটি দাবির সঙ্গে নথির শিরোনাম ও সংশ্লিষ্ট অংশ উল্লেখ করো। তথ্য না থাকলে “নথিতে পাওয়া যায়নি” লিখো।

আরও কয়েকটি কার্যকর নির্দেশনা:

• প্রশ্ন অস্পষ্ট হলে উত্তর দেওয়ার আগে ব্যাখ্যা চাইতে বলুন।
• তথ্য, ব্যাখ্যা ও অনুমান আলাদা বিভাগে দিতে বলুন।
• সময়-সংবেদনশীল দাবির সঙ্গে তারিখ চাইুন।
• সরাসরি উদ্ধৃতির সঙ্গে মূল passage চাইুন।
• উৎস না পেলে citation বানানোর বদলে তা স্বীকার করতে বলুন।
• হিসাবের ক্ষেত্রে ইনপুট, সূত্র ও মধ্যবর্তী ধাপ দেখাতে বলুন।
• দীর্ঘ নথি দিলে কোন অংশ ব্যবহার করতে হবে, তা নির্দিষ্ট করুন।

এগুলো ভুল কমাতে সাহায্য করতে পারে। তবে ভালো প্রম্পট কোনো উত্তরকে স্বয়ংক্রিয়ভাবে নির্ভুল করে না। Retrieval, tool use এবং আধুনিক মূল্যায়ন ব্যবস্থার পরও হ্যালুসিনেশন পুরোপুরি দূর হয়নি।

যেসব পদ্ধতিকে fact-check ভাবা ঠিক নয়

“তুমি কি নিশ্চিত?” জিজ্ঞেস করা: মডেল আগের ভুল উত্তরই আরও দৃঢ় ভাষায় বলতে পারে। তার বদলে প্রমাণ, উৎসের নির্দিষ্ট অংশ এবং বিকল্প ব্যাখ্যা চাইুন।

একই উত্তর আবার তৈরি করা: ভিন্ন উত্তর পাওয়া যেতে পারে, কিন্তু কোনটি সঠিক তা জানা যায় না।

অন্য চ্যাটবটের সঙ্গে মিল দেখা: এটি প্রাথমিক সংকেত হতে পারে, স্বাধীন যাচাই নয়।

লিংক আছে মানেই তথ্য সত্য ধরা: আসল উৎসের সঙ্গে ভুল বা অতিরঞ্জিত দাবি জুড়ে দেওয়া সম্ভব।

দীর্ঘ ব্যাখ্যা মানেই সঠিক ভাবা: ভুল প্রাথমিক তথ্যের ওপর দাঁড়িয়ে ধারাবাহিক ও বিশ্বাসযোগ্য ব্যাখ্যাও তৈরি হতে পারে। NIST উল্লেখ করেছে, মডেল ভুল উত্তরের পক্ষে বানানো যুক্তি বা citation-ও দিতে পারে।

ব্যবহারভেদে সতর্কতার মাত্রা

শিক্ষার্থী

এআইয়ের লেখা সরাসরি অ্যাসাইনমেন্টে বসানোর আগে পাঠ্যবই, শিক্ষক নির্ধারিত reading এবং মূল গবেষণার সঙ্গে মিলিয়ে নিন। নিজে না-পড়া কোনো citation bibliography-তে যোগ করা উচিত নয়।

শিক্ষাপ্রতিষ্ঠানের AI ব্যবহারের নীতিও পরীক্ষা করতে হবে। UNESCO শিক্ষা ও গবেষণায় generative AI ব্যবহারের ক্ষেত্রে মানবকেন্দ্রিক মূল্যায়ন, গোপনীয়তা, নৈতিক ব্যবহার এবং বয়স-উপযোগী ব্যবস্থার ওপর জোর দিয়েছে।

গবেষক ও কনটেন্ট রাইটার

এআই source discovery, outline বা সম্ভাব্য প্রশ্ন তৈরিতে সহায়ক হতে পারে। কিন্তু গবেষণার ফল, উদ্ধৃতি, পরিসংখ্যান এবং বিশেষজ্ঞের বক্তব্য মূল উৎস না দেখে প্রকাশ করা উচিত নয়।

দীর্ঘ নথির সারাংশ তৈরি করালে গুরুত্বপূর্ণ অংশগুলো মূল নথির সঙ্গে মিলিয়ে দেখুন। বিশেষ করে সংখ্যা, ব্যতিক্রম, গবেষণার সীমাবদ্ধতা এবং উপসংহার।

পেশাজীবী

ইমেইল, নীতিমালা, প্রস্তাব বা প্রতিবেদনের খসড়ায় ভুল তথ্য প্রতিষ্ঠানের সুনাম, সিদ্ধান্ত এবং গ্রাহক সম্পর্কের ওপর প্রভাব ফেলতে পারে।

প্রতিষ্ঠানের গোপন বা ব্যক্তিগত তথ্য কোনো এআই সেবায় দেওয়ার আগে সংশ্লিষ্ট গোপনীয়তা নীতি এবং প্রতিষ্ঠানের নিজস্ব নিয়ম পরীক্ষা করুন। চূড়ান্ত নথি কার যাচাই ও অনুমোদনের মধ্য দিয়ে যাবে, সেটিও আগে নির্ধারণ করা দরকার।

স্বাস্থ্য, আইন, অর্থ ও সাইবার নিরাপত্তা

এসব ক্ষেত্রে একটি ভুল উত্তর সরাসরি ক্ষতির কারণ হতে পারে। রোগ নির্ণয়, আইনি ফলাফল, বিনিয়োগ সিদ্ধান্ত বা নিরাপত্তা ব্যবস্থা বদলানোর জন্য চ্যাটবটের উত্তরের ওপর একা নির্ভর করা উচিত নয়।

প্রযোজ্য সরকারি নির্দেশনা, সংশ্লিষ্ট প্রতিষ্ঠানের অফিসিয়াল নথি এবং নিবন্ধিত বা যোগ্য পেশাজীবীর সহায়তা নিন। NIST-ও গুরুতর ফলাফলের সঙ্গে যুক্ত সিদ্ধান্তে confabulation বিশেষভাবে পর্যবেক্ষণের কথা বলেছে।

উত্তর ব্যবহারের আগে এক মিনিটের পরীক্ষা

কোনো এআই উত্তর কপি, প্রকাশ বা সিদ্ধান্তে ব্যবহার করার আগে পাঁচটি প্রশ্ন করুন:

১. দাবিটির নির্দিষ্ট ও যাচাইযোগ্য উৎস আছে কি?
২. উৎস খুলে একই তথ্য পাওয়া যাচ্ছে কি?
৩. তথ্যটি কোন তারিখ, অঞ্চল বা সংস্করণের?
৪. স্বাধীন ও নির্ভরযোগ্য আরেকটি উৎস একই দাবি সমর্থন করছে কি?
৫. তথ্যটি ভুল হলে ক্ষতি কতটা হতে পারে?

শেষ প্রশ্নটির উত্তর যদি “উল্লেখযোগ্য” হয়, সাধারণ ওয়েব সার্চে থেমে যাওয়া যথেষ্ট নয়। মূল নথি, অফিসিয়াল নির্দেশনা বা যোগ্য বিশেষজ্ঞের মত প্রয়োজন হতে পারে।

এআই উত্তরকে খসড়া হিসেবে ব্যবহার করুন

AI Hallucination সম্পর্কে জানা মানে প্রতিটি চ্যাটবট উত্তর বাতিল করা নয়। বরং কোন কাজে এআইয়ের গতি ব্যবহার করা যায় এবং কোথায় মানুষের যাচাই অপরিহার্য, সেই সীমা পরিষ্কার করা।

খসড়া, ধারণা, ভাষা সম্পাদনা বা প্রশ্ন সাজানোর কাজে এআই সময় বাঁচাতে পারে। কিন্তু নাম, সংখ্যা, উদ্ধৃতি, গবেষণা, নীতি, মূল্য, তারিখ এবং উচ্চ-ঝুঁকির পরামর্শে মূল উৎস দেখা বাদ দেওয়া যাবে না।

সবচেয়ে বাস্তবসম্মত নিয়মটি হলো: এআই উত্তরকে চূড়ান্ত তথ্যসূত্র নয়, যাচাই করার মতো একটি খসড়া হিসেবে ধরুন।

শেষ কথা

AI Hallucination পুরোপুরি এড়ানো সব সময় সম্ভব নয়। তবে ঝুঁকি অনেকটাই কমানো যায়, যদি এআইয়ের উত্তরকে চূড়ান্ত সত্য না ধরে যাচাইযোগ্য খসড়া হিসেবে দেখা হয়। বিশেষ করে নাম, তারিখ, সংখ্যা, উদ্ধৃতি, গবেষণা, আইন, স্বাস্থ্য, অর্থ ও নিরাপত্তাসংক্রান্ত তথ্য ব্যবহারের আগে মূল উৎস খোলা জরুরি।

সবচেয়ে কার্যকর অভ্যাস হলো—প্রথমে দাবিটি আলাদা করুন, তারপর উৎস, তারিখ, অঞ্চল ও প্রাসঙ্গিকতা যাচাই করুন। ভুল হলে ক্ষতি বেশি হতে পারে এমন ক্ষেত্রে চ্যাটবটের উত্তরের ওপর একা নির্ভর না করে অফিসিয়াল নথি বা যোগ্য বিশেষজ্ঞের সহায়তা নিন। এভাবেই এআইয়ের গতি কাজে লাগানো সম্ভব, আবার ভুল তথ্যের ঝুঁকিও নিয়ন্ত্রণে রাখা যায়।

প্রায়শই জিজ্ঞাসিত প্রশ্ন

ওয়েব সার্চ ব্যবহার করলে কি চ্যাটবটের উত্তর নির্ভুল হয়?

ওয়েব সার্চ সাম্প্রতিক তথ্য ও উৎস খুঁজতে সাহায্য করে, কিন্তু নির্ভুলতার নিশ্চয়তা দেয় না। মডেল ভুল পেজ বেছে নিতে, পুরোনো তথ্য ব্যবহার করতে বা উৎসের বক্তব্য ভুলভাবে ব্যাখ্যা করতে পারে।

বাংলা ভাষায় এআই কি ইংরেজির চেয়ে বেশি ভুল করে?

সব মডেল ও সব ধরনের কাজের জন্য এমন সাধারণ সিদ্ধান্ত দেওয়ার মতো একক প্রমাণ নেই। তবে প্রশিক্ষণ উপাদানে কোনো ভাষা, উপভাষা বা স্থানীয় বিষয়ের প্রতিনিধিত্ব কম থাকলে মডেলের কার্যকারিতায় পার্থক্য হতে পারে। স্থানীয় আইন, আঞ্চলিক ইতিহাস ও কম নথিভুক্ত বিষয়ে বাড়তি যাচাই দরকার।

এআইয়ের citation দ্রুত যাচাই করার উপায় কী?

গবেষণার শিরোনাম quotation marks-এর মধ্যে সার্চ করুন। এরপর লেখক, প্রকাশক, সাল ও DOI মিলিয়ে নিন। উৎস খুলে দাবিটির মূল শব্দ, সংখ্যা বা উদ্ধৃতি খুঁজুন। citation থাকলেও উৎসে সংশ্লিষ্ট তথ্য না থাকলে সেটি ব্যবহার করবেন না।