AI Hallucination Explained: AI হ্যালুসিনেশন কী? ChatGPT ও Gemini মাঝে মাঝে ভুল উত্তর দেয় কেন? জেনে নিন সমাধানের উপায়

AI Hallucination Explained: আজকের ডিজিটাল যুগে কৃত্রিম বুদ্ধিমত্তা আমাদের দৈনন্দিন জীবনের অবিচ্ছেদ্য অংশ হয়ে উঠেছে। পড়াশোনা থেকে অফিসের কাজ, কনটেন্ট লেখা থেকে কোডিং কিংবা সাধারণ তথ্য জানার জন্য আমরা ক্রমশ ChatGPT, Gemini বা Perplexity-এর মতো এআই চ্যাটবটের ওপর নির্ভরশীল হয়ে পড়ছি। এই এআই টুলগুলি এতটাই আত্মবিশ্বাসের সঙ্গে উত্তর দেয় যে অনেক সময় ব্যবহারকারীরা ধরে নেন এগুলি নিশ্চয়ই শতভাগ সঠিক। কিন্তু বাস্তবে বিষয়টি সব সময় এমন নয়। বহু ক্ষেত্রেই দেখা যায়, এআই এমন তথ্য প্রদান করছে যার বাস্তব কোনও অস্তিত্ব নেই। এই সমস্যাকেই প্রযুক্তিগত ভাষায় বলা হয় এআই হ্যালুসিনেশন। 

এআই হ্যালুসিনেশন তখনই ঘটে, যখন কোনও এআই মডেল প্রকৃত তথ্য বা নির্ভরযোগ্য ডেটার ওপর ভিত্তি করে উত্তর না দিয়ে সম্পূর্ণ কাল্পনিক, বিভ্রান্তিকর বা মিথ্যা তথ্যকে সত্যের মতো করে উপস্থাপন করে। সহজ ভাষায় বললে, এআই যখন কোনও প্রশ্নের সঠিক উত্তর জানে না, তখন সে অনুমানভিত্তিক একটি উত্তর তৈরি করে নেয়। যেহেতু এই উত্তরগুলি ভাষাগতভাবে নিখুঁত ও আত্মবিশ্বাসী শোনায়, তাই ব্যবহারকারীরা সহজেই বিভ্রান্ত হন।

আরও পড়ুন- কারাকাসে বিস্ফোরণের আগে কীভাবে ড্রাগস, তেল আর আমেরিকার চেষ্টায় উত্তেজনা উঠেছিল চরমে?

ChatGPT বা Gemini-এর মতো এআই মডেল কেন এই ধরনের ভুল করে, তার পেছনে একাধিক কারিগরি কারণ রয়েছে। প্রথমত, এআই সম্পূর্ণভাবে তার প্রশিক্ষণ ডেটার ওপর নির্ভরশীল। যদি সেই ডেটা অসম্পূর্ণ, পুরনো বা পক্ষপাতদুষ্ট হয়, তাহলে এআই-এর উত্তরও ভুল হওয়ার সম্ভাবনা থাকে। দ্বিতীয়ত, এআই প্রকৃত অর্থে কোনও তথ্য বোঝে না। এটি মূলত শব্দ ও বাক্যের ধরণ বা প্যাটার্ন মিলিয়ে উত্তর তৈরি করে। ফলে কখনও কখনও দুটি আলাদা তথ্য একত্রিত হয়ে এমন একটি উত্তর তৈরি হয়, যা বাস্তবে সঠিক নয়।

আরও পড়ুন- পৌষ পূর্ণিমার পবিত্র স্নানে প্রয়াগরাজে শুরু মাঘ মেলা, লক্ষাধিক ভক্তের ঢল!

আরও একটি বড় কারণ হল অতিরিক্ত মানানসই প্রবণতা। অনেক সময় এআই নির্দিষ্ট কিছু উদাহরণ বা তথ্যের সঙ্গে এতটাই মানিয়ে নেয় যে নতুন প্রশ্নের ভিন্ন প্রেক্ষাপট সে ধরতেই পারে না। এর ফলেই তৈরি হয় বিভ্রান্তিকর বা ভুল উত্তর। এছাড়াও, বাস্তব সময়ের তথ্যের অভাবও এআই হ্যালুসিনেশনের অন্যতম কারণ। সব এআই মডেলের কাছে সর্বশেষ আপডেটেড তথ্য সব সময় থাকে না।

আরও পড়ুন- রান্নাঘরের এই উপাদানেই ঘরে চিরকাল থাকবে মনভোলানো সুগন্ধ

এই এআই হ্যালুসিনেশন সমস্যা ভবিষ্যতের জন্য একটি বড় চ্যালেঞ্জ হয়ে উঠছে। বিশেষ করে চিকিৎসা, আইন বা আর্থিক পরামর্শের ক্ষেত্রে এই ধরনের ভুল তথ্য ভয়াবহ পরিণতি ডেকে আনতে পারে। সেই কারণেই এই সমস্যা কমানোর জন্য বিভিন্ন প্রযুক্তিগত সমাধান নিয়ে কাজ চলছে। পারপ্লেক্সিটির সিইও অরবিন্দ শ্রীনিবাসের মতে, আগামী পাঁচ বছরের মধ্যে এই সমস্যার অনেকটাই সমাধান সম্ভব।

আরও পড়ুন- শীতকালে কখন ও কীভাবে পান করবেন লেবু জল? মিলবে সর্বোচ্চ উপকার

বর্তমানে এআই হ্যালুসিনেশন কমানোর জন্য যে পদ্ধতিগুলি ব্যবহার করা হচ্ছে, তার মধ্যে অন্যতম হল RAG প্রযুক্তি। এই পদ্ধতিতে এআই শুধুমাত্র নিজের প্রশিক্ষণ ডেটার ওপর নির্ভর না করে সরাসরি নির্ভরযোগ্য উৎস থেকে তথ্য সংগ্রহ করে উত্তর দেয়। ফলে ভুল তথ্যের সম্ভাবনা অনেকটাই কমে যায়। আরেকটি গুরুত্বপূর্ণ পদ্ধতি হল গ্রাউন্ডিং, যেখানে এআই-কে স্পষ্টভাবে নির্দেশ দেওয়া হয় যে সে যদি কোনও প্রশ্নের উত্তর না জানে, তাহলে যেন নির্দ্বিধায় তা স্বীকার করে।

হিউম্যান ফিডব্যাকও এআই উন্নয়নের ক্ষেত্রে বড় ভূমিকা পালন করছে। ব্যবহারকারীরা যখন কোনও ভুল উত্তর চিহ্নিত করেন বা অপছন্দ জানান, তখন সেই তথ্যের মাধ্যমে এআই ভবিষ্যতে আরও ভালো উত্তর দেওয়ার চেষ্টা করে। এই প্রক্রিয়ার মাধ্যমেই ধীরে ধীরে এআই-এর নির্ভুলতা বাড়ানো সম্ভব হচ্ছে।

সচেতন থাকা জরুরি

একজন সাধারণ ব্যবহারকারী হিসেবে আমাদেরও সচেতন থাকা জরুরি। এআই থেকে পাওয়া যে কোনও গুরুত্বপূর্ণ তথ্য অন্ধভাবে বিশ্বাস না করে তা বিশ্বস্ত উৎস থেকে যাচাই করা উচিত। এআই আমাদের কাজ সহজ করে তুললেও, এখনও এটি মানুষের বিকল্প নয়। সঠিক ব্যবহার ও সচেতনতার মাধ্যমেই এআই প্রযুক্তির সর্বোচ্চ সুবিধা নেওয়া সম্ভব।