রোগীকে খুশি করতে গিয়ে ভুল তথ্য দেয় এআই: গবেষণা

আপনি কী কখনও কোনো স্বাস্থ্যগত সমস্যা নিয়ে কৃত্রিম বুদ্ধিমত্তাভিত্তিক চ্যাটবটের সাহায্য নিয়ে থাকেন?- উত্তর যদি ‘হ্যাঁ’ হয়, তাহলে আপনি একা নন, প্রতি বছর ২৩ কোটিরও বেশি মানুষ এটি করে। এই টুলগুলো দ্রুত ও সুবিধাজনক হলেও, সমস্যা তৈরি হয় তখন, যখন উত্তরগুলো দেখতে সঠিক মনে হলেও ব্যবহারকারীকে ভুল পথে পরিচালিত করতে পারে।

গবেষকরা এখন সেই ঝুঁকির দিকটি খতিয়ে দেখতে শুরু করেছেন। ডিউক ইউনিভার্সিটি স্কুল অব মেডিসিন -এ বায়োস্ট্যাটিস্টিকস ও বায়োইনফরমেটিকসের সহকারী অধ্যাপক এবং কম্পিউটার বিজ্ঞানী মনিকা আগরওয়াল রোগী ও এআই চ্যাটবটের হাজার হাজার বাস্তব কথোপকথন বিশ্লেষণ করছেন, যাতে বোঝা যায় মানুষ কীভাবে এগুলো ব্যবহার করে—এবং কোথায় ভুল হওয়ার ঝুঁকি থাকে।

দেখা গেছে, রোগীরা যেভাবে প্রশ্ন করেন, তা এআই মডেলগুলোর পরীক্ষার ধরন থেকে একেবারেই আলাদা। অথচ বাস্তবে রোগীদের প্রশ্ন অনেক সময় আবেগপ্রবণ, প্রভাবিত বা ঝুঁকিপূর্ণ হয়।

কেন চ্যাটবট বিভ্রান্ত করতে পারে
এআইয়ের প্রবণতা হলো মানুষকে সন্তুষ্ট করার চেষ্টা করা। আগরওয়াল বলেন, “এর মূল লক্ষ্য হচ্ছে ব্যবহারকারী পছন্দ করবে এমন উত্তর দেওয়া। মানুষ এমন মডেল পছন্দ করে, যা তাদের সঙ্গে একমত হয়। ফলে চ্যাটবট বিরোধিতা করে না।” এটি ভয়াবহ ক্ষতিকর দিক।

রোগীরাও অনেক সময় পরিস্থিতি আরও জটিল করে তোলেন। তারা এমন প্রশ্ন করেন— “আমার মনে হয় আমার এই রোগ হয়েছে। এখন কী করা উচিত?” অথবা “আমার সমস্যার জন্য এই ওষুধের কত ডোজ নেওয়া উচিত?”

অনেক ক্ষেত্রেই রোগ নির্ণয় বা ওষুধের ধারণাটিই শুরু থেকে ভুল হতে পারে। আবার রোগীরা চ্যাটবটের সঙ্গে এমনভাবে কথা বলেন যেন সেটি মানুষ—যেমন, “এটা খুব একটা সহায়ক হলো না।”
এই ধরনের আচরণ চ্যাটবটের মানুষকে খুশি করার প্রবণতাকে কাজে লাগায় এবং ক্ষতিকর পরামর্শ পাওয়ার ঝুঁকি বাড়ায়।

তাহলে মানুষ কী করবে?
আগরওয়ালের পরামর্শ হলো, চিকিৎসা-সংক্রান্ত চ্যাটবটকে প্রাথমিক সহায়তা হিসেবে ব্যবহার করা উচিত, চূড়ান্ত সিদ্ধান্ত হিসেবে নয়। এআই উপকারী তথ্য সামনে আনতে পারে, কিন্তু ব্যবহারকারীদের সবসময় সূত্র যাচাই করা উচিত এবং কেবল বিশ্বস্ত তথ্যের ওপর নির্ভর করা উচিত।

তবে তিনি স্বীকার করেন, অনেক মানুষেরই এসব যাচাই করার সময় বা আগ্রহ থাকে না। তাই তিনি চ্যাটবটের নিরাপত্তা উন্নত করাকে জরুরি জনস্বাস্থ্য বিষয় হিসেবে দেখছেন।

আয়মান আলী নামের একজন চিকিৎসক, যিনি ডিউক হেলথ -এর চতুর্থ বর্ষের সার্জিক্যাল রেসিডেন্ট এবং আগরওয়ালের সহকর্মী, এই বিশ্লেষণে চিকিৎসকের দৃষ্টিভঙ্গি যোগ করছেন।

তিনি বলেন, “যখন কোনো রোগী আমাদের কাছে প্রশ্ন নিয়ে আসে, আমরা কথার আড়ালে বুঝতে চেষ্টা করি, আসলে তিনি কী জানতে চাইছেন। আমরা পুরো প্রেক্ষাপট বিশ্লেষণ করার প্রশিক্ষণ পাই। বৃহৎ ভাষা মডেলগুলো মানুষকে সেভাবে দিকনির্দেশনা দেয় না।’’ 

আলী মনে করেন, ‘‘এই মডেলগুলো চিকিৎসা-সংক্রান্ত তথ্যকে সবার জন্য সহজলভ্য করেছে।কিন্তু একই সঙ্গে তথ্যের গভীরতাও কমিয়ে দিয়েছে।’’