নিজের কোনও ধারণা নিয়ে সংশয় রয়েছে? চ্যাটজিপিটিকে প্রশ্ন করলেন। উত্তরে মিলল আপনার ভাবনারই সমর্থন। ফের প্রশ্ন করলেন, আবারও সায় দিল এআই। এভাবে বারবার একই ধরনের উত্তর পেতে পেতে নিজের বিশ্বাসকেই চূড়ান্ত সত্য বলে মনে হতে পারে।
বাস্তবের সঙ্গে সেই বিশ্বাসের ফারাক থাকলেও সংশয় কমে যেতে পারে। কৃত্রিম বুদ্ধিমত্তার এই প্রবণতা নিয়েই সতর্ক করছেন এমআইটির গবেষকেরা। তাঁদের গাণিতিক বিশ্লেষণ বলছে, এআইয়ের অতিরিক্ত সম্মতি কোনও ব্যক্তির ভুল ধারণাকে আরও দৃঢ় করে তোলার ঝুঁকি তৈরি করতে পারে।
আরও পড়ুন:
কী এই ভ্রান্ত বিশ্বাসের চক্র?
গবেষকেরা এই প্রক্রিয়ার নাম দিয়েছেন ‘ডিলিউশনাল স্পাইরাল’। অর্থাৎ, এমন এক চক্র, যেখানে এআইয়ের সঙ্গে বারবার কথোপকথনের ফলে কোনও ভুল বা অস্বাভাবিক বিশ্বাস ক্রমশ জোরালো হয়ে উঠতে পারে। এর জন্য চ্যাটবটকে সরাসরি মিথ্যা বলতে হবে, এমন নয়। ব্যবহারকারীর ধারণার পক্ষে বারবার তথ্য তুলে ধরা এবং তার বিরোধী প্রমাণ যথেষ্ট গুরুত্ব দিয়ে সামনে না আনাও সমস্যার কারণ হতে পারে। কথোপকথনে বারবার পাওয়া এই সমর্থন ধীরে ধীরে বিশ্বাসকে আরও পোক্ত করে তুলতে পারে।
আরও পড়ুন:
এমআইটির গবেষকেরা একটি গাণিতিক মডেলের সাহায্যে দেখিয়েছেন, নির্দিষ্ট পরিস্থিতিতে এমনটা ঘটতে পারে। তাঁদের মডেল অনুযায়ী, ব্যবহারকারী যুক্তিবাদী হলেও এআইয়ের অতিরিক্ত সম্মতির প্রভাবে এই চক্রে জড়িয়ে পড়তে পারেন। তবে এই গবেষণা প্রমাণ করে না যে চ্যাটজিপিটি মানুষকে মানসিকভাবে অসুস্থ করে তোলে বা প্রত্যেক ব্যবহারকারীর ক্ষেত্রেই এমন ঝুঁকি রয়েছে। এটি মূলত এআইয়ের আচরণ এবং মানুষের বিশ্বাসের উপর তার সম্ভাব্য প্রভাব নিয়ে একটি গাণিতিক বিশ্লেষণ।
নিজের আবিষ্কার নিয়েই বিভ্রান্তি
এআইয়ের এই প্রবণতা নিয়ে উদ্বেগের পিছনে রয়েছে বাস্তব অভিজ্ঞতাও। কানাডার অ্যালান ব্রুকস একটি যুগান্তকারী গাণিতিক আবিষ্কার করেছেন বলে বিশ্বাস করতে শুরু করেন। সেই ধারণা নিয়ে ২১ দিনে আনুমানিক ৩০০ ঘণ্টা চ্যাটজিপিটির সঙ্গে কথা বলেন তিনি। কথোপকথনে চ্যাটবট বারবার তাঁর বিশ্বাসকে সমর্থন করেছিল। পরে পরীক্ষা করে তাঁর যুগান্তকারী আবিষ্কারের কোনও প্রমাণ পাওয়া যায়নি।
এআইয়ের এই আচরণকে বলা হয় ‘সাইকোফ্যান্সি’। সহজ কথায়, ব্যবহারকারীর মন জুগিয়ে চলা বা তাঁর বক্তব্যের সঙ্গে অতিরিক্ত সহমত পোষণ করা। দীর্ঘ কথোপকথন এবং ব্যক্তিগত পছন্দ অনুযায়ী উত্তর দেওয়ার প্রবণতা কিছু এআই মডেলে এই আচরণ বাড়াতে পারে বলে গবেষণায় উঠে এসেছে।
সুরক্ষা ব্যবস্থাই বা কতটা কার্যকর?
এমআইটির গবেষকেরা দুটি সম্ভাব্য সুরক্ষাব্যবস্থাও পরীক্ষা করেছেন। প্রথমটি, চ্যাটবটকে মিথ্যা তথ্য দেওয়া থেকে আটকানো। দ্বিতীয়টি, ব্যবহারকারীকে সতর্ক করা যে এআই সব সময় নিরপেক্ষ নাও হতে পারে। কিন্তু তাঁদের মডেলে দেখা গিয়েছে, শুধু এই দুই ব্যবস্থা নিলেই ভ্রান্ত বিশ্বাসের চক্র পুরোপুরি ঠেকানো যায় না। তবে এর অর্থ এই নয় যে ঝুঁকি কমানোর উপায় নেই। বিভিন্ন এআই মডেলের আচরণে পার্থক্য রয়েছে। প্রযুক্তির নকশা, প্রশিক্ষণ এবং সুরক্ষাব্যবস্থার মাধ্যমে এই প্রবণতা নিয়ন্ত্রণের সুযোগও রয়েছে।
এআইয়ের কথাই শেষ কথা নয়
মানুষের সঙ্গে চ্যাটবটের সম্পর্কের ধরনই এই উদ্বেগের অন্যতম কারণ। কোনও বন্ধু, চিকিৎসক বা সহকর্মীর সঙ্গে কথোপকথনে মতের অমিল তৈরি হতে পারে, প্রশ্ন উঠতে পারে। কিন্তু চ্যাটবটের সঙ্গে অনির্দিষ্টকাল কথা বলা যায়। তাৎক্ষণিক উত্তর দেওয়া, কথোপকথনের আগের প্রসঙ্গ ধরে রাখা এবং ব্যবহারকারীর ভাষার সঙ্গে মানিয়ে নেওয়ার ক্ষমতা তাকে আরও বিশ্বাসযোগ্য করে তুলতে পারে। ফলে কোনও ভুল ধারণা বারবার সমর্থন পেলে তা নিয়ে সংশয় কমে যাওয়ার আশঙ্কা থাকে।
তাই এআইয়ের উত্তরকে চূড়ান্ত সত্য বলে ধরে নেওয়া ঠিক নয়। বিশেষত স্বাস্থ্য, মানসিক সুস্থতা বা জীবনের গুরুত্বপূর্ণ সিদ্ধান্তের ক্ষেত্রে তথ্যের সত্যতা যাচাই করা জরুরি। নিজের বিশ্বাসের বিপরীত তথ্যও বিবেচনা করতে হবে। কারণ, যে প্রযুক্তি প্রশ্নের উত্তর দিতে পারে, তার প্রতিটি উত্তর যে নির্ভুল, এমন নিশ্চয়তা নেই।
আরও পড়ুন:
সর্বশেষ খবর
