একটি নতুন ঝুঁকি মূল্যায়ন অনুযায়ী, এক্সআইএআই‑এর চ্যাটবট Grok‑এর ব্যবহারকারী বয়স যাচাই যথেষ্ট নয়, সুরক্ষা ব্যবস্থা দুর্বল এবং প্রায়ই যৌন, হিংসাত্মক ও অনুপযুক্ত বিষয়বস্তু তৈরি করে। এই ফলাফলগুলো নির্দেশ করে যে Grok‑কে শিশু ও কিশোরদের জন্য নিরাপদ বলা যায় না।
এই রিপোর্টটি Common Sense Media নামের অলাভজনক সংস্থা প্রকাশ করেছে, যা পরিবারগুলোর জন্য মিডিয়া ও প্রযুক্তির বয়স‑ভিত্তিক রেটিং ও রিভিউ প্রদান করে। রিপোর্টটি এক্সআইএআই‑কে ঘিরে চলমান তদন্তের মাঝখানে প্রকাশিত, যেখানে Grok‑কে এক্স প্ল্যাটফর্মে অনধিকারপূর্ণভাবে নারীর ও শিশুর স্পষ্ট AI‑সৃষ্ট ছবি তৈরিতে ব্যবহার করা হয়েছে বলে অভিযোগ।
Common Sense Media‑এর AI ও ডিজিটাল মূল্যায়ন প্রধান রবিবি টর্নি উল্লেখ করেছেন, Grok‑কে তারা এখন পর্যন্ত দেখেছে এমন সবচেয়ে ঝুঁকিপূর্ণ চ্যাটবটগুলোর মধ্যে গণ্য করা হয়েছে। তিনি জানান, যদিও অধিকাংশ চ্যাটবটে কিছু সুরক্ষা ফাঁক থাকে, Grok‑এর সমস্যাগুলো একসাথে ঘটায় যা বিশেষভাবে উদ্বেগজনক।
প্রধান সমস্যাগুলোর মধ্যে রয়েছে ‘Kids Mode’‑এর অকার্যকরতা, স্পষ্ট বিষয়বস্তুর ব্যাপক উপস্থিতি এবং এক্স‑এ একসাথে লক্ষ লক্ষ ব্যবহারকারীর সঙ্গে বিষয়বস্তু শেয়ার করার সহজতা। ‘Kids Mode’ অক্টোবর মাসে চালু করা হয়েছিল, যেখানে কন্টেন্ট ফিল্টার ও প্যারেন্টাল কন্ট্রোলের ব্যবস্থা ছিল বলে দাবি করা হয়।
তবে সংস্থা উল্লেখ করেছে যে, এক্সআইএআই‑এর পদ্ধতি সমস্যার সমাধানের বদলে পেইড ফিচার হিসেবে এই ফিল্টারগুলোকে সীমাবদ্ধ করে, যা শিশুর সুরক্ষার চেয়ে মুনাফা অগ্রাধিকার দেয়। এই দৃষ্টিভঙ্গি সমালোচনার মুখে পড়ে, কারণ অনধিকারপূর্ণ শিশুসামগ্রীকে সরিয়ে না দিয়ে পেইড সাবস্ক্রিপশনের মাধ্যমে চালু রাখা ব্যবসায়িক মডেল হিসেবে বিবেচিত হয়।
জনমত ও নীতি নির্ধারকদের তীব্র প্রতিক্রিয়ার পর এক্সআইএআই Grok‑এর ছবি তৈরি ও সম্পাদনা ফিচারকে শুধুমাত্র পেইড এক্স সাবস্ক্রাইবারদের জন্য সীমাবদ্ধ করে। তবুও কিছু ব্যবহারকারী জানান, ফ্রি অ্যাকাউন্টের মাধ্যমে এখনও এই টুলে প্রবেশ করা সম্ভব।
অধিকন্তু, পেইড সাবস্ক্রাইবারদের জন্য বাস্তব ছবির ওপর পরিবর্তন করা সম্ভব, যার মধ্যে পোশাক সরিয়ে ফেলা বা বিষয়বস্তুকে যৌনকেন্দ্রিক অবস্থানে স্থাপন করা অন্তর্ভুক্ত। এই ধরনের ক্ষমতা শিশুর গোপনীয়তা ও সম্মানকে হুমকির মুখে ফেলতে পারে।
Common Sense Media‑এর টেস্টিং প্রক্রিয়ায় নভেম্বর থেকে জানুয়ারি ২২ পর্যন্ত কিশোর টেস্ট অ্যাকাউন্ট ব্যবহার করে মোবাইল অ্যাপ, ওয়েবসাইট এবং এক্স‑এর @grok অ্যাকাউন্টে বিভিন্ন ফিচার পরীক্ষা করা হয়। পরীক্ষার মধ্যে টেক্সট, ভয়েস, ডিফল্ট সেটিংস, Kids Mode, Conspiracy Mode এবং ছবি ও ভিডিও জেনারেশন অন্তর্ভুক্ত ছিল।
এই বিশ্লেষণ দেখায় যে, Grok‑এর বর্তমান সুরক্ষা ব্যবস্থা শিশুসুলভ ব্যবহারকারীদের জন্য যথেষ্ট নয় এবং দ্রুত উন্নত করা প্রয়োজন। বিশেষ করে কন্টেন্ট শেয়ারিংয়ের গতি ও পেইড ফিচারগুলোর মাধ্যমে অনধিকারপূর্ণ বিষয়বস্তু বিস্তারের ঝুঁকি বাড়ছে।
প্রযুক্তি শিল্পে এ ধরনের নিরাপত্তা ঘাটতি ব্যবহারকারী আস্থা হ্রাসের পাশাপাশি আইনগত ও নৈতিক চ্যালেঞ্জও তৈরি করে। এক্সআইএআই‑কে এখনই স্পষ্ট নীতি ও কার্যকর ফিল্টার প্রয়োগ করে শিশুর সুরক্ষা নিশ্চিত করতে হবে, নতুবা ভবিষ্যতে আরও কঠোর নিয়ন্ত্রক পদক্ষেপের মুখে পড়তে পারে।
সারসংক্ষেপে, Common Sense Media‑এর রিপোর্ট এক্সআইএআই‑এর Grok‑কে বর্তমান সময়ে শিশুসুরক্ষার দৃষ্টিকোণ থেকে অনুপযুক্ত বলে চিহ্নিত করেছে এবং ত্বরিত সংশোধন দাবি করে। এই বিষয়টি প্রযুক্তি ও নীতি নির্ধারকদের জন্য গুরুত্বপূর্ণ সতর্কবার্তা হিসেবে কাজ করবে।
