একটি স্বতন্ত্র গবেষণা প্রকাশ করেছে যে অ্যাপল ও গুগল স্টোরে নন‑কনসেন্ট্রাল সেক্সুয়ালাইজড ছবি তৈরি করা এআই অ্যাপের সংখ্যা এখনও উচ্চ মাত্রায় রয়েছে। এই গবেষণাটি টেক ট্রান্সপারেন্সি প্রজেক্ট (TTP) নামে একটি অনলাইন অ্যাডভোকেসি সংস্থা পরিচালনা করেছে এবং সম্প্রতি প্রকাশিত হয়েছে।
TTP দলের বিশ্লেষণে দেখা গেছে গুগল প্লে স্টোরে মোট ৫৫টি এবং অ্যাপল অ্যাপ স্টোরে ৪৭টি ‘নুডিফাই’ অ্যাপ সক্রিয় রয়েছে। উভয় প্ল্যাটফর্মেই xAI এর Grok নামের এআই চ্যাটবটও এখনও উপলব্ধ, যা বিশ্বব্যাপী সবচেয়ে পরিচিত নন‑কনসেন্ট্রাল ডিপফেক নির্মাতা হিসেবে চিহ্নিত।
প্রতিষ্ঠানের নির্বাহী পরিচালক মিশেল কাপারস্মিথ উল্লেখ করেন, স্টোরগুলোকে অ্যাপের বিষয়বস্তু যাচাই করে নীতি লঙ্ঘনকারী অ্যাপ সরিয়ে ফেলতে হবে, তবে বর্তমানে এমন বহু অ্যাপ রয়েছে যা কম বা কোনো পোশাক না থাকা চিত্র তৈরি করতে সক্ষম, ফলে অপব্যবহারের ঝুঁকি বাড়ছে।
রিপোর্টে উল্লেখ করা হয়েছে যে এই অ্যাপগুলো সম্মিলিতভাবে ৭০০ মিলিয়নেরও বেশি ডাউনলোড পেয়েছে এবং মোট আয় ১১৭ মিলিয়ন ডলারের বেশি হয়েছে। অ্যাপল ও গুগল উভয়ই এই আয়ের একটি অংশ নিজেদের কেটে নেয়, যদিও সুনির্দিষ্ট শতাংশ প্রকাশ করা হয়নি।
বহু অ্যাপকে টিনএজ ও শিশুদের জন্য উপযুক্ত হিসেবে রেট করা হয়েছে। উদাহরণস্বরূপ, DreamFace গুগল প্লে স্টোরে ১৩ বছর ও তার উপরে ব্যবহারকারীদের জন্য এবং অ্যাপল অ্যাপ স্টোরে ৯ বছর ও তার উপরে ব্যবহারকারীদের জন্য অনুমোদিত। এই রেটিংয়ের ফলে কম বয়সী ব্যবহারকারীরাও সহজে এই ধরনের কন্টেন্টে প্রবেশ করতে পারে।
অ্যাপল এই বিষয়ের ওপর প্রতিক্রিয়া জানিয়ে বলেছে যে তারা ইতিমধ্যে ২৪টি সমস্যাযুক্ত অ্যাপ স্টোর থেকে মুছে ফেলেছে, তবে TTP এর গবেষণায় চিহ্নিত ৪৭টি অ্যাপের মধ্যে এখনও বেশিরভাগই সক্রিয় রয়েছে। গুগলও একই রিপোর্টের উল্লেখ করে কয়েকটি অ্যাপ নীতি লঙ্ঘনের কারণে সাসপেন্ড করেছে, তবে কতগুলো অ্যাপ সরানো হয়েছে তা স্পষ্ট করা হয়নি।
এই তদন্তের সময় এলন মাস্কের xAI কোম্পানির Grok চ্যাটবটও দৃষ্টিগোচর হয়। সাম্প্রতিক বিশ্লেষণে দেখা গেছে Grok মাত্র ১১ দিনের মধ্যে প্রায় তিন মিলিয়ন সেক্সুয়ালাইজড ছবি এবং ২২,০০০টি শিশু সংশ্লিষ্ট ছবি তৈরি করেছে। এই সংখ্যা নন‑কনসেন্ট্রাল ডিপফেকের ঝুঁকি বাড়িয়ে তুলেছে।
Grok সম্পর্কিত অভিযোগের পরেও কোম্পানি থেকে কোনো স্পষ্ট ব্যাখ্যা পাওয়া যায়নি; কেবল একটি স্বয়ংক্রিয় ইমেইল পাঠানো হয়েছে। ফলে ব্যবহারকারী ও নীতিনির্ধারকদের মধ্যে উদ্বেগ বাড়ছে যে এ ধরনের প্রযুক্তি যথাযথ নিয়ন্ত্রণ ছাড়া বিস্তৃত হতে পারে।
এই পরিস্থিতি প্রযুক্তি প্ল্যাটফর্মের নীতি প্রয়োগের দুর্বলতা এবং এআই ভিত্তিক সেক্সুয়াল কন্টেন্টের দ্রুত বিস্তারকে তুলে ধরে। বিশেষ করে যখন শিশুরা এবং কিশোর-কিশোরী এই অ্যাপের লক্ষ্যবস্তু হতে পারে, তখন নৈতিক ও আইনি দিক থেকে ত্বরিত পদক্ষেপের প্রয়োজনীয়তা স্পষ্ট।
অ্যাপল ও গুগল উভয়ই তাদের স্টোরে নীতি লঙ্ঘনকারী কন্টেন্টের বিরুদ্ধে কঠোর ব্যবস্থা নেওয়ার প্রতিশ্রুতি দিয়েছে, তবে বাস্তবিকভাবে কতটা কার্যকর হবে তা এখনো অনিশ্চিত। নীতি প্রয়োগের স্বচ্ছতা এবং দ্রুত সাড়া দেওয়া ব্যবহারকারীর নিরাপত্তা নিশ্চিত করার মূল চাবিকাঠি।
বিশেষজ্ঞরা উল্লেখ করেন, এআই প্রযুক্তির অগ্রগতির সঙ্গে সঙ্গে স্টোরগুলোকে নিয়মিত অডিট এবং স্বয়ংক্রিয় ফিল্টারিং সিস্টেম উন্নত করতে হবে, যাতে নন‑কনসেন্ট্রাল সেক্সুয়ালাইজড কন্টেন্টের উৎপাদন ও বিতরণ রোধ করা যায়। ভবিষ্যতে এ ধরনের সমস্যার পুনরাবৃত্তি রোধে আন্তর্জাতিক সহযোগিতা এবং কঠোর আইন প্রণয়ন অপরিহার্য হবে।
