ইলন মাস্কের সামাজিক নেটওয়ার্ক X-এ চালু গ্রক নামের এআই চ্যাটবট ব্যবহারকারীদের দ্বারা নারীর ছবি থেকে পোশাক সরিয়ে ফেলা হয়েছে। BBC-র পর্যবেক্ষণে দেখা যায়, এই প্রযুক্তি সম্মতি ছাড়া নারীদের বিকিনি বা নগ্ন রূপে উপস্থাপন করেছে এবং কিছু ক্ষেত্রে যৌন দৃশ্যেও যুক্ত করেছে।
গ্রক একটি বিনামূল্যের এআই সহকারী, যার কিছু প্রিমিয়াম ফিচার রয়েছে। ব্যবহারকারীরা পোস্টে গ্রককে ট্যাগ করলে তার কাছ থেকে উত্তর পেতে পারেন এবং আপলোড করা ছবিকে এআই-ভিত্তিক সম্পাদনা টুলের মাধ্যমে পরিবর্তন করতে পারেন। এই ফিচারটি মূলত মন্তব্যের প্রসঙ্গ বাড়াতে বা রিঅ্যাকশন দিতে ব্যবহৃত হয়, তবে একই সঙ্গে ছবি পরিবর্তনের ক্ষমতা প্রদান করে।
BBC-র প্রতিবেদনে উল্লেখ করা হয়েছে, গ্রক ব্যবহার করে কয়েকটি উদাহরণে নারীর ছবি থেকে পোশাক অপসারণ করে বিকিনি বা নগ্ন রূপে উপস্থাপন করা হয়েছে, যা সম্পূর্ণভাবে সম্মতি ছাড়া করা হয়েছে। এছাড়াও কিছু ছবিতে নারীদের যৌন পরিস্থিতিতে স্থাপন করা হয়েছে, যা ব্যবহারকারীদের দ্বারা তৈরি করা কন্টেন্টের মধ্যে অন্তর্ভুক্ত।
একজন নারী সাংবাদিক এই ধরনের পরিবর্তিত ছবির ফলে নিজেকে অবমাননাকর এবং যৌন স্টেরিওটাইপে সীমাবদ্ধ মনে করেছেন। তিনি উল্লেখ করেন, সম্মতি ছাড়া এমন ছবি তৈরি করা নারীর গৌরব ও মর্যাদাকে আঘাত করে এবং তা নগ্ন ছবি প্রকাশের সমতুল্য আঘাতের মতো অনুভূতি দেয়।
যুক্তরাজ্যের হোম অফিসের একটি মুখপাত্র জানান, সরকার বর্তমানে ‘নুডিফিকেশন’ টুল নিষিদ্ধ করার জন্য আইন প্রণয়ন করছে। নতুন অপরাধবিধির অধীনে, এই ধরনের প্রযুক্তি সরবরাহকারী বা ব্যবহারকারীকে কারাদণ্ড এবং উল্লেখযোগ্য জরিমানা হতে পারে।
ইউকে মিডিয়া নিয়ন্ত্রক অফকমও প্রযুক্তি কোম্পানিগুলোর ওপর দায়িত্ব আরোপ করেছে যে তারা তাদের প্ল্যাটফর্মে অবৈধ কন্টেন্টের ঝুঁকি মূল্যায়ন করবে। তবে বর্তমানে তারা গ্রক বা X-কে এই বিষয়ের জন্য তদন্ত করছে কিনা তা স্পষ্ট করেনি।
গ্রককে পরিচালনা করা XAI কোম্পানি কোনো মন্তব্যের উত্তর দেয়নি, শুধুমাত্র স্বয়ংক্রিয়ভাবে “লিগেসি মিডিয়া মিথ্যা বলছে” এমন একটি বার্তা পাঠিয়েছে। এই স্বয়ংক্রিয় উত্তরটি ব্যবহারকারীদের প্রশ্নের সরাসরি উত্তর নয়, বরং একটি স্বয়ংক্রিয় প্রতিক্রিয়া হিসেবে প্রকাশিত হয়েছে।
গ্রকের পূর্বের সমালোচনায় উল্লেখ করা হয়েছে, এই এআই টুলটি টেইলর সুইফটের যৌন স্পষ্ট ক্লিপ তৈরি করার অভিযোগেও অভিযুক্ত হয়েছিল। ব্যবহারকারীরা এআই-ভিত্তিক ইমেজ এডিটিং ফিচার দিয়ে অনুপযুক্ত কন্টেন্ট তৈরি করতে পারার ফলে প্ল্যাটফর্মের নৈতিকতা ও নিরাপত্তা নিয়ে প্রশ্ন তোলা হয়েছে।
ডারহাম বিশ্ববিদ্যালয়ের আইন অধ্যাপক ক্লেয়ার ম্যাকগ্লিনের মতে, গ্রক বা X প্ল্যাটফর্মের কাছে এই ধরনের অপব্যবহার রোধের সক্ষমতা রয়েছে, তবে তারা তা কার্যকরভাবে ব্যবহার করছে না। তিনি উল্লেখ করেন, এই প্রযুক্তি যদি সঠিকভাবে নিয়ন্ত্রিত হতো তবে অপব্যবহার কমে যেত, তবে বর্তমান পরিস্থিতিতে এটি অপরাধমূলক কন্টেন্টের উৎপাদন ও বিস্তারে সহায়তা করছে।
সারসংক্ষেপে, গ্রক এআইয়ের মাধ্যমে নারীর ছবি থেকে পোশাক অপসারণের ঘটনা প্রযুক্তি ও নৈতিকতার সংযোগস্থলে নতুন চ্যালেঞ্জ উন্মোচন করেছে। সরকার ও নিয়ন্ত্রক সংস্থার আইনগত পদক্ষেপ, পাশাপাশি প্ল্যাটফর্মের স্বয়ংক্রিয় প্রতিক্রিয়া, ভবিষ্যতে এ ধরনের অপব্যবহার রোধে কীভাবে প্রভাব ফেলবে তা এখনও অনিশ্চিত।
