ইন্টারনেট ওয়াচ ফাউন্ডেশন (IWF) জানিয়েছে যে তাদের বিশ্লেষকরা গৃহীত তথ্য থেকে ১১ থেকে ১৩ বছর বয়সী মেয়েদের যৌনায়িত চিত্র শনাক্ত করেছেন, যেগুলো গৃহীত তথ্য অনুযায়ী AI টুল গ্রক ব্যবহার করে তৈরি হয়েছে। গৃহীত তথ্যের সূত্রে বলা হয়েছে যে এই চিত্রগুলো গোপন ফোরামে প্রকাশিত হয়েছিল, যেখানে ব্যবহারকারীরা গ্রক দিয়ে ছবি তৈরি করার কথা উল্লেখ করেছেন।
গ্রক হল xAI কোম্পানির মালিকানাধীন একটি কৃত্রিম বুদ্ধিমত্তা চ্যাটবট, যা এলন মাস্কের অধীনে পরিচালিত। ব্যবহারকারীরা ওয়েবসাইট, মোবাইল অ্যাপ অথবা X (পূর্বে টুইটার) প্ল্যাটফর্মের মাধ্যমে গ্রককে অ্যাক্সেস করতে পারে। IWF উল্লেখ করেছে যে গৃহীত তথ্য অনুসারে গোপন ফোরামে প্রকাশিত চিত্রগুলোতে মেয়েদের নগ্ন বা অর্ধনগ্ন অবস্থা দেখা যায়।
ব্রিটিশ আইন অনুসারে এই ধরনের চিত্রগুলোকে ক্যাটেগরি সি হিসেবে শ্রেণীবদ্ধ করা হয়, যা সর্বনিম্ন স্তরের অপরাধমূলক বিষয়বস্তু। তবে একই ব্যবহারকারী পরে অন্য একটি AI টুল, যা xAI-র নয়, ব্যবহার করে ক্যাটেগরি এ স্তরের চিত্র তৈরি করেন, যা সবচেয়ে গুরুতর অপরাধ হিসেবে গণ্য হয়।
IWF এই বিষয়টি নিয়ে গভীর উদ্বেগ প্রকাশ করেছে, বিশেষ করে এই ধরনের ফটো-রিয়ালিস্টিক শিশুর যৌন নির্যাতন চিত্র দ্রুত ও সহজে তৈরি করা সম্ভব হওয়ায়। সংস্থাটি উল্লেখ করেছে যে, এমন চিত্রের উৎপাদন ও বিতরণ বন্ধ করা কঠিন হয়ে উঠতে পারে, যদি নিয়ন্ত্রণের যথাযথ ব্যবস্থা না নেওয়া হয়।
চ্যারিটি সংস্থা CSAM (শিশু যৌন নির্যাতন সামগ্রী) অপসারণের জন্য হটলাইন চালু রেখেছে এবং বিশ্লেষক দলকে নিয়োগ করে চিত্রের বৈধতা ও তীব্রতা মূল্যায়ন করে। তাদের বিশ্লেষকরা গোপন ফোরাম থেকে প্রাপ্ত চিত্রগুলোকে তদন্তের আওতায় এনেছেন, যদিও একই চিত্রগুলো X প্ল্যাটফর্মে পাওয়া যায়নি।
পূর্বে Ofcom এই AI টুল গ্রককে নিয়ে উদ্বেগ প্রকাশ করে xAI ও X-কে যোগাযোগ করেছিল। Ofcom-এর রিপোর্টে উল্লেখ করা হয়েছিল যে গ্রক ব্যবহার করে শিশুর যৌনায়িত চিত্র তৈরি করা সম্ভব এবং নারীদের ছবি অননুমোদিতভাবে বদলিয়ে বিকিনি বা যৌন পরিস্থিতিতে দেখানো যায়।
BBC-র পর্যবেক্ষণে X-এ এমন কিছু পোস্ট দেখা গেছে, যেখানে ব্যবহারকারীরা চ্যাটবটকে বাস্তব ছবি পরিবর্তন করে নারীদের বিকিনি পরানো বা যৌন দৃশ্যে বসাতে অনুরোধ করেছে। যদিও এই চিত্রগুলোকে এখনও আইনি দৃষ্টিতে CSAM হিসেবে চিহ্নিত করা হয়নি, IWF এই ধরনের রিপোর্ট পেয়ে সতর্কতা প্রকাশ করেছে।
X প্ল্যাটফর্মের পক্ষ থেকে পূর্বে একটি বিবৃতি প্রকাশিত হয়েছিল, যেখানে বলা হয়েছে যে তারা অবৈধ বিষয়বস্তু, বিশেষ করে CSCS (শিশু যৌন নির্যাতন সামগ্রী) সরিয়ে ফেলতে এবং সংশ্লিষ্ট অ্যাকাউন্ট স্থায়ীভাবে বন্ধ করতে পদক্ষেপ নেয়।
এই ঘটনা AI প্রযুক্তির দ্রুত অগ্রগতির সঙ্গে সঙ্গে নৈতিক ও আইনি চ্যালেঞ্জের উদ্ভবকে তুলে ধরে। গৃহীত তথ্য অনুযায়ী, যদি নিয়ন্ত্রণের যথাযথ কাঠামো না থাকে, তবে এমন টুলগুলো অনিচ্ছাকৃতভাবে শিশুর যৌন নির্যাতনের নতুন রূপ তৈরি করতে পারে, যা সমাজের জন্য গুরুতর হুমকি সৃষ্টি করে।
শিশু সুরক্ষা সংস্থা, নিয়ন্ত্রক সংস্থা এবং প্রযুক্তি বিকাশকারীদের মধ্যে সমন্বিত প্রচেষ্টা প্রয়োজন, যাতে AI টুলের অপব্যবহার রোধ করা যায় এবং অনলাইন পরিবেশকে নিরাপদ রাখা যায়।
