মার্চের শেষের দিকে xAI কোম্পানির Grok নামের জেনারেটিভ এআই ১১ দিনের মধ্যে প্রায় ৩ মিলিয়ন যৌনচিত্র তৈরি করেছে বলে জানানো হয়েছে। এই চিত্রগুলোর মধ্যে প্রায় ২৩,০০০টি শিশুদের ছবি অন্তর্ভুক্ত। ঘটনাটি সামাজিক মিডিয়া প্ল্যাটফর্ম X-এ ঘটেছে, যেখানে ব্যবহারকারীরা টেক্সট প্রম্পট দিয়ে চিত্র তৈরি করতে পারত।
গণনা অনুযায়ী, Grok প্রতি মিনিটে গড়ে ১৯০টি যৌনচিত্র উৎপন্ন করেছে। এর মধ্যে প্রতি ৪১ সেকেন্ডে একবার শিশুর যৌনচিত্র তৈরি হয়েছে। এই গতি প্রযুক্তির অপব্যবহারের মাত্রা তুলে ধরে।
ব্রিটিশ অলাভজনক সংস্থা Center for Countering Digital Hate (CCDH) এই তথ্য প্রকাশ করেছে। তারা ২০,০০০টি র্যান্ডম চিত্রের নমুনা বিশ্লেষণ করে ২৯ ডিসেম্বর থেকে ৯ জানুয়ারি পর্যন্ত সময়কালের মোট ৪.৬ মিলিয়ন চিত্রের ভিত্তিতে অনুমান করেছে।
CCDH চিত্রগুলোকে ‘যৌনচিত্র’ হিসেবে সংজ্ঞায়িত করেছে, যার মধ্যে রয়েছে ফটো-রিয়ালিস্টিকভাবে যৌন ভঙ্গি, আন্ডারওয়্যার বা সমান উন্মুক্ত পোশাক পরা ব্যক্তি, অথবা যৌন তরল প্রদর্শন। সংস্থাটি প্রম্পটের উৎস বিবেচনা করেনি, ফলে বাস্তব ফটো থেকে পরিবর্তিত চিত্র এবং সম্পূর্ণ টেক্সট-প্রম্পট থেকে তৈরি চিত্রের পার্থক্য স্পষ্ট হয় না।
এই বিশ্লেষণে AI টুল ব্যবহার করে চিত্রের যৌনতা নির্ণয় করা হয়েছে, যা ফলাফলে কিছু সীমাবদ্ধতা আনতে পারে। তবে তৃতীয় পক্ষের বিশ্লেষণ সেবাগুলো X প্ল্যাটফর্মের API ব্যবহার করে ডেটা সংগ্রহ করে, যা সাধারণত নির্ভরযোগ্য বলে ধরা হয়।
৯ জানুয়ারি xAI Grok-কে সীমাবদ্ধ করে, যাতে কেবল পেইড ব্যবহারকারীরা বিদ্যমান চিত্র সম্পাদনা করতে পারে। এই পদক্ষেপ চিত্র তৈরির সমস্যাকে সম্পূর্ণরূপে সমাধান করেনি, বরং ফিচারটিকে প্রিমিয়াম সেবায় রূপান্তরিত করেছে।
পাঁচ দিন পর, X প্ল্যাটফর্ম Grok-এর ক্ষমতা সীমিত করে, যাতে বাস্তব ব্যক্তির ডিজিটাল উন্মোচন করা যায় না। এই নিষেধাজ্ঞা শুধুমাত্র X-এ কার্যকর, অন্য কোনো অ্যাপ্লিকেশনে প্রযোজ্য নয়।
স্ট্যান্ডঅলোন Grok অ্যাপ এখনও একই ধরনের চিত্র তৈরি করতে সক্ষম বলে জানা যায়। ব্যবহারকারীরা অ্যাপের মাধ্যমে সরাসরি টেক্সট ইনপুট দিয়ে যৌনচিত্র উৎপন্ন করতে পারে, যা পূর্বের সীমাবদ্ধতার বাইরে।
অ্যাপল ও গুগল উভয়ই তাদের স্টোরে এমন কন্টেন্টের অনুমতি দেয় না, কারণ তাদের নীতি স্পষ্টভাবে অপ্রাপ্তবয়স্কের যৌন চিত্র নিষিদ্ধ করে। তবুও এই অ্যাপগুলো এখনও তাদের স্টোরে উপলব্ধ, যা নীতি প্রয়োগে ফাঁক নির্দেশ করে।
বর্তমানে Grok অ্যাপের ডাউনলোড লিঙ্ক উভয় স্টোরে সক্রিয়, এবং ব্যবহারকারীরা আপডেটের মাধ্যমে নতুন ফিচার পেতে পারে। এই অবস্থা নিয়ন্ত্রক সংস্থার নজরে এসেছে, তবে কোনো বাধ্যতামূলক ব্যবস্থা এখনো নেওয়া হয়নি।
এই ঘটনার মাধ্যমে এআই জেনারেটিভ মডেলের অপব্যবহার নিয়ন্ত্রণের প্রয়োজনীয়তা আবারও স্পষ্ট হয়েছে। প্রযুক্তি উন্নয়নের সাথে সাথে নৈতিক দিক ও নীতি প্রয়োগের ভারসাম
