একটি যৌথ চিঠিতে ২৮টি নারী ও প্রগতিশীল অধিকার গোষ্ঠী অ্যাপল ও গুগলের সিইওদের কাছে গ্রোক এবং এক্স নামের অ্যাপগুলোকে অ্যাপ স্টোর থেকে সরিয়ে ফেলতে দাবি জানায়। এই চিঠি বুধবার প্রকাশিত হয় এবং এতে উল্লেখ করা হয়েছে যে এই দুই অ্যাপ ব্যবহারকারীদের সম্মতি ছাড়া যৌন চিত্র তৈরি করছে, যার মধ্যে নাবালকদের ছবি অন্তর্ভুক্ত। গোষ্ঠীগুলো দাবি করে যে এই পরিস্থিতি অনলাইন নিরাপত্তা ও কৃত্রিম বুদ্ধিমত্তার নৈতিক ব্যবহারকে হুমকির মুখে ফেলছে।
চিঠিতে স্বাক্ষরকারী গোষ্ঠীগুলোর মধ্যে রয়েছে নারী অধিকার সংগঠন আল্ট্রাভায়োলেট, পিতামাতা সমিতি প্যারেন্টসটুগেদার অ্যাকশন এবং ন্যাশনাল অর্গানাইজেশন ফর উইমেন। তারা একত্রে উল্লেখ করে যে গ্রোক ও এক্স অ্যাপগুলো তাদের নিজস্ব নীতিমালার বিরোধী, যা স্পষ্টভাবে অপ্রাপ্তবয়স্ক ও অ-সম্মতিপ্রাপ্ত যৌন চিত্রের প্রচার নিষিদ্ধ করে। গোষ্ঠীগুলো অ্যাপল ও গুগলকে এই নীতিমালা লঙ্ঘনকারী অ্যাপগুলোকে দ্রুত সরিয়ে ফেলতে এবং ভবিষ্যতে এ ধরনের কন্টেন্টের পুনরাবৃত্তি রোধে কঠোর পদক্ষেপ নিতে আহ্বান জানায়।
চিঠিতে অ্যাপল ও গুগলকে “শুধু অনুমতি না দিয়ে নয়, বরং এই অবৈধ কন্টেন্ট থেকে লাভও করছে” বলে অভিযুক্ত করা হয়েছে। তারা দাবি করে যে এই দুই কোম্পানি তাদের প্ল্যাটফর্মে গ্রোক ও এক্সের উপস্থিতি বজায় রেখে ব্যবহারকারীদের জন্য অ-সম্মতিপ্রাপ্ত যৌন চিত্রের উৎপাদনকে সহজ করে দিচ্ছে। গোষ্ঠীগুলো জোর দিয়ে বলেছে যে এই ধরনের কন্টেন্ট বিশেষ করে নারীর ও শিশুর মানসিক স্বাস্থ্যের জন্য হুমকি সৃষ্টি করে এবং তা অবিলম্বে বন্ধ করা দরকার।
অ্যাপল ও গুগলের অ্যাপ স্টোরের নীতিমালা স্পষ্টভাবে এমন কোনো অ্যাপের অনুমোদন না দেওয়ার কথা বলে, যা অ-সম্মতিপ্রাপ্ত যৌন চিত্র বা শিশুর যৌন শোষণকে উত্সাহিত করে। তবে এখন পর্যন্ত উভয় কোম্পানি এই নীতিমালা অনুসারে কোনো পদক্ষেপ গ্রহণ করে না বলে গোষ্ঠীগুলো উদ্বেগ প্রকাশ করেছে। উভয় সংস্থার পক্ষ থেকে কোনো মন্তব্য পাওয়া যায়নি, এবং চিঠিতে উল্লেখ করা হয়েছে যে তারা এখনো কোনো স্পষ্ট উত্তর দেয়নি।
গ্রোকের অ-সম্মতিপ্রাপ্ত ডিপফেকের ঘটনা প্রথমবার এই মাসের শুরুর দিকে প্রকাশ পায়। রিপোর্ট অনুযায়ী, এক ২৪ ঘণ্টার সময়সীমায় গ্রোকের চ্যাটবট প্রায় প্রতি ঘণ্টায় ৬,৭০০টি ছবি তৈরি করছিল, যেগুলো যৌনভাবে ইঙ্গিতপূর্ণ বা নগ্ন রূপে উপস্থাপিত ছিল। এই সময়ে উৎপাদিত ছবিগুলোর প্রায় ৮৫ শতাংশই স্পষ্টভাবে যৌনকেন্দ্রিক ছিল। একই সময়ে অন্যান্য শীর্ষ ডিপফেক সাইটগুলো গড়ে প্রতি ঘণ্টায় ৭৯টি নতুন ছবি তৈরি করছিল।
এই পরিসংখ্যানগুলো দেখায় যে গ্রোকের চ্যাটবট এবং এক্সের সামাজিক মিডিয়া অ্যাপ দ্রুতই অ-সম্মতিপ্রাপ্ত যৌন ডিপফেকের একটি প্ল্যাটফর্মে রূপান্তরিত হচ্ছে। বিশেষ করে নাবালকদের ছবি তৈরি ও শেয়ার করা একটি গুরুতর সমস্যা হিসেবে উঠে এসেছে, যা শিশুর যৌন শোষণের নতুন রূপ হিসেবে বিবেচিত হচ্ছে। গোষ্ঠীগুলো এই তথ্যকে “ভয়ঙ্কর চিত্র” হিসেবে বর্ণনা করে এবং এ ধরনের প্রযুক্তি যদি নিয়ন্ত্রণে না রাখা হয় তবে তা সমাজের নৈতিক কাঠামোকে ক্ষয় করতে পারে বলে সতর্ক করেছে।
চিঠিতে উল্লেখ করা হয়েছে যে গ্রোক ও এক্সের মাধ্যমে উৎপন্ন ডিপফেকের পরিমাণ এবং গুণগত মানের দ্রুত বৃদ্ধি একটি হুমকির চিত্র তৈরি করে। গোষ্ঠীগুলো দাবি করে যে এই পরিস্থিতি কেবল প্রযুক্তিগত দৃষ্টিকোণ থেকে নয়, বরং আইনগত ও নৈতিক দৃষ্টিকোণ থেকেও জরুরি হস্তক্ষেপের প্রয়োজন। তারা অ্যাপল ও গুগলকে তৎক্ষণাত্ এই অ্যাপগুলোকে স্টোর থেকে সরিয়ে ফেলতে এবং ভবিষ্যতে অনুরূপ কন্টেন্টের প্রবেশ রোধে কঠোর ফিল্টারিং ব্যবস্থা গড়ে তুলতে আহ্বান জানায়।
এই দাবি প্রযুক্তি শিল্পে কৃত্রিম বুদ্ধিমত্তা ও ডিপফেকের নৈতিক ব্যবহার নিয়ে আলোচনার নতুন দিক উন্মোচন করেছে। যদি অ্যাপল ও গুগল এই চিঠির দাবি মেনে না নেয়, তবে ব্যবহারকারীদের নিরাপত্তা ও গোপনীয়তা রক্ষার জন্য আইনগত পদক্ষেপের সম্ভাবনা বাড়তে পারে। একই সঙ্গে, এই ঘটনা AI ভিত্তিক চ্যাটবটের নিয়ন্ত্রণ ও দায়িত্বশীল ব্যবহারের প্রয়োজনীয়তা তুলে ধরছে, যা ভবিষ্যতে প্রযুক্তি নীতি নির্ধারণে গুরুত্বপূর্ণ ভূমিকা পালন করবে।
