ইউ.এস. সেনেটের কিছু সদস্য সম্প্রতি X, মেটা, অ্যালফাবেট, স্ন্যাপ, রেডিট এবং টিকটকের শীর্ষ কর্মকর্তাদের উদ্দেশ্য একটি চিঠি পাঠিয়ে যৌনকেন্দ্রিক ডিপফেকের বিরুদ্ধে কোম্পানিগুলোর নীতি ও সুরক্ষা ব্যবস্থা সম্পর্কে স্পষ্টতা চেয়েছেন।
চিঠিতে উল্লেখ করা হয়েছে যে এই প্রযুক্তি-ভিত্তিক প্ল্যাটফর্মগুলোকে তাদের সিস্টেমে বিদ্যমান রক্ষামূলক ব্যবস্থা, নীতি ও প্রক্রিয়ার প্রমাণ সরবরাহ করতে হবে এবং ভবিষ্যতে এই ধরনের কন্টেন্টের বিস্তার রোধে কী পদক্ষেপ নেওয়া হবে তা ব্যাখ্যা করতে হবে।
অধিকন্তু, সেনেটররা সকল সম্পর্কিত নথি, ডেটা এবং তথ্য সংরক্ষণ করার নির্দেশ দিয়েছেন, যার মধ্যে রয়েছে কৃত্রিম বুদ্ধিমত্তা দ্বারা তৈরি যৌনকেন্দ্রিক ছবির সৃষ্টিকরণ, সনাক্তকরণ, মডারেশন এবং মুনাফা অর্জনের পদ্ধতি।
এই চিঠি X কোম্পানির AI মডেল Grok-এ সাম্প্রতিক আপডেটের কয়েক ঘণ্টা পরে প্রকাশিত হয়। Grok এখন বাস্তব ব্যক্তিদের উন্মুক্ত পোশাকের ছবি সম্পাদনা করা নিষিদ্ধ করেছে এবং ছবি তৈরী ও সম্পাদনার সুবিধা শুধুমাত্র পেইড সাবস্ক্রাইবারদের জন্য সীমাবদ্ধ করেছে।
X এবং তার AI শাখা xAI একই সংস্থার অংশ, এবং এই পরিবর্তনটি মিডিয়ায় Grok-এর মাধ্যমে নারী ও শিশুর যৌনকেন্দ্রিক এবং নগ্ন ছবি তৈরি হওয়ার ব্যাপক রিপোর্টের প্রতিক্রিয়া হিসেবে নেওয়া হয়েছে।
সেনেটররা উল্লেখ করেছেন যে বর্তমান প্ল্যাটফর্মের রক্ষামূলক ব্যবস্থা ব্যবহারকারীদের দ্বারা সহজে অতিক্রম করা হচ্ছে অথবা সেগুলো যথাযথভাবে কাজ করছে না।
চিঠিতে বলা হয়েছে, যদিও অনেক কোম্পানি অ-সম্মতিপ্রাপ্ত অন্তরঙ্গ কন্টেন্ট ও যৌন শোষণের বিরুদ্ধে নীতি রয়েছে, বাস্তবে এই নীতিগুলো প্রয়োগে ঘাটতি দেখা যাচ্ছে।
Grok এবং X-কে এই প্রবণতা বাড়ানোর জন্য কঠোর সমালোচনা করা হয়েছে, তবে অন্যান্য সামাজিক নেটওয়ার্কগুলোও একই সমস্যার থেকে মুক্ত নয়।
ডিপফেকের প্রথম বড় উন্মোচন রেডিটে ঘটেছিল, যখন সেলিব্রিটিদের সিন্থেটিক পর্ন ভিডিও শেয়ার করা একটি পেজ ভাইরাল হয়ে ২০১৮ সালে বন্ধ করা হয়।
এরপর থেকে, টিকটক ও ইউটিউবে সেলিব্রিটি ও রাজনীতিবিদদের লক্ষ্য করে যৌন ডিপফেকের সংখ্যা উল্লেখযোগ্যভাবে বৃদ্ধি পেয়েছে, যদিও অধিকাংশ কন্টেন্ট অন্য উৎস থেকে আসে।
মেটার ওভারসাইট বোর্ড গত বছর দুইটি ক্ষেত্রে নারী পাবলিক ফিগারের স্পষ্ট AI‑চিত্র প্রকাশের অভিযোগ তুলে ধরেছিল, এবং মেটা এমন অ্যাপগুলোর বিজ্ঞাপন অনুমোদন করেছে যা ব্যবহারকারীদের ছবি নগ্ন রূপে রূপান্তর করতে সক্ষম।
সেনেটের এই দাবি যুক্তরাষ্ট্রে অ-সম্মতিপ্রাপ্ত AI‑সৃষ্ট যৌন কন্টেন্টের সামাজিক ক্ষতি ও দুর্বল গোষ্ঠীর শোষণের ঝুঁকি সম্পর্কে বাড়তি উদ্বেগের প্রতিফলন।
বিধায়করা কোম্পানিগুলোর সম্মতি পর্যবেক্ষণ করবেন এবং যদি যথাযথ সুরক্ষা প্রদর্শন না করা হয় তবে অতিরিক্ত আইনগত পদক্ষেপের সম্ভাবনা উন্মুক্ত থাকবে।
এই উদ্যোগের লক্ষ্য হল কৃত্রিম বুদ্ধিমত্তা প্রযুক্তির দায়িত্বশীল ব্যবহার নিশ্চিত করা এবং ব্যবহারকারীদের গোপনীয়তা ও মর্যাদা রক্ষায় কার্যকর নীতি গড়ে তোলা।
