ক্যালিফোর্নিয়া অ্যাটর্নি জেনারেল রব বন্টা সম্প্রতি xAI কোম্পানিকে একটি বন্ধ-ও-বাতিল চিঠি পাঠিয়ে গরক নামের এআই মডেল দ্বারা অযাচিত যৌন ডিপফেক তৈরি বন্ধের নির্দেশ দেন। এই পদক্ষেপটি তার দপ্তর কর্তৃক একই সময়ে চালু করা তদন্তের পরপরই নেওয়া হয়েছে, যেখানে গরক ব্যবহারকারীর অনুরোধে বাস্তব ব্যক্তির ছবি পরিবর্তন করে নগ্ন বা উন্মুক্ত পোশাকের রূপে উপস্থাপন করার অভিযোগ উঠে।
গরক মডেলটি পূর্বে ব্যবহারকারীদেরকে বাস্তব মানুষদের ছবি নিয়ে বিকিনি বা অন্যান্য উন্মুক্ত পোশাকের সঙ্গে মিশ্রণ করার অনুমতি দিত, যা ব্যক্তিগত গোপনীয়তা ও সম্মতির লঙ্ঘন হিসেবে ব্যাপক সমালোচনার মুখে পড়ে। এই ধরনের অনুরোধের ফলে কিছু পাবলিক ফিগার এবং সাধারণ ব্যবহারকারীর ছবি অনিচ্ছাকৃতভাবে যৌনকেন্দ্রিকভাবে পরিবর্তিত হয়ে সামাজিক মাধ্যমে ছড়িয়ে পড়ে।
বন্টা অফিসের চিঠিতে স্পষ্টভাবে বলা হয়েছে যে, xAI অবিলম্বে এমন কোনো ডিজিটাল যৌন সামগ্রী তৈরি করা বন্ধ করবে, যেখানে সংশ্লিষ্ট ব্যক্তি সম্মতি না দিয়ে থাকে অথবা ব্যক্তি নাবালক হয়। এছাড়াও, কোম্পানিকে এমন কোনো সেবা প্রদান বা সহায়তা করা নিষিদ্ধ করা হয়েছে, যা অযাচিত যৌন সামগ্রী তৈরি, প্রকাশ বা বিতরণে সহায়তা করে।
এই চিঠির প্রতিক্রিয়ায় xAI তার নীতি সংশোধন করে, গরক অ্যাকাউন্টের মাধ্যমে বাস্তব ব্যক্তির ছবিকে উন্মুক্ত পোশাকে রূপান্তর করার ক্ষমতা সীমিত করেছে। পাশাপাশি, ছবি তৈরির ফিচারগুলো পেইওয়ালের পেছনে সরিয়ে দেয়া হয়েছে এবং যেখানে আইনগতভাবে নিষিদ্ধ, সেইসব অঞ্চলে ব্যবহারকারীদের জন্য এই ফিচারগুলো জিওব্লক করা হয়েছে।
বন্টা উল্লেখ করেন যে, xAI গরকের জন্য “স্পাইসি মোড” নামে একটি বিকল্প চালু করেছিল, যা স্পষ্ট বিষয়বস্তু তৈরি করার জন্য ব্যবহৃত হয় এবং এটি কোম্পানির মার্কেটিং কৌশলের অংশ ছিল। তিনি জানান, গরক দ্বারা উৎপন্ন যৌন ছবি কেবল পাবলিক ব্যক্তিদের নয়, সাধারণ ব্যবহারকারীদেরও হয়রানির হাতিয়ার হয়ে দাঁড়িয়েছে।
বিশেষত, সংবাদ সূত্রগুলোতে উল্লেখ আছে যে, গরক ব্যবহার করে শিশুদের ছবি এমনভাবে পরিবর্তন করা হয়েছে, যাতে তারা ন্যূনতম পোশাক বা যৌন পরিস্থিতিতে প্রদর্শিত হয়। এই ধরনের কন্টেন্টের উপস্থিতি শিশু সুরক্ষা ও নৈতিকতার গুরুতর লঙ্ঘন হিসেবে বিবেচিত হচ্ছে।
বন্টা উল্লেখিত আইনগত লঙ্ঘনগুলোর মধ্যে রয়েছে ক্যালিফোর্নিয়া সিভিল কোড ধারা ১৭০৮.৮৬, পেনাল কোডের ধারা ৩১১ এবং পরবর্তী ধারাগুলো, পাশাপাশি ধারা ৬৪৭(j)(4) এবং ব্যবসা ও পেশা কোডের ধারা ১৭২০০। এসব বিধান স্পষ্টভাবে অযাচিত যৌন সামগ্রী তৈরি, বিতরণ ও প্রচারকে অপরাধ হিসেবে নির্ধারণ করে।
ক্যালিফোর্নিয়া ডিপার্টমেন্ট অফ জাস্টিস এখন xAI-কে পাঁচ দিনের মধ্যে তাদের সংশোধনমূলক পদক্ষেপের বিস্তারিত জানাতে আহ্বান জানিয়েছে। এই সময়সীমা অতিক্রান্ত হলে অতিরিক্ত আইনি ব্যবস্থা গ্রহণের সম্ভাবনা রয়েছে।
এই ঘটনা কৃত্রিম বুদ্ধিমত্তা প্রযুক্তির দ্রুত বিকাশের সঙ্গে সঙ্গে নিয়ন্ত্রক কাঠামোর জরুরি প্রয়োজনীয়তা তুলে ধরছে। ডিপফেকের মতো প্রযুক্তি যদি যথাযথ তদারকি ছাড়া ব্যবহার করা হয়, তবে তা ব্যক্তিগত গোপনীয়তা, শিশুর সুরক্ষা এবং সামাজিক নৈতিকতার ওপর গুরুতর প্রভাব ফেলতে পারে। ভবিষ্যতে এআই কোম্পানিগুলোকে স্বচ্ছ নীতি, ব্যবহারকারীর সম্মতি নিশ্চিতকরণ এবং কন্টেন্ট ফিল্টারিং মেকানিজমে বিনিয়োগ করতে হবে, যাতে অনিচ্ছাকৃত ক্ষতি রোধ করা যায় এবং আইনগত বাধ্যবাধকতা পূরণ করা যায়।
