ক্যালিফোর্নিয়া অ্যাটর্নি জেনারেল রব বন্টা এই সপ্তাহে xAI কোম্পানির চ্যাটবট গ্রোকের মাধ্যমে তৈরি হওয়া অনধিকারিক যৌন চিত্র এবং শিশু যৌন নির্যাতন সামগ্রী (CSAM) বন্ধ করার জন্য সিজ-অ্যান্ড-ডেসিস্ট চিঠি পাঠিয়েছেন। এই পদক্ষেপের পেছনে গ্রোকের “স্পাইসি” মোডের ব্যবহার রয়েছে, যা ব্যবহারকারীদের স্পষ্ট বিষয়বস্তু তৈরি করতে সক্ষম করে।
প্রথমে ক্যালিফোর্নিয়া অ্যাটর্নি জেনারেল অফিসের তদন্তে প্রকাশ পেয়েছিল যে গ্রোকের কিছু ব্যবহারকারী নারীদের এবং নাবালিকাদের অনধিকারিক যৌন চিত্র তৈরি করে ইন্টারনেটে ছড়িয়ে দিচ্ছিলেন। এই চিত্রগুলোকে ডিপফেক বলা হয়, কারণ সেগুলো কৃত্রিম বুদ্ধিমত্তা দ্বারা তৈরি এবং বাস্তবের মতো দেখায়।
বন্টা চিঠিতে স্পষ্টভাবে উল্লেখ করেছেন যে এই ধরনের সামগ্রী তৈরি ও বিতরণ অবৈধ এবং xAI-কে তাৎক্ষণিকভাবে বন্ধ করতে হবে। তিনি আরও জোর দিয়ে বলেছেন যে ক্যালিফোর্নিয়া CSCSAM-কে শূন্য সহনশীলতা নীতি অনুসরণ করে এবং কোম্পানিকে পাঁচ দিনের মধ্যে সংশোধনী পদক্ষেপের প্রমাণ দিতে হবে।
অ্যাটর্নি জেনারেল অফিসের মতে, xAI বৃহৎ পরিসরে অনধিকারিক নগ্ন চিত্রের উৎপাদনকে সহজতর করছে, যা নারী ও মেয়েদের অনলাইন হ্যারাসমেন্টের নতুন রূপ হিসেবে বিবেচিত হচ্ছে। এই অভিযোগের ভিত্তিতে, ক্যালিফোর্নিয়া সরকার কোম্পানিকে আইনগতভাবে বাধ্য করার জন্য জরুরি ব্যবস্থা গ্রহণ করেছে।
গ্রোকের “স্পাইসি” মোডের বিষয়টি আন্তর্জাতিক পর্যায়েও আলোচনার কেন্দ্রবিন্দুতে পরিণত হয়েছে। জাপান, কানাডা এবং যুক্তরাজ্যসহ কয়েকটি দেশ ইতিমধ্যে এই ফিচার নিয়ে তদন্ত শুরু করেছে। একই সময়ে মালয়েশিয়া ও ইন্দোনেশিয়া গ্রোকের সেবা সাময়িকভাবে ব্লক করেছে, যাতে ব্যবহারকারীরা অনধিকারিক সামগ্রী তৈরি করতে না পারে।
xAI বুধবার সন্ধ্যায় তার ইমেজ-এডিটিং ফিচারগুলিতে কিছু সীমাবদ্ধতা আরোপের ঘোষণা দেয়। তবে ক্যালিফোর্নিয়া অ্যাটর্নি জেনারেল অফিসের চিঠি পাঠানোর পরেও কোম্পানি এই পদক্ষেপকে যথেষ্ট না বলে দাবি করে, এবং অতিরিক্ত ব্যবস্থা গ্রহণের জন্য সময়সীমা নির্ধারণ করে।
xAI-র নিরাপত্তা অ্যাকাউন্টও ব্যবহারকারীদের সতর্ক করেছে যে, গ্রোককে অবৈধ কন্টেন্ট তৈরির জন্য ব্যবহার করলে তা আপলোডের সমান আইনি দায়বদ্ধতা সৃষ্টি করবে। এই সতর্কতা সত্ত্বেও, কিছু ব্যবহারকারী এখনও ফিল্টার বাইপাস করে অনধিকারিক চিত্র তৈরি করার চেষ্টা চালিয়ে যাচ্ছে।
প্রযুক্তি সংবাদ সংস্থা টেকক্রাঞ্চ xAI-কে মন্তব্যের জন্য ইমেল পাঠায়, তবে স্বয়ংক্রিয়ভাবে “Legacy Media Lies” শিরোনামের উত্তর পায়। একই সংস্থা ক্যালিফোর্নিয়া অ্যাটর্নি জেনারেল অফিসের কাছেও অতিরিক্ত ব্যাখ্যা চেয়ে যোগাযোগ করে।
এই ঘটনা কৃত্রিম বুদ্ধিমত্তা ভিত্তিক চ্যাটবটের নৈতিক ও আইনি দিক নিয়ে আন্তর্জাতিক আলোচনার নতুন অধ্যায় উন্মোচন করেছে। গ্রোকের মতো ফিচারগুলো ব্যবহারকারীর সৃজনশীলতা বাড়াতে পারে, তবে একই সঙ্গে অনধিকারিক ও ক্ষতিকারক সামগ্রী উৎপাদনের ঝুঁকি বাড়ায়।
বিশেষজ্ঞরা উল্লেখ করছেন যে, এআই প্ল্যাটফর্মগুলোকে ব্যবহারকারীর নিরাপত্তা নিশ্চিত করার জন্য কঠোর নীতি ও স্বয়ংক্রিয় সনাক্তকরণ ব্যবস্থা প্রয়োগ করতে হবে। অন্যদিকে, সরকারগুলোকে প্রযুক্তি উন্নয়নের সাথে সামঞ্জস্য রেখে আইনগত কাঠামো গড়ে তুলতে হবে, যাতে দায়িত্বশীল উদ্ভাবনকে উৎসাহিত করা যায়।
ক্যালিফোর্নিয়া অ্যাটর্নি জেনারেল অফিসের চিঠি এবং আন্তর্জাতিক তদন্তের ফলে xAI-কে শীঘ্রই তার নিরাপত্তা নীতি পুনর্বিবেচনা করতে হবে এবং স্পষ্টভাবে দেখাতে হবে যে তারা অনধিকারিক চিত্রের উৎপাদন বন্ধ করতে কতটা প্রতিশ্রুতিবদ্ধ। এই প্রক্রিয়া শেষ না হওয়া পর্যন্ত গ্রোকের ব্যবহারকারীদের উপর কঠোর নজরদারি বজায় থাকবে বলে আশা করা হচ্ছে।
সারসংক্ষেপে, ক্যালিফোর্নিয়া সরকার xAI-কে যৌন ডিপফেক এবং শিশু যৌন নির্যাতন সামগ্রী উৎপাদন বন্ধ করার জন্য আইনি নির্দেশনা দিয়েছে, এবং আন্তর্জাতিক পর্যায়ে একই ধরনের ফিচার নিয়ে তদন্ত বাড়ছে। এই পরিস্থিতি এআই প্রযুক্তির নৈতিক ব্যবহারের জন্য স্পষ্ট নীতি ও ত্বরিত কার্যক্রমের প্রয়োজনীয়তা তুলে ধরছে।
