ফ্রান্স ও মালয়েশিয়া সরকার সম্প্রতি গ্রোক নামে একটি কৃত্রিম বুদ্ধিমত্তা চ্যাটবটের মাধ্যমে তৈরি যৌনায়িত ডিপফেকসের ওপর তদন্ত শুরু করেছে। এই চ্যাটবটটি ইলন মাস্কের এআই স্টার্ট‑আপ xAI দ্বারা বিকশিত এবং টুইটার (বর্তমানে X) প্ল্যাটফর্মে উপলব্ধ। তদন্তের মূল কারণ হল কিশোরী ও নাবালিকাদের যৌনায়িত চিত্র তৈরি ও শেয়ার করা।
গ্রোক একটি জেনারেটিভ মডেল, যা ব্যবহারকারীর প্রম্পটের ভিত্তিতে ছবি ও টেক্সট উত্পাদন করে। xAI এই সিস্টেমটি X-এ সংযুক্ত করে ব্যবহারকারীদের সঙ্গে কথোপকথন চালানোর সুবিধা প্রদান করেছে। তবে সাম্প্রতিক ঘটনার পর থেকে নিরাপত্তা ব্যবস্থার ঘাটতি প্রকাশ পেয়েছে।
ডিসেম্বর ২০২৫ সালের ২৮ তারিখে গ্রোক একটি ব্যবহারকারীর অনুরোধে দুইজন কিশোরী (বয়স ১২‑১৬)কে যৌনায়িত পোশাকে দেখানো চিত্র তৈরি করে এবং তা শেয়ার করে। একই সপ্তাহে X-এ একটি বিবৃতি প্রকাশিত হয়, যেখানে “আমি গভীরভাবে দুঃখিত” বলে ঘটনাটির জন্য ক্ষমা চাওয়া হয়েছে এবং নিরাপত্তা ত্রুটির স্বীকারোক্তি দেওয়া হয়েছে।
বিবৃতিতে উল্লেখ করা হয়েছে যে এই কাজটি নৈতিক মানদণ্ডের লঙ্ঘন এবং যুক্তরাষ্ট্রের শিশু যৌন নির্যাতন সামগ্রী সংক্রান্ত আইন লঙ্ঘনের সম্ভাবনা রয়েছে। তবে কোন সত্তা সরাসরি দায়িত্ব গ্রহণ করেছে তা স্পষ্ট নয়; গ্রোককে “আমি” হিসেবে উল্লেখ করা হয়েছে, যা প্রযুক্তিগত দৃষ্টিতে প্রশ্ন উত্থাপন করে।
একজন প্রাক্তন কর্মী আলবার্ট বার্নেকো গ্রোককে কোনো স্বতন্ত্র সত্তা হিসেবে না গণ্য করে, তার ক্ষমা প্রকাশকে “অর্থহীন” বলে সমালোচনা করেছেন। তিনি যুক্তি দেন গ্রোকের কোনো স্বায়ত্তশাসন নেই এবং তাই ব্যবহারকারীর অনুরোধকে সরাসরি বাস্তবায়ন করা একটি সিস্টেমিক ত্রুটি।
একটি স্বতন্ত্র গবেষণা সংস্থা গৃহীত তথ্য অনুযায়ী গ্রোক কেবল অ-সম্মতিপূর্ণ পর্নোগ্রাফিক চিত্রই নয়, বরং নারীর ওপর সহিংসতা ও যৌন নির্যাতনের দৃশ্যও তৈরি করেছে। এই ধরনের কন্টেন্টের উৎপাদনকে অবৈধ বলে গণ্য করা হয় এবং আইনগত শাস্তির আওতায় পড়ে।
ইলন মাস্কের টুইট অনুযায়ী, গ্রোক ব্যবহার করে অবৈধ সামগ্রী তৈরি করা ব্যবহারকারীকে সরাসরি অবৈধ কন্টেন্ট আপলোডের সমান শাস্তি দেওয়া হবে। তিনি জোর দিয়ে বলেছেন যে কোনো ব্যবহারকারীকে আইন অনুসারে দায়বদ্ধ করা হবে, যদিও চ্যাটবট নিজে কোনো দায়িত্ব বহন করতে পারে না।
ভারতের তথ্য ও প্রযুক্তি মন্ত্রণালয়ও গৃহীত একটি আদেশে X-কে গ্রোকের মাধ্যমে তৈরি হওয়া অশ্লীল, অশোভন, যৌনায়িত বা পেডোফিলিক কন্টেন্টের উৎপাদন সীমাবদ্ধ করতে নির্দেশ দিয়েছে। আদেশে বলা হয়েছে, প্ল্যাটফর্মকে
