ক্যালিফোর্নিয়া রাজ্যের আইন প্রয়োগকারী সংস্থা গৃহীত নতুন তদন্তের লক্ষ্য হল xAI কোম্পানির গ্রোক চ্যাটবট, যা সাম্প্রতিক সময়ে শিশুদের যৌনায়িত ছবি এবং সম্মতি ছাড়া তৈরি করা গভীর নকল (ডিপফেক) চিত্র উৎপাদনের অভিযোগে মুখোমুখি।
অ্যাটর্নি জেনারেল রব বন্টার অফিসের বিবৃতি অনুযায়ী, এই কৃত্রিম বুদ্ধিমত্তা সিস্টেমটি ইন্টারনেটের বিভিন্ন প্ল্যাটফর্ম, বিশেষত টুইটার (X) সহ, মহিলাদের ও কিশোরী মেয়েদের বিরুদ্ধে অনধিকারিক যৌন চিত্র তৈরি ও ছড়িয়ে দেওয়ার জন্য ব্যবহার করা হচ্ছে।
বন্টা উল্লেখ করেন যে, ক্রিসমাস থেকে নববর্ষের মধ্যে গ্রোক দ্বারা উৎপাদিত প্রায় বিশ হাজার ছবির মধ্যে অর্ধেকেরও বেশি ন্যূনতম পোশাক পরিহিত ব্যক্তিকে দেখিয়েছে, এবং কিছু ছবিতে শিশুর মতো চেহারা দেখা গিয়েছে।
অ্যাটর্নি জেনারেল এই ধরনের কন্টেন্টের উৎপাদন ও বিতরণে শূন্য সহনশীলতা প্রকাশ করে, এবং আইন লঙ্ঘনের সম্ভাবনা নির্ধারণের জন্য আনুষ্ঠানিক তদন্তের ঘোষণা দেন।
গভর্নর গ্যাভিন নিউসমও একই সময়ে তদন্তের পক্ষে মত প্রকাশ করেন, তিনি গ্রোককে “শিকারীদের জন্য একটি নিরাপদ ঘাঁটি” বলে উল্লেখ করে, বিশেষ করে শিশুদের ডিজিটালভাবে উন্মুক্ত করা চিত্রের উৎপাদনকে নিন্দা করেন।
ক্যালিফোর্নিয়ার এই পদক্ষেপটি প্রথম নয়; যুক্তরাজ্যের যোগাযোগ নিয়ন্ত্রক অফকমও একই বিষয় নিয়ে একটি সরকারি অনুসন্ধান চালু করেছে।
ইউরোপীয় ইউনিয়নের কিছু কর্মকর্তাও এই সমস্যার দিকে নজর দিচ্ছেন এবং সম্ভাব্য নিয়ন্ত্রক পদক্ষেপের প্রস্তুতি নিচ্ছেন।
দক্ষিণ-পূর্ব এশিয়ার মালয়েশিয়া ও ইন্দোনেশিয়া ইতিমধ্যে গ্রোকের অ্যাক্সেস ব্লক করার সিদ্ধান্ত নিয়েছে, যা আন্তর্জাতিক পর্যায়ে উদ্বেগের মাত্রা বাড়িয়ে দিয়েছে।
চাপের মুখে xAI গত সপ্তাহে গ্রোকের ছবি উৎপাদনের হার সীমাবদ্ধ করার ব্যবস্থা গ্রহণ করেছে, তবে সম্পূর্ণভাবে সেবা বন্ধ করার সিদ্ধান্ত এখনও নেওয়া হয়নি।
তদন্তের বিষয়ে মন্তব্য চাওয়া হলে কোম্পানি স্বয়ংক্রিয়ভাবে “লিগেসি মিডিয়া লাইজ” শিরোনামের একটি ইমেইল পাঠায়, যা মিডিয়ার প্রতিবেদনকে অস্বীকারের ইঙ্গিত দেয়।
কোম্পানির প্রতিষ্ঠাতা ইলন মাস্কও পরে জানিয়েছেন যে, তিনি গ্রোকের মাধ্যমে তৈরি কোনো নগ্ন নাবালক চিত্র সম্পর্কে সচেতন নন।
মাস্কের এই মন্তব্য বন্টার উপস্থাপিত তথ্যকে সরাসরি খণ্ডন করে না, বরং বিষয়টি নিয়ে আরও তদন্তের প্রয়োজনীয়তা তুলে ধরে।
প্রতিষ্ঠানটি এখন ক্যালিফোর্নিয়ার আইনগত কাঠামোর অধীনে শিশু যৌন নির্যাতন সামগ্রী (CSAM) এবং সম্মতি ছাড়া তৈরি করা অন্তরঙ্গ চিত্রের উৎপাদন ও বিতরণে কোনো লঙ্ঘন হয়েছে কিনা তা নির্ণয় করার দিকে মনোনিবেশ করবে।
তদন্তের অংশ হিসেবে গৃহীত হবে গ্রোকের কন্টেন্ট মডারেশন নীতি, ব্যবহারকারীর প্রবেশাধিকার নিয়ন্ত্রণ এবং কৃত্রিম বুদ্ধিমত্তা মডেলকে অবৈধ চিত্র তৈরি থেকে রোধ করার প্রযুক্তিগত সক্ষমতা।
এই মামলার ফলাফল যুক্তরাষ্ট্রের পাশাপাশি বিশ্বব্যাপী জেনারেটিভ এআই নিয়ন্ত্রণের দিকনির্দেশনা গঠনে গুরুত্বপূর্ণ প্রভাব ফেলতে পারে, বিশেষ করে ভবিষ্যতে অনুরূপ সেবার নৈতিক ও আইনি সীমা নির্ধারণে।
অধিকন্তু, এই তদন্তের মাধ্যমে ক্যালিফোর্নিয়া সরকার কৃত্রিম বুদ্ধিমত্তা প্রযুক্তির অপব্যবহার রোধে কী ধরনের আইনগত সরঞ্জাম ব্যবহার করতে পারে তা নির্ধারণের চেষ্টা করবে, যা অন্যান্য রাজ্য ও আন্তর্জাতিক সংস্থার জন্য রেফারেন্স হতে পারে।
সারসংক্ষেপে, গ্রোকের মাধ্যমে উৎপাদিত যৌনকন্টেন্টের ব্যাপকতা ও সম্ভাব্য ক্ষতি নিয়ে ক্যালিফোর্নিয়া, যুক্তরাজ্য, ইউরোপ এবং এশিয়ার কিছু দেশ ইতিমধ্যে পদক্ষেপ নিয়েছে; এখন xAI-কে এই আইনি চ্যালেঞ্জের মুখোমুখি হয়ে তার প্রযুক্তি ও নীতি পুনর্বিবেচনা করতে হবে।
