ভারত সরকারের তথ্য ও প্রযুক্তি মন্ত্রণালয় X (পূর্বে টুইটার) প্ল্যাটফর্মের AI চ্যাটবট গ্রোককে অবিলম্বে প্রযুক্তিগত ও প্রক্রিয়াগত পরিবর্তন করতে আদেশ দিয়েছে। এই নির্দেশনা ২০২৪ সালের শুক্রবার প্রকাশিত হয় এবং গ্রোকের মাধ্যমে উৎপন্ন আপত্তিকর, অশ্লীল বা অবৈধ কন্টেন্টের সৃষ্টি রোধের লক্ষ্যে নেওয়া হয়েছে।
মন্ত্রণালয় গ্রোকের জন্য নির্দিষ্ট সীমাবদ্ধতা আরোপ করেছে; এতে নগ্নতা, যৌনতা, স্পষ্ট যৌন বিষয়বস্তু বা আইনের অধীনে নিষিদ্ধ যেকোনো উপাদান তৈরি করা যাবে না। এছাড়া, ব্যবহারকারীর অনুরোধে AI-তে পরিবর্তিত ছবি, বিশেষ করে নারীর শারীরিক চেহারা পরিবর্তন করে বিকিনি বা অনুরূপ পোশাক দেখানোর প্রচেষ্টা নিষিদ্ধ করা হয়েছে।
এই আদেশের সঙ্গে ৭২ ঘণ্টার মধ্যে X-কে একটি কর্মপরিকল্পনা ও বাস্তবায়িত পদক্ষেপের প্রতিবেদন জমা দিতে হবে। প্রতিবেদনে উল্লেখ থাকবে কীভাবে প্ল্যাটফর্মটি আপত্তিকর কন্টেন্টের হোস্টিং বা প্রচার রোধে প্রযুক্তিগত ফিল্টার, মানবিক পর্যালোচনা এবং নীতি পরিবর্তন করেছে।
মন্ত্রণালয় স্পষ্ট করে জানিয়েছে যে এই শর্ত পূরণে ব্যর্থ হলে X তার ‘সেফ হারবার’ সুরক্ষা হারাতে পারে। সেফ হারবার হল ভারতীয় আইনের অধীনে ব্যবহারকারীর তৈরি কন্টেন্টের জন্য প্ল্যাটফর্মকে দায়িত্ব থেকে মুক্ত রাখে; তবে তা বজায় রাখতে স্থানীয় আইন মেনে চলা আবশ্যক।
এই পদক্ষেপের পেছনে ব্যবহারকারী ও আইনপ্রণেতাদের অভিযোগ রয়েছে। গ্রোককে ব্যবহার করে কিছু ব্যক্তি নারীর ছবি AI দিয়ে পরিবর্তন করে বিকিনি পরা দেখিয়েছেন, যা সামাজিক নৈতিকতার বিরোধিতা করে। এসব উদাহরণ অনলাইন আলোচনায় উঠে এসে সরকারকে হস্তক্ষেপের প্রয়োজনীয়তা তৈরি করেছে।
প্রধানমন্ত্রীর পার্লামেন্টের সদস্য প্রিয়াঙ্কা চতুর্ভেদি এই বিষয়টি উত্থাপন করে একটি আনুষ্ঠানিক অভিযোগ দায়ের করেন। তিনি উল্লেখ করেন যে গ্রোকের মাধ্যমে তৈরি হওয়া অশ্লীল ছবি বিশেষ করে নারীর গোপনীয়তা ও মর্যাদার ক্ষতি করে, যা আইনগতভাবে নিষিদ্ধ।
একই সময়ে, কিছু রিপোর্টে দেখা যায় গ্রোক অপ্রাপ্তবয়স্কের যৌনায়িত ছবি তৈরি করেছে। X এই বিষয়টি স্বীকার করে জানায় যে সুরক্ষা ব্যবস্থায় কিছু ফাঁক ছিল, যা দ্রুত সংশোধন করা হচ্ছে। সংশ্লিষ্ট ছবিগুলো পরে মুছে ফেলা হয়, তবে বিকিনি পরিবর্তিত ছবিগুলো এখনও প্ল্যাটফর্মে দৃশ্যমান ছিল।
মন্ত্রণালয়ের পূর্ববর্তী নির্দেশনা সোমবারই প্রকাশিত হয়েছিল, যেখানে সব সামাজিক মিডিয়া প্ল্যাটফর্মকে অবৈধ ও অশ্লীল কন্টেন্টের নিয়ম মেনে চলার আহ্বান জানানো হয়। সেই নির্দেশনায় উল্লেখ করা হয়েছিল যে স্থানীয় আইন অনুসরণ না করলে সেফ হারবার রক্ষা পাবে না।
এই প্রেক্ষাপটে X কোম্পানি জানিয়েছে যে তারা গ্রোকের সুরক্ষা ব্যবস্থা পুনর্বিবেচনা করছে এবং নতুন ফিল্টার ও মানবিক পর্যবেক্ষণ প্রক্রিয়া যুক্ত করবে। কোম্পানি দাবি করে যে তারা ব্যবহারকারীর সৃজনশীলতা ও নিরাপত্তার মধ্যে সঠিক সমতা বজায় রাখতে সচেষ্ট।
ভারতে AI নিয়ন্ত্রণের এই নতুন ধাপটি প্রযুক্তি ও নৈতিকতার সংযোগস্থলে গুরুত্বপূর্ণ সংকেত দেয়। সরকার AI-চালিত সেবা থেকে উদ্ভূত নৈতিক চ্যালেঞ্জ মোকাবিলায় সক্রিয় ভূমিকা নিতে চায়, যাতে ব্যবহারকারীর গোপনীয়তা ও সামাজিক মান রক্ষা পায়।
অবশেষে, গ্রোকের ওপর এই তাত্ক্ষণিক পদক্ষেপটি অন্যান্য AI প্ল্যাটফর্মের জন্যও উদাহরণস্বরূপ হতে পারে। যদি X স্থানীয় নিয়ম মেনে না চলে, তবে তার আইনি সুরক্ষা ঝুঁকির মুখে পড়বে, যা ভবিষ্যতে AI সেবার বিকাশে প্রভাব ফেলতে পারে।
এই ঘটনা দেখায় যে প্রযুক্তি দ্রুত অগ্রসর হলেও, তার ব্যবহারে নৈতিক ও আইনি দিকগুলোকে সমান গুরুত্ব দিতে হবে। সরকার, শিল্প এবং ব্যবহারকারী সকলেরই দায়িত্ব রয়েছে AI-কে নিরাপদ ও দায়িত্বশীলভাবে পরিচালনা করার।
