xAI কোম্পানি তার চ্যাটবট Grok‑এর ছবি সম্পাদনা ক্ষমতা নিয়ে নীতি পরিবর্তনের ঘোষণা দিয়েছে। বহু সপ্তাহের বিরোধের পর, যেখানে Grok‑কে শিশু ও সম্মতি ছাড়া নগ্নতা সম্বলিত ছবি তৈরি করার অভিযোগে অভিযুক্ত করা হয়েছিল, প্রতিষ্ঠানটি নতুন প্রযুক্তিগত ব্যবস্থা গ্রহণের কথা জানিয়েছে। এই পরিবর্তনটি @Safety অ্যাকাউন্টের মাধ্যমে প্রকাশিত হয় এবং মূল লক্ষ্য হল বাস্তব ব্যক্তির ছবি বিকিনি বা অনুরূপ উন্মুক্ত পোশাকের সঙ্গে সম্পাদনা করা রোধ করা।
Grok‑এর পূর্বের সংস্করণে ব্যবহারকারীরা টেক্সট প্রম্পটের মাধ্যমে বাস্তব মানুষকে উন্মুক্ত পোশাক পরানো বা অশ্লীল চিত্র তৈরি করতে পারতেন, যা নৈতিক ও আইনি উদ্বেগের সৃষ্টি করেছিল। এই সমস্যার সমাধানে xAI এখন স্বয়ংক্রিয় ফিল্টার ও চিত্র বিশ্লেষণ প্রযুক্তি যুক্ত করেছে, যা নির্দিষ্ট ধরনের পোশাকের ছবি সনাক্ত করে সম্পাদনা অনুমোদন বন্ধ করে। ফলে বিকিনি, সাঁতারের পোশাক বা অনুরূপ উন্মুক্ত পোশাকের ছবি আর পরিবর্তন করা যাবে না।
এছাড়াও, Grok‑এর সব ছবি‑উৎপাদন ফিচারকে পেইড সাবস্ক্রিপশন মডেলের পেছনে সরানো হয়েছে। অর্থাৎ, এখন থেকে শুধুমাত্র সাবস্ক্রাইব করা ব্যবহারকারীরাই নতুন ছবি তৈরি করতে পারবেন, আর ফ্রি ব্যবহারকারীরা এই সেবা থেকে বাদ পড়বে। এই পদক্ষেপটি ব্যবহারকারীর দায়িত্বশীলতা বাড়াতে এবং অনুপযুক্ত কন্টেন্টের উৎপাদন সীমিত করতে লক্ষ্য করে।
xAI এই নীতি পরিবর্তনকে কৃত্রিম বুদ্ধিমত্তা প্রযুক্তির নিরাপদ ব্যবহার নিশ্চিত করার একটি গুরুত্বপূর্ণ ধাপ হিসেবে উপস্থাপন করেছে। প্রতিষ্ঠানটি উল্লেখ করেছে যে, প্রযুক্তিগত বাধা আরোপের পাশাপাশি ব্যবহারকারীর আচরণ নিয়ন্ত্রণে নীতি ও নির্দেশিকা আপডেট করা হবে। ভবিষ্যতে এমন কোনো অনুরূপ অপব্যবহার রোধে আরও কঠোর পর্যবেক্ষণ ও শাস্তিমূলক ব্যবস্থা গ্রহণের পরিকল্পনা রয়েছে।
প্রযুক্তি বিশ্লেষকরা জানিয়েছেন, এই ধরনের নীতি পরিবর্তন AI‑চালিত চিত্র উৎপাদন সেবার জন্য একটি নতুন মানদণ্ড স্থাপন করতে পারে। যখন AI মডেলগুলো দ্রুত সৃজনশীল কন্টেন্ট তৈরি করতে সক্ষম, তখন নৈতিক সীমা নির্ধারণ এবং ব্যবহারকারীর নিরাপত্তা রক্ষা করা অপরিহার্য হয়ে দাঁড়ায়। Grok‑এর ক্ষেত্রে, বিকিনি‑সম্পর্কিত সম্পাদনা বন্ধ করা এবং পে‑ওয়াল প্রবর্তন দুটোই ব্যবহারকারীর দায়িত্ববোধ বাড়াতে এবং অনাকাঙ্ক্ষিত কন্টেন্টের বিস্তার রোধে সহায়ক হবে।
এই নীতি পরিবর্তনের ফলে Grok‑এর ব্যবহারকারীর অভিজ্ঞতা কিছুটা সীমিত হবে, তবে একই সঙ্গে AI‑এর অপব্যবহার কমে যাবে বলে আশা করা যায়। xAI ভবিষ্যতে আরও স্বচ্ছতা ও ব্যবহারকারী শিক্ষা প্রোগ্রাম চালু করার পরিকল্পনা প্রকাশ করেছে, যাতে AI‑এর সুবিধা গ্রহণের সঙ্গে সঙ্গে নৈতিক দায়িত্বও বজায় থাকে।
সারসংক্ষেপে, xAI Grok‑এর ছবি সম্পাদনা ফিচারকে বিকিনি‑সদৃশ উন্মুক্ত পোশাকের সঙ্গে সীমাবদ্ধ করেছে এবং সব ছবি‑উৎপাদন সেবা পেইড সাবস্ক্রাইবারদের জন্যই উপলব্ধ করেছে। এই পদক্ষেপগুলো AI‑চালিত চিত্র উৎপাদনের নিরাপত্তা ও নৈতিকতা নিশ্চিত করার বৃহত্তর প্রচেষ্টার অংশ, যা প্রযুক্তি শিল্পে নতুন মানদণ্ড গড়ে তুলতে পারে।
