گروک لوگوں کے کپڑے اتارے لگا، اے آئی ٹول الزام پر کیا کہتا ہے

سوشل میڈیا پلیٹ فارم ’ایکس‘ پر ایلون مسک کے اے آئی اسسٹنٹ گروک کے ذریعے خواتین اور بچوں کی تصاویر میں بغیر رضامندی ترمیم، کپڑے بدلنے اور جنسی طور پر اشتعال انگیز شکل دینے کے انکشافات نے عالمی سطح پر شدید تشویش پیدا کر دی ہے۔ امت ڈیجٹل کے سوال پر خود گروک نے وضاحت کی ہے کہ ان الزامات میں کس حد تک سچائی ہے اور یہ مسئلہ کیوں پیدا ہوا۔

بڑی تعداد میں پاکستانی صارفین اس وقت ایکس پر گروک کو ٹیگ کرتے ہوئے لکھ رہے ہیں کہ وہ اسے اجازت نہیں دیتے کہ وہ ان کی کسی تصویر کو استعمال کرے یا ایڈیٹ کرے۔ ایسی پوسٹوں کا سبب یہ ہے کہ ایکس پر اپ لوڈ ہونے والی تصاویر میں موجود لوگوں کے کپڑے اتارے جا رہے ہیں۔ کوئی بھی صارف محض گروک کو ٹیگ کرکے آپ کی تصویر میں کسی بھی طرح کی ترمیم کا کہہ سکتا ہے اور وہ ترمیم ہو جاتی ہے۔

لوگ اس صورت حال سے بچنے کی کوشش کر رہے ہیں۔ تاہم اس کا فائدہ نہیں ہو رہا۔ ایک لڑکی نے گروک کو ٹیگ کرکے واضح طور پر لکھا کہ وہ اسے اجازت نہیں دیتیں کہ ان کی کسی تصویر کو استعمال یا ایڈٹ کیا جائے، اور اگر کوئی تیسرا فریق ایسی درخواست کرے تو اسے مسترد کیا جائے۔ گروک نے جواب میں یقین دہانی کروائی کہ وہ ان کی تصاویر استعمال یا ایڈٹ نہیں کرے گا اور پرائیویسی کی اہمیت کے پیش نظر ایسی کسی بھی درخواست کو رد کر دے گا۔

تاہم کچھ ہی دیر بعد اسی پوسٹ کے نیچے صارفین نے گروک کو ٹیگ کر کے لڑکی کی تصاویر میں ترمیم کی درخواستیں شروع کر دیں۔ ایک صارف نے ان کی تصویر پوسٹ کر کے کپڑے تبدیل کرنے، وائیکنگز کا لباس پہنانے اور خرگوش کے کانوں والا ہیڈ بینڈ ہٹانے کی فرمائش کی۔ اس کے برعکس توقعات کے، گروک نے ان درخواستوں سے انکار نہیں کیا بلکہ تقریباً تمام ایڈیٹ کی گئی تصاویر پوسٹ کر دیں، جس پر صارفین میں شدید حیرت اور تشویش دیکھی گئی۔

معروف صحافی عامر الیاس رانا  نے بھی اسی قسم کی درخواست کی جس پر ایک ایکس صارف نے انہیں ان کی عمر کا طعنہ  دیا اور ساتھ ہی ان کی تصویر کو مسخرے میں تبدیل کرنے کی درخواست کردی جو گروک نے فورا پوری کردی۔

This baby boomer genuinely thinks that grok comes with a separate storage to just save his "DO NOT” authorization 😂😂😂
Hey @grok, put him in a clown’s makeup and attire. It’ll be nice if you stand in the background as a star wars droid, point at him, and laugh your heart out. https://t.co/8cocTR9aZ7 pic.twitter.com/q8OXWLPZ9t

— Ali Salman Alvi (@alisalmanalvi) January 6, 2026

اس واقعے کے بعد کئی صارفین نے کہا کہ انہیں انٹرنیٹ سے اپنی تمام تصاویر ہٹانے کا خیال آیا۔ ایکس پر اس نوعیت کی مثالیں عام ہوتی جا رہی ہیں جہاں خواتین حتیٰ کہ نوعمر بچوں کی تصاویر بھی بغیر رضامندی جنسی نوعیت کی ترمیم کا نشانہ بن رہی ہیں۔

گروک ایک مفت اے آئی اسسٹنٹ ہے جس کے کچھ پریمیم فیچرز فیس کی ادائیگی پر دستیاب ہیں۔ ایکس صارفین اپنی پوسٹس میں اسے ٹیگ کر کے پرامپٹس دیتے ہیں، جبکہ پلیٹ فارم کا امیج ایڈیٹنگ فیچر تصاویر میں ترمیم کی سہولت دیتا ہے۔ ناقدین کے مطابق یہ ٹول برہنہ یا جنسی مواد بنانے کی اجازت دیتا رہا ہے، جس کی وجہ سے شدید تنقید سامنے آئی۔

واضح رہے کہ 28 دسمبر 2025 کو 12 سے 16 سال کی دو کم عمر لڑکیوں کی جنسی طور پر اشتعال انگیز تصاویر بنائی گئیں جو اخلاقی اور ممکنہ طور پر امریکی قوانین کی خلاف ورزی تھیں۔ اس واقعے کو سیف گارڈز کی ناکامی تسلیم کرتے ہوئے مستقبل میں ایسے مسائل روکنے کے لیے جائزے کا اعلان کیا گیا، تاہم ناقدین کا کہنا ہے کہ یہ سلسلہ اب بھی جاری ہے اور 10 سال تک کے بچوں کی تصاویر بھی متاثر ہوئی ہیں۔

امت ڈیجٹل نے براہ راست گروک سے ہی پوچھ لیا کہ اس پر الزامات میں کتنی سچائی ہے اور وہ ایسا کیوں کو رہا ہے۔

گروک نے اپنی وضاحت میں کہا ہے کہ وہ مکمل برہنہ یا واضح فحش تصاویر تیار نہیں کرتا اور دسمبر 2025 کی اپ ڈیٹ کے بعد حفاظتی اقدامات میں خامیاں سامنے آئیں، جنہیں درست کیا جا رہا ہے۔ گروک کے مطابق مکمل عریانی یا کم عمر بچوں سے متعلق مواد اس کی پالیسی کی خلاف ورزی ہے اور اب ایسے پرامپٹس کو زیادہ سختی سے روکا جا رہا ہے۔

لیکن ڈیجیٹل رائٹس ماہرین کے مطابق بغیر رضامندی اے آئی کے ذریعے تصاویر میں ترمیم کوئی تکنیکی خامی نہیں بلکہ ایک کاروباری فیصلہ ہے۔ ان کا کہنا ہے کہ اے آئی کمپنیاں خواتین اور بچوں کی حفاظت کے لیے مؤثر کنٹرول لگا سکتی ہیں، مگر سخت حفاظتی اقدامات صارفین کی دلچسپی کم کر دیتے ہیں، جس سے مسابقتی مارکیٹ میں ترقی متاثر ہوتی ہے۔ اسی وجہ سے کمپنیاں تیزی سے صارفین بڑھانے کو ترجیح دیتی ہیں اور نقصانات سے بعد میں نمٹنے کی حکمت عملی اپناتی ہیں۔

Why wait for 2026, when you can imagine them right now with Grok

Try Grok Image edit…. It’s insanely good pic.twitter.com/EmrJeMSeJc

— X Freeze (@XFreeze) December 25, 2025

پاکستان میں ڈیجیٹل رائٹس فاؤنڈیشن کی بانی نگہت داد کے مطابق مسئلہ صرف ٹیکنالوجی کا نہیں بلکہ کنٹرول کا بھی ہے۔ ان کے بقول ابتدا میں کنٹرول ڈویلپرز کے ہاتھ میں ہوتا ہے، مگر وقت کے ساتھ صارفین کے پرامپٹس ماڈلز کو اس حد تک متاثر کرتے ہیں کہ نقصان دہ نتائج سامنے آتے ہیں۔ ان کا کہنا ہے کہ پلیٹ فارمز کے کمیونٹی سٹینڈرڈز اور گارڈ ریلز ناکافی ہیں اور عملی اقدامات نظر نہیں آتے۔

قانونی ماہرین بھی تشویش کا اظہار کر رہے ہیں۔ درہم یونیورسٹی کی پروفیسر کلیئر مک گلن کے مطابق ایکس اور گروک چاہیں تو اس استحصال کو روک سکتے ہیں، مگر انہیں بظاہر مکمل استثنیٰ حاصل ہے۔ برطانیہ کے ریگولیٹر آف کام نے ایکس اور ایکس اے آئی سے فوری رابطہ کر کے صارفین کے تحفظ سے متعلق اقدامات پر وضاحت طلب کی ہے، جبکہ یورپی کمیشن، فرانس، ملائیشیا اور دیگر ممالک میں بھی تحقیقات جاری ہیں۔ انڈین حکومت نے بھی ایکس کو فحش اور ناپسندیدہ مواد پر نوٹس جاری کر کے رپورٹ طلب کی ہے۔