13 سالہ بچی کی خودکشی کی کوشش،والدین کا گوگل کے خلاف مقدمہ

واشنگٹن: امریکا میں 13 سالہ بچی کے والدین نے ٹیکنالوجی کمپنی گوگل کے خلاف مقدمہ دائر کرتے ہوئے الزام عائد کیا ہے کہ کمپنی کے سرچ انجن میں موجود مصنوعی ذہانت (اے آئی) کے فیچرز ان کی بیٹی کو خودکشی کے طریقوں اور اپنی آخری رسومات کی منصوبہ بندی تک لے گئے۔

کیلیفورنیا کی عدالت میں دائر مقدمے میں مؤقف اختیار کیا گیا ہے کہ بچی نے اسکول سے ملنے والے کمپیوٹر پر گوگل سرچ کے اے آئی ٹولز استعمال کیے، جس کے بعد وہ چند ماہ کے دوران شدید نفسیاتی بحران کا شکار ہوگئی۔

مقدمے کے مطابق ایما نامی یہ 13 سالہ طالبہ شمالی کیرولائنا کی رہائشی تھی، جو خوش مزاج، ذہین اور موسیقی کی شوقین ہونے کے ساتھ گرل اسکاؤٹس کی سرگرمیوں میں بھی حصہ لیتی تھی۔ والدین کے مطابق بچی کی ماضی میں ذہنی بیماری سے متعلق کوئی تاریخ موجود نہیں تھی۔

عدالتی دستاویزات میں بتایا گیا ہے کہ اسکول نے سکیورٹی پابندیوں کے باعث طالبہ کے لیے گوگل جیمنائی اور چیٹ جی پی ٹی تک رسائی محدود کر رکھی تھی، تاہم وہ گوگل کے روایتی سرچ انجن میں موجود اے آئی خصوصیات استعمال کرنے میں کامیاب رہی۔

مقدمے کے مطابق 17 مارچ کو اسکول کے مانیٹرنگ سافٹ ویئر نے ’’آخری رسومات‘‘ کے عنوان سے ایک دستاویز کی نشاندہی کی، جس پر اسکول انتظامیہ نے والدین کو آگاہ کیا۔ بعد ازاں بچی کی والدہ نے اس کے اکاؤنٹ میں لاگ اِن ہو کر دیکھا کہ وہ ایک الوداعی خط لکھ رہی تھی۔ والد کی بروقت مداخلت کے باعث اس کی جان بچ گئی۔

متاثرہ خاندان کے وکیل اینڈریو لڈل کا کہنا ہے کہ اسکولوں کو گوگل سرچ سروس میں اے آئی موڈ مکمل طور پر محفوظ بنائے جانے تک اس کے استعمال پر پابندی عائد کرنی چاہیے۔ ان کے مطابق بچی بار بار اے آئی تک رسائی حاصل کرنے میں کامیاب رہی، جس سے کمپنی کے حفاظتی نظام کی افادیت پر سوالات اٹھتے ہیں۔

دوسری جانب گوگل کے ترجمان جوز کاسٹانیڈا نے کہا ہے کہ کمپنی مقدمے میں عائد الزامات کا جائزہ لے رہی ہے اور اس معاملے کو انتہائی سنجیدگی سے لیا جا رہا ہے۔ ان کے مطابق گوگل کے اے آئی موڈ میں خودکشی سے متعلق مواد اور طریقوں کی تلاش روکنے کے لیے حفاظتی اقدامات موجود ہیں۔

امریکا میں اے آئی ٹیکنالوجی تیار کرنے والی کمپنیوں کو اس نوعیت کے متعدد قانونی مقدمات کا سامنا ہے۔ اوپن اے آئی کے خلاف بھی خودکشی اور ہلاکتوں سے متعلق مقدمات زیرِ التوا ہیں، جن میں 16 سالہ ایڈم رین کے والدین کی جانب سے دائر کیا گیا کیس بھی شامل ہے۔

اس کے علاوہ رواں برس جنوری میں گوگل اور اے آئی کیریکٹر نامی کمپنی نے نوعمر بچوں کے خاندانوں کی جانب سے دائر متعدد مقدمات باہمی رضامندی سے عدالت سے باہر نمٹانے پر اتفاق کیا تھا۔

دوسری جانب گوگل، ٹک ٹاک اور میٹا نے کیلیفورنیا میں منظور ہونے والے اس قانون کو روکنے کے لیے الگ الگ مقدمات دائر کیے ہیں، جس کے تحت سوشل میڈیا کمپنیوں کو 16 سال سے کم عمر صارفین کے لیے نشے کی حد تک متوجہ کرنے والے فیچرز فراہم کرنے سے روکا جانا ہے۔ گورنر گیون نیوزوم نے ستمبر میں اس قانون پر دستخط کیے تھے، جو یکم جنوری 2027 سے نافذ العمل ہوگا۔