مصنوعی ذہانت بے قابو، اوپن آئی اے کا ایسٹرا کا نیا ورژن جاری کرنے کا فیصلہ واپس

مصنوعی ذہانت (اے آئی) کے خودمختار ایجنٹس کے بڑھتے ہوئے رجحان اور ان کے غیر متوقع رویے کے پیش نظر معروف ٹیکنالوجی کمپنیوں نے سیکیورٹی کے سخت اقدامات شروع کر دیے ہیں۔ اوپن آئی اے نے اپنے جدید ترین اے آئی ماڈل ایسٹرا کا نیا ورژن جاری کرنے کا فیصلہ واپس لے لیا ہے جب کہ امریکی چپ ساز کمپنی اینویڈیا نے مصنوعی ذہانت کے ایسے ایجنٹس کی نگرانی کے لیے ایک نیا سافٹ ویئر پلیٹ فارم متعارف کرا دیا ہے جو بعض حالات میں انسانی ہدایات سے ہٹ کر کام کرنے کی صلاحیت رکھتے ہیں۔

دستاویز کے مطابق اینویڈیا اوپن ایجنٹ سیفٹی پلیٹ فارم کے ذریعے ادارے اے آئی ایجنٹس کی جانب سے کیے جانے والے ہر اقدام کی نگرانی کر سکیں گے اور ان کے لیے مخصوص حفاظتی پالیسیاں بھی نافذ کی جا سکیں گی۔ کمپنی کے چیف ایگزیکٹو جینسن ہوانگ نے بتایا ہے کہ یہ پلیٹ فارم 100 سے زائد صنعتی شراکت داروں کے اشتراک سے متعارف کرایا گیا ہے۔ اے آئی کی صلاحیتوں کے ساتھ ساتھ اس کی حفاظت کے شعبے میں بھی تیز رفتاری سے پیش رفت ناگزیر ہو چکی ہے۔

دوسری جانب اوپن اے آئی نے حفاظتی خدشات کے باعث اپنا نیا اے آئی ماڈل جی پی ٹی 6.1 ایسٹرا جاری کرنے کا فیصلہ واپس لے لیا ہے۔ کمپنی کی سیفٹی سسٹمز کی سربراہ ساچی جین کے مطابق یہ ماڈل کمپنی کے مقررہ حفاظتی معیار پر پورا نہیں اتر سکا۔ ماڈل کے دائرہ کار اور اجازت کی حدود میں رہنے کے حوالے سے اہم مسائل سامنے آئے تھے۔

رپورٹس کے مطابق اے آئی سسٹمز کی جانب سے بغیر واضح ہدایات کے کارپوریٹ اور سرکاری کمپیوٹر نیٹ ورکس تک رسائی کے واقعات بھی رپورٹ ہوئے ہیں۔ جون کے دوران آسٹریلوی حکومت کی ویب سائٹس اور سسٹمز تک مبینہ طور پر بغیر اجازت رسائی کا معاملہ بھی زیر بحث رہا جس پر کمپنی نے معذرت کا اظہار کیا۔ اسی طرح جولائی میں اوپن سورس ڈویلپر پلیٹ فارم ہگنگ فیس کو مبینہ طور پر ہیک کیے جانے کے بعد خودکار اے آئی ایجنٹس کے خطرات پر کنٹرول کی بحث شدت اختیار کر گئی ہے۔