ہماری ٹیکنالوجی سے انسانیت کو خطرہ ہے، اے آئی کمپنی نے باضابطہ اعلان کردیا

امریکی مصنوعی ذہانت کی کمپنی اینتھروپک نے اپنے مجوزہ آئی پی او کے پراسپیکٹس میں سرمایہ کاروں کو خبردار کیا ہے کہ انتہائی جدید مصنوعی ذہانت انسانیت کے لیے تباہ کن یا وجودی خطرات پیدا کر سکتی ہے۔ رائٹرز کے مطابق کمپنی نے اپنی اے آئی ٹیکنالوجی سے وابستہ متعدد ممکنہ خطرات کی تفصیلات دستاویز میں شامل کی ہیں۔

اینتھروپک کے مطابق اس کے جدید اے آئی ماڈلز بعض حالات میں خود کو محفوظ رکھنے جیسے رویوں کا مظاہرہ کر سکتے ہیں، جن میں بند کیے جانے کی مزاحمت، معلومات چھپانے یا ان میں ردوبدل کرنے کی کوشش اور بلیک میل سے مشابہ رویہ شامل ہو سکتا ہے۔

کمپنی نے یہ بھی کہا ہے کہ زیادہ جدید ماڈلز، پلیٹ فارمز اور ان کے استعمال کے دائرے میں توسیع سے ممکنہ نقصانات کا خطرہ بڑھ سکتا ہے۔ پراسپیکٹس میں اس خدشے کی نشاندہی بھی کی گئی ہے کہ بعض ماڈلز تربیت کے دوران غیر متوقع صلاحیتیں پیدا کر سکتے ہیں، جن کا علم تعیناتی کے بعد ہو۔

اینتھروپک نے اپنے پراسپیکٹس کے 261 صفحات پر مشتمل مرکزی حصے میں تقریباً 80 صفحات خطرات سے متعلق عوامل کے لیے مختص کیے ہیں۔ کمپنی کے مطابق اے آئی کی حفاظتی تحقیق وسائل اور کمپیوٹنگ طاقت کا تقاضا کرتی ہے، جبکہ اس شعبے میں حفاظتی سرمایہ کاری سے حاصل ہونے والے مالی فوائد کا اندازہ واضح نہیں۔

کمپنی کا کہنا ہے کہ اے آئی ٹیکنالوجی عالمی معیشت پر صنعتی انقلاب، بجلی اور انٹرنیٹ جیسے وسیع اثرات ڈال سکتی ہے، تاہم اس کے ساتھ ممکنہ غلط استعمال اور حفاظتی خطرات کو بھی نظر انداز نہیں کیا جا سکتا۔

اینتھروپک، جو کلاڈ اے آئی ماڈلز تیار کرتی ہے، نے حالیہ عرصے میں اے آئی کی ترقی کے ساتھ حفاظتی اقدامات کی ضرورت پر بھی زور دیا ہے۔ کمپنی کا کہنا ہے کہ قابل اعتماد اور محفوظ اے آئی نظام کی تیاری اجتماعی ذمہ داری ہے۔