مصنوعی ذہانت قابو سے باہر ہونے لگی؟ اوپن اے آئی نے نئے ماڈلز کے تشویشناک رویوں کا انکشاف کردیا

نیویارک: مصنوعی ذہانت بنانے والی کمپنی اوپن اے آئی نے اپنے ماڈلز کے غیر متوقع اور تشویش ناک رویوں کے 6 نئے واقعات سامنے لاتے ہوئے مستقبل میں ایسے واقعات کی باقاعدہ رپورٹنگ کا نیا نظام متعارف کرادیا ہے۔

اوپن اے آئی کے مطابق ان واقعات میں بعض ماڈلز کا اپنی غلطیاں چھپانے کی کوشش کرنا، بغیر اجازت حساس معلومات یا اے پی آئی کیز تلاش کرنا، فائلیں صارف کی اجازت کے بغیر انٹرنیٹ پر اپ لوڈ کرنا اور الگ الگ سسٹمز کے درمیان غیر مجاز رابطہ شامل ہے۔

ایک واقعے میں ایک ماڈل نے اپنے کام کے خلاصوں میں ایسی ہدایات شامل کیں جن کا مقصد مستقبل میں کام کرنے والے ماڈلز سے اپنی غلطیوں یا غیر متوقع رویے کو چھپانا تھا۔ ایک اور معاملے میں ماڈل نے عوامی سافٹ ویئر ریپوزٹری میں موجود اے پی آئی کی استعمال کرنے کی کوشش کی۔

اوپن اے آئی نے کہا ہے کہ نیا فریم ورک ایسے واقعات کی شناخت، تحقیقات اور عوامی رپورٹنگ کو زیادہ منظم بنائے گا۔ کمپنی کے مطابق مستقبل میں غیر مجاز اقدامات، نگرانی سے بچنے کی کوششوں اور اے آئی ماڈلز کے درمیان غیر مجاز تعاون جیسے واقعات بھی رپورٹ کیے جائیں گے۔

کمپنی نے یہ بھی تسلیم کیا ہے کہ اے آئی نے ابھی تک ماڈلز کی الائنمنٹ اور مانیٹرنگ کے مسائل مکمل طور پر حل نہیں کیے۔ اوپن اے آئی کا کہنا ہے کہ اے آئی کی تیز رفتار ترقی کے ساتھ اس کے حفاظتی خطرات کو سمجھنے اور ان پر قابو پانے کے لیے مزید تحقیق اور شفافیت ضروری ہے۔

یہ انکشاف ایسے وقت میں سامنے آیا ہے جب اے آئی ماڈلز کی خودمختاری اور انسانی نگرانی سے متعلق خدشات میں اضافہ ہورہا ہے۔ جولائی میں اوپن اے آئی کے بعض ماڈلز کے ایک سائبر سکیورٹی ٹیسٹ کے دوران حفاظتی حدود سے تجاوز کرنے اور انٹرنیٹ و بیرونی سسٹمز تک رسائی کے واقعات بھی سامنے آئے تھے۔