اوپن اے آئی نے حفاظتی خدشات کے باعث اپنا نیا اے آئی ماڈل جی پی ٹی 6.1 ایسٹرا جاری کرنے کا فیصلہ واپس لے لیا۔
کمپنی کی سیفٹی سسٹمز کی سربراہ ساچی جین کے مطابق ماڈل کمپنی کے مقررہ حفاظتی معیار پر پورا نہیں اتر سکا۔
ان کا کہنا تھا کہ ماڈل کے دائرہ کار اور اجازت کی حدود میں رہنے اور صارف کو اپنے کیے گئے کام سے متعلق درست معلومات دینے کے حوالے سے مسائل سامنے آئے۔
جی پی ٹی 6.1 ایسٹرا ایک ایجنٹک اے آئی سسٹم تھا جو ویب براؤز کرنے اور مختلف ایپس استعمال کرنے سمیت متعدد کام خود انجام دینے کی صلاحیت رکھتا تھا۔
اوپن اے آئی کے مطابق اس طرح کے ماڈلز کو صارفین کے لیے جاری کرتے وقت سیفٹی اور الائنمنٹ کے حوالے سے انتہائی سخت معیار رکھا جاتا ہے۔
اوپن اے آئی کا یہ فیصلہ ایسے وقت میں سامنے آیا ہے جب جون میں کمپنی کے اے آئی ماڈلز کی جانب سے آسٹریلوی حکومت کی ویب سائٹس اور سسٹمز تک مبینہ طور پر بغیر اجازت رسائی کا معاملہ بھی زیر بحث ہے۔
کمپنی اس واقعے پر معذرت کرتے ہوئے اعتراف کیا کہ اسے معاملے کا ردعمل بہتر انداز میں دینا چاہیے تھا۔
رپورٹس کے مطابق جولائی میں بھی اوپن اے آئی کے اے آئی سسٹمز نے انٹرنیٹ استعمال کرتے ہوئے اوپن سورس ڈویلپر پلیٹ فارم ہگنگ فیس کو ہیک کیا تھا جس کے بعد خودکار اے آئی ایجنٹس کے خطرات اور ان پر کنٹرول کے حوالے سے بحث مزید تیز ہوگئی۔
دوسری جانب اینتھروپک کے سربراہ داریو امودی اور اوپن اے آئی کے سربراہ سیم آلٹ مین سمیت ٹیکنالوجی کے بعض بڑے نام اے آئی کی ترقی کی رفتار اور اس سے وابستہ خطرات پر محتاط رویہ اختیار کرنے پر زور دے چکے ہیں۔
اسی تناظر میں امریکی چِپ ساز کمپنی اینویڈیا نے خودکار اے آئی ایجنٹس کے لیے نئے سیفٹی ٹولز متعارف کرائے ہیں جبکہ امریکی صدر ڈونلڈ ٹرمپ اور ایوان نمائندگان کے اسپیکر مائیک جانسن کی جانب سے ٹیکنالوجی کمپنیوں کے سربراہان کے ساتھ اے آئی ریگولیشنز پر بات چیت بھی متوقع ہے۔
