مصنوعی ذہانت کی تیز رفتار ترقی نے جہاں ٹیکنالوجی کی دنیا میں نئے امکانات پیدا کیے ہیں، وہیں اس کے ممکنہ خطرات پر بحث بھی شدت اختیار کرگئی ہے۔
اے آئی کمپنی اینتھراپک کے سابق محقق جیکب کوکسن نے ملازمت سے استعفیٰ دیتے ہوئے الزام عائد کیا ہے کہ اینتھراپک اور اس کی حریف کمپنی ’اوپن اے آئی‘ مصنوعی ذہانت کی ترقی میں انسانی زندگی کے لیے انتہائی بڑے خطرات مول لے رہی ہیں۔
کوکسن دونوں کمپنیوں میں محقق کے طور پر کام کرچکے ہیں، انھوں نے سوشل میڈیا پلیٹ فارم ایکس پر اپنی پوسٹ میں کہا کہ انہوں نے اس خدشے کے باعث استعفیٰ دیا کہ اے آئی تیار کرنے والی کمپنیاں ’ہماری زندگیوں کے ساتھ جوا کھیل رہی ہیں‘۔ ان کے مطابق اس شعبے میں کام کرنے والے بعض افراد سنجیدگی سے یہ یقین رکھتے ہیں کہ اے آئی رواں دہائی کے اختتام تک پوری انسانیت کے خاتمے کا باعث بن سکتی ہے۔
انہوں نے خبردار کیا کہ اس ٹیکنالوجی کی صلاحیت کو کم نہیں سمجھنا چاہیے۔ کوکسن کے مطابق مستقبل کے اے آئی سسٹمز انسانی صلاحیتوں سے آگے نکل سکتے ہیں، ایسے سسٹمز سائبر حملے کرسکیں گے، مختلف شعبوں میں غیر معمولی رفتار سے تبدیلی لاسکیں گے اور حقیقی دنیا میں طاقت اور وسائل تک رسائی حاصل کرنے کے قابل ہوسکتے ہیں۔ ان کی پوسٹ کو 7 کروڑ سے زائد مرتبہ دیکھا جاچکا ہے۔
اے آئی کی دوڑ اور حفاظتی خدشات
کوکسن کے بیان نے سلیکون ویلی میں جاری اس پرانی بحث کو دوبارہ نمایاں کردیا ہے کہ کیا مصنوعی ذہانت کو محفوظ انداز میں تیار اور قابو میں رکھا جاسکتا ہے۔ ’اینتھراپک‘ اور ’اوپن اے آئی‘ جدید ترین اے آئی ماڈلز کی تیاری میں مسلسل آگے بڑھ رہی ہیں، جبکہ دونوں کمپنیوں کی ممکنہ تاریخی ابتدائی عوامی پیشکش یعنی آئی پی او کے حوالے سے بھی توقعات موجود ہیں۔ اسی دوران متعدد محققین جدید اے آئی کی ترقی کی رفتار کو مربوط انداز میں سست کرنے کا مطالبہ کر رہے ہیں۔
OpenAI کے چیف سائنٹسٹ جیکب پاشوکی نے بھی اتوار کو ایک بلاگ پوسٹ میں خبردار کیا کہ کوئی بھی اے آئی کمپنی فی الحال ’الائنمنٹ‘ اور نگرانی کے مسائل کو اس حد تک حل نہیں کرسکی کہ جدید ترین اے آئی سسٹمز کی ترقی کو زیادہ سے زیادہ رفتار سے طویل عرصے تک ذمے داری کے ساتھ جاری رکھا جاسکے۔
اے آئی میں ’الائنمنٹ‘ سے مراد ایسے نظام تیار کرنا ہے جو انسانی اقدار، مقاصد اور ہدایات کے مطابق کام کریں۔ پاشوکی کا کہنا ہے کہ جب تک مشترکہ حفاظتی معیار طے نہیں ہوجاتے، رضاکارانہ طور پر اے آئی کی ترقی کی رفتار کم کرنا معمول بننا چاہیے۔ انہوں نے دنیا بھر کی حکومتوں پر بھی زور دیا کہ مستقبل کی اے آئی ٹیکنالوجی کی ترقی کے حوالے سے بین الاقوامی تعاون کو ترجیح دی جائے۔
خود کو بہتر بنانے والی اے آئی کا خطرہ
اس بحث کا ایک اہم پہلو ’ریکَرسیو سیلف امپروومنٹ‘ یعنی اے آئی کا اپنے اگلے ورژن کو خود ڈیزائن اور تیار کرنے کے قابل ہونا بھی ہے۔ فی الحال یہ صلاحیت عملی طور پر موجود نہیں، تاہم Anthropic اور OpenAI سمیت متعدد کمپنیاں خبردار کرچکی ہیں کہ اگر اے آئی سسٹمز خود کو انسانوں کی مداخلت کے بغیر مسلسل بہتر بنانے کے قابل ہوگئے تو انہیں قابو میں رکھنا زیادہ مشکل ہوسکتا ہے۔
کوکسن نے الزام لگایا کہ دونوں کمپنیاں ذمے داری سے کام نہیں کر رہیں اور خود کو بہتر بنانے والی سپر انٹیلی جنس کی طرف تیزی سے بڑھ رہی ہیں۔
اینتھراپک میں اے آئی الائنمنٹ کے شعبے سے وابستہ ایون ہبنگر نے بھی کوکسن کے خدشات سے اتفاق کیا۔ ان کا کہنا تھا کہ وہ ذاتی طور پر اگلی دہائی میں اے آئی کے ہاتھوں پوری انسانیت کے خاتمے کے امکان کو 10 فیصد سے زیادہ سمجھتے ہیں۔ تاہم انہوں نے یہ بھی کہا کہ اینتھراپک اپنی پوری کوشش کررہی ہے، لیکن سپر انٹیلی جنس کے لیے الائنمنٹ کا مسئلہ حل کرنے کا ابھی کوئی مکمل منصوبہ موجود نہیں اور کمپنی اس مقصد کی جانب واضح طور پر آگے بڑھتی ہوئی دکھائی نہیں دے رہی۔
’پی ڈوم‘ کیا ہے؟
اے آئی کی وجہ سے انسانیت کو پیش آنے والے انتہائی تباہ کن نتائج کا امکان ٹیکنالوجی کے ماہرین کے درمیان نیا موضوع نہیں۔ اے آئی ریسرچ کی دنیا میں بعض ماہرین اس خطرے کو ’p(doom)‘ کی اصطلاح سے بیان کرتے ہیں، جس سے مراد ایسے انتہائی سنگین نتائج کے امکان کا تخمینہ ہے جن میں بڑے پیمانے پر تباہی یا انسانی وجود کو خطرہ شامل ہوسکتا ہے۔
2023 میں بھی OpenAI کے سربراہ سیم آلٹمین اور Anthropic کے چیف ایگزیکٹو ڈاریو امودی سمیت متعدد معروف اے آئی محققین اور ٹیکنالوجی رہنماؤں نے ایک مشترکہ بیان پر دستخط کیے تھے، جس میں اے آئی سے انسانیت کے خاتمے کے خطرے کو وباؤں اور جوہری جنگ جیسے دیگر بڑے عالمی خطرات کے ساتھ عالمی ترجیح قرار دینے کی بات کی گئی تھی۔
امریکی کانگریس بھی متحرک
اے آئی کی ترقی کی رفتار اور اس کے ممکنہ خطرات پر امریکی قانون ساز بھی اقدامات کر رہے ہیں، تاہم اس ٹیکنالوجی کو ریگولیٹ کرنے کے طریقہ کار پر ابھی واضح اتفاق رائے موجود نہیں۔
جولائی میں ریپبلکن رکن کانگریس جے اوبرنولٹے اور ڈیموکریٹ رکن لوری ٹراہن نے ’FRONTIER Act‘ پیش کیا، جس کا مقصد جدید اے آئی ماڈلز کی تعیناتی کے لیے نگرانی اور حکمرانی کا ایک فریم ورک تیار کرنا ہے۔
اسی طرح رواں ماہ سینیٹر برنی سینڈرز اور رکن کانگریس گریگ کاسر نے ’Ban Artificial Superintelligence Act‘ پیش کیا۔ مجوزہ قانون کے تحت جدید اے آئی کی ترقی کو عارضی طور پر روکنے کی تجویز دی گئی ہے، جب تک وفاقی حکومت اس شعبے کے لیے حفاظتی قواعد مرتب نہ کرلے۔ دونوں تجاویز کو مختلف حلقوں کی جانب سے ملا جلا ردعمل ملا ہے۔
لوری ٹراہن نے ایکس پر اپنے بیان میں کہا کہ حفاظتی تحقیق کرنے والے ماہرین استعفے دے رہے ہیں، طاقتور اے آئی ماڈلز اپنی لیبارٹریوں سے باہر نکل رہے ہیں اور کمپنیاں اس کے باوجود تیزی سے آگے بڑھ رہی ہیں۔ ان کے مطابق اب وقت آگیا ہے کہ کانگریس اس معاملے میں اپنا کردار ادا کرے۔
اے آئی ڈیٹا سینٹرز بھی تنقید کی زد میں
مصنوعی ذہانت کے حوالے سے عوامی ردعمل صرف اے آئی ماڈلز تک محدود نہیں۔ ان ماڈلز کی تربیت اور آپریشن کے لیے درکار بڑے ڈیٹا سینٹرز بھی امریکا میں بڑھتی ہوئی مخالفت کا سامنا کر رہے ہیں۔ یہ مراکز اے آئی کے لیے درکار بڑے پیمانے کے کمپیوٹنگ ہارڈویئر کی میزبانی کرتے ہیں۔
یہ مخالفت اس حد تک بڑھ چکی ہے کہ نیشنل ریپبلکن سینیٹوریل کمیٹی نے گزشتہ ماہ اے آئی ڈیٹا سینٹرز کو آئندہ وسط مدتی انتخابات کے لیے ایک ’سلیپر ایشو‘ قرار دیا تھا۔
امریکی وزیر خزانہ اسکاٹ بیسنٹ نے بھی رواں ماہ اے آئی کمپنیوں پر تنقید کرتے ہوئے کہا کہ ان کمپنیوں نے امریکی عوام کو اپنے بارے میں سمجھانے میں انتہائی خراب کارکردگی دکھائی ہے۔ ان کے مطابق اے آئی کمپنیوں کو اس تنقید کی کچھ ذمے داری قبول کرنا ہوگی اور عوام کو یہ یقین دلانا ہوگا کہ ٹیکنالوجی کے تمام فوائد صرف ایک محدود گروپ تک نہیں پہنچیں گے۔
یوں مصنوعی ذہانت کی غیر معمولی رفتار سے ترقی کے ساتھ اس کے ممکنہ فوائد اور تباہ کن خطرات دونوں پر عالمی سطح پر بحث تیز ہوگئی ہے، جبکہ محققین، ٹیکنالوجی کمپنیاں اور حکومتیں اس سوال کا جواب تلاش کررہی ہیں کہ اے آئی کی ترقی اور انسانی تحفظ کے درمیان مناسب توازن کیسے قائم کیا جائے۔
