سماجی رابطے کی ویب سائٹ ایکس کے اے آئی چیٹ بوٹ گروک کے حفاظتی انتظامات پر سوالات اٹھنے لگے ہیں اور اسی کی بنا پر انڈونیشیا اور ملائیشیا میں پابندی عائد کردی گئی ہے اور برطانیہ نے بھی اسی طرح کی پابندیوں کی دھمکی دے دی ہے۔
غیرملکی میڈیا کی رپورٹ کے مطابق جنسی ڈیپ فیک کے عمل پر خدشات کا اظہار کرتے ہوئے انڈونیشیا اور ملائیشیا میں صارفین کے لیے گروک تک رسائی بند کر دی گئی ہے اور کہا گیا ہے کہ اےآئی چیٹ بوٹ کے حفاظتی انتظامات مؤثر نہیں تھے اسی لیے دونوں ممالک نے عارضی پابندیاں نافذ کی ہیں جو اس وقت تک برقرار رہیں گی جب تک ایکس اے آئی ریگولیٹرز کے مطالبات کے مطابق حفاظتی اقدامات نافذ نہیں کرتا۔
انڈونیشیا کی وزیرِ مواصلات اور ڈیجیٹل امور میوتیا حافظ نے بیان میں کہا کہ حکومت غیر رضامندی پر مبنی جنسی ڈیپ فیکس کے عمل کو انسانی حقوق، وقار اور ڈیجیٹل فضا میں شہریوں کی سلامتی کی سنگین خلاف ورزی سمجھتی ہے۔
انہوں نے کہا کہ انڈونیشیا میں انٹرنیٹ مواد سے متعلق سخت سنسرشپ قوانین نافذ ہیں، جو ایسے مواد کو کنٹرول کرتے ہیں جسے فحش قرار دیا جاتا ہے۔
رپورٹ میں بتایا گیا کہ ملائیشیا نے حال ہی میں ایکس پر مصنوعی ذہانت کے ٹولز کے غلط استعمال کی تحقیقات شروع کی تھیں، جو ریگولیٹرز کی جانب سے کیے گئے مداخلتی اقدامات کا حصہ ہے، یہ تحقیق بھارت کی وزارت آئی ٹی کے اس نوٹس کے فوراً بعد سامنے آئی، جس میں ایکس کو گروک کے مبینہ غلط استعمال پر فوری کارروائی کی ہدایت کی گئی تھی۔
مذکورہ نوٹس میں ملک کے انفارمیشن ٹیکنالوجی ایکٹ کی ممکنہ خلاف ورزیوں کی طرف بھی اشارہ کیا گیا تھا۔
رپورٹ کے مطابق پیرس کے پراسیکیوٹر کے دفتر میں فرانسیسی حکام اور دیگر غیر ملکی حکومتوں نے ایکس اے آئی کی ٹیکنالوجی اور متعلقہ آن لائن سیفٹی قوانین کے تحت اس کے ضابطہ کار سے متعلق تحقیقات کا اعلان کیا ہے، جس میں برطانیہ بھی شامل ہے اور یورپی یونین کی سطح پر بھی تحقیقات جاری ہیں۔
برطانیہ کی ٹیکنالوجی سیکریٹری لز کینڈل نے بجہ حال ہی میں کہا تھا کہ اگر برطانیہ کا آفس آف کمیونیکیشنز (آف کام) اس نتیجے پر پہنچے کہ ایکس آن لائن سیفٹی ایکٹ کی خلاف ورزی کر رہا ہے تو وہ اس پر مکمل پابندی کی حمایت کریں گی اور توقع ہے کہ اس بارے میں فیصلہ آئندہ چند دنوں میں کر لیا جائے گا۔
دوسری جانب سے ایکس کے مالک ایلون مسک نے پابندی کی دھمکیوں کے جواب میں برطانوی حکومت پر کمپنی کو حد سے زیادہ سنسر کرنے کی کوشش کا الزام عائد کیا اور ایکس پر ایک پوسٹ میں لکھا کہ وہ صرف آزادی اظہار کو دبانا چاہتے ہیں۔
ایلون مسک اس سے قبل کہہ چکے ہیں کہ ایکس پر غیر قانونی مواد اپ لوڈ کرنے والے صارفین کو نتائج کا سامنا کرنا چاہیے۔
رپورٹ میں بتایا گیا کہ حالیہ تحقیق میں یہ بات سامنے آئی ہے کہ گروک امیجن کے ڈیسک ٹاپ اور ایپ ورژنز، موجود حفاظتی اقدامات کے باوجود، جنسی تشدد پر مبنی اور انتہائی واضح مواد، جنسی مناظر میں مشہور شخصیات کی عکاسی، اور ممکنہ طور پر اے آئی سے تیار کردہ چائلڈ سیکسول ابیوز میٹیریل (سی ایس اے ایم) بنانے کی صلاحیت رکھتے تھے۔
مزید بتایا گیا کہ یہ چیٹ بوٹ اب ایک واضح اور دستاویزی ریکارڈ رکھتا ہے، جس میں جنسی نوعیت کے ڈیپ فیکس تیار کرنا شامل ہے، یہاں تک کہ صارفین کی ایسی فرمائشوں کو بھی گروک پوری کرتا ہے جو عوامی سطح پر اپ لوڈ کی گئی تصاویر میں موجود افراد کے بغیر رضامندی “کپڑے اتارنے” کو کہتے ہیں۔
