ٹک ٹاک پر کم عمر بچیوں سے مشابہ اے آئی کی نازیبا ویڈیوز بے نقاب؛ تحقیق

آن لائن غلط معلومات اور ڈیجیٹل شفافیت پر کام​​ کرنے والے​​​​​ سیفٹی ایک غیر منافع بخش ادارے کی تازہ تحقیق نے ٹک ٹاک پر ایک تشویشناک رجحان کو بے نقاب کیا ہے۔

سائنسی جریدے میں شائع ہونے والے ایک جریدے میں انکشاف کیا گیا ہے کہ مصنوعی ذہانت سے تیار کی گئی ایسی ویڈیوز سامنے آئی ہیں جو کم عمر بچیوں سے مشابہ کرداروں کو نامناسب انداز میں پیش کرتی ہیں۔

اسپین میں قائم ادارے میلڈیٹا کی تحقیق میں مزید انکشاف کیا گیا کہ یہ نامناسب ویڈیوز ٹک ٹاک کے قواعد کے باوجود لاکھوں لائیکس سمیٹنے میں کامیاب ہوئیں۔

رپورٹ میں کہا گیا ہے کہ درجن سے زائد ٹک ٹاک اکاؤنٹس ایسے پائے گئے جو کمپیوٹر سے تیار کردہ کم عمر لڑکیوں جیسی ویڈیوز شیئر کر رہے تھے، جن کے مجموعی طور پر لاکھوں فالوورز ہیں۔

محققین کا کہنا ہے کہ اکثر ویڈیوز ٹک ٹاک کے اپنے فیچر AI Alive کے ذریعے بنائی گئیں، جو تصاویر کو متحرک ویڈیوز میں بدل دیتا ہے جبکہ دیگر مواد بیرونی اے آئی ٹولز سے تیار کیا گیا۔

یہ ویڈیوز بظاہر حقیقی نہیں ہوتیں مگر دیکھنے والوں کے لیے حقیقت کا تاثر پیدا کرتی ہیں، جو ایک سنگین مسئلہ قرار دیا جا رہا ہے۔

تحقیق میں یہ بھی سامنے آیا کہ کئی ویڈیوز کے کمنٹ سیکشن میں ٹیلیگرام کے لنکس موجود تھے، جہاں غیر قانونی مواد فروخت کرنے کی پیشکش کی جا رہی تھی۔

ادارے نے ایسے تمام لنکس اور پلیٹ فارمز کی نشاندہی متعلقہ حکام کو کر دی ہے، تاہم کسی بھی قسم کا ایکشن نہیں لیا گیا ہے۔

یاد رہے کہ ٹک ٹاک کی پالیسی کے مطابق کم عمر افراد کو جنسی انداز میں دکھانا سختی سے ممنوع ہے اے آئی سے تیار کردہ ایسا کوئی بھی مواد جو بچوں کو نامناسب انداز میں پیش کرے، قابلِ اجازت نہیں۔

اس حوالے سے کمپنی کا کہنا ہے کہ وہ خودکار ٹیکنالوجی اور انسانی ماڈریشن کے ذریعے مواد کی نگرانی کرتی ہے۔

ٹک ٹاک کے مطابق 2025 کی دوسری سہ ماہی میں 18 کروڑ 90 لاکھ سے زائد ویڈیوز حذف کی گئیں اور 10 کروڑ 80 لاکھ سے زیادہ اکاؤنٹس بند کیے گئے۔

تاہم تحقیق کرنے والے ادارے کا کہنا ہے کہ کئی اکاؤنٹس اور ویڈیوز کو ابتدا میں قواعد کی خلاف ورزی قرار نہیں دیا گیا تھا جس سے پلیٹ فارم کی ماڈریشن صلاحیت پر سوال اٹھتے ہیں۔

ادارے کے محقق کارلوس ہرنینڈیز نے بتایا کہ یہ کوئی پیچیدہ معاملہ نہیں، یہ ایسا مواد ہے جسے دیکھ کر کوئی بھی عام انسان فوراً سمجھ سکتا ہے کہ یہ ناقابلِ قبول ہے۔

ڈیجیٹل ماہرین خبردار کر رہے ہیں کہ جنریٹو اے آئی کی تیزی سے بڑھتی صلاحیتیں اگر مؤثر نگرانی کے بغیر استعمال ہوں تو بچوں کے تحفظ کے لیے بڑا خطرہ بن سکتی ہیں۔

یہ رپورٹ ایسے وقت سامنے آئی ہے جب دنیا بھر میں سوشل میڈیا پلیٹ فارمز پر دباؤ بڑھ رہا ہے۔ آسٹریلیا سمیت کئی ممالک میں کم عمر بچوں کے لیے سوشل میڈیا پر پابندی یا سخت قوانین نافذ کیے جا رہے ہیں، تاکہ آن لائن ماحول کو محفوظ بنایا جا سکے۔