ٹک ٹاک پر مصنوعی ذہانت سے تیار کی گئی نامناسب ویڈیوز: تحقیق میں سنگین انکشافات

ایک غیر منافع بخش ادارے سیفٹی کی تازہ تحقیق نے ٹک ٹاک پر ایک تشویشناک رجحان کو بے نقاب کیا ہے، جس میں مصنوعی ذہانت (AI) سے تیار کی گئی ویڈیوز کا ذکر کیا گیا ہے جو کم عمر بچیوں سے مشابہ کرداروں کو نامناسب انداز میں پیش کرتی ہیں۔

اسپین میں قائم ادارے میلڈیٹا کی تحقیق میں یہ انکشاف ہوا کہ یہ ویڈیوز ٹک ٹاک کے قواعد کے باوجود لاکھوں لائیکس سمیٹنے میں کامیاب ہوئیں۔ رپورٹ کے مطابق، درجن سے زائد ٹک ٹاک اکاؤنٹس ایسے پائے گئے جو کمپیوٹر سے تیار کردہ کم عمر لڑکیوں جیسی ویڈیوز شیئر کر رہے تھے، جن کے مجموعی طور پر لاکھوں فالوورز ہیں۔

تحقیق کے مطابق، یہ ویڈیوز بظاہر حقیقی نہیں ہوتیں، مگر یہ حقیقت کا تاثر پیدا کرتی ہیں جو دیکھنے والوں کو غلط پیغام دیتی ہیں۔ ان ویڈیوز کو ٹک ٹاک کے اپنے فیچر AI Alive کے ذریعے بنایا گیا تھا، جو تصاویر کو متحرک ویڈیوز میں بدل دیتا ہے، جبکہ دیگر مواد بیرونی اے آئی ٹولز سے تیار کیا گیا تھا۔

یہ ویڈیوز نہ صرف ٹک ٹاک کے قواعد کی خلاف ورزی کرتی ہیں بلکہ ان کے کمنٹس میں ٹیلیگرام کے لنکس بھی موجود تھے، جہاں غیر قانونی مواد کی فروخت کی پیشکش کی جا رہی تھی۔ تحقیق کرنے والے ادارے نے ان لنکس اور پلیٹ فارمز کی نشاندہی متعلقہ حکام کو کر دی ہے، مگر افسوس کی بات یہ ہے کہ اب تک کوئی ایکشن نہیں لیا گیا۔

ٹک ٹاک کی پالیسی اور ماڈریشن پر سوالات

ٹک ٹاک کی پالیسی کے مطابق کم عمر افراد کو جنسی انداز میں دکھانا سختی سے ممنوع ہے، اور اے آئی سے تیار کردہ ایسا کوئی مواد جو بچوں کو نامناسب انداز میں پیش کرے، قابلِ اجازت نہیں۔ کمپنی کا کہنا ہے کہ وہ خودکار ٹیکنالوجی اور انسانی ماڈریشن کے ذریعے مواد کی نگرانی کرتی ہے۔

ٹک ٹاک نے یہ بھی بتایا کہ 2025 کی دوسری سہ ماہی میں 18 کروڑ 90 لاکھ سے زائد ویڈیوز حذف کی گئیں اور 10 کروڑ 80 لاکھ سے زیادہ اکاؤنٹس بند کیے گئے۔ تاہم، تحقیق کرنے والے ادارے سیفٹی کا کہنا ہے کہ کئی ویڈیوز اور اکاؤنٹس کو ابتدا میں قواعد کی خلاف ورزی قرار نہیں دیا گیا تھا، جس سے پلیٹ فارم کی ماڈریشن صلاحیت پر سوالات اٹھتے ہیں۔

ڈیجیٹل ماہرین کی وارننگ

ڈیجیٹل ماہرین اس بات پر خبردار کر رہے ہیں کہ جنریٹو اے آئی کی تیزی سے بڑھتی صلاحیتوں کا اگر مؤثر نگرانی کے بغیر استعمال کیا جائے، تو یہ بچوں کے تحفظ کے لیے بڑا خطرہ بن سکتی ہے۔ اس رپورٹ نے عالمی سطح پر اس بات کو مزید اجاگر کیا ہے کہ سوشل میڈیا پلیٹ فارمز پر بچوں کی حفاظت کے حوالے سے سخت نگرانی کی ضرورت ہے۔

یہ رپورٹ ایسے وقت سامنے آئی ہے جب دنیا بھر میں سوشل میڈیا پلیٹ فارمز پر دباؤ بڑھ رہا ہے۔ کئی ممالک جیسے کہ آسٹریلیا میں کم عمر بچوں کے لیے سوشل میڈیا پر پابندی یا سخت قوانین نافذ کیے جا رہے ہیں تاکہ آن لائن ماحول کو محفوظ بنایا جا سکے۔

نتیجہ

یہ تحقیقات اس بات کا ثبوت ہیں کہ سوشل میڈیا اور ڈیجیٹل پلیٹ فارمز پر بچوں کی حفاظت ایک سنگین مسئلہ بن چکا ہے، اور اس میں فوری اصلاحات کی ضرورت ہے تاکہ کم عمر بچوں کو آن لائن جنسی استحصال اور دیگر غیر قانونی سرگرمیوں سے بچایا جا سکے۔