يهمّني شرح كيف تتعامل المنصات الرقمية مع محتوى العلاقات الأسرية المحظورة بطريقة عملية وتقنية في آن واحد.
أولًا: هناك طبقة سياسات واضحة مكتوبة في شروط الاستخدام وإرشادات المجتمع؛ المنصات تصنف صراحة على أن المحتوى الجنسي الذي يتضمن أقاربًا أو استغلالًا عائليًا ممنوع أو مقيد بشدّة. هذه السياسة هي الأساس، وتُستخدم لتدريب الأنظمة الآلية وتوجيه عمل المراجعين البشريين.
ثانيًا: التقنية نفسها تتكون من عدة أدوات متكاملة: فحص النصوص باستخدام نماذج لغوية للكشف عن عبارات مثل '
أخي' أو 'أمي' مصحوبة بسياق جنسي، وتصنيفات الصور والفيديو لاكتشاف عُري أو أوضاع جنسية باستخدام شبكات عصبية، وتحليل الميتاداتا والتاغات والتعليقات لمعرفة العلاقة بين أفراد المحتوى. تُحوّل هذه الشذرات إلى علامات تُقدّم لقاعدة قواعد
القرار: حذف تلقائي، تقييد وصول، أو إرسال للمراجعة البشرية.
ثالثًا: المراجعة البشرية لا غنى عنها، لأن تحديد 'علاقة أسرية' بدقة غالبًا يحتاج لسياق خارج عن القدرة الآلية: أسماء مستخدمة، ألبومات عائلية سابقة، أو تصريحات في التعليقات. لكن هناك حدود أخلاقية وقانونية—مثل القيود على التعرف الوجهي في بعض القوانين—فلا تعتمد جميع المنصات على كشف الوجوه لتحديد القرابة.
أخيرًا: الإجراءات الممكن اتخاذها تختلف حسب الحالة والقانون: إزالة المحتوى، حظر الحساب، حجب التوصيات، تقييد الدعاية و
الربح، وحتى الإبلاغ للسلطات إذا شمل الأمر قاصرين أو كان
جريمة. ومن أصعب
التحديات استمرار المحتوى العائد للمولّدات العميقة (deepfakes) وغياب سياق واضح، ما يجعل التوازن بين الحماية وحرية التعبير عملية مستمرة وتطوعية، لكنها ضرورية للحفاظ على أمان المستخدمين.