فيسبوك يكشف النقاب عن أنظمة للقبض على عُري الأطفال واستمالة الأطفال

بوابة اوكرانيا- كييف- 27 اكتوبر 2022- قالت شركة Facebook Inc. يوم امس الأربعاء إن مديري الشركة خلال الربع الأخير أزالوا 8.7 مليون صورة مستخدم لعُري الأطفال بمساعدة برنامج لم يتم الكشف عنه سابقًا والذي يقوم تلقائيًا بوضع علامات على مثل هذه الصور.
تحدد أداة التعلم الآلي التي تم طرحها خلال العام الماضي الصور التي تحتوي على عري وطفل ، مما يسمح بزيادة فرض حظر Facebook على الصور التي تظهر القصر في سياق جنسي.
كما تم الكشف عن نظام مماثل يوم الأربعاء يمسك بالمستخدمين المنخرطين في “الاستمالة” أو إقامة علاقات صداقة مع القصر للاستغلال الجنسي.
قال رئيس السلامة العالمية في فيسبوك أنتيجون ديفيس لرويترز في مقابلة إن “الآلة تساعدنا في تحديد الأولويات” و “ترتيب قائمة الانتظار بشكل أكثر كفاءة” لفريق المراجعين المدربين في الشركة.
تستكشف الشركة تطبيق نفس التكنولوجيا على تطبيق Instagram الخاص بها.
تحت ضغط من المنظمين والمشرعين ، تعهد Facebook بالإسراع في إزالة المواد المتطرفة وغير المشروعة. تعد برامج التعلم الآلي التي تفحص المليارات من أجزاء المحتوى التي ينشرها المستخدمون كل يوم ضرورية لخطتها.
التعلم الآلي غير كامل ، ووكالات الأنباء والمعلنون هم من بين أولئك الذين اشتكوا هذا العام من أنظمة Facebook الآلية التي تحظر منشوراتهم بشكل خاطئ.
قال ديفيس إن أنظمة سلامة الأطفال سترتكب أخطاء لكن المستخدمين يمكنهم الاستئناف.
قالت: “نفضل أن نخطئ في جانب الحذر مع الأطفال”.
حظرت قواعد فيسبوك لسنوات حتى الصور العائلية للأطفال الذين يرتدون ملابس خفيفة والتي تم تحميلها “بنوايا حسنة” ، قلقين بشأن الكيفية التي قد يسيء بها الآخرون مثل هذه الصور.
قبل البرنامج الجديد ، اعتمد Facebook على المستخدمين أو مرشحات العُري للبالغين لالتقاط صور الأطفال. يحظر نظام منفصل المواد الإباحية المتعلقة بالأطفال التي تم إبلاغ السلطات عنها سابقًا.
لم يكشف Facebook سابقًا عن بيانات حول عمليات إزالة عُري الأطفال ، على الرغم من أن البعض قد تم احتسابه من بين 21 مليون منشور وتعليق تمت إزالته في الربع الأول من العام بسبب النشاط الجنسي وعُري البالغين.
قال موقع فيسبوك إن البرنامج ، الذي تعلم من مجموعة صور عارية للبالغين وصور أطفال يرتدون ملابس ، أدى إلى المزيد من عمليات الإزالة. إنها تستثني الفن والتاريخ ، مثل الصورة الحائزة على جائزة بوليتزر لفتاة عارية تفر من هجوم بالنابالم في حرب فيتنام.
قال ديفيس إن نظام العناية بالطفل يقيم عوامل مثل عدد الأشخاص الذين قاموا بحظر مستخدم معين وما إذا كان هذا المستخدم يحاول بسرعة الاتصال بالعديد من الأطفال.
قالت ميشيل ديلون ، مديرة العمليات في المركز الوطني للأطفال المفقودين والمستغلين (NCMEC) ، إن المنظمة تتوقع تلقي حوالي 16 مليون نصيحة إباحية للأطفال في جميع أنحاء العالم هذا العام من Facebook وشركات التكنولوجيا الأخرى ، ارتفاعًا من 10 ملايين في العام الماضي.
مع الزيادة ، قالت NCMEC إنها تعمل مع Facebook لتطوير برنامج لتحديد النصائح التي يجب تقييمها أولاً.
ومع ذلك ، أقر DeLaune بأن النقطة العمياء الحاسمة هي تطبيقات الدردشة المشفرة ومواقع “الويب المظلمة” السرية حيث تنشأ الكثير من المواد الإباحية الجديدة المتعلقة بالأطفال.
على سبيل المثال ، يمنع تشفير الرسائل على WhatsApp المملوك لـ Facebook التعلم الآلي من تحليلها.
قال DeLaune إن NCMEC ستعلم شركات التكنولوجيا و “آمل أن تستخدم الإبداع” لمعالجة هذه المشكلة.