أفادت الخدمة الصحفية للأمم المتحدة أن ملايين الأطفال والمراهقين في جميع أنحاء العالم يقعون ضحايا لجرائم تتعلق بإنشاء مقاطع فيديو جنسية مزيفة بتقنية التزييف العميق، وذلك وفقاً لدراسة مشتركة أجرتها منظمة اليونيسف والمنظمة الدولية ECPAT والإنتربول في 11 دولة.
بحسب الدراسة، يقع طفل واحد من بين كل 25 طفلاً ضحيةً لعمليات التزييف العميق التي تُنتج محتوىً جنسياً. وأفاد ما لا يقل عن 1.2 مليون طفل بتعرض صورهم للتلاعب والتحويل إلى صور مزيفة ذات محتوى جنسي صريح. وأكدت اليونيسف أن حجم المشكلة يُضاهي حالةً يكون فيها طفل واحد على الأقل في كل فصل دراسي ضحيةً لمثل هذه الجريمة.
تجدر الإشارة إلى أن تقنية التزييف العميق – وهي عبارة عن صور أو مقاطع فيديو أو ملفات صوتية تم إنشاؤها أو معالجتها باستخدام تقنيات الذكاء الاصطناعي والتي تبدو أو تُسمع وكأنها الشيء الحقيقي – تُستخدم بشكل متزايد لإنشاء محتوى جنسي يضم أطفالًا.
أشارت المنظمة إلى أن الأطفال أنفسهم يدركون المخاطر القائمة. ففي العديد من الدول المشاركة في الدراسة، أعرب نحو ثلثي الأطفال عن قلقهم إزاء إمكانية استخدام الذكاء الاصطناعي لإنشاء صور أو مقاطع فيديو جنسية مزيفة.
تؤكد اليونيسف أن إنتاج مقاطع الفيديو والصور المزيفة ذات المحتوى الجنسي يُعدّ إساءة معاملة للأطفال. ويعتقد الخبراء أن هذه المقاطع والصور المزيفة تُساهم في تطبيع الاستغلال الجنسي للقاصرين وتُؤجّج الطلب على المحتوى العنيف.
رحّبت المؤسسة بجهود مطوّري الذكاء الاصطناعي لتطبيق مناهج آمنة افتراضياً وآليات أمنية قوية لمنع إساءة استخدام أنظمتهم. ومع ذلك، أكّدت على أن العديد من نماذج الذكاء الاصطناعي تُنشأ دون تدابير أمنية كافية، وأن المخاطر تتزايد عند دمج أدوات الذكاء الاصطناعي التوليدي مباشرةً في وسائل التواصل الاجتماعي، حيث تُشارك الصور المُعالجة بسرعة عالية.
تدعو اليونيسف جميع الدول إلى تجريم إنشاء المحتوى الذي يُولّده الذكاء الاصطناعي والذي يتضمن صورًا جنسية للأطفال، وحيازته، وتخزينه، وتوزيعه. كما ترى المنظمة أنه من الضروري أن يُطبّق مطورو الذكاء الاصطناعي آليات أمان في مرحلة التصميم، وأن تمنع الشركات الرقمية نشر هذا المحتوى، بدلاً من مجرد إزالته بعد إساءة استخدامه.
