زيادة هائلة في المحتوى المسيء الناتج عن الذكاء الاصطناعي تضع شركات التكنولوجيا تحت ضغوط تنظيمية

كشفت مؤسسة مراقبة الإنترنت (IWF) عن زيادة مذهلة بلغت 260 ضعفاً في المحتوى المسيء للأطفال الناتج عن الذكاء الاصطناعي خلال عام واحد فقط. وحذرت المؤسسة من أن البيانات الحالية لا تمثل سوى "قمة جبل الجليد"، مما يسلط الضوء على المخاطر الأخلاقية والأمنية المتزايدة للتقنيات الناشئة. وتشير الإحصائيات إلى أن واحداً من كل 17 شاباً قد تعرض شخصياً لإساءة استخدام الصور المزيفة (Deepfake)، بينما يعرف واحد من كل 8 أشخاص ضحية لهذه الممارسات. يضع هذا التطور شركات التكنولوجيا الكبرى مثل MSFT وGOOGL وMETA تحت مجهر الجهات التنظيمية العالمية التي تطالب بإجراءات أمان أكثر صرامة. ومن المتوقع أن تؤدي هذه الضغوط إلى زيادة تكاليف الامتثال القانوني والمسؤولية الجنائية، مما قد يؤثر على هوامش الربح في قطاع الذكاء الاصطناعي. ويؤكد المحللون أن الفشل في معالجة هذه القضايا قد يؤدي إلى فرض قيود تشريعية تعيق وتيرة الابتكار والنمو في المدى المتوسط.