एआई-जनित हानिकारक सामग्री में 260 गुना वृद्धि, टेक दिग्गजों के लिए नियामक जोखिम बढ़े

इंटरनेट वॉच फाउंडेशन (IWF) ने पिछले एक साल में एआई-जनित बाल यौन शोषण सामग्री (CSAM) में 260 गुना की चौंकाने वाली वृद्धि दर्ज की है। फाउंडेशन ने चेतावनी दी है कि वर्तमान निष्कर्ष केवल 'हिमशैल का सिरा' (tip of the iceberg) हैं, जो जनरेटिव एआई उपकरणों के तेजी से दुरुपयोग को उजागर करते हैं। डेटा से पता चलता है कि 17 में से एक युवा ने व्यक्तिगत रूप से डीपफेक इमेजरी दुरुपयोग का अनुभव किया है, जबकि आठ में से एक व्यक्ति किसी पीड़ित को जानता है। यह उछाल MSFT, GOOGL और META सहित प्रमुख एआई डेवलपर्स पर सख्त सुरक्षा ढांचे लागू करने के लिए भारी दबाव डाल रहा है। बढ़ी हुई कानूनी देनदारी और अनिवार्य सुरक्षा अनुपालन की बढ़ती लागतों से प्रमुख तकनीकी फर्मों के लाभ मार्जिन पर दबाव पड़ने की उम्मीद है। जैसे-जैसे वैश्विक नियामक अपनी जांच तेज कर रहे हैं, उद्योग को महत्वपूर्ण ईएसजी (ESG) जोखिमों का सामना करना पड़ रहा है जो दीर्घकालिक विकास पथ और निवेशक भावना को प्रभावित कर सकते हैं।