Conteúdo prejudicial gerado por IA aumenta 260 vezes, elevando riscos regulatórios para gigantes da tecnologia

A Internet Watch Foundation (IWF) relatou um aumento impressionante de 260 vezes no material de abuso sexual infantil (CSAM) gerado por IA no último ano. A fundação alertou que as descobertas atuais representam apenas a "ponta do iceberg", destacando o rápido uso indevido de ferramentas de IA generativa. Dados mostram que um em cada 17 jovens sofreu pessoalmente abuso de imagens deepfake, enquanto um em cada oito indivíduos conhece uma vítima. Esse surto está exercendo uma pressão imensa sobre os principais desenvolvedores de IA, incluindo MSFT, GOOGL e META, para implementar estruturas de segurança mais rigorosas. Espera-se que o aumento da responsabilidade legal e os custos crescentes de conformidade de segurança obrigatória pesem sobre as margens de lucro das principais empresas de tecnologia. À medida que os reguladores globais intensificam sua fiscalização, o setor enfrenta riscos ESG significativos que podem impactar as trajetórias de crescimento de longo prazo e o sentimento dos investidores.