人工智能生成的有害内容激增260倍，增加科技巨头的监管风险

互联网观察基金会 (IWF) 报告称，过去一年中，人工智能生成的儿童性虐待材料 (CSAM) 惊人地增加了260倍。该基金会警告称，目前的调查结果仅代表“冰山一角”，突显了生成式人工智能工具被快速滥用的现状。数据显示，每17名年轻人中就有一人亲身经历过深度伪造 (deepfake) 图像滥用，而每八个人中就有一人认识受害者。这一激增给包括微软 (MSFT)、谷歌 (GOOGL) 和 Meta (META) 在内的主要人工智能开发商带来了巨大压力，要求其实施更严格的安全框架。法律责任的增加和强制性安全合规成本的上升预计将压低领先科技公司的利润率。随着全球监管机构加强审查，该行业面临重大的 ESG 风险，这可能会影响长期增长轨迹和投资者情绪。