टेक दिग्गजों ने स्वायत्त एआई त्रुटियों को रोकने के लिए वित्तीय सुरक्षा जाल विकसित किया

गूगल डीपमाइंड (Google DeepMind), माइक्रोसॉफ्ट (Microsoft), कोलंबिया विश्वविद्यालय और t54 लैब्स के शोधकर्ता स्वायत्त एआई एजेंटों के लिए एक वित्तीय सुरक्षा जाल बनाने के लिए सहयोग कर रहे हैं। यह पहल "हैलुसिनेशन" (hallucinations) के जोखिमों को कम करने पर केंद्रित है, जहां एआई मॉडल वित्तीय लेनदेन के दौरान गलत लेकिन विश्वसनीय जानकारी उत्पन्न करते हैं। जैसे-जैसे एआई एजेंट पूंजी प्रबंधन पर अधिक स्वायत्तता प्राप्त कर रहे हैं, महंगी त्रुटियों को रोकने के लिए मजबूत ढांचे की आवश्यकता उद्योग के लिए प्राथमिकता बन गई है। इस परियोजना का उद्देश्य सत्यापन परतें (verification layers) स्थापित करना है जो यह सुनिश्चित करती हैं कि स्वायत्त निर्णय सुरक्षित वित्तीय मापदंडों के भीतर रहें। हालांकि बाजार पर तत्काल प्रभाव तटस्थ माना जा रहा है, लेकिन फिनटेक क्षेत्र में एआई के दीर्घकालिक एकीकरण के लिए यह शोध महत्वपूर्ण है। इन कमजोरियों को दूर करके, यह सहयोग एआई-संचालित वित्तीय पारिस्थितिकी तंत्र की सुरक्षा और विश्वसनीयता को मजबूत करना चाहता है।