केस स्टडी: एक इंबॉक्स जो अस्थायी AI एजेंट्स द्वारा ट्रिएड किया गया है

आंतरिक ईमेल वह सबसे खतरनाक इनपुट है जिसे कोई कंपनी संसाधित करती है: इसमें फ़िशिंग, प्रॉम्प्ट इंजेक्शन और मैलवेयर शामिल हो सकते हैं। हम चाहते थे कि AI का उपयोग करके इन ईमेलों का विश्लेषण किया जाए - वर्गीकरण, सारांश और संभावित कार्रवाई सुझाव - लेकिन ऐसा बिना किसी भी LLM (बड़े भाषा मॉडल) को हमारे आंतरिक बुनियादी ढांचे के भीतर कच्चे ईमेल पर चलाए।

डिजाइन: प्रत्येक ईमेल को एक समर्पित वर्चुअल मशीन के अंदर एक अस्थायी एलएलएम एजेंट द्वारा जांचा जाता है, जो पांच स्वतंत्र सुरक्षा परतों के पीछे स्थित है - एलएलएम-मुक्त इनपुट, व्यक्तिगत जानकारी (पीआईआई) को गुमनाम करने और अलग करने वाली इंजेक्शन सुरक्षा, प्रत्येक किरायेदार के लिए ब्लैकलिस्ट, केवल स्वीकृत उपकरणों वाली एक पृथक वर्चुअल मशीन (कोई शेल नहीं, कोई आउटबाउंड एसएमटीपी नहीं), और एक क्रॉस-किरायेदार सुरक्षा। किसी भी असामान्य गतिविधि के मामले में, वर्चुअल मशीन एक स्वच्छ स्नैपशॉट पर वापस लौट जाती है।

यह कई महीनों से हमारे अपने कंपनी के मेलबॉक्स पर लगातार परीक्षण के लिए चल रहा है। होस्ट कभी भी किसी मॉडल के साथ सीधे ईमेल को नहीं छूता है; एक समझौता किए गए ईमेल से भी, केवल उसके अपने अस्थायी एजेंट को ही नुकसान हो सकता है, और ऑपरेटर को एक वर्गीकृत, सारांशित कतार दिखाई देती है, न कि सीधे इनबॉक्स।