Studi kasus: sebuah inbox yang dikategorikan oleh agen AI sementara /no_think

Email masuk adalah masukan paling berbahaya yang diproses sebuah perusahaan: phishing, prompt injection, malware. Kami ingin AI triage — klasifikasi, ringkasan, tindakan yang disarankan — tanpa pernah menjalankan LLM pada email mentah di infrastruktur kami.

Desainnya: setiap email secara individual ditangani oleh agen LLM sementara di dalam mesin virtual yang terdedikasi, di belakang lima lapisan pertahanan yang independen — pengambilan data tanpa LLM, pengamanan injeksi dengan anonimisasi PII dan karantina, daftar hitam per-tenant, mesin virtual terisolasi hanya dengan alat yang diizinkan (tidak ada shell, tidak ada SMTP keluar), dan pengamanan lintas tenant. Jika terjadi anomali, mesin virtual akan kembali ke snapshot yang bersih.

Telah berjalan di produksi di mailbox perusahaan kami sendiri selama bulan-bulan pengujian berkelanjutan. Host tidak pernah menyentuh email mentah dengan model, sebuah email yang terinfeksi hanya bisa merusak hal-hal di luar agen throwaway-nya sendiri, dan operator melihat antrean yang diklasifikasikan dan disimpulkan, bukan kotak masuk mentah.