Agent OS · Güvenlik

Yapay zekâ ajanları güvenle nasıl çalıştırılır?

Sistemlerde işlem yapan bir ajan, bir sohbet botundan farklı korumalar gerektirir – temel ilkeler burada.

Temel ilkeler

Her ajana mümkün olan en az yetki
Verinin talimattan ayrılması
Adım, süre ve maliyet limitleri
Geri alınamayan işlemler için onay
İsteyenin kimliğiyle tam iz kaydı

Talimat enjeksiyonu

Dış içerik – e-postalar, web sayfaları, belgeler – ajana yönelik talimatlar barındırabilir. Bunu veri olarak ele alın, bu tür içeriğe dayanan görevlerde kullanılabilir araçları sınırlayın ve veri sızdırabilecek veya bir şeyi değiştirebilecek işlemler için onay isteyin.

Canlıya almadan önce testler

Test seti olağan vakaları, sınır durumlarını ve kötüye kullanım girişimlerini kapsamalıdır. Testler model, talimat veya araç her değiştiğinde tekrarlanır ve sonuçlar zaman içinde karşılaştırılabilmesi için saklanır.

Olay yönetimi

Bir ajan veya araç anında devre dışı bırakılabilmelidir. Ardından kayıtlar güvenceye alınır, etki değerlendirilir; kişisel veri ihlali varsa KVKK’nın öngördüğü sürede Kurul’a ve ilgili kişilere bildirim yapılır. Ajan ancak düzeltme ve yeni testlerden sonra yeniden başlatılır.

Yetkilerin gözden geçirilmesi

Her çeyrekte ajanların hâlâ yetkilerine ihtiyaç duyup duymadığını, bir sahiplerinin olup olmadığını ve kullanılmayan ajanların kapatılıp kapatılmadığını kontrol edin.

Tedarikçilerden beklentiler

Ajan platformu sağlayıcılarına verilerin ve kayıtların nerede işlendiğini, kaynak sistem yetkilerinin nasıl korunduğunu, araç çağrılarının ajan bazında sınırlanıp sınırlanamayacağını ve bir olay sırasında ajanın ne kadar hızlı durdurulabileceğini sorun.