Felsefe ve yaklaşım

Bir süreci otomatikleştirmeden önce sürecin kendisini tarif ederiz. Girdi nedir, beklenen çıktı nedir, doğru sonucun kanıtı ne olacaktır ve hata durumunda kim devreye girecektir? Bu soruların yanıtı belirsizse, ajan eklemek yalnızca belirsizliği daha hızlı üretir.

Her iş otomasyona uygun değildir. Nadir görülen, bağlamı hızla değişen veya sonuçları geri alınamayan kararlar daha fazla insan muhakemesi gerektirir. Tekrarlanan, sınırları tarif edilebilen ve sonucu gözlemlenebilen işler ise kontrollü otomasyon için daha iyi adaylardır. Kapsamı bu ayrıma göre kurarız.

Multi-agent bir sistemde her ajanın sorumluluğu dar ve anlaşılır olmalıdır. Araştırma yapan bir bileşenin yayın yetkisine, içerik hazırlayan bir bileşenin müşteri verilerinin tamamına erişmesine ihtiyacı yoktur. Rol tanımı, hangi bağlamın görülebileceğini ve hangi araçların kullanılabileceğini de kapsar.

Uzmanlaşma, ajanlara kişilik vermek anlamına gelmez. Amaç; farklı iş türlerini ayrı değerlendirme ölçütleriyle ele almak, ihtiyaç duyulan bağlamı sınırlamak ve bir hatanın etkisini mümkün olduğunca küçük tutmaktır. Daha fazla ajan kullanmak tek başına daha iyi sonuç üretmez; bazen tek, iyi sınırlandırılmış bir akış daha doğrudur.

Bir görevin alt parçalara ayrılması, parçaların aynı anda çalışabileceği anlamına gelmez. Bazı çıktılar diğer görevlerin girdisidir; bazı kararlar bütün akışı değiştirebilir. Orkestrasyon katmanı bu bağımlılıkları, çalışma durumunu ve bekleyen onayları izlemek için vardır.

Koordinatörün görevi her şeyi yapmak değil, doğru işi doğru uzmanlığa yönlendirmek ve ortaya çıkan parçaları ortak amaçla yeniden birleştirmektir. Ajanlar arasında aktarılan bağlamı sınırlı tutmak hem kaliteyi hem de güvenliği destekler. Çelişen çıktılar olduğunda sistemin bunları sessizce birleştirmesi yerine belirsizliği görünür kılması gerekir.

Onay, otomasyon tamamlandıktan sonra gösterilen sembolik bir adım olmamalıdır. Dış dünyada etkisi olan veya geri alınması zor işlemlerde yürütmenin gerçek bir koşuludur. Sistem taslağı hazırlayabilir, seçenekleri karşılaştırabilir ve gerekçeyi sunabilir; kararın sahibini ortadan kaldırmamalıdır.

İnsan denetimi de tek başına yeterli değildir. Onay isteyen ekran, karar vermek için gereken bağlamı açıkça göstermelidir: ne yapılacak, hangi veri kullanılacak, beklenen etki nedir ve işlem geri alınabilir mi? Zeno'daki onay adımlarını bu nedenle iş akışının durumuna bağlarız; gerekli karar gelmeden bağlı adımlar ilerlemez.

Ajan çıktıları akıcı bir dil taşıyabilir ve yine de yanlış olabilir. Denetlenebilirlik, yalnızca son metni saklamak değildir; çalışmanın hangi görev kapsamında üretildiğini, hangi aşamalardan geçtiğini, nerede onay beklendiğini ve ne kadar kaynak kullandığını izleyebilmektir.

Çalışma, görev, olay, onay ve kullanım kayıtlarını birbirinden ayırmamızın nedeni budur. Bu kayıtlar hatayı imkânsız kılmaz; fakat bir sonucun nasıl oluştuğunu incelemek, tekrar eden sorunları görmek ve sistemi ölçülü biçimde düzeltmek için bir zemin sağlar. Ölçüm gösteremediğimiz bir faydayı kesin bir sonuç gibi sunmayız.

Dil modelleri gerçeğe aykırı bilgi üretebilir, güncel olmayan bağlama dayanabilir veya belirsiz bir talimatı aşırı güvenle yorumlayabilir. Dış kaynaklar sisteme talimat sızdırmayı deneyebilir. Araç çağrıları başarısız olabilir; hatalı bir döngü gereksiz maliyet ve işlem yoğunluğu yaratabilir.

Bu risklere karşı tek bir koruma katmanına güvenmeyiz. Dış veriyi işaretleyip denetlemek, erişimi görevle sınırlamak, kullanım tavanları koymak, kritik adımlarda onay beklemek ve belirsizlikte durabilmek aynı yaklaşımın parçalarıdır. Bunların hiçbiri riski tamamen ortadan kaldırmaz. Ama riski gözlemlenebilir ve müdahale edilebilir hâle getirir.

Uygulamadaki doğrulanabilir teknik kontrolleri ve sınırlarını Güvenlik sayfasında ayrı ayrı açıklıyoruz.

Multi-agent sistemler ilk günden eksiksiz bir organizasyon gibi kurulmaz. Önce sınırlı bir iş akışı seçilir; beklenen sonuç, onay noktaları ve hata davranışı belirlenir. Gerçek kullanım gözlendikçe görev dağılımı, araçlar ve eşikler yeniden değerlendirilir.

Bizim için ilerleme, sistemin daha çok işi insansız yapması değildir. Doğru işi daha tutarlı yapması, yanlış durumda durması ve sorumlu kişinin ne olduğunu anlayabilmesidir. Otomasyonun değeri ancak bu üç koşul birlikte korunuyorsa sürdürülebilir olur.