Yapay zekâ ajanı nedir? Hedef, araçlar, döngü ve bellek

"Yapay zekâ ajanı" ifadesi bugün arama düğmesi eklenmiş bir sohbet penceresinden tamamen otomatik bir arka ofis sürecine kadar her şey için kullanılıyor. Bu belirsizlik, bir ajana neyi emanet edebileceğinize karar vermeyi zorlaştırıyor. Bu yazıda işe yarar bir tanım bulacaksınız: bir ajanın hangi parçalardan oluştuğu, sohbet botundan ve önceden yazılmış bir iş akışından nasıl ayrıldığı ve hangi özellikler varsa ona gerçek bir iş devretmenin makul olduğu.

İşe yarar bir tanım

Yapay zekâ ajanı, bir hedefe ulaşmak için bir sonraki adımına kendisi karar veren, araçları kullanarak harekete geçen, sonucu gözlemleyen ve hedef gerçekleşene ya da bir sınıra takılana kadar bu döngüyü sürdüren yazılımdır. Bu tanımı dört parça taşır.

1. Hedef. Bir konu değil, bittiği anlaşılabilen bir sonuç. "Tedarikçilerimizi araştır" bir konudur. "Önümüzdeki çeyrekte kendiliğinden yenilenen tüm tedarikçi sözleşmelerini, bunu söyleyen maddeyle birlikte listele" ise bir hedeftir; çünkü ne zaman bittiğini görebilirsiniz.
2. Araçlar. Ajanın çağırabildiği işlevler: bir doküman setinde arama, dosya okuma, veritabanı sorgusu, e-posta taslağı hazırlama, tarayıcıda sayfa açma. Ajan dünyaya araçlar üzerinden dokunur; bu yüzden hem faydası hem de riski buradadır.
3. Döngü. Planla, uygula, gözlemle, düzelt. Ajan bir araç seçer, dönen sonucu okur ve sıradaki adıma karar verir. Sohbet botu bir kez yanıt verir; ajan devam eder.
4. Bellek. Ajanın adımlar arasında taşıdığı bilgi (bu çalıştırmanın çalışma bağlamı) ve isteğe bağlı olarak çalıştırmalar arasında sakladığı bilgi (tercihler, bir projeye dair olgular, önceki sonuçlar).

Dördünden birini çıkarırsanız elinizde başka bir şey kalır: hedef yoksa sohbet, araç yoksa metin üreticisi, döngü yoksa tek seferlik bir fonksiyon çağrısı, bellek yoksa her adımda aynı şeyi yeniden keşfeden bir ajan.

Döngü pratikte nasıl işler

Bir ajanın ilginç yanlarının çoğu döngünün içinde yaşanır. Tek bir çalıştırmanın kaydı genellikle şuna benzer:

hedef     önümüzdeki çeyrekte kendiliğinden yenilenen tedarikçi sözleşmeleri
plan      /sozlesmeler klasörünü listele, her dosyayı oku, yenileme koşullarını çıkar
araç      list_files("/sozlesmeler")         -> 14 dosya
araç      read_file("tedarikci-a.pdf")       -> yenileme maddesi 7. sayfada
gözlem    kendiliğinden yenileniyor, 60 gün önceden bildirim şartı
araç      read_file("tedarikci-b.pdf")       -> yenileme maddesi bulunamadı
gözlem    "bilinmiyor" olarak kaydet, bakılan sayfaları not et
...
kontrol   her dosya için bir satır ya da açık bir "bilinmiyor" var
dur       kabul ölçütleri karşılandı

Bu kayıtta üç şey, arkadaki modelden daha önemlidir. Birincisi, her adımda hangi aracın çağrılacağına ajan karar verdi; sırayı kimse önceden yazmadı. İkincisi, bulamadığı maddeyi tahminle doldurmak yerine "bilinmiyor" olarak kaydetti. Üçüncüsü, gerekçesini söyleyerek durdu.

İyi kurulmuş bir döngünün birden fazla durma yolu vardır ve her biri görünür olmalıdır: hedef karşılanmıştır; ajan takılmıştır ve bunu söyler; bir sınıra ulaşılmıştır (süre, araç çağrısı sayısı, harcama) ya da sıradaki adım bir insanın kararını gerektirir. Yalnızca "bitirerek" durabilen bir ajan, er geç bir şey uydurarak bitirir.

Ajan, sohbet botu ve iş akışı

Üçü kolayca karıştırılır, çünkü aynı modeli, hatta aynı arayüzü paylaşabilirler. Asıl fark, bir sonraki adıma kimin karar verdiğindedir.

Gerçek sistemlerde bu üçü iç içe geçer. Yaygın ve mantıklı bir tasarım, içinde ajan adımları bulunan sabit bir iş akışıdır: sıra önceden yazılmıştır ama "şu raporları oku ve risk faktörlerini çıkar" adımı bir ajana bırakılır. Hangi yaklaşımın nereye uyduğunu ajan destekli iş akışları rehberinde bulabilirsiniz. Kaba bir kural: adımları önceden yazabiliyorsanız ve nadiren değişiyorsa senaryoya dökün. Sıradaki adımın gerçekten bir öncekinin bulduğuna bağlı olduğu yerde ajan kullanın.

Model, ajanın kendisi değildir

Bir dil modeli tek başına metin tahmin eder. Ancak çevresindeki bir yazılım hedefi verdiğinde, araçları sunduğunda, döngüyü çalıştırdığında, belleği tuttuğunda ve sınırları uyguladığında ajana dönüşür. Bu çevre yazılımına genellikle ajan çatısı (harness) denir ve pratikte ajanın neyi yapıp neyi yapamayacağının büyük kısmını o belirler.

Ajan değerlendiren herkes için bunun somut bir sonucu var: aynı model bir çatıda güvenli, başka bir çatıda pervasız davranabilir. "Dosya silebilir mi?", "Ne yaptığını kim görüyor?", "Onu ne durdurur?" gibi soruların yanıtını model değil, çatı verir. Araç erişimi giderek MCP gibi protokollerle standartlaşıyor ve bir aracı bağlamak kolaylaşıyor. Ancak hiçbir protokol, belirli bir görevin o aracı kullanmasına izin verilip verilmeyeceğine karar vermez.

Bellek: faydalı ama yanlış kurulması kolay

Tek bir çalıştırma içinde bellek, ajanın üzerinde çalıştığı bağlamdan ibarettir: hedef, okudukları, denedikleri. Çalıştırmalar arasında ise bellek bir olgu ve tercih deposuna dönüşür; sorunlar da burada başlar. Eskimiş bir bilgi güncelmiş gibi yeniden kullanılır. Sohbette geçen tek seferlik bir cümle ("bu segmente indirim yapmıyoruz") kimsenin onaylamadığı kalıcı bir kurala dönüşür. Bir projede öğrenilen bir şey, hiç ait olmadığı başka bir projede karşınıza çıkar.

Uzun süreli belleği dürüst tutan üç alışkanlık var. Her kaydı olabildiğince dar bir kapsamla sınırlayın: tek oturum, tek kullanıcı, tek proje ya da tüm şirket. Yeni bir kaydı kaynağı ve gerekçesi olan bir öneri olarak ele alın; geçerli sayılmadan önce bir insan onaylasın. Bir olgu değiştiğinde eskisinin üzerine sessizce yazmak yerine yeni bir sürüm oluşturun. Bellek canlı bir veri akışı da değildir; yanıt güncel bilgiye dayanıyorsa ajan kaynağa geri dönmelidir. Onay tarafını onaylı bellek yazısında daha ayrıntılı ele alıyoruz.

Bir ajana iş devretmeyi güvenli kılan nedir

Değerlendirmenin kolay kısmı yetenektir. Zor soru şu: ajana bir iş verip başından kalktığınızda, sonradan tam olarak ne olduğunu anlayabilecek misiniz? Pratikte bu, altı özelliğe dayanır.

1. Kabul ölçütleri yazılmış bir hedef. "Bitti"nin ne demek olduğu, ajan başlamadan önce ve bir gözden geçirenin kontrol edebileceği biçimde tanımlanır. Ayrıntısı kabul ölçütlerini önce yazın yazısında.
2. Sınırlı bir kapsam. İşin hangi dokümanlara, sistemlere ve araçlara dokunabileceği bellidir. Salt okumayla başlanır, yetki bilinçli olarak genişletilir.
3. Kesin limitler. Süre, araç çağrısı sayısı ve harcama; her biri öneri olarak değil, zorunlu sınır olarak uygulanır.
4. Sonuç doğuran eylemlerden önce duraklama. Dışarıya bir şey göndermek, silmek, veri dışa aktarmak, tekrarlanan bir iş zamanlamak, canlı bir oturumda işlem yapmak, kendi talimatlarını değiştirmek ve işi başka bir ajana devretmek bir insanın kararını beklemelidir.
5. İddialara bağlı kanıt. Her bulgu geldiği pasaja ya da kayda işaret eder; eksik bilgi eksik olarak işaretli kalır.
6. Görünür bir iz ve bir durdurma kontrolü. Her istek, araç çağrısı, karar ve sonuç ekibin okuyabileceği bir yere kaydedilir; tek bir kontrol işi durdurur.

"Özenli bir iş çıkar" demek yerine kontrol edilebilir bir kabul ölçütü şöyle görünür:

Klasördeki her sözleşme çıktı tablosunda tam olarak bir kez yer alır. Her yenileme tarihi, alındığı sayfa ve maddeyle birlikte verilir. Yenileme maddesi olmayan sözleşmeler, taranan sayfalarla birlikte "madde bulunamadı" olarak listelenir. Hiçbir sözleşme bellekten ya da dosya adından yola çıkılarak özetlenmez.

GoCux bu özellikleri nasıl uygular

GoCux, bu listenin etrafında kurulmuş bir şirket çalışma alanıdır. Her iş bir iş emriyle başlar: hedef, işin dokunabileceği kapsam ve "bitti"yi tanımlayan kabul ölçütleri. İşin ihtiyaç duyduğu becerileri GoCux seçer; iş emri dört görünür durumdan geçer: sırada, çalışıyor, karar bekliyor ve tamamlandı. Üçüncü durum onay kapısıdır. İş, dışarıya bir şey göndermek ya da veri dışa aktarmak gibi yedi sonuç doğuran eylem sınıfından birine geldiğinde durur ve ekipten birinin kararını bekler; karar verilmeden sonraki hiçbir adım başlamaz. Belirlediğiniz sınırlar içindeki olağan adımlar ise kimseyi rahatsız etmeden ilerler.

Her adım gerçekleştiği anda iş emrinin kaydına düşer; sonuç, kaynaklar ve tüm kararlar aynı yerde durur. İş, günlük bir tavanın altında görünür kredilerle yürür ve tavana gelindiğinde gerekçesini söyleyerek durur; tek bir durdurma kontrolü kurulumun tamamında yeni işi keser. Bellek de aynı mantığa uyar: önerilen bir kayıt, biri kabul edene kadar onaylı kayıtlardan ayrı tutulur. İş emrinin kendisini Görev sayfasında, onay kapısını ve denetim izini yönetişim sayfasında görebilirsiniz; yedi eylem sınıfı ise ayrı bir yazıda tek tek anlatılıyor.

Bir ajana gerçek iş vermeden önce

Hangi ürünü kullanırsanız kullanın, aşağıdaki soruları kısa bir uçuş öncesi kontrolü gibi kullanabilirsiniz.

• Hedefi, bitiş noktası açık tek bir cümleyle söyleyebiliyor musunuz?
• Bir meslektaşınızın size sormadan kontrol edebileceği kabul ölçütleri yazdınız mı?
• Araç listesi işin izin verdiği kadar kısa ve mümkün olan her yerde salt okunur mu?
• Süre, araç çağrısı ve harcama limitleri tanımlı mı; biri aşıldığında ne olacağını biliyor musunuz?
• Hangi eylemler bir insan için duracak ve bunları kimler onaylayabilir?
• Her bulgu kaynağını taşıyacak mı, boşluklar boşluk olarak raporlanacak mı?
• Bir çalıştırmanın tüm izini, reddedilen adımlar dâhil, sonradan okuyabiliyor musunuz?
• Durdurma kontrolünün nerede olduğunu ve kullanıldıktan sonra işi kimin yeniden başlatabileceğini biliyor musunuz?

Yanıtların birkaçı "emin değilim" ise ajan taslak ve araştırma işlerinde yine işe yarayabilir; ama şirketin dışına çıkan işler için henüz hazır değildir.