Chatbot, otomasyon ve ajan
Yapay zekâ ders kitaplarının klasik tanımıyla ajan, çevresini algılayan ve o çevre üzerinde eylem yapan her şeydir (Russell ve Norvig). Bugünkü ürün dilinde ise “yapay zekâ ajanı”, büyük dil modelinin bir hedef için araç kullanarak kendi adımlarını seçtiği sistemler için kullanılıyor.
| Chatbot | İş akışı otomasyonu | Yapay zekâ ajanı | |
|---|---|---|---|
| Yolu kim belirler? | Kullanıcı soru sorar, sistem cevaplar | Tasarımcı adımları önceden çizer | Ajan adımları duruma göre kendisi seçer |
| Araç kullanır mı? | Genellikle hayır | Evet, sabit sırayla | Evet, gerektiğinde ve kendi seçtiği sırayla |
| Hata nerede ortaya çıkar? | Yanlış cevapta | Çizilmemiş bir durumda akış durur | Yanlış eylemde; sonuç gerçek dünyada oluşur |
| En uygun olduğu iş | Bilgi bulma, açıklama | Tekrarlayan, adımları belli işler | Adımları önceden bilinemeyen, çok adımlı işler |
Bir ajanın beş parçası
- Model: Hedefi anlayan, adımları planlayan ve sonuçları yorumlayan akıl yürütme katmanı.
- Araçlar: Ajanın eylem yapabildiği her şey: arama, veri tabanı sorgusu, takvim, e-posta, şirket içi sistemler.
- Bağlam ve bellek: Ajanın işi yaparken bildikleri: görev geçmişi, kullanıcının tercihleri, şirketin kuralları.
- Döngü: Planla, uygula, sonucu gözle, bir sonraki adıma karar ver. Ajanı otomasyondan ayıran budur.
- Sınırlar: Yetkiler, bütçe, adım sınırı ve insan onayı. Ürün yöneticisinin en çok söz sahibi olduğu parça budur.
Ajan ne zaman doğru çözüm değildir?
Ajan, her yapay zekâ özelliğinin varsayılan biçimi değildir. Daha pahalıdır (her adım bir model çağrısıdır), daha yavaştır ve daha az öngörülebilirdir. Anthropic’in ajan geliştiricileri için yayımladığı rehber de aynı ilkeyi önerir: en basit çözümle başlayın, karmaşıklığı yalnızca gerektiğinde artırın (Anthropic, 2024).
Şu sorulara “evet” diyorsanız ajan yerine sabit bir iş akışı muhtemelen yeterlidir:
- Adımlar her seferinde aynı mı?
- Hangi durumda ne yapılacağı önceden yazılabiliyor mu?
- Bir hatanın maliyeti, esneklikten kazanılan değerden yüksek mi?
Eval: ajanı nasıl ölçersiniz?
Bir ajanın demoda çalışması, gerçek kullanımda çalışacağını göstermez. Eval seti, gerçek kullanım senaryolarından (zor ve uç durumlar dahil) oluşan ve her sürümde yeniden koşulan bir testtir. Ajanlar için beş boyut birlikte ölçülür:
| Boyut | Sorduğu soru |
|---|---|
| Görev başarısı | Ajan hedefe ulaştı mı? |
| Adım doğruluğu | Doğru aracı, doğru sırayla, doğru parametrelerle kullandı mı? |
| Maliyet ve süre | Görev kaç adımda, ne kadar sürede, hangi maliyetle tamamlandı? |
| Güvenlik | Yetkisini aştı mı, reddetmesi gereken bir isteği yaptı mı? |
| İnsana devretme | Emin olmadığında durup insana sordu mu? |
Eval setini ürün yayına çıkmadan önce yazın ve “yeterince iyi”nin eşiğini önceden belirleyin. Kavramların ve yeni metriklerin ayrıntısı AI-native ürün yönetimi bölümünde.
Guardrail: sınırları nereye çizersiniz?
- Asgari yetki: Ajan yalnızca işi için gereken araçlara ve verilere erişsin.
- Geri alınamaz eylemlerde insan onayı: Para hareketi, veri silme ve müşteriyle dış iletişim onaysız yapılmasın.
- Bütçe ve adım sınırı: Bir görev için harcanabilecek model çağrısı, süre ve maliyet sınırlı olsun.
- Kapsam dışı istekleri reddetme: Ajan, tanımlı görevinin dışındaki istekleri kibarca reddetsin.
- Kayıt ve geri alma: Her eylemin kaydı tutulsun; mümkün olan her eylemin bir geri alma yolu olsun.
Ürün yöneticisinin işi: özerklik merdiveni
Ajan tasarımındaki en önemli karar teknik değil, ürün kararıdır: her eylem için ajan ne kadar özerk olacak?
- Öneren: Ajan ne yapılması gerektiğini önerir; insan yapar.
- Taslak hazırlayan: Ajan işi hazırlar; insan kontrol edip gönderir.
- Onayla uygulayan: Ajan işi yapmadan önce onay ister.
- Kendisi uygulayan: Ajan işi yapar; insan kayıtları izler ve gerektiğinde geri alır.
Doğru basamak, hatanın maliyetine göre seçilir. Düşük riskli ve geri alınabilir işler üst basamaklara çıkabilir; yüksek riskli işler alt basamaklarda kalmalıdır. Bu kararı PRD’nin yapay zekâ bileşeni bölümüne yazın (bkz. PRD nedir?) ve AI Ürün Hazırlık Kontrolü ile yayın öncesi gözden geçirin.
Kaynaklar
- Russell, S. ve Norvig, P. Artificial Intelligence: A Modern Approach. Pearson.
- Anthropic (2024). Building effective agents.