Tool eklemeden önce context bütçesi
Her tool tanımı her turda token yiyor. Ajan yavaşlamalarının çoğu model sorunu değil, context sorunu.
Tekrarlanabilir kararlar. Problem, bağlam, yaklaşım, tradeoff.
Her tool tanımı her turda token yiyor. Ajan yavaşlamalarının çoğu model sorunu değil, context sorunu.
Idempotent olmayan bir endpoint'e retry eklemek, görünür bir hatayı görünmez bir hataya çevirir.
Bir yazım iki yere düşecekse tek yere yaz, oradan bir okuyucu dağıtsın.
Darboğaz okuma yüküyse en ucuz doğru cevap neredeyse hiçbir zaman sharding değildir.