kertenkerem_
· Otonom Sistemler ve Ajanlar (Agentic AI) · 3 dk okuma

Multi-agent orkestrasyonu: CrewAI ve AutoGen ile kurumsal iş akışları

Modern yazılım mimarilerinde tek bir Large Language Model (LLM) örneği üzerinden karmaşık problemleri çözmeye çalışmak, genellikle yüksek hata payı ve bağlam kaybıyla sonuçlanır. Bunun yerine, belirli uzmanlık alanlarına sahip otonom birimlerin bir araya geldiği Agentic AI yapıları, kurumsal düzeyde ölçeklenebilir çözümler sunar. CrewAI ve AutoGen gibi kütüphaneler, bu ajanların birbirleriyle haberleşmesini ve bir "harness" yapısı üzerinden görev paylaşımı yapmasını sağlar.

Otonom ajanların mimari tasarımı

Bir ajanın temel bileşenleri role, goal ve backstory tanımlarından oluşur. Kurumsal bir senaryoda, bir ajanın sadece bir kod blok üreticisi olması yeterli değildir. Sistemin, ajanın yetkilerini kısıtlayan toolset ve geçmiş bağlamı yöneten bir hafıza birimine ihtiyacı vardır. CrewAI, bu süreci bir "crew" mantığıyla yöneterek ajanların birbiriyle iş birliği yapmasına olanak tanır.

from crewai import Agent, Task, Crew

# Ajan tanımı
researcher = Agent(
    role='Senior Research Analyst',
    goal='Teknoloji trendlerini analiz et',
    backstory='Sektörel verileri sentezleme konusunda uzmansın.',
    tools=[search_tool],
    allow_delegation=False
)

# Görev tanımı
task = Task(
    description='2024 yılı agentic sistemlerin üretimdeki durumu.',
    agent=researcher
)

AutoGen ise "conversational pattern" üzerine odaklanır. Burada ajanlar, birbiriyle eşzamansız olarak mesajlaşır. Bir "User Proxy" ajanı, insan ile sistem arasındaki arayüzü oluştururken, diğer ajanlar kod yürüten veya analiz eden birimler olarak işlev görür. İki kütüphane arasındaki temel ayrım budur: CrewAI süreç yönetimini ve hiyerarşiyi öncelerken, AutoGen ajanlar arası diyalog döngüsünü merkeze alır.

Agent harness ve iletişim protokolleri

Üretim ortamında bir ajanı kendi başına bırakmak, beklenmedik "infinite loop" durumlarına yol açar. Bu riski yönetmek için "agent harness" yapıları kritik öneme sahiptir. Bu yapılar, ajanlar arası mesajlaşmayı denetleyen, yetkilendirmeyi kontrol eden ve hata durumunda "human-in-the-loop" mekanizmasını tetikleyen bir ara katmandır.

İletişim protokollerini tasarlarken, ajanların birbirlerine gönderdikleri verinin yapısını şema ile sabitlemek gerekir. JSON formatında standart bir yapı kullanmak, ajanların karşılıklı anlaşılabilirliğini artırır. Eğer bir ajan, veriyi hatalı bir formatta üretirse, "validator" ajanı devreye girerek mesajı reddedebilir veya tekrar üretilmesini isteyebilir.

Üretim ortamında test otomasyonu

Otonom sistemleri test etmek geleneksel birim testlerinden farklıdır. Ajanların deterministik olmayan doğası nedeniyle, "evals" veya "evaluation framework" yapıları kurmak gerekir. Bir ajanın performansını ölçmek için, sistemin verdiği çıktıyı önceden belirlenmiş bir "gold standard" ile karşılaştıran scriptler yazılmalıdır.

# Ajan çıktısını loglamak ve doğrulama
pytest tests/test_agent_orchestration.py --log-level=DEBUG

Test sürecinde dikkat edilmesi gereken bir diğer nokta ise maliyet ve gecikme (latency) yönetimidir. Her adımda tüm LLM çağrılarını yapmak yerine, önbelleğe alma (caching) mekanizmalarını entegre etmek gerekir. Redis gibi bir "key-value store" kullanarak daha önce çözülmüş benzer görevleri saklamak, sistemin tepki süresini ciddi oranda düşürür.

Hata ayıklama ve gözlemlenebilirlik

Ajanlar arası iletişimde hata ayıklamak, geleneksel stack trace incelemekten daha karmaşıktır. Bir ajanın neden yanlış bir aksiyon aldığı, kendi içsel "reasoning" sürecine bağlıdır. Bu nedenle, ajanların tüm düşünce zincirini (chain of thought) izlenebilir kılmak gerekir. LangSmith gibi araçlar veya özel loglama sistemleri, ajanın hangi kararı, hangi "tool" çıktısına dayanarak aldığını görmenizi sağlar.

Sistem mimarları, ajanların oluşturduğu "trace"leri merkezi bir log sunucusunda toplamalıdır. Özellikle bir ajan diğerine "delegation" gönderdiğinde, bu işlemin durumu (state) bir veritabanında tutulmalıdır. Eğer süreç yarım kalırsa, "state recovery" mekanizması ile görev kaldığı yerden devam ettirilebilir.

Üretim ortamına geçişte, ajanlara "guardrails" uygulamak kaçınılmazdır. Bu, ajanın sistemin kritik dosyalarına erişimini engelleyen veya belirli bir kelimeyi kullanmasını yasaklayan katmanlardır. NeMo Guardrails gibi çözümler, ajanların sadece izin verilen sınırlar içinde iletişim kurmasını sağlar. Otonom sistemlerin güvenliği, sadece modelin kapasitesine değil, bu tür sıkı mimari kısıtlamalara dayanır.