Model Context Protocol (MCP) ile Kendi Yerel AI Asistanınızı İnşa Edin
Hadi itiraf edelim: Bulut tabanlı yapay zeka modelleri harika iş çıkarıyor ama şirketinizin mali tablolarını, gizli kaynak kodlarını ya da kişisel notlarınızı OpenAI veya Anthropic sunucularına göndermek her zaman iyi bir fikir değil. Tam bu noktada devreye MCP (Model Context Protocol), local LLM çözümleri ve güçlü bir bare metal donanım giriyor. Bugün, verinizi dışarı sızdırmadan çalışan akıllı bir yerel asistanı nasıl kuracağımızı test edip sonuçları masaya yatırıyoruz.
Nedir Bu Model Context Protocol (MCP)?
Teknoloji dünyasında her model için ayrı bir entegrasyon yazmaktan yorulmuştuk. Context management dediğimiz olay, daha önce karmaşık RAG (Retrieval-Augmented Generation) boru hatları ve özel script’lerle çözülmeye çalışılıyordu. Anthropic tarafından açık standart olarak duyurulan MCP, yapay zekanın “USB-C portu” gibi çalışıyor.
Kısacası MCP; model ile yerel dosyalarınız, veritabanlarınız ve API’leriniz arasında standart bir köprü kuruyor. Siz bir MCP sunucusu yazıyorsunuz (veya hazır olanı kullanıyorsunuz), yerel modeliniz de bu standart protokol üzerinden gidip dosyalarınızı güvenle okuyor.
[Görsel: MCP mimarisini gösteren şema: LLM İstemcisi, MCP Protokolü ve Yerel Veri Kaynakları arasındaki veri akışı]
Neden Bulut Değil de Bare Metal?
VPS veya sanallaştırılmış sunucular genelde GPU kaynaklarını paylaşır veya kısıtlar. Bare metal (fiziksel donanım) tercih ettiğinizde GPU VRAM’inin ve işlemcinin tamamı sizin emrinize amade olur. Yerel bir LLM çalıştırırken milisaniyeler ve token hızları önemlidir; sanallaştırma katmanının getirdiği gecikmeyi kimse istemez.
Adım Adım Kurulum: Kendi Yerel Sisteminizi Kurun
Lafı uzatmadan test ortamımıza geçelim. Senaryomuzda Ubuntu çalışan bir bare metal sunucumuz, yerel model motorumuz ve yerel SQLite veritabanımıza bağlanan bir MCP sunucumuz var.
1. Yerel LLM Motorunu Başlatın (Ollama)
Hızlı ve sorunsuz bir başlangıç için Ollama’yı kullanıyoruz. Terminali açıp şu komutla motoru kuralım ve Llama 3.1 modelini indirelim:
curl -fsSL https://ollama.com/install.sh | sh
ollama run llama3.1:8b
2. Basit Bir Dosya Sistemi MCP Sunucusu Kurun
Modelimizin sadece bizim izin verdiğimiz klasördeki dosyaları okumasını istiyoruz. Node.js tabanlı resmi MCP dosya sistemi sunucusunu kuralım:
npx -y @modelcontextprotocol/server-filesystem /home/kerten/gizli-veriler
[Görsel: Terminal ekranında MCP sunucusunun ayağa kalktığı ve JSON-RPC isteklerini dinlediği anın çıktısı]
3. İstemci ile MCP Sunucusunu Bağlayın
MCP istemcisi olarak Claude Desktop veya açık kaynaklı LibreChat kullanabilirsiniz. Yapılandırma dosyanıza (mcp_config.json) sunucunuzu ekleyin:
{
"mcpServers": {
"yerel-dosyalar": {
"command": "npx",
"args": ["-y", "@modelcontextprotocol/server-filesystem", "/home/kerten/gizli-veriler"]
}
}
}
Gerçek Kullanım Senaryosu: Test Ettik, Gördük
Sistemi kurduktan sonra gizli-veriler klasörüne 2024 yılına ait hayali sunucu loglarını ve fatura dökümlerini içeren bir CSV dosyası attık. Ardından modele şu soruyu sorduk:
“Geçtiğimiz ay en çok harcama yapılan ilk 3 sunucu kalemini bul ve maliyetlerini topla.”
Sonuç: Model, MCP arayüzü sayesinde CSV dosyasını okudu, verileri parse etti ve 3 saniye içinde doğru yanıtı verdi. Hiçbir veri internete çıkmadı, sıfır API maliyetiyle işlem bare metal üzerinde tamamlandı.
[Görsel: Yerel arayüzde modelin MCP aracı üzerinden dosyayı başarıyla sorgulayıp yanıtladığı sohbet ekranı]
Artılar ve Eksiler
Her sistem gibi bu yapının da harika yanları ve bazı zorlukları var:
| Avantajlar (Artılar) | Dezavantajlar (Eksiler) |
|---|---|
| %100 Veri Gizliliği (Zero Data Leakage) | Yüksek ilk donanım maliyeti (Bare metal / GPU) |
| Sıfır Token / API Ücreti | Model boyutu küçüldükçe akıl yürütme kalitesi düşebilir |
| Standart MCP protokolü sayesinde kolay araç entegrasyonu | Kurulum ve context management optimizasyonu teknik bilgi gerektirir |
| İnternet bağlantısı kesilse bile çalışabilirlik | Büyük dosyalarda context window dolma riski |
Maliyetler ve Ücretsiz Alternatifler
Böyle bir sistemi ayağa kaldırmanın maliyeti tamamen seçtiğiniz donanıma bağlıdır:
- Bare Metal Sunucu Kiralama: NVIDIA RTX 4090 veya A4000 GPU barındıran bir sunucu aylık yaklaşık 70$ – 150$ civarındadır.
- Kendi Donanımınız: Evinizde en az 16 GB VRAM’e sahip bir ekran kartı (RTX 3060 12GB bile başlangıç için iş görür) varsa yazılım katmanı tamamen ücretsizdir.
- Ücretsiz Alternatifler: Ollama, vLLM, LM Studio ve açık kaynaklı MCP SDK’ları tamamen ücretsizdir. Bulut API’larına (OpenAI, Claude API) her ay yüzlerce dolar ödemek yerine kendi donanımınızı amorti edebilirsiniz.
Sonuç: Yerel AI Asistanı Kurmaya Değer mi?
Eğer gizlilik takıntınız varsa, regülasyonlara tabi bir sektörde çalışıyorsanız veya sadece kendi sistemleriniz üzerinde tam denetim istiyorsanız: Kesinlikle evet.
MCP sayesinde yerel modeller artık sadece boş sohbet eden chatbot’lar olmaktan çıktı; bilgisayarınızdaki gerçek verilerle konuşabilen yetenekli birer asistan haline geldi. Bir terminal açın, Ollama’yı kurun ve kendi verinizi yönetmenin tadını çıkarın!