Model Context Protocol (MCP) ile Kendi Yerel AI Asistanınızı İnşa Edin

Hadi itiraf edelim: Bulut tabanlı yapay zeka modelleri iyi iş çıkarıyor, ama şirketinizin mali tablolarını, gizli kaynak kodlarını ya da kişisel notlarınızı OpenAI veya Anthropic sunucularına göndermek her zaman iyi bir fikir değil. Burada devreye MCP (Model Context Protocol), local LLM çözümleri ve güçlü bir bare metal donanım giriyor. Bugün verinizi dışarı sızdırmadan çalışan bir yerel asistanı nasıl kuracağımızı test edip sonuçları paylaşıyoruz.

Model Context Protocol (MCP) nedir?

Her model için ayrı bir entegrasyon yazmaktan yorulmuştuk. Context management dediğimiz iş, daha önce karmaşık RAG (Retrieval-Augmented Generation) boru hatları ve özel script’lerle çözülmeye çalışılıyordu. Anthropic’in açık standart olarak duyurduğu MCP, yapay zekanın “USB-C portu” gibi çalışıyor.

MCP, model ile yerel dosyalarınız, veritabanlarınız ve API’leriniz arasında standart bir köprü kuruyor. Siz bir MCP sunucusu yazıyorsunuz (veya hazır olanı kullanıyorsunuz), yerel modeliniz de bu standart protokol üzerinden gidip dosyalarınızı güvenle okuyor.

Neden bulut değil de bare metal?

VPS veya sanallaştırılmış sunucular genelde GPU kaynaklarını paylaşır veya kısıtlar. Bare metal (fiziksel donanım) tercih ettiğinizde GPU VRAM’inin ve işlemcinin tamamı sizin olur. Yerel bir LLM çalıştırırken milisaniyeler ve token hızları önemlidir; sanallaştırma katmanının getirdiği gecikmeyi kimse istemez.

Adım adım kurulum: Kendi yerel sisteminizi kurun

Lafı uzatmadan test ortamımıza geçelim. Senaryomuzda Ubuntu çalışan bir bare metal sunucumuz, yerel model motorumuz ve yerel SQLite veritabanımıza bağlanan bir MCP sunucumuz var.

1. Yerel LLM motorunu başlatın (Ollama)

Hızlı ve sorunsuz bir başlangıç için Ollama’yı kullanıyoruz. Terminali açıp şu komutla motoru kuralım ve Llama 3.1 modelini indirelim:

curl -fsSL https://ollama.com/install.sh | sh
ollama run llama3.1:8b

2. Basit bir dosya sistemi MCP sunucusu kurun

Modelimizin yalnızca bizim izin verdiğimiz klasördeki dosyaları okumasını istiyoruz. Node.js tabanlı resmi MCP dosya sistemi sunucusunu kuralım:

npx -y @modelcontextprotocol/server-filesystem /home/kerten/gizli-veriler

3. İstemci ile MCP sunucusunu bağlayın

MCP istemcisi olarak Claude Desktop veya açık kaynaklı LibreChat kullanabilirsiniz. Yapılandırma dosyanıza (mcp_config.json) sunucunuzu ekleyin:

{
  "mcpServers": {
    "yerel-dosyalar": {
      "command": "npx",
      "args": ["-y", "@modelcontextprotocol/server-filesystem", "/home/kerten/gizli-veriler"]
    }
  }
}

Gerçek kullanım senaryosu: Test ettik, gördük

Sistemi kurduktan sonra gizli-veriler klasörüne 2024 yılına ait hayali sunucu loglarını ve fatura dökümlerini içeren bir CSV dosyası attık. Ardından modele şu soruyu sorduk:

“Geçtiğimiz ay en çok harcama yapılan ilk 3 sunucu kalemini bul ve maliyetlerini topla.”

Model, MCP arayüzü sayesinde CSV dosyasını okudu, verileri parse etti ve 3 saniye içinde doğru yanıtı verdi. Hiçbir veri internete çıkmadı, işlem sıfır API maliyetiyle bare metal üzerinde tamamlandı.

Artılar ve eksiler

Her sistem gibi bu yapının da güçlü yanları ve bazı zorlukları var:

Avantajlar (Artılar)	Dezavantajlar (Eksiler)
%100 Veri Gizliliği (Zero Data Leakage)	Yüksek ilk donanım maliyeti (Bare metal / GPU)
Sıfır Token / API Ücreti	Model boyutu küçüldükçe akıl yürütme kalitesi düşebilir
Standart MCP protokolü sayesinde kolay araç entegrasyonu	Kurulum ve context management optimizasyonu teknik bilgi gerektirir
İnternet bağlantısı kesilse bile çalışabilirlik	Büyük dosyalarda context window dolma riski

Maliyetler ve ücretsiz alternatifler

Böyle bir sistemi ayağa kaldırmanın maliyeti tamamen seçtiğiniz donanıma bağlıdır:

Bare metal sunucu kiralama: NVIDIA RTX 4090 veya A4000 GPU barındıran bir sunucu aylık yaklaşık 70$ ile 150$ arasındadır.
Kendi donanımınız: Evinizde tercihen 16 GB VRAM’li bir ekran kartı (RTX 3060 12GB bile başlangıç için iş görür) varsa yazılım katmanı tamamen ücretsizdir.
Ücretsiz alternatifler: Ollama, vLLM, LM Studio ve açık kaynaklı MCP SDK’ları ücretsizdir. Bulut API’larına (OpenAI, Claude API) her ay yüzlerce dolar ödemek yerine kendi donanımınızı amorti edebilirsiniz.

Yerel AI asistanı kurmaya değer mi?

Gizlilik takıntınız varsa, regülasyonlara tabi bir sektörde çalışıyorsanız ya da kendi sistemleriniz üzerinde tam denetim istiyorsanız kesinlikle evet.

MCP sayesinde yerel modeller boş sohbet eden chatbot’lar olmaktan çıktı; bilgisayarınızdaki gerçek verilerle konuşabilen yetenekli birer asistana dönüştü. Bir terminal açın, Ollama’yı kurun ve kendi verinizi yönetmenin tadını çıkarın.