Giriş: Chatbot Mimarisi ve Dijital Strateji

Modern müşteri destek altyapıları kural tabanlı sistemlerden RAG (Retrieval-Augmented Generation) tabanlı LLM mimarilerine geçti. Şirketler için 7/24 aktif destek sunmak operasyonel maliyeti düşürür, dönüşüm oranını artırır. Bu rehber, kurumsal seviyede bir AI destek botu kurulumunu adım adım açıklar.

Adım 1: Bilgi Tabanı ve Vektör Veritabanı Kurulumu

Model halüsinasyonunu engellemek için kurumsal veriler vektör veritabanına aktarılır.

Veri Hazırlığı: SSS, kullanım kılavuzları ve geçmiş destek biletleri temizlenir. Markdown veya düz metin formatına dönüştürülür.
Chunking: Metinler 500-1000 tokenlık parçalara bölünür. %10 overlap (örtüşme) eklenir.
Embedding Üretimi: text-embedding-3-small veya açık kaynak alternatiflerle vektörler üretilir.
Vektör DB: Üretilen embeddingler PostgreSQL (pgvector) veya Qdrant üzerine kaydedilir.

Adım 2: LLM Seçimi ve Prompt Mühendisliği

Doğru model seçimi maliyet ve gecikme (latency) dengesini belirler.

Model: Hız ve düşük maliyet için hafif modeller (GPT-4o-mini, Claude 3.5 Haiku) tercih edilir.
Sistem Promptu: Botun rolü, tonu ve sınırları net çizilir:

Sen bir destek asistanısın. Sadece sağlanan bağlam (context) dahilinde yanıt ver. Bilmediğin konularda spekülasyon yapma; kullanıcıyı insan temsilciye yönlendir.

Adım 3: RAG ve Backend API Entegrasyonu

Kullanıcı sorgusu vektör aramadan geçirilir, bulunan bağlam sistem promptuna enjekte edilir.

Kullanıcı mesajı gelir.
Sorgu embed edilir, veritabanında Cosine Similarity ile en yakın 3-5 döküman çekilir.
Prompt oluşturulur, LLM API çağrısı tetiklenir.
Streaming yanıt kullanıcı arayüzüne basılır.

Adım 4: İnsan Operatöre Devir (Human-in-the-Loop) Mekanizması

Bot çözemediği sorunlarda oturumu canlı desteğe aktarır.

Confidence Score: Model yanıtındaki kesinlik skoru düşükse veya kullanıcı 'yetkili' talep ederse tetiklenir.
Webhook: Mevcut CRM (Zendesk, LiveChat, Freshchat) sistemine konuşma geçmişi JSON olarak iletilir.

Yapay Zeka Destek Sistemlerinde Güncel Trendler

Yeni nesil dijital strateji yaklaşımlarında öne çıkan trendler:

Small Language Models (SLM): Şirket içi yerel sunucularda çalışan 8B parametreli modeller veri gizliliği sağlar.
Function Calling & Agentic AI: Chatbot sadece cevap vermez; kargo takip sorgular, bilet iptal eder, veritabanı günceller.
Sesli AI Desteği: WebRTC entegrasyonu ile metin tabanlı botlar eşzamanlı sesli asistana dönüştürülür.