TotalApp Dökümanlar

Embedding Modeli

Anlamsal Arama için sıralama ve düzenlemeyi güçlendiren yerel Ollama modelini yapılandırma.

Neden Ollama, Neden Yerel?

Varsayılan olarak Anlamsal Arama için embedding'ler kendi makinenizde 127.0.0.1:11434 adresinde çalışan yerel bir Ollama örneği tarafından hesaplanır. (İsterseniz bunun yerine bir bulut modeli seçebilirsiniz — aşağıdaki Bulut (Cloud LLM) Embedding bölümüne bakın.) Ollama ile bu bilinçli bir mimari tercihtir: bilgi kütüphaneniz — potansiyel olarak hassas dokümanlar, notlar veya dahili materyal — sadece sıralanmak için bilgisayarınızdan ayrılmak zorunda kalmaz. TotalApp'in bulutta barındırılan sunucusunun Ollama örneğinize hiçbir ağ yolu yoktur; sıralama her zaman doğrudan tarayıcınızda kendi makinenizle konuşarak gerçekleşir.

Bu aynı zamanda Embedding Engine ayarının, metin üretimi için Yazar Motoru seçiminizden (API, Yerel LLM, Ollama) tamamen bağımsız olduğu anlamına gelir — içeriği Anthropic API üzerinden üretirken embedding için tamamen yerel bir Ollama modeli kullanabilir, ya da tam tersini yapabilirsiniz.

Ekran önizlemeler

Ekranlara kısa bir bakış. Koyu ve açık tema arasında geçmek için her önizlemenin köşesindeki anahtarı kullanın.

app.totalapp.app/settings/agentic
Embedding Motoru
Bilgi Kaynağım Arama Davranışı
Yardımlı — sıralı önerilerden seçim yaparım
Alaka Skoru Görünümü
Kosinüs benzerliği (ham, varsayılan)
Embedding Modeli
Ollama üzerinden nomic-embed-text
Otomatik Ekleme Eşiği
Önermeden önce en az %60 alaka
Embedding Önbelleği
Vektörler yerelde saklanır, düzenlemede yenilenir
Anahtar Kelime Yedeği
Ollama çevrimdışıyken otomatik devreye girer
Kütüphane Yeniden İndeksleme
Her yüklemeden sonra arka planda çalışır

Destekli veya otomatik

Kurulum

  1. Henüz kurmadıysanız makinenize Ollama'yı kurun.
  2. Bir embedding modeli çekin, örn. ollama pull nomic-embed-text.
  3. TotalApp'te Ayarlar → Etmen → Embedding Engine'e gidin.
  4. Ollama bağlantınızın algılandığını doğrulayın (bağlı olarak görünmüyorsa Metin Üretimi Sağlayıcısı altında test edin).
  5. Anlamsal Arama (Embedding Engine) açılır menüsünden embedding modelinizi seçin — burada yalnızca embedding odaklı adlara sahip modeller listelenir ("embed", "bge", "nomic" veya "minilm" içerenler), böylece bir metin üretim modeliyle asla karışmaz.

Bulut (Cloud LLM) Embedding

Ayarlar → Etmen → Embedding sekmesinde sağlayıcıyı Cloud LLM (Hosted API) olarak seçin ve Modelion ya da OpenRouter listesinden bir model işaretleyin. Anlamsal Arama bundan sonra kaynaklarınızı Ollama yerine bu modelle sıralar; yerel kurulum gerekmez.

Geçmeden önce bilmeniz gereken iki şey

Metniniz makinenizden çıkar. Bulut modelinde sorgunuzun ve sıralanan her kaynağın metni TotalApp sunucusu üzerinden sağlayıcıya gönderilir. Ollama bunu hiçbir zaman yapmaz.

Modeli değiştirmek kayıtlı vektörleri eskitir. Farklı modellerin vektörleri birbiriyle karşılaştırılamaz. Her kaynak vektörünü üreten modeli saklar; bu yüzden embedding modelini her değiştirdiğinizde eski vektörler, kaynaklar bir sonraki sıralanışında otomatik olarak yeniden hesaplanır (bu bilgi tutulmadan önce kaydedilmiş kaynaklar da bir kez yeniden hesaplanır). Bulut modelinde bu, her kaynağın metninin yeniden gönderilmesi demektir.

Model Ayrımı — Burada Neden Bir Sohbet Modeli Seçemezsiniz?

Embedding Engine açılır menüsü yalnızca embedding için tasarlandığını adından belli eden Ollama modellerini listeler (örn. nomic-embed-text, bge-small, all-minilm). Genel amaçlı sohbet/tamamlama modelleri (örn. llama3, deepseek, qwen) bu listeden hariç tutulur — ve çalışma zamanında TotalApp, yanlışlıkla bir sohbet modelinin embedding endpoint'ini çağırmaya karşı koruma sağlar. Bu, iki rolü net bir şekilde ayrı tutar: bir model türü yazı için /api/generate'e konuşur, diğeri sıralama için /api/embeddings'e konuşur.

Alaka Skorlarını Anlamak

İki metin embedding'i arasındaki cosine similarity teorik olarak -1 ile +1 arasında olabilir, ancak nomic-embed-text gibi genel amaçlı modellerden gelen gerçek dünya skorları çok daha dar bir pratik bantta toplanır:

İlişkiTipik skor
Tamamen alakasız metin~%20-40
Alakalı, ilgili metin~%55-75
Neredeyse birebir aynı metin%90+ (nadir)

Alakasız içerik nadiren %0'a yaklaşır, çünkü dil modelleri neredeyse her metinde ortak "genel dil" yapısını paylaşır. Bu normaldir ve beklenir — alakasız bir dokümanda %30 skor bir hata değildir. Uygulama içindeki aynı açıklama için Ayarlar'daki Embedding Engine yanındaki bilgi ipucuna bakın.

Embedding Modeli Olmadan Ne Olur?

Hiçbir şey bozulmaz. Bilgi Kaynaklarım ve her Yazar Aracı'nın Bilgi Kaynağı Ekle penceresi, Anlamsal Arama var olmadan önce çalıştığı gibi çalışmaya devam eder — kaynaklar orijinal sırasında listelenir, sıralamanın şu anda kullanılamadığına dair bir notla birlikte. Sıralama ve Otomatik ekleme, bir embedding modeli yapılandırılmasına bağlı olan tek özelliklerdir.

SSS

Ollama yerine bulut tabanlı bir embedding API kullanabilir miyim?
Evet. Ayarlar → Etmen → Embedding'de Cloud LLM (Hosted API) seçin ve bir Modelion ya da OpenRouter embedding modeli işaretleyin. Bu durumda metniniz o sağlayıcıya gönderilir; gizlilik ve yeniden embedding notları için yukarıdaki Bulut (Cloud LLM) Embedding bölümüne bakın.
Hangi embedding modelini seçmeliyim?
nomic-embed-text sağlam bir genel amaçlı varsayılandır. all-minilm gibi daha küçük modeller daha hızlı çalışır ancak daha az hassas sıralayabilir; bge-large gibi daha büyük modeller daha doğrudur ancak her kaynağı embedding'e dönüştürmesi daha yavaştır.
Embedding modelinin, Yazar Motorumun metin üretim modeliyle eşleşmesi gerekir mi?
Hayır. Tamamen bağımsızdırlar — herhangi bir embedding modelini herhangi bir metin üretim motoruyla karıştırıp eşleştirebilirsiniz.
Burada bir sohbet modeli seçmek bir şeyi bozar mı?
Açılır menü her zaman yalnızca adından embedding odaklı olduğu anlaşılan modelleri listeler ve uygulama, embedding olmayan bir modelin embedding olarak ele alınmasına karşı çalışma zamanında koruma sağlar; bu yüzden bunu yanlışlıkla tetikleyemezsiniz.