Garfield
YZF Admin
Embedding boyutu, bir metnin veya başka bir verinin kaç sayısal değerle temsil edileceğini belirler. Boyut arttıkça model daha fazla ayrıntıyı kodlayabilir; ancak vektörler daha fazla bellek ve depolama kullanır, benzerlik aramaları ağırlaşabilir ve boyutun artması tek başına daha doğru sonuç garantilemez. Bu nedenle seçim yaparken yalnızca en büyük boyutu kullanmak yerine veri türünü, arama kalitesini, gecikme sınırını ve depolama maliyetini birlikte değerlendirin.
Bir embedding, metin gibi karmaşık bir girdinin sayılardan oluşan vektör biçimindeki temsilidir. Örneğin varsayımsal bir sistem, "kedi maması" ifadesini 384 sayılık bir vektöre, başka bir sistem ise 1.536 sayılık bir vektöre dönüştürebilir. Buradaki 384 veya 1.536 değeri embedding boyutudur.
Metin doğrudan bu sayılara çevrilmez; model, anlam ilişkilerini vektör uzayındaki konumlarla temsil eder. Bu yüzden benzer anlam taşıyan iki metnin vektörleri genellikle birbirine daha yakın olur. Boyut, modelin kullandığı temsil alanının genişliğini belirtir; vektördeki her sayının mutlaka tek bir sözcüğe veya insan tarafından adlandırılabilecek tek bir özelliğe karşılık geldiği anlamına gelmez.
Daha büyük boyut, modelin anlam, konu, üslup veya bağlam gibi ayrımları daha ayrıntılı temsil etmesine yardımcı olabilir. Özellikle birbirine çok benzeyen belgeleri ayırmak veya uzun ve teknik metinlerde ince anlam farklarını korumak açısından yararlı olabilir. Fakat bu, yalnızca modelin daha büyük boyutla gerçekten daha fazla bilgi taşıyabildiği durumlarda geçerlidir.
Her boyut artışı kalite artışı sağlamaz. Eğitim verisi, modelin amacı, metinlerin parçalanma biçimi ve kullanılan benzerlik ölçütü sonucu en az boyut kadar etkiler. Küçük bir veri kümesinde gereğinden büyük vektörler, arama kalitesini anlamlı biçimde artırmadan maliyeti yükseltebilir.
Boyutun doğrudan etkilediği pratik konular şunlardır:
Tablodaki etkiler genel eğilimlerdir; kullanılan indeks türü, sayısal veri tipi, sıkıştırma yöntemi ve arama altyapısı gerçek sonucu değiştirebilir. Bu nedenle yalnızca boyuta bakarak kesin gecikme veya doğruluk sonucu çıkarmayın.
Varsayımsal olarak iki belge düşünün:
Sorgu da
Sonuçları genellikle kosinüs benzerliği, iç çarpım veya Öklid uzaklığı gibi bir ölçütle karşılaştırırsınız. Ölçüt, iki vektörün ne kadar benzer olduğunu ifade eder; embedding boyutu ise bu karşılaştırmanın yapıldığı vektör uzunluğudur. Boyut arttığında benzerlik puanlarının ölçeği veya dağılımı değişebileceğinden, daha önce belirlediğiniz eşik değerleri yeni modelle yeniden değerlendirmeniz gerekebilir.
İlk ölçüt, kullandığınız embedding modelinin desteklediği boyuttur. Model sabit boyut üretiyorsa vektörü rastgele kesmek bilgi kaybettirebilir. Sonuna sıfır eklemek yeni bilgi üretmez; bütün vektörlere tutarlı biçimde uygulanırsa iç çarpımı, kosinüs benzerliğini ve Öklid uzaklığını korur. Ancak farklı modellerin temsil uzaylarını birbirine uyumlu hâle getirmez ve desteklenen yeni bir model boyutu öğrenildiği anlamına gelmez. Boyutu değiştirilebilen bir model kullanıyorsanız, daha küçük boyut daha az kaynak tüketebilir; bunun karşılığında bazı anlam ayrımları zayıflayabilir.
Seçimi gerçek sorgularla ölçmek için aynı veri kümesi ve aynı sorgu listesi üzerinde birkaç boyutu karşılaştırın. Her seçenek için doğru belgenin ilk sıralarda çıkma oranını, yanlış olumlu sonuçları, ortalama gecikmeyi ve vektör depolama miktarını kaydedin. Örneğin daha büyük boyut doğruluğu yalnızca çok az artırıyor, fakat depolama ve gecikmeyi belirgin biçimde yükseltiyorsa küçük boyut daha uygun olabilir.
Değerlendirme yaparken şu koşulları sabit tutun:
Embedding boyutu, metnin karakter sayısı veya modelin bağlam penceresi değildir. 1.536 boyutlu bir embedding, metnin en fazla 1.536 sözcük içerebileceği anlamına gelmez. Aynı şekilde boyut, yanıt üreten dil modelinin parametre sayısını veya yanıt uzunluğunu da göstermez.
Bir arama sistemi yeni embedding boyutunu kabul etmiyorsa sorun çoğunlukla sorgu vektörü ile kayıtlı belge vektörlerinin farklı boyutta olmasından kaynaklanır. Bu durumda yalnız sorguyu yeni modelle üretmek yeterli değildir; belgeleri de aynı modelle yeniden embedding yapmak ve yeni boyuta uygun bir indeks oluşturmak gerekir. Eski indeks ve yeni vektörler birlikte kullanılmamalıdır.
Embedding boyutu ne demektir?
Bir embedding, metin gibi karmaşık bir girdinin sayılardan oluşan vektör biçimindeki temsilidir. Örneğin varsayımsal bir sistem, "kedi maması" ifadesini 384 sayılık bir vektöre, başka bir sistem ise 1.536 sayılık bir vektöre dönüştürebilir. Buradaki 384 veya 1.536 değeri embedding boyutudur.
Metin doğrudan bu sayılara çevrilmez; model, anlam ilişkilerini vektör uzayındaki konumlarla temsil eder. Bu yüzden benzer anlam taşıyan iki metnin vektörleri genellikle birbirine daha yakın olur. Boyut, modelin kullandığı temsil alanının genişliğini belirtir; vektördeki her sayının mutlaka tek bir sözcüğe veya insan tarafından adlandırılabilecek tek bir özelliğe karşılık geldiği anlamına gelmez.
Boyut arttığında hangi sonuçlar değişir?
Daha büyük boyut, modelin anlam, konu, üslup veya bağlam gibi ayrımları daha ayrıntılı temsil etmesine yardımcı olabilir. Özellikle birbirine çok benzeyen belgeleri ayırmak veya uzun ve teknik metinlerde ince anlam farklarını korumak açısından yararlı olabilir. Fakat bu, yalnızca modelin daha büyük boyutla gerçekten daha fazla bilgi taşıyabildiği durumlarda geçerlidir.
Her boyut artışı kalite artışı sağlamaz. Eğitim verisi, modelin amacı, metinlerin parçalanma biçimi ve kullanılan benzerlik ölçütü sonucu en az boyut kadar etkiler. Küçük bir veri kümesinde gereğinden büyük vektörler, arama kalitesini anlamlı biçimde artırmadan maliyeti yükseltebilir.
Boyutun doğrudan etkilediği pratik konular şunlardır:
| Ölçüt | Boyut arttığında genel eğilim |
|---|---|
| Temsil kapasitesi | Model, anlam ayrımlarını daha ayrıntılı kodlayabilir; ancak kalite artışı modele ve veriye bağlıdır. |
| Bellek ve depolama | Her vektörde daha fazla sayı tutulur. Aynı veri kümesi için indeks ve yedekleme alanı büyür. |
| Arama maliyeti | Benzerlik hesaplamaları daha uzun vektörler üzerinde yapılır; gecikme ve işlem yükü artabilir. |
| Ağ trafiği | Vektörler istemci ile veritabanı arasında taşınıyorsa istek ve yanıt boyutu büyür. |
| Uyumluluk | Bir indeksin beklediği boyut sabittir; farklı boyuttaki vektörler aynı indeksle doğrudan karıştırılamaz. |
Aramada nasıl bir fark oluşturur?
Varsayımsal olarak iki belge düşünün:
Belge A: "Python'da liste sıralama yöntemleri"Belge B: "Python'da liste içindeki öğeleri filtreleme"Sorgu da
"Python listelerini nasıl sıralarım?" olsun. Embedding modeli, sorguyu anlam bakımından Belge A'ya daha yakın konumlandırmalıdır. Daha yüksek boyutlu bir model, sıralama ile filtreleme arasındaki ayrımı daha iyi koruyabilir; ancak bunu garanti eden şey yalnızca boyut değildir. Modelin Python ve programlama metinleri üzerinde yeterince başarılı olması da gerekir.Sonuçları genellikle kosinüs benzerliği, iç çarpım veya Öklid uzaklığı gibi bir ölçütle karşılaştırırsınız. Ölçüt, iki vektörün ne kadar benzer olduğunu ifade eder; embedding boyutu ise bu karşılaştırmanın yapıldığı vektör uzunluğudur. Boyut arttığında benzerlik puanlarının ölçeği veya dağılımı değişebileceğinden, daha önce belirlediğiniz eşik değerleri yeni modelle yeniden değerlendirmeniz gerekebilir.
Embedding boyutu nasıl seçilir?
İlk ölçüt, kullandığınız embedding modelinin desteklediği boyuttur. Model sabit boyut üretiyorsa vektörü rastgele kesmek bilgi kaybettirebilir. Sonuna sıfır eklemek yeni bilgi üretmez; bütün vektörlere tutarlı biçimde uygulanırsa iç çarpımı, kosinüs benzerliğini ve Öklid uzaklığını korur. Ancak farklı modellerin temsil uzaylarını birbirine uyumlu hâle getirmez ve desteklenen yeni bir model boyutu öğrenildiği anlamına gelmez. Boyutu değiştirilebilen bir model kullanıyorsanız, daha küçük boyut daha az kaynak tüketebilir; bunun karşılığında bazı anlam ayrımları zayıflayabilir.
Seçimi gerçek sorgularla ölçmek için aynı veri kümesi ve aynı sorgu listesi üzerinde birkaç boyutu karşılaştırın. Her seçenek için doğru belgenin ilk sıralarda çıkma oranını, yanlış olumlu sonuçları, ortalama gecikmeyi ve vektör depolama miktarını kaydedin. Örneğin daha büyük boyut doğruluğu yalnızca çok az artırıyor, fakat depolama ve gecikmeyi belirgin biçimde yükseltiyorsa küçük boyut daha uygun olabilir.
Değerlendirme yaparken şu koşulları sabit tutun:
- Aynı metin parçalarını ve aynı parçalama yöntemini kullanın.
- Aynı sorgu ve beklenen sonuç kümesiyle test edin.
- Aynı benzerlik ölçütünü ve mümkünse aynı indeks ayarlarını koruyun.
- Sadece en yüksek benzerlik puanını değil, doğru sonucun ilk kaç sonuç içinde bulunduğunu da inceleyin.
- Yeni boyutla oluşturulan tüm vektörleri aynı model ve aynı boyutla yeniden üretin.
Sık karıştırılan noktalar
Embedding boyutu, metnin karakter sayısı veya modelin bağlam penceresi değildir. 1.536 boyutlu bir embedding, metnin en fazla 1.536 sözcük içerebileceği anlamına gelmez. Aynı şekilde boyut, yanıt üreten dil modelinin parametre sayısını veya yanıt uzunluğunu da göstermez.
Bir arama sistemi yeni embedding boyutunu kabul etmiyorsa sorun çoğunlukla sorgu vektörü ile kayıtlı belge vektörlerinin farklı boyutta olmasından kaynaklanır. Bu durumda yalnız sorguyu yeni modelle üretmek yeterli değildir; belgeleri de aynı modelle yeniden embedding yapmak ve yeni boyuta uygun bir indeks oluşturmak gerekir. Eski indeks ve yeni vektörler birlikte kullanılmamalıdır.
