Ollama ile ilk yerel model nasıl indirilip çalıştırılır?

Ollama kurulu ve çalışır durumdaysa modeli pull ile indirip run ile açabilirsiniz. Yerel deneme için seçtiğiniz etiketin bulut hizmeti yerine indirilen dosyayı kullandığını doğrulayın. İlk indirme, modelin belleğe yüklenmesi ve yanıt üretimi farklı aşamalardır; bekleme süresini değerlendirirken bunları ayırın.

Küçük bir modelle temel yolu doğrulayın​

İlk amaç en büyük modeli çalıştırmak değil, kurulumun yeni bir yanıt ürettiğini görmektir. İşletim sisteminize uygun resmî Ollama kurulumunu tamamlayın. Seçeceğiniz modelin yayıncısını, lisansını ve dosya boyutunu okuyun. Model ailesinin adı tek başına donanım uyumunu açıklamaz.

İndirme ve çalıştırma​

1. Yeni terminal açın. ollama --version ile komutun bulunduğunu kontrol edin. Kurulumdan önce açık terminal komutu tanımayabilir. Komut yoksa önce kurulum veya PATH sorununu çözün.
2. Modeli indirin. Aşağıdaki llama3.2 örnek bir yerel etikettir. Başka bir etiket kullanırsanız sonraki komutlarda aynı adı yazın.
   
   
   
   Kod:

   ollama pull llama3.2
   ollama ls
   ollama run llama3.2

   
   
3. Yerel listeyi inceleyin. İndirilen modelin adı ve etiketi görünmelidir. Benzer adlı başka etiketi çalıştırmak yeni dosya indirilmesine yol açabilir.
4. Kısa bir Türkçe görev verin. Örneğin bir paragrafı iki maddeyle özetlemesini isteyin. Yeni yanıt gelmesi temel çıkarım yolunun çalıştığını gösterir.
5. İkinci isteği ayrıca gözleyin. İlk cevap öncesinde model yüklenebilir. Sonraki isteğin beklemesini ayrı değerlendirin; tek denemeden genel hız sonucu çıkarmayın.

Hatanın türünü ayırın​

Sunucuya bağlanılamıyorsa Ollama sürecini kontrol edin. Model bulunamıyorsa etiket ve indirme sonucuna bakın. Bellek hatasında daha küçük uyumlu model veya daha kısa bağlamla deneyin; art arda farklı büyük dosyalar indirmek nedeni açıklamaz.

Çalışan örneğin Ollama sürümünü ve tam model adını kaydedin. Başka bir arayüz bağladığınızda önce bu temel denemeyi çalıştırarak model sorunu ile yeni bağlantı sorununu ayırabilirsiniz.

Ollama’da model indirildikten sonra farklı bir etiketle run komutu verilirse yeniden indirme başlaması beklenebilir mi? Örnek olarak yerel listede görülen adla komuttaki boyut eki farklı olsun. Bu durumda indirme bozuldu demeden önce model kimliğinin hangi bölümünü karşılaştırmak gerekir?

Yerel listede görünen tam ad ve etiket, çalıştırma komutuyla birebir karşılaştırılmalı. Aynı aile adı farklı dosyaları temsil edebilir; başka etiketi çağırmak yeni indirme gerektirebilir. Önce bilinen yerel etiketi kısa bir istekle çalıştırmak, dosya eksikliği ile yanlış seçim arasındaki ayrımı gösterir.

Bir de indirme tamamlandıktan sonraki ilk beklemeyi ikinci istekten ayrı değerlendirmek gerekiyor. Model henüz belleğe yükleniyorsa bu, bütün sohbetlerin aynı hızda olacağı anlamına gelmez. Başka arayüz bağlamadan önce aynı temel komutun yeni yanıt üretmesi temiz bir başlangıç kontrolüdür.