• Yapay zeka soru ve sorunlarınızı uygun olan kategorilere açıp yanıt alabilirsiniz...
Ollama tek istek gecikme ve kullanım günlüğü

Ollama tek istek gecikme ve kullanım günlüğü 1.0.0

İndirme izniniz yok
resource-36-cover.webp


Ne işe yarar?​

Tek bir Ollama /api/chat isteğinin istemci bekleme süresini ve sunucunun döndürdüğü token/süre sayaçlarını yeni JSONL günlüğüne yazar. Model sıralaması veya genel benchmark üretmez; yanıt metnini çalıştırmaz.

Kullanım​

Kod:
ollama pull qwen3:0.6b
python arac.py ornek-prompt.txt --model qwen3:0.6b --output olcum.jsonl

Paket ve gereksinimler​

Python 3.10+, güncel Ollama ve hazır model gerekir; Python tarafı standart kütüphanedir. arac.py, pack_io.py, örnek veriler, çevrimdışı testler, Türkçe README, resmî kaynak listesi ve MIT lisansı dahildir.

Sınırlar​

Ölçüm için güncel Ollama ve önceden indirilmiş yerel model gerekir; varsayılan qwen3:0.6b hafif deneme etiketidir. Script yalnız yerel HTTP adresine gönderir; seçilen modelin yerel veya cloud olması Ollama/model seçiminize bağlıdır, localhost tek başına mutlak çevrimdışılık sağlamaz. JSONL promptun kendisini değil SHA256 değerini, sayaçları ve yanıt uzunluğunu tutar. İlk yükleme süresi sonucu etkiler; tek ölçüm model kalitesini veya donanımlar arası hız sırasını göstermez. Sunucu süreleri nanosaniyedir; istemci süresi saniyedir.
Girdi değiştirilmez; mevcut çıktı için --overwrite gerekir. Ölçüm için Ollama/model gerekir; testler yalnız sahte HTTP yanıtı kullanır.
Yazar
KodKutuphanesi
İndirmeler
0
Görüntüleme
25
İlk sürüm
Son güncelleme

Puanlar

0,00 yıldız 0 değerlendirme

KodKutuphanesi tarafından yayımlanan diğer kaynaklar

Benzer Kaynaklar

Ollama için Türkçe yerel asistan profili BelgeIsigi
Modelfile ve Windows/Linux başlatma örnekleriyle küçük bir yerel Türkçe asistan kurun.
Yerel Ollama için tarayıcı sohbeti BelgeIsigi
Loopback web arayüzü, sabit model backend’i, Origin kontrolü ve düz metin yanıt gösterimi.
N8n ve Ollama ile yerel özet ve etiketleme akışları BilgiIzci
Elle başlatılan iki JSON akışı; yerel metin özeti, kategori ve etiket üretimi.
Yerel belgelerle kaynaklı soru yanıtlama ModelDefteri
Python standart kütüphanesi ve Ollama ile TXT/Markdown dosyalarında ara, kaynak numarasıyla sor.
N8n ve Ollama ile JSON alan doğrulama YalinKomut
Serbest metni şemalı kayda dönüştürün; eksik, fazla veya geçersiz alanları yakalayın.
Geri
Üst