Rehber LM Studio yerel sunucusu başka uygulamaya nasıl bağlanır?

LM Studio’daki modeli başka uygulamaya bağlamak için Developer alanındaki yerel sunucuyu başlatın, ardından istemcide gerçek adresi ve model kimliğini kullanın. Sohbet ekranının çalışması API sunucusunun açık olduğunu göstermez. Önce basit model listesi isteğiyle bağlantıyı doğrulamak sorunu daraltır.

Yerel bağlantıyı hazırlayın​

İlk denemeyi yalnız kendi bilgisayarınızda yapın. Başka cihaz erişimi gerekmiyorsa ağda paylaşmayı açmayın. İstemci uygulamanın hangi API biçimini desteklediğini kontrol edin; aynı sağlayıcıya bağlanabilen her uygulama bütün uç noktaları desteklemez.

Sunucu ve istemciyi eşleştirin​

1. Modeli yerel sohbetle deneyin. İndirilen modelin kısa yanıt ürettiğini görün. Eksik dosya veya yükleme hatasını bağlantı ayarından ayrı çözün.
2. Developer alanında Start server seçeneğini açın. Gösterilen gerçek portu kaydedin. Sizin yapılandırmanız örnekteki 1234 portundan farklı olabilir.
3. Model listesini sorgulayın. Aşağıdaki Python 3 örneği yalnız kendi bilgisayarınıza okuma isteği gönderir. Sunucuda kimlik doğrulama açıksa onun belgelenmiş istemci ayarını ayrıca sağlayın.
   
   
   
   Python:

   import http.client
   import json
   
   connection = http.client.HTTPConnection('127.0.0.1', 1234, timeout=10)
   connection.request('GET', '/v1/models')
   response = connection.getresponse()
   print(response.status)
   data = json.loads(response.read().decode('utf-8'))
   for model in data.get('data', []):
       print(model['id'])
   connection.close()

   
   
4. Örneği bir Python dosyası olarak çalıştırın. 200 ve model kimlikleri beklenir. Bağlantı reddinde sunucu veya portu, yetki hatasında kimlik doğrulamayı kontrol edin.
5. Diğer uygulamayı aynı sunucuya bağlayın. Listeden gerçek model kimliğini kullanın. Kısa bir istek gönderip LM Studio günlüğünde çağrının alındığını doğrulayın.

Bağlandı ama cevap gelmiyorsa​

İstemcinin varsayılan bulut model adı yerel listede bulunmayabilir. Önce kimliği ve istek biçimini karşılaştırın. Sunucuyu dış ağa açmak bu uyumsuzluğu çözmez. Aynı yerel test çalışırken diğer uygulama başarısızsa sorunu istemcinin yapılandırmasında arayın.