Max · Modül 10 / 11
Yerel model
Ne zaman mantıklı, Ollama dahil nasıl kurulur, düzeneğe nasıl bağlanır.
Dayandığı araçlar:Ollama
4 ders · toplam 28 dakika video · kaynakçada 23 kaynak
Tanıtım videosu, yaklaşık 40 sn; girişten sonra izlenir.
Derslerin son güncellemesi:
Max basamağı: Yönet. Max, 101'i bitirenlere açılır; 101 bitmeden alınamaz. Paketler ve fiyatlar · İptal ve İade Koşulları
Dersler
Ders 1 · 7:08
Ne zaman mantıklı
Öğrettiği beceri: Bir işin yerel modele mi buluta mı gideceğine karar vermek
Yerel model kullanıcının bilgisayarında çalışır: metin cihazdan çıkmaz, internet gerekmez ve kullanım başına ücret ödenmez; karşılığında donanım ister ve küçük kalır. Küçük bir yerel model ile bir bulut modeli aynı sorularda karşılaştırılır ve karar için verinin dışarı çıkıp çıkamayacağı ile işin zorluğuna bakılır.
Ders 2 · 7:24
Kurulum
Öğrettiği beceri: Yerel model kurup hızını kendi makinesinde ölçmek
Yerel kurulumun üç parçası gerçek bir kurulumla gösterilir: çalıştırıcı, model dosyası ve dosyanın sıkıştırma düzeyi. Sıkıştırmanın cevap kalitesine, işlemci gücünün ve model boyutunun hıza etkisi ölçülür; Ollama da denenir ve bellek hesabında dosya boyutu ile bağlam uzunluğuna bakılır.
Ders 3 · 6:49
Düzeneğe bağlamak
Öğrettiği beceri: Yerel modeli düzeneğe bağlayıp işin bittiğini klasörden doğrulamak
Çalıştırıcı yerel modeli bir sunucu olarak açar; düzenekte yalnız adres ve model adı değişir. Aynı betik üç yerel modele ve bir bulut modeline bağlanır: bağlantı hepsinde çalışır, ancak işin bitip bitmediğini modelin cümlesi değil klasör gösterir.
Ders 4 · 6:48
Küçük modelle ön eleme
Öğrettiği beceri: Notları buluta gitmeden önce eleyen düzeni kurup ölçmek
Notları buluta göndermeden önce eleyen üç katman kurulur: kesin desenleri kod yakalar, dar yargıyı küçük yerel model verir, büyük modele yalnız geçenler gider. Eleyici on iki notla ölçülür; dışarı çıkmaması gerekeni kaçırmak ile fazla tutmak ayrı sayılır.