llamafile

Mozilla'nın desteklediği proje; modeli ve çalıştırıcıyı tek bir dosyada birleştiriyor. İndirdiğiniz dosyayı çift tıklıyorsunuz, tarayıcıda sohbet arayüzü açılıyor. Kurulum, bağımlılık, ayar yok. Aynı dosya Mac, Windows ve Linux'ta çalışıyor. Yerel modeli birine göstermenin en hızlı yolu.

github.com/Mozilla-Ocho/llamaf...