LLM’leri Lokal Ortamlarda Docker Model Runner Kullanarak Nasıl Çalıştırırız?

Docker, LLM'leri llama.cpp üzerinden tek bir “docker model” komutuyla çalıştırmak için “Docker Model Runner ”ı başlattı. Ne zaman kullanmanız gerektiğini, iç kısımların nasıl çalıştığını ve özel bir ChatGPT benzeri deneyim için Open WebUI'yi kullanmaya nasıl başlayacağınızı ayrıntılı olarak anlatacağım.