llama.cpp – ITFROMZERO – Share tobe shared!

Llama.cpp: ‘Bí thuật’ chạy LLM cực mượt trên CPU, RAM yếu vẫn chiến tốt

By admin Tháng 4 8, 2026

Hết thời 'Out of VRAM'! Hướng dẫn chi tiết cách dùng llama.cpp định lượng (Quantization) để chạy mượt mà các model AI như Llama 3 trên CPU và RAM, cứu cánh cho máy cấu hình yếu.

Artificial Intelligence tutorial - IT technology blog

Triển khai AI model trên server riêng: Self-host để bảo vệ dữ liệu nhạy cảm

By admin Tháng 3 7, 2026

Hướng dẫn tự triển khai AI model (llama.cpp, vLLM) trên server riêng để bảo vệ dữ liệu nhạy cảm, tránh rủi ro pháp lý khi dùng cloud AI. Bao gồm cấu hình bảo mật với Nginx reverse proxy, firewall, Docker Compose và tích hợp Python.

Chạy LLM Local với Ollama: So sánh approach và hướng dẫn triển khai thực tế

By admin Tháng 2 28, 2026

Hướng dẫn chạy LLM local với Ollama: so sánh Ollama, llama.cpp và LM Studio để chọn đúng approach, cài đặt trên Linux/macOS, chạy model Mistral và Llama, tích hợp REST API tương thích OpenAI, và tips setup shared server cho cả team.