Artificial Intelligence tutorial - IT technology blog
Posted inAI

LlamaIndex + Ollama: Xây dựng hệ thống hỏi đáp tài liệu nội bộ hoàn toàn offline

LlamaIndex kết hợp Ollama cho phép xây dựng hệ thống hỏi đáp từ tài liệu PDF, Word và website nội bộ mà không gửi bất kỳ dữ liệu nào lên cloud. Bài viết so sánh các approach, phân tích khi nào nên dùng giải pháp offline này, và hướng dẫn triển khai từng bước từ cài đặt đến production.
Artificial Intelligence tutorial - IT technology blog
Posted inAI

BentoML: Đóng gói và triển khai mô hình AI/ML thành REST API production-ready trên Linux

BentoML là framework ML serving giúp đóng gói mô hình AI/ML thành REST API production-ready trên Linux, với model versioning, adaptive batching và Docker export tự động. Bài viết so sánh Flask/FastAPI, TorchServe, Triton và hướng dẫn triển khai BentoML từ train đến production với systemd và Docker.