Artificial Intelligence tutorial - IT technology blog
Posted inAI

Hướng dẫn triển khai LLM inference với vLLM trên Linux: Tăng thông lượng và tiết kiệm VRAM

Bài viết này chia sẻ kinh nghiệm thực tế về triển khai LLM inference với vLLM trên Linux, nhằm tăng thông lượng và tiết kiệm VRAM. Nội dung hướng dẫn chi tiết từ cài đặt, cấu hình các tham số quan trọng đến kiểm tra và theo dõi hiệu năng, giúp bạn tối ưu hệ thống.
Artificial Intelligence tutorial - IT technology blog
Posted inAI

Xây dựng hệ thống RAG với RAGFlow: Từ cài đặt đến triển khai production hiệu quả

Hệ thống RAG (Retrieval-Augmented Generation) giúp LLM trả lời chính xác hơn bằng cách truy xuất thông tin từ kho dữ liệu ngoài. RAGFlow là nền tảng giúp xây dựng, quản lý và triển khai RAG hiệu quả. Bài viết này hướng dẫn cài đặt RAGFlow, tạo ứng dụng RAG, cấu hình dữ liệu, LLM và triển khai API, tối ưu cho production.
Artificial Intelligence tutorial - IT technology blog
Posted inAI

Hướng dẫn cài đặt và sử dụng Qdrant: Vector database mạnh mẽ cho ứng dụng AI và RAG thực chiến

Bài viết hướng dẫn chi tiết cách cài đặt và sử dụng Qdrant, một vector database mạnh mẽ, để xây dựng các ứng dụng AI và RAG hiệu quả. Mình chia sẻ kinh nghiệm thực tế sau hơn 6 tháng triển khai Qdrant trên môi trường production, phân tích ưu nhược điểm và cung cấp code Python mẫu để bạn có thể bắt đầu ngay.
Artificial Intelligence tutorial - IT technology blog
Posted inAI

Xây dựng MCP Server tùy chỉnh với Python: Kết nối AI với hệ thống của bạn

MCP (Model Context Protocol) là giao thức mở giúp AI model kết nối với công cụ và dữ liệu bên ngoài theo cách chuẩn hóa. Bài viết hướng dẫn xây dựng MCP Server thực tế bằng Python — từ cài đặt SDK, tạo tools bảo mật, đến kết nối với Claude Desktop với ví dụ file manager đầy đủ.