Development tutorial - IT technology blog
Posted inDevelopment

Mẹo nhỏ format và validate JSON online hiệu quả không cần cài đặt phần mềm

JSON là định dạng dữ liệu không thể thiếu trong phát triển IT hiện đại. Bài viết này sẽ hướng dẫn bạn cách format và validate JSON online một cách hiệu quả, giúp tiết kiệm thời gian, nâng cao độ chính xác cho dữ liệu, đặc biệt khi làm việc với API hoặc cấu hình hệ thống.
Artificial Intelligence tutorial - IT technology blog
Posted inAI

Hướng dẫn triển khai LLM inference với vLLM trên Linux: Tăng thông lượng và tiết kiệm VRAM

Bài viết này chia sẻ kinh nghiệm thực tế về triển khai LLM inference với vLLM trên Linux, nhằm tăng thông lượng và tiết kiệm VRAM. Nội dung hướng dẫn chi tiết từ cài đặt, cấu hình các tham số quan trọng đến kiểm tra và theo dõi hiệu năng, giúp bạn tối ưu hệ thống.