Chuyên mục Cài đặt Local AI (Ollama/LM Studio) là cẩm nang kỹ thuật chuyên sâu dành cho các cá nhân và phòng ban doanh nghiệp có yêu cầu bảo mật dữ liệu nghiêm ngặt — nơi tài liệu pháp lý, hồ sơ y tế, mã nguồn độc quyền và báo cáo tài chính tuyệt đối không được phép gửi lên máy chủ đám mây bên thứ ba. Dựa trên kết quả đo kiểm trực tiếp từ máy trạm Dual NVIDIA GeForce RTX 4090 (48GB VRAM, 128GB ECC RAM) cùng các cấu hình laptop phổ thông 8GB–16GB RAM tại MindVerse AI Sandbox Lab, ThS. Lê Hoàng Minh Khôi hướng dẫn từng bước cách triển khai Ollama, LM Studio, Open WebUI và engine suy luận thông lượng cao vLLM trên Windows, macOS và Ubuntu Linux. Mỗi bài viết cung cấp bảng số liệu thực tế về mức chiếm dụng VRAM theo từng chuẩn lượng tử hóa (FP16, Q8_0, Q5_K_M, Q4_K_M), tốc độ sinh token/giây và chất lượng tiếng Việt của họ mô hình Qwen, DeepSeek, Llama. Toàn bộ bài viết thuộc chuyên mục Cài đặt Local AI (Ollama/LM Studio) đều được chạy thử trực tiếp trên dữ liệu tiếng Việt thực tế tại MindVerse AI Sandbox Lab (Quận 1, TP. Hồ Chí Minh) dưới sự điều phối chuyên môn của ThS. Lê Hoàng Minh Khôi (Nhà sáng lập & Tổng Biên tập Chuyên môn) và rà soát chống ảo giác định kỳ mỗi 60 ngày. Độc giả có thể sao chép trực tiếp mẫu câu lệnh, tải tệp cấu hình mở trên GitHub thuthuatai-lab hoặc gửi phản biện kỹ thuật về Ban Biên tập để được hỗ trợ kiểm chứng trong vòng 12 giờ làm việc.
Hướng dẫn triển khai máy chủ Local AI nội bộ bằng Ollama và Docker Open WebUI giúp doanh nghiệp vận hành các mô hình...
