Sốc: Chạy Toàn Bộ Hệ Sinh Thái AI Cục Bộ Lên Máy Tính Của Bạn Chỉ Với Một Dòng Lệnh Cùng DreamServer!
4 phút đọc
Bạn đã quá mệt mỏi với việc phải trả phí hàng tháng cho các dịch vụ AI như ChatGPT hay Claude? Bạn lo ngại về việc dữ liệu cá nhân của mình bị thu thập bởi các tập đoàn công nghệ lớn? DreamServer chính là lối thoát dành cho bạn.
Dự án mã nguồn mở này mang đến một hệ sinh thái AI toàn diện, chạy hoàn toàn cục bộ trên phần cứng của bạn (Local-first) mà không cần phụ thuộc vào đám mây hay bất kỳ gói đăng ký nào.
Giới Thiệu Tổng Quan Về DreamServer
DreamServer không chỉ là một mô hình ngôn ngữ lớn (LLM) đơn thuần. Nó là một bộ công cụ AI "Tất cả trong một" (All-in-one) được cấu hình sẵn để các thành phần có thể giao tiếp mượt mà với nhau.
Những tính năng cốt lõi có sẵn trong hộp:
-
Trò chuyện & Suy luận (Chat & Inference): Tích hợp Open WebUI hỗ trợ đa ngôn ngữ, kết hợp với llama-server cho hiệu suất suy luận cực cao, tự động tối ưu hóa dựa trên GPU của bạn.
-
Giọng nói (Voice): Hỗ trợ chuyển đổi giọng nói thành văn bản (Whisper) và văn bản thành giọng nói (Kokoro).
-
Đại lý & Tự động hóa (Agents & Automation): Cung cấp Hermes Agent giúp tự động hóa trình duyệt và n8n để quản lý quy trình công việc với hơn 400 tiện ích tích hợp.
-
Kiến thức & Tìm kiếm (Knowledge & Search): Tích hợp cơ sở dữ liệu vector Qdrant cho RAG (Retrieval-Augmented Generation) và SearXNG để tìm kiếm web bảo mật.
-
Sáng tạo (Creative): Hỗ trợ tạo ảnh với node-based ComfyUI.
-
Quyền riêng tư (Privacy & Ops): Chặn các thông tin cá nhân (PII) qua Privacy Shield và theo dõi chi tiết hiệu năng phần cứng qua Dashboard.
Đặc biệt, DreamServer tự động nhận diện phần cứng (NVIDIA, AMD, Apple Silicon, Intel Arc) để chọn cấu hình mô hình nhẹ và phù hợp nhất cho máy của bạn, sau đó khởi chạy ngay lập tức. Chế độ "Bootstrap" cho phép bạn bắt đầu trò chuyện trong vòng chưa đầy 2 phút trong khi mô hình đầy đủ vẫn đang tải ngầm.
Hướng Dẫn Sử Dụng Chi Tiết
DreamServer được thiết kế để không yêu cầu kiến thức lập trình phức tạp. Dưới đây là cách cài đặt và sử dụng trên các nền tảng khác nhau:
1. Cài đặt trên Linux (NVIDIA, AMD, Intel Arc, CPU)
Cách nhanh nhất (Một dòng lệnh): Mở terminal và dán lệnh sau: curl -fsSL https://raw.githubusercontent.com/Light-Heart-Labs/DreamServer/main/dream-server/get-dream-server.sh | bash
Cách cài đặt thủ công:
-
Clone kho lưu trữ:
git clone https://github.com/Light-Heart-Labs/DreamServer.git -
Chuyển vào thư mục:
cd DreamServer/dream-server -
Khởi chạy tập lệnh cài đặt:
./install.sh
Sau khi quá trình hoàn tất, hãy mở trình duyệt và truy cập: http://localhost:3000 để bắt đầu trò chuyện.
2. Cài đặt trên Windows (NVIDIA, AMD)
Yêu cầu bắt buộc: Bạn phải cài đặt sẵn Docker Desktop và bật tính năng WSL2 backend trước khi bắt đầu.
-
Mở ứng dụng PowerShell thông thường (Không khuyến nghị chạy dưới quyền Administrator để tránh lỗi phân quyền thư mục).
-
Chạy lệnh cho phép thực thi tập lệnh:
Set-ExecutionPolicy -Scope Process -ExecutionPolicy Bypass -
Clone kho lưu trữ:
git clone https://github.com/Light-Heart-Labs/DreamServer.git -
Chuyển vào thư mục:
cd DreamServer -
Khởi chạy:
.\install.ps1
Hệ thống sẽ tự động tạo một shortcut truy cập Dashboard ngay trên màn hình Desktop của bạn.
3. Cài đặt trên macOS (Apple Silicon M1+)
Yêu cầu bắt buộc: Cần có Docker Desktop đang chạy. Quá trình này sẽ sử dụng tính năng tăng tốc Metal GPU của máy Mac.
-
Clone kho lưu trữ:
git clone https://github.com/Light-Heart-Labs/DreamServer.git -
Chuyển vào thư mục:
cd DreamServer/dream-server -
Khởi chạy tập lệnh cài đặt:
./install.sh
Quản Lý Hệ Thống Bằng Công Cụ dream-cli
Sau khi cài đặt, bạn có thể dễ dàng quản lý hệ sinh thái AI của mình thông qua giao diện dòng lệnh (CLI).
Một số lệnh cơ bản bạn cần biết:
-
dream status: Kiểm tra tình trạng sức khỏe của các dịch vụ và trạng thái GPU. -
dream list: Hiển thị toàn bộ các dịch vụ đang có và trạng thái của chúng. -
dream start/dream stop: Khởi động hoặc dừng toàn bộ hệ thống AI. -
dream restart [tên_dịch_vụ]: Khởi động lại một dịch vụ cụ thể (ví dụ:dream restart llm). -
dream model list: Xem tất cả các mô hình có sẵn cho phần cứng của bạn. -
dream model swap T3: Chuyển đổi sang mô hình cấp độ T3. -
dream mode cloud/dream mode local: Chuyển đổi qua lại giữa việc dùng API đám mây và suy luận cục bộ.
Đọc tiếp trong Vọc vạch
Bí Kíp Xóa Mọi Dấu Vết AI Trên Ảnh Chỉ Trong Một Nốt Nhạc: Đánh Bay Logo Watermark Của Gemini, Chatgpt, Midjourney
4 phút đọc
Cào Web Không Cần Chromium: Servo-Fetch Định Nghĩa Lại Tốc Độ Thu Thập Dữ Liệu
4 phút đọc
Công Thức Lên Ý Tưởng Video Vô Hạn D - I - C - Y
3 phút đọc
Abogen: Giải Pháp Tạo Sách Nói Và Lồng Tiếng Toàn Diện
5 phút đọc