[Hướng dẫn] Dựng miễn phí server ChatGPT riêng trên máy cá nhân bằng VnGPT

[Hướng dẫn] Dựng miễn phí server ChatGPT riêng trên máy cá nhân bằng VnGPT
Nguồn ảnh: AIV Group 

VnGPT là một mã nguồn mở giúp cá nhân/tổ chức tự dựng server ChatGPT riêng để sử dụng nội bộ. Ưu điểm của VnGPT là cho phép tích hợp ChatGPT với nhiều ứng dụng khác nhau như: bóc băng Youtube, sinh ảnh từ Stable Diffusion,...giúp sử dụng ChatGPT dễ dàng và hiệu quả.

Dưới đây là ví dụ sử dụng VnGPT để bóc băng Youtube và dùng ChatGPT để tóm tắt tự động sang tiếng Việt:

CleanShot-2023-03-22-at-12.02.00-1

Trong hướng dẫn này, chúng ta sẽ cùng nhau tạo ra một server ChatGPT riêng trên máy tính bằng VnGPT, cho phép bạn khai thác được tối đa sức mạnh của ChatGPT như trên.

1. Thông tin chung

  1. Độ khó: 6/10
  2. Yêu cầu phải có:
  • Máy tính
  • Kiến thức về Python, Restful api

3.   Đối tượng phù hợp: Người sử dụng code, người mới học code, người có đam mê hiểu biết về AI.

2. Chuẩn bị kiến thức

Python là gì?

Python là một ngôn ngữ lập trình được sử dụng rộng rãi trong các ứng dụng web, phát triển phần mềm, khoa học dữ liệu và máy học (ML). Các nhà phát triển sử dụng Python vì nó hiệu quả, dễ học và có thể chạy trên nhiều nền tảng khác nhau. Phần mềm Python được tải xuống miễn phí, tích hợp tốt với tất cả các loại hệ thống và tăng tốc độ phát triển.

Lợi ích python đem lại bao gồm:

  • Các nhà phát triển có thể dễ dàng đọc và hiểu một chương trình Python vì ngôn ngữ này có cú pháp cơ bản giống tiếng Anh.
  • Python giúp cải thiện năng suất làm việc của các nhà phát triển vì so với những ngôn ngữ khác, họ có thể sử dụng ít dòng mã hơn để viết một chương trình Python.
  • Python có một thư viện tiêu chuẩn lớn, chứa nhiều dòng mã có thể tái sử dụng cho hầu hết mọi tác vụ. Nhờ đó, các nhà phát triển sẽ không cần phải viết mã từ đầu.
  • Các nhà phát triển có thể dễ dàng sử dụng Python với các ngôn ngữ lập trình phổ biến khác như Java, C và C++.
  • Cộng đồng Python tích cực hoạt động bao gồm hàng triệu nhà phát triển nhiệt tình hỗ trợ trên toàn thế giới. Nếu gặp phải vấn đề, bạn sẽ có thể nhận được sự hỗ trợ nhanh chóng từ cộng đồng.
  • Trên Internet có rất nhiều tài nguyên hữu ích nếu bạn muốn học Python. Ví dụ: bạn có thể dễ dàng tìm thấy video, chỉ dẫn, tài liệu và hướng dẫn dành cho nhà phát triển.
  • Python có thể được sử dụng trên nhiều hệ điều hành máy tính khác nhau, chẳng hạn như Windows, macOS, Linux và Unix.

3. Cài đặt trên windows

3.1. Cài đặt môi trường

  • Cài đặt Python 3.10.6, tích chọn vào "Add Python to PATH" trong quá trình cài đặt.
  • Cài đặt git git.

3.2. Tải về mã nguồn của VnGPT

Mở tab command tại thư mục bạn muốn tải về và nhập câu lệnh bên dưới git clone https://github.com/AIV-Group/VnGPT-CE.

3.3. Tạo file .env

Tại đây, bạn mở thư mục mã nguồn VnGPT đã tải về, copy file .env.example và đổi tên thành .env như ảnh dưới đây:

3.4. Thay đổi các giá trị trong file .env

  • Đầu tiên, ta thay đổi chuỗi your_open_api_key thành Open API Key của bạn.

Nếu chưa có, có thể tạo Open API Key tại đây        

  • Tiếp theo, kích đúp chuột vào file run.bat ở thư mục mã nguồn VnGPT và chờ đợi chương trình khởi chạy.
  • Sau khi chương trình đã chạy, bạn có thể mở đường dẫn http://127.0.0.1:7860 trên trình duyệt để sử dụng VnGPT.

4. Cài đặt trên Linux

Để chạy các lệnh dưới đây, bạn cần sử dụng Terminal trên máy của bạn.

4.1. Cài đặt môi trường

Debian-based:

  • sudo apt install wget git python3 python3-venv

Red Hat-based:

  • sudo dnf install wget git python3

Arch-based:

  • sudo pacman -S wget git python3

4.2. Tiếp theo tải về mã nguồn của VnGPT

Mở tab terminal và nhập câu lệnh bên dưới: git clone https://github.com/AIV-Group/VnGPT-CE.

4.3. Tạo file .env

  • Mở thư mục mã nguồn VnGPT đã tải về
  • Đổi tên file .env.example thành file .env
  • Tiếp đó đó thay đoạn your_open_api_key  thành Open API Key của bạn.
  • Nếu chưa có, có thể tạo Open API Key tại đây

4.4. Tiếp theo chạy file bash run.sh để chương trình khởi chạy.  

Hoặc thêm lệnh chmod +x run.sh để cấp quyền chạy chương trình cho VnGPT.

4.5. Sau khi chương trình đã chạy thành công

Truy cập tới đường dẫn http://127.0.0.1:7860 trên trình duyệt để sử dụng VnGPT.

5. Tài liệu nên đọc

6. Thông tin liên hệ

VnGPT là ứng dụng mã nguồn mở hướng tới mục tiêu cung cấp cho người dùng phổ thông và các SMEs công cụ mở, tiết kiệm, và tiện dụng nhất để áp dụng các thành tựu AI (ChatGPT, Whisper, Stable Diffusion...) nhanh nhất vào công việc và cuộc sống.

👉Dùng thử VnGPT tại: Gradio

(Lưu ý: bản demo nên có giới hạn về số token tối đa)

👉Tải và cài đặt VnGPT tại: GitHub - AIV-Group/VnGPT-CE: Phần mềm nguồn mở giúp mỗi cá nhân trực tiếp sử dụng ChatGPT và hơn thế

👉Cộng đồng người dùng & phát triển VnGPT: Cộng đồng người dùng VnGPT | Facebook

👉Hỗ trợ sử dụng trực tiếp trên Zalo: [Zalo] Hỏi đáp cách dùng VnGPT

👉 Báo cáo "Nhu cầu theo dõi, ứng dụng AI của người Việt": http://bit.ly/3laqJ

👉 Ứng dụng Theo dõi tin tức AI miễn phí: VnAlert cho phép các cá nhân theo dõi bất kể thông tin gì xuất hiện trên truyền thông theo thời gian