Ôi dào, tớ mày mò cài đặt AI local hoặc cloud được tầm hai tuần nay rồi.
Mục tiêu của tớ là tìm cách chạy một hệ thống, local hoặc online mà giá cả phải chăng, có thể xử lý hàng ngàn trang PDF và ghi chú lại những thông tin quan trọng, hoặc đánh dấu các từ khóa/cụm từ quan trọng trong các file PDF đó.
Vấn đề:
File PDF tớ đang dùng là sách giáo khoa, và tớ phải viết tay toàn bộ ghi chú, nên muốn có cái gì tự động hơn để xem lại toàn bộ sách và đánh dấu những chỗ cần ghi chú, để sau này ôn thi.
Tớ đã thử nhiều cách khác nhau, hầu hết đều bắt đầu với Chat with RTX. Chat with RTX trông như hệ thống hoàn hảo dành cho tớ, nhưng khâu cài đặt lại khó hơn bao giờ hết, trong khi tưởng chừng chỉ cần chạy file exe và mở chương trình thôi.
Rồi tớ thử LM Studio với vài model khác nhau, nhưng không hiểu sao, các model này không bằng ChatGPT 4 tí nào. Thử LM Studio không được, tớ lại thử đủ thứ khác (GPT4All, H2O ai, và Flowise). Tớ mới chỉ nghịch AI ngoài Chat GPTthôi, nên hiểu biết về mấy thứ này vẫn còn gà lắm.
Điều tớ muốn đạt được:
Giờ tớ đang tìm cách khác để hệ thống này hoạt động. Tớ có vài ý tưởng, và ý tưởng khả thi nhất là cho ChatGPT 4 ăn khoảng 5-10 trang nội dung một lúc và bảo nó ghi chú, đánh dấu các từ khóa và cụm từ quan trọng. Upload từng file PDF một rồi chờ phản hồi thì mất thời gian lắm. Nhưng tớ nghĩ cách này nhẹ nhàng hơn cho hệ thống AI vì không phải xử lý 1000+ trang PDF cùng lúc.
Điều tớ muốn biết:
Có cách nào tự động hóa việc này trên cloud/local không? Tớ không ngại trả tiền nếu giải pháp đó hợp lý về giá cả.
Về Cloud, tớ thấy OpenAI là lựa chọn tốt nhất vì GPT4 turbo có context window rất rộng, có ích cho việc này.
Về Local, tớ sẵn sàng thử các hệ thống khác. Tớ cũng muốn tìm cách kết nối với OpenAI nhưng giữ dữ liệu ở local.
Cảm ơn trước nha!
