CT31 v0.6 — Local AI
Bản này không còn dùng regex/template làm bộ giải chính.
Cách hoạt động
- VS Code extension gửi đề bài cho
llama-cli chạy trên chính máy.
- Model đề xuất:
Qwen2.5-Coder-1.5B-Instruct-GGUF Q4_K_M.
- 7 đáp án mẫu được nhúng vào system prompt như chuẩn phong cách, không phải dữ kiện cố định.
- Model được bắt buộc lấy số liệu, môn học, công thức và điều kiện từ đề hiện tại.
- Kết quả được yêu cầu chỉ là code Python cơ bản.
Offline
Khi llama.cpp và file .gguf đã có trên máy, extension không cần Internet.
Cài AI
Chạy:
scripts/START_SETUP_AI.bat
Sau đó trong VS Code:
Ctrl+Shift+P
Python Solver: Cấu hình AI chạy cục bộ
- Chọn
llama-cli.exe và file model .gguf
- Chạy
Python Solver: Kiểm tra AI cục bộ
Vì sao không nhét model thẳng vào VSIX?
Model khoảng 1.12 GB. Tách model khỏi extension giúp:
- extension nhẹ;
- dễ cập nhật;
- có thể copy model qua USB cho máy không mạng;
- không phải tải lại model mỗi lần cập nhật extension.
| |