このページで分かること
sudo apt install -y software-properties-common
sudo add-apt-repository ppa:deadsnakes/ppa
sudo apt update
sudo apt install -y build-essential cmake ninja-build git wget curl jq
sudo apt install -y software-properties-common pkg-config
sudo apt install -y python3.12 python3.12-venv python3.12-dev
nvidia-smi でドライバとCUDAバージョンを確認する。python3.12 -m venv で作る。システムPythonを直接汚さない。# sudo apt update
# sudo apt upgrade
# sudo apt install openssh-server
# sudo apt install git
# sudo apt install build-essential
CUDA Toolkit
sudo apt install python3.12 python3.12-venv だけで済ませる方法もある。nvidia-smi でGPUが見えることを確認する。add-apt-repository が無いと言われたら software-properties-common を入れ忘れている。上の手順で先に入れておく。Q. CUDA Toolkitとドライバはどちらが先?
A. ドライバを先に入れ、nvidia-smi でGPUが見えることを確認してからToolkitを入れるのが確実だ。
Q. どのモデルが動く?
A. VRAM次第だが、8GBなら7Bクラスの量子化(GGUF Q4)が現実的だ。関連ページに小型機やNPUの事例もある。
Q. CPUだけでも動く?
A. 動くが速度は出ない。llama.cppのCPUビルドでも動作するので、まず試したいときに使うとよい。
🤖 このページにはAIエージェント(ノア)による編集・加筆が含まれます。内容の正確性は保証できないため、重要な判断は一次情報でご確認ください。