DGX SparkにOpen WebUIをインストールしてOllamaを使う

NVIDIA公式の手順を参考にした上で、Llama-3-ELYZA-JP-8Bをインストールするまでの手順。メモ。

Dockerにアクセス

docker ps

たぶん、パーミッションで弾かれるので…

sudo usermod -aG docker ＜ユーザー名＞
newgrp docker

もう一度チャレンジ！

docker ps

これでエラーが出なければOK

公式の説明によるとここでNVIDIA Syncをインストールした別PCから設定します。

NVIDIA Syncからターミナルを開く。

docker pull ghcr.io/open-webui/open-webui:ollama

NVIDIA Syncの設定画面から「Custom」タブを開く。

名前：任意の名前

ポート：12000

Auto open in browser at the following pathをチェック

Start Script：書きをコピペ

#!/usr/bin/env bash
set -euo pipefail

NAME="open-webui"
IMAGE="ghcr.io/open-webui/open-webui:ollama"

cleanup() {
  echo "Signal received; stopping ${NAME}..."
  docker stop "${NAME}" >/dev/null 2>&1 || true
  exit 0
}
trap cleanup INT TERM HUP QUIT EXIT

# Ensure Docker CLI and daemon are available
if ! docker info >/dev/null 2>&1; then
  echo "Error: Docker daemon not reachable." >&2
  exit 1
fi

# Already running?
if [ -n "$(docker ps -q --filter "name=^${NAME}$" --filter "status=running")" ]; then
  echo "Container ${NAME} is already running."
else
  # Exists but stopped? Start it.
  if [ -n "$(docker ps -aq --filter "name=^${NAME}$")" ]; then
    echo "Starting existing container ${NAME}..."
    docker start "${NAME}" >/dev/null
  else
    # Not present: create and start it.
    echo "Creating and starting ${NAME}..."
    docker run -d -p 12000:8080 --gpus=all \
      -v open-webui:/app/backend/data \
      -v open-webui-ollama:/root/.ollama \
      --name "${NAME}" "${IMAGE}" >/dev/null
  fi
fi

echo "Running. Press Ctrl+C to stop ${NAME}."
# Keep the script alive until a signal arrives
while :; do sleep 86400; done

Addボタンをクリックして保存。

タスクバーにあるNVIDIA Syncアイコンをクリックすると、先程名前をつけた項目が出現するのでクリック。

Open WebUIが起動します。

画面下部の「はじめる」ボタンから管理者アカウントを作成。

左上の「モデルを選択」をクリックして検索に下記を入力。