Ollamaの導入

 SOP 1.0


※自己責任で。

※環境・ヴァージョンで異なるケースも予想される。


  1. 目次
    1. ソフトウェア ヴァージョン
    2. Ollamaインストール
    3. AIモデルのダウンロードから導入、基本的なコマンド
    4. 動作画面例
  1. ソフトウェアヴァージョン
    1. Ollama（2025.12.26ダウンロード）
    2. Windows 11 Home 24H2
    3. AIモデル例

      1. モデル推定パラメータ数 推奨VRAM (4-bit)RAM
        Llama 3.21B1.5GB4GB以上
        標準, 高速3B2.5GB8GB以上
        11B (Vision)8-10GB16GB以上
        Gemma 22B2GB8GB以上
        Google製,  論理性良9B7-8GB16GB以上
        27B18-20GB32GB以上
        DeepSeek-R11.5B1.5GB4GB以上
        (蒸留版)8B6-7GB16GB以上
        推論特化14B10-12GB24GB以上
        32B22-24GB48GB以上
        70B45-50GB64GB以上
      2. ファイルサイズ推定パラメータ数 主なモデル例
        約 1.0 GB 〜 1.5 GB1B 〜 1.5BLlama 3.2 (1B),
        DeepSeek-R1 (1.5B)
        約 2.0 GB 〜 2.5 GB3BLlama 3.2 (3B)
        約 4.7 GB 〜 5.5 GB7B 〜 9BLlama 3.1 (8B) 
        Gemma 2 (9B)
        DeepSeek-R1 (8B)
        約 8.5 GB 〜 10 GB11B 〜 14BLlama 3.2 (11B),
        DeepSeek-R1 (14B)
        約 18 GB 〜 21 GB27B 〜 32BGemma 2 (27B)
        DeepSeek-R1 (32B)
        約 40 GB 以上70B 〜Llama 3.3 (70B),
        DeepSeek-R1 (70B)
  2. Ollamaインストール
    1. Ollama公式サイトからOllamaSetup.exeをダウンロード
    2. 実行、Installを押す

  3. AIモデルのダウンロードから導入、基本的なコマンド
    ※OllamaはGUIとCLIを持つ。
    ※CLIでの導入を紹介する。
    カテゴリ入力タイミングコマンド内容・用途
    実行・対話モードコマンドプロンプトollama run <モデル名>モデルを起動し対話モードに入る
    ※モデル未導入ならDLも開始
    オプション例任意のモデルサイズを指定する方法
    Llama 3.2
    1B (軽量): ollama run llama3.2:1b
    3B (標準): ollama run llama3.2:3b
    11B (画像対応マルチモーダル): ollama run llama3.2:11b

    Gemma2
    2B: ollama run gemma2:2b
    27B: ollama run gemma2:27b

    DeepSeek-R1
    1.5B (軽量): ollama run deepseek-r1:1.5b
    14B (中量): ollama run deepseek-r1:14b
    32B (重量): ollama run deepseek-r1:32b
    管理（確認）コマンドプロンプトollama listインストール済みのモデル一覧を表示
    管理（稼働）コマンドプロンプトollama show <モデル名>モデルの詳細情報を表示
    管理（稼働）コマンドプロンプトollama ps現在メモリ(RAM/VRAM)にロードされているモデルを表示
    導入コマンドプロンプトollama pull <モデル名>モデルのダウンロード（インストール）のみを行う
    削除コマンドプロンプトollama rm <モデル名>不要になったモデルファイルを削除
    解放コマンドプロンプトollama stop <モデル名>メモリに常駐しているモデルを終了・解放
    作成コマンドプロンプトollama create <名> -f Modelfile設定ファイル（レシピ）から自分専用のカスタムモデルを作成
    標準割り当てコマンドプロンプト（修飾タグ）:latest挿入すると、標準（開発者推奨）モデルが割り当てられる。
    例：ollama run llama 3.2:latest (8Bが割り当ての模様, 2025.12.00)
    モデルファイル特定コマンドプロンプト（修飾タグ）--modelfile挿入すると、モデルファイルのFROM（ベースモデル）、PARAMETER（動作設定）、TEMPLATE（会話の形式）、SYSTEM（システムプロンプト）が特定される。
    例：ollama show llama 3.2:latest --modelfile
    対話中Ollama/bye対話モードを終了し、コマンドプロンプトに復帰
    対話中Ollama/show info現在対話中のモデルの詳細情報を表示

  4. 動作画面例
    1. GUI

    2. CLI
      1. AIモデルを導入していないと、当然Listに表示されない。






      2. AIモデルを3タイプ導入








      3. AIモデルの詳細を表示



コメント

コメントを投稿

このブログの人気の投稿

Visual Studio CodeでのPython環境の構築と運用

イメージ
SOP 1.0 ※自己責任で。 ※環境・ヴァージョンで異なるケースも予想される。 目次 ソフトウェア ヴァージョン （間違えて入れた）Pythonアンインストール Pythonインストール Visual Studio Codeの設定 Visual Studio Codeの仮想環境による通常運用 まとめ -失敗からの想起とあわせて- 附記 -VSCodeでのPython設定（うまくいかない）- ソフトウェア ヴァージョン Visual Studio Code：1.107.1 Python：3.14.2 Windows 11 Home 24H2 （間違えて入れた）Pythonアンインストール ！Microsoft Store版のPythonをインストールすると、Python標準的な構成・場所にインストールしなくなる（ AppData・深層フォルダ・隠しフォルダなど 、Windowsへの依存度が高い）。結果、一般的なガイダンスで対応できなくなり、VS Codeでの使用難易度が上がる。 また、Windowsで移行が推奨されている上、Python公式でも配布されているpython-manager（Python Install Manager）経由でインストールすると、同様の問題が起きる。 Windows標準の アプリ > インストール から、以下をアンインストール Python 3.x  Python Launcher  （VSCと相性が悪い？）python-manager-X.X.msixやMicrosoft Store版からインストールした場合は、Python Install Manager（？）がインストールされており、当該を削除 手動で残渣を削除 %LocalAppData%\Programs\Python　で検索 > フォルダごと削除 %LocalAppData%\pip　で検索 > フォルダごと削除 環境変数のクリーンアップ ！環境変数のPATHを弄って問題を解決しようとした為、この処理が必要になった。このアプローチは本来的には行うべきではないと予想される。 システム環境の編集 > 環境変数 上段の ユーザー環境変数 の Path を選んで 編集 を押す PythonやScriptsの名前が入ったPathを削...
続きを読む

VSCodeのPython実行環境で、ブラウザ上からローカルAIを動かす（ケ号01）

イメージ
 メモ 概要 VSCode+Python+Ollamaのローカル環境 ブラウザ上で、チャット窓付のインターフェースを構築 ブラウザの多重起動を行うとハングるので、多重起動防止の措置も Ollamaライブラリをインストール ターミナルからpipでインストール pip install ollama Ollamaコントロール pip install streamlit Streamlitはブラウザ用のウィジットライブラリ（HTMLやJavaScriptにエンコードする） ソース import streamlit as st import ollama st . title ( "Local AI Chat by Ollama" ) # ブラウザのタイトル # 会話履歴を保存（ブラウザを更新しても消えないようにする） if "messages" not in st . session_state :     st . session_state .messages = [] # 過去のメッセージを表示 for msg in st . session_state .messages:     with st . chat_message ( msg [ "role" ]):         st . markdown ( msg [ "content" ]) # ユーザーの入力欄 if prompt := st . chat_input ( "メッセージを入力..." ):     st . session_state .messages. append ({ "role" : "user" , "content" : prompt })     # ユーザーのターン     with st . chat_message ( "user" ):         st . markdown ( prompt )     # AIのターン     with st . chat_message ( "assistant" ...
続きを読む