1ft-seabass.jp.MEMO

ワンフットシーバス.メモ > memo [名] 覚え書き, 控え書き, 葉書, 端書き

Termux に Ollama をインストールするメモ

Termux に Ollama をインストールするメモ

Termux に Ollama をインストールするメモです。

背景

Android で良い感じにターミナルというか Linux が動く Termux で、ローカル LLM が手軽に動かせる仕組み Ollama を動かせないかなあと調べていました。

ひとまず、Anon4You/ollama-in-termux: Simple script to install ollama in termux といった複雑なインストール方法や Proot を使った仮想 Linux 環境での実行などで、これはちょっと複雑すぎるなあー。と思ってたところ、さらに情報追いまして、

[Package]: ollama · Issue #18902 · termux/termux-packages

こちらでTermux公式パッケージ追加リクエストからの正式パッケージ認定があったようで pkg install ollama のシンプルインストールが可能になったのでやってみます。

Ollama インストール

Pixel 10 Pro・Pixel 8 にインストールしました。

pkg update && pkg upgrade

パッケージの更新を行っていなければ行っておきます。

pkg install ollama

公式の ollama パッケージをインストールします。

Selecting previously unselected package ollama.
(Reading database ... 4021 files and directories currently installed.)
Preparing to unpack .../ollama_0.11.8_aarch64.deb ...
Unpacking ollama (0.11.8) ...
Setting up ollama (0.11.8) ...

このようなログが出て無事インストールされます。

なお、この時点で自動起動されていました。

いちおう起動しているかは

ps aux | grep ollama

で ollama serve が気づいしているか、確認しつつ、もし起動してなければ、

ollama serve

で起動します。

pkill ollama

Ctrl+C か、こちらのコマンドで終了できます。

モデルのインストール

ollama server で起動できていれば、

ollama run llama3.2:1b

で以下のようにモデルをインストールできます。

モデル一覧 ollama list ももちろん動作します。

実際に動作させてみると llama3.2:1b で

  • Pixel 10 Pro
    • Hello! と打っておおよそ 15 秒後に返答
  • Pixel8
    • test と打っておおよそ 20 秒後に返答

くらいの動作でした。Pixel のパワーだとそれほど動作の違いはなかったです。ただスマホの場合いろいろなアプリが動いているので、何度か動かして平均値とったほうがいいかもですが、ひとまず、うまく動いています。

余談：メモリ不足でモデルが起動しないときがある

Pixel 10 Pro だとメモリが比較的潤沢にあり問題なく動いていました。ただ Pixel 8 だと他のアプも起動していてメモリを消費していると起動できないときがありました。

他のアプリを終了したらメモリ解放されて、使うことができました。