Ollamaのサイトを表示しDownloadをクリックします。

Download for Windowsをクリックします。

以下のファイルがダウンロードされました。 右クリックして管理者として実行を選択します。

Installをクリックします。

インストールが始まりました。

そのまま起動したようです。

コマンドプロンプトでOllamaのバージョンを確認してみます。

Modelsをクリックしモデルを確認します。

モデル名の下に表示されている1bや3bなどはパラメーター数を表していて1 billionは10億パラメーターということのようです。 大きいものは容量も大きいようなので今回はllama3.2の1bを使ってみようと思います。

llama3.2をクリックします。

llama3.2:3bがlatestとなっておりSizeは2.0GBと記載されています。 llama3.2:3bをクリックします。

llama3.2:3bの情報が表示されました。

modelを見てみましたがllama 3.2:3bは見当たりませんでした。

コマンドプロンプトから手動でモデルを取得してみます。

Ollamaでモデルをみたところllama3.2:3bが表示されたので選択します。

llama3.2:3bが設定されました。

インストールされているモデルを調べてみます。

Ollamaをllama3.2:3bを指定して起動します。

「あなたは誰ですか？」と入力しEnterを押します。

>ollama run llama3.2:3b
>>> あなたは誰ですか？
僕は、Meta エンジニアです。僕の目的は、回答で利用可能な情報を提供し、
ユーザーの質問に正確で有用な答えを得られるようにすることです。僕は 
continual learning を行っています。これ means僕が知識を取得し、更新
するために、学習数据を分析して、僕の知識を拡張します。

>>> Send a message (/? for help)

GUIの方でも「あなたのモデルを教えてください」と入力しEnterを押したところ回答が表示されました。

正常に動作しているようです。

/byeで抜けます。

モデルを削除します。

モデルを確認したところ何も表示されませんでした。

今回使用したコマンドは以下になります。

関連項目

ローカルLLM② Python+OpenAI API

▲ PageTop  ■ Home