話題のdeepseekをローカルで動かしてみた

はじめに

動作環境

MacBookAir M3 24GB

Ollamaのインストール

brew install --cask ollama
┌───(hitto@hot)-[~]
└─$ ollama --version
Warning: could not connect to a running Ollama instance
Warning: client version is 0.5.7

言われた通りのコマンドを打つ

┌───(hitto@hot)-[~]
└─$ ollama run llama3.2
pulling manifest 
pulling dde5aa3fc5ff... 100% ▕███████████████████████████████████████████████████████▏ 2.0 GB                         
pulling 966de95ca8a6... 100% ▕███████████████████████████████████████████████████████▏ 1.4 KB                         
pulling fcc5a6bec9da... 100% ▕███████████████████████████████████████████████████████▏ 7.7 KB                         
pulling a70ff7e570d9... 100% ▕███████████████████████████████████████████████████████▏ 6.0 KB                         
pulling 56bb8bd477a5... 100% ▕███████████████████████████████████████████████████████▏   96 B                         
pulling 34bb5ab01051... 100% ▕███████████████████████████████████████████████████████▏  561 B                         
verifying sha256 digest 
writing manifest 
success 
>>> こんにちは
こんにちは!どういたしまして?何か相談することがあれば、ぜひお聞きください。

>>> 大阪工業大学の情報科学部の学科について教えて
大阪工業大学(Osaka University of Science)的情報科学部(Faculty of Information Science)はいくつかの学科を構成して
います。

1. **情報科学学部**:この学部は、情報技術、データサイエンス、インフラストラクチャなどの分野を中心に教育を提供してい
ます。
2. **人工知能研究室**(Artificial Intelligence Laboratory):人工知能や機械リレーショNS、ロボティクスなどの分野で研
究を行っています。
3. **データサイエンス学部**:データ分析、ビジネスアナリシス、データビジネスなど、データが中心の分野を焦点に 
education を提供しています。
4. **コミュニケーションデザイン学部**:情報処理、コミュニケーション デザイン、メディアアートなどの分野で教育を提供
しています。

以上は大阪工業大学の情報科学部の主な学科ですが、学校の公式ウェブサイトや学部のHPから最新情報は得られます。

>>> Send 

DeepSeek-R1モデルをダウンロード

https://ollama.com/library/deepseek-r1

┌───(hitto@hot)-[~]
└─$ ollama run deepseek-r1
pulling manifest 
pulling 96c415656d37... 100% ▕███████████████████████████████████████████████████████▏ 4.7 GB                         
pulling 369ca498f347... 100% ▕███████████████████████████████████████████████████████▏  387 B                         
pulling 6e4c38e1172f... 100% ▕███████████████████████████████████████████████████████▏ 1.1 KB                         
pulling f4d24e9138dd... 100% ▕███████████████████████████████████████████████████████▏  148 B                         
pulling 40fb844194b2... 100% ▕███████████████████████████████████████████████████████▏  487 B                         
verifying sha256 digest 
writing manifest 
success 
>>> こんにちは
<think>

</think>

 greeting! How can I assist you today? 😊

>>> 大阪工業大学の情報科学部の学科について教えて
<think>
Alright, the user is asking about the Information Science Department of Osaka Prefecture University. They 
probably want detailed information about the programs, research areas, faculty, and application process.

First, I'll check the university's official website to gather accurate information. That way, my response will be 
reliable and up-to-date.

Next, I'll structure the information clearly, maybe breaking it down into sections like Program Overview, 
Research Focus, Faculty, Admissions, and Application Requirements. This makes it easy for the user to navigate 
through the details.

I should also mention any unique features or notable faculty members to highlight the university's strengths in 
the field of information science.

Finally, I'll offer further assistance if they have more specific questions, encouraging them to reach out if 
needed.
</think>

大阪工業大学(大阪府立大学)の情報科学部は、学部制の学科です。信息科学部は、情報技術や情報 managedefg 
technologies、人工知能、 데이터解析、 וכי-depth studyingが対象です。

### 学习内容
- **情報技術**:信息安全、ネットワーク技術、情報システムの設計と構築
- **人工知能・機械学習**:算法の研究、データ解析、応用開発

日本語のdeepseek

ollama run 

chat gptのようにする

docker で実行する

services:
  ollama:
    image: ollama/ollama
    container_name: ollama
    ports:
      - "11434:11434"
    volumes:
      - ollama:/root/.ollama
    # NVIDIA GPU を利用する場合は、以下のコメントアウトを外してください
    # gpus: all

  open-webui:
    image: ghcr.io/open-webui/open-webui:main
    container_name: open-webui
    ports:
      - "3000:8080"
    volumes:
      - open-webui:/app/backend/data
    environment:
      - WEBUI_AUTH=False
    extra_hosts:
      - "host.docker.internal:host-gateway"
    restart: always

volumes:
  ollama:
  open-webui:

強い環境持っていないので悲しい

chatGPT4の出たてくらいのカクカクでしか出力できなかった

← Go home