[ollama, web-ui] ollama docker 설치 (feat. oracle cloud freetier)

1. ollama-webui 설치

sudo docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v /vo2/docker/ollama-webui:/app/backend/data --name ollama-webui --restart always ghcr.io/ollama-webui/ollama-webui:main

2. ollama 설치

sudo docker run -d -v /vo2/docker/ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama

3. 접속하기 ; localhost:3000

** 본인의 경우, hestiacp 가 bare metal 에 설치되어 있어서, iptables 에서 11434 포트를 열어줘야 합니다.

4. ai model 설치 하기

5. simple modelfile 설치하기 ; https://ollamahub.com

영어선생님 설치

6. 노트북 마이크 적용하기

총평

- 나만의 AI 를 가질 수 있어서 좋으나, 오라클프리티어 성능으로는 작동이 무리네요. (ARM 24G RAM)

아래와 같이 'hi' 를 했는데, 답변은 60초 후에 표시 됩니다.

그동안 CPU 100% 를 찍고 있습니다.