로그인

검색

[ollama, web-ui] ollama docker 설치 (feat. oracle cloud freetier)

[ollama, web-ui] ollama docker 설치 (feat. oracle cloud freetier)

 

 

1. ollama-webui 설치

sudo docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v /vo2/docker/ollama-webui:/app/backend/data --name ollama-webui --restart always ghcr.io/ollama-webui/ollama-webui:main

 

 

2. ollama 설치

sudo docker run -d -v /vo2/docker/ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama

 

 

3. 접속하기 ; localhost:3000

 

 

** 본인의 경우, hestiacp 가 bare metal 에 설치되어 있어서, iptables 에서 11434 포트를 열어줘야 합니다.

 

 

4. ai model 설치 하기

 

image.png

 

 

5. simple modelfile 설치하기 ; https://ollamahub.com

 

영어선생님 설치

image.png

 

 

6. 노트북 마이크 적용하기

 

 

 

총평

- 나만의 AI 를 가질 수 있어서 좋으나, 오라클프리티어 성능으로는 작동이 무리네요. (ARM 24G RAM)

 

아래와 같이 'hi' 를 했는데, 답변은 60초 후에 표시 됩니다.

그동안 CPU 100% 를 찍고 있습니다.

 

Untitled-4 copy.JPG

 

 

Untitled-3 copy.JPG

 

 

이 게시물을

이 댓글을 삭제하시겠습니까?