Deepseek 편집하기 (부분)

==Web으로 서비스 연결하기==
Ollama는 기본적으로 text 베이스의 프롬프트로 동작을 확인한다.

이것을 웹브라우저를 통해서 서비스하는 방법은 다른 어플리케이션을 이용한다.

* [https://megastorage.tistory.com/507#4.1.%20%C2%A0%20Docker%20Desktop%20%EC%84%A4%EC%B9%98%C2%A0%C2%A0 Ollama 구성 full]
* [https://karuru1007.tistory.com/317 Web ui 설치하기]


* 설치 순서

# Docker Desktop 설치 - web ui 설치의 경우, docker container 자동 생성을 위해서 미리 설치
# [https://github.com/open-webui/open-webui Open Webui 설치] - local/Remote 및 GPU 설치 선택
# Docker Desktop에서 실행 


===Docker desktop 설치===
OS에 맞는 [https://docker.com Docker Desktop]를 선택하여 설치한다.

[[file:docker_desktop_01.jpg|500px]]

* 설치 과정 중에 에러
Ollama 설치 과정에서처럼 IIS 설정 (포트) 부분 에러 날 수 있다.

특히, hosts 파일을 docker desktop이 수정하므로 해당 파일 수정으로 인한 IIS 서비스가 먼저 기동될 수 있다.

hosts 파일 수정된 부분

위치: C:\Windows\System32\drivers\etc\hosts
<pre>
# localhost name resolution is handled within DNS itself.
        127.0.0.1       localhost
        ::1             localhost
# Added by Docker Desktop
10.13.169.221 host.docker.internal
10.13.169.221 gateway.docker.internal
# To allow the same kube context to work on the host and the container:
127.0.0.1 kubernetes.docker.internal
# End of section
</pre>

 에러의 경우, 127.0.0.1 부분을 마스킹 해준다 apache를 사용하는 경우 (특히 xampp 사용하는 경우)
 재부팅시, 다시 에러 나올 수 있음 - IIS 서비스가 먼저 기동

<pre>
# localhost name resolution is handled within DNS itself.
#        127.0.0.1       localhost
#        ::1             localhost
</pre>

===Open Webui 설치===
[https://github.com/open-webui/open-webui open webui]로 접속해서, 설치 방법 확인

* 설치시 구분해야 하는 것
#) Ollama가 local에 설치 되어 있는 것
#) Ollama가 Remote에 설치 되어 있는 것
#) GPU 사용 여부

* Ollama가 local에 설치되어 있는 경우
 docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

* Ollama가 Remote에 설치되어 있는 경우
'''OLLAMA_BASE_URL'''에 Remote의 주소를 부여한다.
 docker run -d -p 3000:8080 -e OLLAMA_BASE_URL=https://example.com -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

* GPU를 사용하는 경우: CUDA
 docker run -d -p 3000:8080 --gpus all --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:cuda

* 기타 
Single container image that bundles Open WebUI with Ollama, Utilize GPU resources by running the following command
 docker run -d -p 3000:8080 --gpus=all -v ollama:/root/.ollama -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:ollama

* Docker Desktop에서 container로 올라간 것 확인
[[file:docker_desktop_02.jpg|600px]]

* Open webui로 실행
[[file:open_webui_01.jpg|600px]]