Open-WebUI 설치 및 사용법 (Docker)

Open-WebUI 설치 및 사용법 (Docker)

사용하고 있는 로컬 PC에 llama나 Exaone 같은 오픈소스 AI를 사용하려고 한다면, 일반적으로 Ollama를 이용하여 사용하고 있는 PC에서 간단하게 설치할 수 있습니다.

하지만 이렇게 오픈소스 AI를 설치하고 사용하게 되는 경우 텍스트 기반의 CUI(Command User Interface) 환경이 제공되다 보니, 이에 익숙하지 않다면 다소 불편하게 느껴질 수 있죠.

그렇기에 이번 포스팅에서는 ChatGPT나 Claude와 같이 생성형 AI들과 유사한 환경에서 사용할 수 있는 Open-WebUI 설치 및 사용법에 대해서 알아보려고 합니다.

Docker를 이용하면 Open-WebUI를 손쉽게 설치하고 사용할 수 있으니 밑에서 함께 해보도록 하죠.

1. Open-WebUI란?

Ollama를 이용하여 오픈소스로 제공되는 AI 모델을 설치하고 사용하는 경우, 일반적으로 명령 프롬프트(CMD) 환경에서 사용하게 됩니다.

하지만 이러한 CUI(Command User Interface) 환경은 ChatGPT, Gemini와 같은 생성형 AI의 UI에 비해 불편하기도 하고 익숙하지 않다 보니, 사용하다 보면 아쉬움이 느껴질 수 있습니다.

이런 경우에는 Open-WebUI를 사용하면 ChatGPT나 Gemini와 같은 생성형 AI들과 동일하게 웹페이지 상에서 친숙한 UI로 사용하는 것이 가능합니다.

Docker를 이용하여 Open-WebUI를 설치하게 되면, 로컬 PC에 설치된 오픈소스 AI 모델들을 간단하게 선택하고, ChatGPT나 Gemini와 같은 UI로 사용할 수 있습니다.

그럼 Docker 설치부터 Open-WebUI 설치 및 사용법에 대해서 알아보려고 하는데, Ollama로 오픈소스 AI 모델을 설치하지 않으신 분들이라면 아래 포스팅을 참고해주시면 되겠습니다.

Open-WebUI를 설치하는 방법은 여러가지가 있지만 Docker를 이용하면 쉽게 설치할 수 있으므로 위의 Docker 공식 홈페이지 링크 -> Download Docker Desktop 순서로 클릭해주시면 됩니다.

이후에는 사용하시는 OS에 맞게 선택해주시면 되는데, 윈도우를 이용하고 계시는 분들이라면 Download for Windows – AMD64를 클릭하고 다운 받은 뒤 실행해주시면 되겠습니다.

Docker 설치 파일을 실행하면 Configuration 화면에서 OK만 눌러주시면 자동으로 설치가 진행됩니다.

이후 Docker 설치가 완료되면 Close and restart를 눌러 PC를 재부팅 해주시면 끝입니다.

PC 재부팅이 완료되면 간단하게 구독 서비스 약관에 동의하고, Use recommended settings를 선택하고 Finish를 눌러주시면 됩니다.

로그인 창이 나오면 계정을 생성하거나 구글 연동 등을 통해 로그인을 완료하고 Docker가 실행될 준비를 하는 동안 밑의 내용을 참고하여 Open-WebUI를 설치 해주시면 되겠습니다.

그럼 위의 Open-WebUI 공식 홈페이지 링크를 클릭하여 사이트에 접속한 뒤, Get Open-WebUI를 눌러 주시면 Open-WebUI Github 페이지를 확인할 수 있습니다.

화면을 밑으로 내리면 Open-WebUI의 기능과 설치 방법을 알 수 있는데요. 여기에서는 Quick Start With Dock 밑의 Installation with Default Configuration 부분을 참고해주시면 됩니다.

위와 같이 Ollama가 컴퓨터에 설치되어 있는 경우 또는 다른 서버에 있는 등의 다양한 상황에 맞는 명령어를 볼 수 있습니다.

그럼 Ollama가 로컬 PC에 설치되어 있으니 첫번째, If Ollama is on your computer의 우측 하단에 보이는 아이콘을 눌러 명령어를 클립보드로 복사해보도록 하죠.

이후에는 윈도우의 명령 프롬프트(CMD)를 관리자 권한으로 실행하고, 입력이 활성화 되면 우클릭을 눌러 복사한 명령어를 붙여넣고 엔터를 눌러주시면 됩니다.

그럼 Open-WebUI가 다운로드 및 설치되는 과정을 볼 수 있는데, 해당 프로세스가 완료되면 PC에 설치된 Docker를 실행해주시면 되겠습니다.

Docker Desktop으로 돌아오게 되면, 아까와는 다르게 Containers에 Open-WebUI가 보이게 되는데요. 여기서 Port(s)에 보이는 3000:8000 부분을 클릭해주시면 간단하게 실행할 수 있습니다.

그럼 방금 전 Open-WebUI의 공식 홈페이지와 비슷한 페이지의 하단에 Get Started를 클릭하고 관리자 계정을 생성해주시면 됩니다.

그럼 ChatGPT나 Gemini와 같은 생성형 AI들과 동일하게 웹페이지 상에서 거의 유사한 UI를 통해 로컬 PC에 설치한 오픈소스 AI 모델들을 사용할 수 있습니다.

이후에는 좌측 상단의 모델명을 눌러 설치된 오픈소스 AI 모델을 선택하고, 채팅창에 원하는 내용을 입력하여 사용해주시면 됩니다. (이 외에도 음성 답변 모드 등을 사용할 수 있음)

끝으로 Open-WebUI를 이용하여 오픈소스 AI 모델의 사용을 완료하였다면, Docker, Ollama를 종료합니다.

이후 명령 프롬프트(CMD)를 관리자 권한으로 실행 -> wsl –shutdown 명령어를 입력하여 vmmem(WSL)을 종료해주셔야 하는데요.

그렇지 않으면 vmmem(WSL)이 지속적으로 높은 수치의 메모리를 점유하여, 전체적인 PC 속도나 사용에 지장이 있을 수 있으니 잊지 않고 진행해주시면 되겠습니다.