본문 바로가기
Bigdata

머신러닝/딥러닝 - 무료 ChatGPT/Local LLM 웹 인터페이스 Top 7

by 올엠 2024. 6. 8.
반응형

OpenAI의 ChatGPT/LLM과 같은 서비스를 개발/학습할 때 Gradio를 이용해서 간단히 만들 수 도 있지만, 이보다 OpenAI와 같은 웹 인터페이스를 제공하는 멋진 템플릿을 활용 할 수 있어서 여기에 5가지 현재 잘나가는 무료 ChatGPT/Local LLM 웹 인터페이스 를 소개해 보고자 한다.

0. Gradio text-generation-webui

Download https://github.com/oobabooga/text-generation-webui

Python을 이용해서 가장 쉽게 만들수 있는 Gradio에 웹 인터페이스를 보다 풍성하게 만들어주는 기능을 한다.

 

1.ngxson alpaca.cpp-webui

Download https://github.com/ngxson/alpaca.cpp-webui 

가장 깔끔한 버전으로 히스토리와 Clear 기능을 가지고 있다.

 

0번과 1번은 Local LLM으로 맞춰진 템플릿이다.

2번 부터는 OpenAI와 연결이 기본이고, 탬플릿을 확인하여 부분적인 수정을 통해서 Local LLM 으로 활용이 가능하다.

2. Horizon ChatGPT AI

Download https://github.com/horizon-ui/chatgpt-ai-template

 

화이트/다크 테마를 지원하면서 가장 깔끔한 화면을 제공하는 것으로 보인다.

OpenAI와 통신을 기본적으로 제공하고 있고 만약 Local LLM과 연결하고자 한다면, 아래 /src/utils/charStream.ts 파일을 수정하면 가능할 것으로 보인다.

무료 버전은 기본적인 채팅기능을 제공하고, 유료 버전에서는 다양한 플러그인을 통해서 기능을 추가가 가능하다.

라이브 데모 사이트도 제공하므로 방문하여 사전에 쉽게 테스트해볼 수 있다.

3. mckaywrigley Chatbot UI

Download https://github.com/mckaywrigley/chatbot-ui

개인이 제작하여 공유한 템플릿으로 가장 OpenAI UI와 흡사하다.

아래, 히스토리를 바로 가져오기나 내보내기가 가능하고, OpenAI API Key 버튼을 통해 쉽게 API key를 등록이 가능하다는 점도 장정이라고 할 수 있으며, OpenSource 이기 때문에 추가적인 플러그인등도 등록할 수 있어서 앞으로 발전 가능성이 높다고 할 수 있다.

 

4. WongSaang chatgpt-ui

Download https://github.com/WongSaang/chatgpt-ui

역시 OpenSource로 무료로 사용이 가능한 VueJS 기반으로 개발된 템플릿이다. 특이점은 Server 버전도 제공하는데 Django 베이스로 개발이 되어 있다. 기본적으로 데이터베이스를 활용하여 Multi User를 지원하는 부분도 장점이다.

 

5. ztjhz BetterChatGPT

Download https://github.com/ztjhz/BetterChatGPT

OpenSource로 무료로 제공된다. 히스토리 및 구글 동기화등 다양한 기능을 제공하며, 위 API의 파라메터를 설정하거나 OpenAI에게 System 메세를 통해 사전에 지시를 할 수 있는 부분도 강점이라고 할 수 있다.

 

6. Yidadaa ChatGPT-Next-Web

Download https://github.com/Yidadaa/ChatGPT-Next-Web

다중 플랫폼을 지원하는 Chatbot 플랫폼이다.



 

반응형