[Python] Gpt4Free 여러 LLM모델을 무료로 써보기

https://github.com/xtekky/gpt4free

GitHub - xtekky/gpt4free: The official gpt4free repository | various collection of powerful language models

 

https://www.aitimes.com/news/articleView.html?idxno=150737

'GPT-4' 무료로 이용할 수 있는 'GPT4Free' 화제 - AI타임스

 

 

GPT4는 한달에 20$로 약 2만 6천원 가량의 금액을 매달 사용료를 내야 되는데, 결제 시스템을 속여서 무료로 사용할 수 있는 프로그램이라고 한다.

딱 봐도 불법이긴한데, 개발자는 "처음에는 재미를 위한 것이었지만, 이제는 GPT-4를 이용할 수단이 없는 사람들에게 교육적인 목적으로 제공하려고 제공했다" 라고 한다.

지금 글을 쓰는 24년 02월 25기준으로 아직 동작하고 있다.

GPT외에도 Gemini, LLama 모델들도 제공하고 있다.

궁금하니 한번 써보자

(혹시 모르니 회사 컴퓨터나 공용 컴퓨터에서는 하지말자)

 

설치방법은 git에 아주 간단하게 잘되어 있다.

도커방식과 로컬설치 방식 두가지로 나뉜다.

OS는 Windows11에서 진행한다.

도커방식이 오류도 없고 설치가 빠르니 도커방식으로 사용해보자,

혹시 도커가 설치되지 않았다면 먼저 도커를 설치해주자

https://www.lainyzine.com/ko/article/a-complete-guide-to-how-to-install-docker-desktop-on-windows-10/

윈도우 Docker 설치 완벽 가이드(Home 포함)

 

설치가 다 된후, DOCKER를 켜준다.

 

 

 

해당 명령어를 docker에 실행해준다.

docker run -p 8080:8080 -p 1337:1337 -p 7900:7900 --shm-size="2g" hlohaus789/g4f:latest

 

하면 Docker image를 설치하고 컨테이너를 만들어준다.

 

해당 화면이 나타나게 된다면, 성공적으로 작동하는 것이다.

http://127.0.0.1:8080 해당 주소를 크롬에서 접속해보자

 

해당 화면을 볼 수 있다.

 

지원해주는 여러 LLM모델을 확인 할 수 있다. 현시점에서 gpt와 llama만 동작하고 gemini는 오류가 발생한다.

gpt-4를 사용해보자

 

 

정식 프로그램이 아닌 만큼 지원이 됬다가 안됬다가 하기도 한다.

 

프로젝트로 사용하긴 어렵고,

여러 LLM모델을 한번에 비교할 때, 유용하게 사용될 수 있다고 생각된다.