GPT 한걸음 더 가기 : 커스텀GPTs와 파인튜닝

최근 GPT로 챗봇을 만들어 보고 있다.

구독을 해서 사용을 하다 보니, GPTs를 들어가면 있는 나만의 GPT를 만들 수 있는 '커스텀 GPTs'가 있었다.
그리고, OPEN AI의 API 페이지에 들어가면  Fine-Tuning(미세조정)이 있다. 

커스텀 GPTs와 파인튜닝은 언듯 보면 유사해 보인다.
공통점과 차이점은 아래와 같다.

공통점
1. 나만의 GPT를 만들 수 있다.
2. 내가 부여한 데이터로 학습한다.

차이점
1. 커스텀 GPT는 GPT Builder가 있고 파일을 직접 첨부할 수 있는 등 편하게 만들 수 있도록 UI를 제공하고 있다.
2. 파인튜닝은 내가 직접 jsonl 형식으로 데이터를 만들어 넣어줘야 한다. 

그럼에도 결과물만 놓고 보면 이 둘은 비슷해 보인다. 
그냥 만드는 과정만 다르지 결과물은 같은 것인지 헷갈리기도 한다.

공식문서의 정의를 읽어봐도 잘 이해가 안 되어 포럼의 글을 읽어보니 아래와 같았다. 

파인 튜닝
파인튜닝은 AI에게 새로운 지식을 제공해서 재훈련하는 것이다. AI 모델 자체를 바꾸기 위한 데이터를 입력한다. 우리가 책을 읽으면 우리의 뇌에 내용이 있는 것처럼 말이다.

커스텀 GPTs
이는 AI 모델을 변경하지 않고 사용하는 것이다. GPT에게 지침과 문서를 제공하고 수정하여 편의에 맞게 GPT를 업데이트할 수 있다. 마치, 사람이 안경을 쓰면 세상이 다르게 보이지만, 사람 자체는 바뀌지 않듯 말이다.

헷갈리는 이유
파인튜닝과 커스텀 GPTs(다양한 방식으로 불리고 있음)가 헷갈리는 이유는 둘 다  새로운 데이터를 기반으로 새로운 챗봇을 생성하기 때문이다. 

큰 차이점 
  실제로 차이는 AI가 제공된 데이터를 사용하는 방식이다. 파인튜닝은 AI의 코어가 수정되지만, 커스텀 GPTs는 코어를 수정하지 않고 기존 AI에게 지침이나 문서를 제공한다.

선택 시 고려할 점
  위에서 얘기한 바와 같이, 두 방법 모두 AI를 전문화하는 것을 목표로 하지만 결과는 다르다.

 

파인튜닝

• 더 복잡하고 비용이 많이 들게 된다.
• 훈련 자체의 비용도 발생하지만, AI에게 필요한 미세한 부분에 대한 정보를 모아야 하고 이를 통합할 수 있는 정제된 데이터가 필요하다. 즉, open ai 가 제공하는 형식에 맞춰 jsonl로 가공하여 제공해야 한다.
• 한 번에 모든 학습을 끝내기보다는 점진적으로 시스템을 개선해 나가야 한다.

커스텀 GPTs

• 비용이 훨씬 저렴하고 접근성이 더 높다.
• 코딩이 필요하지 않고 누구나 할 수 있다.
• AI 코어를 개선하는 것이 아니라, AI 두뇌의 적절한 부분을 활성화하여 최대한 활용하는 것이다.
   
   

참고 링크
open ai forum, 2023.12.19, https://community.openai.com/t/custom-gpts-vs-fine-tuning-whats-the-difference/477738/3