ChatGPT 의 업데이트 소식 새로운 임베딩 모델 그리고 GPT 업데이트

안녕하세요 Simon 입니다.

오늘은 GPT 의 새로운 업데이트 소식과 유용한 기능의 업데이트 소식을 전달해드리려고 합니다.

 

새로운 Embedding 모델의 업데이트와 API 의 업데이트 , 그리고 ChatGPT 의 멘션기능까지 OpenAI 가 업데이트를 하였습니다.

New Embedding blog

 

지난 1월 4일 부로 기존에 쓰던 임베딩 모델이 없어지고, text-embedding-ada-002를 곧 쭉 쓰고 있었습니다. 파라미터의 변화로 인해서 Embedding() 모델을 선언할떄 디폴트 값이 사라져서 선언이 안되서 모델 이름을 넣어주곤 했는데요. 드디어 Open AI 에서 새로운 임베딩 모델을 가지고 나왔습니다. 그 이름은 text-embedding-3-small, large 입니다. 3탄이란 뜻 같아요.

 

기존보다 벤치마크 성능이 많이 올라간걸 볼수가 있는데요. 스몰 모델 같은 경우에는 기존 ada 보다 개선이 되었음에도 불구하고 페이지당 처리할 수 있는 달러의 비용이 5배가량 증가 하였습니다. MTEB 지표또한 라지모델같은경우 3%이상의 성능이 올라가며 기존에 ada 를 쓰는사람이라면 3모델을 안 쓸 이유가 없게 되었습니다.

 

두번째로는 GPT-3.5 Trubo 의 가격 인하 소식입니다. 곧 업데이트가 될거라고 하는데요 기존 가격보다 50%를 인하해서 토큰당 0.0005 달러로 인하한다는 소식이 있습니다. 출력가격은 25% 인하해서 0.0015 달러 정도 예상이 되고 있습니다. 이에 따라 파인튜닝 가격도 내려간다면 정말 파인튜닝이 이전, GPT 인퍼런스 정도의 가격이되어서 누구나 쉽게 GPT3.5turbo 로 파인튜닝의 모델을 가져서 LLM을 사용할 수 있지 않을까 생각이 듭니다. 아직 GPT4- finetunning 소식은 없는거 같습니다.

 

GPT-4

마지막으로 GPT-4의 업데이트 소식입니다. turbo 모델이 01/25 시점을 통해 업데이트가 된 모습입니다. 설명으로는 멍청한 부분을 개선을 했다고하는데 가격이나 낮춰주면 얼마나 좋을까란 생각이 많이 드네요. 그래도 GPT-4-turbo 의 장점인 Context WIndow가 12.8k 는 진짜 매번 쓸때마다 놀라운 것 같습니다. 물론 Max Token 이 늘어나고 그런거 같진 않습니다. 그래도 모델이 긴 책을 요약할 수 있는 컨텍스트 윈도우 사이즈를 가진다는게 OpenAI 기술력이 정말 놀랍다고 생각이 듭니다.

 

현재 가격은 위와 같습니다. 0.01 달러이기 때문에 굳이? GPT-4를 써야하나 생각이 드네요 ㅎㅎ

 

여기까지 open AI 의 업데이트 소식을 전해드리고 이만 글을 마치겠습니다. 감사합니다