나만의 챗봇 Service해보기(1) - 결과부터 보자.

안녕하세요 Acorn입니다.

 

최근에 저는 기술의 발전에 매료되어 있습니다. 특히 LLM 분야에서의 급속한 진보가 놀라울 따름인데요. 이번 프로젝트는 LLM, 특히 RAG를 통한 CustomChatbot 제작을 위한 공부를 하고, Streamlit을 통해 서비스화를 시켜보았습니다. 

Streamlit은 데이터 사이언스와 머신 러닝을 위한 빠르고 사용하기 쉬운 앱 프레임워크입니다. Python 기반으로 작동하기 때문에, 저와 같은 개발자들에게 친숙한 환경에서 작업할 수 있었습니다. Langchain은 최신의 언어 모델을 사용하여 다양한 언어 작업을 수행할 수 있는 라이브러리입니다. 이 두 도구를 결합하여, 쉽고 빠르게 서비스화할 수 있는 챗봇 프로젝트를 제작하였습니다.

 

아래 사이트는 제가 제작한 챗봇 사이트입니다.

http://www.iamacorn.p-e.kr:8501/

Streamlit

AWS의 프리티어 요금제로 운영되는 사이트라 local에서는 잘 돌아갔지만, 서비스 사이트에서는 조금 느리게 돌아가 아쉬웠습니다.

 

 

사이트에 들어가면 위 사진처럼 질문 입력창이 있고, 챗봇이 "뭐 물어보고싶어?" 라고 다소 건방지게 물어보고 있습니다. 

무엇이든 물어봐달라 질문을 하니 회사 제품에 대한 질문을 해 봅시다.

제가 아직 임베딩과 VectorDB에 대한 이해도가 부족해서인가 대답의 내용이 그렇게 정확하고 반갑지 않은 모습입니다. DB소스로 wizwiki-7500.txt파일을 넣어두었지만 RAG를 통해 이를 전부 읽어오고, WIZwiki-W7500은 ~~~ 하면서 대화를 시작합니다. 정확도를 개선하는건 저희 AI팀 사수님들께 열심히 배워야겠습니다.

 

다음 포스팅은 아래와 같이 예고를 해 두겠습니다. 추후 포스팅 순서대로 링크를 달아둘 테니 확인해보시면 좋을 것 같습니다. 빠른 시간 내에 2편으로 찾아뵙겠습니다!

 

나만의 챗봇 Service해보기(2): https://wiz-tech.tistory.com/67