How to build Customized AI Chatbot

참석자등록링크(Attendee Registeration):
https://solution.dabory.com/contact-us

모임장소: 서울 강남구 강남대로92길 31 민석빌딩 6층 (강남역 12번 출구 1분거리)
모임회비: 1만원 저녁 또는 간식비로 사용됩니다.

우리의 첫번째 과제는 기존의 AI 챗봇 API 를 활용하여 어떻게 자신의 블로그나 웹사이트에 커스터마이징된 자신만의 데이터를 학습시켜 고유한 영역의 전문가 챗봇으로 활용할 수 있는가 입니다.

[학습과 토론 주제]
1. 워드프레스나 PHP 게시판 또는 Java로 빌드된 샘플 웹사이트를 준비합니다.
2. 가장 잘 구성된 AI 챗봇 API 를 설정하여 웹사이트 또는 가져온 문서를 학습시킵니다.
(Fine Tunning 과정을 거칩니다.)
3. 학습된 AI 챗봇을 커스터마이징 합니다.
4. AI 챗봇을 준비한 웹사이트에 설치하여 테스트 해봅니다.
5. 테스트해본 챗봇이 어떻게 동작하는지 확인하고, 할루시네이션 등의 문제점이 없는지 확인합니다.
6. 문제점이 있으면 어떻게 할 것인지 토론하고 개선점을 찾습니다.
7. 프롬프트 엔지니어링이나 다양한 RAG 관련 토론은 통하여 앞으로 어떻게 모임을 발전 시켜 나갈 것인지 생각합니다.

[모임의 주요 어젠더] : 어떻게 아래의 기능을 가지는 챗봇으로 발전시켜 나갈것인가 ?
(ChatGPT 를 다루면서 언제까지 복사/붙여넣기로만 Prompt를 작성할 것인가 ?)

[챗봇의 구체적인 내용]
전문가적인 지식을 Fine Tunning을 통하여 축적한 전문가 Vector DB를 구축합니다.
'업종/업무별 전문 분야'의 전문가들이 모여고 고도를 지식을 이끌어 낼 수 있도록 Prompt Engineering 을 적용합니다.
ChatGPT를 해당 전문 분야의 전문가로 학습시킬 수 있는 템플릿화된 Prerequisite/Question Set 등의 다양한 질문 환경에서 적용할 할 수 있도록 DB화 합니다.
AI 관련 API와 축적된 DB를 Seamless 하게 연결하여 최상의 채팅 효과가 날 수 있도록 구성해봅니다.
지원할 수 있는 기술 git 서버를 독자적으로 구축하여 Seed와 Prompt를 변화를 기록할 수 있도록 합니다.
1. API 내에서 Log와 History git과 연동하여 자동 저장함.
2. 여러 LLM을 교차로 연동해서 최적의 답변을 끌어냄.
3. 필요하면 검색엔진과 연동한 결과를 바로 LLM 으로 학습시킴.

** 실제 챗봇을 만들어 보실 분들은 노트북 필수 지참요 **

Meeting Location: 6th Floor, Minseok Building, 31 Gangnam-daero 92-gil, Gangnam-gu, Seoul (1-minute walk from Gangnam Station Exit 12)
Meeting Fee: 10,000 won, to be used for dinner or snacks.
Our first task is to explore how we can use existing AI chatbot APIs to train our own data and utilize it as a specialized chatbot expert in our own domain by customizing it for our blog or website.
[Learning and Discussion Topics]
1. Prepare a sample website built with WordPress, a PHP board, or Java.
2. Configure the most well-organized AI chatbot API to train it using the website or imported documents.
(This involves a Fine Tuning process.)
4. Customize the trained AI chatbot.
5. Install the AI chatbot on the prepared website for testing.
6. Test the chatbot to see how it operates and check for any issues such as hallucinations.
7. Discuss and find improvements for any identified issues.
8. Engage in discussions on prompt engineering and various RAG-related topics to plan the future development of our meetings.
[Main Agenda of the Meeting]: How can we develop the chatbot to have the following features?
(How long will we continue to write prompts merely by copying and pasting while handling ChatGPT?)
[Specific Details of the Chatbot]
Build an expert Vector DB by accumulating professional knowledge through Fine Tuning.
Experts in "industry-specific professional fields" come together to extract profound knowledge using Prompt Engineering.
Templatize ChatGPT as an expert in specific fields by applying it to various question environments through a Prerequisite/Question Set, making it database-oriented.
Seamlessly connect the AI-related API and the accumulated DB for the best chatting effect.
Independently set up a git server to support the technology, allowing for the recording of changes in Seeds and Prompts.
Automatically save Logs and History in the API by linking with a git server.
Draw out the best answers by interconnecting various LLMs.
If necessary, immediately train the results integrated with search engines into LLMs.
Translate the above into English at the level of a college graduate.

** Labtop PCs are required for who want to build one's own AI chatbot **