GPT 기반 지능형 챗봇 개발 및 컨설팅 서비스 제공

ChatGPT 출현으로 기존 챗봇 서비스, 고객 문의응대, Knowledge Management 분야의 일대 혁신

  - 기존 Q-A matrix 체계에 의한 검색형 질의 응답시스템 폐기

  - GPT의 환각답변(Hallucination) 이슈 해소 필요

  - 정확한 답변을 위한 GPT의 학습데이터 통제 방안 필요

  - 연속 질의 응답을 위한 대화흐름 제어기술 중요

  - 고객정보, Legacy DB정보와 연동한 업무프로세스 결합 챗봇

기업의 내부업정보 및 특화 도메인 학습

특정 도메인에 따른 맞춤형 답변 생성을 위해 정보(Text)의 임베딩(Embedding)을 활용해 도메인 데이터를 학습시키는 과정이 필요함

프롬프트 엔지니어링(Prompt Engineering)

GPT를 포함한 대규모 언어 모델(LLM)로부터 높은 품질의 응답을 얻어내기 위한 입력 값(프롬프트, Prompt)들의 조합을 찾는 작업을 프롬프트 엔지니어링이라 함

Legacy DB와의 연동

  - 플러그인을 적용한 GPT는 기업의 기존 시스템(Database)와 연동하여 실시간 데이터 정보를 제공 받음

  - 고객의 질의로부터 SQL을 생성하는 Text to SQL을 적용하여, 대화를 통한 행위 기능(주문, 예약 등)을 제공

대화 흐름제어 관리(Dialogue flow management, SHort-term memory)

  - 이전 대화 내용을 기억하는 채팅 방식의 대화 흐름 관리가 필요함