About

RAGTACTS Story

2023년 4월 저희 팀은 CONSTACTS라고 하는 앱을 출시하며, 처음 OpenAI의 GPT API를 이용해 소셜 커뮤니케이션 서비스에 적용한 앱을 세상에 내놓습니다. ChatGPT 자체가 처음 세상에 나온지 약 4개월, 국내에서는 사용자들에게 확산된 지 약 1~2개월만의 일이었습니다.

저희가 만든 앱은 ‘친구의 친구’가 더 많은 사회적 자본의 기회를 제공하고, 유용한 정보를 준다는 사회과학의 이론을 소셜 커뮤니케이션에 접목한 것입니다.

저희는 CONSTACTS의 AI 에이전트 개발하고 고도화하기 위해, 관련 개발 정보가 많지 않던 시절부터 Hallucination을 억제하고 자체 수집한 데이터를 통한 성능 향상을 위해 해외 사례들을 조사하고 빠르게 연구와 실험을 진행할 수 밖에 없었습니다. RAG라는 단어나 개념이 지금처럼 보편화되기도 이전입니다. 2023년 4~5월만 해도 아직 VectorDB가 떠오르기 전이었고, NoSQL과 GraphDB 등 프로덕션 레벨에서 여러 시도가 이어졌습니다. 관련 내용으로 저희 팀은 투자를 받고, 중기청 TIPS 과제에 선정되기도 했습니다.

의미있고 새로운 도전을 위해 시작한 스타트업이었기에, 새로운 도전은 늘 즐겁습니다. COSTACTS는 현재에도 서비스 중이며 성장하고 있고, 저희는 소셜 네트워크 안에서 더욱이 ‘눈치’있게 사람들 사이의 교류를 도울 수 있는 감성형 AI 에이전트를 추가로 개발하고 있습니다. 이전의 GPT-4까지는 한국어 생성 성능에서 소위 이성형(MBTI로 치면 T형) 에이전트는 어렵지 않게 만들 수 있었지만, 감성을 터치하기는 어려웠습니다. 이제는 개인의 맥락 정보나 사람 사이의 관계 정보를 이용해서, 인간 관계에서 오는 피로나 고민에 도움을 줄 수 있는 감성형(MBTI로 치면 F형) 에이전트 개발을 위한 실험을 해나가고 있습니다.

앞으로 OpenAI나 Google, Anthropic 등의 모델 경쟁으로, LLM 성능 자체는 계속해서 상향 평준화 될 것입니다. 대부분 비즈니스에 중요한 것은 개별 서비스들이 고유 데이터와 인터페이스를 바탕으로, 특히 RAG를 이용하여, 독자적인 AI 기능과 제품을 엔드 사용자에게 전달하는 일이 될 것입니다. 현재 이미 그렇게 큰 흐름이 움직이고 있고, 앞으로 한동안은 계속될 것입니다.

RAGTACTS[래그택츠]는 저희 팀이 자체로 쓰기 위해 개발한 API 및 프레임워크를, 솔루션으로 패키징하여 기업 고객에게 제공하는 것입니다. 그동안 R&D 해온 경험과 노하우가, 그것이 1~2년 정도 앞선 엣지라고 할지라도, 수많은 기업들의 개발 기간을 단축시켜주고 인력과 비용을 효율화시켜 줄 수준은 충분히 넘친다고 판단했기 때문입니다. 물론 그 이면에는 저희 공동창업자들이 비정형 데이터 분야에서 오랜 시간 공부하고 경험을 쌓아 온 노하우와, 대규모 플랫폼에서 백엔드를 구축하고 운영해본 노하우가, 어쩌면 당장 GPT와 고군분투한 시간보다 훨씬 크게 작용했을 것입니다. 결국 RAG 성능은 데이터 수집, 가공, 적재, 활용이라는 큰 원칙에 기인하기 때문입니다.

저희가 RAGTACTS를 시작한 이유는 동료 스타트업들의 요청 때문이기도 했습니다. 이를테면, 지금은 보편적으로 사용되는 클라우드 서비스인 AWS는, 커머셜 사이트인 Amazon.com의 개발 리소스를 API화하면서 시작된 것으로 알려져 있습니다. 저희의 시작도 마찬가지입니다. 특히 비즈니스 크기에 관계없이 개발팀 인력이 충분하지 않은 경우라면, 가장 빠르고 쉽게 적정 비용으로 생성형 결과물 성능을 끌어올리는 데에 최적화된 방법을 제안할 수 있다고 자신있게 말할 수 있게 되었습니다.