RAG, 들어는 봤는데… 내 서비스엔 어떻게 쓰지?
개요 RAG(Retrieval-Augmented Generation, 검색 증강 생성)은 LLM이 학습하지 못한 정보를 외부에서 검색하여 활용할 수 있게 하는 기술입니다. 이 글에서는 RAG이 왜 필요한지부터, 교육 운영 시스템에 실제로 적용하며 겪은 시행착오(MCP 활용 → RAG 서버 직접 구현)와 그 과정에서 정리한 6단계 구현 가이드(필요성 평가 → 요구사항 분석 → 프레임워크 결정 → 색인 → 생성 → 평가)를 다룹니다. […] The
AI 코딩 에이전트에게 사고 과정을 설계하다— /start부터 Agent Teams까지
Text2SQL 기반 데이터 분석 서비스 InsightLens 개발기
오늘날 기업 환경에서 데이터 기반 의사결정의 중요성은 아무리 강조해도 지나치지 않습니다. 기획자, 마케터, 운영 담당자 등 비개발 직군에서도 데이터 조회에 대한 니즈가 급증하고 있으며, 원하는 시점에 원하는 데이터를 얼마나 빠르게 확보할 수 있느냐가 비즈니스 경쟁력을 좌우하는 시대가 되었습니다. 하지만 기존 데이터 추출 프로세스를 살펴보면, SQL…
나만의 맞춤법 검사기 만들기: 개발 과정과 노하우 공유
이 글은 한컴오피스 맞춤법 검사기의 자체 개발 가능성을 검토한 개인 프로젝트의 기록입니다. 범용 LLM의 일관성 문제와 과교정 경향을 분석하고, 이를 극복하기 위해 규칙 기반 교정과 KoBART 모델을 결합한 하이브리드 아키텍처를 설계했습니다. KoGPT-2에서 KoBART로의 전환 이유, 50개 이상의 규칙 엔진 설계, 글자 수 기반 검증 필터 구현 과정을 다루며, 프로토타입 개발부터 향후 한컴오피스 적용 계획까지의 여정을 공유합니다.
초경량 클래식 형태소 분석기 개발기
안녕하세요, AI추천플랫폼팀의 제이입니다. 카카오톡에서 특정 기능을 지원하기 위해 경량 형태소 분석기가 필요했습니다. 최근에는 딥러닝 기반의 정확도가 높은 형태소 분석 라이브러리가 많이 등장했지만, 모바일 환경에서는 단순히 정확도만으로 선택하기 어렵습니다. 실행 파일의 크기, 메모리 사용량, 그리고 사전 파일의 크기까지 함께 고려해야 하기 때문입니다. 특히 이 요소들은 모바일 애플리케이션의 용량과 성능에 직접적인 영향을 미칩니다. 이러한 제약
Python 2.7 서버의 CI Test 개선 - 13분에서 3분으로
들어가며 안녕하세요 Supply 그룹 Product Backend 팀의 Elric 입니다. 버즈빌에서 운영중인 허니스크린은 새로운 프로모션을 지속적으로 출시하며 빈번한 배포가 진행되는 서비스이지만, 긴급 배포 상황에서 CI 파이프라인의 긴 실행 시간(약 13분)이 병목이 되어 이에 대해 근본적인 해결이 필요했습니다. 기존 CI 과정의 문제점 허니스크린은 현…
Agent SDK로 만드는 자율적 AI Assistant
챗봇 서비스 구축기
1. 들어가며 기존 챗봇 서비스는 정해진 규칙에 따라 답변하는 ‘룰 기반(Rule-based)’ 방식이 대부분이었습니다. 그러던 중 OpenAI의 ChatGPT가 등장하며 큰 변화의 바람을 몰고 왔습니다. 저희는 이 기술을 활용해 상담사를 통해서만 가능했던 문의 대응을 자동화할 수 있지 않을까 하고 생각했습니다. 저희 목표는 수년간 축적된 사람인의 도움말, 채용 공고, 기업 정보와 같은 내부 데이터를 LLM과 결합하여 사용자의 1차적인 문의를
GPT-Codex 실무에 몰래 사용 경험기
A2A 기반 Recipe Agent 개발기
레시피 Agent 시스템을 직접 구축한 경험
밑바닥에서 개선한 추천시스템 with Two-Tower Model
삼성의 AI 코딩 어시스턴트 code.i 이해
생성형 AI 모델 기반의 코딩 어시스턴트는 자연어와 코드를 학습한 AI 모델을 활용하여 개발 생산성을 높여줍니다. 대량의 학습 데이터를 통해 패턴을 파악하고 이를 기반으로 코드를 생성하거나 분석할 수 있는 코딩 어시스턴트의 특성과 설계 배경, 한계점, 한계를 보완한 신기능들을 소개합니다.
Asyncio 없이 싱글 스레드 논 블락킹 비동기 서버 만들기 (Feat. Event Loop 이해하기)
Snowflake Connector(Python)용 AWS Lambda Custom Layer
SHAP
안녕하세요. 오태호입니다. 이 글에서는 SHAP(SHapley Additive exPlanations)에 대해 설명해 보려고 합니다. SHAP은 SHAP Python Package의 공식 문서(https://shap.readthedocs.io)를 살펴봐도 사용법이 간단한 듯 하면서도 어느 정도 동작 원리를 이해하지 못하면 사용하기가 쉽지가 않습니다. 그래서 이 글에서는 SHAP에 대해 복잡하고 깊은 내용은 생략하고 SHAP을 이해하고 활용하는데
머신러닝으로 만드는 개인화 추천 시스템
안녕하세요, 데이블 AI팀의 machine learning engineer 김명섭입니다. 이번 포스팅에서는 기초적인 개인화 추천 시스템 설계에 대해 알아보고자 합니다. 본 포스팅에서는 프로그래머틱 애드 (programatic ad), real-time bidding 및 DSP 등에 관한 내용들은 다루지 않습니다. 만약 해당 내용들이 궁금하시다면, 아래의 포스팅을 참고해 주세요! 데이나의 참 쉬운 애드테크 (Link) 추가적으로 본 포스팅은 전반
ChatGPT 프롬프트 팁 시리즈 - (5) Template
본 내용은 빅웨이브에이아이 조상원 님이 리뷰한 내용입니다. 이번 포스트에서는 Template 패턴에 대해서 알려드리겠습니다. 간단히 설명하자면, ChatGPT의 출력의 형태를 정의해서 작업하는 것을 의미합니다. 예를 들어, 특정 양식의 문서를 작성할 때 메타 언어 등으로 구조화된 탬플릿을 만들어서 출력을 요청하는 방식입니다. Key Ideas 1. 탬플릿 출력을 위해 Placeholder(필요한 값) 정의 2. 탬플릿을 구조화하고 Placeho
그리드서치로 랜덤포레스트 튜닝하기