금융 보안 퀴즈, AI에게 풀게 해봤습니다: 2025 금융 AI Challenge 우수상 후기
카카오뱅크의 LostCow 팀이 금융보안원에서 주관한 ‘2025 금융 AI Challenge’에서 우수상을 수상했습니다. 이번 글에서는 모델 선정 → 데이터 전처리 → 도메인 학습 → RAG → 양자화 및 추론 최적화까지, 4주라는 짧은 시간 동안 수많은 제약 조건 속에서 어떻게 우수상까지 거머쥘 수 있었는지에 대한 모델 개발 일련의 과정을 다룹니다.
RAG, 들어는 봤는데… 내 서비스엔 어떻게 쓰지?
개요 RAG(Retrieval-Augmented Generation, 검색 증강 생성)은 LLM이 학습하지 못한 정보를 외부에서 검색하여 활용할 수 있게 하는 기술입니다. 이 글에서는 RAG이 왜 필요한지부터, 교육 운영 시스템에 실제로 적용하며 겪은 시행착오(MCP 활용 → RAG 서버 직접 구현)와 그 과정에서 정리한 6단계 구현 가이드(필요성 평가 → 요구사항 분석 → 프레임워크 결정 → 색인 → 생성 → 평가)를 다룹니다. […] The
Agentic Search 시스템 구축기: 사내 검색 환경을 재정의하기 위해 우리가 선택한 것들
삼성전자 사내 지식 검색을 위해 다양한 RAG 실험 끝에 Agentic Search구조를 선택하게 된 이유와 이를 구현하기 위해 설계 시 고려한 점에 대한 경험을 공유합니다. Agent Flow, Tool 설계, Runtime환경까지 실제 구축 과정에서 중요했던 설계 포인트를 정리해보았습니다.
RAG의 진화: 검색을 넘어, 나를 이해하는 ‘Personal Context’의 시대로
RAG 기술이 단순 검색을 넘어서 사용자의 파편화된 개인 데이터와 실시간 컨텍스트를 통합하는 Personal Context RAG로 진화하고 있음을 설명합니다. 또한 이를 실현하기 위해 온디바이스 중심의 하이브리드 아키텍처, 개인화된 지식 그래프, 개인정보 보호 기술이 필수적으로 요구된다는 점을 알아봅니다.
이 서비스만 고치면 되겠지? AI가 놓치는 숨은 의존성을 추적하는 법
그래프 RAG 기반 채널 지식 시스템 구축기
"알아서 정확하게 응답줬으면.." RAG부터 에이전트까지 사내 AI 챗봇 구축기 2부
안녕하세요! 백엔드 엔지니어 장예훈입니다. 작년 9월 포스타입에 새로 합류한 뒤 벌써 5개월이 흘렀네요. 팀블로그를 통해 인사드리는 건 이번이 처음인 것 같습니다. 저번 편에서는 코어 파트 안선님께서 RAG의 개념과 검색 전략, CI/CD 연동 방법에 대해 설명해 주셨습니다. 이번 편에서는 실제 RAG 기반 슬랙 봇 구축 과정과 의사결정, 그리고 에이전트 마이그레이션 경험을 공유해 드리려고 합니다. 최초 구현 - RAG를 통한 단순 질의-응답
"스펙 문서에 없는데요?" 최신 스펙 갱신을 위한 사내 AI 챗봇 도입기 1부
안녕하세요. 포스타입 백엔드 엔지니어 김안선입니다. 최근 포스타입 기술그룹에서는 사내 구성원들을 위한 챗봇을 구축했습니다. 단순히 FAQ를 나열하는 수준을 넘어 백엔드 시스템의 복잡한 동작 원리를 이해하고 설명할 수 있는 어시스턴트를 목표로 했는데요. 이를 가능하게 한 RAG(Retrieval-Augmented Generation) 구축기를 공유하고자 합니다. 포스타입의 비즈니스 로직은 마치 정교한 시계 장치와도 같습니다. 결제, 크리에이터 수
업무 생산성 향상을 위한 Agentic RAG 기반 서비스
삼성리서치에서 개발 중인 Agentic RAG 기반 보고서 작성 서비스인 ‘DeepDive’의 아키텍처와 기술적 고도화 여정을 소개합니다. 긴 문서에서 핵심만 빠르게 추출하는 방법부터 멀티 에이전트 협업으로 다중 문서를 분석하는 방식까지 업무 효율을 높이는 Agentic AI 기술을 실제로 개발하는 과정에서 마주한 문제와 해결책을 담았습니다.
[클로바 스튜디오 Cookbook] LLM을 위한 PDF-to-Markdown 문서 전처리 가이드
RAG 성능에 있어 문서 전처리는 핵심적인 요소 중 하나입니다. Markdown은 LLM이 구조를 이해하기 쉬운 포맷으로, 토큰 효율과 응답 안정성 측면에서 장점이 있습니다. 이번 쿡북에서는 PDF를 Markdown으로 바꿔 LLM 친화적인 입력을 만드는 방법을 정리합니다. LLM 애플리케이션의 성능은 모델뿐만 아니라 주입되는 데이터의 품질, 즉 전처리에도 큰 영향을 받습니다. 특히 문서를 참고하여 답변을 생성해야 하는 RAG(검색 증강 생성)
[오프라인/마감] RAG 프로젝트는 왜 실패하는가?: RAG를 잘 다루고 싶은 엔지니어를 위한 패널 토크
※ 참가 신청은 12월 8일 월요일 13:00에 마감됩니다. COMMIT 신청하기 goorm 구름은 ‘모두가 개발자가 된다’는 비전으로 ‘개발자 성장 중심’ 생태계를...
Backoffice AI Agent 구축기 — RAG+MCP 기반 플레이스AI 특화 지식 검색 시스템
문의 대응을 효율화하기 위한 RAG 기반 봇 도입하기
시작하며안녕하세요. SR(Service Reliability) 팀에서 SRE(site reliability engineer, 사이트 안정성 엔지니어링) 업무를 맡고 있는 이채승(a...
생성형 검색 (RAG) 평가의 최근 트렌드
AI를 활용한 주문서 생성 자동화: 카카오톡 주문을 키친보드 주문으로
안녕하세요. 스포카 백엔드팀 프로그래머 남경호입니다. 최근 ChatGPT를 비롯한 생성형 AI가 주목받으면서 저희 스포카에서도 AI 스터디를 진행했습니다. AI에 대해 들어본 적은 있었지만, 실제로 접해본 적은 없어서 스터디를 통해 프롬프트 엔지니어링, RAG, 랭체인 등의 개념을 배우고 이를 어떻게 활용할 수 있는지에 대한 기초를 익힐 수 있었습니다. 이번 글에서는 저희가 AI를 어떻게 제품에 활용했는지 소개해 드리고자 합니다. RAG를 사용
Langchain을 통한 개인블로그 RAG 프로젝트
사용법과 함께 작성해본 좌충우돌 AWS DMS 사용기 - feat. RDS 통합 이야기
안녕하세요, 뱅크샐러드 Core Infra 팀의 DevOps Engineer 이재환 입니다. AWS DMS를 사용하면서 겪었던 경험들을 기반으로 기본적인 사용법에 대해 공유해보고자 합니다. RDS 비용 최적화 이야기 (서론) 요즘 비용 최적화에 다들 관심많으시죠? 저희 뱅크샐러드에서도…