RAG 기반 AI 서비스의 신뢰성을 확보하는 방법: 자동화 평가 체계 및 운영 최적화
RAG 신뢰성 위기와 LLMOps의 필연성 RAG(Retrieval-Augmented Generation)는 기업용 AI 시스템에서 사실상 표준 구조로 자리 잡은 듯 보입니다. 외부 지식을 활용해 최신 정보를 반영할 수 있다는 점은 분명한 강점입니다. 그러나 동시에 새로운 과제도 함께 드러나고 있습니다. 검색 시스템의 불완전성과 LLM의 확률적 생성 방식이 결합되면서 결과의 품질을 일관되게 통제하기가 쉽지 않을 수 있기 때문입니다. 특히 금융이
마케팅이 기술을 만났을 때: 초자동화와 안정성을 모두 잡은 MarTech 마이크로서비스, crm_box
Agent 로 최적화 하는 EKS 운영: AWS DevOps Agent + K8s Operator로 MTTR 줄이기
Amazon Elastic Kubernetes Service(Amazon EKS) 환경에서 워크로드를 운영하다 보면, Pod의 OOMKilled 종료나 IP 고갈로 인한 생성 실패 등 다양한 장애 상황에 직면하게 됩니다. 이러한 장애가 발생하면 엔지니어는 Pod 로그 수집부터 Kubernetes Events 추적, 노드 시스템 로그 확인까지 반복적이고 시간 소모적인 트러블슈팅 과정을 거쳐야 합니다. 특히 야간이나 주말에는 대응 시간이 길어지고,
OK캐쉬백 복지 포인트 서비스 개발기: 보안, 대용량 처리, 그리고 현실적인 선택들
OK캐쉬백 복지 포인트 서비스 개발기: 보안, 대용량 처리, 그리고 현실적인 선택들 들어가며 OK캐쉬백 포인트의 활용 가치를 확장하고, 사용자에게 다양한 혜택을 제공하기 위해 복지 포인트 사업을 추진하게 되었습니다. OK…
[클로바 시선 #48] 일하는 방식을 혁신하다: AI 업무 툴
AI 업무 툴은 이미 많은 직장인들의 일상에 자연스럽게 스며들었습니다. 회의록 정리, 메일 작성, 일정 관리처럼 반복적으로 발생하는 업무들도 이제는 몇 번의 입력만으로 빠르게 처리할 수 있게 되었죠. ⚡ 이처럼 AI 업무 툴이 확산되면서 업무 환경도 달라지고 있습니다. 직장인이 하루 중 많은 시간을 쓰는 '업무를 위한 업무', 즉 자료를 찾고, 맥락을 맞추고, 정리하고, 공유하는 과정이 줄어들고, 그만큼 본래 집중해야 할 주업무에 더 많은 시간
Claude Code Hooks - 프롬프트 대신 코드로 정책 강제하기
Hooks는 Claude Code에서 파일 수정, 명령 실행 등 특정 이벤트가 발생할 때 설정 파일에 정의한 동작을 자동으로 실행하는 기능입니다. 코드로 정의한 결정론적 규칙에 따라 동작합니다. 세션이 길어지거나 전환돼도, 작업이 복잡해져도 원하는 동작을 일관되게 실행합니다. 이 글은 Hooks의 개념과 구조, 유형, 실전 패턴과 사용법을 다뤘습니다.
AITER 분석: AMD가 ROCm inference 성능을 2배로 올린 방법
AMD가 ROCm inference 성능을 2배로 올린 AITER 커널 라이브러리를 분석합니다. 4가지 커널 백엔드 전략(Triton, CK, HIP, ASM), JIT 컴파일 파이프라인, 그리고 DeepSeek R1에서 2배 throughput 향상을 달성한 구조를 살펴봅니다.
“힘세고 강한 아침”을 넘어: GPT-4o-mini를 대체할 TranslateGemma 실험기
빌링 3.0 성능 이슈 개선 기록 - Part 1
빌링 3.0
[공정별 가이드북③] 공정 개선에 AI 도입하기
안녕하세요, 누구나 쉽게 시작하는 클라우드 네이버클라우드 ncloud.com입니다. 우리 공장 AI 도입, 어디에 무엇으로 해야할까? 우리 공장에 AI를 도입하고 싶지만 관련된 솔루션이 너무 많고, 어떤 게 우리 공장에 맞을지 찾기 어려워 고민하고 계시는 분들이 많으실텐데요. 그래서 저희가 제조 전 주기 공정단계별 가이드북을 준비했습니다! 오늘은 공정 개선 단계에서 주로 발생하는 문제점들이 무엇인지, 그런 문제들을 무슨 솔루션으로 어떻게 해결할
2025 FLO의 여정: 취향의 발견에서 팬 경험까지
2025년, FLO는 음악을 듣는 서비스를 넘어 '취향의 발견부터 팬 경험으로의 확장까지, 리스너의 모든 순간을 잇는 플랫폼'으로 진화했습니다. 음악을 소비하는 환경이 급격하게 변하고 있습니다. FLO는 이러한 변화에 발맞춰 [새로운 음악의 발견 - 몰입 - 팬 경험]으로 이어지는 완성된 여정을 설계하는 데 집중했습니다. 또한, 리스너들이 만날 수 있는 음원 라이브러리를 국내 최대 규모로 확충하고, 일상 어디서든 음악을 접할 수 있도록 청취 환
biz-crm IndexedDAO 적용기
성능개선의 출발점은 고객의 행동 관찰
Transformer World: LLM의 기본 구조 뜯어보기
Transformer 기반 LLM의 내부 구조를 단계별로 살펴보고, Token Embedding·Attention·LM Head 등 각 모듈의 의미와 KV Cache·MHA·GQA 등 최적화 기법을 정리합니다.
Claude Code Auto memory로 반복 설명 없이 작업하기
Auto memory를 활성화하면 Claude Code가 작업 중 유용한 컨텍스트를 탐지해 프로젝트별 메모리 디렉터리의 MEMORY.md에 저장합니다. 그 결과, 이전 작업 맥락이 다음 세션에 자동으로 이어져 사용자는 컨텍스트를 반복 설명하지 않아도 됩니다. 이 글은 Auto memory의 주요 기능과 동작 방식, 특징, 사용법, 유의 사항을 다뤘습니다.
리액트의 현재와 미래, 그리고 AI: React Summit US 2025 참관기
카카오뱅크 프론트엔드 클랜이 React Summit US 2025에 다녀왔습니다. 이 글에서는 현장에서 직접 확인한 AI 실무 엔지니어링, 리액트 거버넌스의 변화, 그리고 추상화 속 기본기의 중요성 등 프론트엔드 생태계의 가장 뜨거운 최신 기술 흐름을 현장의 열기와 함께 공유합니다.
피지컬 AI(Physical AI) – AI가 드디어 현실 세계로 나오다
지금까지 우리가 경험한 인공지능은 대부분 화면 속에 갇혀 있었습니다. GPT는 텍스트 답변을 생성하고 이미지 생성 AI는 그림을 만들어내지만 그 결과물이 실제 현실에서 무언가를 직접 만지거나 움직이지는 못했죠. 그런데 이제 흐름이 달라지고 있습니다. AI가 물리적 몸체를 갖추고 공장 바닥을 걷고 도로를 달리기 시작했습니다. 이것이 바로 피지컬 AI(Physical AI)가 열어가는 새로운 세계 입니다. 2025년 1월 열린 CES … 피지컬 A
[디자인 시스템 어떻게 만들었어요?(3)] Tree Shaking과 구형 브라우저 대응
급증하는 트래픽 안정적으로 처리하기: 개선편(2) 논리적 파티셔닝
같은 Redis 위의 차선 분리 공사 — 논리적 파티셔닝과 Partition별 독립 스케일링