MLOps 글 모음

인포그랩

2026-04-13 · 4개월 전

이 글은 Claude Code 에이전트에서 세션 캐시(claude-mem)와 외부 저장소(Vault KV·Milvus·Mem0)를 다양한 방식으로 조합한 메모리 계층 구성을 비교했습니다. 약 2,650회 실험으로 토큰 사용량·응답 시간·정확도를 측정하면서 메모리 계층 구성이 에이전트의 응답 비용과 품질에 어떤 영향을 주는지 다뤘습니다.

AWS

2026-04-08 · 4개월 전

AI 에이전트를 프로덕션 수준으로 개발하는 것과 단순 데모를 만드는 것은 전혀 다른 문제입니다. 간단한 질의응답은 잘 작동하지만, 데이터 분석 후 리포트를 생성하는 것처럼 여러 단계를 거치는 실제 업무는 Context Window 한계, 성능 저하, 비용 증가 등의 벽에 부딪힙니다. 이러한 문제를 해결할 수 있는 방법으로 다양한 Context Engineering 기법들이 제안되고 있지만, 실제로 어떻게 적용해야 하는지는 여전히 […]

AWS

2026-04-04 · 4개월 전

이 글은 코딩을 모르는 경제신문 기자가 대학생 인턴과 함께 AWS 서버리스 서비스를 활용해 4개의 AI 뉴스 서비스를 구축하고, AI를 활용해 뉴스 동영상 제작을 자동화함으로써 2025년 한 해 동안 6,044만 뷰와 1억원이 넘는 매출을 달성한 이야기입니다. 기자에게는 도메인 지식은 있었지만 기술적으로 구현할 방법이 없었습니다. 하지만 2025년, Amazon Bedrock과 AWS Lambda를 만나 방법을 찾았습니다. 기자가 가진 노하우를

마켓컬리

2026-04-02 · 4개월 전

AI 오케스트레이션의 구체적인 실행 프로세스 — 지식 축적 시스템, Task DAG, Branch Hunt, Ralph Loop, 그리고 이를 지원하는 커스텀 인프라를 소개합니다.

교보DTS

2026-04-02 · 4개월 전

1. 개요 본 글에서는 Amazon EKS 환경에서 발생한 애플리케이션 로그를 기반으로, Athena와 Amazon Bedrock을 활용하여 장애 분석 리포트를 자동 생성하는 과정을 설명합니다. CloudWatch Logs에 수집된 로그를 S3로 적재한 후, Athena를 통해 분석 가능한 형태로 가공하고,이를 다시 Bedrock의 Claude 모델에 전달하여 장애 원인 및 패턴을 자동으로 도출합니다. 이를 통해 운영자는 대량의 로그를 직접 분

교보DTS

2026-04-01 · 4개월 전

RAG 신뢰성 위기와 LLMOps의 필연성 RAG(Retrieval-Augmented Generation)는 기업용 AI 시스템에서 사실상 표준 구조로 자리 잡은 듯 보입니다. 외부 지식을 활용해 최신 정보를 반영할 수 있다는 점은 분명한 강점입니다. 그러나 동시에 새로운 과제도 함께 드러나고 있습니다. 검색 시스템의 불완전성과 LLM의 확률적 생성 방식이 결합되면서 결과의 품질을 일관되게 통제하기가 쉽지 않을 수 있기 때문입니다. 특히 금융이

AWS

2026-03-27 · 4개월 전

이번 포스팅은 삼성전자 서비스의 핵심, 삼성계정 서비스에서 서비스 운영에 실질적인 문제를 해결하는데 GenAI를 어떻게 활용하는지 소개 하는 2부작 시리즈 포스팅입니다. 사례가 AWS 기술블로그를 통해 세상에 알려질 수 있게 도움주신 모든 분들에게 감사의 마음을 전합니다. Part 1: 삼성계정 서비스의 AI SecOps – Multi-Agent로 진화하는 보안 위협 탐지 (현재) Part 2: 삼성계정 서비스의 GenAI Observabili

네이버 클라우드 플랫폼

2026-03-18 · 4개월 전

AI 업무 툴은 이미 많은 직장인들의 일상에 자연스럽게 스며들었습니다. 회의록 정리, 메일 작성, 일정 관리처럼 반복적으로 발생하는 업무들도 이제는 몇 번의 입력만으로 빠르게 처리할 수 있게 되었죠. ⚡ 이처럼 AI 업무 툴이 확산되면서 업무 환경도 달라지고 있습니다. 직장인이 하루 중 많은 시간을 쓰는 '업무를 위한 업무', 즉 자료를 찾고, 맥락을 맞추고, 정리하고, 공유하는 과정이 줄어들고, 그만큼 본래 집중해야 할 주업무에 더 많은 시간

AWS

2026-03-15 · 4개월 전

Kiro CLI나 Claude Code 같은 AI 코딩 에이전트를 사용하다 보면, 코드를 분석하고 수정하고 테스트까지 실행하는 이 에이전트의 동작 방식을 자신의 애플리케이션 백엔드에도 적용할 수 있으면 좋겠다고 생각해 본 적이 있을 것입니다. 하나의 에이전트에게 코드 리뷰, 테스트 작성, 리팩터링을 모두 맡기면 컨텍스트가 길어지면서 앞서 발견한 문제를 뒤에서 잊어버리게 되고, 자신이 작성한 코드를 직접 리뷰하기 때문에 객관성이 떨어집니다. An

네이버 클라우드 플랫폼

2026-03-09 · 5개월 전

안녕하세요, 누구나 쉽게 시작하는 클라우드 네이버클라우드 ncloud.com입니다. 우리 공장 AI 도입, 어디에 무엇으로 해야할까? 우리 공장에 AI를 도입하고 싶지만 관련된 솔루션이 너무 많고, 어떤 게 우리 공장에 맞을지 찾기 어려워 고민하고 계시는 분들이 많으실텐데요. 그래서 저희가 제조 전 주기 공정단계별 가이드북을 준비했습니다! 오늘은 공정 개선 단계에서 주로 발생하는 문제점들이 무엇인지, 그런 문제들을 무슨 솔루션으로 어떻게 해결할

구름

2026-03-08 · 5개월 전

※ 참가 신청은 3월 13일 금요일 17:00에 마감됩니다. COMMIT 신청하기 goorm 구름은 ‘모두가 개발자가 된다’는 비전으로 ‘개발자 성장 중심’ 생태계를...

하이퍼엑셀

2026-03-05 · 5개월 전

Transformer 기반 LLM의 내부 구조를 단계별로 살펴보고, Token Embedding·Attention·LM Head 등 각 모듈의 의미와 KV Cache·MHA·GQA 등 최적화 기법을 정리합니다.

AWS

2026-02-26 · 5개월 전

본 블로그 게시글은 AWS Blog의 영어 원문을 한글로 번역 및 일부 수정한 포스팅 입니다. 소개 컨택센터 리더들은 점점 더 복잡한 과제에 직면하고 있습니다: 고객은 모든 채널에서 즉각적이고 개인화된 서비스를 기대하는 반면, 상담원은 문제 해결을 위해 여러 시스템, KMS(Knowledge Management System)와 같은 지식 베이스나 시스템, 워크플로우를 동시에 다뤄야 합니다. 기존 접근 방식—각 시스템에 대한 커스텀 및 […]

하이퍼엑셀

2026-02-19 · 5개월 전

Copy & Paste에서 자율 코딩 에이전트까지: 조용한 변화의 시작 안녕하세요, 하이퍼엑셀 ML 팀 엔지니어 엄태서입니다. 개발자들 사이에는 이런 농담이 있습니다. “우리 일은 결국 문제를 구글에 검색하고, 첫 번째로 뜨는 링크를 눌러서, Stack Overflow에서 답을 복사해 붙여넣는 거 아니냐?” 어떤 면에서는 AI 코딩 도구의 등장이 우리가 하는 일을 완전히 바꾼 건 아닙니다. 다만 그 일을 훨씬 더 잘, 훨씬 더 빠르게 하게 만들

삼성 기술 블로그

2026-02-10 · 6개월 전

자연어-SQL 변환 정확도가 높은 LLM 에이전트를 서비스하기 위해 기존에는 도메인 전문가의 지식을 바탕으로 각 도메인에 특화된 에이전트를 만드는 전문가-개발자 협업 과정이 필요했습니다. 하지만 이 방법은 하나의 에이전트 개발에도 많은 인력과 시간을 투입해야 하며, 데이터 변동에 대응하는 데 비효율적입니다. 이러한 문제점을 해결하기 위해 그 간의 에이전트 개발 경험을 토대로, 개발 지식이 없는 도메인 전문가도 누구나 웹 UI를 통해 도메인 특화

네이버 클라우드 플랫폼

2026-02-02 · 6개월 전

AI는 이제 연구 단계를 넘어, 실제 서비스와 산업 전반에서 활용되는 핵심 기술로 자리 잡았습니다. 문장을 생성하고, 이미지를 이해하고, 음성으로 대화하는 AI도 더 이상 낯선 기술이 아니죠. 하지만 사용자가 AI를 “자연스럽게” 받아들이기 위해서는 반드시 충족되어야 할 조건이 있습니다. 바로 빠르고 안정적인 동작입니다.⚡️ 예를 들어 대규모 언어 모델(LLM)의 응답 속도가 사람이 글을 읽는 속도보다 느리다면, 사용자는 즉시 답답함을 느끼게