[클로바 시선 #50] HyperCLOVA X 8B Omni Serving DeepDive : 구조 설계부터 성능 최적화까지
이전 글 “토큰 한 알의 질주: LLM 서빙의 모든 것” 시리즈에서는 대형 언어 모델(LLM)이 실제 서비스 환경에서 어떻게 빠르고 안정적으로 움직이는지, 그리고 사용자의 요청이 서버를 거쳐 응답으로 생성되는 전 과정을 살펴봤는데요 이번 글에서는 이를 이어받아, 텍스트는 물론 이미지와 음성까지 함께 처리하는 국내 최초 옴니모델 HyperCLOVA X SEED 8B Omni로 이야기를 확장합니다. 실제 환경에서 서비스를 안정적으로 제공하기 위해
[한-인도 경제사절단] MOU 현장 "한-인도 디지털 금융 시장 확대 앞장서겠습니다"
150개국 K-뷰티 플랫폼 뒤의 팀, 올리브영 글로벌엔지니어링센터의 첫 번째 워크숍 이야기
지난 2025년 11월 27일, 올리브영 글로벌엔지니어링센터의 가장 큰 행사인 2025 워크숍이 열렸습니다. 이번 워크숍은 한 해를 돌아보는 자리를 넘어, 2026년 전사 전략과 센터 키워드를 공유하고, GenAI…
Slack 봇 쿼리곰: 없으면 안 되는 봇이 되기까지
범용 LLM 래퍼를 7.5주 만에 전사 필수 도구로 만든 구조 — 멀티에이전트 검증, Hybrid RAG, 이중 메모리
EKS + ALB 환경에서 Argo Rollouts 503 에러 없는 카나리 배포 적용기
CMS 모노레포 개선기: 빌드 시간 단축부터 번들 최적화까지
Amazon DocumentDB 인덱스 최적화로 미리캔버스의 쿼리 성능을 개선 사례
Amazon DocumentDB로 미리캔버스의 성능 50%와 비용 30%를 개선하다
[코드가 환경을 모르는 구조 1/7] 코드는 무엇을, 환경은 어디서 - 다시 더 깊이
본편 '미래를 담아낸 뼈대 5화: 코드가 환경을 모르는 구조'에서 독자들이 던진 질문, 그리고 이 시리즈가 답하려는 것
DelightHub: 딜라이트룸의 세 번째 사업부는 왜 만들어졌나?
AWS SaaS Builder Toolkit을 활용한 엔터프라이즈 IdP 솔루션의 SaaS 전환 사례
온프레미스 환경에서 고객사마다 개별 설치·운영하던 IAM/MFA 솔루션을 Software as a Service (SaaS)로 전환하는 것은 단순한 기술 마이그레이션이 아닙니다. 제품을 판매하고 가치를 전달하는 방식 자체를 바꾸는 일입니다. AirCUVE는 AWS SaaS Builder Toolkit(SBT)을 활용해 단 3개월 만에 V-FRONT를 멀티테넌트 SaaS 플랫폼으로 전환하고 AWS Marketplace에 등재했습니다. 이 글에서는
하네스 엔지니어링으로 본 Deep Insight – 로컬 개발에서 프로덕션 운영까지의 설계 여정
AI에게 단순히 “잘 해봐”라고 시키는 것과, AI가 스스로 만들고 평가하고 개선하는 Agentic 시스템을 설계하는 건 완전히 다른 결과물을 만들어냅니다. AWS Korea SA Team은 Agentic AI 시스템을 개발할 때 마주하는 다양한 기술적 챌린지들을 직접 풀기 위해 ‘Deep Insight’, 사용자가 업로드한 CSV 데이터와 분석 질문을 받아 최종 DOCX 리포트를 생성하는 프로덕션 Multi-Agent 시스템을 개발했고, 세
AI Native 레포에서 조직으로: hollon-ai 구축기
@hollon으로 작동하는 채널톡의 harness
45분 배치에서 준실시간으로! 다수 도메인 데이터를 Kafka로 통합한 전환기
…
Amazon DocumentDB 인덱스 최적화로 미리캔버스의 쿼리 성능을 개선 사례
본 게시글은 미리디의 김민석, 이효성, 노정훈님과 함께 작성하였습니다. 미리디의 미리캔버스 소개 미리디의 미리캔버스는 “누구나 쉽게, 함께 만드는 디자인” 이라는 철학 아래, 프레젠테이션부터 SNS 카드뉴스, 유튜브 썸네일, 포스터까지 일상의 모든 시각 콘텐츠를 브라우저 하나로 만들 수 있는 실시간 협업 디자인 플랫폼입니다. 앞선 포스팅에서 소개한 MongoDB Atlas에서 Amazon DocumentDB로 전환 이후, 수백만 건의 디자인 데
Amazon DocumentDB로 미리캔버스의 성능 50%와 비용 30%를 개선하다
본 게시글은 미리디의 김민석, 이효성, 노정훈님과 함께 작성하였습니다. 미리디의 미리캔버스 소개 ⇩ 미리디의 미리캔버스는 “누구나 쉽게, 함께 만드는 디자인” 이라는 철학 아래, 프레젠테이션부터 SNS 카드뉴스, 유튜브 썸네일, 포스터까지 일상의 모든 시각 콘텐츠를 브라우저 하나로 만들 수 있는 실시간 협업 디자인 플랫폼을 운영하고 있습니다. 기획자와 마케터가 같은 슬라이드를 동시에 수정하고, 팀원이 실시간으로 댓글을 달며 피드백을 주고받는 [
1부: 데이터도 정답도 없다: 하이퍼커넥트가 LLM을 길들이는 법
이 글은 2부작 중 첫 번째 글입니다. 이번 글에서는 2025년 초 수행되었던 Tinder의 AI-enabled Discovery 프로젝트를 예시로, 정답 데이터가 없는 open-ended generation 문제에서 “좋은 설명이란 무엇인가?”를 먼저 정의하고, 그것을 사람이 일관되게 평가할 수 있는 정책으로 정리해 나간 과정을 소개합니다. 2부에서는 이렇게 만든 정책을 바탕으로 LLM-as-a-Judge를 설계한 과정을 다룹니다. 들어가며
2부: 정책을 따르는 평가자, LLM-as-a-Judge
이 글은 1부: 데이터도 정답도 없다에서 이어집니다. 1부에서는 Tinder의 AI-enabled Discovery 기능에서, “당신은 왜 이 사람과 잘 맞을까요?”라는 질문에 답하는 설명을 만들기 위한 정책 수립 과정을 다뤘습니다. 이번 글에서는 그 정책을 실제 평가 시스템으로 바꾸는 방법을 다룹니다. 들어가며 지난 글에서 Tinder와 MGAI 팀이 합작한 Tinder AI-enabled Discovery 서비스의 “소개팅 주선자” 모듈을