음성 AI 모델을 프로덕션에 올리기까지: Kanana-O 서빙 최적화 여정
TL;DR kanana-o는 텍스트·이미지·오디오를 종합적으로 이해하고 자연스러운 텍스트와 음성으로 응답하는 멀티모달 모델입니다(자세히 알아보기). 모델을 학습하는 것과 사용자에게 서비스하는 것은 전혀 다른 문제입니다. 이 글에서는 Kanana-O를 실시간 음성 대화 서비스로 제공하기 위해 마주한 엔지니어링 문제들과, 이를 해결하며 만든 서빙 서버 Kanana-Omni Server의 핵심 최적화 기법들을 공유합니다. 1. 모델은 완성됐는데, 서
Feature Flag API의 p99 레이턴시 개선기 (+오픈소스 기여)
1%가 겪는 레이턴시 Supply 그룹에서는 Feature Flag 도입 후 A/B 테스트 활용도를 높이기 위해 evaluation 결과를 적재하는 인프라 지원이 필요했습니다. 이를 위해 기존에 사용 중인 오픈소스 go-feature-flag 의 export 기능을 활용하여 각 파드에서 flag evaluation 결과를 분 단위로 S3에 적재하는 기능(S…
Gemini Embedding 2 등 5월 첫째 주 Google for Developers 위클리 업데이트를 지금 확인하세요!
개발자 여러분, 안녕하세요!5월 첫째 주 블로그에 발표된 Google의 주요 개발자 제품별 최신 소식을 살펴보세요.[주요 개발자 블로그 업데이트]AI & Machine LearningGemini Embedding 2로 개발하기: 에이전틱 멀티모달 RAG와 확장 사례 (Building with Gemini Embedding 2: Agentic multimodal RAG and beyond) Google DeepMind와 과학기술정보통신부, 국가
[Hands-On] AWS IoT Core를 활용한 확장 가능한 IoT 아키텍처 설계
1. 개요 사물인터넷(IoT) 기술이 발전함에 따라 수많은 디바이스에서 발생하는 데이터를 효율적으로 수집하고 관리하는 능력이 현대 클라우드 아키텍처의 핵심 요소가 되었습니다. 하지만 수백만 대의 디바이스를 안전하게 연결하고, 끊김 없는 메시지 통신을 유지하며, 데이터를 적재적소에 배분하는 인프라를 직접 구축하는 것은 매우 복잡한 일입니다. 이번 포스팅에서는 AWS IoT Core를 활용하여 가상의 디바이스를 클라우드에 연결하고, MQTT 프로토
포스타입 캐릭터톡 출시기 1부
안녕하세요. 포스타입 백엔드 엔지니어 윤준기예요. 오랜만에 팀블로그에 글을 남기게 되어 반가워요. 최근 포스타입에서 신규 서비스인 캐릭터톡을 출시하게 되었는데요. 단 4일간의 PoC로 캐릭터 챗 서비스의 사업 가능성을 검증했고, 출시까지 이어진 과정을 자세히 풀어보려고 해요. 기술적인 내용도 종종 들어가겠지만, 제품을 만들어가는 과정과 비즈니스적인 관점을 중심으로 다루려고 해요. 1부에서는 크게 두 가지 주제를 가지고 생생한 내용을 최대한 담아
[코드가 환경을 모르는 구조 3/7] IaC에도 헥사고날이 관통한다
spec 모듈을 Port로, 클라우드 모듈을 Adapter로 — 플랫폼을 갈아 끼우는 경계의 설계
AWS AI-DLC 기반 라포랩스 사내 배포 플랫폼 Raploy 구축 사례
”비개발 직군도 자기 손으로 배포까지 해내는 환경을 어떻게 만들 수 있을까요?” 라포랩스 AX팀은 AWS AI-DLC(AI-Driven Development Life Cycle) 방법론을 활용하여 사내 배포 플랫폼 Raploy를 구축했습니다. 2026년 2월 말 AWS와 함께 진행한 3일간의 AI-DLC 워크숍에서 Raploy의 뼈대를 만들었고, 이후 약 한 달간의 고도화를 거쳐 2026년 3월 중순 사내 서비스로 오픈했습니다. 이 글에서
Claude Code Routines로 DevOps PR 리뷰·의존성 점검 자동화하기
Routines는 Claude Code가 정해진 시점이나 이벤트에 따라 Anthropic 클라우드에서 자동으로 작업을 시작하고 결과를 전달하는 기능입니다. 추론이 필요한 반복 작업을 사람 개입 없이 자동으로 처리합니다. 이 글은 Routines의 개념과 동작 방식, n8n과 차이점을 다뤘습니다. 또 DevOps 워크플로용 3가지 실습으로 Routines의 실무 활용법과 운영 시 유의 사항을 살펴봤습니다.
[코드가 환경을 모르는 구조 2/7] 배포 코드가 환경을 모르는 구조
환경 이름을 읽지 않는 배포 — 하나의 파이프라인으로 모든 환경을 다루는 법
에이전틱 AI와 Amazon Bedrock AgentCore를 활용한 전문가 팀 시뮬레이션
이 글은 AWS Spatial Computing Blog에 게시된 Simulating Expert Teams with Agentic AI and Amazon Bedrock AgentCore 를 한국어로 번역 및 편집하였습니다. 소개 여러 전문 분야에 걸친 기술적 질문에 답하는 것은 단순히 정답을 찾는 문제가 아닙니다. 가장 어려운 부분은 그 답을 제공할 수 있는 적절한 사람들을 조율하는 일인 경우가 많습니다. 만약 AI가 전문가 팀을 대체하는
Claude Code를 42주 동안 사용한 팀의 워크플로우
옵저버빌리티 Right-Sizing: 여기어때에서 기준을 만드는 법
EKS + ALB 환경에서 Argo Rollouts 503 에러 없는 카나리 배포 적용기
CMS 모노레포 개선기: 빌드 시간 단축부터 번들 최적화까지
StarRocks 운영기: Resource Group으로 멀티테넌트 워크로드 격리하기
서비스 쿼리가 밀리기 시작했을 때, 우리가 선택한 격리 전략
n8n과 함께하는 모바일팀 온콜 자동화 여정기 — Part 1: 분석은 AI에게
Amazon DocumentDB로 미리캔버스의 성능 50%와 비용 30%를 개선하다
[코드가 환경을 모르는 구조 1/7] 코드는 무엇을, 환경은 어디서 - 다시 더 깊이
본편 '미래를 담아낸 뼈대 5화: 코드가 환경을 모르는 구조'에서 독자들이 던진 질문, 그리고 이 시리즈가 답하려는 것