쿠버네티스로 여는 AI 추론 인프라
이번 글에서는 AI 컴퓨팅 트렌드가 어디로 향하는지, 그 흐름에서 추론(inference) 인프라를 운영하는 데 쿠버네티스가 어떤 도움을 주는지, 그리고 AWS 위에서 대규모 추론을 안정적으로 돌리는 방법까지 다뤄보...
devBlog
Kubernetes 글 모음
기업 기술블로그의 Kubernetes 관련 글 60개
토스증권이 GPU-aware를 넘어 GPU-native 클러스터를 구축한 방법
토스증권이 Kubernetes GPU 클러스터의 운영 한계를 해결한 방법
Amazon EKS 고급 컨트롤 플레인 구성하기
EKS 노드에 파드(Pod)를 더 밀도 있게 채워서 컴퓨트 비용을 줄이고 싶은데, 스케줄러 설정에는 손댈 방법이 없어 아쉬웠던 적이 있으신가요? 대규모 이벤트로 트래픽이 많아지는 순간 오토스케일링이 조금 더 빨리 반응해 주기를 바랐던 경험은 어떠신가요? 지금까지 Amazon EKS에서 이런 요구를 해결하기가 쉽지 않았습니다. kube-scheduler와 kube-apiserver 같은 컴포넌트의 구성이 EKS 컨트롤 플레인 고유의 영역이었기 때
Kafka Streams를 k8s로 옮기며 얻은 스케일링 설계: 비용 80% 절감까지
EC2에서 운영하던 Kafka Streams 애플리케이션을 Kubernetes로 옮기면서, CPU 기반 HPA의 한계를 확인하고 KEDA와 consumer lag 기반 스케일링으로 인프라 비용을 80% 이상 절감한 과정을 공유합니다.
ArgoCD로 GitOps 구축할 때 막히는 5가지 지점: 홈랩 + GitLab Self-Managed 실습
홈랩 Kubernetes 클러스터에 ArgoCD를 설치하고 GitLab Self-Managed 저장소와 연동해 nginx를 배포하는 전 과정을 다룹니다. 포트 포워딩 접속 실패, 인증서 경고, 저장소 인증 오류, 로그인 반복, Kustomize 전환 실패까지 구축 중 자주 막히는 다섯 지점을 증상과 원인, 해결 순으로 정리했습니다.
EKS 컨테이너 메모리 스파이크 추적기
@Scheduled 한 줄로 버티다, 트리거를 밖으로 꺼낸 이야기
중복 실행과 유실을 넘어, 여러 pod가 작업을 나눠 갖는 스케줄 실행 구조로 전환하기까지
[기술사례] 대규모 Kubernetes 환경의 중단 없는 진화를 위한 선택: kt cloud의 Chkk 기반 클러스터 관리
.ktc-poster img { transition: transform .3s ease, box-shadow .3s ease; } .ktc-poster:hover img { transform: translateY(-4px); box-shadow:0 10px 22px rgba(0,154,135,0.22) !important; } .imageblock img { max-width:100% !important; height:auto !importan
VictoriaMetrics 운영기 2편 — 장비 증설 없이 리소스 위기를 해결한 3단계 최적화 전략
VictoriaMetrics 운영기 1편에서는 네이버 검색의 대규모 메트릭 저장소 VictoriaMetrics 클러스터의 규모, 2계층 아키텍처, 180대 노드의 무중단 장비 교체와 증설 전략을 소개했습니다. 2편에서는 장비를 더 늘리지 않고 리소스 위기를 해결하기 위해 진행한 소프트웨어적 최적화 과정을 다룹니다. 메모리 문제를 해결한 뒤에도 쿠버네티스 전환은 계속 빨라졌고, 컨테이너 수는 수백만 개를 넘어섰습니다. 카디널리티가 급격히 증가하면
[기술검증] 물리 서버는 그대로, Kubernetes는 새 버전으로: Cluster API In-place Upgrade
@keyframes kttblink { 50% { opacity:0; } } .ktt-cursor { animation:kttblink 1.05s step-end infinite; } @keyframes kttlive { 0% { box-shadow:0 0 0 0 rgba(63,185,80,0.55); } 70% { box-shadow:0 0 0 6px rgba(63,185,80,0); } 100% { box-shadow:0 0 0 0 rgba
EKS 4개와 클러스터 11개를 서비스 중단 없이 버전 통일하기
버전이 제각각이던 EKS 클러스터 11개를, AI를 오퍼레이터로 두고 8일 만에 v1.35로 통일했습니다.
Istio 3-3편: Ambient mode 안전하게 업그레이드하기
Istio Ambient mode 버전 업그레이드 런북
Istio 3-2편: Partially Enrolled Pod와 Untaint Controller
Ambient mode 트러블슈팅: istio-cni가 준비되지 않은 노드에 Pod가 스케쥴링 될 때
Kelos - 쿠버네티스 네이티브 자율 코딩 에이전트 프레임워크
네이버 사내 기술 교류 행사인 NAVER ENGINEERING DAY 2026(5월)에서 발표되었던 세션을 공개합니다. 발표 내용 쿠버네티스 네이티브 자율 코딩 에이전트 프레임워크 Kelos를 소개합니다. Kelos는 코딩 에이전트와 그 환경을 API화하고 관리할 수 있도록 해주는 오픈소스 프레임워크입니다. 발표 대상 AI 코딩 에이전트의 자동화에 고민이 있으신 분들 목차 Introduction Core concepts Self-developm
[사례연구] 사내 개인용 개발환경 이미지 실험기 1부: git push로 업데이트되는 OpenStack 샌드박스 만들기
[ kt cloud Platform엔지니어링팀 이초환 님 ] 요약 이 글에서는 GitOps 기반 개인용 OpenStack 샌드박스 이미지를 구축하고 업데이트하는 실험 과정을 다룹니다. 개발환경 표준화와 운영 부담 완화에 주는 실무적 의미를 정리합니다. #OpenStack #GitOps #ArgoCD #FluxCD #Kubernetes 1. 배경 — 이 프로젝트를 시작한 맥락 저희 조직은 OpenStack 기반 서비스를 개발하고 있고, 여러 개발
터미널로 돌아가자: 에이전트가 원격 개발을 자연스럽게 만든 방식
AI 코딩 에이전트는 코드를 쓰는 방식만 바꾸지 않았습니다. SSH, Termux, Kubernetes pod, 원격 머신 위에서 일이 시작되는 방식까지 바꾸고 있습니다.
MLXP : Kubernetes LLM Serving 최적화 기술 도입기
네이버 사내 기술 교류 행사인 NAVER ENGINEERING DAY 2026(5월)에서 발표되었던 세션을 공개합니다. 발표 내용 LLM 추론 성능을 극대화하기 위한 최신 기술들(KV Cache 인지 라우팅, Prefix Cache, 분산 멀티노드 서빙 등)을 Kubernetes 프로덕션 환경에 도입하는 과정에서 기존 인프라 스택(Istio 서비스 메시, 스케줄러, Pod 보호 정책)과 충돌하며 발생한 실전 문제들을 어떻게 진단하고 해결했는지
[기술분석] Kubernetes Gateway API에서 트래픽을 세밀하게 제어하는 Policy 객체 파헤치기
[ kt cloud Container Service팀 박지선 님 ] 요약 이 글에서는 Kubernetes Gateway API의 Policy 객체를 활용해 트래픽 동작을 제어하는 방식과 적용 범위를 다룹니다. 운영 환경에서 설정 혼선을 줄이고 안정적인 트래픽 관리를 위한 기준을 정리합니다. #Kubernetes #GatewayAPI #Policy #ClientSettingsPolicy #BackendTLSPolicy 1. 개요 이전 편에서 Ga
페이지 1 / 4 (총 60개)