[데이터센터 입문 시리즈] 같은 GPU인데 왜 성능이 다를까? 보관 장소가 만드는 차이
GPU 성능은 사양이 같아도 데이터센터의 냉각·전력·연결·배치·가동 조건에 따라 달라집니다. 같은 서버 안에서도 뜨거운 위치의 GPU는 열 스로틀링(Thermal Throttling)으로 클럭이 낮아집니다. GPU 보관 장소를 고를 때는 ... Read More
기업 기술블로그의 Performance 관련 글 655개
GPU 성능은 사양이 같아도 데이터센터의 냉각·전력·연결·배치·가동 조건에 따라 달라집니다. 같은 서버 안에서도 뜨거운 위치의 GPU는 열 스로틀링(Thermal Throttling)으로 클럭이 낮아집니다. GPU 보관 장소를 고를 때는 ... Read More
RAID 는 디스크 여러 개를 묶어 한 개처럼 쓰는 기술이에요. 묶는 방법(레벨)에 따라 빨라지거나, 디스크 하나가 망가져도 데이터가 남아요.
TTL(Time To Live)은 DNS 답을 캐시에 얼마 동안 기억해 둬도 되는지 초 단위로 정한 시간이에요. ping 에 나오는 TTL 은 패킷이 지나갈 수 있는 남은 장비 수라서 뜻이 달라요.
NVMe는 SSD가 PCIe 길로 컴퓨터와 빠르게 데이터를 주고받도록 정한 규격이에요. SATA보다 큰 파일을 훨씬 빨리 읽어요.
최근 출시한 제품을 데이터독으로 모니터링하던 중 CLS가 좋지 않다는 것을 확인했습니다. 실제 화면을 다시 살펴봤지만, 무엇이 문제인지 쉽게 눈에 들어오지는 않았습니다. 레이아웃 이동이 발생한 시점을 따라가 보니, 미션 완료 후 거위 영역이 줄어드는 구간이었습니다. height가 줄면서 아래 콘텐츠의 레이아웃 위치도 바뀌고 있었으므로, 이동이 기록되는 이유…
티맵모빌리티는 2천만 명의 등록 사용자와 1,400만 명의 월간 활성 사용자를 보유한 대표 모빌리티 플랫폼으로, 수십 개의 AWS 계정에서 실시간 교통 정보 기반 내비게이션과 운전습관, 대리운전, 숏폼 등 다양한 모빌리티 서비스를 제공합니다. 실시간성이 중요한 서비스 특성 상 짧은 장애도 많은 사용자의 이동 경험에 영향을 줄 수 있기 때문에 장애가 발생하면 어느 서비스와 리소스에서 문제가 발생했는지, 영향 […]
네이버 사내 기술 교류 행사인 NAVER Engineering Day 10th 에서 발표되었던 세션을 공개합니다. 컨테이너처럼 쓰고, VM처럼 격리하기: kata-containers with GPU NAVER D2 | 컨테이너처럼 쓰고, VM처럼 격리하기: kata-containers with GPU naver.me 발표 내용 Kubernetes GPU 노드를 VM으로 격리해 나눠 쓰면서, 호스트 수준의 성능까지 최적화한 방법을 소개
트래픽(traffic)은 서버와 바깥 사이를 오간 데이터의 양이에요. 서버 요금표에서는 보통 한 달에 몇 GB 를 주고받았는지로 세요.
캐시(cache)는 자주 쓰는 데이터를 가까운 곳에 잠깐 보관해 두고 다시 쓰는 임시 저장소예요. 직접 재 보니 캐시가 맞으면 58KB 짜리 페이지가 0바이트 응답으로 끝났어요.
레이턴시(latency)는 요청을 보내고 응답이 돌아오기까지 걸리는 시간이에요. 우리말로 지연 시간이라고 하고, 보통 ms(1,000분의 1초) 단위로 말해요.
GPU는 비슷한 계산 수천 개를 한꺼번에 처리하는 칩이에요. 화면 그리기와 AI 그림·영상 계산에 많이 써요.
SEO(검색엔진 최적화)는 내 사이트가 구글·네이버 검색 결과에 잘 보이도록 글과 페이지 구조를 손보는 일이에요. 광고비 없이 검색으로 손님이 들어오게 만드는 작업이에요.
RAM은 CPU가 지금 하는 일을 잠깐 올려 두는 빠른 메모리예요. 전원을 끄면 지워지고, 서버 요금표의 '메모리'가 바로 RAM이에요.
CPU는 컴퓨터에 들어온 명령을 읽고 계산하는 부품이에요. 서버 요금표의 코어(vCPU)는 이 CPU를 몇 줄 동시에 쓸 수 있는지를 뜻해요.
SSD는 전기가 꺼져도 내용이 남는 플래시 메모리 칩에 파일을 담는 저장장치예요. 돌아가는 부품이 없어 하드디스크(HDD)보다 빠르고 조용해요.
Amazon MSK Express 브로커는 Kafka 클러스터 운영의 복잡성을 크게 줄입니다. 스토리지를 별도로 프로비저닝하거나 용량을 예측할 필요가 없고, 복제 계수(RF=3)와 최소 ISR(minISR=2)이 고정되어 있어 잘못된 복제 설정으로 인한 문제를 원천적으로 방지할 수 있습니다. KRaft 모드로 생성하면(Kafka 3.9 이상) ZooKeeper 관리 부담도 사라집니다. 사이징도 단순해집니다. 인스턴스 타입별 처리량 기준선 (su
AI 서비스의 성능과 안정성은 어디에서 결정될까요? 고성능 GPU와 AI 모델도 중요하지만, 방대한 데이터를 빠르게 전달하는 네트워크와 효율적인 인프라 운영, 장애에 대비하는 기술도 필요합니다. 우리가 사용하는 AI 서비스에는 이처럼 다양한 인프라 기술이 활용되고 있습니다.케클s피드 10월호에서는 KT AI 데이터센터 광고를 시작으로 공공 DR 전략과 BIM·AIOps 기반의 데이터센터 구축·운영 사례를 소개합니다. 안산·청라 AI 데이터센터
이 글은 2부입니다. 1부에서는 AWS PCS가 무엇이고(관리형 Slurm), 왜 필요하며, 요금이 어떻게 구성되는지를 다뤘습니다. 아직 1부를 보지 않으셨다면 개념과 비용 구조를 먼저 확인하시길 권합니다. 2부에서는 내 워크로드(CFD/CAE, 분산 트레이닝)에 PCS가 실제로 어떤 변화를 주는지, 하나의 클러스터로 통합하는 멀티 큐, AWS ParallelCluster에서 PCS로의 전환 가이드, 그리고 도입 사례를 살펴봅니다. 시리즈 블로
페이지 3 / 37 (총 655개)