devBlog
기업 기술블로그의 Performance 관련 글 655개
서론 정밀의료 시대에 바이오마커 기반 표적치료는 암 치료의 핵심 전략으로 자리 잡고 있습니다. 실제 임상에서는 유전체 분석 결과를 바탕으로 치료 방침이 결정되기 때문에, 유전체 분석 검사의 신뢰성(Reliability)과 신속한 결과 제공(Turnaround Time, TAT)은 단순한 운영 성과 지표(KPI)가 아닙니다. 이는 환자의 치료 일정과 의료진의 임상 의사결정에 직접적인 영향을 미치는 핵심 제약 조건입니다. 그 사이를 채우는 것은 시
원문: Rendering Digital Humans with Amazon EC2 Spot Instances — Dario Macagnano, Jyothi Madanlal, 2026년 7월 10일 (AWS Physical AI Blog) Amazon Web Services는 이 게시물에 기여해 주신 UneeQ 엔지니어링 팀에 감사드립니다 UneeQ는 실시간 고충실도(high-fidelity) 3D 렌더링을 통해 사실적인 표정을 표현하면서 자연스러
산업혁명에서 승자는 ‘엔진’이 아니라 ‘일하는 방식’을 바꾼 기업이었다. AI 시대에도 이미 해외·국내에서 버티컬 워크플로우를 깊게 파고든 팀들이 성과를 내고 있으며, 성과는 대체가 아닌 재배치와 단위경제에 달려 있다. The post [AI 트렌드] 배관 전화를 받는 AI가 1조 회사가 됐습니다 appeared first on BESPIN Tech Blog.
1부에서는 Amazon EKS의 GPU 노드에서 Gemma 4 31B를 vLLM으로 서빙할 때의 콜드 스타트를 다뤘습니다. 파드가 Ready가 되기까지의 시간을 428초에서 226초로 줄인 과정입니다. 스트리밍 로더로 가중치를 S3에서 직접 읽고 컴파일 캐시를 hostPath와 S3에 남기고 유휴 상태는 sleep/wake로 전환하는 구성이었습니다. 모델은 NVIDIA가 공개한 NVFP4 체크포인트 nvidia/Gemma-4-31B-IT-NVF
Gemma 4는 Google이 공개한 오픈 웨이트 모델 패밀리로, E2B부터 31B까지 5가지 크기에 텍스트와 이미지 입력(E2B, E4B, 12B는 오디오도 지원), 최대 256K 토큰 컨텍스트(E2B, E4B는 128K), 추론(thinking) 모드를 제공합니다. 그중 31B는 밀집(dense) 구조의 최상위 모델로, NVFP4(4비트 부동소수점)로 양자화한 가중치 약 31GiB가 96GB GPU 1개에 올라가는 대신 시작할 때마다 수십
App Router가 토스뱅크에도 좋은 선택일지, 직접 측정한 결과와 도입 여부를 판단한 기준을 공유해요.
AI 질문은 입력·네트워크·서버 배정·GPU 추론·응답까지 5단계를 거쳐 데이터센터를 왕복합니다. AI 질문 한 번은 약 0.3Wh를 씁니다. LED 전구를 2분 켜는 전력이지만, 하루 수십억 건이 쌓이면 ... Read More
매주 열리는 세션을 지켜낼 수 있던 디테일, 탄토의 보따리
if(kakao)2026 첫째 날은 AI 방향성, 신뢰와 안전, Model & Agent, 상생과 성장에 대해 이야기합니다. 키노트를 제외한 총 23개의 기술 세션들이 아래와 같이 진행됩니다. [AI 방향성] 1. You Only Train Once: 더 효율적으로 Kanana SLM 개발하기 (류민호, 한규빈) 단 한 번의 학습으로, 4개의 Small Dense Model Family를 개발한 노하우를 공유합니다! 최근 공개한 Kanana-2
플랫폼의 핵심은 개발자의 멘탈 모델을 단순하게 유지하는 데 있습니다. 카카오뱅크의 신규 발송기는 Lock-Free, Work-Stealing 같은 복잡한 성능 최적화는 내부에 숨기고, 개발자에게는 “몇 개의 메서드만 구현하면 된다"는 단순한 인터페이스를 제공합니다. 시리즈물로 연재되는 ‘대규모 알림 시스템 구축기’의 첫 번째 글인 이번 편에서는, 하루 N억 건을 처리하는 고성능 발송 플랫폼의 뼈대와 계층 분리 아키텍처를 공유합니다.
AI 시대로 전환이 가속화되면서 Amazon ECS가 다시 주목받고 있습니다. 모델 추론 서버부터 AI 에이전트와 에이전트가 호출하는 도구까지 컨테이너로 배포되는 워크로드가 증가했고, GPU 컴퓨트와 급격한 트래픽 변화를 감당하는 일들이 컨테이너 운영의 일상이 되었기 때문입니다. 하지만 ECS로 컨테이너 워크로드를 운영하다 보면 비슷한 고민과 마주치게 됩니다. EC2에서 제공되던 서비스를 Fargate로 이전할 때 시작 유형(launch typ
안녕하세요. CX팀 Carly입니다. CX팀은 고객을 가장 잘 이해하는 팀으로서, 고객과 마주하는 모든 접점에서 일관되고 신뢰할 수 있는 경험을 효율적으로 제공하며, 현장의 목소리를 바탕으로 고객을 위한 다양한 변화를 만들기 위해 치열하게 고민하고 있습니다. 이번 26년 상반기에는 'CX에서 AX를 활용하여 성과를 내보자!'라는 목표를 세웠고, 결론적으로 상담 문의량이 월평균 약 40% 감소하는 성과를 거두었습니다! 어떤 과정을 거쳐 이 추상적
Benchmark Contamination과 Double-Blind Evaluation 새로운 AI 모델이 공개될 때마다 다양한 벤치마크 점수가 함께 발표됩니다. 추론, 수학, 코딩, 안전성 등 모델의 능력을 하나의 숫자로 비교할 수 있기 때문에 벤치마크는 AI 모델의 성능을 판단하는 대표적인 기준으로 활용되고 있습니다. 하지만 모델의 학습 데이터가 점점 방대해지면서 한 가지 질문이 중요해지고 있습니다. 모델이 평가 문제를 이미 본 적이 있다면
페이지 7 / 37 (총 655개)