devBlog
기업 기술블로그의 AI/ML 관련 글 1219개
KV cache offload, 메모리 풀링, 메모리 tiering을 통해 CXL이 실제 워크로드에서 어떻게 쓰이는지 살펴봅니다.
AI 에이전트가 스킬을 고르지 않거나 엉뚱한 절차를 밟는다면 SKILL.md를 살펴야 합니다. 실제 파일 238개를 분석한 연구가 찾아낸 결함 유형과 이를 개선하는 8가지 방법, 업무용 스킬 5개에 직접 적용한 결과를 정리했습니다.
안녕하세요. teus입니다. 이번 포스팅은, opencode 등의 LLM에서 설정할 수 있는 thinking_token_budget에 대해서 다룹니다. 0. Effort opencode나 claude code의 설정...
 > 본 콘텐츠는 작성자가 사내 게시판에 공유한 글을 가공한 것으로, 작성자의 의도와 맥락을 충실히 전달하기 위해 원문의 문장 스타일을 그대로 유지하였습니다. --- 우리는 에이전트 코딩의 황금기를 살고 있다. 그리고 그 사실을 모르고 있다. 매달 전
1편에서는 검색·추천 모델을 vLLM 사용자 정의 플러그인으로 옮겨 서빙 성능을 높인 과정을 소개했습니다. 모델을 vLLM에서 실행할 수 있게 된 뒤에는 또 다른 문제가 남았습니다. 모델마다 반복해야 하는 변환 작업이 복잡하고, vLLM의 빠른 변화까지 계속 따라가야 한다는 점입니다. Hugging Face 모델 하나를 vLLM에 올리는 과정은 버튼 한 번으로 끝나지 않습니다. ‘딸깍’ 한 번으로 완성할 수는 없습니다. 하지만 자동화를 우리 문
네이버 플레이스 AI MLOps는 지난 1년간 검색과 추천에 사용하는 스코어링 모델의 서빙 구조를 vLLM 기반으로 전환했습니다. 이 글에서는 사내 Engineering Day에서 발표한 내용을 바탕으로, 모델 서빙 경로를 최적화해 성능을 높인 과정을 소개합니다. 먼저 결과부터 살펴보겠습니다. 0.6B 재순위화(reranking) 모델을 Hugging Face Transformer.encode로 서빙했을 때 처리량은 63.85 QPS였습니다.
이 블로그는 한화솔루션 분석/AI팀과 AWS의 협업으로 작성되었습니다 한화솔루션은 사내 임직원과 개발자가 Claude 기반 도구(Claude Cowork, Claude Code)를 안전하고 통제 가능한 방식으로 사용할 수 있도록, Amazon Bedrock 위에 단일 사내 LLM Gateway를 구축했습니다. 특히 Claude Cowork를 AWS 기반으로 전사에 안정 배포한 것은 국내 첫 사례입니다. 이 게이트웨이는 계열사별로 분리된 여러 인
LG CNS는 AWS 프리미어 파트너로, 다수의 대규모 엔터프라이즈 고객을 대상으로 System Maintenance(운영 유지보수)/Application Modernization(현대화)/Migration 서비스를 제공하고 있습니다. 이 글은 그중 한 고객사의 System Maintenance 프로젝트에서 AI-DLC를 도입·커스터마이징하며 축적한 실전 경험을 바탕으로 작성되었습니다. 들어가며 생성형 AI를 개발에 활용하는 방식은 빠르게 진화
안녕하세요! 누구나 함께 시작하는 클라우드 네이버 클라우드 플랫폼 ncloud.com입니다. ☁️ 지난 6월 23일부터 7월 6일까지 진행된 충남대학교 AI부트캠프사업단의 <클라우드 리터러시 교육과정 1기>! 총 10일, 40시간 동안 진행된 이번 교육은 뜨거운 관심 속에 시작해 수강생 전원이 끝까지 완주하며 무려 수료율 100%를 달성했습니다! 뜨거운 여정의 시작부터 성장의 결실까지, 충남대학교 클라우드 리터러시 과정의 주요 순간을 함께 살펴
seapy의 요청과 청취 판단, raccoony의 썸네일 피드백, AI 에이전트의 실행으로 원본 수신부터 팟캐스트·YouTube·X 발행까지 이어진 Ep 2618 제작 세션을 시간순으로 기록했습니다.
히트맵이 살아 움직인다면? ‘히트맵(Heatmap)’은 사용자의 행동 데이터를 색상으로 시각화 하는 분석 기법입니다. 클릭이나 마우스 움직임이 많이 발생한 영역은 붉게, 상대적으로 적게 발생한 영역은 푸르게 표현되죠. 이를 통해 많이 클릭된 버튼이나 사용자의 관심이 집중된 영역을 한 눈에 파악할 수 있습니다. 이러한 히트맵이 시간의 흐름에 따라 움직인다면 어떨까요? 사용자의 관심이 머무른 ‘순간’이나 클릭이 이동하는 ‘흔적’을 확인할 수… 더
개발자 여러분, 안녕하세요!8월 첫째 주 블로그에 발표된 Google의 주요 개발자 제품별 최신 소식을 살펴보세요.[주요 개발자 블로그 업데이트]AI & Machine Learning스킬, 도구 등을 하나로 묶어주는 에이전트 플러그인 (Agent Plugins package your skills, tools, and more) MCP Stateless 업데이트로 AI 에이전트 인프라 확장하기(Scaling AI Agent Infrastructu
페이지 9 / 68 (총 1219개)