기업 기술블로그의 MLOps 관련 글 138개
기업 AI 도입은 늘었지만 ROI로 이어지지 않는 이유는 모델이 아니라 ‘의미 계층’의 부재다. 온톨로지는 기업의 개념·관계·규칙을 기계가 읽을 수 있게 고정하는 의미 지도이며, 에이전트 시대에는 운영 신호와 결합된 ‘살아 있는’ Active Ontology(컨텍스트 그래프)가 신뢰·권한·감사추적을 가능하게 한다. HelpNow Ontology Studio는 자동 구축, 지속 갱신, 에이전트 소비 가능성을 통해 AX 트랜스포메이션의 코어 레이어
형식이 제각각인 수천만 행 시장 데이터를 활용해, 자연어 질문에 검증된 수치로 답하는 사내 AI 애널리스트 플랫폼을 만든 개발기입니다. LLM은 질문 해석만 담당하고 수치 계산은 결정적 코드가 수행하는 아키텍처부터, 결정적 프리파서가 LLM 추출을 덮어쓰는 하이브리드 설계, 정답표를 코드로 고정하는 이중 평가 체계(오라클 테스트 + 골드 평가 하니스)까지 구체적인 버그 해부와 함께 공유합니다. 여기에 개발 전 과정을 멀티에이전트 AI 워크플로로
AI 에이전트가 스킬을 고르지 않거나 엉뚱한 절차를 밟는다면 SKILL.md를 살펴야 합니다. 실제 파일 238개를 분석한 연구가 찾아낸 결함 유형과 이를 개선하는 8가지 방법, 업무용 스킬 5개에 직접 적용한 결과를 정리했습니다.
1편에서는 검색·추천 모델을 vLLM 사용자 정의 플러그인으로 옮겨 서빙 성능을 높인 과정을 소개했습니다. 모델을 vLLM에서 실행할 수 있게 된 뒤에는 또 다른 문제가 남았습니다. 모델마다 반복해야 하는 변환 작업이 복잡하고, vLLM의 빠른 변화까지 계속 따라가야 한다는 점입니다. Hugging Face 모델 하나를 vLLM에 올리는 과정은 버튼 한 번으로 끝나지 않습니다. ‘딸깍’ 한 번으로 완성할 수는 없습니다. 하지만 자동화를 우리 문
네이버 플레이스 AI MLOps는 지난 1년간 검색과 추천에 사용하는 스코어링 모델의 서빙 구조를 vLLM 기반으로 전환했습니다. 이 글에서는 사내 Engineering Day에서 발표한 내용을 바탕으로, 모델 서빙 경로를 최적화해 성능을 높인 과정을 소개합니다. 먼저 결과부터 살펴보겠습니다. 0.6B 재순위화(reranking) 모델을 Hugging Face Transformer.encode로 서빙했을 때 처리량은 63.85 QPS였습니다.
들어가며: 에이전트를 한 명이 만들던 시대의 끝 지난 1년 동안 많은 엔지니어가 자기만의 AI 에이전트를 만들어 봤습니다. CloudWatch 지표를 조회하는 작은 도구, EKS 클러스터 상태를 점검하는 스크립트, 장애 로그를 요약하는 프롬프트. LLM과 몇 개의 도구를 엮으면 놀랍도록 빠르게 동작하는 에이전트가 나옵니다. 여기까지는 한 사람의 생산성 향상 이야기입니다. 문제는 그다음입니다. 10명, 20명이 일하는 클라우드 운영 조직에서 […
노트북과 서빙 사이
1편에서는 모델 규모에 맞는 GPU 인스턴스와 인터커넥트, 병렬화 전략, 그리고 모델 메모리 계산까지 ‘무엇을 고를까’를 다뤘습니다. 이번 2편에서는 그 선택을 수천 장 규모로 확장합니다. 수천에서 수만 개의 GPU를 하나의 학습으로 묶는 울트라클러스터와 울트라서버 아키텍처, 그리고 이런 고성능 인스턴스를 실제로 확보하는 ODCR 및 Capacity Block 전략을 다룹니다. 시리즈 블로그 보기 분산 학습을 위한 AWS 컴퓨트 선택 […]
서로 충돌하는 데이터는 어떻게 다룰까요? 최근 멀티모달 대규모 언어모델(MLLM)을 만드는 표준 레시피는 점점 더 큰 여러 종류의 지시 및 응답 데이터를 한데 섞은 학습 데이터인 'Instruction Mixture'를 활용한 후학습(Post-training)으로 자리잡고 있습니다. ✔️ 인식(Perception) ✔️ 추론(Reasoning) ✔️ OCR ✔️ 문서 이해 ✔️ 비디오 이해 등 모델이 수행해야 하는 능력이 다양해질수록, 학습에
본 블로그 시리즈는 A1Mobilsoft, Megazone, AWS 가 공동 작성 하였으며, 두 편으로 이루어져 있습니다. 각 편의 구성은 다음과 같습니다. 1편 (0~3장): 문제 정의와 3-에이전트 아키텍처 설계 2편 (4~7장, 현재 글): 세 에이전트 구현 우여곡절과 사람 vs AI 검증 2편: Bedrock AgentCore·Strands 기반 구현 디테일, 프롬프트 캐시, 그리고 14건 병렬 비교 결과 1편에서는 32개월간 846건이
AI 코딩의 성공을 SDLC 전 과정 자동화로 과대포장하는 ‘모두 다 된다’식 약속은 위험하다. 단계별 성숙도를 구분하고, PoC로 검증한 뒤 범위를 확정하며, KPI를 정량화하고 Human-in-the-loop로 운영해야 엔터프라이즈 환경에서 AI SDLC를 현실적인 로드맵으로 구현할 수 있다. The post AI SDLC의 올바른 접근법과 사전 준비사항 appeared first on BESPIN T
현대 전장은 드론 영상과 위성사진, 무전 음성, 작전 문서 등 서로 다른 형태의 정보가 실시간으로 쏟아지고, 이를 신속한 의사결정으로 연결해야 하는 환경으로 빠르게 바뀌고 있습니다. ⏰ 그리고 이것이 텍스트와 이미지, 영상 그리고 음성까지 동시에 이해하는 옴니모달 AI가 국방의 핵심 기술로 주목받는 이유죠! 팀네이버는 바로 이러한 환경에 최적화된 경량 옴니모달 언어모델 HyperCLOVA X SEED 4B와 그 기반이 되는 HyperCLOVA
이번 블로그는 AWS DEVCRAFT 2026 (2026.3.26 ~ 4.9, AWS 코리아 오피스) 해커톤 프로그램에 참여하여 진행한 프로젝트를 기반으로 작성되었습니다. DEVCRAFT는 AWS SA와 고객사 개발팀이 함께 실제 비즈니스 과제를 2주간 집중 개발하는 프로그램입니다. 어스얼라이언스 (US Alliance)는 크리에이터 기반 금융 콘텐츠·커뮤니티 플랫폼 ‘어스플러스(US PLUS)’를 운영하는 기업입니다. 본 블로그에서는 어스얼라
Annual Review · 2026 → 2027 Transition시리즈 11편이 발행되는 5개월 동안 한국 B2B SaaS의 평균 ChatGPT 카테고리 인용률이 7.4% → 14.2%로 1.9× 증가했다. 같은 기간 OpenAI Operator가 출시되어 Agentic Search 시대가 열렸고, Semrush는 LLM 트래픽이 2027년 말 traditional Google 검색을 추월할 것이라 예측한다. 이 글은 12편 시리즈의 통합
AI의 답변에 브랜드가 자주 등장한다는 것은 좋은 신호입니다. AI를 통해 브랜드가 더 많은 고객에게 알려지고 있다는 뜻이기 때문입니다. AI가 새로운 정보 탐색 채널로 자리 잡으면서 이러한 노출의 중요성은 나날이 커지고 있죠. 그렇다면 AI의 언급 횟수만으로 그 브랜드의 위치를 정확히 판단할 수 있을까요? 8개의 AI 플랫폼에서 부정적으로 언급되는 브랜드가 있다고 가정해보겠습니다. 반대로 4개 플랫폼에서만 언급되지만, 등장할… 더 보기 »피카
확산 언어 모델(Diffusion Language Model, 이하 DLM)은 일반적인 자기회귀(Autoregressive, 이하 AR) 모델과 다른 방식으로 텍스트를 생성하는 언어 모델입니다. 최근 AR 모델과 동일한 사이즈의 DLM 모델들이 공개되고 있으며, 벤치마크 결과에서 AR보다 낮은 응답 지연(latency)을 보이며 주목을 받고 있습니다. 다만 AR과 완벽히 동일한 구조의 모델이 아니기 때문에 워크로드에서 모델을 변경하기 앞서 검증
페이지 1 / 8 (총 138개)
