AWS 환경에서 프로덕션-레디 확산 언어 모델(DLM) 검증하기
확산 언어 모델(Diffusion Language Model, 이하 DLM)은 일반적인 자기회귀(Autoregressive, 이하 AR) 모델과 다른 방식으로 텍스트를 생성하는 언어 모델입니다. 최근 AR 모델과 동일한 사이즈의 DLM 모델들이 공개되고 있으며, 벤치마크 결과에서 AR보다 낮은 응답 지연(latency)을 보이며 주목을 받고 있습니다. 다만 AR과 완벽히 동일한 구조의 모델이 아니기 때문에 워크로드에서 모델을 변경하기 앞서 검증
AI/MLAWSMLOpsPerformance
[23. 5. 23] 패혈증 사전 예측의 중요성
AI/MLData AnalysisMLOps
AWS Elemental Inference를 활용한 실시간 문맥 광고(Contextual Advertising) 솔루션
AWS Elemental Inference Smart Subtitle, Amazon Bedrock, SCTE-35를 결합하여 라이브 방송 콘텐츠의 문맥을 실시간으로 이해하고, 최적의 시점에 문맥 기반 광고를 배치하는 아키텍처를 구축합니다. 이 블로그에서는 라이브 콘텐츠의 음성을 실시간으로 자막화하고, 그 자막의 문맥을 AI가 분석하여 IAB(Interactive Advertising Bureau) 카테고리로 분류한 뒤, 표준 SCTE-35 오버
AI/MLAWSArchitectureDevOpsMLOps
LLM 비용 64% 절감, 캐시 히트율 98% 달성기
MLOpsPerformance
KT 클라우드
2026-07-03 · 16일 전
[AI활용] AI 에이전트의 안전벨트, 하네스 엔지니어링: Claude Code와 Terraform 사례
[ kt cloud Azure전환팀 이영호 님 ] 요약 이 글에서는 AI 에이전트를 안전하게 운영하기 위한 하네스 엔지니어링과 Terraform 워크플로우 적용 방식을 다룹니다. 자동화의 생산성과 통제 사이에서 필요한 운영 안전장치를 정리합니다. #하네스엔지니어링 #AI에이전트 #ClaudeCode #Terraform #HumanInTheLoop 최근 Claude Code를 메인 AI 에이전트로 도입해 Azure 인프라를 구축하면서, AI의 폭
AI AgentDevOpsInfraMLOps
하나투어의 Amazon Neptune과 Amazon Bedrock AgentCore를 활용한 여행상품 기획 에이전트 구축기
“오사카 3박 4일, 벚꽃 시즌, 예산 150만 원.” 이 조건 한 줄로 여행 패키지 기획 초안을 만들 수 있다면 어떨까요? 하나투어는 상품기획자(MD, Merchandiser)가 수작업으로 2~3일에 걸쳐 만들던 패키지 일정 초안을, 지식 그래프 기반의 AI 에이전트로 2~3분 만에 생성하는 시스템을 구축했습니다. 이 글에서는 하나투어가 두 번의 시행착오 끝에 Amazon Neptune 기반 GraphRAG(그래프 기반 검색 증강 생성)와 A
AI AgentAI/MLAWSData EngineeringMLOps
삼성 기술 블로그
2026-07-01 · 18일 전
전문가를 넘어선 AI – 5G vRAN 추론 코드 자동 생성을 위한 Multi-Agent 컴파일러
5G vRAN의 각 계층에 들어가는 AI 모델은 마이크로초 단위의 실시간 제약을 만족해야 하며, 이를 위해 전문가가 수주에 걸쳐 SIMD 최적화 C++ 코드를 수동으로 작성해 왔습니다. 이 과정을 자동화하기 위해 LLM 기반의 전문화된 Agent들이 분석, 전략 수립, 코드 생성 및 검증을 수행하는 Multi-Agent 컴파일러를 개발했습니다. 이 블로그에서는 그 개발 과정과 방법론, 적용 결과를 공유합니다.
AI AgentAI/MLMLOpsPerformance
단일 LLM Gateway 아키텍처 : Claude Code와 Codex를 Amazon Bedrock을 통해 한 곳에서
Claude Code와 Codex를 비롯한 AI 코딩 에이전트는 이미 엔터프라이즈 개발 조직의 일상적인 생산성 도구로 자리잡았습니다. 도구가 빠르게 발전하는 만큼 개발자들은 더 나은 모델과 기능을 따라 다양한 도구를 적극적으로 사용하고 있습니다. 이제 조직의 고민은 “도입할 것인가”가 아니라 “어떻게 운영할 것인가”입니다. AI 코딩 에이전트는 소스 코드와 작업 컨텍스트를 LLM에 전달하고, 그 비용은 사용량에 비례해 발생하며, 어떤 데이터가
AI AgentAI/MLAWSArchitectureMLOps
[Databricks Data + AI Summit 2026] AI Agent 시대의 분석 플랫폼: Databricks Agentic Analytics 전략
본 글에서는 Databricks Data + AI Summit 2026의 “Agentic Analytics on Databricks Lakehouse” 세션을 바탕으로 Lakehouse RT, Unity AI Gateway, Genie Ontology, Agent Bricks 중심의 Agentic Analytics 아키텍처와 데이터 분석 플랫폼의 미래를 살펴봅니다. The post [Databricks Data + AI Summit 2026]
AI AgentAI/MLArchitectureData AnalysisMLOps
[Databricks Data + AI Summit 2026] 키노트로 본 Agentic Data 시대의 시작
본 글에서는 Databricks Data + AI Summit 2026 키노트의 “Agentic Data” 흐름과 Lakehouse//RT, Lakebase, Genie, Unity AI Gateway 발표를 중심으로 기업이 Agentic AI 시대를 준비하기 위한 데이터 플랫폼 전략을 살펴봅니다. The post [Databricks Data + AI Summit 2026] 키노트로 본 Agentic Data 시대의 시작 appeared fi
AI AgentAI/MLData AnalysisData EngineeringMLOps
[Databricks Data + AI Summit 2026] Agentic AI 데이터 플랫폼 전략
본 글에서는 Databricks Data + AI Summit 2026 키노트의 “Agentic Data” 흐름과 Lakehouse//RT, Lakebase, Genie, Unity AI Gateway 발표를 중심으로 기업이 Agentic AI 시대를 준비하기 위한 데이터 플랫폼 전략을 살펴봅니다. The post [Databricks Data + AI Summit 2026] Agentic AI 데이터 플랫폼 전략 appeared first o
AI AgentAI/MLData AnalysisData EngineeringMLOps
SNOW의 Automatic Sharding 도입기
네이버 사내 기술 교류 행사인 NAVER ENGINEERING DAY 2026(5월)에서 발표되었던 세션을 공개합니다. 발표 내용 수천 개의 서비스가 한정된 GPU 자원을 효율적으로 공유할 수 있도록 돕는 Automatic Sharding 기술을 소개하고, 모델 로딩 오버헤드를 제거하여 더 빠르고 안정적인 AI 모델 서빙 전략을 공유합니다. 발표 대상 다수의 AI 모델을 GPU 환경에서 운영하면서 운영 자동화를 고민하시는 분들 목차 SNOW A
AI/MLDevOpsInfraMLOpsPerformance
프롬프트 튜닝을 수작업에서 AI 튜닝으로: 유전 알고리즘 기반 자동 최적화와 고속화
LY Corporation의 기술 컨퍼런스인 Tech-Verse 2026의 공식 기사입니다.안녕하세요. LY Corporation의 Nakano입니다. Yahoo! JAPAN Se...
AI/MLMLOpsPerformance
분석 에이전트의 힘으로 분석을 하나로 연결하다! 전문 조직에서 도전하는 생성 AI 시대의 업무 혁신과 역할 전환
LY Corporation의 기술 컨퍼런스인 Tech-Verse 2026의 공식 기사입니다.안녕하세요. AI 에이전트로 분석을 ‘하나로 잇는’ 프로젝트 ‘PJ One Piece’의...
AI AgentAI/MLData AnalysisMLOpsTools
네이버 클라우드 플랫폼
2026-06-19 · 약 1개월 전
[행사스케치] 국방 AX의 미래, Sovereign AI로 완성하다: 2026 한국군사과학기술학회 종합학술대회
안녕하세요, 누구나 쉽게 시작하는 클라우드 네이버클라우드 ncloud.com 입니다. 지난 6월 10일(수)부터 12일(금)까지, 제주국제컨벤션센터(ICC)에서 2026 한국군사과학기술학회 종합학술대회가 개최되었습니다. 한국군사과학기술학회는 산업체, 학계, 연구소, 군 등이 함께 참여하는 국내 최대 종합 군사과학기술 학회로 최신 군사과학기술과 연구 성과를 공유하고, 국방 과학기술의 발전 방향을 논의하는 뜻깊은 자리였는데요. 네이버클라우드도 자체
AI/MLAWSInfraMLOpsSecurity
스펙만 바꾸면 프롬프트가 따라옵니다 - 답변 생성 모델 자동화 파이프라인
네이버 사내 기술 교류 행사인 NAVER ENGINEERING DAY 2026(5월)에서 발표되었던 세션을 공개합니다. 발표 내용 입력 스펙이 자주 바뀌는 쇼핑 에이전트 답변 모델 개발에서, 변경된 스펙만 입력하면 결함 탐지/프롬프트 최적화/SFT 학습 데이터 생성을 에이전트가 폐쇄 루프로 돌리는 자동화 파이프라인을 설계하며 얻은 구조와 적용 경험을 공유합니다. 발표 대상 AI 서비스를 위한 스펙기반 프롬프트 최적화를 적용하고자 하시는 기획/A
AI AgentAI/MLBackendData EngineeringMLOps
삼성 기술 블로그
2026-06-18 · 약 1개월 전
가전제품 MCU 펌웨어, AI가 100% 개발하는 시나리오 가능한가
삼성전자 가전제품 펌웨어 개발에 ‘하네스 엔지니어링’을 적용하여, AI 에이전트가 100% 스스로 소프트웨어를 개발할 수 있는지 확인하는 프로젝트를 진행했습니다. 사람은 ‘무엇을 만들지’와 ‘어떻게 확인할지’만 설계하고, AI가 계획·구현·검증을 자율적으로 반복하도록 한 과정과 그 결과를 공유합니다.
AI AgentAI/MLBackendMLOps
AI 에이전트로 카카오톡 추천 지표 분석 자동화하기
AI 에이전트로 카카오톡 추천 지표 분석 자동화하기: Hadoop 기반 도입 사례 안녕하세요. 소셜추천엔진팀에서 숏폼 추천 모델을 개발하고 있는 루퍼트(rupert)입니다. 추천 시스템을 개발하다 보면 코드를 짜는 시간만큼이나 데이터를 들여다보는 시간이 길어집니다. 지표가 조금만 움직여도 “이번 주 CTR이 왜 떨어졌지?”, “실험군 반응은 어땠지?”, “배포 이후 특정 사용자군에서 달라진 점은 없을까?” 같은 질문이 이어집니다. 질문은 한 문
AI AgentAI/MLData AnalysisMLOpsRecommendation