자가 발전하는 유저 인터뷰 에이전트 개발기
똑닥 AI 모더레이터는 사람 대신 유저 인터뷰를 진행하는 AI 에이전트입니다. 이 글에서는 AI 모더레이터가 어떤 배경에서 시작되었고, 검수자의 피드백이 다음 인터뷰의 전략을 자동으로 다시 만들어내는 "자가 발전" 구조를 어떻게 설계하였는지 공유합니다.
기업 기술블로그의 MLOps 관련 글 180개
똑닥 AI 모더레이터는 사람 대신 유저 인터뷰를 진행하는 AI 에이전트입니다. 이 글에서는 AI 모더레이터가 어떤 배경에서 시작되었고, 검수자의 피드백이 다음 인터뷰의 전략을 자동으로 다시 만들어내는 "자가 발전" 구조를 어떻게 설계하였는지 공유합니다.
들어가며 수요 예측 시스템을 도입해 본 기업이라면 익숙한 패턴이 있습니다. 도입 첫해, 컨설턴트와 함께 수개월에 걸쳐 데이터를 정비하고 모델과 파라미터를 최적화합니다. 시스템은 그 시점의 비즈니스를 잘 반영하여 정확하게 예측합니다. 문제는 신규 채널에 진출하고, 프로모션 전략이 바뀌고, 신제품이 출시되고, 주력 상품의 라이프사이클이 끝날 때에 발생합니다. 비즈니스는 계속 변화하는데, 시스템은 구축 시점의 스냅샷에 멈춰 있습니다. 시스템의 예측을
많은 팀이 Claude Code로 자체 에이전트를 만들어 사용하고 있습니다. 예를 들어 데이터 분석 팀에서는 Skill로 리포트 형식을 표준화하고, MCP(Model Context Protocol) 서버로 사내 데이터베이스를 연결하고, 웹 검색으로 시장 동향까지 반영해 매출 리포트 작성을 자동화합니다. 이렇게 만든 에이전트는 개인 도구를 넘어 팀 전체가 활용할 수 있는 자산이 됩니다. 그러나 로컬에서 검증한 에이전트를 조직의 서비스로 확장하는
이 글은 같은 모델을 써도 에이전트 성능이 갈리는 이유가 모델이 아닌 하네스(모델을 둘러싼 환경 전체)에 있다는 관점에서, 프롬프트·컨텍스트·하네스 엔지니어링의 층위 차이를 구분하고 하네스를 구성하는 핵심 요소들을 다룹니다. 지시 문서(AGENTS.md)와 자동 검사 장치의 결합, 에이전트 바깥의 결정론적 검증, 컴팩션·하위 에이전트·진행파일을 통한 컨텍스트 관리 기법을 설명하며, 작게 시작해 실수할 때마다 한 겹씩 보강해 나가는 5단계 실천
AI Agent를 프로덕션 환경에 도입하려는 엔터프라이즈 고객과 이야기하다 보면, 공통적으로 마주하는 질문들이 있습니다. “사내에서 운영 중인 LLM을 Agent에서 호출할 수 있는가?” “인증을 회사가 이미 운영 중인 사내 IdP(Identity Provider)로 처리할 수 있는가? 단, IdP를 인터넷에 노출하지 않고?” “내부 데이터에 접근하는 MCP(Model Context Protocol) 서버를 사내망 안에서만 호출할 수 있는가?”
“팀원들이 AI 코딩 도구를 쓰고 싶어 하는데, 키는 누가 어떻게 나눠주죠?” 생성형 AI를 도입하는 조직이라면 어디서든 나오는 질문입니다. 저희는 이 질문에 조금 다른 순서로 답했습니다. 전사 플랫폼을 하향식으로 기획하는 대신, 사내에서 AI를 가장 많이 쓰는 팀이 자기 팀을 위해 먼저 만들고, 검증한 뒤 확대를 고민하기로 한 것입니다. 이 글은 F&F의 AI Engineering 팀이 Amazon Bedrock […]
기업 AI 도입은 늘었지만 ROI로 이어지지 않는 이유는 모델이 아니라 ‘의미 계층’의 부재다. 온톨로지는 기업의 개념·관계·규칙을 기계가 읽을 수 있게 고정하는 의미 지도이며, 에이전트 시대에는 운영 신호와 결합된 ‘살아 있는’ Active Ontology(컨텍스트 그래프)가 신뢰·권한·감사추적을 가능하게 한다. HelpNow Ontology Studio는 자동 구축, 지속 갱신, 에이전트 소비 가능성을 통해 AX 트랜스포메이션의 코어 레이어
형식이 제각각인 수천만 행 시장 데이터를 활용해, 자연어 질문에 검증된 수치로 답하는 사내 AI 애널리스트 플랫폼을 만든 개발기입니다. LLM은 질문 해석만 담당하고 수치 계산은 결정적 코드가 수행하는 아키텍처부터, 결정적 프리파서가 LLM 추출을 덮어쓰는 하이브리드 설계, 정답표를 코드로 고정하는 이중 평가 체계(오라클 테스트 + 골드 평가 하니스)까지 구체적인 버그 해부와 함께 공유합니다. 여기에 개발 전 과정을 멀티에이전트 AI 워크플로로
AI 에이전트가 스킬을 고르지 않거나 엉뚱한 절차를 밟는다면 SKILL.md를 살펴야 합니다. 실제 파일 238개를 분석한 연구가 찾아낸 결함 유형과 이를 개선하는 8가지 방법, 업무용 스킬 5개에 직접 적용한 결과를 정리했습니다.
1편에서는 검색·추천 모델을 vLLM 사용자 정의 플러그인으로 옮겨 서빙 성능을 높인 과정을 소개했습니다. 모델을 vLLM에서 실행할 수 있게 된 뒤에는 또 다른 문제가 남았습니다. 모델마다 반복해야 하는 변환 작업이 복잡하고, vLLM의 빠른 변화까지 계속 따라가야 한다는 점입니다. Hugging Face 모델 하나를 vLLM에 올리는 과정은 버튼 한 번으로 끝나지 않습니다. ‘딸깍’ 한 번으로 완성할 수는 없습니다. 하지만 자동화를 우리 문
네이버 플레이스 AI MLOps는 지난 1년간 검색과 추천에 사용하는 스코어링 모델의 서빙 구조를 vLLM 기반으로 전환했습니다. 이 글에서는 사내 Engineering Day에서 발표한 내용을 바탕으로, 모델 서빙 경로를 최적화해 성능을 높인 과정을 소개합니다. 먼저 결과부터 살펴보겠습니다. 0.6B 재순위화(reranking) 모델을 Hugging Face Transformer.encode로 서빙했을 때 처리량은 63.85 QPS였습니다.
들어가며: 에이전트를 한 명이 만들던 시대의 끝 지난 1년 동안 많은 엔지니어가 자기만의 AI 에이전트를 만들어 봤습니다. CloudWatch 지표를 조회하는 작은 도구, EKS 클러스터 상태를 점검하는 스크립트, 장애 로그를 요약하는 프롬프트. LLM과 몇 개의 도구를 엮으면 놀랍도록 빠르게 동작하는 에이전트가 나옵니다. 여기까지는 한 사람의 생산성 향상 이야기입니다. 문제는 그다음입니다. 10명, 20명이 일하는 클라우드 운영 조직에서 […
노트북과 서빙 사이
1편에서는 모델 규모에 맞는 GPU 인스턴스와 인터커넥트, 병렬화 전략, 그리고 모델 메모리 계산까지 ‘무엇을 고를까’를 다뤘습니다. 이번 2편에서는 그 선택을 수천 장 규모로 확장합니다. 수천에서 수만 개의 GPU를 하나의 학습으로 묶는 울트라클러스터와 울트라서버 아키텍처, 그리고 이런 고성능 인스턴스를 실제로 확보하는 ODCR 및 Capacity Block 전략을 다룹니다. 시리즈 블로그 보기 분산 학습을 위한 AWS 컴퓨트 선택 […]
서로 충돌하는 데이터는 어떻게 다룰까요? 최근 멀티모달 대규모 언어모델(MLLM)을 만드는 표준 레시피는 점점 더 큰 여러 종류의 지시 및 응답 데이터를 한데 섞은 학습 데이터인 'Instruction Mixture'를 활용한 후학습(Post-training)으로 자리잡고 있습니다. ✔️ 인식(Perception) ✔️ 추론(Reasoning) ✔️ OCR ✔️ 문서 이해 ✔️ 비디오 이해 등 모델이 수행해야 하는 능력이 다양해질수록, 학습에
본 블로그 시리즈는 A1Mobilsoft, Megazone, AWS 가 공동 작성 하였으며, 두 편으로 이루어져 있습니다. 각 편의 구성은 다음과 같습니다. 1편 (0~3장): 문제 정의와 3-에이전트 아키텍처 설계 2편 (4~7장, 현재 글): 세 에이전트 구현 우여곡절과 사람 vs AI 검증 2편: Bedrock AgentCore·Strands 기반 구현 디테일, 프롬프트 캐시, 그리고 14건 병렬 비교 결과 1편에서는 32개월간 846건이
AI 코딩의 성공을 SDLC 전 과정 자동화로 과대포장하는 ‘모두 다 된다’식 약속은 위험하다. 단계별 성숙도를 구분하고, PoC로 검증한 뒤 범위를 확정하며, KPI를 정량화하고 Human-in-the-loop로 운영해야 엔터프라이즈 환경에서 AI SDLC를 현실적인 로드맵으로 구현할 수 있다. The post AI SDLC의 올바른 접근법과 사전 준비사항 appeared first on BESPIN T
현대 전장은 드론 영상과 위성사진, 무전 음성, 작전 문서 등 서로 다른 형태의 정보가 실시간으로 쏟아지고, 이를 신속한 의사결정으로 연결해야 하는 환경으로 빠르게 바뀌고 있습니다. ⏰ 그리고 이것이 텍스트와 이미지, 영상 그리고 음성까지 동시에 이해하는 옴니모달 AI가 국방의 핵심 기술로 주목받는 이유죠! 팀네이버는 바로 이러한 환경에 최적화된 경량 옴니모달 언어모델 HyperCLOVA X SEED 4B와 그 기반이 되는 HyperCLOVA
페이지 3 / 10 (총 180개)