GS에너지의 Amazon Bedrock 기반 전사 Claude 도입 과정에서의 사내 인증, 비용 관리와 업무 시스템 연계
이 블로그는 GS에너지와 AWS가 함께 작성했습니다. 1. 전사 AI 서비스 도입 배경 GS에너지는 GS그룹 에너지 부문의 지주회사로, 계열사와 함께 정유·석유화학, 발전·집단에너지, LNG 터미널 등 에너지 사업을 운영하고 있습니다. Digital Tech팀은 이러한 사업을 지원하는 IT 시스템을 운영하며, 안정성과 보안을 기반으로 새로운 기술의 전사 활용을 추진하고 있습니다. 사내 생성형 AI 활용 수요가 늘면서, GS에너지는 비용 통제와
[클로바 시선 #60] NAVER Cloud Defense AI Day: 국방 소버린 AI 전략 인사이트
지난 9월 18일(금), 서울신라호텔 다이너스티홀에서 네이버클라우드의 국방 AI 전략을 소개하는 'Defense AI Day'가 개최되었습니다! AI가 산업의 경쟁 방식을 다시 쓰는 지금, 그 변화의 흐름은 국방 영역에도 빠르게 닿고 있습니다. 전장에서 쏟아지는 방대한 데이터를 얼마나 빠르게 이해하고 판단으로 연결하느냐 이것이 곧 전력의 경쟁력을 좌우하는 시대로 접어들고 있는데요. 이번 Defense AI Day에서는 국방 AI 전환을 위한 다
판단에만 집중하세요: 토스 타겟팅 모델 개발 자동화
피쳐 개수 자동 결정부터 모델 비교, 평가 보고서 자동 생성, 메트릭 확인까지
[AI Agent] 대화 맥락을 이어 주는 상담 이력 저장과 관리
상담 대화는 한 번의 질문으로 끝나지 않습니다. 이 글은 미들웨어·이력 관리 계층·조회 API로 저장 책임을 모으고, 세션/요청/턴 식별자로 소유권과 순서를 보장하며, 저장된 이력 중 필요한 부분만 골라 모델 맥락으로 구성하는 방법을 정리합니다. 저장 실패·중복 요청·스트리밍 중단 같은 운영 이슈와 보존 정책까지 함께 다룹니다. The post [AI Agent] 대화 맥락을 이어 주는 상담 이력 저장과 관리 appeared first on B
[AI Agent] 혜택과 제외 조건을 함께 확인하는 프로모션 검색
상담 중 프로모션을 정확히 안내하려면 ‘혜택’뿐 아니라 기간·대상·첨부의 제외 조건까지 근거로 함께 확인해야 합니다. 이 글은 검색→선택→상세 확인→재방문 흐름으로 AI Agent를 설계하는 방법과, 기간 처리·문서 묶음(대표+첨부)·근거 기반 답변 정책·운영 KPI/품질 평가를 연결하는 실무 관점을 정리합니다. The post [AI Agent] 혜택과 제외 조건을 함께 확인하는 프로모션 검색 appeared first on BESPIN Te
[AI Ready Data] 문서 게시부터 검색 반영까지 확인하는 운영 흐름
문서 처리 ‘완료’가 곧 검색 최신 반영을 의미하지 않습니다. 저장·게시·검색 반영 확인을 분리하고, 문서 개정/게시/동기화 식별자를 연결해 최신성을 검증하는 운영 흐름(게시 스냅샷 고정, 교체 게시, 빈 결과·철회 처리, 인덱스 상태·행 수 검증, 대표 질의 확인)을 정리합니다. The post [AI Ready Data] 문서 게시부터 검색 반영까지 확인하는 운영 흐름 appeared first on BESPIN Tech Blog.
[AI Ready Data] 업무 질문과 정답 근거로 확인하는 검색 품질 평가
업무 질문으로 AI 검색을 평가할 때, 답변 품질과 분리해 ‘근거를 얼마나 충족했는지(Context Recall)’와 ‘유용한 근거가 앞에 나왔는지(Context Precision)’를 같은 문항으로 비교·기록하는 구현 사례를 정리합니다. 실패·누락을 평균과 함께 보고하고, Databricks AI Search 내장 평가와의 차이도 구분합니다. The post [AI Ready Data] 업무 질문과 정답 근거로 확인하는 검색 품질 평가 app
[AI Ready Data] 질문에 맞게 나누고 문맥을 보존하는 문서 분할
문서 분할(청킹)은 질문에 필요한 근거의 경계를 정하는 작업입니다. 제목·표·예외·출처를 함께 보존해야 답변이 조건을 놓치지 않고 사용자가 원문을 검증할 수 있습니다. 검색용 조각과 계층 보존용 조각을 역할별로 분리하고, 개정·위치·제목 경로를 메타데이터로 남기는 설계를 통해 Databricks AI Ready Data의 ‘검토 가능한 근거’를 구성하는 방법을 정리합니다. The post [AI Ready Data] 질문에 맞게 나누고 문맥을
[AI Ready Data] 표와 예외 조건을 지키는 문서 변환 결과 검증
숫자만 정확히 읽어도 단위·대상·예외가 누락되면 답변 근거가 흔들립니다. 공통 결과 규약과 구조 검증, 표·예외의 업무 대조, 대체 변환 사유 기록, 프로세스 격리로 변환 결과를 검토 가능한 AI Ready Data로 만드는 방법을 정리합니다. The post [AI Ready Data] 표와 예외 조건을 지키는 문서 변환 결과 검증 appeared first on BESPIN Tech Blog.
[Databricks] 문서를 신뢰할 수 있는 검색 근거로 준비하는 과정
Databricks로 문서를 수집·등록·정리·게시하고 AI Search에 반영해 ‘근거 있는 검색’을 만드는 과정을 정리합니다. 최신 개정 구분, 문맥·표·예외 보존, 저장 완료와 검색 반영 완료의 분리, 실패 복구 기준까지 운영 관점에서 다룹니다. The post [Databricks] 문서를 신뢰할 수 있는 검색 근거로 준비하는 과정 appeared first on BESPIN Tech Blog.
AWS AI-DLC Reverse Engineering: I/O 매트릭스로 모놀리스 공유 변수를 분해하여 spec 및 검증 기준으로 활용하기
레거시 모놀리스를 AI 코딩 도구로 현대화하면 문법 변환은 금방 끝납니다. 시간이 오래 걸리는 것은 공유 변수를 나누는 일입니다. 처리 단계 수십 개가 전역 상태와 공유 메모리를 함께 읽고 쓰는 코드에서는 단계마다 무엇을 입력받고 무엇을 출력하는지가 함수 시그니처에 드러나지 않습니다. 이런 공유 변수를 단계별 DTO로 옮기다 보면 숨은 입력을 빠뜨리거나, 현재 값이 아닌 낡은 값을 넘기는 […]
월간 AI 보안 소식 11월호
10월 중순부터 11월 중순까지 AI 업계가 주목한 주요 보안 소식을 모아 보았습니다.
SGLang을 활용한 다국어 및 Multimodal Decision Model 구성하기
생성형 AI 트래픽의 절반은 판단 생성형 AI를 프로덕션에 도입한 조직의 LLM 호출을 들여다보면 두 종류가 섞여 있습니다. 하나는 진짜 생성입니다. 요약하고, 작성하고, 대화합니다. 다른 하나는 판단입니다. “이 요청은 어떤 카테고리인가”, “이 이미지는 어떤 상태인가”, “이 고객 문의는 어떤 조치가 필요한가”를 가리는 일입니다. 판단은 선택지 중 하나를 고르는 일이라 생성이 필요 없는데, 자연어와 이미지를 이해하는 도구가 […]
같은 모델, 다른 예측
Training–Serving Skew를 줄인 과정을 소개합니다.
if(kakao)26 현장 스케치
지난 10월 13일과 14일, 카카오 AI 캠퍼스에서 if(kakao)26이 열렸습니다. ‘모든 연결에 지능을’이라는 주제 아래, 카카오가 만들어가는 AI 기술과 서비스를 소개하고 개발과 운영 과정에서 쌓은 경험을 나눴습니다. 현장과 온라인으로 함께해주신 모든 분께 감사드립니다. 올해 행사를 준비하며 집중한 것은 기술 세션과 만남이었습니다. 카카오가 도달한 지점과 아직 풀고 있는 문제를 솔직하게 공유하고, 비슷한 고민을 가진 사람들이 서로의 경
AWS에서 Laya를 통한 Decision Model 학습 및 배포 환경 구성하기
2026년 9월 TypeSafe AI가 공개한 Jev를 계기로, 텍스트를 생성하지 않고 판단 결과를 선택지별 확률로 돌려주는 Decision Model이 LLM을 대신하여 판단을 처리하는 옵션으로 등장했습니다. 이 글은 두 가지를 다룹니다. 하나는 오픈소스 Decision Model인 Laya를 Amazon SageMaker에서 추가 학습하고 실시간 엔드포인트로 배포해 호출하는 구성 가이드이고, 다른 하나는 동일한 판단을 구현하는 네 가지 방식
노트북을 닫아도 개발은 계속된다: 자율 그래프 주도 개발
네이버 사내 기술 교류 행사인 NAVER Engineering Day 10th 에서 발표되었던 세션을 공개합니다. 발표 내용 '자율 그래프 주도 개발(Autonomous Graph-Driven Development)'에서는 사람의 직접적인 지시 없이 그래프가 프로젝트 진행을 주도합니다. 스펙 문서와 코드는 AI Agent 루프가 작성하고, 결정론적 코드가 이를 기계적으로 검사하며, 결함은 피드백 루프를 통해 자동으로 바로잡습니다. 사람이
Image AI 서빙 최적화: CPU와 GPU의 빈 시간을 줄여 H100 67장을 절감하기까지
네이버 사내 기술 교류 행사인 NAVER Engineering Day 10th 에서 발표되었던 세션을 공개합니다. 발표 내용 SNOW의 16개 Image AI 서비스에서 응답 속도와 안정성을 높이면서, H100 환산 약 67장의 GPU 자원을 절감한 경험을 공유합니다. LitServe 전환과 함께 불필요한 연산과 CPU·GPU의 대기 시간을 줄이고, 실제 트래픽에 맞게 설정을 조정하며, 여러 서비스가 GPU를 공유하도록 만든 과정을 소개