Amazon Bedrock에서 LLM 게이트웨이의 두 사각지대 메우기: 사라진 호출자와 흐려진 모델 거버넌스
Amazon Bedrock 앞에 LLM 게이트웨이(이하 게이트웨이)를 두면 편의와 통제를 얻지만, 그 대가로 Amazon Bedrock이 보는 호출자 신원과 모델별 관측 지점이 게이트웨이 뒤로 흐려지는 사각지대가 생깁니다. 이 글은 잘 알려진 레퍼런스 아키텍처를 출발점으로, 그 사각지대를 Amazon Bedrock 네이티브 기능으로 보완하는 방법 (호출자 감사 추적과 모델별 관측 및 거버넌스)을 다룹니다. <Claude Code → LLM 게이
분석가가 직접 만든 마케팅 자동화 시스템 — 오디언스 빌더 제작기
VLM을 이용한 시각적 문서 검색: ColPali와 ColQwen
들어가며 안녕하세요, SK AX 배준호 매니저입니다. 이번 글에서는 질의와 관련된 문서를 찾는 문서 검색(Document Retrieval)에 대한 내용을 다뤄보려고 합니다. 문서 검색은 RAG(Retrieval-A...
Amazon Bedrock 기반 사내 LLM, 키 발급부터 비용 차단까지: F&F의 LiteLLM 게이트웨이 운영 사례
“팀원들이 AI 코딩 도구를 쓰고 싶어 하는데, 키는 누가 어떻게 나눠주죠?” 생성형 AI를 도입하는 조직이라면 어디서든 나오는 질문입니다. 저희는 이 질문에 조금 다른 순서로 답했습니다. 전사 플랫폼을 하향식으로 기획하는 대신, 사내에서 AI를 가장 많이 쓰는 팀이 자기 팀을 위해 먼저 만들고, 검증한 뒤 확대를 고민하기로 한 것입니다. 이 글은 F&F의 AI Engineering 팀이 Amazon Bedrock […]
AI로 QA 업무를 자동화한 방법: n8n부터 E2E 테스트 자동화까지
AI가 이해하는 기업
기업 AI 도입은 늘었지만 ROI로 이어지지 않는 이유는 모델이 아니라 ‘의미 계층’의 부재다. 온톨로지는 기업의 개념·관계·규칙을 기계가 읽을 수 있게 고정하는 의미 지도이며, 에이전트 시대에는 운영 신호와 결합된 ‘살아 있는’ Active Ontology(컨텍스트 그래프)가 신뢰·권한·감사추적을 가능하게 한다. HelpNow Ontology Studio는 자동 구축, 지속 갱신, 에이전트 소비 가능성을 통해 AX 트랜스포메이션의 코어 레이어
[AI활용] Claude 실무편 - Technical Writer Skill 만들기
.ktc-poster img { transition: transform .3s ease, box-shadow .3s ease; } .ktc-poster:hover img { transform: translateY(-4px); box-shadow:0 10px 22px rgba(0,154,135,0.22) !important; } .imageblock img { max-width:100% !important; height:auto !importan
Gemini 3.7 플래시 출시 등 8월 둘째 주 Google for Developers 위클리 업데이트를 지금 확인하세요!
개발자 여러분, 안녕하세요!8월 둘째 주 블로그에 발표된 Google의 주요 개발자 제품별 최신 소식을 살펴보세요.[주요 개발자 블로그 업데이트]AI & Machine LearningGemini 3.7 플래시를 소개합니다 (국문)LiteRT와 Gemma로 Raspberry Pi에서 온디바이스 AI 마스터하기 (Mastering Edge AI on Raspberry Pi with LiteRT and Gemma)Go 언어가 AI 보조 소프트웨어 공
기술로 산업을 바꿀 AI 스타트업을 찾습니다!ㅣ2026 MediA'X' Challenge 개최 (8/25 모집 시작)
안녕하세요, 누구나 쉽게 시작하는 클라우드 네이버클라우드 ncloud.com입니다. SBS문화재단과 한국투자액셀러레이터가 공동 주최하는 「MediA'X' Challenge 2026」에 네이버클라우드가 후원사로 함께합니다! "AI가 만드는 산업의 다음 장면, 그 주인공을 찾습니다"라는 슬로건처럼 이번 대회는 모든 산업의 문제를 해결하는 AI 기술 스타트업을 대상으로 열리는데요! 이런 분들은 꼭 주목해주세요! ✅ AI 기술로 새로운 산업 기회에 도
AI와 함께 OMS의 Writer connection을 15.9% 줄인 방법
AI의 작업 단위를 사람이 한 번에 검수할 수 있는 크기로 제한했습니다.
LLM에게 계산을 시키지 마세요 — 숫자를 '신뢰'할 수 있는 AI 데이터 애널리스트 개발기
형식이 제각각인 수천만 행 시장 데이터를 활용해, 자연어 질문에 검증된 수치로 답하는 사내 AI 애널리스트 플랫폼을 만든 개발기입니다. LLM은 질문 해석만 담당하고 수치 계산은 결정적 코드가 수행하는 아키텍처부터, 결정적 프리파서가 LLM 추출을 덮어쓰는 하이브리드 설계, 정답표를 코드로 고정하는 이중 평가 체계(오라클 테스트 + 골드 평가 하니스)까지 구체적인 버그 해부와 함께 공유합니다. 여기에 개발 전 과정을 멀티에이전트 AI 워크플로로
어피닛 AI 엔진이 규칙 기반 심사 정책을 학습 정책으로 전환해가는 과정
결정 복제, 오프폴리시 평가, 비대칭 정책 결합을 이용한 규칙 기반 대출 심사 정책의 단계적 전환
AI 해커톤: 약속한 그대로 받는 대출
사전 승인 오퍼를 다시 설계하다
코드를 거의 타이핑하지 않고 3주 만에 DL모델 만들기
"이번 달 얼마 남았지?"를 없애는 방법
안녕하세요, 포스타입에서 PM을 맡고 있는 B입니다. 얼마 전 사내 구성원분들을 위해 'Flex 점심 식비 잔액 계산기'라는 크롬 익스텐션을 만들어 배포했습니다. 개발 직군이 아닌 제가, AI의 도움을 받아 몇 시간 만에 만든 아주 작은 도구입니다. 그래서 이 글은 대단한 기술 이야기가 아닙니다. 오히려 기획자가 아이디어를 실제로 동작하는 형태까지 가져가려면 무엇이 필요했는지에 대한 기록입니다. 그리고 이런 방식이 사내 도구를 넘어 실제 제품
AI에게 투자정보를 말하게 하기까지
근거를 고르고, 절차를 통제하고, 실패를 다시 쓰는 세 개의 관문
분산 학습을 위한 AWS 컴퓨트 선택 가이드 (3편: 클러스터 구축과 운영)
1편에서 모델 규모에 맞는 인스턴스 타입과 인터커넥트 기술을, 2편에서 Amazon EC2 UltraClusters(울트라클러스터) 및 Amazon EC2 UltraServer(울트라서버)와 고성능 GPU 인스턴스 확보 전략을 다뤘습니다. 무엇을 고르고 어떻게 확보할지가 정해졌다면, 이제 실제로 클러스터를 구성하고 운영할 차례입니다. 이번 3편에서는 컨테이너 기반 환경 구성, 클러스터를 구성하기 전 점검사항, 온프레미스 환경과의 비교, GPU와
[25. 9. 11] 국내 AI 경쟁력 평가에서 주목 받은 에이아이트릭스