AI에게 도메인을 가르치다 두 번 갈아엎은 이야기 — LLM Wiki + RAG 혼합기
도메인 지식을 LLM에게 먹이는 방법 — Inverted Index, 본문 임베딩, 요약 임베딩+FTS 세 가지 시도와 두 번의 갈아엎기
devBlog
LLM 글 모음
기업 기술블로그의 LLM 관련 글 69개
느려터진 에디터 좀 고쳐줘를 AI에게 시켜봤다
Auto Research 기법을 활용한 LLM 기반 자율 성능 개선 시스템 구축 여정
유저와 함께 만드는 LLM — 제타에 Preference Optimization 도입하기
LLM의 환각을 잠재울 지식의 지도, ‘온톨로지(Ontology)’
최근 대형 언어 모델(LLM)을 실제 서비스에 도입하려는 기업들의 가장 큰 고민은 ‘환각(Hallucination)’ 현상입니다. 이를 해결하기 위해 외부 데이터를 참조하는 RAG(검색 증강 생성) 기술이 표준처럼 자리 잡았습니다. 하지만 단순한 문서 검색만으로는 복잡한 추론이나 정확한 관계 파악에 한계가 있습니다. 이러한 RAG의 한계를 돌파하고, AI에게 인간 수준의 논리적이고 구조화된 지식을 제공하기 위해 다시금 주목받고 있는 개념이 바로
Slack 봇 쿼리곰: 없으면 안 되는 봇이 되기까지
범용 LLM 래퍼를 7.5주 만에 전사 필수 도구로 만든 구조 — 멀티에이전트 검증, Hybrid RAG, 이중 메모리
Amazon Bedrock 기반 Claude Code, 조직에서 안전하게 운영하기: LLM Gateway 구축 가이드
“개발자들이 AI 코딩 도구를 쓰고 싶다고 합니다. 보안팀에서 허용해도 될까요?” 이 질문은 이제 대부분의 엔터프라이즈 IT 리더가 마주하는 현실입니다. AI 코딩 도구의 생산성 향상 효과는 분명하지만, 기업 환경에서는 단순히 도구를 허용하는 것만으로 충분하지 않습니다. 누가, 얼마나 사용하는지 추적할 수 있어야 하고, 사용자별 예산을 제한할 수 있어야 하며, 조직의 기존 인증 체계와 통합되어야 합니다. Claude Code는 […]
RAG 기반 AI 서비스의 신뢰성을 확보하는 방법: 자동화 평가 체계 및 운영 최적화
RAG 신뢰성 위기와 LLMOps의 필연성 RAG(Retrieval-Augmented Generation)는 기업용 AI 시스템에서 사실상 표준 구조로 자리 잡은 듯 보입니다. 외부 지식을 활용해 최신 정보를 반영할 수 있다는 점은 분명한 강점입니다. 그러나 동시에 새로운 과제도 함께 드러나고 있습니다. 검색 시스템의 불완전성과 LLM의 확률적 생성 방식이 결합되면서 결과의 품질을 일관되게 통제하기가 쉽지 않을 수 있기 때문입니다. 특히 금융이
코딩 에이전트를 활용한 취약점 수집·생성 자동화로 가드레일 모델 고도화
LLM 시대의 보호 장치, 가드레일LLM 기반 서비스가 빠르게 확산되면서 LLM 모델의 응답을 공격자가 의도대로 ‘조종’하려는 시도도 함께 늘고 있습니다. 특히 다음과 같은 공격 ...
별점 뒤에 숨겨진 리뷰의 온도, LLM으로 한 끗 차이가 다른 추천 만들기
추천프로덕트팀은 데이터 기반의 추천 알고리즘과 정교한 탐색 설계를 통해 사용자가 고민 없이 최적의 맛집을 발견하도록 돕는 조직입니다. 여기에 LLM과 다양한 AI 모델을 활용해 실질적인 서비스 문제를 해결하는 AI프로덕트팀이 긴밀하게 호흡을 맞췄습니다. 이번에 소개할 내용은 위 두 팀이 협업하여 고객의 맛집 탐색 고민을 성공적으로 덜어낸 프로젝트에 대한 이야기입니다. 서비스 내에 가득한 별점 5점 리뷰들 사이에서 진짜 […] The post 별
월 150만 유저가 사용하는 LLM Inference 인프라 안정적으로 운영하기
엔터프라이즈 LLM 서비스 구축기 2: 에이전트 엔지니어링
들어가며지난 엔터프라이즈 LLM 서비스 구축기 1: 컨텍스트 엔지니어링에서는 260개의 도구와 수백 페이지의 문서를 다루는 환경에서 LLM에게 필요한 정보만 골라서 제공하는 '점진...
OpenClaw와 MoltBook로 살펴보는 2026년 에이전틱 AI 기술 동향
이 글은 스스로 목표를 세우고 실행까지 수행하는 에이전틱 AI의 구조와 동작 방식을 쉽게 정리합니다. 특히 OpenClaw 사례를 통해 LLM이 로컬 환경을 직접 제어하는 온디바이스 자율 에이전트 구조에 대해 구체적으로 설명합니다. 또한 AI 에이전트끼리 상호작용하는 새로운 플랫폼 모델(MoltBook)을 소개하며, 인간 중심 서비스와 다른 지점을 짚습니다. 나아가 외부 스킬 생태계 분석을 통해 실제로 발생할 수 있는 보안 위협 유형도 함께 다
Transformer World: LLM의 기본 구조 뜯어보기
Transformer 기반 LLM의 내부 구조를 단계별로 살펴보고, Token Embedding·Attention·LM Head 등 각 모듈의 의미와 KV Cache·MHA·GQA 등 최적화 기법을 정리합니다.
쏘카 디자인 시스템 2.0 개발기 2편: 기술로 굴리기(웹)
목차 개요 컴포넌트 아키텍처 설계 목적 Hook과 객체 합성 컴포넌트와 명령형 API 패키지 전략 트리쉐이킹 AI 활용 Instructions Figma MCP with LLM 후기 공식문서 1. 개요 안녕하세요 쏘카 개발자 아놀드입니다. 이 글은 쏘카 디자인 시스템 2.0 개발기 2편으로, 컴포넌트 아키텍처/패키지 전략/LLM(Large Language Model) 활용에 대해 작성하였습니다. 1편에서는 시스템 설계, 운영 프로세스, Figm
쏘카 디자인 시스템 2.0 개발기 2편: 기술로 굴리기(웹)
아키텍처·번들·LLM 활용 기록
스캐터랩이 가장 재밌는 LLM을 찾는 방법
실제 제품에서 유저 반응으로 LLM 평가하기: A/B 테스트·MAB·리더보드
생성형 AI와 빅데이터의 만남: 에이전틱 AI로 진화하는 Big Data Assistant
삼성전자의 사내 데이터 분석 서비스인 Big Data Assistant(BDA)에서 어떻게 LLM을 활용해 자연어 기반 분석 서비스를 구축했는지 소개하고, BDA를 에이전틱 AI로 진화시키며 겪은 기술적 고민과 해결책을 나눕니다.
[클로바 스튜디오 Cookbook] LLM을 위한 PDF-to-Markdown 문서 전처리 가이드
RAG 성능에 있어 문서 전처리는 핵심적인 요소 중 하나입니다. Markdown은 LLM이 구조를 이해하기 쉬운 포맷으로, 토큰 효율과 응답 안정성 측면에서 장점이 있습니다. 이번 쿡북에서는 PDF를 Markdown으로 바꿔 LLM 친화적인 입력을 만드는 방법을 정리합니다. LLM 애플리케이션의 성능은 모델뿐만 아니라 주입되는 데이터의 품질, 즉 전처리에도 큰 영향을 받습니다. 특히 문서를 참고하여 답변을 생성해야 하는 RAG(검색 증강 생성)
페이지 2 / 4 (총 69개)