기업 기술블로그의 LLM 관련 글 90개
같은 PR도 어떤 LLM에 어떤 프롬프트로 맡기느냐에 따라 결함이 잡히기도 하고 그냥 묻히기도 합니다. Code Review War는 쓸 수 있는 모든 LLM을 워커로 동원하고 8개 리뷰 관점(페르소나)을 실행 단위로 얹어 PR을 병렬 리뷰한 뒤, 심판 모델의 검증과 결정적 병합을 거쳐 한 장의 라인 단위 리뷰로 만드는 시스템입니다. 이 글에서는 결함을 매설한 샘플 PR과 정답지 자동 채점으로 구성별 품질을 측정하여 단일 모델 대비 결함 탐지가
Toss의 AI 기반 서비스에 적합한 LLM이 무엇인지 평가하는 Toss Benchmark 구축기
사내에서 사용할 수 있는 LLM은 많지만 웹, 앱, CLI 등 서로 다른 껍데기에 갇혀 있어 내 시스템 안에 넣어 쓰기 어렵습니다. 이 글에서는 Codex와 Claude의 CLI를 서버로 감싸 사내 LLM·Gauss와 함께 하나의 OpenAI 호환 API로 묶는 중계기 'LLM Gateway'를 만든 과정을 소개합니다. base URL 한 줄만 바꾸면 어떤 도구에서든 여러 LLM을 골라 쓰거나 병렬로 동시에 쓸 수 있습니다.
들어가며안녕하세요. LINE Plus에서 Global E-Commerce Platform 개발을 맡고 있는 윤석범입니다.AI로 개발할 때 결과물의 품질은 AI의 코드 생성 능력보다...
RAG에서 GraphRAG, AI Agent까지 생성형 AI와 LLM의 활용이 확대되면서 기업이 보유한 데이터를 AI와 연결하는 방법도 빠르게 발전하고 있습니다. 대표적인 방식이 RAG(Retrieval-Augmented Generation)입니다. RAG는 사용자의 질문과 관련된 정보를 검색하고, 검색 결과를 LLM의 Context로 제공하여 보다 정확하고 근거 있는 답변을 생성하도록 합니다. 하지만 실제 기업의 데이터는 문서만으로 구성되어
GS Neotek은 AWS 프리미어 파트너로, 다수의 고객에게 클라우드 마이그레이션·현대화·운영 서비스를 제공하며 생성형 AI 도입을 지원하고 있습니다. 이 글은 여러 조직에 코딩 어시스턴트 도입을 지원하며 축적한 경험을 바탕으로, LLM Gateway 없이도 사용자별 비용을 통제하는 경량 아키텍처를 정리한 것입니다. Amazon Bedrock을 통해 Claude Code와 같은 코딩 어시스턴트를 사용하기 위한 기본 조건은 의외로 단순합니다.
이 글은 같은 모델을 써도 에이전트 성능이 갈리는 이유가 모델이 아닌 하네스(모델을 둘러싼 환경 전체)에 있다는 관점에서, 프롬프트·컨텍스트·하네스 엔지니어링의 층위 차이를 구분하고 하네스를 구성하는 핵심 요소들을 다룹니다. 지시 문서(AGENTS.md)와 자동 검사 장치의 결합, 에이전트 바깥의 결정론적 검증, 컴팩션·하위 에이전트·진행파일을 통한 컨텍스트 관리 기법을 설명하며, 작게 시작해 실수할 때마다 한 겹씩 보강해 나가는 5단계 실천
비어 있는 캐시, 완벽한 알리바이, 사라진 처리량
안녕하세요. teus입니다. 이번 포스팅은, opencode 등의 LLM에서 설정할 수 있는 thinking_token_budget에 대해서 다룹니다. 0. Effort opencode나 claude code의 설정...
이 블로그는 한화솔루션 분석/AI팀과 AWS의 협업으로 작성되었습니다 한화솔루션은 사내 임직원과 개발자가 Claude 기반 도구(Claude Cowork, Claude Code)를 안전하고 통제 가능한 방식으로 사용할 수 있도록, Amazon Bedrock 위에 단일 사내 LLM Gateway를 구축했습니다. 특히 Claude Cowork를 AWS 기반으로 전사에 안정 배포한 것은 국내 첫 사례입니다. 이 게이트웨이는 계열사별로 분리된 여러 인
.ktc-poster img { transition: transform .3s ease, box-shadow .3s ease; } .ktc-poster:hover img { transform: translateY(-4px); box-shadow:0 10px 22px rgba(0,154,135,0.22) !important; } .imageblock img { max-width:100% !important; height:auto !importan
서로 충돌하는 데이터는 어떻게 다룰까요? 최근 멀티모달 대규모 언어모델(MLLM)을 만드는 표준 레시피는 점점 더 큰 여러 종류의 지시 및 응답 데이터를 한데 섞은 학습 데이터인 'Instruction Mixture'를 활용한 후학습(Post-training)으로 자리잡고 있습니다. ✔️ 인식(Perception) ✔️ 추론(Reasoning) ✔️ OCR ✔️ 문서 이해 ✔️ 비디오 이해 등 모델이 수행해야 하는 능력이 다양해질수록, 학습에
들어가며: 관측성 데이터는 많아졌지만, 분석은 여전히 어렵습니다안녕하세요. LY Corporation에서 Home 서비스의 안정성을 책임지고 있는 Home SRE(Site Reli...
문서 · 코드 · 사내 메신저에 흩어진 정보를, 믿고 쓸 수 있는 컨텍스트로 만드는 여정
LLM 환각 검출은 왜 중요할까요? LLM은 이제 질의응답부터 문서 작성, 블로그 콘텐츠 생성, 내용 요약까지 다양한 영역에서 자연스럽게 활용되고 있습니다. 모델의 답변은 점점 더 그럴듯하게 발전하고 있지만, 문제는 그것이 곧 사실성을 의미하지는 않는다는 점이죠. LLM이 생성한 글에는 ✔️ 실제로 존재하지 않는 사건 ✔️ 잘못된 인과관계 ✔️ 과거 문맥과 모순되는 주장 ✔️ 검증되지 않은 정보 등이 포함될 수 있는데요. 이러한 현상을 일반적으
안녕하세요. 카카오의 AI 모델 개발을 담당하는 카나나 LLM 조직에서 언어모델을 개발하고 있는 Kaya, Ryan, Wavy 입니다. 지난 “작지만 강한 Kanana Nano 효율적으로 개발하기”에서 비용 효율적으로 SLM(Small Language Model)을 개발하는 방법에 대해서 소개드렸었는데요, 이번 글에서는 더 강력해져서 돌아온 카카오의 두 번째 SLM 시리즈를 소개드리고자 합니다. 이번에 소개해드릴 모델은 Kanana-2-3B,
페이지 1 / 5 (총 90개)
