Anthropic Prompt Engineering을 Claude 업무 활용 기준으로 정리
Anthropic Prompt Engineering 문서를 Claude 업무 활용 관점에서 재정리했습니다. 명확한 지시 구조, 긴 문서 처리 시 프롬프트 배치, XML 태그로 컨텍스트 구분, 예시 기반 출력 고정, 도구 사용 의도 명시, 그리고 success criteria와 test set을 통한 평가(Evaluation)까지 실무 기준으로 정리합니다. The post Anthropic Prompt Engineering을 Claude 업무 활
SGLang을 활용한 다국어 및 Multimodal Decision Model 구성하기
생성형 AI 트래픽의 절반은 판단 생성형 AI를 프로덕션에 도입한 조직의 LLM 호출을 들여다보면 두 종류가 섞여 있습니다. 하나는 진짜 생성입니다. 요약하고, 작성하고, 대화합니다. 다른 하나는 판단입니다. “이 요청은 어떤 카테고리인가”, “이 이미지는 어떤 상태인가”, “이 고객 문의는 어떤 조치가 필요한가”를 가리는 일입니다. 판단은 선택지 중 하나를 고르는 일이라 생성이 필요 없는데, 자연어와 이미지를 이해하는 도구가 […]
컨텍스트 윈도우
컨텍스트 윈도우(context window)는 AI 모델이 한 번에 읽고 쓸 수 있는 글의 최대 양이에요. 토큰으로 세고, 요즘 큰 모델은 약 100만 토큰까지 받아요. 5만 자 글 속에 숨긴 단어를 앞·가운데·끝 어디에 둬도 찾아냈어요.
임베딩
임베딩(embedding)은 글·그림의 뜻을 수백~수천 개의 숫자 목록(벡터)으로 바꾸는 일이에요. 뜻이 비슷하면 숫자도 비슷해져서, 단어가 달라도 같은 이야기를 찾아낼 수 있어요.
멀티모달
멀티모달(multimodal)은 글뿐 아니라 사진·음성·영상처럼 여러 형태의 정보를 함께 알아듣고 다루는 AI 의 능력이에요. 그래프 그림 한 장을 4개 모델에 보여 주니 모두 정답을 맞혔고, 그림 값(토큰)은 모델마다 5배까지 달랐어요.
할루시네이션
할루시네이션(환각)은 AI 가 없는 정보를 사실처럼 지어내 말하는 현상이에요. 없는 소설의 줄거리를 물었더니 4개 모델 중 1개가 3번 모두 지어냈고, '모르면 모른다고 해' 한 줄을 넣자 0번이 됐어요.
프롬프트
프롬프트는 AI 에게 일을 시킬 때 넣는 글이에요. 같은 모델이라도 프롬프트를 구체적으로 쓰면 답이 10분의 1 길이로 줄고 형식도 지켜졌어요(직접 3번씩 비교).
AI 번역의 시대2: 오착(誤錯)
[](https://www.nhncloud.com/kr) ## 오착(誤錯), 착각을 하여 잘못함 ## 사고와 현상 최근 영화 '오디세이'의 흥
비용과 성능을 한번에 - 언어 특화 토크나이저 도입기
같은 말을, 절반의 토큰으로
Amazon Bedrock AgentCore로 멀티 데이터소스 자연어 질의 에이전트를 프로덕션에 배포하기
본 글은 AWS Summit Seoul 세션 “200개국 삼성 스마트 TV 앱 데이터를 자연어로 묻다: 에이전틱 AI on AWS”의 내용을 기반으로 작성되었습니다. 개요 생성형 AI는 실험적 프로토타입에서 벗어나, 이제 프로덕션 환경에서 대규모로, 실제 성능 제약 속에서 안정적으로 동작할 것을 요구받고 있습니다. Strands Agents SDK, LangGraph, CrewAI, LlamaIndex 같은 오픈소스 프레임워크의 등장으로 누구나
[25. 8. 27] 시계열 데이터의 새로운 설명 가능한 AI 기법: TIMING
Beyond AI That Speaks Well: Making Kanana-o Speak the Way Users Want
Hello, we are Martin (Daejin Jo), Abigail (Heayoung Park), and Edwin (Wooyoung Kang) from Kanana, the team responsible for developing AI models at Kakao. Our team focuses on building unified multimodal language models that can see, hear, and speak li
잘 말하는 AI를 넘어, 원하는 대로 말하는 AI로: Kanana-o 음성 생성 고도화 과정
Intro 안녕하세요, 카카오의 AI 모델 개발을 담당하는 카나나(Kanana) 조직의 Martin(조대진), Abigail(박혜영), Edwin(강우영)입니다. 저희 팀에서는 사람처럼 보고, 듣고, 말하는 통합 멀티모달(Multimodal) 언어모델을 중점적으로 개발하고 있습니다. 지난 5월, 국내 최초로 공개한 통합 멀티모달 언어모델 공개 이후, 저희는 실제 서비스 환경에서 더 나은 사용자 경험을 제공하기 위해 계속해서 모델을 고도화하고 있
[클로바 시선 #55] 우리의 눈과 귀로 현장을 이해하다 : 독자 인코더와 HyperCLOVA X SEED 4B 개발기
현대 전장은 드론 영상과 위성사진, 무전 음성, 작전 문서 등 서로 다른 형태의 정보가 실시간으로 쏟아지고, 이를 신속한 의사결정으로 연결해야 하는 환경으로 빠르게 바뀌고 있습니다. ⏰ 그리고 이것이 텍스트와 이미지, 영상 그리고 음성까지 동시에 이해하는 옴니모달 AI가 국방의 핵심 기술로 주목받는 이유죠! 팀네이버는 바로 이러한 환경에 최적화된 경량 옴니모달 언어모델 HyperCLOVA X SEED 4B와 그 기반이 되는 HyperCLOVA
[클로바 시선 #54] 환각은 흔적을 남긴다: Future Context 기반 LLM 환각 검출
LLM 환각 검출은 왜 중요할까요? LLM은 이제 질의응답부터 문서 작성, 블로그 콘텐츠 생성, 내용 요약까지 다양한 영역에서 자연스럽게 활용되고 있습니다. 모델의 답변은 점점 더 그럴듯하게 발전하고 있지만, 문제는 그것이 곧 사실성을 의미하지는 않는다는 점이죠. LLM이 생성한 글에는 ✔️ 실제로 존재하지 않는 사건 ✔️ 잘못된 인과관계 ✔️ 과거 문맥과 모순되는 주장 ✔️ 검증되지 않은 정보 등이 포함될 수 있는데요. 이러한 현상을 일반적으
오픈챗 이름 및 설명 글로 유해성 판단하는 모델 개발하기
들어가며안녕하세요. AI Services Lab 팀의 ML 엔지니어 이여운입니다. 저희 팀에서는 사용자에게 유해한 오픈챗이 노출되지 않도록 다양한 모델을 개발하고 있습니다. 이번 ...
[클로바 시선 #51] 업무 중 AI에 물어본 영어가 나만의 퀴즈가 된다면? LingoQ: 맞춤형 영어 퀴즈 앱 연구
영어로 일하는데 영어 실력은 왜 그대로일까요? 영문 이메일 초안을 ChatGPT에 붙여 넣고 "더 자연스럽게 고쳐줘"라고 요청한 뒤, 수정된 문장을 그대로 복사해서 보내는 일. 글로벌 환경에서 일하는 직장인이라면 꽤 익숙한 장면일텐데요. 이렇게 매일 영어로 문서를 읽고 메일을 쓰는데도 왜 실력은 제자리처럼 느껴질까요? 비영어권 직장인은 원어민에 비해 같은 자료를 읽더라도 더 오래 걸리고, 같은 이메일을 작성하더라도 표현 하나를 고치기 위해 더
“따뜻한 색감의 소재 찾아줘” — 자연어로 광고 소재 검색하기
1. 들어가며 인스타그램을 보다보면 나오는 화려한 광고들은 누가 만들까요? 대 AI 시대에도 광고 소재는 여전히 많은 전문가들의 손을 거쳐 제작되고, 또 수명이 다하면 사라집니다. 그렇기 때문에 마케팅 에이전시에서도, 인하우스 마케팅 부서에서도, 주기적으로 레퍼런스를 찾기 위해 반복적으로 아까운 시간을 보내게 됩니다. LEVER Xpert AI팀은 간단한 질의로 마케터의 상황에 필요한 광고 소재 이미지를 찾을 수 있는 소재 검색을 구현함으로써