엔터프라이즈 LLM 서비스 구축기 1: 컨텍스트 엔지니어링
들어가며안녕하세요. Cloud AI Platform 팀에서 AI 어시스턴트의 PM 및 기술 리딩을 맡고 있는 한우형입니다. 클라우드 환경에 AI를 도입해 운영 생산성을 높이는 일을...
기업 기술블로그의 AI/ML 관련 글 1219개
들어가며안녕하세요. Cloud AI Platform 팀에서 AI 어시스턴트의 PM 및 기술 리딩을 맡고 있는 한우형입니다. 클라우드 환경에 AI를 도입해 운영 생산성을 높이는 일을...
생성형 AI 시대, 서비스 개발의 중심은 더 이상 ‘코드를 얼마나 잘 치느냐’가 아닙니다. 스탠퍼드 대학교가 새롭게 도입한 수업은 코딩을 대체하는 것이 아니라, 개발의 무게중심이 ‘작성’에서 ‘문제 정의와 판단’으로 이동하고 있음을 보여줍니다. The post 스탠퍼드 대학교는 왜 ‘코딩 말고 다른 것’을 가르치기 시작했을까? appeared first on NDS Cloud Tech Blog.
※ 참가 신청은 1월 16일 금요일 17:00에 마감됩니다. COMMIT 신청하기 goorm 구름은 ‘모두가 개발자가 된다’는 비전으로 ‘개발자 성장 중심’ 생태계를...
2025년에 바라보는 CES 2026 핵심 정리 (feat. SAMSUNG, SK, LG) 안녕하세요? HyperAccel ML팀 소속 박현준입니다. 1월 6일에 라스베가스에서 시작한 CES가 1월 9일 성황리에 종료되었습니다. 우선 저는 작년(2025년) CES에 참여하여 하이퍼엑셀 부스를 운영했었고, 해당 경험을 바탕으로 올해(2026년) CES를 리뷰해보려고 합니다. 혹자는 왜 작년에 안 올리고 이제서야 올리는지 의문을 가질 수 있는데요,
AI 조직은 비즈니스 문제를 AI 문제로 정렬해서 푸는 조직입니다. AI 문제란 무엇일까요? 우리가 현업에서 정말 다양한 업무들을 하지만, 본질은 효용 함수(또는 손실 함수)를 최적화하는 문제입니다. 명시적이든 암시적이든, 우리는 문제를 최적화 식(optimization form)으로 쓰게 됩니다. ML 알고리즘을 통해 최적화 식의 해(solution)를 찾고, 이 해를 이용해 비즈니스 문제를 풉니다. 결국, AI 조직은 수학적 해를 통해 비즈
세계 최고 권위의 금융 AI 학회, ICAIF 2025에 카카오뱅크 기술연구소가 다녀왔습니다. 저희의 연구가 상위 15% 논문만 선정되는 Oral 세션에서 발표하는 성과를 안고 돌아왔습니다. 이 글에서는 카카오뱅크의 연구 내용을 소개하고, 현장에서 직접 확인한 강화학습과 에이전트 시스템, 차세대 투자 전략, 그리고 AI의 신뢰성 등 금융 AI 분야의 가장 뜨거운 세 가지 최신 연구 동향을 깊이 있게 공유합니다.
ML Engineer, 장성원 님
머신러닝 모델을 프로덕션에 배포할 때 가장 많이 고민하는 것 중 하나가 바로 수치 정밀도(Numerical Precision) 선택입니다. FP32로 학습한 모델을 FP16으로 서빙해도 될까? INT8 양자화는 언제 해야 할까? 이번 글에서는 정밀도 선택 전략을 정리했습니다. TL;DR - 바쁜 분들을 위한 요약 "Train High, Infer Low" - 학습은 높은 정밀도로, 서빙은 낮은 정밀도로 상황추천 조합메모리 절감안정성/품질비고 L
수치 정밀도 선택은 추론 속도, 메모리, 정확도의 균형을 좌우합니다. 학습은 높은 정밀도로 안정성을 확보하고, 서빙은 낮은 정밀도로 효율을 끌어내는 전략과 BF16 중심의 권장 조합을 제시합니다. 현실 환경에서의 품질 저하와 범위 한계를 고려한 의사결정 기준을 제공합니다.
한국형 하이브리드 멀티모달 언어모델, Kanana-v-4b-hybrid 안녕하세요. 카카오의 AI 모델 개발을 담당하는 카나나(Kanana) 조직의 Samuel(강성훈), Polar(엄지환), Sonny(손동희)입니다. 저희 팀은 텍스트와 이미지뿐만 아니라 음성까지 포함한 다양한 모달리티를 이해하고 답변하는 멀티모달 언어모델을 개발하고 있습니다. 작년 7월 오픈소스로 공개한 경량 멀티모달 언어모델 Kanana-1.5-v-3b[1] 이후, 저희는
2016년 탄생한 구글의 AI 칩 TPU의 등장 배경에 대해 알아보고, 10년간 쌓아올린 하드웨어와 소프트웨어 구조를 파헤쳐보면서 엔비디아 맞서기 위한 구글의 AI 반도체 시장 전략에 대해 분석해봅니다.
…
…
Afinit의 3가지 핵심 가치: 기술, 고객, 그리고 성장
PR
페이지 41 / 68 (총 1219개)