스캐터랩
2023-08-16 · 거의 3년 전
새로운 루다를 지탱하는 모델 서빙 아키텍처 — 3편: 안정적인 LLM 서비스를 위한 서빙 최적화 기법
LLM 서빙을 위한 다양한 최적화 기법과 그 효과를 검증하기 위한 부하 테스트 방법론
ArchitectureLLMPerformanceTesting
devBlog
스캐터랩 기술 블로그
총 50개 글 · 원본 블로그 방문 →
AI 챗봇을 만드는 스캐터랩 핑퐁팀의 기술 블로그
스캐터랩
2023-07-21 · 거의 3년 전
읽씹할 결심 - 생성 모델에게 답변 시간 가르치기
루다, 다온에게 지연 답변 기능을 구현한 과정을 설명합니다.
AI/MLBackendLLM
스캐터랩
2023-07-10 · 거의 3년 전
Deduplication - 학습 데이터에서 중복 제거하기
Luda Gen 1.5 모델을 학습할 때 데이터셋에서 중복을 제거한 방법에 대해 이야기합니다.
AI/MLData EngineeringPython
스캐터랩
2023-05-24 · 약 3년 전
Luda Gen 1, 더 재미있고 자연스러운 대화로 돌아온 루다 2편 - 생성 모델을 챗봇으로 빚어내기
생성 모델 Luda Gen 1을 어떻게 챗봇 모델로 학습했는지를 구체적으로 다룹니다.
AI/MLMLOpsTools
스캐터랩
2023-05-24 · 약 3년 전
샘 알트만과 따로 만나 1시간 동안 나눈 이야기
Private Session으로 진행된 Round Table Talks with OpenAI in Seoul 주요 내용을 공유합니다.
AI/MLCulture
스캐터랩
2023-03-20 · 3년 이상 전
Karpenter와 Spot으로 저렴하고 유연하게 노드 프로비저닝하기
Spot을 이용한 서버 비용 절감기
AWSDevOpsKubernetes
스캐터랩
2023-02-20 · 3년 이상 전
새로운 루다를 지탱하는 모델 서빙 아키텍처 — 2편: ArgoCD와 모델 서빙
A/B 테스트까지 가능한 안정적인 모델 서빙 인프라 구조 설계 방법
AI/MLArchitectureCI/CDDevOpsMSA
스캐터랩
2023-02-14 · 3년 이상 전
EMNLP 2022 Review
핑퐁팀과 함께하는 EMNLP 2022 Review
AI/MLNLP
스캐터랩
2023-02-01 · 3년 이상 전
2022 개인정보 가명·익명처리 기술 경진대회 참여 후기
'성동구소재회사근무중인20대남성개발자4명'팀의 대상 비법
CareerData EngineeringSecurity
스캐터랩
2023-01-27 · 3년 이상 전
새로운 루다를 지탱하는 모델 서빙 아키텍처 — 1편: A/B 테스트를 위한 구조 설계
'모델 추론 구조 자체'를 A/B 테스트하는 방법
AI/MLArchitectureTesting
스캐터랩
2022-12-21 · 3년 이상 전
이루다 서버의 모니터링 스택을 소개합니다
Spring Boot 서버 모니터링하기. 근데 이제 Prometheus를 곁들인
BackendMonitoringSpring
스캐터랩
2022-12-14 · 3년 이상 전
Luda Gen 1, 더 재미있고 자연스러운 대화로 돌아온 루다 1편 - 생성 기반 챗봇
생성 모델 Luda Gen 1을 출시하기까지의 과정을 소개합니다
AI/MLMLOpsTools
스캐터랩
2022-11-28 · 3년 이상 전
Apache Beam으로 머신러닝 데이터 파이프라인 구축하기 3편 - RunInference로 모델 추론하기
Apache Beam Native API, RunInference로 대규모 데이터 모델 추론하기
AI/MLData EngineeringMLOps
스캐터랩
2022-11-16 · 3년 이상 전
Custom Metric(ex. RPS)으로 HPA 설정하기
쿠버네티스 환경에서 Custom Metric으로 오토스케일링 하는 과정을 설명합니다
DevOpsKubernetesMonitoring
스캐터랩
2022-11-09 · 3년 이상 전
루다, 눈을 뜨다! 포토챗 베타의 멀티모달 기술 소개
포토챗 베타 서비스를 출시하기까지의 연구 과정을 소개합니다.
AI/MLMLOpsMobileTools
스캐터랩
2022-10-12 · 3년 이상 전
React Native 앱의 배포 트랙 관리하기
CodePush와 adhoc으로 React Native 앱 '너티'의 배포 트랙 관리하기
CI/CDMobileReact Native
스캐터랩
2022-09-13 · 거의 4년 전
TFX 머신러닝 파이프라인 사용하기
팀에서 필요한 학습 파이프라인 구축하기
AI/MLData EngineeringMLOps
스캐터랩
2022-08-24 · 거의 4년 전
GitHub Actions로 App 자동으로 배포하기
루다와 함께 사용하는 메신저 'Nutty' 자동으로 배포하기
BackendCI/CDDevOps
페이지 2 / 3 (총 50개)