devBlog
본문 바로가기
devBlog.kr
포스트주간 인기글즐겨찾기(로그인 필요)프로필(로그인 필요)새로운 소식요청하기
devBlog.kr
포스트주간 인기글즐겨찾기(로그인 필요)프로필(로그인 필요)새로운 소식요청하기
devBlog

푸터 메뉴

탐색
  • 포스트
  • 태그별 보기
  • 기업별 보기
  • 주간 인기글
정보
  • 이용약관
  • 개인정보 처리방침

© 2026 devBlog.kr. All rights reserved.

태그/Data Engineering

Data Engineering 글 모음

기업 기술블로그의 Data Engineering 관련 글 299개

삼성 기술 블로그 로고

삼성 기술 블로그

2025-05-21 · 약 1년 전

대규모 트래픽 속 Kafka 를 이용한 개인정보 암호화 및 스키마 전환

약 18억 명의 사용자를 기반으로 운영되는 글로벌 계정 서비스인 삼성 계정에서는 24/7 대규모 트래픽을 안정적으로 처리하고 있으며, 삼성 계정에 관련된 모든 작업은 무중단으로 진행하고 있습니다. 이러한 제약사항 속에서 사용자 Database 내 개인식별정보들을 Kafka 를 이용해 서비스 영향 없이 스키마 전환 및 데이터의 컬럼 단위 암호화를 진행했던 경험에 대해 공유하고자 합니다.

Data EngineeringDatabaseDevOpsKafkaSecurity
IMQA 로고

IMQA

2025-03-18 · 1년 이상 전

2025년 변화하는 IMQA #3 - 문제 해결 인사이트, 크래시 & 로그 분석

새로운 IMQA는 앱・웹 애플리케이션의 문제 상황에 대하여 정확하게 판단하고 처리할 수 있도록 다양한 데이터를 지원합니다.

BackendData EngineeringMonitoring
글루시스 로고

글루시스

2025-03-13 · 1년 이상 전

Lustre의 파일 create & open 과정 분석 - 1

들어가기 앞서 이번 블로그에서 설명할 내용은 러스터를 활용하고 있는 환경에서 사용자가 새로운 파일을 생성하면, 내부적으로 이루어지는 과정을 분석한 내용을 담고 있습니다. 본 내용은 러스터의 전반적인 구조에 대해 기본적으로 알고 있는 것으로 가정하고 기술하고 있어서, 러스터의 구조가 궁금하신 분들은 Lustre 파일시스템과 GPUDirect Storage 소개[1] 글을 참고하실 수 있습니다. 또한 러스터에서 새로운 파일의 생성은 다양한 컴포넌트

ArchitectureData EngineeringPerformance
모두싸인 로고

모두싸인

2025-03-06 · 1년 이상 전

로그 인리치먼트(Log Enrichment)

BackendData EngineeringMonitoring
IMQA 로고

IMQA

2025-03-04 · 1년 이상 전

2025년 변화하는 IMQA #2 - 서비스 상태와 변동 모니터링

새로운 IMQA는 데이터를 보다 광범위하게 수집/처리함으로써 다양한 정보를 신속하게 제공하고, 서비스 운영 상태에 대하여 정확하게 판단하고 처리할 수 있도록 지원합니다.

Data EngineeringDevOpsMonitoring
마켓컬리 로고

마켓컬리

2025-03-03 · 1년 이상 전

Kafka Connect로 DB 데이터 쉽게 연동하기

Kafka Connect와 JDBC 커넥터를 이용해 DB 데이터를 쉽게 Kafka로 전송하는 방법과 발생 가능한 문제를 해결하는 방법을 공유합니다.

BackendData EngineeringKafka
쏘카 로고

쏘카

2025-02-25 · 1년 이상 전

로그 파이프라인 개선기 - 기존 파이프라인 문제 정의 및 해결 방안 적용

단일 진실 공급원 (SSoT) 의 중요성

BackendData EngineeringMonitoring
하이퍼커넥트 로고

하이퍼커넥트

2025-02-18 · 1년 이상 전

Flink SQL 도입기

안녕하세요. Azar Matching Dev Team 의 Zeze 입니다. Flink 는 대다수의 백엔드 엔지니어들에게 친숙한 기술은 아니지만, 이벤트 스트리밍 처리를 위한 대표적인 기술 중 하나입니다. 대규모 실시간 데이터 스트리밍 처리를 위해 분산 환경에서 빠르고 유연하게 동작하는 오픈소스 데이터 처리 엔진이며, 팀 내에서는 Azar 의 핵심 로직인 매칭 서버를 구현하는 데에 사용되고 있고, 사내에서는 보통 Kafka 를 source 및 s

BackendData EngineeringKafkaMSA
쏘카 로고

쏘카

2025-02-11 · 1년 이상 전

Data Product (3) 데이터로 실제 운영 효율화가 가능할까?

날씨 세차 도입기

BackendData EngineeringPerformance
쏘카 로고

쏘카

2025-02-11 · 1년 이상 전

Data Product (3) 데이터로 실제 운영 효율화가 가능할까?

들어가며 날씨 기반 세차 운영 최적화 2.1 기존 세차 오퍼레이션과 개선 필요성 2.2 날씨 데이터 수집 데이터 분석 및 운영 적용 3.1 분석을 위한 데이터 상세 정의 3.2 날씨와 차량 오염의 상관관계 분석 3.3 운영 적용을 위한 시뮬레이션 운영 적용 결과 및 인사이트 4.1 날씨 기반 세차 운영 정책 적용 결과 4.2 맥락 해석이 필요한 데이터의 활용 1. 들어가며 차를 가진 분이라면 세차한 직후에 비가 내려 속상했던 적이 한 번쯤 있으

Data AnalysisData EngineeringMLOpsPerformance
올리브영 로고

올리브영

2025-02-03 · 1년 이상 전

Monstache로 DocumentDB와 OpenSearch 동기화하기

…

Data EngineeringDatabaseElasticsearch
마켓컬리 로고

마켓컬리

2025-01-19 · 1년 이상 전

주소정제 서비스 내재화 - 1화 ( 줄줄 새는 돈 )

문제인식과 컬리에서의 주소 정제의 목적

BackendData EngineeringMSA
마켓컬리 로고

마켓컬리

2025-01-19 · 1년 이상 전

주소정제 서비스 내재화 - 3화 ( 노가다의 달달한 열매 )

전국 약 1080만개의 건물DB 완성

BackendData EngineeringDatabase
마켓컬리 로고

마켓컬리

2025-01-19 · 1년 이상 전

주소정제 서비스 내재화 - 5화 ( 어질어질한 변화구들 )

복합건물 (아파트, 다세대 주택) 주소정제 정복

BackendData EngineeringDatabase
마켓컬리 로고

마켓컬리

2025-01-19 · 1년 이상 전

주소정제 서비스 내재화 - 4화 ( 슬픈예감 )

단독건물 주소정제 정복 (feat.전라북도와 부천시의 습격)

BackendData EngineeringInfra
쏘카 로고

쏘카

2025-01-15 · 1년 이상 전

사용자에서 데이터 엔지니어로, 쏘카 온보딩 회고

입사 지원부터 팀 온보딩, 실무 투입까지

CareerCultureData Engineering
카카오뱅크 로고

카카오뱅크

2024-12-19 · 1년 이상 전

Airflow로 펀드 배치 시스템 완벽 구축하기

2024년 1월, 카카오뱅크는 K8s, Managed Database, 분산스토리지, API Gateway 등 클라우드 네이티브 기술을 도입한 혁신적인 펀드 시스템을 퍼블릭 클라우드에 구축하여 성공적으로 오픈했습니다. 그 중 Airflow 오픈소스를 활용하여 만든 배치 시스템을 조명해볼까 합니다. 금융 규제를 충족하면서도 효율적으로 수많은 펀드 배치 작업을 어떻게 수행하는지 그 구축 과정을 함께 들여다보시죠!

AWSBackendData EngineeringDevOps
직행 로고

직행

2024-12-17 · 1년 이상 전

캐치테이블에서 일하고 싶은 사람을 위한 기업 분석

캐치 테이블은 혁신적인 예약 플랫폼으로, 데이터 기반의 서비스 제공을 통해 레스토랑과 고객의 경험을 개선하고 있습니다. 이번 블로그에서는 캐치 테이블의 비전, 핵심 가치, 그리고 채용공고에 대해서 소개하여 캐치테이블을 준비하시는 분들에게 양질의 정보를 제공하고자 합니다. 지금 바로 확인해보세요!

BackendCareerData Engineering
678910

페이지 8 / 17 (총 299개)