언어 모델의 Fine-Tuning 성능 올리기
안녕하세요, 데이블 AI 팀의 machine learning engineer 김명섭입니다. 이번 포스팅에서는 language model (LM)의 fine tuning의 성능을 더욱 향상시키는 다양한 방법론에 대해 알아보고자 합니다. LM의 fine-tuning 성능을 더욱 향상시키는 다양한 방법을 소개해 드리는 데에 중점을 맞춘 포스팅으로 각 방법론의 매우 상세한 내용보다는 어떠한 방법론이 존재하는지에 초점을 맞추어 작성되었습니다. 추가적으로
서버리스에서 쿠버네티스로 - Airflow 운영 경험기
서버리스 Airflow를 쿠버네티스 환경으로 전환하며 경험한 삽질들
신용평가에서 사용해보는 머신러닝
신용 평가 모델링 소개 안녕하세요. 에잇퍼센트 CSS(: Credit Scoring System)팀입니다. 에잇퍼센트는 대출과 투자를 연계하여 대출자에게는 대출의 기회를, 투자자에게는 새로운 투자 상품을 제공하는 8퍼센트 서비스를 제공하고 있습니다. 에잇퍼센트는 대출자의 신용을 평가하여 대출 조건을 결정합니다. 에잇퍼센트 CSS팀은 머신러닝 모델을 활용하여 더 나은 평가를 하기 위해 노력하고 있습니다. 이러한 노력의 시도들을 나누고자 합니다.
나의 하루를 읽어주는 AI, mini 일기 서비스 개발기
카카오뱅크 AI플랫폼팀의 ML 엔지니어 Toby가 작성한 이 글은 카카오뱅크에서 지난 1월부터 한 달간 선보인 ‘나의 하루 응원받기 서비스’의 개발 과정을 소개합니다. 이 서비스는 AI를 활용하여 mini 고객들이 일상에서 겪는 다양한 순간들을 감성적인 문장을 담은 일기 형태로 전환해 주는 기능을 제공하는데요. 특히 Azure OpenAI의 ChatGPT 기술을 활용하여 일기 생성 기능을 구현하고, 성능을 분석하며, 실제 서비스 적용 후 얻은
ChatGPT로 암호화폐 가격 예측하기
안녕하세요, 카카오뱅크 기술기획팀의 William입니다. 이번 글에서는 암호화폐 시장에서 LLM을 활용한 연구를 소개합니다. 암호화폐의 역사부터 시작해, 뉴스 데이터를 통해 암호화폐 가격을 예측하는 방법을 설명하고, 그 결과를 분석합니다. 특히, 한국과 글로벌 뉴스의 감성 분석을 통해 암호화폐 가격 변동성과의 상관관계를 도출한 이 연구는 암호화폐 투자에 큰 인사이트를 제공합니다. 머신러닝과 데이터 분석에 관심 있는 분들은 꼭 읽어보세요!
스노우파크 모델 레지스트리로 모델관리하기
Data Parallelism in Machine Learning Training
홈페이지 제작 문의
" 고객의 미래를 함께하는 씨앤텍시스템즈 " 안녕하세요 씨앤텍시스템즈 기술연구소입니다. 회사소개 2005년에 설립된 DW, ETL, BA, BIG DATA, 솔루션 구축 컨설팅 전문기업 씨앤텍시스템즈의 소개합니다. 기술연구소는 전문화된 인력과 기술력을 바탕으로 차세대 기술 개발, R&D 사업 등 새로운 IT 기술에 도전하고 지속적인 연구 개발을 통하여 주도적인 기업으로 이끌어 나가고 있습니다. 최근 자사 ETL 솔루션 개발 및 디지털 헬스케어,
왓챠 추천 서비스 MLOps 적용기 Part2
왓챠 추천 서비스 MLOps 적용기 Part1
버즈빌의 ML 플랫폼 Buzzflow (1) - 모델을 개발하고 관리하기
들어가며 안녕하세요, 버즈빌에서 MLOps 엔지니어로 일하고 있는 BK입니다. 버즈빌 광고 플랫폼 팀은 광고 성과 최적화를 위해서 다양한 머신러닝 모델을 활용하고 있습니다. 앞으로 두 편의 글을 통해 모델을 개발, 관리, 배포하기 위한 버즈빌의 머신러닝 플랫폼 buzzflow가 어떤 식으로 구성되어 있는지 여러분께 소개해 드리고자 합니다. 이번 글에서는 모…
LangChain: LLM 서비스를 어떻게 개발할 수 있을까?
Introduction 안녕하세요! 빅웨이브에이아이 이현상입니다! 요즘 들어 블로그 포스트를 거의 올리지 못해 저도 참 아쉬웠는데요, 사실 저도 직장 근무를 하면서 회사 블로그 운영하기가 쉽지는 않더라구요 ㅜㅜ 그래서 아에 블로그를 지금처럼.. 방치하기 보다는, 저희 회사의 월간 세미나로 정리되는 내용을 하나씩 공유드리고자 합니다! 최근 저희 회사에서는 최신 트렌드에 발맞춰서 LLM(Large Language Model) 및 생성형 AI 관련
비즈니스 성과로 연결되는 AI 제품 개발 프로세스와 운영 지표
‘우리 게임의 진성 유저는?’, Google BigqueryML 솔루션을 활용한 유저 분류 모델 개발
하루에도 수많은 유저가 게임에 접속한다. 각 유저는 게임 내에서 광고 시청, 게임 플레이, 결제 등 다양한 행동 패턴을 보이고, 이 패턴은 유저마다 다르다. 다양한 행동 패턴을 보이는 유저들에게 획일화된 마케팅 활동을 전개하는 것은 게임 운영 측면에서 비효율적일 수 있다. 따라서 유저의 행동 패턴을 기반으로 게임 유저를 분류하고, 분류된 유저별 개인화된 마케팅 활동을 전개하는 것이 중요하다. […]
더 나은 생성모델을 위해 RLHF로 피드백 학습시키기
Human feedback을 학습할 수 있는 RLHF 방법론에 대해서 소개하고 루다에 적용한 사례한 경험을 공유합니다.
ML gpu model server 성능을 유지하며 cpu server로 전환한 경험 공유
Luda Gen 1, 더 재미있고 자연스러운 대화로 돌아온 루다 2편 - 생성 모델을 챗봇으로 빚어내기
생성 모델 Luda Gen 1을 어떻게 챗봇 모델로 학습했는지를 구체적으로 다룹니다.
[IT TREND] 자율 AI 에이전트, ChatGPT 다음의 메가트렌드?
시작하며 피자를 시켜달라고 했더니 AI가 스스로 피자를 전화로 주문하고, 스스로 자신의 코드를 리뷰하고 개선하는 AI 사례까지 등장한 오늘. 이제 사람들의 관심은 ChatGPT에서 AI 모델이 스스로 외부 툴을 활용하여 보다 적은 사람의 개입으로 더 복잡한 일을 처리해주는 'Autonomous AI Agent (이하 자율 AI 에이전트)'로 이동하고 있습니다. 자율 AI 에이전트가 주목을 받기 시작한 것은 이와 같은 프레임워크를 개발자들이 사용