기업 기술블로그의 LLM 관련 글 69개
안녕하세요, 카카오뱅크 기술기획팀의 William입니다. 이번 글에서는 암호화폐 시장에서 LLM을 활용한 연구를 소개합니다. 암호화폐의 역사부터 시작해, 뉴스 데이터를 통해 암호화폐 가격을 예측하는 방법을 설명하고, 그 결과를 분석합니다. 특히, 한국과 글로벌 뉴스의 감성 분석을 통해 암호화폐 가격 변동성과의 상관관계를 도출한 이 연구는 암호화폐 투자에 큰 인사이트를 제공합니다. 머신러닝과 데이터 분석에 관심 있는 분들은 꼭 읽어보세요!
빅웨이브에이아이 조상원 님이 정리한 리뷰입니다. ChatGPT와 같은 LLM의 환각(Hallucination) 증상에 대해 들어보셨나요? 아무래도 ChatGPT를 많이 써보신 분들은 ChatGPT가 한번씩 틀린 대답을 하는 것을 본 적 있으실 겁니다. ChatGPT는 생성할 단어를 AI가 확률적으로 예측하는 방식이기 때문에, 이런 오류가 존재할 수 있고, 그래서 팩트 체크가 중요하다고 볼 수 있습니다. 이에 그래도 최대한 오류를 출력에서 억제할
빅웨이브에이아이 조상원 님이 정리한 리뷰입니다. 페르소나 방식의 경우 ChatGPT 사용법에서 가장 유명한 것 중 하나인데요, 논문에서 얘기하는 구체적인 사례를 알아보겠습니다. 개념 많은 경우에 사용자는 LLM의 출력이 특정 관점을 취하기를 원합니다. 예를 들어, LLM이 프로그래밍 전문가인 것처럼 스크립트를 작성하는 것이 유용할 수 있습니다. 이번 패턴은 LLM이 어떤 유형의 출력을 생성하고 어떤 세부 사항에 초점을 맞출 것인지 도움이 되는
빅웨이브에이아이 조상원 님이 정리한 내용입니다. 개요 이 패턴의 목적은 대화형 LLM(ChatGPT와 같은)이 제안하는 단계를 자동으로 수행할 수 있는 스크립트나 다른 자동화 아티팩트를 생성하도록 하는 것입니다. 목표는 LLM 원하는 출력을 구현하는 데 필요한 수동 작업을 줄이는 것입니다. 작업을 줄이고자 하는 이유는 LLM이 단계별로 수행되어야 할 때가 많기 때문입니다. 예를 들어, 파이썬 설정 스크립트 생성을 요청했을 때, 여러 파일을 수정
빅웨이브 이현상 님이 작성한 기술 리뷰입니다. Mergekit? LLM을 합칠 수 있는 툴킷 주소 링크 GitHub - arcee-ai/mergekit: Tools for merging pretrained large language models. 특징 LLAMA, MISTRAL, GPT-NeoX, StableLM 등 지원 Linear, SLERP, Task Arithmetic 등 다양한 병합 방법 사용 가능 VRAM 8GB 수준의 GPU 가속화
빅웨이브에이아이 이원석 님의 리뷰입니다. LLM 모델인 GPT-4, PaLM, LLama 등은 범용적인 목적에 맞게, 매우 큰 모델 사이즈와 매우 방대한 양의 데이터로 사전 학습이 수행됨 일반적인 LLM의 경우 방대한 양의 데이터로 부터 매우 다양한 도메인 지식을 습득 But, 사전 학습 데이터에서 욕설, 편향적인 정보, 부정확한 정보를 담은 문서 등 적절치 못한 데이터를 다수 포함 데이터 클렌징 및 필터링 등 방대한 양의 데이터를 사람이 전부
Introduction 안녕하세요! 빅웨이브에이아이 이현상입니다! 요즘 들어 블로그 포스트를 거의 올리지 못해 저도 참 아쉬웠는데요, 사실 저도 직장 근무를 하면서 회사 블로그 운영하기가 쉽지는 않더라구요 ㅜㅜ 그래서 아에 블로그를 지금처럼.. 방치하기 보다는, 저희 회사의 월간 세미나로 정리되는 내용을 하나씩 공유드리고자 합니다! 최근 저희 회사에서는 최신 트렌드에 발맞춰서 LLM(Large Language Model) 및 생성형 AI 관련
CarbonVillain 모델로 Huggingface Open LLM Leaderboard에서 1위를 달성한 자연어처리 엔지니어 Weezy의 글을 통해 Open LLM Leaderboard의 개요, 모델 병합 방법론, 그리고 리더보드 도전 후기를 살펴 보세요. Weezy가 속한 팀에서 진행하고 있는 프로젝트와 오픈소스 언어모델 KF-DeBERTa도 알아 볼 수 있는 기회입니다. 자연어처리에 관심 있는 분들은 이 글을 놓치지 마세요!
"RLHF 외에 Human feedback을 학습할 수 있는 방법론들에 대해서 소개하고 핑퐁팀에서 실험한 경험을 공유합니다."
LLM 서빙을 위한 다양한 최적화 기법과 그 효과를 검증하기 위한 부하 테스트 방법론
루다, 다온에게 지연 답변 기능을 구현한 과정을 설명합니다.
Introduction Machine Learning/Deep Learning의 발전이 급격히 이루어지면서 다양한 인공지능 모델이 연구되고 만들어지고 있습니다. 최근에는 OpenAI의 GPT-3, NAVER CLOVA의 HYPERCLOVA등 거대 AI모델들이 출연하고 있습니다. 필자는 이런 모델들을 연구하고 공부하면서 이 모델자체를 어떻게 분류하는게 맞는가 하는 고민을 항상 같이 합니다. 예를 들어 어떤 모델을 사용하면 이 모델 자체를 분류모델
BERT 화해팀은 우리가 가진 데이터를 어떻게 잘 가공해서 앱을 이용하는 고객들에게 더 좋은 서비스로 돌려드릴 수 있을지를 지속적으로 고민해 왔는데요, Hwahae PLM 개발의 출발점이 된 저희의 질문도 바로 여기에서 시작되었습니다.
2019년도 NeurIPS 학회의 논문 통계를 공유합니다 본 문서는 2019년 12월에 개최되었던 NeurIPS 2019(the Thirty-third Conference on Neural Information Processing Systems)에 게재된 논문들의 각종 통계 수치를 분석한 글입니다. Introduction NeurIPS는 세계 최고 권위의 인공지능 학회로, 1987년부터 매해 컨퍼런스를 개최하여 2019년 12월에는 캐나다 밴쿠
페이지 4 / 4 (총 69개)
