서론지난 포스팅에서는 데이터를 정제하는 코드를 작성했다. 이번 포스팅에서는 데이터를 로드하고 로드된 데이터를 저장하는 방법에 대해서 적도록 하겠다. 이전 포스팅을 보려면 아래 포스팅을 참고하길 바란다. 여기서 만든 클래스를 활용해서 정제된 데이터를 로딩하는 것이기에 꼭 필요한 과정이다. Fine-tuning LLM (3) Item Parsing Class서론지난 포스팅에서는 데이터셋을 어떻게 수집하고, 데이터를 어떻게 분석하는 지 그 과정에 대해서 알아보았다. 이번 포스팅에서는 이렇게 분석한 데이터를 어떻게 프롬프트에 반영하는지에quiseol.cominit 함수와 load 함수우선 init함수를 통해 name과 dataset을 초기화한다. name은 카테고리명을, dataset은 데이터셋을 나중에 로드..

서론지난 포스팅에서는 데이터셋을 어떻게 수집하고, 데이터를 어떻게 분석하는 지 그 과정에 대해서 알아보았다. 이번 포스팅에서는 이렇게 분석한 데이터를 어떻게 프롬프트에 반영하는지에 대해서 알아보고자 한다. 이렇게 만든 프롬프트를 기반으로 prompt를 만든 다음 나중에 Fine-tuning에 사용할 예정이다.생성자 설정 __init__()우선 초기 상태 설정인 init 함수를 적어준다. 받는 값들은 미리 넣어줄 것이고, 나중에 판단하거나 값을 새로 할당해야되는 것들은 None, 0 내지 False로 지정해줬다. detail을 바로 data['detail']로 받지 않은 이유는 디테일에 불필요한 요소가 너무 많기에 따로 받아서 정제를 해줘야되기 때문이다. 우선 데이터를 받으면 파싱하는 함수를 만들겠다.d..

서론앞선 포스팅에서는 Data Curation을 위해 데이터 로드하는 것 까지 진행했다. 이번에는 데이터 로딩 이후에 가공하는 과정을 진행하고자 한다. 참고로 가공에는 무조건적인게 없다. 데이터를 살펴보고 데이터에 따라 어떻게 가공해야될지 판단하는것은 본인의 몫이다. 그리고 시작에 앞서 이번 파인 튜닝의 목적은 제품 가격을 예측하는 LLM을 만드는 것임을 알리고자 한다. 물론 직접 데이터 분석해서 모델링할 수도 있지만 LLM도 Regression 기반이기 때문에 가능하기 때문이다. 다만 다른게 있다면 데이터 분석은 어떤한 변수를 주면 예측한다는건데 LLM은 query를 주면 그에 맞는 예측 답변을 말할 것이다.데이터 셋 살펴보기데이터 셋을 로드 하면 무엇이 들어있는 지 알아야 된다. 이는 다운받는 과정에..

서론이번 포스팅에서는 Fine-tuning을 위한 과정에 대해서 서술하고자 한다. 모델 성능 개선 방법에는 크게 세가지가 있다. 1. Prompting 2. RAG 3. Fine-tuning. 이 중 파인튜닝은 모델 자체를 학습시키는 것인데, 이 과정의 첫번째 단계가 Data curation이다. 이번 포스팅에서는 데이터 큐레이션 및 데이터 수집하는 방법에 대해서 알아보도록 하겠다.Data Curation이란?Data curation은 데이터를 수집, 정제, 가공, 저장, 관리하는 작업을 의미한다. LLM을 Fine-tuning할 때 학습 데이터를 만드는 과정이기도 하다. LLM을 학습시킬 때 수집한 데이터를 냅다 집어넣으면 안 된다. 주어진 정보가 너무 많아도, 정보가 너무 적어도 학습에 문제가 생기기..

서론RAG를 할 때 마주하는 것은 '어떤 DB를 써야되는가?'이다. 가장 많이 쓰이는 것이 Chroma와 FAISS인데 이번 포스팅에서는 이 두 벡터 데이터 베이스의 차이점에 대해 알아보도록 하겠다. 다른 RAG 시리즈 포스팅이 궁금하다면 아래 링크로 들어가길 바란다. Retrieval Augmented Generation(RAG) 복습 (1) RAG의 개념RAG란?Retrival : (언어 모델이 갖고 있지 않은 정보) 데이터를 가져오는 것.Augmented : AR/VR에서의 A도 Augmented임. 마치 있는 것처럼.Generation : 컴퓨터가 생성하는거 llm이 알아서 하는부분이다.여기서 R,Aquiseol.com FAISS란?FAISS는 엄밀히 말하면 vector data store가 아..

서론지난 포스팅에서는 하위 도메인을 새 블로그에 입히는 방법에 대해서 알아보았다. 이번 포스팅에서는 하위 도메인 주소를 에드센스에 어떻게 등록(연동)하며, 연결할 때 주의사항은 뭔지에 대해서 알아보도록 하겠다. 주의 사항은 크게 에드센스 정책, 블로그 설정, 컨텐츠 개수에 대해서 언급할 계획이다.에드센스 연동 방법연동 방법은 이미 첫번째 블로그에서 한거랑 똑같다. 1. 스킨편집에 들어가서 2. html 편집을 누른 뒤, 항목 바로 아래에 3. 에드센스 광고 코드를 넣느 것이다. 참고로 관리 -> 수익 탭으로 들어가 adsense를 연동하기를 누르면 된다.하위 도메인 광고 설정에 대한 주의 사항 1) 애드센스 정책 관련낮은 퀄리티를 가진 사이트는 저품질 콘텐츠로 분류될 수 있다. 그래서 단순히 복붙을 해..

서론최근 에드센스 승인을 받았다. 그래서 어떻게 블로그를 운영할까 고민을 하던 중 하위도메인으로 새 티스토리 블로그를 인증 받는거에 대해 긍정적으로 생각하고 있다. 그래서 티스토리 하위 도메인으로 에드센스 승인 시리즈에서는 어떻게 하위 도메인으로 새 블로그를 개설했는지에 대해서 알아보고, 또 하위 도메인으로 개설시 주의할점에 대해서도 알아볼 예정이다.티스토리 새로운 블로그 만들기티스토리는 블로그를 만들 수 있는 기회를 도합 10번을 주고, 최대로 만들 수 있는 블로그의 개수는 5개로 제한되어있다. 우선 나는 블로그 생성 기회가 2번 깎여서 8번의 생성 기회가 있었고, 블로그는 최대 4개 더 만들 수 있는 상태였다. 각설하고, 우선 블로그를 추가로 개설하기 위해서는 티스토리 메인화면에서 계정관리로 들어간다..