[Etc]LLM, RAG, sLLM, LMM

Coding/Study

후__아 2024. 6. 13. 17:44

※범용 LLM

Foundation Model, 그 자체로 API처럼 활용해서 솔루션을 갖다 쓸 수 있음

주로 클라우드 시스템(앤스로픽-Cloude3, 오픈AI-chatGPT, 구글-Gemini)

※버티컬 AI(sLLM)

오픈소스로 제공됨, 파인튜닝 등을 거쳐 최적화해서 만듦 ⇒ 다양한 목적에 따라 세분화 ex)SORA(오픈AI-영상 생성)

온디바이스 AI-클라우드를 거치지 않고 직접 활용됨(활용도 G)

※LMM

LLM 기반의 거대 멀티모델, 영상/이미지 생성 → AI가 현실 세계의 물리법칙을 이해하기 시작

※RAG(검색 증강 생성)

LLM의 환각현상(Hallucination)을 방지하고, 알고있던 것에만 의존하지 않고 지식 저장소를 추가함

LLM은 정보를 업데이트 하지 않아 기존의 지식만으로 답변을 내놓음 ⇒ 그 사이 정보가 달라지면 오답일 확률이 있음

⇒ RAG를 보강하고 지속적으로 업데이트만 해주면 굳이 다시 LLM을 훈련시킬 필요 X

#Hallucination

Generative AI가 학습 데이터에서 도출될 수 없는, 믿을 수 없는 내을 만드는 경우