[Etc]LLM, RAG, sLLM, LMM

※범용 LLM

Foundation Model, 그 자체로 API처럼 활용해서 솔루션을 갖다 쓸 수 있음

주로 클라우드 시스템(앤스로픽-Cloude3, 오픈AI-chatGPT, 구글-Gemini)

 

※버티컬 AI(sLLM)

오픈소스로 제공됨, 파인튜닝 등을 거쳐 최적화해서 만듦 ⇒ 다양한 목적에 따라 세분화 ex)SORA(오픈AI-영상 생성)

온디바이스 AI-클라우드를 거치지 않고 직접 활용됨(활용도 G)

 

※LMM

LLM 기반의 거대 멀티모델, 영상/이미지 생성  → AI가 현실 세계의 물리법칙을 이해하기 시작

 

※RAG(검색 증강 생성)

LLM의 환각현상(Hallucination)을 방지하고, 알고있던 것에만 의존하지 않고 지식 저장소를 추가함

LLM은 정보를 업데이트 하지 않아 기존의 지식만으로 답변을 내놓음 ⇒ 그 사이 정보가 달라지면 오답일 확률이 있음

⇒ RAG를 보강하고 지속적으로 업데이트만 해주면 굳이 다시 LLM을 훈련시킬 필요 X

 

#Hallucination

Generative AI가 학습 데이터에서 도출될 수 없는, 믿을 수 없는 내을 만드는 경우

 

cf) https://www.youtube.com/watch?v=K79vnsjniQE

https://brunch.co.kr/@ywkim36/146

https://blog-ko.superb-ai.com/what-is-rag-to-make-generative-ai-smarter/

https://moon-walker.medium.com/llm%EC%97%90-halluciation-%ED%99%98%EA%B0%81-%EC%9D%B4-%EB%B0%9C%EC%83%9D%ED%95%98%EB%8A%94-%EC%9B%90%EC%9D%B8%EA%B3%BC-%ED%95%B4%EA%B2%B0%EB%B0%A9%EC%95%88-f18759f0a959