2024/07 8

[AI]LangChain 기본 이론&실습(3)

LangChain이 제공하는 언어 모델 두 가지 ※ LLM단일 요청에 대한 복잡한 출력 생성 ex) 문서 요약, 질문 답변 생성, etc텍스트 문자열 in → 텍스트 문자열 out+표준화된 인터페이스 → 다양한 LLM 제공 업체 간 호환성 → 유연한 모델 전환/다중 LLM 통합 가 ※ ChatModel사용자와의 상호작용을 통한 연속적 대화 관리 ex) 챗봇메시지 리스트 in → 하나의 메시지 out대화의 맥락을 유지하며 적절한 응답 생성+다양한 모델 제공 업체/작동 모드※ LLM 모델 파라미터-Temperature: 생성된 텍스트의 다양성 조정- Max Tokens: 생성할 최대 토큰 수(텍스트 길이 제한)- Top P(Probability): 생성 과정에서 특정 확률 분포 내 상위 P% 토큰만 고려- ..

Coding/Study 2024.07.31

[AI]LangChain 이론&실습(2)

※ 프롬프트사용자와 언어 모델 간의 대화 속 질문/요청 형태의 입력문→ 프롬프트 템플릿 중요 ※ 작성 원칙- 명확성&구체성: 질문이 모호해서는 안 됨- 배경 정보 포함: 문맥을 이해할 수 있도록 정보 제공 → Hallucination↓ 응답 관련도↑- 간결성: 불필요한 정보 B, 최대한 간결하게 G- 열린 질문: 예/아니오 B, 많은 정보를 제공받을 수 있도록 열린 질문 G- 명확한 목표: 얻고자 하는 정보/결과를 정확하게 정의- 언어/문체: 맥락에 적합하게  ※ 프롬프트 템플릿(PromptTemplate)단일문장 or 간단한 명령 == 문자열 기반"langchain_core.prompts" 모듈의 "PromptTemplate" 클래스 사용PromptTemplatefrom langchain_core.pr..

Coding/Study 2024.07.31

[AI]LangChain 기본 이론&실습(1)

이번에 데이콘의 재정정보 검색 알고리즘 대회https://dacon.io/competitions/official/236295/overview/description에 참여하게 되어 재정정보 AI 검색 알고리즘 경진대회 - DACON분석시각화 대회 코드 공유 게시물은 내용 확인 후 좋아요(투표) 가능합니다.dacon.io 관련 기술인 LangChain과 RAG에 대해 공부하고 실습해보고자 한다(1년 동안 쉰 백수는 너무나 빠르게 흘러간 AI를 뒤쫓기 바쁘다 흑흑) ※ Langchain 대규모 언어 모델(LLM)과 애플리케이션의 통합을 간소화하는 SDK API를 노출하여 기본 LLM의 구현 세부 사항을 요약 => 코드를 크게 변경하지 않고도 모델 교체/대체 가능≫ 언어모델 용도 변경, AI 개발 간소화, 개발..

Coding/Study 2024.07.30

[AI/환경] 데이터센터-지구와의 공존

관련 회사/분야  헤드라인(요약과 압축)기사링크데이터센터·환경·전력·AI 아우르는 ‘큰 그림 정책’ 세워라 덩치 커지는 데이터센터…지구와 ‘건강한 공존’ 하려면 https://n.news.naver.com/mnews/hotissue/article/032/0003309450?type=series&cid=2002206본문AI 발전에 데이터 소비량 폭증연간 전력 사용량 국가와 맞먹어탄소중립 위협하는 ‘최대 복병’‘친환경 산업 발전’ 해법 찾아야오늘도 누군가는 모바일 메신저로 수다를 떨고 사회관계망서비스(SNS)를 들여다본다. 일터에선 e메일로 업무를 처리하는가 하면 동영상 콘텐츠를 보며 휴식한다. 택시를 부르거나 반찬거리를 사는 일도 스마트폰 안에서 이뤄진다. 인공지능(AI)이 질문에 자연스럽게 답해주는 것을..

Recording/NewsScrap 2024.07.19

[AI/반도체]유리기판 선점 경쟁

관련 회사/분야  헤드라인(요약과 압축)기사링크" AI 반도체 주도권 달렸다…'유리 기판' 선점 경쟁" 산업 리포트글로벌 시장 연간 6% 성장인텔·SK·삼성·LG '4파전' https://n.news.naver.com/mnews/article/015/0005006753본문인공지능(AI) 열풍으로 고성능 반도체 수요가 급증하자 글라스 기판(유리 기판) 시장을 선점하기 위한 SKC, 삼성전기, LG이노텍 등 국내 3사 간 경쟁도 치열해지고 있다. 유리 기판은 빠른 속도로 방대한 양의 데이터를 처리하고 에너지 효율성이 뛰어나 ‘꿈의 기판’으로 불린다. 이 시장을 누가 먼저 선점하느냐에 따라 반도체업계에서 입지가 갈릴 것이란 전망이 나온다.유리 기판은 현재의 플라스틱 소재 대신 유리를 사용한 차세대 기판이다. ..

Recording/NewsScrap 2024.07.08

[금융]AI-금융 망분리

관련 회사/분야  헤드라인(요약과 압축)기사링크" AI 클라우드 쉽게 쓴다…금융 '망분리' 규제완화"https://n.news.naver.com/mnews/article/015/0005005837본문‘ 앞으로 금융회사의 정보기술(IT) 개발자가 내부 PC에서 챗GPT 등 외부와 연결된 인공지능(AI) 서비스를 쓸 수 있게 된다. 외부 클라우드 사용도 가능해진다. 내부 전산망을 외부와 완전히 단절하도록 한 ‘망 분리 규제’가 10년 만에 대폭 완화되면서다.4일 금융권에 따르면 금융위원회는 망 분리 규제를 대폭 완화하기로 결정하고, 이르면 이달 말 공식 발표하기로 했다. 내부망 PC에서 인터넷을 기반으로 작동하는 클라우드 서비스 등을 쉽게 쓸 수 있도록 허용하는 쪽으로 가닥을 잡았다. 프로그램 개발 업무에 ..

Recording/NewsScrap 2024.07.05