728x90 반응형 전체 글313 [WebRTC] WebRTC, KMS, OpenVidu 개념 WebRTC는 브라우저 간에 플러그인의 도움 없이 통신할 수 있도록 설계된 API이다. 즉 따로 소프트웨어를 설치할 필요가 없이 여러 종류의 데이터들을 교환할 수 있게 해준다. WebRTC는 다음 그림과 같이 동작한다. 각각의 용어들에 대해서 알아보자. 그 전에 NAT에 대해서 알 필요가 있다. 만약 NAT에 대해서 모른다면 아래 포스팅을 보고 오는 것을 추천한다. https://growth-coder.tistory.com/192 [Network] DHCP와 NAT 우리가 일반적으로 사용하는 IPv4의 경우 IP주소가 40억개쯤 되는데 시간이 많이 지남에 따라 거의 고갈되어 가고 있다. 이를 해결하기 위한 방안을 알아보려고 한다. DHCP (Dynamic Host Configuration Proto gr.. 2023. 10. 24. [LangChain] Retrieval, RAG (document에서 검색하기) 저번 포스팅에서 기본적인 LangChain 동작 방식과 여러 옵션들을 알아보았다. 이번에는 Retrieval을 통해서 원하는 document에 질의를 한 후 원하는 답변을 얻어보려고 한다. RAG(Retrieval Augmented Generation) RAG는 검색 증강 생성으로 모델이 답변을 생성하는데 도움을 줄 수 있다. LLM 기초 사용법을 알아보면서 prompt를 생성할 때 배경 context라던가 역할을 부여해주면서 더욱 퀄리티 있는 답변을 얻을 수 있었다. RAG 역시 이와 비슷한 역할을 하는데 모델의 답변을 강화하기 위해서 외부에 있는 데이터에서 검색을 하는 것이다. 추가적인 정보를 제공해주기 때문에 정확도 높은 답변을 얻을 수 있는 것이다. 다음은 검색 과정을 나타낸 그림이다. Docum.. 2023. 10. 23. [LangChain] Few Shot Prompting, Dynamic Few Shot Prompting https://growth-coder.tistory.com/254 이전 포스팅에서 prompt에 대해서 알아보았다. 이번 포스팅에서는 Few shot prompting에 대해서 알아보자. Prompt Engineering prompt engineering 이란 LLM을 애플리케이션에 효율적으로 사용할 수 있도록 prompt를 최적화하는 기술이다. prompt engineering 기술을 활용한다면 모델에게 구체적인 작업을 지시할 수도 있고 질문, 답변 형식도 원하는대로 바꿀 수가 있다. Zero-Shot Prompting과 Few-Shot Prompting zero shot prompting이란 예시를 주는 것처럼 학습을 하지 않아도 예측을 진행하는 prompting이다. chat gpt에게 다음 문장을.. 2023. 10. 21. [LangChain] Prompts, Caching, Streaming, Token Usage https://growth-coder.tistory.com/253 이전 포스팅에서 Model input output에 대해서 알아보았다. 위 단계 중 Format을 보면 원하는 형식을 만들어서 거기에 끼워맞추는 모습을 볼 수 있다. PromptTemplate과 ChatPromptTemplate을 사용하여 format을 해보자. 참고로 이전 포스팅과 마찬가지로 OPENAI_API_KEY가 환경 변수로 등록되어 있어야 한다. PromptTemplate from langchain.prompts import PromptTemplate from langchain.chat_models import ChatOpenAI chat = ChatOpenAI() prompt_template = PromptTemplate.fr.. 2023. 10. 20. 이전 1 ··· 13 14 15 16 17 18 19 ··· 79 다음 728x90 반응형
