RAG
-
LLM 챗봇 개발하기 더 유용한 프레임워크는? (Gradio vs Streamlit)Data & ML & AI/기타 모델, 알고리즘, 툴 2025. 3. 10. 02:01
간단한 AI 데모를 만들려고 할 때,프론트 개발자가 아닌 이상, 인터페이스 구성까지 일일이 신경쓰기는 부담스러운 법입니다.그때 주로 사용되는 프레임워크가 바로 Gradio와 Streamlit입니다. 개인적으로 기존 타 프로젝트 진행할 때는 Streamlit을 주로 사용해 왔었는데요,LLM 챗봇 예제들 중에는 Gradio를 사용한 것들이 꽤 많기도 했고최근 듣고 있는 강의에서는 Gradio를 위주로 사용하고 있어 적어도 각각의 특징과 최소한의 사용감을 비교해 보고자 했습니다.챗봇 프로젝트의 유형에 따라 어떨 때 이걸 쓰고 어떨 때 저걸 쓸지, 아니면 아예 갈아탈지... 주로 아래의 자료를 주로 참고했고, 마지막으로 제가 개인적으로 느낀 사용감을 첨언해 보겠습니다.자료1: https://www.youtube..
-
[AWS Bedrock] RAG를 위한 지식베이스 생성Programing/AWS 2024. 2. 27. 23:19
이전 글에서는 Bedrock을 이용해 간단한 서비스를 생성했습니다. [AWS Bedrock] Bedrock 시작하기 LLM의 빠른 도입과 테스트를 위해 Bedrock을 이용해 LLM서비스를 구축하기로 선택했습니다. (아래의 이전 글 참조) [생성AI 서비스 선택] AWS Sagemaker VS AWS Bedrock 생성AI를 비즈니스에 도입하는 경우가 brain-nim.tistory.com 하지만 이정도만 할 거라면 굳이 AWS를 사용할 필요가 없죠. OpenAI나 기타 서비스가 제공하는 API를 이용하는게 훨씬 간편하고 저렴하니까요. 클라우드를 이용할 때의 장점 중 하나는 여러 서비스 자원을 쉽게 활용할 수 있다는 것이므로, 이번에는 Bedrock이 S3 저장소에 있는 자료를 참고해서 답변을 하도록 해..