Programing
-
[AWS Bedrock] LLM 모델 성능 벤치마크 비교Programing/AWS 2024. 11. 1. 20:30
현재 AWS Bedrock이 제공하는 파운데이션 모델은 굉장히 많습니다.OpenAI의 모델들을 제외한 웬만한 주요 모델들을 다 사용할 수 있습니다. 파운데이션 모델(FM)을 사용하여 생성형 AI 애플리케이션을 구축 - Amazon Bedrock 요금 - AWSAmazon Bedrock 기술 자료는 FM과 에이전트가 회사의 개인 데이터 소스에서 컨텍스트 정보에 액세스할 수 있도록 완전관리형 엔드 투 엔드 검색 증강 생성(RAG) 워크플로를 제공합니다. 이를 통해 더aws.amazon.com 그런데 막상 쓰려 하니 어떤 모델이 싸고 어떤 모델이 성능이 좋을지 한눈에 잘 안들어와서 정리해봤습니다. 굳이 직접 정리해본 이유ChatGPT나 기타 큼직큼직한 모델들의 성능비교는 이미 자료가 많음그런데 Bedrock..
-
[Flutter] A problem occurred configuring project > Namespace not specified. (오래된 패키지 namespace 오류 해결)Programing/Flutter 2024. 10. 19. 21:16
새 프로젝트를 시작하고 auto_start_flutter를 추가하려는데 아래와 같이 에러가 발생했습니다.더보기FAILURE: Build failed with an exception. * What went wrong: A problem occurred configuring project ':auto_start_flutter'. > Could not create an instance of type cohttp://m.android.build.api.variant.impl.LibraryVariantBuilderImpl. > Namespace not specified. Specify a namespace in the module's build file. See https://d.android.com/r/to..
-
[AWS Bedrock] Claude3.5와 Langchain 연동하기 (24년 10월 기준)Programing/AWS 2024. 10. 10. 21:46
올해 초에는 AWS Bedrock에서 제공하는 모델이 그렇게 많지는 않았는데 그 사이에 많이 늘었습니다. 기존에는 Claude 2.1을 사용하고 있었는데 이제 Claude 3.5를 사용해볼까 하고 요금을 확인해봤습니다. 2.1보다 3이 성능도 훨씬 좋은데 요금도 훨씬 싸다고? 당장 바꿔야겠습니다. 이슈발생그런데 문제가 발생했습니다.기존의 langchain - Bedrock 연동은 이전 3월달에 작성한 포스트에서와 같은 방식이였습니다.# 기존 연결 방식from langchain.llms.bedrock import Bedrockchat_model_id = 'anthropic.claude-v2:1'llm = Bedrock(model_id=chat_model_id, client=bedrock) 여기서 chat_..
-
[Riverpod] Unhandled Exception: Tried to modify a provider while the widget tree was building.Programing/Flutter 2024. 6. 9. 21:52
어떤 화면에 로딩 인디케이터(loading indicator - 작업 완료될 때 까지 뱅글뱅글)를 넣어놨는데,작업이 완료되기 전에 해당 화면에서 빠져나갈 경우, 다시 그 화면으로 들어갔을 때무한정 뱅글뱅글 돌아가는 에러가 있음을 확인했습니다. 그래서 그 화면에 들어가자마자 indicator.status = false로 설정해두면 되겠지... 하면서 다음과 같이 코드를 작성했습니다.import 'package:flutter/material.dart';import 'package:flutter_riverpod/flutter_riverpod.dart';import 'package:projects/common/w_loading_indicator.dart';class ChatScreen extends Consum..
-
[Flutter] HandshakeException: Handshake error in client (OS Error: CERTIFICATE_VERIFY_FAILED)Programing/Flutter 2024. 5. 19. 00:51
앱에서 서버로 request를 보내는 과정에서 다음과 같은 에러가 발생했습니다. 원인은 요청한 서버의 인증서(CA)가 공인된 인증서가 아니기 때문입니다. 권장할 수 없는 방법이긴 하지만, 우회/무시 할 수 있는 방법은 있습니다. 방법참조: https://stackoverflow.com/questions/54928080/flutter-https-handshake-error-in-client-os-error-certificate-verify-failed-ok 1. main.dart에 새로운 MyHttpOverrides class 추가// ...class MyHttpOverrides extends HttpOverrides{ @override HttpClient createHttpClient(Securi..
-
[Flutter] (google admob) java.lang.NoSuchMethodError: No virtual method setRequestAgent(Ljava/lang/String;)Lcom/google/android/gms/ads/AdRequest$Builder;Programing/Flutter 2024. 5. 13. 01:27
토이프로젝트 앱에 구글 애드몹을 붙였더니배너광고 위젯을 표시하는 화면에서 다음과 같은 에러가 발생했습니다. 원인파악구글 Ads 공식문서를 보고 그대로 따라했었는데,안드로이드 build.gradle 설정 과정에서 google_mobile_ads 패키지와 버전 불일치가 있었기 때문에 발생한 문제인 것으로 보입니다. 패키지 간 충돌문제로 google_mobile_ads 패키지를 4.0.0으로 사용하고 있었는데 그 때문인 것 같습니다. 패키지 버전을 올릴 수는 없으므로 dependency를 변경해줍시다. dependency 수정android/app/src/build.gradledependencies { // 아래의 한줄 추가 or 버전 변경 implementation 'com.google.an..
-
[onnxruntime] CUDAExecutionProvider가 적용되지 않을 때Programing/기타 오류 해결 2024. 5. 8. 20:21
GPU 딸린 새 VM에 환경을 구축하고 테스트를 진행하는데Applied privider가 'CPUExecutionProvider'로 적용되고 있습니다. CUDA, cuDNN, onnxruntime 간 버전이 맞지 않아 발생한 문제일 가능성이 큽니다. 클라우드 서비스에서 제공하는 GPU VM은 적어도 CUDA, cuDNN 간 버전은 맞춰진 상태이므로,onnxruntime만 조정해보도록 하겠습니다. CUDA, cuDNN 버전 확인CUDAnvcc -V cuDNNcat /usr/include/x86_64-linux-gnu/cudnn_v*.h | grep CUDNN_MAJOR -A 2 ONNX Runtime 재설치이미 onnxruntime이 설치가 되어있었다면 충돌문제가 발생할 수 있기 때문에 먼저 삭제해주세..