Data & ML & AI/LLM

ChatGPT 프롬프트 엔지니어링 #1. Introduction (Isa Fulford, Andrew Ng)

뇌님 2023. 5. 7. 02:54
반응형

1~2주일 전부터 이 강의가 출시되고 반응이 뜨거웠습니다.

 

ChatGPT Prompt Engineering for Developers

What you’ll learn in this course In ChatGPT Prompt Engineering for Developers, you will learn how to use a large language model (LLM) to quickly build new and powerful applications.  Using the OpenAI API, you’ll...

www.deeplearning.ai

ChatGPT가 출시되고 New Bing(Bing 챗봇)등, LLM 기반의 챗봇들이

기술적으로, 상업적으로 큰 주목을 받고 있습니다.

 

많은 사람들이 학술분야에서, 사업분야에서, 직무과정에서, 재미로 ChatGPT를 사용하고 큰 도움을 받고 있는 와중,

"내가 원하는 답변을 얻기 위해서는 어떻게 질문해야 하는가?"라는 질문 역시 중요해 졌습니다.

 

그리고 무엇보다도,

API 형태로 배포되면서 내가 만드는 서비스에도 도입할 수 있게 되었습니다.

"어떻게해야 이 거대한 챗봇을 내 서비스에 특화시킬 수 있을까?"를 고민하게 된거죠.

 

즉, 프롬프트 엔지니어링(Prompt Engineering)이 중요해졌다는 겁니다.

 

 

일반인들 입장에서는 경험상 터득해갈 수 밖에 없는 상황에서

전체 강의시간 1시간 남짓으로  짧으면서도 핵심적인 강의가 나오니 인기가 높은건 당연하겠죠?

게다가 강의의 질과 전달력까지 널리 알려진 분들의 강의니까요!

 

 

 

Introduction

LLM의 2가지 종류

Base LLM

  • 학습데이터: 인터넷, 기타 소스 등 대량의 데이터
  • 학습데이터를 기반으로 다음에 올 단어를 예측하도록 학습됨
    (다음에 나올 가능성이 가장 높은 단어는?)
  • 단점: 학습데이터의 영향을 그대로 받을 수 있음
    예시) 프랑스에 대한 질문이 나열된 글로 학습을 진행했었다면
    "프랑스의 수도는?" 다음에 "프랑스에서 가장 큰 도시는?"이 뒤따를 수 있음

 

Instruction Tuned LLM

  • RLHF(Reinforcement Learning with Human Feedback)을 통해 BaseLLM을 튜닝
  • 지시를 따르도록 훈련
  • 더 도움이 되도록, 더 정직하도록, 더 무해하도록 훈련

 

 

 

ChatGPT 프롬프트 엔지니어링 강의 목록

반응형