ABOUT ME

-

Today
-
Yesterday
-
Total
-
  • ChatGPT 프롬프트 엔지니어링 #5. Inferring (Isa Fulford, Andrew Ng)
    Data & ML & AI/LLM 2023. 5. 23. 00:54
    반응형

    텍스트에서 레이블을 추출하거나,

    감정분석(긍정/부정분석)등의 추론(Inferring)을 진행하는 방법론, 모델은 이미 많이 있습니다.

     

    하지만 일반적인 머신러닝 워크플로우에서라면

    각 라벨링 데이터셋을 수집/구축하고, 모델을 훈련하고, 배포해야 합니다.

    꽤 많은 절차와 수고가 따릅니다.

     

    하지만 LLM을 사용할 경우, 프롬프트만 작성하면

    머신러닝 모델을 따로 관리할 필요 없이 바로 결과를 생성해 낼 수 있다는 장점이 있습니다.

     

    그리고 무엇보다도
    서로 다른 여러가지 추론모델을 각각 관리할 필요 없이

    단 하나의 모델, 하나의 API만으로 해결 가능하다는 장점이 있습니다.

    하지만 비용은 그만큼 더 많이 나가잖아요 교수님...

    즉, 서비스 개발, 서비스 배포의 속도가 매우 빨라지고 관리가 쉬워진다는 겁니다.

     

     

    활용예시1) 감정분석

    긍정 vs 부정

    수면램프 리뷰 글을 읽고, 리뷰 작성자가 제품에 대해 긍정적인지, 부정적인지 알아보라고 해봅시다.

    원문 번역(DeepL)
    Needed a nice lamp for my bedroom, and this one had additional storage and not too high of a price point. Got it fast.  The string to our lamp broke during the transit and the company happily sent over a new one. Came within a few days as well. It was easy to put together.  I had a missing part, so I contacted their support and they very quickly got me the missing piece! Lumina seems to me to be a great company that cares about their customers and products!! 침실을 위한 멋진 램프가 필요했는데, 이 제품은 수납공간이 많고 가격대가 높지 않았어요. 빨리 받았어요.  배송 중에 램프 줄이 끊어졌는데, 회사에서 기꺼이 새 것을 보내주었습니다. 며칠 안에 도착했습니다. 조립도 쉬웠습니다.  누락된 부품이 있어서 고객지원팀에 연락했더니 매우 빠르게 누락된 부품을 보내주었어요! Lumina는 고객과 제품을 아끼는 훌륭한 회사인 것 같습니다!!!
    What is the sentiment of the following product review,
    which is delimited with triple backticks?

    Review text: '''{위의 리뷰원문}'''

    positive라고 추론한 뒤,부가 설명까지 덧붙이는 모습을 보여줍니다.

     

    python 코드를 이용해서 데이터셋의 라벨링, 자료정리 등에 사용할거라면

    간단하게 "positive인지 negative인지 둘 중 하나로만 말해"라고 하는 것이 더 좋습니다.

    What is the sentiment of the following product review,
    which is delimited with triple backticks?
    Give your answer as a single word, either "positive" or "negative".

    Review text: '''{위의 리뷰원문}'''

    정서파악

    리뷰 작성자의 정서를 파악하거나, 현재 화가 난 상태인지도 확인할 수 있습니다.

    리뷰 본문에도 없는 정서단어를 도출해내기까지 합니다.
    간단명료하게 답해줍니다.

     

    활용예시2) 정보추출

    JSON 형태로 뽑아달라고 하면 라벨링, 어노테이션이 간편해집니다.

     

     

    활용예시3) 주제 추론

    신문, 논문 같은 글을 읽고 토픽을 정리하라고도 명령할 수 있습니다.

    원문 번역(DeepL)
    In a recent survey conducted by the government, public sector employees were asked to rate their level of satisfaction with the department they work at. The results revealed that NASA was the most popular department with a satisfaction rating of 95%.

    One NASA employee, John Smith, commented on the findings, stating, "I'm not surprised that NASA came out on top. It's a great place to work with amazing people and incredible opportunities. I'm proud to be a part of such an innovative organization."

    The results were also welcomed by NASA's management team, with Director Tom Johnson stating, "We are thrilled to hear that our employees are satisfied with their work at NASA. 
    We have a talented and dedicated team who work tirelessly to achieve our goals, and it's fantastic to see that their hard work is paying off."

    The survey also revealed that the Social Security Administration had the lowest satisfaction rating, with only 45% of employees indicating they were satisfied with their job. The government has pledged to address the concerns raised by employees in the survey and work towards improving job satisfaction across all departments.
    최근 정부에서 실시한 설문 조사에서 공공 부문 직원들에게 자신이 근무하는 부서에 대한 만족도를 평가해 달라는 요청을 받았습니다. 그 결과 가장 인기 있는 부서는 만족도가 가장 높은 부서로 나타났습니다.

    NASA의 한 직원인 존 스미스는 조사 결과에 대해 다음과 같이 말했습니다, "NASA가 1위에 오른 것이 놀랍지 않습니다. 훌륭한 사람들과 함께 일하기 좋은 곳이며 놀라운 기회를 제공합니다. 이렇게 혁신적인 조직의 일원이 된 것이 자랑스럽습니다."

    이번 결과는 NASA의 경영진도 환영했습니다, 톰 존슨(Tom Johnson) 국장은 "우리 직원들이 직원들이 NASA에서의 업무에 만족하고 있다는 소식을 듣게 되어 기쁩니다. 
    우리에게는 목표를 달성하기 위해 지칠 줄 모르고 일하고 있는 목표를 달성하기 위해 끊임없이 노력하는 재능 있고 헌신적인 팀이 있습니다. 성과를 내고 있습니다."

    설문조사에 따르면 다음과 같은 사실도 밝혀졌습니다. 사회보장국은 만족도가 가장 낮았습니다. 직원의 45%만이 자신의 업무에 만족한다고 답했습니다. 자신의 직업에 만족한다고 답했습니다. 정부는 다음과 같이 약속했습니다. 설문조사에서 직원들이 제기한 우려 사항을 해결하고 모든 부서의 직무 만족도를 개선하기 위해 노력하겠다고 약속했습니다.
    Determine five topics that are being discussed in the following text, which is delimited by triple backticks.
    Make each item one or two words long. Format your response as a list of items separated by commas.

    Text sample: '''{위의 산문원문}'''

     

    그리고 강의에서는 간단한 형태의 서비스도 구현해 보았습니다.

     

    새로운 뉴스기사가 내 관심사(topic list)에 해당하는 기사인지 확인하고,

    맞다면 알림을 주는  서비스의 형태입니다.

    물론, 당연하게도, 서비스를 구현한다기 보다는 기능을 실습하는 것 위주라서 여기서는 print만 하고 끝냅니다.

     

     

    ChatGPT Prompt Engineering for Developers

    What you’ll learn in this course In ChatGPT Prompt Engineering for Developers, you will learn how to use a large language model (LLM) to quickly build new and powerful applications.  Using the OpenAI API, you’ll...

    www.deeplearning.ai

     

     

    ChatGPT 프롬프트 엔지니어링 강의 목록

    반응형

    댓글

Designed by Tistory.