개발자를 위한 챗 GPT 프롬프트 엔지니어링 #6. Expanding (확장)

이전 글

• 개발자를 위한 챗 GPT 프롬프트 엔지니어링 #2. Guidelines
• 개발자를 위한 챗 GPT 프롬프트 엔지니어링 #3. Iterative
• 개발자를 위한 챗 GPT 프롬프트 엔지니어링 #4. Summarizing
• 개발자를 위한 챗 GPT 프롬프트 엔지니어링 #5. Transforming

 

이번 강의는 텍스트를 이어가는 느낌으로 Expanding(확장) 이라 지은 것 같다. 이번 강의에서는 리뷰가 긍정적인지, 부정적인지에 따라 적절한 답변을 작성해주는 명령이 나온다.

 

 

1. 리뷰 답변 고객센터

앞에서 했던 리뷰 감정분류기로 negative라는 응답을 얻었다고 하자. 

• You are a customer service AI assistant. : Chat GPT에게 고객 서비스 AI 어시스턴트라고 하며 역할을 명시한다
• Generate a reply to thank the customer for their review.
  If the sentiment is positive or neutral, thank them for \
  their review.
  If the sentiment is negative, apologize and suggest that \
  they can reach out to customer service.  : 고객 리뷰가 긍정적이면 감사를 전하고, 부정적이면 사과하고 고객이 언급한 부분을 강조해서 진정성 있는 답변처럼 보이게 한다.

 

# given the sentiment from the lesson on "inferring",
# and the original customer message, customize the email
sentiment = "negative"

# review for a blender
review = f"""
So, they still had the 17 piece system on seasonal \
sale for around $49 in the month of November, about \
half off, but for some reason (call it price gouging) \
around the second week of December the prices all went \
up to about anywhere from between $70-$89 for the same \
system. And the 11 piece system went up around $10 or \
so in price also from the earlier sale price of $29. \
So it looks okay, but if you look at the base, the part \
where the blade locks into place doesn’t look as good \
as in previous editions from a few years ago, but I \
plan to be very gentle with it (example, I crush \
very hard items like beans, ice, rice, etc. in the \ 
blender first then pulverize them in the serving size \
I want in the blender then switch to the whipping \
blade for a finer flour, and use the cross cutting blade \
first when making smoothies, then use the flat blade \
if I need them finer/less pulpy). Special tip when making \
smoothies, finely cut and freeze the fruits and \
vegetables (if using spinach-lightly stew soften the \ 
spinach then freeze until ready for use-and if making \
sorbet, use a small to medium sized food processor) \ 
that you plan to use that way you can avoid adding so \
much ice if at all-when making your smoothie. \
After about a year, the motor was making a funny noise. \
I called customer service but the warranty expired \
already, so I had to buy another one. FYI: The overall \
quality has gone done in these types of products, so \
they are kind of counting on brand recognition and \
consumer loyalty to maintain sales. Got it in about \
two days.
"""


prompt = f"""
You are a customer service AI assistant.
Your task is to send an email reply to a valued customer.
Given the customer email delimited by ```, \
Generate a reply to thank the customer for their review.
If the sentiment is positive or neutral, thank them for \
their review.
If the sentiment is negative, apologize and suggest that \
they can reach out to customer service. 
Make sure to use specific details from the review.
Write in a concise and professional tone.
Sign the email as `AI customer agent`.
Customer review: ```{review}```
Review sentiment: {sentiment}
"""
response = get_completion(prompt)
print(response)

 

[결과]

Dear valued customer,

Thank you for taking the time to share your feedback with us. We are truly sorry to hear about your experience with the pricing changes and the quality of the product. We apologize for any inconvenience this may have caused you.

If you have any further concerns or would like to discuss this matter further, please feel free to reach out to our customer service team. We are here to assist you in any way we can.

Thank you again for your review and for being a loyal customer. We appreciate your feedback as it helps us improve our products and services.

AI customer agent

리뷰 자동응답기도 만들 수 있을 것 같다. 배민이나 스마트스토어에서 대댓글 다는 업자들이 많은데 크롤링 연계하면 자동 프로그램으로도 만들 수 있다. 또는 의료 기반 서비스를 만드는 스타트업인데 의료 지식이 부족한 경우도 쓸 수 있을 것 같다. 논문이나 뉴스 같은 자료들을 주고 쉽지만 전문적으로 설명하는 칼럼을 쓰게 해서 컨텐츠를 만들어도 될 것 같다.

 

 

2. Temperature 세팅

"my favorite food is" 에 대한 뒷 단어가 아래 3개로 예측되고 확률순으로 pizza(0.53) / sushi(0.3) / tacos(0.05) 라고 예측된다고 하자.

- temperature가 0이면 가능성 가장 높은 pizza를 선택한다.
- 0.5 : 가능성 덜 높은 sushi를 선택한다.
- 0.7 : 가능성이 더 낮은 tacos를 선택한다.

일반적으로 대부분 서비스는 예측 가능한 정확한 응답을 원한다. 이 경우 temperature를 0으로 세팅하는 게 좋다. 반면 좀 더 창의적인 답변을 원한다면 높게 세팅하는 것도 괜찮다.

 

 

---

 

 

고객 센터는 반복적인 단순 문의가 많아 AI로 대체되기 좋은 영역이다. 다만 고객의 입장에서 볼 때 사람이 AI 답변을 보면 진정성 떨어진다고 느낄 수 있다. 특히나 내일까지 처리해야 하는 급한 문의를 했는데 엉뚱한 답변을 AI가 줬다면 고객은 화가 날 수밖에 없다. 이런 경우 Chat GPT로 고객 문의를 긴급도에 따라 분류하고, 초안을 작성해서 사람이 마지막으로 확인하면 괜찮을 것 같다. 이렇게만 해도 기존 커버 가능한 고객이 1인당 1일 20명이었으면, 3배까지는 늘릴 수 있지 않을까 싶다.


이런 걸 보며 AI가 일자리를 대체할 거라는 불안에 빠지는 사람도 있다. 단순한 일이든 뭐든 본질에 집중하면 상위 10%가 될 수 있다. 다만 새로운 기회가 있다면 그걸 활용해서 더 많은 기회를 잡을 생각을 하는 게 좋은 것 같다. 그 기회를 잡지 않으면 결국 잡는 사람들에게 밀릴 수 있으니까. 그런 점에서 이번 강의는 더 많은 기회를 잡을 수 있도록 앞으로 도움이 될 것 같다.