지난번 칼럼에서 AI프롬프트 엔지니어링에 있어 필수적으로 알아야 하는 개념인 COT, GOT, TOT에 대해서 설명해드렸습니다. 이 3가지 프롬프트 엔지니어링 기술만 접목해도 생성형AI의 활용을 훨씬 더 다채롭게 할 수 있습니다. 당장 이 프롬프트 엔지니어링을 쉽게 하는 방법을 간단하게 안내해드리겠습니다.

방법은 아주 간단합니다. "해줘" 하면 해줍니다.

예를 들어볼게요.

"한국의 유아복 시장 조사를 부탁하고, 25년 여름에 잘 팔릴만한 상품을 추천해줘" 라는 프롬프트를 입력해보겠습니다.

아주~ 일반적인 형태의 답변이 나오는 것을 확인할 수 있습니다.

이번에는 GPT의 추론에 능한 o1 모델을 활용해서 제가 입력한 프롬프트 앞에 "COT를 적용한 프롬프트로 만들어줘" 라고 요청해볼게요.

"아래 프롬프트를 COT를 적용한 프롬프트로 만들어줘

한국의 유아복 시장 조사를 부탁하고, 25년 여름에 잘 팔릴만한 상품을 추천해줘"

그러면 위와 같은 프롬프트를 만들어줍니다. 이제 지피티가 답변해준 COT가 적용된 프롬프트를 복사해서 붙여넣기 해주기만 하면 답변의 퀄리티가 훨~씬 좋은 것을 확인할 수 있습니다. 재미로 TOT/GOT가 적용된 프롬프트도 만들어달라고 한 뒤 어떤 답변이 나오는지 비교도 해보세요. 참고로 GOT가 적용된 프롬프트를 제대로 활용하기 위해서는 데이터가 함께 들어가 주어야 합니다.

답변 퀄리티의 차이가 느껴지시나요? COT가 적용되지 않은 프롬프트는 자기 입맛대로 서칭하고 일부 뇌피셜을 보여주는 듯 합니다만, COT는 단계별 시장조사와 결론 도출을 통한 상품 추천을 제공해줍니다. 제가 처음 제시한 프롬프트가 "한국의 유아복 시장 조사를 부탁하고, 25년 여름에 잘 팔릴만한 상품을 추천해줘" 라는 내용의, 매우 허졉한 프롬프트였죠?

허졉한 프롬프트에는 허졉한 결과물이 나오고,

좋은 프롬프트에는 좋은 프롬프트가 나오는 것이 프롬프트 엔지니어링의 기본입니다. 그리고 지난 칼럼에서 좋은 프롬프트를 위해서는 사고력을 길러야 한다고 말씀드렸는데요.. 기본적인 프롬프트의 뼈대는 사고력을 기반으로 나오지만, 프롬프트의 설계와 구조는 지금처럼 "해줘" 하면 만들어줍니다.

마스카라AI라는 서비스가 있습니다. 프롬프트 만들어주는 프롬프트AI 서비스입니다. 물론, 저는 잘 사용하진 않습니다. 가끔 생각하기 싫을 때 툭 던져서 "해줘" 를 위한 용도로 사용하긴 합니다만, 저는 프롬프트를 만들 때 주로 GPT에게 "COT/GOT/TOT를 적용해서 프롬프트를 새로 만들어줘" 라는 요청을 많이 합니다.

오른쪽에 영어로 엄청 많이 써 있는 내용이 마스카라ai가 만들어준 프롬프트입니다.

"한국의 유아복 시장 조사를 부탁하고, 25년 여름에 잘 팔릴만한 상품을 추천해줘" 라는 프롬프트를

1번 프롬프트는 마스카라AI로 디벨롭하고,

2번 프롬프트는 COT로 적용해서 디벨롭한 프롬프트의 비교입니다.

COT가 적용된 프롬프트가 마스카라AI로 만든 프롬프트보다 낫다고 GPT가 평가하네요. 1번은 영어, 2번은 한글 프롬프트였음에도 불구하고 2번의 프롬프트가 더 낫다는 결론을 내려주었습니다.

오늘은 COT를 적용한 프롬프트의 예시를 소개해드리면서 COT 프롬프트를 만드는 방법까지 안내해드렸습니다. 그냥 "해줘" 하면 끝! 그럼 GOT나 TOT는 언제 사용하는게 좋을까요? 솔직히 말하면 저는 90%의 프롬프트는 COT를 사용합니다. TOT를 사용할 때는 생각의 가능성을 열어둘 때, 정답이 없는 문제를 풀 때 TOT를 사용하는 편입니다. 정답에 가까운 정답을 찾는다고 할까요? 혹은 새로운 아이디어의 도출을 위한 과정으로 TOT를 활용합니다.

GOT의 경우에는 방대한 데이터를 처리하기 힘든 경우에 활용합니다. 이건.. 단순한 생성형AI 채팅으로는 활용을 거의 하지 않고 있습니다. 요즘 유행하는 AI에이전트 수준에서 사용하거나 최근에 많이 각광받는 제미나이와 지피티의 최신 기능에서 많이 활용합니다.

COT 프롬프트가 많이 활용될 수밖에 없는 가장 큰 이유는 우리는 질문할 때/프롬프트를 입력할 때 주로 한가지 목적과 정해진 정답을 도출하기 위해서 프롬프트를 활용합니다. COT는 한 가지 정답을 빠르게 캐치하기 위해 한 가제 주제에 대해 깊숙히 파고드는 목적성을 띕니다. 그래서 일반적인 프롬프트는 보통 COT를 적용합니다.

그래서 오늘은 "해줘"에 대해서 알아보았습니다.

다음 번에도 "해줘"에 대해서 알아보도록 하겠습니다.