[보안뉴스]_[SAMSUNG SDS] 생성형 AI 모델과 대화하는 프롬프트 엔지니어링

https://www.samsungsds.com/kr/insights/prompt-engineering.html

생성형 AI 모델과 대화하는 프롬프트 엔지니어링(Prompt Engineering) | 인사이트리포트 | 삼성SDS

---

2022년 9월 미국 콜로라도 주립 박람회 미술 대회에서 AI 작품이 우승하면서 프롬프트 엔지니어링이 주목받게 되었다. 이 우승 작품은 생성형 AI '미드저니'에 의해 만들어진 것으로, 80시간 동안 900번의 프롬프트를 반복해 완성되었다. 이를 통해 최근에는 프롬프트 엔지니어링이 중요시되며, 대규모 언어 모델에서 원하는 결과를 얻기 위해 프롬프트를 공들여 만들고 최적화하는 기술로 발전하고 있다. 글에서는 프롬프트 엔지니어링의 개념과 기법, 현황, 전망을 살펴보고 있다.

 

프롬프트 엔지니어링?

: 프롬프트 엔지니어링은 대규모 언어 모델(Large Language Model, LLM)에서 원하는 결과를 얻기 위해 프롬프트를 공들여 만들고 최적화하는 과정.

프롬프트는 AI 모델이 학습한 내용 가운데 특정 내용을 탐색하도록 안내해 목표에 맞는 결과를 생성한다. AI 민주화를 목표로 하는 연구 및 교육 기관인 DAIR.AI에서 깃허브를 통해 제공하는 프롬프트 엔지니어링 가이드에 따르면 프롬프트의 구성 요소는 1. 모델이 수행하기를 원하는 특정 작업 또는 지침을 말하는 ‘명령(Instruction)’, 2. 모델을 조정할 수 있는 외부 정보 또는 추가 맥락을 일컫는 ‘맥락 정보(Context)’, 3. 답변을 찾고자 하는 입력 또는 질문을 말하는 ‘입력 데이터(Input Data)’, 4. 출력의 유형 또는 형식을 의미하는 ‘출력 데이터(Output Data)’다. 

간략한 프롬프트 엔지니어링 가이드라인

일반적으로 프롬프트 엔지니어링 기법은 ‘제로샷(zero-shot)’과 ‘퓨샷(few-shot)’ 2가지로 나뉜다. 

- 제로샷 프롬프팅은 예시를 제공하지 않고 간단한 명령어만 입력해 예상되는 결과를 생성하는 방식이다. 특정 작업과 관련된 데이터를 사용하지 않고도 새로운 작업을 수행하도록 LLM을 학습시키는 것이 목적이다.

- 퓨샷 프롬프팅은 원하는 결과를 얻기 위해 소량의 샘플 정보나 데이터를 사용해 LLM을 학습시키는 방식이다. 퓨샷 프롬프팅에는 3가지 구성 요소가 있다.
• 작업 설명(Task Description): 모델이 수행할 작업에 관해 간단한 설명을 해준다.
• 예시(Examples): 모델이 수행할 작업을 몇 가지 예시로 보여준다.
• 프롬프트(Prompt): 새로운 예시의 시작 부분. 모델은 누락된 텍스트를 생성하여 예시를 완성해야 한다.

대부분 API에서는 사용자가 자체적인 프롬프트 엔지니어링 기법을 적용할 수 있다. 하지만 이런 유연성은 프롬프트 인젝션 등 악의적인 사용례의 가능성을 열기도 한다. 실제로 악의적인 프롬프트를 입력해 회사 내부 기밀인 코드명 시드니(Sydney)를 말하도록 한 빙(Bing)의 사례는 사람들이 의도치 않은 목적으로 프롬프트 엔지니어링을 악용할 수 있다는 사실을 증명했다. 

 

프롬프트 엔지니어링의 전망은?

프롬프트 엔지니어링이 떠오르면서 ‘프롬프트 엔지니어’라는 새로운 직업도 생겨났으며, 그 수요가 급증하고 있다. 일례로 오픈AI의 개발자들이 설립한 AI 스타트업 안트로픽(Anthropic)은 올해 초 28~37만 달러의 높은 연봉을 제시하면서 프롬프트 엔지니어 채용 공고를 냈다. 국내에서도 지난 3월 AI 스타트업 뤼튼테크놀로지스가 최대 1억 원의 연봉을 내걸고 프롬프트 엔지니어를 공개 채용한 바 있다.

 

이렇게 프롬프트 엔지니어 수요가 증가하면서 자신만의 프롬프트를 무료로 공유하거나 사고파는 마켓플레이스의 수와 규모도 증가하는 추세다. 대표적인 마켓플레이스가 바로 프롬프트베이스(PromptBase)다. 프롬프트베이스는 달리(DALL-E), 챗GPT(ChatGPT), 스테이블 디퓨전(Stable Diffustion), 미드저니(Midjourney) 등의 프롬프트를 사고파는 곳이다. 

 

이처럼 많은 기업에서 프롬프트 엔지니어를 채용하고 있고, 관련 마켓플레이스가 성장 중이지만, 일부 업계 전문가들은 프롬프트 엔지니어링의 필요성 자체에 의문을 제기하기도 한다. 워싱턴 포스트에 따르면, 워싱턴 대학의 언어학과 셰인 스타이너트-트렐켈드 교수는 프롬프트 엔지니어가 AI 모델의 출력을 예측할 수 없다면서, "동일한 프롬프트가 수십 개의 서로 다른 답을 생성할 수 있다. 프롬프트 엔지니어링은 과학이 아니다. 곰을 여러 방법으로 찔러보고 어떻게 포효하는지 보는 것일 뿐이다"라고 지적했다.