Large Language Model(LLM)과 프롬프트 엔지니어링(Prompt Engineering)

Large Language Model이란?

 

컴퓨터 프로그램인 large language model (LLM)은 사람들이 하는 말이나 쓴 글을 이해하고, 그에 적절한 답을 만들어내는 기술을 의미한다. 이 모델은 수많은 글과 문장을 학습해서 언어의 패턴과 의미를 파악하며, 사람처럼 대화하거나 글을 쓸 수 있다. 예를 들어, 질문을 하면 그에 맞는 답을 만들어주거나, 주제에 대해 설명해주기도 한다. 이 모델은 많은 분야에서 유용하게 활용되는데, 검색 도움, 글 작성 도움, 정보 제공 등에 사용될 수 있다.

 

유명한 'LLM' 솔루션들은 아래와 같은 것들이 있다.

 

1. GPT-3 (Generative Pre-trained Transformer 3) : OpenAI에서 개발한 모델로, 다양한 언어 작업에 사용될 수 있다. 텍스트 생성, 질문 응답, 자연어 이해 등 다양한 분야에서 활용된다.
2. BERT (Bidirectional Encoder Representations from Transformers) : 구글에서 개발한 모델로, 문맥을 고려하여 단어의 의미를 이해하는데 중점을 둔 모델이다. 검색 엔진, 질문 응답 시스템 등에서 활용된다.
3. RoBERTa (A Robustly Optimized BERT Pretraining Approach) : Facebook AI에서 개발한 모델로, BERT 모델을 기반으로 성능을 향상시킨 모델이다.

추가적인 솔루션들은 위키백과를 확인하자.

 

 

프롬프트 엔지니어링(Prompt Engineering)이란?

 

'LLM'을 활용하여 원하는 결과를 얻기 위해 입력하는 문장 또는 질문을 설계하는 과정을 말한다. 즉, 언어 모델이 원하는 방향으로 더 정확하게 답변을 생성할 수 있도록 도와주는 기술이다.

 

예를 들어, 'LLM'에게 "지구에서 달까지 거리는 얼마인가요?"라고 물으면 숫자로 된 정확한 답변을 받을 수 있을 것이다. 그러나 "달에 가장 가까운 행성은 무엇인가요?"라고 물었을 때, 이에 대한 정확한 답변을 얻기 어려울 수 있다. 이런 경우, 프롬프트 엔지니어링을 통해 어떤 식으로 답변을 할지 가이드해주는 형태로 더 정확한 답변을 받을 수 있다.

(참고로 ChatGPT의 경우, 제대로된 답변을 해줬다)

 

 

몇 가지 예를 들어보자.

 

질문 유형과 답변 스타일 설정

• 원래 질문: "피카소의 대표작은?"
• 프롬프트 엔지니어링: "피카소의 대표작은 무엇인가요?"

세부 사항 추가

• 원래 질문: "우주에서 가장 큰 행성은?"
• 프롬프트 엔지니어링: "우주에서 가장 큰 행성은 무엇이며, 그 크기는 얼마인가요?"

정확한 유형의 답변 유도

• 원래 질문: "고프로 카메라의 가격은?"
• 프롬프트 엔지니어링: "고프로 카메라의 현재 가격을 알려주세요."

관련 정보 포함

• 원래 질문: "코로나 바이러스의 증상은 무엇인가요?"
• 프롬프트 엔지니어링: "코로나 바이러스의 증상과 초기 증상이 나타나는 시기는 어떻게 되나요?"

다중 답변을 유도

• 원래 질문: "프랑스의 유명한 음식은?"
• 프롬프트 엔지니어링: "프랑스에서 유명한 음식 중 몇 가지는 무엇인가요?"

비교나 차이점 강조

• 원래 질문: "아이패드 프로와 일반 아이패드의 차이는 무엇인가요?"
• 프롬프트 엔지니어링: "아이패드 프로와 일반 아이패드의 주요 차이점을 알려주세요."

 

프로그래밍과 프롬프트 엔지니어링

 

 

참고자료

• LLM 위키