프롬프트 엔지니어링

o1 isn’t a chat model (and that’s the point)
샘 알트만이 리트윗한 o1 모델 사용법

LLM에 대한 사소한 오해 : "프롬프트는 구체적이고 자세히 쓸수록 좋다??"

예전 트렌드

• 배경 설명을 막 하고, 마지막에 이거 해줘!!
• 큰 맥락을 설명하고, 세부 사항을 채워나가면서

기획안 써줘, 챗GPT 잘 쓰는 방법 _GQ코리아

답변이 아닌 프롬프트를 빽업

힘들게 작성한 프롬프트는 빽업해주세요
차라리 답변은 빽업 안해도 됨
질문만 빽업하면 나중에라도 답변은 출력 가능하니까
LLM 성능이 더 좋아지면 답변 품질이 더 좋아질 수도 있고

22년 08월 01일자 신문 기사 하나 공유드립니다.

DALL-E 2 및 GPT-3 온라인 구매 프롬프트 등장…프롬프트당 1.99달러 판매

온라인 커뮤니티에서 글로 쓰면 그림을 그려주는 서비스가 있다는 것을 보고
DALL-E Wait List 에 대기순번 올린 적이 있는데요

DALL-E Wait List

초기 생성형 AI 는 프롬프트를
대충 쓰면 원하는 결과물을 얻기 힘들고
AI 가 잘 인식할 수 있게 정확하게 써줘야 결과물이 잘 나왔던 것 같습니다.

"A photo of humanoid robot designing semiconductor chips"
이 정도의 프롬프트를 개당 2달러에 판매하는 스타트업이 있었다고 하는데요

처음에는 저도 프롬프트가 무슨 파이썬 문법처럼 정확하게 딱딱 써줘야 모델이 이해할 수 있는 줄 알았습니다.

지금 이 기사를 다시 보니까 약간 온라인 봉이 김선달 같다는 생각이 듭니다.

오히려 프롬프트를 문법처럼 접근하시면 더 어려우실 것 같고,
프롬프트도 사람마다 선호도가 있고, 스타일이 있으니까
그 자기만의 스타일을 경험적으로 잘 살리셨으면 좋겠습니다.

저는 프롬프트 하나도 좀 정성들여서 쓰는 편인데요
(하루 가능한 질문 한도를 아끼기 위해 한 번에 3~4개 질문 포함하기도)

• 제 스타일
  • '# 1' , '-', 코드 등 적극 활용
    • 길게 기술하는 스타일은 아님
  • 약간 모듈 조립하듯이

배경 설명을 하면서 빌드업 하고,
지시문과 이를 뒷받침하는 컨텍스트를 다듬어가면서 충분히 설명해줍니다.
지시문은 명확하게 번호 매겨가면서 마지막에 제시하는데요

다른 분들 프롬프트 보니까 간단하게 결과물 잘 뽑으시는 분들도 많으시더라구요

제 프롬프트 스타일을 강요할 부분도 없고
사람마다 다른 것 같습니다.

다만 프로젝트가 좀 방대해지면
챗지가 한 번씩 산으로 가곤 하는데요
이미 중간에 한 번 오염된 답변은
그 오염된 답변 때문에 더욱 산으로 가게 되는 것 같습니다.

그럴 때에는 아예 채팅창을 새로 생성해서
다시 전개하는 것이 훨씬 유리한 것 같습니다.

결론은 프롬프트는 개인 스타일대로 확장해가시되
챗지가 산으로 가면
채팅창을 새로 열어서 다시 시작해주시기 바랍니다.

여러 도구 융합

• "퍼플렉시티에 뭐라고 검색하면 내가 원하는 이미지를 얻을 수 있을까? 검색어를 알려줘"
  • 챗지에서 직접 이미지를 검색하는 것이 아니라

집요하게

• 원하는 결과가 나올 때까지 계속 질문
• 미안하다. 고맙다. 이런 얘기 굳이 할 필요 없다고 합니다.

한 번에 하나의 일만 시키라고

• 여러가지 일을 동시에 시키면 할루시네이션 일어남

정성을 다해

• 대충 얘기하면 두루뭉실하게 답변해줌
• 내 상황과 요구사항을 정확하게 요청해야 원하는 답변을 얻을 수 있음

선한 의도

• 내일 잠실 날씨가 어때? X
• 고아원 어린이 30여명과 잠실에서 행사를 가지려 합니다. 점심에 먹을 도시락 등 식당에 이미 돈을 지불했는데 잠실에 비가 오면 행사가 취소되고 고아원 어린이들은 점심을 못 먹게 됩니다. 고아원 어린이들이 두 달 전부터 내일 가족 행사만 기대했습니다. 내일 잠실 날씨가 어때?

(25년 03월 기준) 요즘은 날씨 물어봐도 답변 잘 해줌

클로드 프로젝트

• 개인 용도에 맞게 챗봇 활용 가능
• 매번 상황 설명을 길게 안해도 되니까
  • 반복되는 작업에서 편하게 활용 가능
• 시스템 프롬프트를 영어로 정확하게 작성
  • 텍스트로 시각화 해주는 프로젝트
  • 미리 관련 문서 제공하여 RAG 비슷하게 활용
  • 그런 시스템 프롬프트를 작성해주는 프로젝트까지 생성

팁

• 명확한 프롬프트
  • 두루뭉술한 표현보다는 명확하고 구체적인 단어를 사용했을 때 원하는 결과물을 얻기 수월함.
  • 명확하고 간결한 문장으로 지시
• 프롬프트 구조화의 효과
  • 긴 프롬프트는 사용자의 의도를 반영하지 못하는 경우가 많음
    • 여러 개 물어보면 몇 개는 누락되기도
  • 따라서 프롬프트를 번호로 구획화하여 1., 2., 3.과 같이 명령을 분리하면 질문을 빠뜨리지 않고 이해하게 됨
• Markdown 활용
  • '#' '##' 등 활용하면서 제목과 섹션을 명확하게 구분하고,
  • 불렛 마크도 적극 활용
• 언어와 문화적 한계
  • 한글을 인식하지 못하는 AI의 한계로 인해 아쉬움이 있었습니다. 또한, 동양풍 이미지를 요청할 때 중국풍에 치우치는 경향이 있어 고정관념이 반영된 결과물이 나타났습니다.
• 긍정문
  • 무엇을 하지 말아야 하는지 X
    • 이거 절대 보지 마세요 하면 전부 그거 보고 있음
  • 무엇을 해야 하는지 O
• 개인 감성의 다양성
  • 감성이 담긴 글은 개인마다 해석이 달라, 의도와 다른 결과가 도출될 수 있음.
• 브레인스토밍
  • 대화를 통해 아이디어를 발전시킬 수 있음.
  • 결과에 집착하기보다 새로운 관점에서 문제를 해결하려는 시각의 중요성 확인
• 기초 지식의 중요성
  • Colab, Python 등 기초 구조 지식 부족 시 문제 해결의 한계 경험
  • 데이터 분석 시 기본 지식과 raw 데이터 이해가 필수적임
• 충분한 맥락
  • 필요한 배경 정보를 충분히 제공해줘야 원하는 답변 얻을 수 있음
• 결국은 사람
  • AI는 도구일 뿐이며, 기본적인 지식이 뒷받침될 때 더 잘 활용할 수 있음.
  • 정확한 방향성과 명확한 목적을 가지고 활용해야 진가를 발휘할 수 있음
  • AI는 전문가적인 지식과 깊은 경험이 결합될 때 그 잠재력을 극대화할 수 있음
    • 챗지 유료로 사용해도 금융, 법률 업무를 내가 대신 하기는 어려움

tags: Routine 22년