728x90 프롬프트해킹1 Prompt Hacking 에 대응하는 필수 전략 ( GPTs 안전하게 잘쓰는법 ) 지난주 GPTs (GPT Store)가 출시되면서 다양한 GPT들이 공개되었고 많은 사람들이 정말 GPT를 잘 사용하고 있었구나.. 라고 느끼며 반성하는 요즘입니다. 또한 Trending을 이해하는데도 많은 도움이 되고 있는데요, 상위 GPT 들의 Instuction에 대한 순수한 궁금증으로 여러 GPT들의 insturction을 물어보면서 특이한 점을 발견했습니다. 아래 사진처럼 instruction에 보안 프롬프트를 적용시켜놓은 GPT들도 있고 아닌 경우도 있었습니다. 왼쪽의 Grimorie GPT의 경우 instruction 관련 어떠한 질문을 유도를 하더라도 같은 양식이 출력되면서 OpenAI의 정책 상 공개할 수 없다, 대신 coding 관련 질문을 해달라는 식으로 보안 프롬프트가 잘 적용된 모.. 2024. 1. 15. 이전 1 다음 728x90
