본문 바로가기
728x90
SMALL

최신IT 정보90

ChatGPT 탈옥?? 원문: Using GPT-Eliezer against ChatGPT JailBreaking 이 글은 원래 Aligned AI의 블로그에 게시된 것으로, 공동 창립자이자 공동 작업자인 레베카 고먼이 아이디어를 내고 디자인한 것입니다. 아래 제안 중 많은 부분이 SQL 인젝션 스타일 공격에 의존하고 있어 ChatGPT가 사용자 프롬프트와 사용자 프롬프트에 대한 지침을 혼동할 수 있습니다. 이 방법도 효과가 있지만, 궁극적으로는 사용자 프롬프트가 사용자 프롬프트처럼 강력하게 입력되도록 하기 위해 필요한 경우 GPT를 유지함으로써 이러한 공격을 피할 수 있어야 합니다. 좀 더 임시적인 방법은 사용자 프롬프트의 시작과 끝으로 사용할 임의의 시퀀스를 생성하는 것일 수 있습니다. 일반 대중이 OpenAI의 새로운 A.. 2023. 5. 20.
반응형
LIST

티스토리툴바