728x90 SMALL 프롬프트엔지니어링2 초거대AI를 괴롭히는 적대적 프롬프팅에 대해 알고계신가요? 초거대 AI는 Prompt와 밀접한 관계가 있음은 이전부터 계속 설명해 왔습니다. 어떤 prompt를 기반으로 학습하고 튜닝했느냐에 따라 모델의 성능을 좌지우지 하게 됩니다. 초거대 AI를 개발하는데 있어서 적대적 프롬프팅으로 많은 어려움이 생겨나고 있습니다. 이번에는 적대적 프롬프팅에 대해 포스팅하고자 합니다 적대적 프롬프팅 설명 프롬프트 해킹은 입력 또는 프롬프트를 조작하여 LLM의 취약점을 악용하는 공격 유형을 설명하는 데 사용되는 용어입니다. 일반적으로 소프트웨어 취약점을 악용하는 기존 해킹과 달리 프롬프트 해킹은 의도하지 않은 작업을 수행하도록 LLM을 속이기 위해 신중하게 프롬프트를 제작하는 데 의존합니다. 프롬프트 해킹에는 프롬프트 인젝션, 프롬프트 유출, 탈옥의 세 가지 유형이 있습니다. .. 2023. 5. 20. 이전 1 2 다음 반응형 LIST
