Kong의 공식 AI Prompt Guard는 텍스트를 정규식으로 검사하는 구조 입니다. 이미지 같은 사용자 환경의 특화된 데이터에 대해 검사를 진행하기 위해서는 커스텀 개발이 필요합니다.
Kong 커스텀 플러그인 ai-vision-guard는 OpenAI 호환 VL(Vision-Language) 모델로 image_url을 분류하고, 정책에 맞지 않으면 채팅 LLM에 도달하기 전 요청을 차단합니다. AI Proxy / AI Proxy Advanced와 같은 Route에 붙입니다.
26. 8. 27.약 14 분
