ChatGPT 계정 탈취 취약점 발견 사례

Parameter Labs가 ChatGPT의 HTML 미리보기(이전 Canvas) 기능에서 계정을 탈취할 수 있는 보안 취약점을 발견했습니다. 복잡한 공격 체인을 통해 다른 사용자의 비공개 데이터를 빼내거나 대신 행동할 수 있었으며, OpenAI는 이를 수정하고 5,000달러 버그 바운티를 지급했습니다.

핵심 내용

• ChatGPT가 사용하는 MathLive 라이브러리의 가상 키보드 기능이 iframe에서 postMessage로 호출 가능했고, 메시지 수신 코드가 innerHTML을 사용해 임의 HTML 삽입이 가능했습니다
• innerHTML 자체는 스크립트를 직접 실행하지 않지만, 샌드박스 제한 없는 새 iframe을 주입할 수 있었습니다
• OpenAI의 CSP 규칙이 인라인 스크립트를 차단했지만, 허용된 도메인 중 YouTube의 oEmbed 엔드포인트를 통해 JavaScript를 반사시켜 실행할 수 있었습니다
• 최종적으로 공유 URL을 통해 로그인한 다른 사용자의 비공개 데이터를 빼내거나 그들의 계정으로 행동을 취할 수 있었습니다
• 심각한 취약점임에도 버그 바운티가 5,000달러에 그쳤다는 지적이 있습니다

써먹을 수 있는 점

• AI 도구의 사용자 생성 콘텐츠 미리보기 기능을 샌드박싱할 때, postMessage 같은 iframe 통신 경로를 엄격히 검증해야 합니다
• innerHTML 사용 시 신뢰할 수 없는 소스의 메시지를 받지 않도록 메시지 출처 검증(origin check)이 필수입니다
• CSP 허용 도메인 목록에 oEmbed 같은 반사형 엔드포인트가 있는 서비스가 포함되어 있지 않은지 점검해 볼 수 있습니다
• AI 서비스에 사용자 생성 링크를 공유받을 때는 주의가 필요하며, 의심스러운 공유 URL은 열기 전에 확인하는 습관이 도움이 됩니다

보안 취약점 제보 경험이 있으신 분 계신가요?