오픈AI, 챗GPT의 심각한 결함 보고
내부 연구원이 직접 발표했다.
오픈AI의 연구원이 챗GPT의 심각한 결함을 발견했다.
이는 내부 연구원 요한 레버거가 최초로 발견했다. 그는 해당 결함을 2023년 4월 오픈AI에 처음 보고했으며, 11월까지 더 자세한 정보를 제공했지만, 명확한 답변을 받지 못했다. 이에 요한 레버거는 “이 오류는 2023년 11월 13일 오픈AI에 보고됐지만, 11월 15일에 ‘해당 없음’으로 마감됐다”며 “두 건의 후속 문의에 대한 답변을 받을 수 없었다. 따라서 이 사실을 대중과 공유하는 것이 최선인 것 같다”고 폭로했다.
챗GPT는 해당 결함으로 메타 데이터 및 기술 데이터와 함께 채팅 내용과 같은 데이터를 유출할 수 있다. 두 번째로는 이미지 마크다운 렌더링과 프롬프트 인젝션을 사용해 데이터를 유출할 수도 있다. 요한 레버거는 자신의 발견을 공개하기로 한 후, 틱택토 게임을 하도록 설계된 챗봇과의 전체 대화가 어떻게 제3자 URL로 추출되는지 보여주는 동영상을 공개했다.
해당 결함을 완화하기 위해 오픈AI 측은 검사를 수행했지만, 레버거는 수정 사항에 대해 “서버 하이퍼링크가 포함된 이미지 태그를 반환하면 이미지를 표시하기 이전에 챗GPT 클라이언트 측에서 유효성 검사 API를 호출한다”고 답했다. 해당 결함은 데스크톱 버전의 챗GPT에서는 구현된 것으로 보이지만, 모바일 환경에서는 여전히 유효한 것으로 전해졌다.
