오픈AI, 챗GPT의 심각한 결함 보고

내부 연구원이 직접 발표했다.

테크
23,285 Hypes

오픈AI의 연구원이 챗GPT의 심각한 결함을 발견했다.

이는 내부 연구원 요한 레버거가 최초로 발견했다. 그는 해당 결함을 2023년 4월 오픈AI에 처음 보고했으며, 11월까지 더 자세한 정보를 제공했지만, 명확한 답변을 받지 못했다. 이에 요한 레버거는 “이 오류는 2023년 11월 13일 오픈AI에 보고됐지만, 11월 15일에 ‘해당 없음’으로 마감됐다”며 “두 건의 후속 문의에 대한 답변을 받을 수 없었다. 따라서 이 사실을 대중과 공유하는 것이 최선인 것 같다”고 폭로했다.

챗GPT는 해당 결함으로 메타 데이터 및 기술 데이터와 함께 채팅 내용과 같은 데이터를 유출할 수 있다. 두 번째로는 이미지 마크다운 렌더링과 프롬프트 인젝션을 사용해 데이터를 유출할 수도 있다. 요한 레버거는 자신의 발견을 공개하기로 한 후, 틱택토 게임을 하도록 설계된 챗봇과의 전체 대화가 어떻게 제3자 URL로 추출되는지 보여주는 동영상을 공개했다.

해당 결함을 완화하기 위해 오픈AI 측은 검사를 수행했지만, 레버거는 수정 사항에 대해 “서버 하이퍼링크가 포함된 이미지 태그를 반환하면 이미지를 표시하기 이전에 챗GPT 클라이언트 측에서 유효성 검사 API를 호출한다”고 답했다. 해당 결함은 데스크톱 버전의 챗GPT에서는 구현된 것으로 보이지만, 모바일 환경에서는 여전히 유효한 것으로 전해졌다.

더 보기
기사 공유

이전 글

오픈AI, 올해 하반기에 동영상 생성 AI ‘소라’ 상용화한다
테크

오픈AI, 올해 하반기에 동영상 생성 AI ‘소라’ 상용화한다

영상에 들어가는 음향 생성 기능도 추가될 예정.

챗GPT가 탑재된 전기자전거가 출시된다
테크

챗GPT가 탑재된 전기자전거가 출시된다

내년 초 공개.

챗GPT의 ‘음성 대화 기능’이 무료로 제공된다
테크

챗GPT의 ‘음성 대화 기능’이 무료로 제공된다

총 다섯 개의 목소리로.


오픈AI 최고 경영자 샘 알트만, 전격 해고 조치
테크

오픈AI 최고 경영자 샘 알트만, 전격 해고 조치

챗GPT의 미래는?

비평가들이 꼽은 2023년 최고, 최악의 넷플릭스 쇼 11개
엔터테인먼트

비평가들이 꼽은 2023년 최고, 최악의 넷플릭스 쇼 11개

각각 1위는?

디즈니 ‘미키마우스’의 저작권이 무료로 전환된다?
엔터테인먼트

디즈니 ‘미키마우스’의 저작권이 무료로 전환된다?

누구나 쓸 수 있는 걸까?

니들스 2023 FW ‘스페셜 릴리즈’ 컬렉션 살펴보기
패션

니들스 2023 FW ‘스페셜 릴리즈’ 컬렉션 살펴보기

패턴의 활용이 돋보인다.

넷플릭스, ‘던전밥’ 공식 예고편 공개
엔터테인먼트

넷플릭스, ‘던전밥’ 공식 예고편 공개

이들에게 던전 속 마물은 식재료일 뿐.

블럼스 2024 봄, 여름 컬렉션 살펴보기
패션

블럼스 2024 봄, 여름 컬렉션 살펴보기

미리 준비하는 봄.


크리스마스 선물 베스트 & 워스트 7
엔터테인먼트 

크리스마스 선물 베스트 & 워스트 7

해외여행 항공권, 만년필, 캠핑 부츠 등.

W 호텔 오사카가 선보인 ‘W 프레젠트’ 행사 살펴보기
음악 

W 호텔 오사카가 선보인 ‘W 프레젠트’ 행사 살펴보기

호텔 투어는 덤.

‘시속 1200km/h 꿈의 열차’ 버진 하이퍼루프 원이 도산했다
테크

‘시속 1200km/h 꿈의 열차’ 버진 하이퍼루프 원이 도산했다

아직 먼 미래?

놓쳐선 안 될 12월 네 번째 주 출시 아이템 8
패션 

놓쳐선 안 될 12월 네 번째 주 출시 아이템 8

슈슈/통부터 와코 마리아까지.

MCU 스타일의 닌텐도 애니메이션 영화가 제작된다?
엔터테인먼트

MCU 스타일의 닌텐도 애니메이션 영화가 제작된다?

링크와 슈퍼 마리오의 협업?

More ▾
 
뉴스레터를 구독해 최신 뉴스를 놓치지 마세요

본 뉴스레터 구독 신청에 따라 자사의 개인정보수집 관련 이용약관에 동의한 것으로 간주됩니다.