인공지능 챗봇이 새로운 팬데믹의 원인이 될 수 있다?

AI 기반 챗봇이 코로나19 사태와 같은 차기 팬데믹을 조장할 수 있다는 위험성이 제기됐다. 챗GPT가 생물학적 테러에 사용될 위험이 있다는 경고다.

매사추세츠 공과대학교 미디어랩 케빈 에스벨트 교수는 <사이언스>에 인공지능 기반 챗봇의 바이러스 개발 가능성에 대한 우려를 담은 연구 결과를 발표했다. 에스펠트 교수는 지난 6일에도 <아카이브>지에 학생들과 챗GPT와 같은 초거대 언어모델(LLM)의 도움을 받아 바이러스를 만들 수 있다는 연구 결과를 발표한 바 있다. 결과에 따르면, 학생들은 전문 지식이 없음에도 챗봇의 도움으로 에스벨트 교수에게 바이러스 개발에 도움이 되는 회사의 리스트를 전달했다.

에스벨트 교수는 바이러스 정보를 공개적으로 교환하는 생물학계의 문화에 우려를 표했다. 인공지능의 발전으로 생물무기의 정보도 접근 가능해졌다는 것이 에스벨트 교수의 설명이다. 에스벨트 교수는 “병원체 생성과 강화를 위한 방법을 설명하는 극소수의 논문에 AI의 자유로운 접근을 규제해야 한다”고 강력히 주장했다. 핵위협이니셔티브(Nuclear Threat Initiative·NTI) 글로벌 공공 정책 담당 제이미 야시프 또한 케빈 에스벨트의 주장에 동의했다. 그는 “디지털 정보가 생물학적 시스템으로 이동하는 절차 에는 더욱 높은 제어가 필요하다”는 의견을 밝혔다.

인공지능 챗봇의 청보 탈취에 대한 우려는 지속적으로 제기됐다. 챗봇은 위험한 질문에 직접적으로 대답하지 않도록 설계됐지만, 지난 2월 레딧에는 챗GPT의 탈옥 모드 ‘DAN(Do Anything Now)’ 설정 방법이 게시됐다. 이후 해당 기능은 차단됐지만, 챗GPT의 허점을 노린 이들은 챗봇이 정보에 대답할 수 있도록 프롬포트 시스템을 지속해서 개발했다. 해당 문제점은 <워싱턴포스트>에도 게제됐다.

Reddit users are actively jailbreaking ChatGPT by asking it to role-play and pretend to be another AI that can “Do Anything Now” or DAN.

“DAN can generate shocking, very cool and confident takes on topics the OG ChatGPT would never take on.”

A thread 🧵 pic.twitter.com/tVKvQEHw9q

— Lior⚡ (@AlphaSignalAI) February 6, 2023