【AI의 위험성】챗GPT에서 정보 유출이 발생하는 이유와, 지금 바로 할 수 있는 대책·설정 방법을 해설

ChatGPT에서 정보 유출이 발생하는 리스크

ChatGPT에는 정보 취급에 관한 여러 주의점이 존재합니다.

입력한 정보가 유출된다

ChatGPT에 입력한 텍스트는 기본적으로 OpenAI의 서버에 전송・저장되며, AI 학습에 사용될 가능성이 있습니다. 사내 기밀 정보나 계약서를 그대로 붙여넣는 작업은 보안상 특히 리스크가 높은 행위입니다.

계정 정보가 유출된다

피싱 사기나 비밀번호 재사용으로 인해 계정이 불법 접근될 위험이 있습니다. 2023년에는 10만 건이 넘는 ChatGPT 계정 정보가 다크웹 상에서 유통되고 있었다고 보고되었으며, 계정이 탈취될 경우 과거 기록이 모두 제3자에게 열람될 가능성이 있습니다.

채팅 기록이 유출된다

2023년 3월, OpenAI는 시스템 장애로 인해 일부 사용자의 대화 제목과 결제 정보가 다른 사용자에게 표시되고 있었음을 공식적으로 인정했습니다. 이용자 측의 문제뿐만 아니라, 서비스 자체의 구조적인 위험성이 존재합니다.

ChatGPT에서 정보 유출이 발생한 사례

실제로 발생한 정보 유출 사례를 확인해 둡시다.

Samsung(삼성) 사례 (2023년)

한국의 삼성전자에서는, 엔지니어가 사내 기밀 코드나 미팅 의사록을 ChatGPT에 입력하는 사례가 잇따랐습니다. 입력된 데이터가 AI 학습 데이터로 사용될 가능성이 있기 때문에, 사내에서는 일시적으로 ChatGPT 사용을 금지하는 조치가 취해졌습니다.

OpenAI 자체의 시스템 장애 (2023년 3월)

OpenAI가 공식적으로 인정한 인시던트로, Redis(데이터베이스) 버그가 원인이 되어, 일부 사용자의 대화 제목・이름・이메일 주소・결제 정보 하위 4자리 등이 다른 사용자에게 표시되는 상태가 발생했습니다.

이러한 사례들은 "사용 방식의 문제"뿐만 아니라, "서비스 자체의 구조적 리스크"가 존재한다는 것을 보여줍니다.

ChatGPT에 의한 정보 유출 대책

설정 변경부터 조직적인 규칙 수립까지, 방법을 소개합니다.

옵트아웃 설정하기

채팅 기록의 저장과 AI 학습 이용을 무효화하는 설정입니다. 가장 먼저 확인해야 할 기본 대책입니다.

• ChatGPT에 로그인하고, 왼쪽 하단의 「설정」 열기

• 「데이터 컨트롤」 탭 선택

• 「모든 사람을 위해 모델 개선하기」 토글을 오프로 전환

API 버전 활용하기

API를 통한 이용에서는 입력 데이터가 모델 학습에 사용되지 않는다고 OpenAI가 명시하고 있습니다.

• platform.openai.com에서 API 키 발행하기

• 자사 시스템에서 API 엔드포인트로 요청 전송

• API 이용 규정에서 데이터 정책 확인

DLP 도입하기

DLP(Data Loss Prevention)는 기밀 정보의 외부 전송을 자동 감지・차단하는 기능입니다.

• Microsoft Purview 등의 DLP 도구 선정・계약

• 보호 대상 정보의 분류 정책 정의

• 브라우저를 통한 전송을 모니터링하는 설정 활성화

• 알람 대응 플로우를 사내 규칙과 함께 정비

법인용 플랜 이용하기

「ChatGPT Enterprise」에서는 입력 데이터의 학습 이용이 계약상 금지되며, SOC 2 준거의 보안이 적용됩니다.

• OpenAI 공식 사이트에서 Enterprise 플랜 문의하기

• 이용 인원・요건을 청취 시트에 기입하여 신청

• 관리자 대시보드에서 사용자 관리・SSO 설정

입력 정보 모니터링하기

프록시 서버를 경유하여 ChatGPT로의 통신을 로그에 기록하고, 비정상적인 전송을 감지하는 체제를 정비합니다.

• 사내 네트워크 상에 프록시 서버 설정

• ChatGPT 도메인으로의 액세스를 로그에 기록

• SIEM 도구로 로그를 정기적으로 리뷰

사내 이용 규칙 만들기

기술적 대책만큼이나 인적 운용 규칙의 정비가 중요합니다. 최소한, 다음 항목을 「AI 이용 가이드라인」으로 문서화하는 것을 권장합니다.

• 입력 금지 정보 카테고리 (고객 정보・재무 데이터・미공개 제품 사양 등)
• 이용 가능한 AI 서비스 화이트리스트
• 생성 콘텐츠를 그대로 공개・제출하는 것의 금지
• 인시던트 발생 시 보고 플로우

ChatGPT의 채팅 기록을 복구하는 방법

ChatGPT의 옵트아웃 설정이나 브라우저의 잘못된 조작으로 인해, 필요한 채팅 기록이 사라지는 경우가 있습니다. 그러한 상황에서 선택지 중 하나가 되는 것이 데이터 복구 도구의 활용입니다.

Tenorshare 4DDiG는 Windows 및 Mac 환경에서 삭제된 파일이나 데이터를 복구할 수 있는 도구로 알려져 있습니다. 브라우저 캐시나 임시 파일에 남은 기록 데이터에 대한 액세스, 과거 백업으로부터의 복원 등, 일반적인 방법으로는 꺼낼 수 없는 데이터를 구출할 수 있는 가능성이 있습니다.

완전한 복구를 보장하는 것은 아니지만, 중요한 대화를 잃어버렸을 때의 수단으로 알아둘 가치가 있는 도구입니다.

구체적인 조작 절차는 다음과 같습니다.

• Tenorshare 4DDiG를 실행하고, ChatGPT에서 저장한 파일이 존재하는 하드 디스크나 파티션을 선택하여 스캔합니다.

  

• 잠시 기다리면, 삭제한 파일이 표시됩니다. 복구 전에, 사진, 비디오, 영화, 오디오, 음악, 문서 등의 파일을 더블 클릭하여 미리보기가 가능합니다.

  

• 복구하고 싶은 파일을 선택하고, 저장 위치를 선택합니다. 예를 들어 OneDrive 또는 Google Drive 등의 클라우드 디스크에 저장하는 것을 검토해 주세요.

  

주의:

※데이터 덮어쓰기를 방지하기 위해, 원래 저장 위치와 다른 드라이브나, OneDrive・Google 드라이브 등의 클라우드 스토리지를 저장처로 선택하는 것을 권장합니다.

ChatGPT의 정보 유출에 관한 FAQ

ChatGPT 보안에 관해 자주 있는 질문을 정리했습니다.

ChatGPT에 입력해서는 안 되는 정보는 무엇인가요?

이름・주소・마이넘버 등의 개인 식별 정보, 사내 미공개 정보, 비밀번호, 의료・법률 관련 기밀 서류 등은 입력을 피해 주세요.

옵트아웃 설정을 했더라도, 입력 자체가 OpenAI 서버에 전송된다는 사실은 변하지 않습니다. 「애초에 입력하지 않는다」는 판단이 가장 확실합니다.

ChatGPT가 위험한 이유는 무엇인가요?

주로 3가지가 있습니다. 입력 데이터가 AI 학습에 이용될 가능성, 시스템 장애에 따른 데이터 노출 리스크, 계정 불법 접근에 따른 기록 열람 리스크입니다.

「위험하다」라기보다 「구조를 이해하지 않고 사용하면 위험하다」가 정확한 표현이며, 올바른 지식에 기반한 사용법 습득이 중요합니다.

챗GPT에 얼굴 사진을 보내는 것은 위험한가요?

얼굴 사진은 개인을 특정할 수 있는 생체 정보에 해당하므로, 전송에는 신중해야 합니다. 텍스트와 마찬가지로 OpenAI 서버에 전송・저장된다는 점은 변함이 없으며, 업무 목적으로의 전송은 피할 것을 강력히 권장합니다.

요약

챗GPT는 기본 설정 그대로라면 입력 데이터가 학습에 사용될 가능성이 있으며, 정보 유출이나 시스템 장애로 인한 리스크도 존재합니다. 먼저 해야 할 것은 옵트아웃 설정 확인과 입력 정보의 선택입니다.

또한, 실수로 삭제해 버린 중요한 기록에는 Tenorshare 4DDiG와 같은 데이터 복구 도구가 도움이 됩니다. AI를 안전하게 활용하기 위한 준비를, 이 기사를 계기로 정비해 보시기 바랍니다.