AI 대화는 일기장이 아니다 | 클로드 대화가 경찰 신고로 이어진 사건, 세 회사가 밝힌 기준과 쓰는 법

미국 플로리다에서 클로드를 "일기장처럼" 쓰던 사용자가 체포됐다는 보도가 나왔습니다. 대화 속 위협 문장을 회사 쪽 안전 시스템이 걸러 냈고, 사람 검토팀이 확인한 뒤 경찰에 알렸다는 내용입니다. AI에게 속마음을 털어놓는 사람이 많은 만큼 "내 대화도 누가 읽나" 하는 걱정이 커질 만합니다.

AI 채팅은 일기장이 아니다. 앤트로픽·OpenAI·구글 모두 일부 대화를 자동 시스템이나 사람이 검토할 수 있다고 공개하고 있다. 앤트로픽과 OpenAI 문서에는 심각한 위해를 막기 위해 수사기관에 정보를 넘길 수 있다는 기준도 있다. 다만 보통의 감정 표현이 신고로 이어진다는 근거는 없다. 실명·주소를 빼고 쓰고, 위기라면 AI 대신 109 같은 상담 전화를 이용하자.

목차

1. 플로리다에서 무슨 일이 있었나

2. 자동 탐지에서 신고까지, 어떤 흐름인가

3. 세 회사가 공개한 기준

4. 무엇이 걸리고, 무엇은 괜찮나

5. 감정 기록에 AI를 계속 쓴다면

1. 플로리다에서 무슨 일이 있었나

WINK News가 인용한 체포 보고서에 따르면, 플로리다 리 카운티의 한 여성은 9월 26일 앤트로픽의 AI 서비스에 보안관 사무실을 "쏘겠다"는 취지의 문장을 썼고, 다음 날에는 새 총을 구했다는 취지의 글을 남겼습니다. 보고서는 앤트로픽의 안전 장치가 핵심 문구와 위협성 내용을 살피고, 심각한 경우 사람 검토팀으로 올린다고 적었습니다. 이 사건에서는 검토팀이 경찰에 알렸고, 경찰은 집에서 그를 연행했습니다.

보안관은 본인이 AI를 "일기장처럼" 쓴다고 말했다고 전했습니다. 그는 플로리다 법상 서면 위협 혐의를 받고 있고, 11월에 재판 일정이 잡혀 있습니다. TechSpot은 이 사건을 "챗봇에 쓰는 글은 나만 보는 일기장이 아니다"라는 사례로 소개했습니다.

주의 제가 확인한 보도에는 앤트로픽의 답변이 실리지 않았습니다. 탐지 방식이나 검토 기준의 세부는 체포 보고서와 언론 보도에 근거한 내용이라 실제와 다를 수 있습니다.

2. 자동 탐지에서 신고까지, 어떤 흐름인가

재구성한 예시 화면(보도와 각 사 공개 기준을 바탕으로 한 흐름)

이번 사건에서 보도된 흐름은 이렇습니다. 먼저 자동 시스템이 위협성 문구를 골라내고, 심각한 경우 사람이 직접 읽어 판단한 뒤 수사기관에 알렸습니다. 다른 회사도 같은 절차를 쓰는지는 공개 문서마다 설명 범위가 다릅니다. 앤트로픽 처리방침은 중대한 피해 방지 외에도 법적 절차 준수, 사기·불법 행위 대응, 약관 집행 등을 공유 사유로 들고, OpenAI는 타인에 대한 임박한 심각한 위협을 기준으로 밝혔습니다. 제 판단으로는 하루에 오가는 대화 대부분은 이 흐름에 들어가지 않습니다. 다만 들어갈 수 있다는 사실 자체는 알고 쓰는 편이 좋습니다.

3. 세 회사가 공개한 기준

회사	공개 기준	근거 문서
앤트로픽	특정인 또는 재산에 대한 중대한 피해 방지 등에 공개가 합리적으로 필요하다고 판단하면 법 집행 기관 등과 공유 가능	개인정보 처리방침(한국어판)
OpenAI	타인 위해 계획은 소규모 검토팀이 확인, 임박한 심각한 위협이면 사법 기관 전달 가능. 자해 사례는 전달하지 않는다고 밝힘	공식 블로그(2025-08-26)
구글 제미나이	인적 검토자가 일부 데이터를 검토. 검토된 채팅은 활동을 지워도 최대 3년 보관	Gemini 앱 개인 정보 보호 허브

앤트로픽 개인정보 처리방침은 "특정인 또는 재산에 대한 중대한 피해를 방지하기 위한 경우" 등에 공개가 합리적으로 필요하다고 판단하면 정부 기관이나 법 집행 기관과 개인정보를 공유할 수 있다고 적고 있습니다. 제가 열어 본 한국어판에는 2026년 7월 8일 시행으로 표시돼 있었습니다.

출처: OpenAI 공식 블로그 갈무리

OpenAI 공식 블로그는 다른 사람을 해칠 계획을 감지하면 사용 정책을 교육받은 소규모 팀이 검토하고, 타인에 대한 심각한 신체적 손상 위협이 임박했다고 판단하면 사법 기관에 전달할 수 있다고 밝혔습니다. 같은 글에서 자해 사례는 대화의 개인적 특성을 고려해 사법 기관에 넘기지 않는다고 적었습니다.

출처: 구글 Gemini 앱 개인 정보 보호 허브 갈무리

구글 제미나이 개인 정보 보호 허브는 인적 검토자가 일부 데이터를 검토하며, 검토자에게 보이면 안 되는 기밀 정보는 입력하지 말라고 안내합니다. 검토를 거친 채팅은 활동을 지워도 최대 3년 동안 남는다고 적었습니다. 다만 이 문서에서 위협 대화를 수사기관에 넘기는 기준은 따로 찾지 못했습니다.

핵심 한국 사용자의 대화가 한국 수사기관에 어떻게 전달되는지는 이번에 확인한 공식 문서에 따로 나와 있지 않았습니다. 이 부분은 단정하지 않고 넘어가겠습니다.

4. 무엇이 걸리고, 무엇은 괜찮나

공개된 기준에서 공통으로 보이는 것은 "다른 사람에 대한 심각한 위협"입니다. 예를 들어 누구를, 무엇으로, 언제 해치겠다는 식의 문장이 그런 경우일 수 있습니다. 반대로 화가 났다, 억울하다, 힘들다는 감정을 털어놓는 것만으로 신고로 이어진다는 근거는 이번에 찾지 못했습니다. 다만 화난 김에 쓰는 과장된 표현은 기계가 맥락을 놓치고 오해할 여지가 있으니 피하는 편이 낫습니다.

자해 생각이 든다면 AI보다 사람에게 먼저 연락하세요. 자살예방상담전화 109는 2024년 1월부터 자살예방 상담 번호를 하나로 통합한 번호이고, 정신건강 위기상담전화 1577-0199도 전국 어디서나 연결됩니다.

5. 감정 기록에 AI를 계속 쓴다면

• 일기장이 아니라고 생각하기: 회사 검토자가 읽을 수 있는 기록이라고 보고 씁니다.
• 다른 사람 정보 빼기: 실명·주소·직장·전화번호는 넣지 않습니다.
• 기록 설정 확인: 임시 채팅이나 기록 끄기를 써도 일정 기간 보관될 수 있습니다. 서비스별 위치는 기록 삭제·학습 끄기 글에 정리했습니다.
• 과장 대신 사실로: 있었던 일과 감정을 쓰고, 위협처럼 읽힐 수 있는 비유는 피합니다.

감정 기록용 내 규칙(복사해서 메모 앱에 저장)

[AI에 감정 기록할 때 스스로 정한 규칙]
1. 회사 검토자가 읽을 수 있는 기록이라고 생각하고 쓴다
2. 실명·주소·직장·전화번호는 넣지 않는다
3. 화가 나도 "죽이고 싶다" 같은 과장 대신 있었던 일과 감정을 쓴다
4. 정말 위험하다고 느끼면 AI 대신 109(자살예방), 1577-0199(정신건강 위기상담)에 전화한다
5. 한 달에 한 번 기록 삭제·학습 설정을 확인한다

3줄 선택 가이드 AI로 생각을 정리하는 정도라면 다른 사람 정보만 빼고 쓰면 됩니다. 매일 속마음을 길게 쓴다면 임시 채팅과 기록 설정부터 확인하세요. 위험한 생각이 계속 든다면 AI 말고 109에 먼저 전화하세요.

Q. 화난다고 쓴 것만으로도 신고되나요?

각 사가 공개한 기준은 타인에 대한 심각하고 구체적인 위협입니다. 감정 표현만으로 신고됐다는 근거는 이번에 찾지 못했습니다.

Q. 임시 채팅이면 아무도 못 보나요?

아닙니다. 예를 들어 제미나이는 임시 채팅도 72시간 보관하며 보호 목적 등에 쓴다고 안내합니다. 서비스마다 보관 기간이 다릅니다.

Q. 한국에서도 경찰에 넘어가나요?

이번에 확인한 공식 문서에는 한국 수사기관 전달 절차가 따로 적혀 있지 않았습니다. 앤트로픽 처리방침의 공유 조항은 지역을 나눠 적지 않았지만, 실제 운영은 확인하지 못했습니다.

Q. 자해 생각을 털어놔도 되나요?

OpenAI는 자해 사례를 사법 기관에 넘기지 않는다고 밝혔습니다. 그래도 위기라면 AI 대신 109나 1577-0199에 연락하세요.

3줄 핵심 요약

1. 미국에서 클로드 대화 속 위협이 자동 탐지와 사람 검토를 거쳐 경찰에 신고됐다는 보도가 나왔다.
2. 세 회사 모두 일부 대화를 검토할 수 있다고 공개했고, 앤트로픽·OpenAI 문서에는 심각한 위해 방지를 위한 수사기관 공유 기준이 있다. 제미나이 문서에서는 같은 기준을 확인하지 못했다.
3. 실명·주소는 빼고, 과장된 위협 표현은 피하고, 위기라면 109·1577-0199에 전화하자.

마치며

지금 쓰는 AI 앱의 설정에서 기록 보관과 학습 설정이 어떻게 돼 있는지 한 번 열어 보세요. 그리고 감정 기록을 자주 한다면 위의 규칙을 메모 앱에 붙여 두면 됩니다.

NEXT READ

이어서 읽어 볼 글

01  챗GPT·제미나이·클로드에 한 말, 지워도 남는 기간이 있다 · 기록 삭제·학습 끄기

#AI개인정보,#클로드,#챗GPT,#제미나이,#AI대화기록,#인적검토,#AI일기,#안전하게쓰기,#자살예방109,#AI윤리