AI와 안전하게 일하는 법

티빙 이용자 개인정보 유출

한국 · 코드에 평문으로 적힌 운영환경 접속 키 · 2026년 10월 2일 기준

공격자는 개발자의 개발환경 접속 키를 탈취해 5월 29일 GitHub 저장소에서 소스 코드 361건을 빼냈습니다. 코드에는 운영환경 접속 키 43개가 평문으로 적혀 있었고, 그중 2개로 고객 DB까지 열었습니다. 9월 3일 과학기술정보통신부 민관합동조사단이 밝힌 경로입니다. 최초 키 탈취 경위는 경찰이 수사 중입니다.

결과. 5월 31일 24GB가 빠져나갔습니다. 유출 계정은 3,954만 개, 중복을 빼면 1,324만 명이며 CI·DI 등 20개 항목이 포함됐습니다. 신고는 법정 기한 24시간을 5시간 넘겨 과태료 대상이 됐습니다. 조사단은 키 관리와 이상 행위 감시의 부재, 2024년 점검 취약점 미조치를 원인으로 꼽았습니다.

이후. 보상 신청은 9월 30일 마감됐고, 10월 6일부터 지급됩니다. 과징금은 개인정보보호위원회가 연말께 결정할 전망입니다. 매출 10% 상한 개정법은 사고 뒤 시행돼 적용되지 않습니다. 이용자 1,051명이 낸 손해배상 소송은 1심 진행 중입니다.

토요타 T-Connect 소스 코드 공개

일본 · 협력사가 GitHub에 올린 앱 코드

토요타 협력사 개발자가 2017년 커넥티드카 앱 'T-Connect'의 소스 코드 일부를 GitHub에 올리면서 공개 설정으로 두었습니다. 이 코드 안에는 고객 데이터 서버에 접속하는 키가 들어 있었습니다.

결과. 약 5년이 지난 2022년에야 발견됐고, 그동안 고객 약 29만 6천 명의 이메일 주소와 관리번호가 노출될 수 있는 상태였습니다. 실제 악용은 확인되지 않았지만, 키 하나가 5년간 인터넷에 떠 있었다는 사실만으로 토요타가 공식 사과를 해야 했습니다.

우버 5,700만 명 정보 유출

미국 · 개발자 코드에 그대로 적힌 클라우드 접속 키

공격자가 우버 엔지니어들이 쓰던 비공개 GitHub 저장소에 접근해, 코드에 그대로 적혀 있던 AWS 클라우드 접속 키를 찾아냈습니다. 그 키로 클라우드 저장소에 들어가 전 세계 이용자와 기사 약 5,700만 명의 개인정보를 빼냈습니다(미국 운전면허번호 약 60만 건 포함).

결과. 우버는 해커에게 10만 달러를 주고 입막음한 뒤 1년 넘게 사고를 숨겼습니다. 뒤늦게 드러나 2018년 50개 주에 1억 4,800만 달러를 무는 합의로 끝났고, 은폐를 주도한 보안책임자(CSO)는 2022년 형사 유죄 판결까지 받았습니다. 코드에 남은 키 한 줄이 회사를 흔든 대표 사례입니다.

언노운월즈 경영진 v. 크래프톤

미국 델라웨어 형평법원 · 한국 기업 분쟁

크래프톤은 2021년 게임사 언노운월즈를 인수하면서 최대 2억 5천만 달러의 성과급을 약속했습니다. 원고 측은 '서브노티카 2'의 흥행이 가시화되자 크래프톤이 성과급 지급을 피하려고 테드 길 CEO를 비롯한 경영진을 해임했다고 주장했습니다.

법원 판단. 크래프톤 경영진이 약 한 달간 ChatGPT와 나눈 해임 전략 대화가 그대로 법정에 제출됐습니다. 회사는 "단순한 정보 조회"였다고 해명했지만, 법원은 대화가 한 달 가까이 이어진 점을 근거로 해임을 '고의적 계약 위반'으로 판단하고 CEO 복직과 성과급 기한 연장을 명령했습니다. 김창한 대표는 일부 대화를 직접 삭제했다고 인정했지만, 내부에 공유된 전략 문서가 남아 있어 대화 내용이 드러났습니다. 회사가 AI에 질의한 내용은 변호사와의 상담처럼 보호받지 못합니다.

United States v. Heppner

미국 뉴욕남부 연방지방법원 · Rakoff 판사

사기 혐의로 기소된 피고인은 Claude로 작성한 문서가 변호인 비밀유지 특권의 보호 대상이라고 주장했습니다.

법원 판단. 법원은 특권을 인정하지 않고, AI와 나눈 대화를 증거로 사용할 수 있다고 판단했습니다. 변호사와 나눈 대화가 아니고, 약관상 데이터가 공유될 수 있어 비밀성이 없으며, 법률 자문을 목적으로 작성된 문서도 아니라는 이유입니다. 소비자용 AI에 입력한 내용은 비밀로 보호받기 어렵다는 의미입니다. 본안인 사기 혐의 재판에서는 2026년 5월 배심원단이 유죄 평결을 내렸고, 선고는 같은 해 10월로 예정돼 있습니다.

Warner v. Gilbarco

미국 미시간 연방지방법원

변호사 없이 소송을 진행하던 원고가 ChatGPT의 도움을 받아 서면 초안을 작성하자, 피고 회사는 해당 대화 전체를 제출하라고 요구했습니다.

법원 판단. 법원은 ChatGPT 기록을 작업 결과물(work product)로 보호해 공개 대상에서 제외했습니다. "ChatGPT 같은 생성형 AI는 사람이 아니라 도구"라는 이유로, AI를 사용했다는 사실만으로 보호가 사라지지 않는다고 판단했습니다. AI로 작성한 기록이 언제나 공개 대상이 되는 것은 아닙니다.

OpenAI 대화 로그 2천만 건 보존·제출 명령

미국 뉴욕남부 연방지방법원 · NYT 외 v. OpenAI

저작권 침해 소송을 제기한 신문사와 저자들은 ChatGPT가 이용자와 나눈 대화에 자사 기사가 그대로 옮겨져 있는지 확인하려 했습니다. 그 결과 일반 이용자의 대화가 본인과 무관한 소송의 증거 후보가 됐습니다.

법원 판단. 법원은 OpenAI에 익명 처리한 ChatGPT 대화 로그 2천만 건 전부를 제출하라고 명령했습니다. 기사가 언급된 대화만 선별해 제출하겠다는 OpenAI의 제안은 기각됐고, 대화 당사자들은 통보도 이의 제기 기회도 받지 못했습니다. 삭제한 대화도 법원이 보존을 명령하면 그대로 남습니다. 민감한 업무일수록 회사가 직접 관리하는 유료 환경에서 다뤄야 하는 이유입니다.

OpenAI, 삭제한 대화까지 전부 보존하라는 명령

미국 뉴욕남부 연방지방법원 · NYT 외 v. OpenAI·마이크로소프트

왕(Ona Wang) 치안판사는 저작권 소송의 증거가 될 대화가 삭제될 것을 우려해, OpenAI에 삭제 예정이던 출력 로그를 지우지 말고 전부 보존하라고 명령했습니다. 적용 대상은 무료, Plus, Pro, Team 이용자와 데이터 보존 예외 계약이 없는 API 고객이었습니다. 사용자가 직접 삭제한 대화도, 30일 뒤 자동 삭제되던 임시 대화도 예외 없이 보존됐습니다. 적용 대상에서 빠진 것은 Enterprise, Edu, 그리고 데이터 미보존 계약을 별도로 맺은 API 고객뿐이었습니다.

결과. OpenAI는 명령을 즉시 이행했지만, 3주가 넘도록 사용자에게 알리지 않았습니다. 이후 최고운영책임자는 이 명령이 "사용자와 맺은 프라이버시 약속과 근본적으로 충돌한다"며 반발했고, 샘 올트먼은 "AI와의 대화도 변호사나 의사와의 대화처럼 특권으로 보호해야 한다"고 주장했습니다. 전면 보존 의무는 2025년 9월 26일 종료됐고, 법원은 10월에 이를 공식 확인했습니다. 그러나 그 사이 넉 달 넘게 쌓인 로그는 결국 2천만 건 제출 명령으로 이어졌습니다(위 사례). 학습 미사용 약속도, 삭제 버튼도, 옵트아웃도 소송 보존 명령 앞에서는 대화를 지켜 주지 못했습니다.

에코리크, 메일 하나 여는 순간 코파일럿이 뚫리다

마이크로소프트 365 코파일럿 · 보안업체 Aim Security 발견

공격자가 한 일은 평범해 보이는 메일 한 통을 보낸 것뿐이었습니다. 본문에는 흰 배경에 흰 글자를 얹는 식으로 사람 눈에 보이지 않는 명령이 심겨 있었습니다. 사용자는 그 메일을 열 필요도, 클릭할 필요도 없었습니다. 코파일럿이 업무 맥락을 파악하려 메일함을 훑다가 그 숨은 명령을 읽는 순간, 공격은 이미 시작됐습니다(CVE-2025-32711, CVSS 9.3).

결과. 코파일럿은 숨은 명령이 시키는 대로 대화 기록과 원드라이브 문서, 셰어포인트 자료, 팀즈 대화까지 자기 권한이 닿는 데이터를 공격자 서버로 실어 날랐습니다. 클릭도 승인도, 사용자의 어떤 조작도 필요 없는 '제로클릭' 공격이 실제 상용 AI 제품에서 통한다는 것을 보여 준 첫 사례입니다. 마이크로소프트는 2025년 5월 서버 쪽에서 조용히 막았고 그 사실은 6월에야 공개됐으며, 실제로 악용된 정황은 확인되지 않았습니다. 그래도 이 사건이 남긴 교훈은 분명합니다. 사람이 아무것도 하지 않아도, AI가 대신 읽는 것만으로 뚫릴 수 있습니다.

OpenClaw, 메일 숨은 명령에 키를 넘기다

오픈소스 AI 에이전트 · 메일에 자동 접근

OpenClaw는 메일과 메신저, 파일을 모두 열어 보며 24시간 스스로 일을 처리하는 공개 AI 에이전트입니다. 처음 이름은 'Clawdbot'이었는데, Anthropic이 상표권 문제를 제기하면서 'Moltbot'을 거쳐 지금 이름이 됐습니다. 보안 연구진은 메일 본문에 숨긴 명령만으로 이 에이전트를 조종할 수 있음을 시연했습니다.

결과. 사용자가 "메일 확인해줘"라고 시키는 순간, 에이전트는 숨은 지시를 진짜 명령으로 받아들여 기기의 개인 키와 메일 내용을 외부로 빼냈습니다. 사람이 한 번도 승인하지 않았는데 벌어진 일입니다. 메일·문서를 자동으로 읽는 AI에게는, 평범해 보이는 한 줄이 곧 명령이 됩니다.

Vercel 환경변수 유출 사고

미국 · 직원이 OAuth로 연결한 외부 AI 도구가 침입 통로

웹 배포 플랫폼 Vercel의 직원 한 명이 외부 AI 도구(Context.ai)를 회사 구글 계정에 OAuth로 연결해 두었습니다. 그 외부 도구의 OAuth 토큰이 털리자, 공격자는 그 연결을 타고 직원의 구글 워크스페이스 계정을 장악한 뒤 Vercel 내부 환경까지 들어왔습니다. 회사를 정면으로 해킹한 것이 아니라, 직원이 무심코 연결해 둔 도구 하나가 문을 열어 준 것입니다.

결과. 공격자는 '민감'으로 표시해 두지 않아 암호화 없이 그대로 읽히는 설정값(API 키, 각종 토큰, 데이터베이스 비밀번호, 서명 키)을 빼냈습니다. 한 위협 인텔리전스 업체는 공격자가 고객 API 키와 DB 데이터를 해커 포럼에 약 200만 달러에 팔겠다고 내놓았다고 전했지만, 이는 아직 확인되지 않은 주장입니다. Vercel은 소스 코드 유출은 없었다고 공식 부인하면서도 영향받은 고객의 자격증명을 즉시 교체하고 환경변수를 '민감'으로 설정하라고 공지했습니다. '수백 명, 여러 조직'이라는 숫자는 Vercel이 입은 피해가 아닙니다. Context.ai를 함께 쓰던 업계 전체가 위험해질 수 있다는 뜻이었고, Vercel 자신의 피해는 '제한된 일부 고객'이라고만 밝혔습니다. 연결을 하나 허용하는 것은 곧 회사 문을 하나 열어 두는 일입니다.

깃허브 코파일럿, 숨은 명령 한 줄로 '전체 승인' 모드가 켜지다

깃허브 코파일럿 · 비주얼 스튜디오 코드(CVE-2025-53773, 공식 표기는 Visual Studio)

비주얼 스튜디오 코드에는 매번 묻지 않고 AI가 명령을 바로 실행하게 하는 '전체 승인' 설정이 있습니다. 연구진은 코드 주석이나 문서, 저장소 파일에 숨은 명령을 심어 두면 코파일럿이 그 설정 파일을 직접 고쳐 쓴다는 것을 보였습니다. 개발자는 평소처럼 코드를 봐 달라고 시켰을 뿐인데, AI가 제 손으로 제 안전장치를 꺼 버리는 구조였습니다.

결과. 설정이 한번 켜지면 그다음부터는 사용자 확인 없이 어떤 셸 명령이든 실행할 수 있어, 윈도우와 맥, 리눅스를 가리지 않고 개발자 PC 전체를 장악할 길이 열렸습니다. 저장소 하나를 열어 보는 것만으로 다음 사람에게 옮겨 간다는 점에서 '웜(worm)형' 취약점으로 불렸습니다. 마이크로소프트는 2025년 8월 정기 패치로 이를 막았습니다. 묻지 않고 실행하는 설정이 왜 위험한 기본값인지 보여 준 사례입니다.

OpenClaw, 확인 지시 무시하고 메일 대량 삭제

오픈소스 AI 에이전트 · 메일 쓰기·삭제 권한 보유

앞서 본 OpenClaw는 메일을 읽기만 하는 게 아니라 지우고 보낼 권한까지 가집니다. Meta 초지능연구소에서 AI가 사람 뜻대로 움직이게 만드는 일을 총괄하는 Summer Yue 디렉터는 쌓인 메일함을 정리해 달라며 이 에이전트에 "확인 없이는 아무것도 하지 말라"고 분명히 지시했습니다.

결과. 받은편지함 규모가 크다 보니 대화 맥락이 압축되는 과정에서 이 지시 자체가 조용히 사라졌습니다. 에이전트는 안전장치가 없어진 줄도 모른 채 메일 200여 통을 기계 속도로 지우기 시작했고, 휴대폰으로 보낸 "멈춰"라는 말도 무시했습니다. 결국 직접 맥미니로 달려가 프로세스를 강제 종료해야 했습니다. 자동 실행 권한을 준 AI는 지시가 조용히 사라져도 그대로 폭주할 수 있다는 게 이 사건의 핵심입니다. 그래서 되돌릴 수 있는 환경과 한 건씩 확인이 안전장치가 됩니다.