ChatGPT 보안 괜찮나요? 회사 데이터 올려도 되는지 AI LLM 개발자가 확인해드립니다

AI를 쓰고 싶은데, 데이터가 걱정돼서 못 쓰고 있다면, 그 걱정이 맞습니다. 지금 당장은요.

매출 현황, 고객 정보, 원가 구조, 거래처 단가. ChatGPT에 올리면 생산성이 올라가는 건 알겠는데, 그 데이터가 어디로 가는지 모르니까 선뜻 못 합니다. 실제로 삼성전자도 그걸 몰라서 사고가 났습니다.

이 글에서는 AI 도구를 쓸 때 데이터가 실제로 어디로 가는지를 구조 단위로 설명합니다. 그리고 그 구조 자체를 다르게 설계한 inline AI가 어떻게 이 문제를 해결하는지 설명합니다.

삼성전자가 ChatGPT를 전사 금지한 이유

2023년, 삼성전자 직원들이 ChatGPT에 반도체 관련 내부 코드와 회의 내용을 입력한 사실이 알려졌습니다. 이후 삼성전자는 사내 생성형 AI 서비스 이용을 전사 금지했습니다.

핵심은 이겁니다. 직원들이 몰랐던 게 아닙니다. "학습에 쓰인다"는 사실을 몰랐거나, 대화창에 입력한 데이터가 외부 서버로 전송된다는 구조를 실감하지 못했던 겁니다. 삼성전자만의 이야기가 아닙니다. 엑셀로 내부 데이터를 다루는 모든 조직에 해당하는 문제입니다.

ChatGPT에 파일 올리면 실제로 무슨 일이 벌어지나

ChatGPT, Gemini, Claude 같은 클라우드 AI에 파일을 업로드하면, 그 파일 내용은 해당 회사의 서버로 전송됩니다. 이건 선택 사항이 아니라, 클라우드 AI의 작동 원리 자체입니다.

이후 처리 방식은 계정과 설정에 따라 다릅니다. 일반 계정에서는 대화 내용이 모델 개선에 활용될 수 있습니다. 유료 계정이나 기업용 플랜은 학습 활용을 제한하는 정책이 적용됩니다. 하지만 어떤 경우에도 바뀌지 않는 한 가지가 있습니다. 데이터가 외부 서버로 전송된다는 사실입니다.

"학습에 쓰이지 않는다"는 말이 의미하는 것은 모델 훈련에 활용하지 않는다는 것입니다. 데이터가 외부 서버로 가지 않는다는 뜻이 아닙니다. 이 두 가지를 혼동하면 안 됩니다.

이런 데이터가 새면 회사가 망합니다

엑셀로 다루는 업무 데이터 중 외부로 나가면 안 되는 것들의 범위는 생각보다 훨씬 넓습니다.

재무·경영 민감 정보: 월별 매출 현황, 거래처별 계약 단가, 마진율, 영업 파이프라인. 경쟁사 손에 들어가면 직접적인 피해로 이어집니다.

개인정보: 고객 명단, 연락처, 구매 이력, 직원 인사·급여 정보. 개인정보보호법상 허가되지 않은 외부 서비스에 입력하는 것 자체가 법적 위반이 될 수 있습니다. 몰랐다고 해서 면책이 되지 않습니다.

전문직 클라이언트 데이터: 컨설팅, PE/IB, 법무팀이 다루는 클라이언트 재무 모델, 계약서, 소송 관련 자료. 기밀 유지 의무 위반은 계약 해지, 손해배상으로 이어질 수 있습니다.

공공기관·금융기관 데이터: 법령이나 내부 규정으로 데이터의 외부 전송 자체가 금지된 경우가 많습니다. 이 경우 클라우드 AI 사용 자체가 규정 위반입니다.

inline AI가 데이터를 다루는 방식: 구조 자체가 다릅니다

inline AI는 클라우드 서비스가 아닙니다. 내 컴퓨터에 설치해서 실행하는 데스크톱 프로그램입니다. ChatGPT처럼 파일을 업로드하는 구조가 아닙니다. 데이터 처리 구조가 근본적으로 다릅니다.

파일은 내 컴퓨터를 벗어나지 않습니다

.xlsx 파일 자체는 항상 내 PC 안에만 있습니다. AI가 데이터를 봐야 할 때는 파일을 통째로 전송하는 것이 아니라, 해당 셀의 텍스트 값만 뽑아서 전달합니다. 원본 파일이 외부로 나가지 않습니다.

AI에게 전달되는 데이터는 작업에 필요한 것만 선별됩니다

현재 작업과 직접 관련된 셀 값과 구조만 전달됩니다. 파일 전체가 아니라, AI가 지금 수행하는 작업에 필요한 범위의 데이터만 선택적으로 추출해서 전달합니다. 나머지는 내 PC 안에 그대로 있습니다.

대화 컨텍스트는 지능적으로 관리됩니다. 대화가 길어지면 오래된 내용을 핵심 요약본으로 압축해서 관리합니다. 같은 데이터가 반복 전송되지 않으며, 맥락은 유지됩니다.

불필요한 시스템 정보는 처음부터 제외됩니다. 윈도우 내부 식별번호(hwnd, pid) 같은 시스템 정보는 AI 추론에 필요하지 않으므로 코드 단에서 걸러냅니다. 열린 문서 이름, 시트 목록 등 작업에 꼭 필요한 정보만 전달됩니다.

AI가 접근할 수 있는 파일 범위를 사용자가 직접 정합니다. 처음에는 AI가 접근할 수 있는 파일이 0개인 상태에서 시작합니다. 사용자가 명시적으로 허용한 폴더와 파일만 AI가 볼 수 있으며, 허용하지 않은 경로에 접근하려 하면 즉시 차단됩니다.

외부 AI에는 필요한 컨텍스트만 직접 전달됩니다

핵심은 "외부 AI로 아무것도 가지 않는다"가 아닙니다. 파일 전체가 올라가지 않고, 작업에 필요한 최소 컨텍스트만 전달된다는 점입니다.
inline AI 앱은 사용자가 요청한 작업을 수행하는 데 필요한 셀 값, 문서 일부, 요청 내용만 선별해 OpenAI, Anthropic 같은 외부 AI 모델로 직접 전달합니다.

이 구조 덕분에 두 가지가 가능합니다.
첫째, 원본 파일과 전체 데이터셋은 내 PC 안에 남습니다.
둘째, 모델 추론을 위해 전달된 최소 컨텍스트에는 OpenAI, Anthropic 양쪽 모두와 체결한 ZDR(Zero Data Retention) 계약이 적용됩니다. 전달된 컨텍스트는 처리 후 저장되거나 학습에 활용되지 않습니다.

대화 기록은 내 컴퓨터에만 저장됩니다

AI와 나눈 대화, AI의 응답, 작업 로그 등 모든 세션 기록은 내 PC의 로컬 파일로만 저장됩니다. inline AI 서버나 AI 회사 서버에 별도로 보관되지 않습니다. 앱을 삭제하면 모든 기록이 함께 사라집니다.

엑셀 편집은 격리된 환경에서 실행됩니다

AI가 "이 셀을 이렇게 바꿔라"고 판단하면, 실제 편집은 내 PC 안의 격리된 실행 환경(샌드박스)에서 수행됩니다. 이 환경은 인터넷 접속이 차단되어 있어서, 편집 중인 데이터가 외부로 나갈 수 없습니다.

이 분들은 지금 당장 알아야 합니다

데이터 보안이 단순한 걱정이 아니라 실제 업무 요건이 되는 포지션들입니다.

컨설팅·PE/IB 애널리스트: 클라이언트 재무 데이터, 비공개 투자 정보, M&A 관련 수치를 다루는 업무. 데이터 보안은 계약상 의무이기도 합니다.

법무팀: 계약서, 소송 관련 문서, 합의 내용이 포함된 스프레드시트. 기밀 유지 의무가 있는 데이터입니다.

의료 행정: 환자 정보가 포함된 데이터. 개인정보보호법 외에 의료법상 별도 요건이 있습니다.

사내 보안 정책상 클라우드 업로드가 제한된 팀: 보안 정책으로 외부 AI 서비스 사용 자체가 금지되어 있거나, 내부 데이터의 외부 전송이 제한된 환경.

클라이언트에게 데이터 보안을 보장해야 하는 포지션: "우리 회사 AI 도구는 데이터를 이렇게 처리합니다"를 설명해야 하는 상황.

팀 도입 제안 전에 IT·보안 담당자에게 이걸 먼저 보여주세요

inline AI 도입을 조직에 제안할 때 IT·보안 담당자가 반드시 물어보는 질문들입니다. 미리 준비해두면 검토 시간이 절반으로 줄어듭니다.

Q1. 회사 데이터가 어디에 저장되나요?

모든 작업 데이터는 사용자 PC에만 저장됩니다. 엑셀 파일, 대화 기록, AI 응답, 도구 실행 결과 등은 전부 로컬 파일로만 저장됩니다. inline AI 서버나 AI 회사 서버에 대화 기록이 별도로 보관되지 않습니다. 세션을 삭제하면 해당 폴더가 통째로 영구 삭제됩니다.

Q2. 로그인은 어떻게 하고, 토큰은 안전한가요?

업계 표준 인증 프로토콜(OAuth 2.0 + PKCE)을 사용합니다. 일회용 인증 코드는 사용 즉시 폐기되고 유효 시간은 10분입니다. 로그인 토큰은 메모리에만 보관되어 앱을 끄면 사라집니다. 자동 로그인용 토큰은 Windows 암호화 금고(Windows DPAPI)에 저장됩니다. 기업 싱글사인온(SSO) 연동도 지원합니다.

Q3. AI에게 보낸 데이터가 학습에 쓰이지 않나요?

inline AI는 작업 수행에 필요한 최소 컨텍스트를 OpenAI, Anthropic 같은 외부 AI 모델로 직접 전달합니다. 여기서 중요한 점은 전송 자체가 0이라는 뜻이 아니라, 파일 전체 업로드가 아니며 전달된 컨텍스트에 ZDR 계약이 적용된다는 점입니다. 처리 후 저장되거나 학습에 활용되지 않습니다.

Q4. AI가 직원 PC의 아무 파일이나 볼 수 있는 건 아닌가요?

처음에는 AI가 접근할 수 있는 파일이 0개인 상태에서 시작합니다. 사용자가 폴더를 직접 추가해야 AI가 해당 폴더 안의 파일만 볼 수 있습니다. 허용 범위 밖 경로에 접근하려 하면 즉시 차단됩니다. AI가 추가 폴더 접근이 필요하면 사용자에게 허락을 요청해야 합니다.

Q5. AI가 엑셀을 마음대로 수정할 수 있나요?

기본 설정에서는 수정 전 반드시 사용자 승인이 필요합니다. 파일 수정, 이동, 삭제 등 위험한 작업은 사용자 승인 없이 실행되지 않습니다. 승인 화면에서 1회 허용 / 거부 / 전체 허용 / 사유 입력 후 거부 중 선택할 수 있습니다. 엑셀 편집은 인터넷 접속이 차단된 격리된 실행 환경(샌드박스)에서 수행됩니다.

Q6. 통신은 암호화되나요?

모든 외부 통신은 HTTPS(TLS) 암호화됩니다. inline AI 서버, 인증 서버, 업데이트 서버 등 모든 통신이 HTTPS로 처리됩니다. 기업 프록시·방화벽 환경을 위해 시스템 CA 인증서를 자동 인식하는 로직이 내장되어 있어, 사내 SSL 검사 장비와의 호환성을 고려한 설계입니다.

Q7. 앱 업데이트는 안전한가요?

코드 서명된 업데이트만 설치됩니다. Windows 빌드는 SHA-256 코드 서명이 적용되어 있으며, 업데이트는 HTTPS를 통해 배포됩니다. 서명 검증이 자동으로 수행되어 변조된 파일은 설치되지 않습니다.

자주 묻는 질문

Q. ZDR 계약이 있어도 데이터가 전송되는 건 아닌가요?

AI 추론을 위해 최소한의 컨텍스트가 전달되는 것은 맞습니다. ZDR은 그 전달된 데이터가 처리 후 서버에 저장되지 않고 즉시 삭제된다는 계약입니다. 파일 전체가 업로드되는 방식이 아니라, 작업에 필요한 최소 범위만 전달되며 그것도 남지 않는 구조입니다.

Q. inline AI에서 실제로 어떤 데이터가 AI 모델에 전달되나요?

현재 작업과 관련된 셀의 텍스트 값, 시트 구조, 요청 내용 등 작업 수행에 필요한 정보만 선별해서 전달됩니다. 파일 전체가 서버로 올라가지 않습니다.

Q. 회사 보안 정책상 외부 AI 서비스 사용이 제한되어 있는데 inline AI도 해당되나요?

inline AI는 파일을 외부에 업로드하지 않는 로컬 처리 방식이므로, 클라우드 AI 서비스 제한 정책과는 다른 카테고리에 해당합니다. inline AI는 파일을 외부에 업로드하지 않고 로컬에서 처리하는 방식이며, ZDR 계약이 적용된 환경에서 AI 모델을 사용합니다. 보안 검토가 필요하다면 IT 체크리스트 항목을 활용해 검토하시거나, inline AI 측에 별도 문의하시면 자세한 자료를 제공해드릴 수 있습니다.

Q. 개인정보가 포함된 데이터도 처리할 수 있나요?

가능합니다. inline AI는 데이터가 외부 서버에 저장되지 않는 로컬 처리 구조입니다. OpenAI·Anthropic 모두와 ZDR 계약이 체결되어 있어 전달된 데이터도 처리 후 즉시 삭제되며 학습에 활용되지 않습니다. 기밀 유지 의무가 있는 법무 데이터, 환자 정보, 고객 명단 등 민감한 데이터도 안전하게 처리할 수 있습니다.

Q. 금융기관이나 정부기관 수준의 보안이 필요한 환경에서도 쓸 수 있나요?

온프레미스 형태의 도입을 지원합니다. AI 모델을 포함한 모든 인프라를 기관 내부에 구축하는 방식으로, 데이터가 기관 외부로 전혀 나가지 않는 에어갭 환경이 가능합니다. 정부 R&D 담당 기관인 IITP(정보통신기획평가원) 등 공공기관에도 온프레미스 형태로 도입되고 있습니다.

Q. inline AI가 사용하는 AI 모델은 무엇인가요?

Claude(Anthropic), GPT(OpenAI) 계열 모델을 사용합니다. 두 회사 모두와 ZDR 계약이 체결되어 있으며, OpenAI와는 DPA(데이터 처리 약정) 계약도 체결했습니다.

보안 때문에 AI를 못 쓰고 있었다면, 이제는 이유가 없습니다

"쓰고 싶은데 데이터가 걱정돼서"라는 이유로 AI 도입을 미뤄왔다면, inline AI는 그 이유를 구조적으로 없앤 도구입니다.

파일은 내 컴퓨터 밖을 나가지 않습니다. AI에게 전달되는 정보는 최소한이고, 전달된 것도 처리 후 즉시 삭제됩니다. 편집은 인터넷이 차단된 격리 환경에서만 실행됩니다. OpenAI, Anthropic 양쪽 모두와 ZDR 계약이 체결되어 있습니다.

데이터 보안 때문에 AI를 포기하지 않아도 됩니다. 구조가 다른 도구를 쓰면 됩니다.

팀에 AI 도입을 제안해야 하는 포지션이라면, 위의 IT 체크리스트를 그대로 가져가서 보안 담당자에게 보여주세요.