ChatGPT Enterprise 보안만으로 기밀문서를 다룰 수 있을까: 온디바이스 AI와의 차이

ChatGPT Enterprise 보안만으로 기밀문서를 다룰 수 있을까

결론부터 말하면, ChatGPT Enterprise 보안만으로는 외부 전송이 막힌 기밀문서 환경을 충족하기 어렵다. ChatGPT Enterprise 보안은 입력 데이터를 모델 학습에 사용하지 않고 암호화와 관리자 통제를 제공하지만, 문서 처리가 OpenAI의 클라우드 서버에서 이뤄진다는 구조는 그대로다. “학습에 안 쓴다”는 것과 “문서가 회사 밖으로 나가지 않는다”는 것은 서로 다른 문제다. 규제나 망분리 정책상 문서를 외부 서버에 둘 수 없는 직군이라면, 보안 옵션의 많고 적음을 따지기보다 문서를 기기 안에서만 처리하는 온디바이스 방식이 구조적으로 맞다. 기업용 ChatGPT 대안을 찾을 때 1차 기준은 기능 비교가 아니라 “우리 문서가 외부로 전송되어도 되는가”여야 한다.

ChatGPT Enterprise가 실제로 보장하는 것

ChatGPT Enterprise는 기업 도입을 위해 일반 소비자 버전과 구분되는 통제 장치를 제공한다. 공개된 범위에서 정리하면 다음과 같다.

• 입력한 대화와 문서 데이터를 모델 학습에 사용하지 않는다.
• 전송 구간과 저장 데이터에 암호화를 적용한다.
• SSO, 도메인 인증, 사용자 및 권한 관리 같은 관리자 통제 기능을 제공한다.
• SOC 2 같은 외부 보안 인증을 확보하고 있다.

이 항목들은 실질적인 강점이고, 소비자용 무료 버전과는 분명히 다른 수준의 관리 체계다. 다만 이 보장의 범위는 “OpenAI가 데이터를 어떻게 다루는가”에 한정된다. 데이터가 OpenAI 인프라에 도달한 뒤의 처리 방식에 대한 약속이지, 데이터가 회사 밖으로 나가지 않게 한다는 의미는 아니다.

“학습에 안 쓴다”와 “회사 밖으로 안 나간다”는 다른 문제

보안 검토에서 가장 자주 뒤섞이는 두 가지가 학습 사용 여부와 데이터 처리 위치다. 둘은 별개의 축이다.

학습 사용 여부는 “내 문서가 다음 모델에 반영되어 다른 사용자에게 노출될 수 있는가”의 문제다. ChatGPT Enterprise는 이 부분을 학습 미사용으로 막는다.

데이터 처리 위치는 “내 문서가 물리적으로 어디에서 처리되는가”의 문제다. ChatGPT Enterprise에서 문서를 요약하거나 질문에 답하게 하려면 그 문서 내용이 OpenAI 클라우드 서버로 전송되어 처리된다. 학습에 쓰지 않더라도 전송과 외부 처리라는 사실은 남는다.

규제와 망분리 관점: 전송 자체가 막히는 경우

업종에 따라서는 외부 전송 여부가 곧 도입 가능 여부를 결정한다. 신용정보를 다루는 금융, 환자 정보를 다루는 의료, 내부망과 외부망을 분리해 운영하는 공공 및 기업 보안 환경에서는 데이터가 외부 서버로 나간다는 사실 자체가 정책 위반이 될 수 있다.

이런 환경에서는 암호화 수준이나 학습 미사용 여부가 아무리 높아도 “외부 전송”이라는 행위 자체가 통제 대상이다. 망분리가 적용된 내부망에서는 외부 클라우드로 향하는 연결이 차단되어 있어, 클라우드 기반 ChatGPT는 기능과 무관하게 구조적으로 사용할 수 없는 경우가 많다. 망분리 요건이 왜 클라우드 AI와 충돌하는지는 망분리란 무엇인가에서 더 자세히 다룬다.

온디바이스 방식은 이 문제를 어디서 푸는가

온디바이스 문서 AI는 데이터 처리 위치 자체를 바꿔 이 문제를 푼다. 온디바이스란 문서 처리를 외부 서버가 아니라 사용자 기기 안에서만 수행하는 방식을 말한다. 문서를 클라우드로 보내 처리하는 대신, 사용자 PC 안에서만 처리한다.

Apioni는 온디바이스 문서 AI 데스크톱 앱으로, 문서 인덱싱과 검색, 요약, 작성을 사용자 기기의 로컬 엔진에서 수행한다. 동작 흐름은 폴더를 연결하면 그 안의 문서를 인덱싱하고, 질문에 대해 근거가 된 출처를 함께 제시하며 답하는 출처 기반 RAG(검색증강생성) 방식이다. 검색은 키워드 기반 BM25와 의미 기반 검색을 결합한 하이브리드 방식(RRF, Reciprocal Rank Fusion)을 쓴다. 여기서 BM25는 키워드 빈도 기반의 전통적 검색 기법이고, 의미 검색은 문장의 뜻이 가까운 문서를 찾는 임베딩 기반 기법이다. 모델 추론과 임베딩은 모두 기기 안의 로컬 엔진(Ollama)에서 돌아가며, 8GB RAM 기준 정본 모델은 4B급(qwen3:4b-instruct)이다.

한국어 정확도는 자체 한국어 게이트(ko-v2)로 보정한다. 자체 실측에서 ko-v2를 적용한 경우 보정 없는 naive 대비 정답률이 14~18%p 높았다(표본과 조건이 한정된 내부 측정값이다). 양자화(q4_K_M) 과정에서 생길 수 있는 수치 손상은 수치충실 게이트로 걸러 답이 원문 숫자와 어긋나지 않도록 한다.

핵심 차이는 데이터 경로다. 클라우드 방식은 문서가 외부 서버를 경유하지만, 온디바이스 방식에서는 문서 내용이 localhost를 벗어나지 않는다.

정말 안 나가는지 확인하는 방법

온디바이스라는 주장이 의미를 가지려면 사용자가 직접 검증할 수 있어야 한다. Apioni는 검증 가능성을 전제로 설계되어 있다.

• 문서 처리는 로컬 엔진에서만 이뤄지며, 문서 내용은 기기 밖으로 전송되지 않는다.
• Apioni가 인터넷으로 여는 연결은 두 가지뿐이다. 하나는 첫 실행 때 엔진과 모델을 받는 1회 다운로드, 다른 하나는 실행 시 apioni.com 버전 확인이다. 두 연결 모두 사용자의 문서 내용을 담지 않는다.
• 별도의 사용 행태 수집(텔레메트리)이 없다.
• 앱 안에 네트워크 자가검증 기능이 있어, 어떤 연결이 열리는지 사용자가 확인할 수 있다.
• lsof나 패킷 캡처 같은 운영체제 기본 도구로 실제 열린 네트워크 연결을 직접 점검할 수 있다.

보안 분야에서 “유출 불가”나 “절대 안전” 같은 단정은 검증할 수 없는 약속이다. Apioni가 제시하는 근거는 보장이 아니라 재현 가능성이다. 위 두 연결을 빼면 문서 내용을 주고받는 통신이 없다는 사실을 보안팀이 외부 설명에 의존하지 않고 스스로 확인할 수 있다는 점이 온디바이스 방식의 신뢰 근거다. 이 검증을 실제로 어떻게 수행하는지는 온디바이스 AI가 데이터를 내보내지 않는다는 걸 검증하는 법에서 다룬다.

항목별 비교

어느 쪽을 골라야 하나

선택의 1차 분기는 단순하다. “우리 문서를 외부 서버로 전송하는 것이 정책상 허용되는가”이다.

외부 전송이 허용되는 조직이라면 ChatGPT Enterprise는 충분히 유효한 선택지다. 관리 기능과 모델 성능, 협업 도구를 종합적으로 활용할 수 있다.

외부 전송이 허용되지 않는 직군, 즉 법률과 회계세무, 금융, 공공, 의료연구, 기업보안처럼 기밀문서를 클라우드에 올릴 수 없는 환경이라면 판단이 달라진다. 이 경우 보안 옵션의 많고 적음과 무관하게, 문서를 기기 안에서만 처리하는 온디바이스 방식이 요건에 구조적으로 부합한다. 구독과 일회성 구매의 총비용 차이는 AI 도구 구독 vs 일회성 구매 TCO 비교에서 따로 정리했다.

온디바이스 방식의 한계도 분명히 해두는 편이 낫다. 8GB RAM 환경에서는 4B급 모델까지가 현실적인 선이라, 클라우드의 초대형 모델보다 크기가 작고 추론 속도도 느리다. 웹의 최신 정보를 실시간으로 끌어와야 하는 작업은 여전히 클라우드 쪽이 유리하다. 온디바이스의 강점은 가진 문서를 외부로 보내지 않고 출처와 함께 처리하는 데 있고, 만능 도구를 자처하지는 않는다.

자주 묻는 질문

ChatGPT Enterprise는 입력 데이터를 학습에 쓰나?

쓰지 않는다. ChatGPT Enterprise는 입력한 대화와 문서를 모델 학습에 사용하지 않는다. 다만 학습 사용 여부와 별개로, 문서 처리는 OpenAI 클라우드 서버에서 이뤄지므로 문서 내용이 외부로 전송되는 구조는 그대로 유지된다.

ChatGPT Enterprise면 망분리 환경에서 써도 되나?

외부 전송을 전제로 동작하기 때문에 내부망 정책과 충돌할 수 있다. 망분리가 적용된 환경에서는 외부 클라우드 연결이 차단되는 경우가 많아 사용이 어려울 수 있으며, 도입 전 조직 보안팀의 검토가 필요하다.

Apioni는 인터넷이 아예 없어도 되나?

문서 처리 자체는 오프라인에서 동작한다. 다만 첫 실행 때 엔진과 모델을 받는 1회 다운로드가 필요하고, 실행 시 apioni.com 버전 확인 연결이 한 건 열린다. 이 둘 외에 문서 내용을 주고받는 네트워크 통신은 없다.

데이터가 안 나간다는 걸 보안팀이 검증할 수 있나?

가능하다. Apioni는 앱 내 네트워크 자가검증 기능을 제공하며, lsof 같은 운영체제 기본 도구로 실제 열린 연결을 직접 확인할 수 있다. 제공사의 설명에만 의존하지 않고 사용자가 스스로 점검할 수 있도록 설계되어 있다.

비용 구조는 어떻게 다른가?

ChatGPT Enterprise는 사용자당 구독 방식이고, Apioni는 ₩39,000 일회성 구매로 구독 없이 회사 단위 라이선스에 기기 수 제한이 없다. 14일 무료 트라이얼은 카드와 계정 등록 없이 사용할 수 있다. macOS(서명·공증)와 Windows를 지원하며 apioni.com/dl에서 받는다.

직접 검증해보기

외부에 올릴 수 없는 문서를 다루는 환경이라면, 설명을 읽는 것보다 직접 확인하는 편이 빠르다. Apioni는 카드 등록 없이 14일 무료 트라이얼을 제공하며, 보안팀이 네트워크 동작을 직접 점검하면서 도입 여부를 판단할 수 있다. Apioni 다운로드에서 받아 시작하거나, 구매 페이지에서 라이선스 정보를 확인할 수 있다.