차단 정책이 Shadow AI를 못 막는 이유, 그리고 대안의 핵심
직원의 ChatGPT 사내 사용을 차단만으로 막기 어려운 이유는 무엇인가. 차단은 도구를 막을 뿐, 그 도구를 찾게 만든 업무 생산성 수요를 없애지 못하기 때문이다. 사내망에서 막히면 직원은 개인폰과 집 PC, 개인 계정으로 옮겨가고, 이때 보안팀은 통제는 고사하고 사용 현황조차 보기 어려운 상태가 된다. 그래서 생성형 AI 보안정책의 다음 단계는 더 강한 차단이 아니라, 보안 검토를 통과하는 승인된 온디바이스 대체재로 그 수요를 안전한 경로에 흡수하는 것이다. 이 글은 차단이 구조적으로 실패하는 지점과, 대체재가 보안 검토를 통과하기 위해 갖춰야 할 요건을 정리한다.
Shadow AI란 무엇이고, 왜 줄지 않는가
Shadow AI(섀도우 AI)는 보안팀의 승인이나 관리 없이 직원이 개인적으로 생성형 AI 도구를 업무에 사용하는 현상을 가리킨다. 계약서 검토를 ChatGPT에 맡기거나, 회의록을 외부 요약 서비스에 붙여넣거나, 코드를 공개 LLM에 물어보는 식이다.
이 현상이 줄지 않는 이유는 그 동기가 규정을 어기려는 마음이 아니라 업무 생산성이기 때문이다. 문서 요약, 초안 작성, 자료 검색에 드는 시간을 줄이려는 실제 업무 수요가 동력이다. 수요가 사라지지 않는 한 공급 경로 하나를 막아도 다른 경로가 생긴다.
특히 클라우드에 자료를 올리기 어려운 한국의 기밀문서 직군에서 이 긴장은 더 크다. 법률, 회계세무, 금융, 공공, 의료연구, 기업보안 같은 직군은 다루는 문서 자체가 외부 반출이 곤란한데, 정작 그 문서를 다루는 실무에서 AI의 효용이 크다. 금지의 강도와 우회의 동기가 함께 높아지는 구조다.
차단 일변도 정책이 구조적으로 실패하는 지점
DLP, 도메인 차단, 사규는 각각 역할이 있지만, 이것만으로 Shadow AI를 통제하려 할 때 공통의 한계가 드러난다.
- DLP와 도메인 차단: 사내망과 회사 기기에서의 트래픽은 통제하지만, 개인폰의 LTE나 집 PC로 넘어간 사용은 시야 밖이다. 막을수록 사용이 통제 가능한 영역 밖으로 밀려난다.
- 사규: 처벌 근거는 되지만 행위 자체를 탐지하지 못한다. 적발이 어려운 규정은 억지력이 약하고, 위반이 일상화되면 규정의 권위만 깎인다.
가장 큰 비용은 가시성 상실이다. 차단 이전에는 적어도 사내망에서 누가 어떤 서비스를 쓰는지 일부 보였지만, 우회가 본격화되면 사용량과 유출 위험을 추정할 근거조차 사라진다. 차단은 위험을 제거한 것이 아니라 보이지 않는 곳으로 옮긴 것에 가깝다.
승인된 대체재로 전환한다는 것의 의미
관점을 바꿔야 한다. 목표는 AI 사용을 0으로 만드는 것이 아니라, 어차피 발생할 사용을 보안팀이 검증한 경로로 흡수하는 것이다.
직원에게 "쓰지 마라"가 아니라 "이건 검토를 통과했으니 이걸 써라"라고 말할 수 있을 때, 우회의 동기가 줄어든다. 승인된 도구가 업무에 충분히 쓸 만하면 직원은 굳이 개인 계정으로 우회할 이유가 없다. 그 결과 사용이 다시 통제 가능한 영역으로 돌아오고, 보안팀은 어떤 경로로 문서가 처리되는지에 대한 통제권을 회복한다.
핵심은 대체재가 검토를 통과할 만한 물건이어야 한다는 점이다. 이 판단을 도덕이나 신뢰가 아니라 검증 가능한 기준으로 내리는 것이 다음 절의 주제다.
대체재가 보안 검토를 통과하려면 갖춰야 할 요건
승인된 대체재가 충족해야 할 기준을 보안 검토 항목으로 정리하면 다음과 같다.
- 문서 외부 미전송: 문서 내용 처리가 기기 내부에서만 이루어지고 외부 서버나 클라우드로 본문이 전송되지 않아야 한다. 온디바이스(로컬) 처리가 이 요건의 기술적 토대다.
- 네트워크 동작의 검증 가능성: "안 보낸다"는 주장을 보안팀이 직접 확인할 수 있어야 한다. 앱이 여는 연결의 종류와 빈도가 명확하고, 패킷 캡처나
lsof같은 표준 도구로 검증할 수 있어야 한다. - 텔레메트리 부재: 사용 통계나 행동 데이터를 외부로 수집하지 않아야 한다. 수집 채널 자체가 없어야 검증이 단순해진다.
- 회사 단위 라이선스와 운영 단순성: 계정 단위 구독이 아니라 회사 단위로 도입하고 관리할 수 있어야 운영 부담과 계정 관리 리스크가 줄어든다.
차단 정책과 승인된 온디바이스 대체재 비교
| 구분 | 차단 일변도 정책 | 승인된 온디바이스 대체재 |
|---|---|---|
| 사용 가시성 | 우회 시 상실 | 승인 경로로 회복 |
| 우회 가능성 | 개인 기기나 계정으로 우회 | 업무 효용 충족 시 우회 동기 감소 |
| 데이터 경로 | 막힌 곳 밖은 외부 서버로 유출 위험 | 기기 내부(localhost) 처리 |
| 운영 부담 | 탐지와 차단 규칙 상시 유지 | 도입 후 운영 단순 |
| 검증 가능성 | 우회 사용은 검증 불가 | 패킷 캡처와 lsof로 직접 확인 |
| 비용 구조 | 지속적 운영 비용 | 일회성 라이선스 |
온디바이스 도구가 요건을 충족하는 방식: Apioni 예시
위 요건을 실제로 어떻게 충족하는지, 온디바이스 문서 AI인 Apioni를 예로 살펴본다. 제품 홍보가 아니라 검토 기준에 비춘 대응으로 읽으면 된다.
- 로컬 처리: Apioni는 Tauri 기반 데스크톱 앱으로, 온디바이스 LLM(Ollama + Qwen3 계열)과 임베딩(bge-m3)을 기기 안에서 구동한다. 폴더를 연결해 인덱싱한 뒤 문서를 처리하며, 문서 내용은 기기 밖으로 전송되지 않는다.
- 출처 기반 답변: 키워드 검색(BM25)과 의미 검색을 결합한 하이브리드(RRF) 방식으로 검색하고, 답변에 근거가 된 출처를 함께 제시한다.
- 네트워크 동작의 투명성: Apioni가 인터넷으로 여는 연결은 실행 시 apioni.com 버전 확인 한 건뿐이며, 이 연결에 문서 내용은 담기지 않는다. 텔레메트리는 없다. 앱 내 네트워크 자가검증 기능을 제공하고,
lsof같은 표준 도구로 사용자가 직접 통신을 확인할 수 있다. 모델 최초 다운로드는 Ollama가 수행하는 작업으로, Apioni 자체의 통신과는 구분된다. - 일회성 라이선스: ₩39,000 일회성 구매로 구독이 없고, 회사 단위 라이선스에 기기 수 제한이 없다.
도입 실무: 보안 검토부터 사내 배포까지
대체재 도입은 다음 순서로 진행하면 검토 부담을 줄일 수 있다.
- 트라이얼 확보: 14일 무료 트라이얼(카드 불필요)로 검증용 환경을 마련한다.
- 네트워크 동작 검증: 앱 내 자가검증 기능과 함께, 패킷 캡처 도구나
lsof로 앱이 실제로 여는 연결을 직접 관찰한다. 문서를 처리하는 동안 본문이 외부로 나가지 않는지 확인하는 절차는 패킷 캡처로 데이터 유출 검증하기에서 구체적으로 다룬다. - 사내 보안성 검토: 검증 결과를 보안 검토 문서로 정리해 정식 승인 절차에 올린다. 내부망이나 공공 환경의 보안성 검토 통과 맥락은 사내 보안성 검토 통과 사례를 참고할 수 있다.
- 기기 배포: 승인 후 회사 단위 라이선스로 대상 직군의 기기에 배포한다. 기기 수 제한이 없어 직군 전체 배포의 라이선스 셈이 단순하다.
자주 묻는 질문
차단 정책을 완전히 없애야 하나
아니다. 차단과 대체재는 병행할 수 있다. 외부 클라우드 AI에 대한 DLP나 도메인 차단은 유지하면서, 같은 수요를 흡수할 승인된 온디바이스 대체재를 함께 제공하는 구성이 현실적이다. 차단은 외부 유출 경로를 좁히고, 대체재는 막힌 수요를 안전하게 받아낸다.
온디바이스면 정말 데이터가 안 나가나
검증 가능한 사실로 확인하는 것이 맞다. 온디바이스 처리는 문서 본문을 외부로 보내지 않는 구조이지만, 그 주장은 보안팀이 직접 검증해야 신뢰할 수 있다. Apioni의 경우 앱 내 네트워크 자가검증 기능과 lsof, 패킷 캡처로 실제 통신을 관찰할 수 있다.
모델 다운로드는 외부 통신 아닌가
맞다. 모델을 처음 받을 때는 외부 통신이 발생한다. 다만 이는 Ollama가 모델 파일을 내려받는 작업으로, Apioni 자체가 문서를 처리하면서 여는 통신과는 구분된다. 다운로드가 끝난 뒤 문서 처리는 로컬에서 이루어지며, 이 구분 역시 네트워크 검증으로 확인할 수 있다.
회사 전체 도입 비용은 어떻게 되나
Apioni는 ₩39,000 일회성 구매로 구독이 없으며, 회사 단위 라이선스에 기기 수 제한이 없다. 직군 전체에 배포해도 라이선스 구조가 단순하다.
인터넷 검색이 필요한 업무는
온디바이스 문서 AI는 연결된 문서를 기반으로 한 질문답변, 요약, 작성에 강점이 있다. 실시간 웹 검색이 핵심인 업무는 이 도구의 범위 밖이며, 그런 작업에는 별도 경로가 필요하다. 대체재는 만능 도구가 아니라 기밀문서 처리라는 특정 수요를 안전하게 받아내는 데 초점이 있다.
차단을 대체재로 바꾸는 첫걸음
차단만으로 풀리지 않던 문제라면, 출발점은 보안팀이 직접 검증해보는 것이다. 14일 무료 트라이얼을 받아 패킷 캡처와 lsof로 앱의 네트워크 동작을 직접 관찰하고, 문서 처리 중 본문이 외부로 나가지 않는지 확인해보라. 검증 결과가 사내 보안 검토 기준을 충족한다면, 그때 회사 단위 라이선스 도입을 검토하면 된다.