세무·회계 자료를 클라우드에 못 올리는 모순, 어떻게 풀까
세무사·회계사가 ChatGPT 같은 클라우드 AI에 고객의 재무제표나 원천징수 자료를 올리기 어려운 이유는 분명합니다. 주민등록번호, 사업자 정보, 거래내역이 담긴 문서를 외부 서버로 보내는 순간 개인정보보호법상 위탁·국외이전 쟁점과 직무상 비밀유지 의무, 고객 신뢰가 걸리기 때문입니다. 핵심 질문에 먼저 답하면, 고객 자료를 PC 밖으로 내보내지 않는 세무 AI, 곧 문서가 기기 안에서만 처리되는 온디바이스 문서 AI가 이 모순의 현실적인 해법입니다. 문서 처리가 컴퓨터 안에서 끝나도록 설계되어 있어 작업 중 문서 내용이 외부로 전송되지 않습니다.
세무·회계 사무소가 클라우드 AI를 쓰기 어려운 실제 이유
세무 AI 활용을 검토하다 막히는 지점은 성능이 아니라 자료의 이동입니다. 일반 클라우드 AI는 입력한 문서를 외부 서버로 전송해 처리합니다. 이 구조에서 세무·회계 사무소가 부딪히는 벽은 세 가지입니다.
- 개인정보보호법: 고객의 주민등록번호·사업자등록번호·재무 정보를 외부 서비스에 입력하면 개인정보 처리위탁에 해당할 수 있고, 서버가 해외에 있으면 국외이전 쟁점까지 더해집니다. 정보주체 동의와 위탁 고지 의무가 따라붙습니다.
- 직무상 비밀유지 의무: 세무사와 공인회계사는 직무상 알게 된 고객 정보에 대한 비밀유지 의무를 법적으로 집니다. 검증되지 않은 외부 도구에 자료를 올리는 행위 자체가 의무 위반 소지가 됩니다.
- 고객 신뢰: 한 번의 자료 유출이나 오용은 사무소의 신뢰 기반을 흔듭니다. 고객은 자신의 민감 자료가 어디로 가는지 묻습니다.
결국 “성능 좋은 AI를 쓰고 싶지만 자료를 밖으로 내보낼 수 없다”는 모순이 남습니다. 이 모순은 막연한 불안의 문제가 아니라 직무 의무의 문제이며, 자료를 이동시키지 않는 구조로 풀어야 합니다.
온디바이스 문서 AI란 무엇인가
온디바이스 AI는 데이터 처리와 AI 연산이 외부 서버가 아니라 사용자의 기기 안에서 이뤄지는 방식을 말합니다. 클라우드 SaaS가 문서를 보내고 결과를 받아오는 구조라면, 온디바이스는 문서가 PC를 떠나지 않고 그 안에서 답이 만들어지는 구조입니다. 별도의 망분리 장비 없이도 자료가 외부로 나가지 않는 작업 환경을 데스크톱 앱 한 개로 구성할 수 있습니다.
Apioni는 이 방식으로 동작하는 데스크톱 앱입니다. Ollama 기반으로 내 PC 안에서 작동하는 언어모델(Qwen3 계열)과 임베딩 모델(bge-m3)을 통해 폴더의 문서를 인덱싱하고 질문에 답합니다. 모델 연산이 기기 안에서 끝나므로 문서 내용을 외부 서버나 클라우드로 전송하지 않습니다. 8GB RAM 환경에서는 4B급 모델(qwen3:4b-instruct)을 정본으로 쓰며, 양자화(q4_K_M) 과정에서 생길 수 있는 수치 손상은 수치충실 게이트로 걸러냅니다. 구조적 차이는 분명합니다. 클라우드 AI에서 보안은 외부 사업자를 얼마나 신뢰할 수 있는가의 문제지만, 온디바이스에서는 처음부터 문서 내용이 나가지 않도록 설계되어 신뢰해야 할 대상이 줄어듭니다.
회계사 문서 AI, 실무에서 어떻게 쓰나
Apioni는 내 폴더의 문서를 연결해 인덱싱한 뒤, 출처(근거)를 함께 제시하며 답합니다. 검색은 키워드 기반(BM25)과 의미검색을 결합한 하이브리드 검색이며, 두 결과를 순위 기반으로 합치는 RRF 방식으로 동작해 정확한 용어와 문맥을 함께 잡습니다. 여기에 한국어 처리 게이트(ko-v2)를 두어, 자체 실측 기준으로 게이트를 적용하지 않은 경우보다 정답률을 14~18%p 높였습니다(표본·조건이 한정된 내부 측정값입니다). 회계사 문서 AI로서 자주 쓰이는 흐름은 다음과 같습니다.
- 수임처 장부·증빙 정리: 방대한 거래내역과 증빙 PDF를 연결해 핵심을 요약합니다. 어떤 문서의 어느 대목이 근거인지 함께 표시되므로, 요약을 그대로 믿지 않고 원문으로 되짚을 수 있습니다.
- 근거 검토와 추적: 규정 자료나 과거 신고·조정 자료를 함께 인덱싱해 특정 처리의 근거를 대조합니다. 답변에 붙은 출처를 따라가 실제 조문이나 과거 기록을 확인하는 흐름이라, 감사조서나 세무조사 대응 자료의 근거 추적에 활용할 수 있습니다.
- 문서 작성: 검토의견서나 고객 안내문 초안을 작성합니다. 사무소 안의 기존 문서를 참조 자료로 두고 일관된 형식과 근거를 갖춘 초안을 만듭니다.
“안전하다”를 증명하는 방법: 검증 가능성
회계 직군은 안전하다는 주장보다 증빙이 가능한가에 익숙합니다. 감사를 받고 또 수행하는 입장에서 신뢰는 말이 아니라 확인에서 나옵니다. 그래서 “유출 불가”라고 단정하기보다, 외부 연결이 무엇인지 먼저 정직하게 공개하는 편이 검증에 도움이 됩니다.
Apioni가 인터넷에 접속하는 경우는 두 가지뿐이며, 둘 다 문서 내용을 담지 않습니다.
- 첫 실행 시 엔진·모델 다운로드: 처음 한 번 실행 단계에서 온디바이스 엔진과 언어·임베딩 모델을 내려받습니다. 이후 작업에는 다시 필요하지 않습니다.
- 실행 시 버전 확인: 앱을 켤 때 apioni.com에서 최신 버전 여부를 확인합니다.
두 통신 모두 고객 문서의 내용을 포함하지 않습니다. 따라서 문서를 다루는 실제 작업 구간에서는 외부로 나가는 문서 내용이 없습니다. 이를 사용자가 직접 확인하는 방법은 두 가지입니다.
- 인터넷 차단 작동: 인터넷을 꺼도 인덱싱·질의응답·요약이 그대로 됩니다. 문서 처리가 외부 통신에 의존했다면 오프라인에서 멈췄을 것입니다.
- 연결 직접 점검: macOS·Windows에서
lsof나 패킷 캡처로 문서를 다루는 동안 어떤 통신이 일어나는지 본인 PC에서 들여다볼 수 있습니다. 제공자의 주장에 의존하지 않고 자기 기기에서 직접 점검하는 절차라, 증빙이 익숙한 직군에 맞는 신뢰 방식입니다.
일반 클라우드 AI vs 온디바이스 문서 AI
| 구분 | 온디바이스 문서 AI (Apioni) | 일반 클라우드 AI |
|---|---|---|
| 데이터 처리 위치 | 내 PC 안 | 외부 서버·클라우드 |
| 문서 외부 전송 | 전송하지 않도록 설계 | 서버로 전송 후 처리 |
| 오프라인 작동 | 인터넷 꺼도 작동 | 인터넷 연결 필요 |
| 통신 여부 확인 | 오프라인 작동·lsof·패킷 캡처로 직접 점검 | 사용자가 직접 확인 어려움 |
| 출처(근거) 제시 | 답변에 근거 문서·위치 표시 | 도구마다 상이 |
| 과금 방식 | 39,000원 일회성 구매 | 대체로 월 구독 |
| 라이선스 | 회사 단위, 기기 수 제한 없음 | 주로 사용자(좌석) 단위 |
한계도 분명히 짚어 둡니다. 8GB RAM 환경에서는 4B급 모델까지 쓸 수 있어, 클라우드의 초대형 모델보다 작고 응답도 더 느립니다. 실시간 최신 정보 검색은 외부와 연결되는 클라우드 쪽이 유리합니다. 다만 세무·회계 사무소의 일은 대체로 내 폴더 안의 고객 자료를 근거로 요약·검토·작성하는 작업이라, 자료를 밖으로 내보내지 않는다는 점이 성능 차이보다 중요한 경우가 많습니다.
자주 묻는 질문
인터넷을 완전히 끊어도 답변이 되나요
됩니다. Apioni는 문서 처리가 기기 안에서 이뤄지는 온디바이스 앱이라 인터넷 연결 없이 작동합니다. 오히려 인터넷을 끈 상태에서 써보는 것이 문서 내용이 외부로 나가지 않음을 확인하는 가장 간단한 방법입니다.
고객 자료 내용이 외부로 나가지 않는다는 걸 어떻게 확인하나요
Apioni가 인터넷에 접속하는 경우는 첫 실행 시 엔진·모델 다운로드와 실행 시 버전 확인뿐이며, 둘 다 문서 내용을 담지 않습니다. 직접 확인하는 방법은 두 가지입니다. 첫째, 인터넷을 끈 채로 인덱싱·질의응답·요약이 그대로 되는지 시험합니다. 둘째, 문서를 다루는 동안 lsof나 패킷 캡처로 어떤 통신이 일어나는지 본인 PC에서 들여다봅니다. 제공자의 주장에 의존하지 않고 사용자가 직접 증빙하는 방식입니다.
한글로 된 세무·회계 문서도 잘 처리하나요
키워드(BM25)와 의미검색을 결합한 하이브리드 검색으로 한글 문서의 정확한 용어와 문맥을 함께 다룹니다. 임베딩 모델은 한국어를 포함한 다국어를 지원하는 bge-m3를 사용하고, 한국어 처리 게이트(ko-v2)로 한글 자료의 정답률을 높였습니다(자체 실측). 폴더의 한글 문서를 연결해 요약·근거 검토·문서 작성에 활용할 수 있습니다.
도입 비용과 무료로 먼저 써보는 방법은
가격은 39,000원 일회성 구매로 월 구독이 없습니다. 카드나 결제정보 없이 14일 무료 트라이얼을 제공하므로, 본인 자료에 직접 써보고 판단할 수 있습니다.
자료를 밖으로 내보내지 않고 먼저 써보기
세무 AI 도입에서 가장 확실한 검증은 본인 자료로 직접 시험해보는 것입니다. Apioni는 결제정보 없이 14일 무료 트라이얼을 제공합니다. 인터넷을 끈 채로 실제 고객 자료가 PC 밖으로 나가지 않는지 직접 확인하면서 요약·근거 검토·문서 작성을 시험해보세요.
지금 다운로드하기로 설치한 뒤 본인 폴더를 연결해 써보고, 사무소 도입을 결정했다면 구매 페이지에서 회사 단위 라이선스로 전환할 수 있습니다.