클라우드에 올릴 수 없는 기밀 문서를 AI로 다루는 방법
의뢰인 사건기록이나 계약서처럼 외부에 올릴 수 없는 문서를 AI로 검토하려면, 데이터를 외부 서버로 전송하지 않고 내 PC 안에서 처리하는 온디바이스 방식을 쓰면 된다. 온디바이스 문서 AI는 문서를 클라우드로 보내지 않고 기기 안에서 인덱싱과 답변을 수행하므로, 변호사 문서 AI를 검토할 때 가장 먼저 부딪히는 비밀유지의무 문제를 구조적으로 줄여 준다.
법률 AI 보안의 핵심 질문은 “어떤 벤더의 보안 약관을 믿느냐”가 아니라 “문서가 애초에 기기 밖으로 나가는가”에 있다. 클라우드 AI는 문서를 전송한 뒤 보호하는 방식이고, 온디바이스 AI는 문서 내용을 전송하지 않는 방식이다. 이 글에서는 두 방식의 차이와 변호사가 직접 검증할 수 있는 지점, 그리고 실제 작업 시나리오를 정리한다.
변호사가 ChatGPT에 사건기록을 올릴 때 생기는 문제
클라우드 AI에 의뢰인의 사건기록과 계약서를 올리는 순간 문서는 외부 서버로 전송된다. 이 전송 자체가 변호사법상 비밀유지의무 및 변호사윤리장전과 충돌할 수 있는 지점이다. 문제는 세 가지로 정리된다.
- 비밀유지의무의 귀속: 변호사의 비밀유지의무는 위탁이나 외주로 면제되지 않고 변호사 본인에게 귀속된다. 클라우드 벤더가 데이터를 보호하겠다고 약정해도, 문서를 제3자 서버로 보낸 사실 자체가 평가 대상이 될 수 있다.
- 의뢰인 동의 없는 제3자 전송: 사건기록에는 의뢰인의 개인정보와 상대방의 영업비밀이 섞여 있다. 동의 없는 외부 전송은 개인정보 보호 측면에서도 위험을 만든다.
- 약관 신뢰의 구조적 한계: 클라우드 보안은 결국 전송은 하되 잘 지키겠다는 벤더 약관에 대한 신뢰다. 변호사가 그 서버 내부 처리를 직접 확인할 방법은 없다.
온디바이스 AI란 무엇이고 왜 비밀유지의무와 정합적인가
온디바이스AI(on-device AI)는 모든 처리가 사용자 PC 안에서 일어나는 방식을 말한다. 문서 내용을 외부 서버나 클라우드로 전송하지 않고, 인터넷을 꺼도 작동한다. 클라우드 방식과의 차이는 전송 후 보호냐, 전송하지 않느냐의 차이다.
이 구조가 비밀유지의무와 정합적인 이유는 의무 위반의 출발점이 되는 문서의 외부 전송이 일어나지 않기 때문이다. 데이터가 기기 안에 머무는 것은 벤더의 선의가 아니라 작동 구조에서 비롯된다.
Apioni는 이 방식으로 동작하는 온디바이스 문서 AI 데스크톱 앱이다. Tauri 기반 데스크톱 앱(macOS 서명·공증, Windows)으로, Ollama 기반 온디바이스 LLM과 임베딩 모델을 PC 안에서 구동해 연결한 문서를 외부로 보내지 않고 검토·요약·초안 작성을 수행한다. 여기서 동작은 기기 안에서의 추론이며, 입력 문서로 모델을 학습시키는 방식이 아니다.
기본 모델은 8GB RAM 환경 기준 4B급(qwen3:4b-instruct)을 정본으로 쓴다. 한국어 정확도를 위해 자체 한국어 게이트(ko-v2)를 두어, 자체 실측에서 게이트 없는 처리(naive) 대비 정답률이 +14~18%p 높았다(표본·조건이 한정된 내부 측정값이다). 또한 수치충실 게이트로 양자화(q4_K_M) 과정에서 생길 수 있는 숫자 손상을 걸러, 계약 금액이나 날짜 같은 정확한 수치가 흐트러지지 않게 한다.
온디바이스가 보장하는 것과 보장하지 않는 것
온디바이스 방식이 보장하는 것은 문서 내용이 외부 서버로 전송되지 않는다는 점이다. 다만 기기 자체의 보안까지 대신해 주지는 않는다. 분실·도난 PC, 디스크 미암호화, 계정 탈취 같은 위험은 별개의 영역이며, 운영체제의 디스크 암호화(예: macOS FileVault, Windows BitLocker)와 계정·접근 통제로 함께 관리해야 한다. 온디바이스는 전송 위험을 없애는 접근이고, 단말 보안은 그 위에 얹어야 하는 별도 층이다.
성능에도 솔직한 한계가 있다. 8GB RAM 환경에서는 4B급 모델까지 무리 없이 돌아가고, 클라우드의 초대형 모델보다 작고 느린 편이다. 실시간 최신 정보 검색처럼 외부 데이터가 필요한 작업은 클라우드 쪽이 유리하다. 다만 변호사 업무의 핵심은 연결한 사건기록·계약서 안에서 출처를 짚어 가며 검토·요약·초안을 만드는 일이고, 이 범위에서는 온디바이스 처리로 충분하다.
변호사가 직접 검증하는 방법: 네트워크 자가검증과 오프라인 작동
문서 내용을 전송하지 않는다는 설명은 변호사 본인이 확인할 수 있어야 의미가 있다. Apioni는 두 가지로 검증 가능성을 제공한다.
- 네트워크 자가검증: 앱에 내장된 기능으로, 작업 중 문서 내용의 외부 통신이 없음을 사용자가 직접 확인할 수 있다.
- 오프라인 작동: 인터넷을 끈 상태에서도 문서 검토와 답변이 동작한다. 연결을 차단한 채 써 보는 것만으로도 외부 의존이 없음을 확인할 수 있다.
다만 외부 연결이 영(0)은 아니다. 정직하게 밝히면 외부로 나가는 통신은 두 가지뿐이고, 둘 다 문서 내용을 담지 않는다. 하나는 첫 실행 때 엔진과 모델을 한 번 내려받는 다운로드이고, 다른 하나는 실행 시 apioni.com에 버전을 확인하는 호출이다. 보안팀은 이를 신뢰가 아니라 측정으로 확인할 수 있다. macOS·Linux의 lsof -i로 프로세스의 네트워크 연결을 보거나 패킷 캡처로 실제 트래픽을 떠 보면, 문서 검토 중에 문서가 어디로도 나가지 않음을 직접 검증할 수 있다.
검증 가능성은 클라우드 SaaS가 제시하기 어려운 지점이다. 약관은 읽을 수 있어도 서버 내부에서 무슨 일이 일어나는지는 외부에서 확인할 수 없기 때문이다.
활용 시나리오: 사건기록·계약서·증거기록
로펌 AI는 추상적 효율이 아니라 실제 작업 단위에 들어와야 쓸모가 있다. 사건기록 검토, 계약서 검토에 쓰는 구체적 장면은 다음과 같다.
- 사건기록 타임라인 정리: 방대한 사건기록에서 사실관계를 시간순으로 정리하고, 각 항목의 근거 출처를 함께 확인한다.
- 계약서 독소조항·누락조항 검토: 계약서를 연결해 불리한 조항과 빠진 조항을 점검한다. 답변에 근거 위치가 표시되어 원문 대조가 쉽다.
- 방대한 증거기록 질의응답: 대량 증거기록을 인덱싱해 자연어로 질문하고, 출처와 함께 답을 받는다.
- 준비서면 초안 작성: 정리된 사실과 근거를 토대로 초안을 작성하되, 출처 표시로 인용의 근거를 확인한다.
이 모든 과정에서 검색은 키워드 기반 BM25와 의미검색을 결합한 하이브리드 검색 방식을 쓴다. BM25는 단어가 정확히 일치하는 문서를 찾는 키워드 검색 방식이고, 의미검색은 임베딩으로 문맥상 가까운 표현을 찾는 방식이다. 두 결과를 RRF(Reciprocal Rank Fusion)로 합쳐, 법률 문서 특유의 정확한 용어와 의미가 비슷한 표현을 함께 다룬다. 답은 연결한 문서 범위 안에서 출처와 함께 생성하는 출처 기반 RAG(retrieval-augmented generation) 구조다.
답변에는 근거가 된 출처 문서를 함께 표시한다. 변호사에게 인용의 근거 확인은 핵심 요건이므로, 준비서면 초안이나 계약서 검토 결과를 원문과 대조할 수 있도록 설계되어 있다.
클라우드 법률 AI와 온디바이스 방식 비교
| 구분 | 온디바이스(Apioni) | 클라우드 법률 AI |
|---|---|---|
| 데이터 위치 | 내 기기 안 | 외부 서버 |
| 문서 내용 외부 전송 | 전송하지 않음 | 서버로 전송됨 |
| 비밀유지의무 정합성 | 문서 전송이 없어 정합적 | 벤더 약관 신뢰에 의존 |
| 오프라인 작동 | 인터넷 꺼도 작동 | 연결 필수 |
| 검증 가능성 | 네트워크 자가검증·lsof·패킷 캡처로 확인 | 서버 내부 확인 불가 |
| 근거 표시 | 답변에 출처 문서 함께 표시 | 제품마다 상이 |
| 가격 구조 | 일회성 구매 ₩39,000(구독 없음) | 대체로 구독 |
| 라이선스 단위 | 회사 단위, 기기 수 제한 없음 | 계정·시트 단위 과금 흔함 |
도입 비용과 라이선스
법무팀 AI 도입에서 비용 구조는 의사결정의 실질적 변수다. Apioni는 ₩39,000 일회성 구매로 구독이 없다. 라이선스는 회사 단위이며 기기 수 제한이 없어, 변호사 개인과 팀 단위 도입을 별도 시트 과금 없이 가져갈 수 있다.
카드나 계정 등록 없이 14일 무료로 써 볼 수 있으므로, 실제 사건기록과 계약서로 검증한 뒤 도입을 결정할 수 있다. 민감 문서를 다루는 만큼 약관이 아니라 직접 써 보고 판단하는 절차가 가능하다는 점이 중요하다. 내려받기는 apioni.com/dl에서 macOS(서명·공증)·Windows 빌드를 받을 수 있다.
자주 묻는 질문
온디바이스 AI를 쓰면 변호사 비밀유지의무를 충족하나요?
온디바이스 방식은 문서를 외부 서버로 전송하지 않고 기기 안에서 처리하므로, 비밀유지의무 위반의 출발점이 되는 외부 전송이 발생하지 않습니다. 다만 구체적 의무 충족 여부는 사건의 성격과 처리 방식에 따라 달라지는 개별 판단의 영역이며, 분실 단말이나 디스크 미암호화 같은 단말 자체의 보안은 별도로 관리해야 합니다.
인터넷이 없어도 작동하나요?
작동합니다. Apioni는 온디바이스 방식으로 PC 안에서 처리가 일어나므로 인터넷을 꺼도 문서 검토와 답변이 가능합니다. 외부로 나가는 통신은 첫 실행 때 엔진·모델을 한 번 내려받는 것과 실행 시 버전을 확인하는 호출뿐이며, 둘 다 문서 내용을 담지 않습니다. 앱에 내장된 네트워크 자가검증 기능이나 lsof -i·패킷 캡처로 문서가 밖으로 나가지 않음을 직접 확인할 수 있습니다.
답변의 근거를 확인할 수 있나요?
답변에 근거가 된 출처 문서를 함께 표시합니다. 검색은 키워드 기반 BM25와 의미검색을 결합한 하이브리드 방식(RRF)을 사용해, 정확한 용어 매칭과 문맥 기반 검색을 함께 활용합니다. 준비서면 초안이나 계약서 검토 결과를 원문과 대조하기에 적합합니다.
어떤 문서를 다룰 수 있나요?
내 폴더의 문서를 연결해 인덱싱한 뒤 질문 답변, 요약, 문서 작성에 활용합니다. 사건기록, 계약서, 증거기록처럼 분량이 많은 문서를 연결해 자연어로 질의할 수 있습니다.
어떤 기술로 동작하나요?
Tauri 기반 데스크톱 앱이며 macOS에서는 서명·공증을 거칩니다. 온디바이스 LLM은 Ollama 기반으로 8GB RAM 기준 4B급(qwen3:4b-instruct)을 정본으로 쓰고, 검색은 BM25와 의미검색을 RRF로 결합한 하이브리드 방식의 출처 기반 RAG입니다. 한국어 게이트(ko-v2)와 수치충실 게이트로 정확도를 보강합니다. 모든 처리가 기기 안에서 일어나며 입력 문서 내용을 외부로 전송하지 않습니다.
비용과 라이선스 범위는 어떻게 되나요?
₩39,000 일회성 구매이며 구독이 없습니다. 라이선스는 회사 단위로 기기 수 제한이 없고, 카드나 계정 등록 없이 14일 무료로 써 볼 수 있습니다.
클라우드에 올릴 수 없어 AI 도입을 미뤄온 법무팀이라면
민감한 사건기록과 계약서를 외부에 올릴 수 없어 AI 도입을 미뤄왔다면 온디바이스 방식부터 검토해 볼 만하다. 데이터를 기기 밖으로 보내지 않는 구조를 실제 문서로 직접 확인할 수 있다.
14일 무료 트라이얼 다운로드는 결제정보가 필요 없으며, 도입을 결정했다면 구매 페이지에서 일회성 라이선스를 받을 수 있다.