고객 금융정보를 외부 AI에 넣어도 되나, 먼저 결론부터
여신 심사 의견서를 쓰다가, 고객 상담 이력을 정리하다가 “이걸 그냥 ChatGPT에 넣고 물어보면 빠를 텐데”라는 생각이 든 적이 있을 것이다. 결론부터 말하면, 개인신용정보를 외부 클라우드 LLM API로 보내는 순간 그 행위는 단순한 보안 위험을 넘어 신용정보법상 처리위탁 또는 제3자 제공으로 성격이 규정될 여지가 생긴다. 그리고 그 순간부터 수탁자 관리, 동의 확보, 국외이전 같은 별도 의무가 검토 대상으로 따라붙는다. 반대로 온디바이스 AI는 개인신용정보가 기기 밖으로 나가지 않으므로 외부로의 위탁이나 제공이라는 관계 자체가 성립하지 않는다. 즉 금융 AI 보안에서 막히는 것은 “전송”이고, 푸는 것도 “전송을 없애는 것”이다.
이 글은 금융권 LLM 도입을 검토하는 실무자, 특히 결재 문서에 올릴 법적 근거가 필요한 준법(Compliance)과 정보보호 담당을 위한 것이다. “위험하니 쓰지 마라”는 일반론이 아니라, 신용정보법 AI 쟁점이 왜 막히는지를 조항 단위로 정리하고 온디바이스가 그 논의를 어떻게 비켜가는지를 설명한다.
“고객정보를 AI에 묻는다”의 실제 데이터 흐름
문제를 정확히 보려면 무슨 일이 벌어지는지부터 그려야 한다. 외부 클라우드 LLM을 쓴다는 것은 다음을 의미한다.
- 사용자가 입력한 질문과 첨부 문서가 자신의 PC를 떠난다.
- 인터넷을 거쳐 LLM 제공자의 API 서버로 전송된다.
- 그 서버에서 처리되어 응답이 돌아온다.
이 흐름에서 핵심은 1번과 2번이다. 고객의 성명, 계좌, 신용등급, 연체 이력 같은 개인신용정보가 포함된 텍스트가 회사 통제 밖의 외부 서버로 넘어가는 사건이 발생한다. 보안 사고를 걱정하기 이전에, 이 전송 행위 자체가 신용정보법이 규율하는 대상이 된다는 점이 출발점이다.
신용정보법은 이 전송을 어떻게 보는가
개인신용정보를 외부 LLM 제공자에게 보내는 행위는 법적으로 두 가지 성격 중 하나로 해석될 여지가 있다. 둘 중 무엇으로 보느냐에 따라 따라붙는 의무가 달라진다.
> 처리위탁: 회사가 자신의 업무를 처리하기 위해 개인신용정보의 처리를 외부에 맡기는 경우다. 신용정보법은 위탁자에게 수탁자에 대한 관리와 감독 책임을 부과하는 구조를 두고 있다.
> 제3자 제공: 정보를 받은 쪽이 자신의 목적으로 정보를 이용하는 경우다. 이때는 원칙적으로 정보주체의 동의 같은 별도 적법 근거가 필요하다.
외부 LLM API 호출은 “우리 업무를 위해 외부 연산을 빌린다”는 점에서 처리위탁에 가깝게 해석될 수 있다. 다만 제공자가 입력 데이터를 모델 개선 등 자신의 목적으로 쓸 수 있는 약관 구조라면 제3자 제공의 성격이 함께 문제될 수 있다. 어느 쪽이든 “내부에서 끝나는 일”이 아니라는 점은 동일하다.
위탁으로 보면 따라오는 의무 사슬
처리위탁으로 정리된다고 가정해도 검토가 끝나는 것이 아니라 오히려 시작된다. 결재 문서에 올라가야 할 검토 항목은 대략 이렇게 늘어난다.
- 수탁자 관리와 감독: 위탁자는 수탁자가 정보를 안전하게 처리하는지 교육하고 감독할 책임을 진다. 글로벌 LLM 제공자를 상대로 이 통제를 실질적으로 행사할 수 있는지가 쟁점이 된다.
- 재위탁 통제: 수탁자가 인프라를 다시 다른 사업자에게 맡기는 구조라면 재위탁 사슬 전체를 파악하고 통제할 수 있어야 한다.
- 국외이전 쟁점: 처리 서버가 국외에 있다면 개인신용정보의 국외이전이라는 별도 논점이 추가된다.
- 사고 시 책임 귀속: 전송된 정보가 외부에서 유출되거나 오용될 경우의 책임 분담을 사전에 정리해야 한다.
핵심은 이 항목들이 “안전한가”의 문제가 아니라 “검토하고 문서화해야 하는 규제 항목”이라는 점이다. 외부 전송을 선택하는 순간 이 사슬 전체가 결재 라인의 검토 대상이 된다.
온디바이스가 푸는 지점: 전송이 없으면 위탁 논의가 없다
여기서 온디바이스 AI의 구조적 차이가 드러난다. 온디바이스 방식은 LLM과 임베딩 모델을 사용자의 PC 안에서 직접 구동하고, 문서 인덱싱과 질의응답을 전부 기기 내부에서 처리한다. 개인신용정보가 담긴 텍스트가 외부 서버로 전송되는 단계 자체가 존재하지 않는다.
전송이 없으면 외부 수탁자나 제3자가 등장하지 않는다. 외부 수탁자가 없으면 수탁자 관리, 재위탁 통제, 국외이전 동의라는 의무 사슬이 애초에 검토 대상에서 빠진다. 이것이 온디바이스를 “더 안전하다”가 아니라 “검토할 규제 항목이 줄어든다”로 표현해야 하는 이유다. 준법 담당이 위로 올릴 때는 후자가 훨씬 단단한 논리다.
외부 LLM API와 온디바이스의 규제 검토 항목 대조
| 검토 항목 | 외부 클라우드 LLM API | 온디바이스(Apioni) |
|---|---|---|
| 데이터 외부전송 | 발생(질문·문서가 외부 서버로) | 없음(기기 내부 처리) |
| 처리위탁 성격 | 성립 여지 있음 | 외부 위탁 관계 미성립 |
| 수탁자 관리 의무 | 검토 필요 | 외부 수탁자 부재로 논외 |
| 국외이전 쟁점 | 서버 위치 따라 발생 | 전송 없어 논외 |
| 제3자 제공 동의 | 약관 구조 따라 검토 | 제공 행위 부재 |
| 망분리 적합성 | 외부 연결 필요로 충돌 가능 | 인터넷 없이 작동 |
| 전송 없음 검증 가능성 | 제공자 약관에 의존 | 사용자가 직접 확인 가능 |
Apioni가 이 구조에서 서는 위치
Apioni는 온디바이스 문서 AI 데스크톱 앱이다. 폴더를 연결하면 기기 안에서 인덱싱하고, 온디바이스 LLM(Ollama 기반, 8GB RAM 환경의 정본은 4B급 qwen3:4b-instruct)과 임베딩(bge-m3)을 PC 안에서 구동해 출처를 함께 제시하며 질문답변, 요약, 작성을 수행한다. 검색은 키워드(BM25)와 의미검색을 결합한 출처 기반 RAG(검색증강생성) 방식이다. 작은 모델은 한국어에서 품질이 흔들리기 쉬운데, Apioni는 한국어 게이트(ko-v2)를 거쳐 같은 모델을 그대로 쓴 경우보다 정답률을 자체 실측 기준 14~18%p 높였고(표본과 조건이 한정된 내부 측정이다), 수치충실 게이트로 양자화(q4_K_M) 과정에서 생길 수 있는 숫자 손상을 걸러낸다.
규제 검토 관점에서 중요한 것은 네트워크 동작의 사실관계다. Apioni의 문서 처리는 전부 로컬(localhost) 엔진으로만 이루어지며 문서 내용은 기기 밖으로 나가지 않는다. Apioni가 인터넷으로 여는 외부 연결은 두 가지뿐이다. 하나는 첫 실행 때 엔진과 모델 파일을 내려받는 1회 다운로드이고, 다른 하나는 실행 시 apioni.com에서 최신 버전을 확인하는 연결이다. 두 연결 모두 문서 내용을 담지 않으며 별도의 텔레메트리도 없다. 그리고 이 “문서가 나가지 않는다”는 설명은 약관에 대한 신뢰가 아니라 검증의 대상이라는 점이 중요하다. 앱에 내장된 네트워크 자가검증 기능이나 lsof, 패킷 캡처 같은 도구로 사용자가 직접 어떤 연결이 열리는지 확인할 수 있다.
“전송이 없다”는 주장을 보안팀이 실제로 검증하는 방법은 온디바이스 AI 보안 검증 방법에서 자세히 다룬다. 금융권 특유의 망분리 환경 적합성은 망분리 환경의 온디바이스 생성형 AI에서 별도 각도로 정리했다.
물론 온디바이스에는 분명한 한계가 있다. 8GB RAM 환경에서는 4B급 모델까지가 현실적이라 클라우드의 초대형 모델보다 작고 응답도 느린 편이고, 실시간 최신 정보 검색처럼 외부 데이터가 필요한 작업은 클라우드 쪽이 유리하다. 다만 고객 금융정보를 다루는 작업의 핵심은 가진 문서를 출처와 함께 검토하는 일이고, 이 영역에서는 전송을 없앤 구조의 이점이 한계를 상회한다.
Apioni는 ₩39,000 일회성 구매로 제공되며 구독료가 없다. 라이선스는 회사 단위로 기기 수 제한이 없고, 도입 전 검토를 위해 14일 무료 트라이얼(카드·계정 정보 불필요)을 제공한다. macOS(서명·공증)와 Windows 빌드를 apioni.com/dl에서 받을 수 있다. 클라우드에 올리기 어려운 기밀문서를 다루는 법률, 회계세무, 금융, 공공, 의료연구, 기업보안 직군을 대상으로 한다.
자주 묻는 질문
ChatGPT Enterprise나 데이터 미학습 약관이면 신용정보법 문제가 해결되나
약관상 데이터를 학습에 쓰지 않는다는 조건은 제3자 제공의 우려를 줄이는 데 도움이 될 수 있다. 다만 그것만으로 처리위탁에 따른 수탁자 관리, 재위탁 통제, 국외이전 같은 의무가 사라지지는 않는다. 전송이 발생하는 한 검토 대상은 남는다. 약관 비교는 ChatGPT Enterprise와 온디바이스 비교에서 정리했다.
가명처리나 익명처리를 하면 외부 LLM에 보내도 되나
가명처리는 적법 처리의 한 방법이 될 수 있으나, 재식별 위험이 남는 한 개인신용정보로서의 성격이 온전히 사라진다고 단정하기 어렵다. 더구나 자연어 문서는 직접 식별자를 가려도 맥락 정보로 재식별될 여지가 있어, 가명처리만으로 외부 전송이 자유로워진다고 보기는 어렵다. 처리 수준과 재식별 가능성에 대한 별도 검토가 필요하다.
온디바이스면 규제 검토가 전혀 필요 없다는 뜻인가
그렇지 않다. 온디바이스는 외부 전송에서 비롯되는 위탁과 제공 관련 의무 사슬을 검토 대상에서 덜어내는 것이지, 내부 접근 통제나 기기 자체의 보안 관리 같은 일반적인 정보보호 의무까지 면제하는 것은 아니다. 줄어드는 것은 외부 전송에 결부된 항목들이다.
금융권 망분리 환경에서도 설치하고 사용할 수 있나
온디바이스 방식은 문서 처리에 외부 연결을 요구하지 않으므로 인터넷이 차단된 망분리 환경의 취지와 충돌하지 않는다. 모델 파일만 사전에 확보해 두면 이후 사용은 폐쇄망 안에서 이루어진다. 구체적인 적용은 조직의 망분리 정책에 맞춰 검토하면 된다.
직접 확인해 보라
외부 전송을 없애면 규제 검토 항목이 어떻게 줄어드는지는 설명보다 직접 확인하는 편이 빠르다. 14일 무료 트라이얼은 카드 정보 없이 시작할 수 있다.
- 다운로드: Apioni 다운로드
- 구매 안내: 구매 페이지