공공기관 내부망 PC 생성형 AI 도입, 보안성 검토 통과시키는 법

공공기관 AI 도입, 보안성 검토에서 실제로 막히는 지점

공공기관 내부망 PC에 생성형 AI를 도입할 때 보안성 검토에서 실제로 막히는 지점은 AI의 성능이 아니라 “이 소프트웨어가 문서 내용을 외부로 보내지 않는다”는 사실을 어떻게 증빙으로 제출하느냐다. 결론부터 말하면, 통과의 핵심은 외부 연결 현황을 검토 자료로 명시하는 데 있다. 내부망 AI 중에서도 온디바이스 방식은 문서 처리를 전부 로컬에서 수행하므로 외부로 나가는 연결 자체가 적고, 그 적은 연결을 목록과 자가검증 결과로 정리해 검토 위원에게 제출할 수 있다. 이 글은 망분리 개념을 다시 설명하려는 것이 아니라, 공공기관 AI 도입 절차에서 설치형 소프트웨어의 보안성 검토를 통과시키기 위해 제출 자료를 어떻게 구성하는지를 다룬다.

보안성 검토가 설치형 소프트웨어에 실제로 묻는 것

기관마다 명칭은 도입 심의, 보안성 검토, 정보보안 사전협의 등으로 다르지만, 설치형 소프트웨어에 대해 검토 위원이 확인하려는 항목은 대체로 공통된다.

• 데이터 외부 전송 여부: 업무 문서나 입력 내용이 인터넷을 통해 외부 서버로 나가는지 여부
• 외부 연결의 목적지와 성격: 외부 연결이 발생한다면 어느 주소로, 무슨 목적으로, 어떤 데이터를 담아 나가는지
• 통제 가능성: 그 연결을 기관이 차단하거나 통제할 수 있는지, 차단했을 때 핵심 기능이 동작하는지
• 모델과 구성요소의 출처: AI 모델과 의존 구성요소를 어디서 수급하며, 그 과정이 평상시 동작과 분리되는지

기존 콘텐츠 대부분은 “망분리 환경이라 안전하다”는 원론에 그친다. 그러나 검토 위원이 요구하는 것은 원론이 아니라 위 항목 각각에 대응하는 구체적인 근거 자료다. 따라서 도입 담당자는 제품의 네트워크 동작을 항목별로 분해해 문서화할 수 있어야 한다.

Apioni의 네트워크 동작: 문서 처리는 로컬, 외부 연결은 버전 확인뿐

Apioni는 온디바이스 데스크톱 앱으로, 폴더를 연결해 인덱싱한 뒤 출처와 함께 질문답변, 요약, 작성을 수행한다. 검색은 키워드 검색(BM25)과 의미 검색을 결합한 하이브리드 방식이며, 임베딩과 LLM 추론을 모두 기기 안에서 구동한다.

핵심은 처리 경로의 위치다. 인덱싱, 검색, 요약, 답변 생성은 전부 로컬(localhost) 엔진에서만 수행되며 문서 내용은 기기 밖으로 나가지 않는다. Apioni가 인터넷으로 여는 연결은 둘뿐이다. 하나는 첫 실행 시 한 번 수행하는 엔진·모델 다운로드이고, 다른 하나는 실행할 때 apioni.com에 보내는 버전 확인이다. 두 연결 모두 업무 문서의 내용을 담지 않으며, 운영 단계에서 반복되는 연결은 버전 확인 1건뿐이다. 사용 행태를 수집하는 별도 텔레메트리는 두지 않았다.

검토 자료에서는 이 둘을 분리해 기술하는 것이 중요하다. “문서를 다루는 모든 처리”와 “단 하나의 외부 연결”을 같은 표에 나란히 놓으면, 위원이 데이터 흐름을 한눈에 파악할 수 있다.

단일 외부 연결의 성격을 검토 자료에 명시하는 법

보안성 검토에서 외부 연결을 숨기는 것은 오히려 신뢰를 떨어뜨린다. 유일한 외부 연결을 정직하게 명시하고, 그 성격을 세 가지로 풀어 쓰는 방식을 권한다.

1. 목적: apioni.com에 보내는 실행 시 버전 확인이다. 최신 버전 여부를 알리기 위한 용도다.
2. 미포함 정보: 이 연결에는 업무 문서의 내용, 인덱싱 결과, 질문과 답변 텍스트가 담기지 않는다.
3. 차단 시 동작: 폐쇄망 등에서 이 연결을 차단해도 문서 처리(인덱싱, 검색, 요약, 답변)는 로컬에서 정상 동작한다. 즉 외부 연결은 기능의 필수 요소가 아니라 제거 가능한 부가 요소다.

세 번째 항목이 통제 가능성에 대한 직접적인 답이 된다. 검토 위원이 “그 연결을 막으면 쓸 수 있느냐”고 물을 때, “막아도 핵심 기능은 그대로 동작한다”는 점을 근거로 제시할 수 있기 때문이다.

외부 전송 없음을 직접 검증해 증빙으로 제출하기

주장만으로는 검토를 통과하기 어렵다. 다행히 외부 연결 현황은 기관 담당자가 직접 확인해 그 결과를 서류에 첨부할 수 있다.

• 앱 내 네트워크 자가검증 기능: Apioni는 외부 연결 현황을 확인하는 자가검증 기능을 제공한다. 실행 결과를 캡처해 검토 자료에 첨부할 수 있다.
• 시스템 도구로 교차 확인: macOS와 리눅스의 lsof, Windows의 리소스 모니터 등으로 앱이 연 네트워크 연결 목록을 직접 조회할 수 있다. 인덱싱이나 질문답변 작업 도중에 조회하면, 해당 작업이 localhost 범위에서 이루어진다는 점을 확인할 수 있다.
• 패킷 단위 추가 검증: 보안팀이 더 엄밀한 증빙을 원한다면 패킷 캡처로 실제로 나가는 트래픽을 확인하는 방법이 있다. 자세한 절차는 패킷 캡처로 데이터 유출을 직접 검증하는 방법에서 다룬다.

이렇게 얻은 연결 목록과 자가검증 결과는 “외부 전송 없음”이라는 문장보다 강한 증빙이 된다. 검토는 신뢰가 아니라 검증으로 통과시키는 것이 원칙이다. 입증의 논리적 근거는 데이터가 기기를 떠나지 않음을 입증하는 원리에서 더 자세히 설명한다.

검토 질문과 제출 자료 매핑

검토 위원의 질문 항목과 그에 대응해 제출할 수 있는 자료를 정리하면 다음과 같다.

모델 다운로드(Ollama)와 앱 실행 동작의 구분

검토에서 자주 혼선이 생기는 지점이 모델 수급 과정이다. Apioni는 온디바이스 LLM(Ollama 기반 Qwen3 계열)과 임베딩 모델(bge-m3)을 기기 안에서 구동하는데, 이 모델 파일을 처음 한 번은 어딘가에서 받아와야 한다. 8GB RAM 환경에서는 4B급 모델(qwen3:4b-instruct)을 정본으로 쓰며, 한국어 게이트(ko-v2)를 거쳐 게이트가 없는 기본 응답 대비 정답률이 자체 실측 기준 14~18%p 높았다(표본과 조건이 한정된 내부 측정이다). 수치충실 게이트로 양자화(q4_K_M) 과정에서 생기는 숫자 손상을 걸러낸다.

이 구성은 검토 위원에게 그대로 공개하는 편이 신뢰에 유리하다. 다만 한계도 함께 밝히는 것이 정직하다. 8GB 환경에서는 4B급까지 구동되므로 클라우드의 초대형 모델보다 작고 느리고, 실시간 최신 검색이 필요한 작업은 클라우드 쪽이 유리하다. 보안성 검토의 목적은 기기 안에서 끝나는 문서 처리이므로, 이 한계는 외부 전송을 없앤 대가로 받아들이는 트레이드오프에 가깝다.

이 최초 다운로드는 Ollama가 수행하는 별도 과정으로, Apioni가 평상시 실행될 때의 네트워크 동작과 구분된다. 검토 자료에서는 이를 “도입 및 설치 단계의 일회성 모델 수급”과 “운영 중 실행 동작”으로 나눠 기술하는 것이 좋다. 운영 단계에서는 앞서 정리한 대로 외부 연결이 버전 확인 1건으로 한정된다. 폐쇄망 기관이라면 모델을 외부에서 받아 내부망으로 반입하는 절차를 별도로 설계하면 된다.

도입과 라이선스: 검토 이후 단계

보안성 검토를 통과한 뒤에는 도입 형태가 절차에 영향을 준다. Apioni는 ₩39,000 일회성 구매로 구독이 없으며, 회사 단위 라이선스라 기기 수에 제한이 없다. 구독형 클라우드 서비스와 달리 매년 갱신 심의를 반복할 필요가 없고, 기기별 라이선스를 산정하지 않아도 부서나 기관 단위로 배포 계획을 세울 수 있다.

또한 카드 정보 없이 14일 무료 트라이얼을 제공하므로, 본 계약 전에 기관 테스트 PC에서 보안성 검토용 자가검증을 먼저 돌려볼 수 있다. 망분리 환경 자체에 대한 배경은 망분리 환경의 온디바이스 생성형 AI에서 다루며, 이 글은 그 환경에서의 검토 절차에 초점을 맞춘다.

자주 묻는 질문

폐쇄망에서도 동작하나

문서 처리(인덱싱, 검색, 요약, 답변)는 로컬 엔진에서 수행되므로 인터넷 연결 없이 동작한다. 다만 AI 모델 파일은 최초 1회 확보가 필요하므로, 폐쇄망에서는 모델을 외부에서 받아 내부망으로 반입하는 절차를 설치 단계에 포함하면 된다.

버전 확인 연결을 막아도 되나

막아도 된다. 이 연결은 최신 버전 여부를 알리기 위한 용도이며 문서 처리의 필수 요소가 아니다. 폐쇄망에서 차단해도 인덱싱, 검색, 요약, 답변은 로컬에서 정상 동작한다.

문서 내용이 외부로 가지 않는다는 것을 어떻게 확인하나

주장에 의존하지 않고 직접 검증할 수 있다는 점이 핵심이다. 앱 내 네트워크 자가검증 기능, lsof 같은 시스템 도구, 패킷 캡처로 인덱싱과 질문답변 작업 도중의 실제 연결을 조회하면, 문서 내용을 담은 외부 전송이 발생하지 않는다는 점을 확인할 수 있다. 이 결과를 검토 자료로 제출하는 방식이다.

모델 다운로드는 어디서 어떻게 하나

온디바이스 LLM과 임베딩 모델은 Ollama가 수행하는 최초 다운로드 과정으로 확보된다. 이는 Apioni가 평상시 실행될 때의 네트워크 동작과는 구분되는 별도 단계이며, 폐쇄망에서는 반입 절차로 대체할 수 있다.

검토 환경에서 직접 검증해 보기

가장 확실한 통과 전략은 기관 테스트 PC에서 직접 검증해 그 결과를 자료로 만드는 것이다. 14일 무료 트라이얼은 카드 정보 없이 시작할 수 있으므로, 검토용 PC에 설치해 자가검증과 lsof로 네트워크 동작을 확인한 뒤 그 결과를 검토 서류에 첨부하면 된다.

Apioni 다운로드 페이지에서 트라이얼을 받아 검토 환경에서 검증해 보고, 도입이 확정되면 구매 페이지에서 기관 단위 라이선스로 진행할 수 있다.