최신 AI는 쓰고 싶고, 고객 DB는 회사 밖으로 못 내보낸다

#보안 부서는 데이터가 가는 서버부터 묻는다

영업 담당자가 고객 명단을 붙여 넣고 AI에게 정리를 부탁합니다. 업무용 AI 도입을 검토하면 보안 부서가 가장 먼저 묻는 것도 이 장면입니다. "직원이 질문하면 그 내용과 회사 데이터는 어느 회사의 어느 서버로 갑니까?" 답이 "AI 회사 서버로 갑니다" 하나뿐이면 검토는 거기서 멈추기 쉽습니다. 그렇다고 "외부로는 아무것도 나가지 않습니다"만 고집하면 최신 AI 모델의 성능을 포기해야 합니다.

OwlAI에서 데이터가 어느 서버로 가는지는 두 가지가 정합니다. 회사가 연결한 AI 모델, 그리고 데이터마다 붙인 "내부 모델 전용" 표시입니다. "내부 모델 전용"으로 표시한 고객 DB는 외부 모델로 시작한 대화에 아예 나타나지 않습니다. 그래서 공개 자료는 최신 외부 모델에 맡기고, 고객 데이터는 회사 망 안에 둘 수 있습니다.

#공개 자료와 고객 DB를 같은 기준으로 묶을 이유는 없다

데이터의 민감도는 업무마다 다릅니다. 공개된 시장 자료를 요약하는 일과 고객 개인정보가 담긴 DB를 조회하는 일을 한 기준으로 묶으면, 둘 다 외부로 보내거나 둘 다 막는 수밖에 없습니다. 필요한 것은 어떤 데이터를 어떤 AI까지 보낼 수 있는지 회사가 정하는 구조입니다.

#어느 모델을 연결할지는 회사가 정한다

설치형에서는 어느 모델 서버를 연결할지 설치할 때 회사가 직접 정합니다. 사내 GPU 서버에 올린 모델만 연결하면 질문과 데이터는 회사 밖으로 나가지 않습니다. 외부 AI 회사의 모델도 함께 쓰려면 그 회사의 키를 등록합니다. 모델마다 사용 허용 스위치가 있어서 켜 둔 모델만 채팅·회의·플레이북의 선택지에 나오고, 기능마다 기본으로 쓸 모델도 따로 정할 수 있습니다.

외부 모델을 쓰더라도 대화 내용을 모델 회사 서버에 저장해 두는 방식은 쓰지 않습니다. 대화 기록은 OwlAI 안에 남고, 요청마다 필요한 맥락만 보냅니다.

#"내부 모델 전용" 데이터는 외부 모델에게 보이지 않는다

모델을 고르는 것만으로는 부족합니다. 같은 직원이 오전에는 공개 자료를 요약하고 오후에는 고객 DB를 조회하기 때문입니다.

연결된 모델 서버는 두 갈래로 나뉩니다. 데이터가 회사 망 안에 남는 내부 모델과, 망 밖으로 나가는 외부 모델입니다. 어느 서버가 내부인지는 설치 설정이 정하고, 운영 중에 화면에서 바꿀 수 없습니다. 누군가 실수로 외부 서버를 내부로 바꿔 놓을 일이 없습니다.

데이터 쪽에서는 관리자가 DB 연결, 문서 모음, 외부 서비스 커넥터마다 "모든 모델"과 "내부 모델 전용" 가운데 하나를 고릅니다. 내부 모델이 있는 회사라면 새로 등록하는 데이터는 처음부터 "내부 모델 전용"으로 시작하고, 외부 모델에 열어도 되는 것만 골라 엽니다.

외부 모델로 시작한 대화에서는 "내부 모델 전용"인 고객 DB가 목록에도, AI가 쓸 수 있는 도구에도 없습니다. AI는 그런 DB가 있다는 사실조차 모르니 조회할 수도 없고, 문서에 숨은 엉뚱한 지시에 끌려 내보낼 수도 없습니다. 반대로 내부 모델로 시작한 대화는 끝까지 내부 모델로 이어집니다. 그 대화의 모델 목록에는 처음부터 내부 모델만 뜨므로, 고객 데이터를 다룬 대화가 중간에 외부 모델로 넘어가지 않습니다.

답변 말고도 데이터가 회사 밖으로 나가는 출구가 둘 더 있습니다. AI가 만든 엑셀·워드 파일, 그리고 메일 보내기나 이슈 관리 시스템 댓글처럼 외부 서비스에 쓰는 도구입니다. 세 출구는 모두 같은 검사 단계를 지나야 밖으로 나갑니다. 개인정보는 거기서 다시 가려지고, 외부에 쓰는 도구는 회사가 정한 정책과 사람의 승인을 거칩니다.

#내부 모델과 외부 모델은 섞어 쓸 수 있다

설치형이라면 문서 검색에 쓰는 임베딩(문서를 찾을 수 있게 숫자로 바꾸는 모델)과 회의 음성 인식은 설치할 때 사내 서버에 두고, 복잡한 분석 질문에만 외부 모델을 쓰는 식입니다. 고객 DB는 "내부 모델 전용"으로 두고, 공개 자료와 일반 문서는 "모든 모델"에 열어 둡니다.

#도입 검토 때 보안 담당자가 확인할 것

보안 담당자가 도입 검토 때 짚어 볼 항목은 네 가지입니다.

• 연결할 모델과 그 모델 회사의 데이터 보관 정책
• "내부 모델 전용"으로 둘 DB와 문서 모음
• 회의 음성, 문서 검색, 생성 파일, 외부 전송처럼 AI 대화 밖에서 데이터가 나가는 경로
• 외부 연결이 아예 없어야 하는 망이라면 폐쇄망 구성

폐쇄망에서는 모든 모델이 사내에서 돌고, 웹 검색 대신 사내 DB와 문서를 조사합니다.