보안팀이 클라우드는 안 된다고 하면, 업무용 AI는 어디에 둘까

#세 형태는 서버와 모델이 어디 있느냐로 갈린다

업무용 AI 도입을 검토하는 자리에서 「이거 클라우드에 올려도 되나」라는 질문이 나오면 논의가 길어집니다. 빨리 시작하려면 클라우드가 편한데, 데이터를 생각하면 사내에 두고 싶습니다. 인터넷이 끊긴 망을 쓰는 회사라면 선택지가 있기는 한지부터 묻게 됩니다.

답은 회사 규정에 달려 있고, 어느 쪽이든 길이 있습니다. 업무 데이터를 외부 클라우드에서 처리해도 사내 규정에 걸리지 않으면 클라우드형으로 바로 시작합니다. 규정이나 보안팀이 허용하지 않으면 회사 서버에 설치하는 설치형이 있고, 인터넷 연결 자체가 막힌 망이면 폐쇄망 설치가 있습니다. OwlAI는 세 형태 모두 쓰는 화면과 기본 기능이 같습니다. 다른 것은 서버가 어디에 있고 AI 모델이 어디서 도느냐입니다.

#운영 부담과 시작 시점은 형태마다 다르다

클라우드형은 OwlAI가 운영하는 SaaS에 가입해 쓰는 방식이라 준비할 서버가 없습니다. 설치형은 회사 서버에 OwlAI를 설치해 직접 운영합니다. 폐쇄망은 설치형을 인터넷과 끊긴 망에 설치하는 경우로, 외부 AI 서비스 없이 사내 GPU 서버의 모델만으로 돌립니다.

질문 하나가 답이 되어 돌아오기까지 거치는 서버와 모델도 형태마다 다릅니다.

#기본 기능은 같고, 바깥에 닿는 기능만 갈린다

채팅, DB 질의, 문서 검색, 회의록, 플레이북은 세 형태에서 똑같이 씁니다.

웹 검색과 웹 페이지 읽기는 인터넷이 있는 형태에서 쓰고, 폐쇄망에서는 웹 대신 사내 DB와 문서를 조사합니다. 외부 서비스를 붙이는 커넥터도 갈립니다. 클라우드형은 인터넷에서 닿는 서비스만 연결할 수 있고, 설치형은 사내 시스템까지 연결할 수 있으며, 폐쇄망은 사내망 안의 시스템만 연결할 수 있습니다.

AI 모델 구성도 다릅니다. 사내 GPU 모델을 연결하는 선택지는 설치형과 폐쇄망에만 있습니다. 폐쇄망은 사내 GPU에 올린 공개 모델로 채팅, DB 질의, 문서 작성, 플레이북을 모두 돌립니다. 그 모델이 우리 회사 업무에 맞는지는 시범 단계에서 실제 업무 질문을 던져 확인합니다.

설치형과 폐쇄망은 서버 주소에 정식 HTTPS 인증서를 갖추는 편이 좋습니다. 마이크 음성 입력과 웹 알림은 보안 연결에서만 동작하고, 자체 서명 인증서라면 데스크톱 앱과 브라우저마다 그 인증서를 신뢰하도록 설정해야 하기 때문입니다. 모바일 앱은 https:// 주소의 서버에만 연결합니다.

#회사 규정과 연결할 시스템이 형태를 정한다

빨리 시작해 효과부터 확인하고 싶고, 업무 데이터를 외부 클라우드에서 처리해도 규정상 문제가 없다면 클라우드형이 맞습니다. 서버를 준비할 필요 없이 관리자 한 명이 무료 체험 크레딧으로 바로 써 볼 수 있습니다. 구독은 AWS Marketplace에서 하고, 사용자 자리 수만큼 달마다 청구되며 자리마다 그달 쓸 수 있는 AI 사용량이 크레딧으로 붙습니다.

사내 DB와 사내 시스템을 깊게 연결해야 하거나 데이터가 머무는 곳을 회사가 직접 통제해야 한다면 설치형이 맞습니다. 외부 모델과 내부 모델을 업무 성격에 맞춰 섞어 쓸 수 있다는 점이 가장 큰 장점입니다.

규제나 보안 등급 때문에 인터넷 연결 자체가 허용되지 않는 망이라면 폐쇄망입니다. GPU 서버를 마련하고 반입 절차를 밟는 부담이 따르지만, 질문도 데이터도 회사 밖으로 한 글자도 나가지 않습니다. 설치형과 폐쇄망의 비용은 사용자 수, 모델 구성, GPU 서버를 새로 마련하는지에 따라 크게 달라집니다.

그래서 형태를 고르기 전에 IT 부서와 보안 담당자에게 확인할 것은 셋입니다.

• 업무 데이터를 외부 클라우드에서 처리해도 사내 규정에 걸리지 않는지
• AI에 연결해야 할 사내 DB와 사내 시스템이 있는지
• 인터넷 연결이 허용되지 않는 망인지, 그렇다면 GPU 서버를 마련할 수 있는지