
인사이트 · 왜 업무용 AI인가
ChatGPT는 그렇게 똑똑한데, 왜 회사 일에는 못 쓸까
범용 AI 서비스에 "이번 달 우리 지점별 매출이 어떻게 돼?"라고 물으면 답은 금방 나옵니다. 문장은 매끄럽고 표까지 그려 줍니다. 그런데 숫자를 들여다보면 보고서에 옮길 수가 없습니다.
블로그
업무에 AI를 들이려는 의사결정자를 위한 짧은 글입니다. 현장에서 흔히 부딪히는 질문에서 시작해, 무엇이 풀리고 무엇이 다른지 3분 안에 전합니다.
1부
일반 AI와 업무용 AI가 어떻게 다른지 짚으며 연재 전체의 문제의식을 세웁니다.

인사이트 · 왜 업무용 AI인가
범용 AI 서비스에 "이번 달 우리 지점별 매출이 어떻게 돼?"라고 물으면 답은 금방 나옵니다. 문장은 매끄럽고 표까지 그려 줍니다. 그런데 숫자를 들여다보면 보고서에 옮길 수가 없습니다.

인사이트 · 왜 업무용 AI인가
영업 담당자가 사내 AI 챗봇에 "A 제품 지금 재고 몇 개야?"라고 묻습니다. 챗봇은 지난달 말에 올라온 재고 보고서를 찾아 거기 적힌 숫자로 답합니다.

인사이트 · 왜 업무용 AI인가
"이번 분기 연체 90일을 넘긴 거래처 가운데 규정상 추심 대상인 곳을 뽑고, 담당자별로 정리해 줘." 영업관리팀에서 흔히 나오는 요청입니다.
2부
회사 DB를 안전하게 연결하고, 말로 묻고, 정확한 답을 받는 일을 다룹니다. 사내망 DB와 Amazon RDS·Supabase 연결, 정확한 SQL, 부서마다 다른 기준, 운영 DB를 붙일 때 보안팀이 묻는 것이 여기에 속합니다.

인사이트 · 회사 DB에 묻기
데모에서는 감탄이 나옵니다. "지난달 가장 많이 팔린 제품 다섯 개"를 묻자마자 AI가 SQL(데이터베이스 조회 언어)을 짜서 정확한 답을 내놓습니다.

인사이트 · 회사 DB에 묻기
경영회의에서 영업본부는 매출이 12% 늘었다고 보고하고, 재무팀은 8%라고 말합니다. 둘 다 틀리지 않았습니다.

인사이트 · 회사 DB에 묻기
업무 DB에 AI를 연결하자는 이야기가 나오면 DB 관리자와 보안팀은 같은 질문 세 개를 꺼냅니다. AI가 실수로 데이터를 지우면 어떻게 하나.

인사이트 · 회사 DB에 묻기
AI 도입 검토 회의에서 IT팀이 받은 요청은 "AI 서버가 접속할 수 있게 DB 포트를 열어 달라"였습니다.

인사이트 · 회사 DB에 묻기
고객 DB가 Amazon RDS에 있습니다. AI에 연결하려면 IT 담당자가 AWS 콘솔을 열고 접속 주소와 포트를 복사하고, 그 리전의 인증서 파일을 받아 AI 관리 화면에 한 칸씩 옮겨 붙입니다.

인사이트 · 회사 DB에 묻기
서비스 데이터가 Supabase에 있습니다. AI에 연결하려고 담당자가 Supabase 대시보드를 열면 같은 DB로 가는 주소가 셋 보입니다.
3부
OwlAI만으로도 회사 DB를 연결해 질문할 수 있습니다. DB 관리 솔루션 OwlDB를 함께 쓰면 테이블 단위 권한, 무거운 쿼리 보호, 스탠바이 노드 활용, 접속 정보 없는 연결이 더해집니다. 무엇이 어떻게 나아지는지를 다룹니다.

인사이트 · OwlDB와 함께 쓰면
관리자가 영업팀 역할에 업무 DB를 열어 줍니다. 영업 사원이 고객별 주문 실적을 물으면 AI가 그 DB에서 답을 찾아옵니다.

인사이트 · OwlDB와 함께 쓰면
AI가 운영 DB에서 수억 건짜리 테이블을 조건 없이 훑기 시작하면, 같은 DB를 쓰는 주문 화면과 정산 배치가 그 순간부터 함께 느려집니다.

인사이트 · OwlDB와 함께 쓰면
누군가 "지난달 지역별 매출"을 물어도 AI는 곧바로 답을 뽑지 않습니다. 테이블 구조를 살피고, 값 몇 개를 확인하고, 실행 계획을 본 뒤에야 본 조회를 보냅니다.

인사이트 · OwlDB와 함께 쓰면
주말에 DB 서버를 새 장비로 옮겼습니다. DB 관리 솔루션의 목록에는 벌써 새 주소가 올라가 있는데, 월요일 아침 AI에게 던진 매출 질문은 접속 실패로 끝납니다.
4부
쓸수록 개인과 팀의 지식이 쌓여 답이 나아지는 구조와, 그 기억을 회사가 통제하는 방법을 다룹니다.

인사이트 · 쓸수록 나아지는 AI
AI에게 보고서 초안을 부탁할 때마다 같은 조건을 붙입니다.

인사이트 · 쓸수록 나아지는 AI
어느 회사에나 데이터의 함정을 아는 고참이 있습니다.

인사이트 · 쓸수록 나아지는 AI
지난주 AI와 한참 이야기한 끝에 거래처별 미수금을 어떻게 조회할지 정리했습니다. 오늘 비슷한 숫자가 다시 필요한데 그 대화가 어디 있는지 기억나지 않습니다.

인사이트 · 쓸수록 나아지는 AI
영업 담당자 한 명이 회사를 떠났습니다. 계정은 막았지만 그 사람이 몇 달 동안 AI에게 알려 준 거래처 사정과 담당 업무, AI와 나눈 대화는 그대로 남아 있습니다.
5부
문서와 웹을 조사해 근거를 붙이는 일부터, 반복 보고서와 회사 양식 문서처럼 실제 업무를 맡기는 일까지 다룹니다.

인사이트 · 조사하고, 일을 맡기다
"동남아 3개국의 전자결제 규제 동향과 주요 경쟁사의 진출 현황을 정리해 줘." 이 요청을 받은 담당자는 며칠을 씁니다.

인사이트 · 조사하고, 일을 맡기다
AI가 정리해 준 시장 자료를 보고서에 옮기려는데 상사가 묻습니다. "이 숫자 출처가 어디야?" AI에게 다시 물으면 그럴듯한 기관 이름과 보고서 제목이 돌아옵니다.

인사이트 · 조사하고, 일을 맡기다
월요일 아침마다 같은 일을 하는 담당자가 있습니다. 지난주 매출을 뽑아 지역별로 나누고, 전주 대비 증감을 계산해 엑셀 보고서로 만든 뒤 팀에 돌립니다.

인사이트 · 조사하고, 일을 맡기다
AI에게 이번 달 견적서를 써 달라고 하면 내용은 금방 나옵니다. 그런데 손에 들어오는 것은 채팅창의 글이거나 AI가 제멋대로 꾸민 문서입니다.
6부
긴 대화, 대화 중 추가 지시, 눈에 띄지 않는 오답처럼 매일 쓰면서 부딪히는 신뢰 문제와, 회의 녹음에서 회의록까지를 다룹니다.

인사이트 · 매일 쓰는 대화와 회의
분기 실적을 AI와 한 시간째 들여다보고 있습니다. 처음에 "반품은 빼고 국내 지점만 보자"고 정했는데, 어느 순간부터 AI가 내놓는 숫자에 반품이 섞여 있습니다.

인사이트 · 매일 쓰는 대화와 회의
"지난 분기 지역별 매출을 엑셀로 정리해 줘"라고 보내자마자 생각납니다. 온라인 매출은 빼야 했습니다. 흔한 AI 채팅에서는 길이 둘뿐입니다.

인사이트 · 매일 쓰는 대화와 회의
AI에게 "올해 주문 내역을 보고 이상한 거래를 찾아 줘"라고 시킵니다. AI는 주문 3만 건을 조회하고 몇 건을 짚어 "전체를 검토한 결과 이상 거래는 5건"이라고 보고합니다.

인사이트 · 매일 쓰는 대화와 회의
회의가 끝나고 자동으로 만들어진 회의록을 엽니다. 협업 도구 「노션」은 「로션」으로, 사내 시스템 이름은 엉뚱한 낱말로, 프로젝트 약어는 소리 나는 대로 적혀 있습니다.

인사이트 · 매일 쓰는 대화와 회의
한 시간짜리 회의를 녹음해 받아쓰기까지 마쳤습니다. 손에 남은 것은 몇십 쪽의 글입니다.
7부
무엇은 규칙으로 막고, 무엇은 AI 판단에 맡기고, 어떻게 기록으로 확인하는지를 다룹니다. 데이터 반출, 숨은 명령, 개인정보, 비밀번호와 토큰, 코드 실행 격리, 승인, 외부 연결, 감사 기록이 모두 여기에 모여 있습니다.

인사이트 · 보안과 감사
업무용 AI 검토 회의는 대개 같은 질문으로 끝납니다. 성능은 알겠는데, 이걸 정말 믿고 맡겨도 되느냐는 것입니다.

인사이트 · 보안과 감사
영업 담당자가 고객 명단을 붙여 넣고 AI에게 정리를 부탁합니다. 업무용 AI 도입을 검토하면 보안 부서가 가장 먼저 묻는 것도 이 장면입니다.

인사이트 · 보안과 감사
거래처에서 온 메일 스무 통을 AI에게 요약해 달라고 맡깁니다. 그중 한 통의 맨 아래에 흰 글씨로 쓴 문장이 있습니다.

인사이트 · 보안과 감사
고객 문의 데이터를 분석해 달라고 했더니 AI의 답에 고객 전화번호가 그대로 찍혀 나옵니다. 개인정보를 가리는 장치를 붙이자 채팅 답변은 깔끔해졌습니다.

인사이트 · 보안과 감사
회사 DB와 클라우드 드라이브를 AI에 연결하면 DB 비밀번호와 드라이브 접근 권한을 AI 쪽에 맡기게 됩니다. 드라이브의 파일을 받아 정리해 달라고 하면 AI는 다운로드 링크를 받아 파일을 엽니다.

인사이트 · 보안과 감사
받은 매출 엑셀 파일에서 지역별 증감률을 계산해 PPT 한 장으로 정리해 달라고 하면, AI는 말로 답하는 대신 숫자를 계산하고 파일을 만들어야 합니다.

인사이트 · 보안과 감사
AI에게 "지난주 회의 참석자들에게 일정이 바뀌었다고 알려 줘"라고 맡겼는데, AI가 참석자 목록을 잘못 읽어 다른 팀 사람까지 받는 사람에 넣었다고 해 봅시다.

인사이트 · 보안과 감사
"지난주 회의에서 나온 할 일을 이슈로 등록해 줘." "다음 주 팀 일정 중 비는 시간을 찾아 줘." AI에 메일과 일정, 이슈 관리 도구를 연결하면 이런 요청을 한 번에 끝냅니다.

인사이트 · 보안과 감사
인사 데이터를 볼 수 없는 영업 사원이 AI에게 "올해 연봉 인상률 평균을 알려 줘"라고 묻습니다. AI가 회사 DB 전체에 접속할 수 있다면 사람에게 닫힌 문이 AI를 거쳐 열립니다.
8부
도입 형태를 고르는 일부터 설치, 확산, 업데이트, 레퍼런스까지 다룹니다.

인사이트 · 도입과 운영
업무용 AI 도입을 검토하는 자리에서 「이거 클라우드에 올려도 되나」라는 질문이 나오면 논의가 길어집니다. 빨리 시작하려면 클라우드가 편한데, 데이터를 생각하면 사내에 두고 싶습니다.

인사이트 · 도입과 운영
업무망 PC에서 ChatGPT 주소를 치면 페이지가 열리지 않습니다.

인사이트 · 도입과 운영
업무용 AI를 들이기로 한 첫 회의에서 IT는 어떤 서버를 준비하느냐고 묻고, 보안팀은 무엇이 회사 밖으로 나가느냐고 묻고, 현업은 언제부터 써 볼 수 있느냐고 묻습니다.

인사이트 · 도입과 운영
새 버전이 나왔다는 안내는 받았는데 서버는 여전히 몇 버전 전 그대로입니다. 설치형 소프트웨어를 쓰는 회사에서 흔한 모습입니다.

인사이트 · 도입과 운영
평일이면 하루 평균 152건의 질문이 사내 OwlAI에 들어옵니다.

인사이트 · 도입과 운영
데모 화면에서 "지난달 매출 상위 거래처는?"처럼 짧은 질문을 던지면 어느 제품이든 그럴듯한 답을 내놓습니다. 그래서 데모만 봐서는 업무용 AI 사이의 차이를 거의 가릴 수 없습니다.