답변에서 가린 주민번호, 엑셀 파일에는 그대로 남을까

#답변 한 곳만 지키면 파일과 메일로 샌다

고객 문의 데이터를 분석해 달라고 했더니 AI의 답에 고객 전화번호가 그대로 찍혀 나옵니다. 개인정보를 가리는 장치를 붙이자 채팅 답변은 깔끔해졌습니다. 그런데 같은 결과를 엑셀 파일로 받아 보면 주민등록번호가 원문 그대로 들어 있고, 플레이북(정해 둔 조회와 보고를 일정에 맞춰 대신 돌리는 자동 작업)이 메일 도구로 보낸 주간 보고 메일에는 고객 이메일이 줄줄이 적혀 있습니다. 답변 한 곳만 지키면 나머지 출구로 새어 나갑니다.

OwlAI는 이 출구를 세 겹으로 막습니다. 필요 없는 개인정보는 처음부터 꺼내지 않고, 꺼낸 값은 AI가 보기 전에 규칙대로 가리며, 답변이든 파일이든 메일이든 밖으로 나가는 길목에서 한 번 더 판정합니다.

#필요 없는 개인정보는 처음부터 꺼내지 않는다

가장 좋은 방어는 애초에 꺼내지 않는 것입니다. AI는 주민등록번호, 전화번호, 이메일, 집 주소 같은 컬럼을 단지 있다는 이유로 조회하지 말라는 지침을 받습니다. 질문에 꼭 필요하면 가린 값이나 집계로 돌려줍니다. 다만 이 겹은 AI가 따르는 지침이어서, 보증은 기계적으로 도는 다음 겹이 맡습니다.

#AI가 보기 전에 규칙대로 가린다

조회 결과와 도구 결과는 AI에게 들어가기 전에 개인정보가 가려집니다. 이 단계는 AI의 판단을 거치지 않고 정해진 규칙대로 돕니다. 판정 근거는 두 가지입니다. 하나는 컬럼 분류로, DB를 분석할 때 어떤 컬럼이 개인정보인지 판정해 두고 관리자가 그 판정을 고칠 수 있습니다. 다른 하나는 값의 모양입니다. 주민등록번호, 전화번호, 이메일, 계좌번호, 카드번호처럼 형식이 정해진 값은 어느 컬럼에 들어 있든 찾아냅니다. 개인정보로 분류되지 않은 컬럼에 섞인 전화번호도 모양으로 걸립니다.

가린 값은 같은 대화 안에서 늘 같은 표시로 바뀝니다. 고객 A의 전화번호는 몇 번을 나와도 [전화번호-1]입니다. 그래서 AI는 번호를 모르고도 같은 고객의 주문을 묶어 세거나 두 결과를 이어 볼 수 있습니다. 가렸다고 분석이 멈추지는 않습니다.

#파일·메일·댓글도 같은 경계를 지난다

데이터가 나가는 출구는 답변 말고 두 갈래가 더 있습니다. 하나는 AI가 만든 엑셀·워드·PPT·한글 파일과 CSV 내보내기 같은 생성 파일입니다. 다른 하나는 메일 보내기, 이슈 등록과 댓글, 메신저처럼 외부 서비스에 기록을 쓰는 도구입니다. 플레이북이 결과를 다른 사람에게 보낼 때도 이 외부 쓰기 도구를 씁니다. 세 출구를 전부 하나의 출력 경계로 묶고, 경계를 지날 때 개인정보를 한 번 더 판정합니다.

판정은 원문 열람 권한을 봅니다. 원문을 볼 권한이 있는 사용자는 화면에서 원문을 확인하고, 내보내는 파일에도 권한에 따라 원문이나 가린 값이 실립니다. 메일 도구처럼 바깥에 쓰는 도구는 승인을 거쳐야 실행됩니다. 채팅에서는 확인 창에서 받는 사람과 내용을 보고, 플레이북은 켤 때 쓸 도구를 미리 승인받습니다(「잘못 보낸 메일은 못 되돌리는데, AI에게 발송을 맡겨도 될까」). 처음 장면의 엑셀 파일과 주간 보고 메일도 이 경계를 지나야 밖으로 나갑니다.

#어디서 가렸고 누가 원문을 봤는지 남는다

출구에서 가린 일, 원문을 연 일, 원문이 실린 내보내기는 모두 감사 기록에 남습니다. 나중에 개인정보가 어느 출구에서 가려졌고 누가 원문을 열었는지 이 기록으로 확인할 수 있습니다.

도입할 때는 두 가지를 먼저 정해 둡니다. 분석이 판정한 개인정보 컬럼이 회사 기준과 맞는지, 그리고 원문 열람 권한을 누구에게 줄지입니다.