잘못 보낸 메일은 못 되돌리는데, AI에게 발송을 맡겨도 될까

#맡기되, 보내기 직전에는 사람이 본다

AI에게 "지난주 회의 참석자들에게 일정이 바뀌었다고 알려 줘"라고 맡겼는데, AI가 참석자 목록을 잘못 읽어 다른 팀 사람까지 받는 사람에 넣었다고 해 봅시다. 메일은 나가는 순간 되돌릴 수 없습니다. 이슈 관리 시스템에 단 코멘트, 바꾼 일정, 다른 시스템으로 옮긴 데이터도 마찬가지입니다. AI가 답만 하던 단계를 지나 일을 하기 시작하면 편해지는 만큼 이런 걱정이 따라옵니다.

그래도 맡길 수 있습니다. 신입 직원에게 일을 맡길 때처럼 하면 됩니다. 조회나 초안 작성은 알아서 하게 두고, 대외 발송이나 결재는 한 번 보고 나서 하게 하는 식입니다. OwlAI도 승인이 필요한 도구를 쓰려 할 때는 실행 직전에 멈추고, 무엇을 어디로 보내려는지 보여 준 뒤 사람의 답을 기다립니다.

#확인 창에는 받는 사람과 내용이 그대로 보인다

채팅 중에 승인이 필요한 작업이 나오면 화면에 "이 도구 실행을 승인하시겠습니까?"라는 확인 창이 뜹니다. 창에는 AI가 쓰려는 도구와 그 도구에 넘길 값이 함께 보입니다. 메일이라면 받는 사람과 내용을, 이슈라면 대상 이슈와 남길 코멘트를 실행 전에 확인합니다. 되돌릴 수 없는 작업이면 그 사실이 따로 표시됩니다.

고를 수 있는 답은 셋입니다. 「승인」은 이번 한 번만 실행하고, 「거부」하면 실행하지 않습니다. 거부당한 AI는 그 도구 없이 이어 가거나 멈춥니다. 「항상 허용」은 이번에 실행하고 다음부터 같은 도구를 묻지 않는데, 자주 쓰는 안전한 도구에 알맞고 나중에 설정에서 언제든 해제할 수 있습니다. 파일을 내 PC나 작업 공간 밖으로 올려 보내는 도구에는 「항상 허용」이 없어서, 부를 때마다 확인합니다.

승인은 요청한 본인만 할 수 있습니다. 다른 사람의 승인 요청을 대신 승인하거나 취소할 수 없습니다.

#지켜보는 사람이 없는 작업은 미리 승인받는다

반복 업무 자동화인 플레이북은 사람이 화면 앞에 없는 시각에도 돕니다. 그래서 플레이북을 켜거나 실행할 때 쓰일 도구를 단계별로 미리 보여 주고 한꺼번에 승인받습니다. 플레이북 내용이나 관리자의 권한 설정이 바뀌면 이전 승인은 자동으로 풀리고, 다시 확인해야 실행됩니다. 단계마다 승인이 필요한 도구를 몇 번까지 부를 수 있는지 상한도 정할 수 있습니다.

여러 AI가 나눠 조사하는 딥 리서치처럼 중간에 사람이 확인하기 어려운 작업에서는 AI가 승인 없이 쓸 수 있는 도구만 씁니다. 승인 절차를 건너뛰는 길을 만들지 않기 위해서입니다.

#무엇을 묻고 무엇을 막을지는 회사가 정한다

무엇이 위험한지는 회사마다 다릅니다. 그래서 승인 대상은 제품이 일괄로 정하지 않고 관리자가 정합니다. 연결한 외부 서비스의 도구는 「허용」으로 들어오고, 관리자는 그 가운데 위험한 도구만 골라 「승인 필요」나 「차단」으로 바꿉니다. 조회 도구는 그대로 두고, 메일 발송과 일정 변경은 승인 필요로, 데이터 삭제는 차단으로 돌리는 식입니다.

이 설정은 조직 전체에 한 번 거는 상한입니다. 역할은 어느 서비스를 쓸지만 정하고, 그 서비스를 쓰는 역할이라도 여기서 차단한 도구는 누구도 쓸 수 없습니다. 승인 필요는 도구에 붙은 성질이라 누가 부르든 매번 승인을 받습니다. 차단한 도구는 AI의 도구 목록에서 아예 빠집니다.

#잘못 나간 메일도 누가 승인했는지 거슬러 올라갈 수 있다

승인 하나하나가 감사 기록에 남습니다. 어떤 도구를 어디에 쓰려는 요청이었는지, 누가 언제 승인하거나 거부했는지, 아무도 답하지 않아 만료됐는지가 기록됩니다. 메일이 잘못 나갔다면 그 메일을 누가 확인하고 승인했는지까지 따라갈 수 있습니다. 메일 본문 같은 내용은 감사 기록에 옮겨 적지 않고, 승인한 사람 자신의 대화에 남습니다. 관리자도 남의 대화 내용은 보지 않는다는 원칙을 감사 기록에도 그대로 적용합니다.

도구 권한 설정을 바꾼 일도 관리 이벤트로 남아, 누가 언제 어떤 도구의 권한을 바꿨는지 확인할 수 있습니다. 실제로 실행된 작업은 사용자가 답 위의 진행 단계에서, 플레이북이라면 실행 기록에서 단계별로 봅니다.

답변을 중간에 멈춰도 이미 실행된 작업은 되돌아가지 않습니다. 그때는 이미 실행된 작업이 있다고 알려 주므로, 다시 요청하기 전에 결과부터 확인하면 됩니다. 도입을 앞두고 있다면 연결할 외부 서비스의 도구 목록을 펼쳐 놓고, 어느 도구에서 멈추고 어느 도구를 막을지 먼저 정해 두는 것이 순서입니다. 나머지는 허용으로 둡니다.