인사이트쓸수록 나아지는 AI

매번 붙이는 보고서 조건, AI가 기억하게 할 수 있을까

대화를 새로 열면 AI는 나를 처음 본다

AI에게 보고서 초안을 부탁할 때마다 같은 조건을 붙입니다. "표는 3개 이내로, 결론부터, 금액은 백만 원 단위로." 사내 이슈 관리 시스템에서 내 담당 건을 찾아 달라고 하면, AI는 이번에도 그 시스템에서 내가 누구인지부터 묻습니다. 어제 한 말을 오늘 또 해야 합니다.

이유는 단순합니다. 대화가 끝나면 AI에게 남는 것이 없어서 새 대화는 늘 빈 상태로 시작합니다. 사람 비서처럼 한두 번 들은 것을 기억하게 하려면 기억을 실제 기록으로 남기고, 다음 대화마다 그 기록을 AI에게 건네야 합니다. OwlAI는 그렇게 합니다.

기억은 말이 아니라 기록으로 남는다

"기억해 두겠습니다"라고 답하고 실제로는 아무것도 저장하지 않는 AI가 있습니다. 그 대화 안에서는 기억하는 듯 보여도 다음 대화에서는 전부 잊습니다.

OwlAI에서 기억한다는 것은 저장한다는 뜻입니다. AI가 기억할 내용을 정하면 개인 메모에 적고, 이 메모는 이후 모든 대화의 시작에 AI에게 전달됩니다. 메모가 바뀔 때마다 무엇이 더해지고 무엇이 빠졌는지도 기록에 남습니다.

메모가 길어지면 AI는 비슷한 내용을 합치고 낡은 내용을 지운 뒤에 새 내용을 더합니다. 메모가 끝없이 불어나 정작 중요한 내용이 그 밑에 묻히는 일을 막으려는 것입니다.

오래 갈 사실만 적는다

메모는 앞으로의 모든 대화에 함께 실립니다. 그래서 오래 유효하고 거의 모든 대화에 관련 있는 내용만 적어야 쓸모가 있습니다.

그런 내용은 세 갈래입니다. 부르는 이름과 직무, 담당 영역 같은 업무 배경이 하나이고, 결론부터 쓰기나 특정 단위로 표시하기 같은 보고 방식이 또 하나입니다. 마지막은 다른 시스템에서의 내 계정입니다. 이슈 관리 시스템에서 내 계정이 한 번 확인되면 다음부터는 "내 담당 건"을 물어도 다시 확인하지 않습니다.

특정 날짜나 특정 건 하나, 질문 한 번에만 해당하는 내용은 적지 않는 편이 낫습니다. 시간이 지나 사실이 아니게 된 내용이 메모에 남아 있으면 그 뒤의 답을 계속 흐리기 때문입니다. AI는 이 기준에 맞춰 적을 내용을 고르도록 지시를 받습니다.

메모는 내가 보고 고친다

AI가 나에 대해 무엇을 적어 두었는지 모르면 불안합니다. 엉뚱한 내용이 하나 적히면 그 뒤의 답이 그 내용에 끌려 비뚤어질 수 있습니다.

설정의 「기억된 내용」에는 AI가 적어 둔 글이 그대로 보입니다. 화면에 보이는 글이 곧 AI에게 전달되는 글입니다. 틀린 내용은 고치고, 필요 없는 내용은 지우고, 미리 알려 주고 싶은 것은 직접 적어 저장합니다. 전부 지우고 처음부터 다시 시작할 수도 있습니다.

설정의 「기억된 내용」: AI가 적은 메모를 내가 고친다
그림 1. 설정의 「기억된 내용」: AI가 적은 메모를 내가 고친다

질문은 짧아지고 답은 나에게 맞춰진다

메모가 쌓이면 질문이 짧아집니다. 매번 붙이던 조건을 빼도 AI가 알아서 적용하고, "내 담당 건"처럼 나를 기준으로 한 질문에도 되묻지 않고 바로 답합니다.

업무용 AI를 고를 때는 이 대목을 직접 시험해 볼 만합니다. AI가 기억하겠다고 답한 뒤 새 대화를 열어도 정말 그 내용을 아는지, 기억된 내용을 사용자 본인이 화면에서 보고 고칠 수 있는지, 기억이 바뀐 기록이 남는지를 확인합니다.

이 메모는 나 한 사람에 관한 것입니다. 팀 전체가 함께 쓰는 데이터 지식은 따로 쌓이며, 그 이야기는 「담당자 머릿속에만 있던 데이터 규칙, 그 사람이 떠나도 AI는 기억할까」에서 이어집니다.

어떤 기술로 풀었을까요?

쓸수록 나아지는 AI의 다른 글