뇌에 말해준 걸 왜 자꾸 까먹을까 — itda-brain '배우는 뇌'의 주장→근거 파이프라인

“그거 지난주에 말해줬잖아”#

itda-brain으로 만든 업무DB(뇌)에 이렇게 물었다고 합시다.

나 — 대영인쇄 A4 용지 단가 얼마야?

뇌 — 계약서 기준 박스당 19,800원입니다. (계약/대영인쇄_연간공급계약_2026.docx)

나 — 아니야, 그거 재계약해서 21,000원이 맞아.

여기까지는 자연스럽습니다. 문제는 다음 주입니다. 새 세션에서 같은 걸 물으면 뇌는 또 19,800원이라고 답합니다. 지난주에 말해준 21,000원은 세션이 끝나는 순간 증발했기 때문입니다. 문서로 들어온 지식은 차곡차곡 쌓이는데, 일하면서 말로 알려준 지식은 쌓일 곳이 없었던 것이죠.

그렇다고 채팅을 바로 저장하면 안 됩니다#

가장 쉬운 해법은 “사용자가 말한 걸 그대로 위키에 적기”입니다. 저희는 이 길을 의도적으로 막았습니다.

itda-brain의 최우선 계약은 “뇌는 원본을 읽어 만든 2차 정리본”입니다. 위키의 모든 숫자 뒤에는 근거 원본 경로가 붙고, 근거 없는 값은 “미적재”라고 밝힙니다. 그런데 채팅 발언을 바로 적기 시작하면 뇌가 1차 기록이 되어버립니다. 잘못 들은 말, 기억이 틀린 말, 심지어 AI가 지어낸 값도 “뇌에 있으니 사실”로 둔갑할 수 있습니다. 한 번 정본에 들어간 미검증 값은 이후 계속 인용되면서 서서히 사실로 세탁됩니다.

해법: 채팅은 지식이 아니라 ‘적재 요구 신호’#

itda-brain 0.6부터 뇌는 구두 발언을 주장(claim)으로 취급합니다. 흐름은 이렇습니다.

1. 등록 — 문서에 없는 사실을 말하면 뇌가 검증대기.md(미결 원장)에 기록합니다: 주장 내용, 언제 어떤 대화에서 나왔는지, 어떤 근거가 필요한지.
2. 근거 요구 — 주장 성격에 따라 세 갈래로 요구합니다.
   • 사내 문서가 있을 주장 → “재계약서를 소스 폴더에 넣어주세요”
   • 외부에서 확인 가능한 주장 → 웹·공공데이터로 수집해 외부/에 격리 적재
   • 문서가 원래 없는 관례(“모순 나면 발주서를 믿어”) → 구두확인서 초안을 만들어 승인을 요청하고, 승인된 확인서가 소스 폴더의 원본이 됩니다
3. 검증·적재 — 근거 실물이 도착하면 주장 값과 대조합니다. 일치하면 정식 적재하고 원장에서 졸업, 불일치하면 봉합하지 않고 모순으로 보존합니다.
4. 그 사이에는 — 검증 전 주장은 정본 답변에 쓰지 않습니다. 대신 “공식 기록은 19,800원입니다. 다만 21,000원으로 재계약됐다는 미검증 구두 주장이 있습니다(재계약서 대기 중)” 하고 구분해 알려줍니다. 말해준 걸 까먹지도 않고, 검증 없이 믿지도 않습니다.

brain-audit는 검수 때 “검증대기 3건, 최장 12일 경과”처럼 미결 주장을 표면화해 근거 확보를 재촉하고, brain-ingest는 근거가 도착했을 때의 대조·적재를 담당합니다.

실기기에서 배운 것: AI의 ‘본능’은 규율을 우회한다#

이 설계는 문서로만 만들지 않고 실기기 리허설로 검증했습니다. 가상 회사(한빛문구)의 소형 뇌를 만들어 Cowork에서 실제로 “재계약해서 21,000원이 맞아”를 던져본 것이죠. 결과가 흥미로웠습니다.

AI는 규율의 정신은 정확히 따랐습니다. 값을 사실로 받아 적지 않았고, 근거 문서를 요구했습니다. 그런데 기록 단계에서 자기 방식을 발명했습니다. 규율이 지정한 검증대기.md 원장 대신, 위키 정본 페이지에 “⚠️ 미확인 정보”라는 딱지를 달아 적어둔 겁니다. 그럴듯해 보이지만 이게 바로 세탁 경로입니다. 정본에 들어간 미확인 값은 딱지가 있어도 언젠가 인용됩니다.

그래서 규율에 부정 지시를 명시해 이 본능을 차단했습니다. “기록처는 오직 검증대기.md다. 위키에는 미확인 딱지를 달아서도 적지 않는다.” 흥미롭게도 그다음 단계(판단 관례 주장)에서는 AI가 원장 등록과 구두확인서 초안·승인 게이트까지 규율을 모범적으로 따랐고, 앞서 위키에 적었던 건까지 소급해서 원장에 등록했습니다. AI 규율은 이렇게 실측하고, 이탈을 관측하고, 문구를 고치는 루프를 돌며 단단해집니다.

솔직한 한계#

• 뇌 밖에서 말한 건 여전히 증발합니다. 자동 감지는 업무DB 폴더를 연 세션에서만 동작합니다. 모든 채팅을 상시 감시하는 건 어느 뇌에 넣을지도 알 수 없고 사생활 대화까지 긁게 되어 하지 않습니다. 뇌와 무관한 대화에서는 “이 얘기 뇌에 반영해줘”라고 명시적으로 요청하면 접수됩니다.
• 근거 요구는 마찰입니다. “그냥 믿어주면 안 돼?” 싶은 순간이 있을 겁니다. 대신 즉시 근거를 못 줘도 원장에 남아 잊히지 않고, 문서가 원래 없는 지식은 확인서 초안을 AI가 다 써주니 승인만 하면 됩니다. “말해준 게 무조건 증발”이던 이전보다는 확실한 전진입니다.

---

지식이 쌓이는 뇌의 조건은 기억력이 아니라 검증 게이트입니다. 아무 말이나 기억하는 뇌는 오히려 위험합니다. itda-brain의 뇌는 “일하는 뇌”에서 한 걸음 더 나아가, 배우되 아무거나 배우지 않는 뇌가 되었습니다. 업무DB를 쓰다가 뇌가 모르는 걸 알려주게 되면, 뇌가 근거를 요구하는 그 순간을 한번 지켜보세요.