AI를 쓰는 조직의 가장 큰 약점은 기억에 의존한다는 점입니다. 누가 어떤 지시로 어떤 문장을 만들었는지, 어떤 버전을 최종으로 채택했는지, 근거는 무엇이었는지 시간이 지나면 흐려집니다. 표시광고 사고가 커지는 이유도 결국 이 지점입니다. 과거에는 적당히 넘어갔는데 왜 이번에는 문제가 되는지, 왜 이 표현을 썼는지, 근거를 어디서 봤는지 문서화가 안 되어 있기 때문입니다.

기록은 많이 할수록 좋다는 말이 맞는 것처럼 들리지만, 실제 운영에서는 기록이 과하면 아무도 하지 않습니다. 그래서 AI규제 관리에서 기록의 목표는 전부 저장이 아니라 설명 가능성입니다. 나중에 문제가 생겼을 때, 이 문장이 어떤 입력에서 나왔고 누가 검토했고 어떤 근거로 승인했는지 최소한의 흐름이 복원되면 됩니다.

현실적인 기록의 단위는 네 가지로 잡는 것이 좋습니다. 입력의 요약, 결과물의 최종본, 승인 흔적, 근거의 존재 여부입니다. 입력의 요약은 프롬프트 전체를 저장하라는 뜻이 아닙니다. 어떤 목적의 문장을 만들었는지, 어떤 금지 기준을 적용했는지 요약만 남겨도 됩니다. 결과물은 최종 채택된 문장만 남기면 됩니다. 승인 흔적은 누가 언제 확인했는지 남기는 것입니다. 근거의 존재 여부는 근거자료가 필요한 표현인지 여부와, 필요한 경우 근거자료가 어디에 있는지 기록하는 수준이면 충분합니다.

이 기록 방식은 표시광고 사전점검과 아주 잘 맞습니다. 표시광고는 원래 근거를 중심으로 움직이기 때문입니다. 위험표현을 줄이는 것도 중요하지만, 더 중요한 것은 표현의 근거가 무엇이었는지 설명하는 일입니다. AI 결과물도 마찬가지입니다. AI가 만들어낸 문장을 잘 다듬는 것을 넘어, 그 문장을 회사가 책임질 수 있는 상태로 만드는 것이 핵심입니다.

기록의 범위가 정해지면 다음 문제는 외부 도구와 외주입니다. 많은 기업이 AI를 내부 시스템이 아니라 외부 도구로 쓰고, 광고 문구는 대행사와 협업합니다. 이때 책임선이 흐려집니다.

와이에스엠경영컨설팅 (AI리스크관리/AI규제관리 컨설턴트)