AI를 의심하는 능력도 리터러시다

병원에서 24년을 일했다. 그 시간 동안 몸에 가장 깊이 배인 건 치료 기술이 아니라 확인하는 습관이다. 환자를 만나면 이름과 생년월일을 다시 묻는다. 처방지에 적힌 내용을 눈으로 한 번, 손으로 한 번 짚는다. 어제 본 환자라도 오늘 또 확인한다. 병원은 사람을 못 믿는 곳이 아니다. 사람이 틀릴 수 있다는 걸 전제로 돌아가는 곳이다.

AI를 업무에 쓰기 시작하면서 이 습관 덕에 여러 번 사고를 피했다. 그리고 교육을 하면서, 이 습관이 없는 사람에게는 AI가 꽤 위험한 도구가 될 수 있다는 걸 알게 됐다.

AI는 사람과 다르게 틀린다

사람은 모르면 티가 난다. 말이 느려지고, “아마”, “확실하진 않은데”가 붙는다. 듣는 사람은 그 신호를 읽고 확인할 마음을 먹는다. AI에게는 이 신호가 없다. 확실히 아는 것과 방금 지어낸 것을 같은 속도, 같은 문장 구조, 같은 확신으로 말한다. 존재하지 않는 논문에 저자와 연도를 붙이고, 없는 법 조항에 조문 번호를 달아 준다.

그래서 AI를 쓸 때의 의심은 사람을 대할 때의 의심과 다르다. 이상한 낌새가 느껴지면 확인하는 방식으로는 안 된다. 낌새 자체가 없기 때문이다. 어떤 종류의 내용이 위험한지를 미리 알고, 낌새와 상관없이 그 자리에서 멈추는 훈련이 필요하다. 이건 타고나는 감이 아니라 배워서 익히는 기술이다. 그래서 리터러시라고 부른다.

어디서 멈춰야 하는가

교육에서 실무자들에게 알려주는 멈춤 지점은 다섯 곳이다.

첫째, AI가 ‘있다’고 말하는 것들. 논문, 법령, 기관, 제도, 통계 출처. AI가 “이런 연구가 있습니다”라고 하면 그 연구가 실제로 있는지부터 본다. 요약이 맞는지는 그다음이다.

둘째, 숫자와 단위. 비율, 금액, 기간, 용량. 특히 앞뒤 문맥은 맞는데 숫자 하나만 슬쩍 다른 경우가 많다. 문장이 자연스러울수록 숫자는 더 의심한다.

셋째, 시점이 있는 내용. 정책, 지원사업 조건, 가격, 도구의 기능. AI는 학습 시점의 세상을 말한다. “지금도 그런가”는 별도로 확인해야 한다.

넷째, 단정하는 표현. “효과가 입증되었다”, “부작용이 없다”, “모든 경우에 적용된다”. 현실에서 이렇게 깨끗하게 말할 수 있는 일은 거의 없다. 단정이 나오면 그 문장부터 본다.

다섯째, 내가 준 자료 밖의 내용. 보고서 초안을 시켰는데 내가 붙인 자료에 없는 사례가 들어 있으면, 그건 AI가 채운 것이다. 잘 쓴 문장이라도 뺀다.

규제 업종에서 틀림은 위법이 된다

일반 업종에서 AI의 오류는 창피한 일이다. 규제 업종에서는 법적 문제가 된다. 여기서 병원 이야기를 안 할 수 없다.

병원 블로그 원고를 AI에게 시키면 자주 나오는 문장이 있다. “이 치료는 부작용이 없고 효과가 확실합니다.” 마케팅 문장으로는 매력적이다. 그러나 의료법은 치료 효과를 보장하거나 부작용 같은 중요 정보를 빠뜨리는 광고를 금지한다. AI가 그 법을 모르는 건 아니다. 알아도 문장을 만드는 순간에는 적용하지 않는다. 그 문장이 그대로 올라가면 그건 오타가 아니라 위반이다. 병원 마케팅 컨설팅을 하면서 AI 초안의 이런 문장을 걸러내는 일이 원고 작성 자체보다 더 중요한 업무가 됐다.

복지기관과 공공기관도 마찬가지다. 대상자 안내문에 지원 조건이나 법령 근거가 잘못 들어가면 그 안내를 믿고 움직인 시민이 피해를 본다. 세무, 노무, 금융 문서에서 조항 하나가 틀리면 그 문서를 받은 사람의 돈과 권리가 걸린다. 이런 업종에서 AI 리터러시의 절반은 잘 시키는 능력이고, 나머지 절반은 어디서 멈출지 아는 능력이다. 멈추는 능력이 없으면 잘 시키는 능력은 사고를 빨리 내는 능력이 된다.

의심을 습관으로 만드는 방법

의심하라는 말만으로는 안 된다. 병원이 확인을 개인의 양심에 맡기지 않고 절차로 만든 것처럼, AI 업무에도 절차가 필요하다.

시작할 때 한 줄을 넣는다. “자료에 없는 내용은 만들지 말고 확인이 필요하다고 표시해 줘.” 이것만으로 지어내는 양이 눈에 띄게 줄어든다. 초안을 받으면 근거를 묻는다. “이 주장의 출처를 알려 줘.” 그리고 그 출처를 실제로 열어 본다. 출처를 물었는데 답이 얼버무려지거나 물을 때마다 달라지면 그 내용은 뺀다. 중요한 문서는 다른 도구에도 같은 질문을 던져 본다. 두 도구가 다른 답을 하면 둘 다 틀렸을 수 있다는 신호다.

그리고 마지막으로, 외부로 나가는 문서에는 최종 확인자를 정한다. 만든 사람이 아닌 다른 사람이 한 번 더 본다. 병원에서 투약 전 두 사람이 확인하는 것과 같은 원리다. 혼자 하는 사업이라면 하루 지나서 다시 읽는 내가 그 두 번째 사람이다.

의심은 불신이 아니다

병원에서 환자 이름을 두 번 묻는 건 환자를 못 믿어서가 아니다. 틀리면 돌이킬 수 없는 일이 있다는 걸 알기 때문이다. AI를 의심하는 것도 같다. AI가 쓸모없다는 뜻이 아니라, 쓸모가 크기 때문에 틀렸을 때의 파장도 크다는 뜻이다.

내비게이션을 믿고 가되 이상하면 눈을 믿는 것처럼, AI를 믿고 쓰되 다섯 지점에서는 멈춘다. 그 멈춤이 습관이 된 사람이 AI를 가장 오래, 가장 안전하게 쓴다.