AI 글쓰기 반대론은 최소 2,400년은 묵었다
The Argument Against AI Writing Is At Least 2,400 Years Old
맞붙은 두 입장
브렛 스티븐스(Bret Stephens), 뉴욕타임스 「I'm Begging You: Never Write With A.I.」. 윤리가 아니라 인지(cognitive) 의 문제로 논지를 편다. AI로 쓰는 것은 "정신을 약하게 만든다(mentally enfeebling)" — 매일 계단을 올라야 할 자리에 놓인 에스컬레이터다. 근거는 글쓰기가 사고를 강제한다(writing compels thought) 는 것. 설익은 생각을 문법과 일관성, 타인의 검토라는 관문으로 밀어넣는 게 글쓰기이므로, 글쓰기를 외주화(outsource)하면 사고를 외주화하게 된다.
리드 호프먼(Reid Hoffman), 「The Pangloss of Pangram」. 도구가 아니라 결과물로 판단하라. 기준은 한 문장 — "사람이 자기가 한 말을 진심으로 의미해야 한다(a human being must mean what is said)."
펠드는 호프먼 편이다. 다만 스티븐스의 전제 자체는 인정한다. 글쓰기가 사고를 강제한다는 건 맞다 — 그가 2004년부터 블로그를 써온 이유도 "글쓰기가 내가 실제로 무엇을 생각하는지 알아내는 방법"이기 때문이다. 그가 갈라서는 지점은 "절대(never)" 라는 단어 하나다.
펠드 자신의 작업 루프
『Zero Knowledge』 34장까지 와 있다. 순서는 이렇다.
- 콘셉트는 본인이 낸다.
- AI(핀 아르고피)와 함께 구조를 짠다 — "플래너(planner)" 방식. 스토리 바이블, 세계관, 인물 아크, 비트, 챕터 스케치까지.
- AI가 한 챕터 초고를 쓴다.
- 펠드가 그 챕터를 다시 쓴다.
- AI가 고쳐진 부분을 학습해 자기 기반에 반영한다 → 다음 초고가 나아진다. 몇 번은 그동안 배운 것으로 앞 챕터들을 되돌아가 개선하게 했다.
책을 마쳐도 그건 초고일 뿐이고, 이후 더하고 고치는 데 오래 걸릴 거라고 본인이 못 박는다. 요지는 루프가 사람을 통과한다는 것이다.
반복되는 계보
| 시점 | 누가 | 무엇을 걱정했나 | 실제로는 |
|---|---|---|---|
| 기원전 4세기 | 소크라테스 (『파이드로스』) | 문자가 망각을 낳는다. 배우는 이들이 실체 없이 "지혜의 외양(the appearance of wisdom)"만 갖게 된다 | 문자는 문명의 토대가 됐다 |
| 1492 | 요하네스 트리테미우스 『필경사 예찬』 | 손으로 베끼는 노동이 경건이고, 인쇄본은 그 값싼 대체물이다 | 1494년에 그 글을 인쇄해서 냈다 |
| 1882 | (니체를 향한 여론) | 타자로 친 편지는 차갑다. 기계가 사람 사이에 끼어들었다 | 실명해가던 니체에게 타자기가 없었다면 종이 위에 아무 생각도 남지 않았다 |
| 1984 | 고어 비달 | 워드프로세서가 문학을 지우고 있다 | 같은 해 미국 작가 40~50%가 이미 쓰고 있었다 — 랠프 엘리슨, 아서 C. 클라크, 앤 라이스 |
| 2008 | 니컬러스 카 「Is Google Making Us Stupid?」 | 검색이 깊은 읽기를 훑어보기로 바꿨다 | — |
여기에 맞춤법 검사기가 맞춤법을 파괴한다, 문법 검사기가 문법을 파괴한다는 걱정이 덧붙는다.
곁가지 하나가 인상적이다. 1984년 6월 《BYTE》는 제리 퍼넬(Jerry Pournelle)의 칼럼을 "Computing at Chaos Manor"로 개명했다. 그는 1980년부터 자신과 래리 니븐이 소설을 쓰는 기계들에 대해 써왔고, 이미 컴퓨터로 쓴 최초의 SF 소설을 낸 사람이었다. 그가 "지크(Zeke)"라 부르던 Z-80은 지금 스미스소니언에 있다. 문학을 지운다던 그 기계가 유물이 됐다.
핵심 주장: 제로섬이 아니다
모든 사례가 같은 틀로 짜여 있었다 — 무언가를 얻었으니 무언가를 잃었을 것이다, 제로섬(zero sum).
펠드는 이게 틀린 틀이라고 본다. 문자 이후에도 기억은 남았고, 인쇄 이후에도 장인정신(craft)은 남았고, 타자기 이후에도 목소리(voice)는 남았다. 워드프로세서 이후 책은 더 좋아졌다. 매번 실제로 일어난 일은 천장이 높아진 것(the ceiling went higher) 이다. 그 일을 진심으로 아끼는 사람들은 계속 나아졌다. 도구로 자신을 증강하는 것은 인간 종(種)의 궤적 그 자체다.
그래도 문제는 진짜다
세상에는 역사상 가장 많은 나쁜 글이 있고, 그걸 만드는 비용은 0이 됐다. 누군가는 이 도구로 더 치열하게 생각하고, 누군가는 생각을 멈춘다. 누군가는 훌륭한 것을 만들고, 누군가는 더 큰 규모와 속도로 거짓말을 한다.
그건 AI의 문제가 아니라 우리의 문제다. 우리가 만든 모든 도구로 해온 짓이다. 이번만 다를 이유가 없다.
그래서 잘못은 기계를 쓰는 데 있지 않다. 버튼을 누르고, 돌아온 결과를 읽지도 않고, 자기 이름으로 발행하는 것이 잘못이다.
펠드가 호프먼의 기준에 덧붙이는 부칙(codicil)은 이것이다. 사람은 자주 틀리고, 틀렸을 때는 틀렸다고 인정해야 한다. 그게 비판적 사고의 일부다. 그리고 이 역시 새로울 게 없다 — 허위정보와 거짓말의 역사는 AI보다 한참 오래됐다.
스티븐스는 지시로 글을 맺는다. 기계가 답하게 두고 싶어지면, 그러지 말고 직접 타이핑하라. 펠드의 답 — 때로는 맞지만, 항상 맞지는 않다.
남는 것
- 판단 기준이 도구 → 결과물과 책임으로 옮겨간다. "AI를 썼는가"가 아니라 "읽었는가, 이해했는가, 내 말로 의미하는가".
- 반대론의 형식이 2,400년째 같다는 건, 그 형식만으로는 이번이 진짜 위험인지 아닌지 가릴 수 없다는 뜻이기도 하다. 계보는 반박이 아니라 입증 책임의 이동이다.
- 펠드의 작업 루프에서 결정적인 건 AI가 초고를 쓴다는 사실이 아니라, 고친 것이 다시 들어가 다음 초고를 바꾼다는 점이다. 검증과 피드백이 사람을 통과하는 한 스티븐스가 말한 "사고의 외주화"는 일어나지 않는다.