Population-1

잭 바넷 (Zach Barnett)

(원문: https://sites.google.com/site/asenselessconversation)

잭: 내 이름은 잭 바넷이다. 기계는 생각을 할 수 있을까? 오늘의 사건이 있기 전까지, 난 인간이 만든 기계는 생각을 할 수 없다고 생각했다. 하지만 그것은 잘못된 생각이었다.

전화벨 소리에 잠에서 깼다. 내 절친 더글러스가 나를 찾는 전화였다. 더글러스는 컴퓨터실험 과학자다. 그가 문득 나에게 튜링테스트를 통과할 수 있는 컴퓨터를 만들어 냈다고 전했다.

내가 알기로 튜링 테스트는 기계의 지능을 테스트하기 위해 고안된 방법이다. 단순히 기계가 지능을 흉내낼 수 있는지 판단하는 방법일 뿐이 아니라, 기계가 진짜로 생각하고 이해했는지 판단하는 방법이기도 하다. 앨런 튜링이 제안한 이 ‘지능 테스트’는 일종의 ‘흉내 내기 게임’이었다. 한 방에는 평범한 사람이, 다른 한 방에는 기계(아마도 컴퓨터)가 있다. 검사자는 어떤 방에 컴퓨터가 있는지 모른채 자연 언어로 두 실험자와 대화를 시작한다. 튜링의 말 대로라면, 검사자가 기계와 사람을 확실하게 구분할 수 없을 때, 그 기계는 생각을 하고 깨달음을 얻으며, 엄연히 의식을 지녔다고 인정한다는 것이다.

나는 이 실험이 그럴듯 하다고 생각해본 적이 없다. 어떻게 겉으로 드러나는 특정 행동만 보고 기계 내부에서 일어나는 일을 알 수 있단 말인가? 마음과 생각이 없는 기계라도 항상 올바른 대답으로 상대방을 감쪽같이 속일 수 있을텐데, 어째서 튜링은 그것이 불가능하다고 생각했을까? 게다가 우리가 그 기계가 되어보지 않고서 어떻게 기계가 의식을 가졌다고 단정할 수 있다는 말인가.

비록 회의적이긴 했지만, 나는 더글러스가 만들었다는 그 컴퓨터가 궁금했다. 그 기계가 지능을 가졌든 아니든 직접 ‘대화’를 해보고 싶었다. 안타깝지만, 내게 그런 기회는 주어지지 않았다. 내가 도착하자 더글러스는 나를 ‘A번 방’으로 안내했다. 그는 직접 튜링테스트를 하고 싶으니 나더러 테스트의 사람 역할을 해달라고 말했다. 더글러스가 말했던 그 컴퓨터는 ‘B번 방’에 있다고 했다. 더글러스는 우리 둘과 대화를 하며 나의 인간적인 반응과 그가 만든 멍청한 무생물의 ‘인간스러운’ 반응을 구분할 수 있을 것이다.

A번 방에 들어갔을 때, 내 예상과는 다르게 채팅 프로그램이 깔려있는 장비 따위는 없었다. 대신 그곳에는 투명하고 수상한 액체가 가득찬 거대한 컨테이너가 있었다. 더글러스는 그 컨테이너가 감각을 상실시키는 탱크라고 설명하며 나더러 그 안으로 들어가라고 했다. 으윽. ‘왜 이런데 들어가야 하는거지?’ 하는 궁금증이 들었다. 아마도 더글러스는 내가 감각상실 탱크에 들어가서 그나마 기계와 비슷한 조건이 되기를 바랬을 것이다. 컴퓨터는 눈과 귀가 없으니 더글러스는 나도 그것들을 사용하지 않기를 원한것 같다.

더글러스는 내가 그 탱크에 있는 동안 아무것도 느낄 수 없을것이라고 말했다. 심지어 내 스스로의 목소리도 들을 수 없다고 했다. 그럼 대화를 어떻게 한다는 말인가? 더글러스는 뇌-컴퓨터 인터페이스를 보여주었는데, 그것은 대화가 아닌 생각으로 의사소통을 할 수 있는 장치였다. 그가 마이크로 이야기하면, 나는 그의 목소리를 내 ‘마음의 귀’로 ‘듣는’것이다. 대답을 하려면 내 반응을 ‘생각’하면 되는데, 그러면 그는 내 생각을 문자로 받게 된다. 나에게는 약간 공상과학처럼 느껴졌지만, 더글러스는 믿어달라고 했다. 그는 실험이 오래 걸리지는 않을거라며 끝나는 대로 밖으로 꺼내주겠다고 했다. 나는 그를 믿었다. 숨을 깊게 쉬고 탱크에 들어가자 더글러스가 뚜껑을 닫았다.

얼마간의 정적이 흘렀다. 나는 아무것도 볼 수 없었고, 몸을 움직이려고 해도 내 움직임을 느낄 수 없었다. 말을 하려고 해도 내 말 소리는 들리지 않았다. 그때 문득, 놀랍게도 더글러스의 목소리를 ‘들을’ 수 있었다.

더글러스: 거기 어때? 조금 편해지지 않았나?

잭: 기분이 좀 이상한데. 그래도 괜찮아.

더글러스: 좋아.

나는 내 마음으로 대화를 했는데, 돌이켜보면 꽤나 멋졌다. 당시에는 그저 섬뜩했지만. 나는 대화에 집중하려고 애를 썼다.

잭: 잠깐이지만, 자네가 왜 나를 이 감각상실 탱크에 들어가길 원했는지 의아했어. 그런데 금방 이유를 알겠더군.

더글러스: 이유를 알겠다고?

잭: 그런것 같아. 자네는 내가 컴퓨터와 같은 상태이길 원했던것 아닌가? 내가 대화 도중 보고, 듣고, 느낄 수 있다면 그러한 경험들을 자네에게 얘기할 수 있을것 아닌가. 컴퓨터는 그게 불가능하니까, 내가 일종의 불공평한 이점을 가지는 셈이지.

더글러스: 훌륭한 관찰이네! 몇몇 컴퓨터 과학자들은 이러한 불공평함을 극복하기 위한 노력을 했었지. 하지만 큰 효과는 없었어. 그럴싸하게 거짓말을 하는 것은 어렵지만, 그럴싸하게 거짓말을 하는 무언가를 만들어 내는 것은 훨씬 어렵거든.

잭: 어쨌든 흥미로군. 그렇다 하더라도 자네는 내가 이 튜링 테스트를 엉터리라고 생각한다는 사실을 알아야 해. 만약 자네의 컴퓨터가 이 ‘테스트’를 통과한다 하더라도, 나는 그것이 지능과는 아무런 상관도 없다고 생각해.

더글러스: 자네라면 그렇게 받아들일 줄 알았어. 하지만 자네가 내 컴퓨터의 작동하는 모습을 직접 본다면 아마 생각이 달라질거야.

잭: 정말 그럴까? 나는 ‘작동’하는 모습을 보는것 만으로는 납득하지 못해. 결국 미리 프로그래밍된 결과잖아.

더글러스: 그렇게 생각하나? 어째서 감각상실 탱크가 이토록 중요한지 내 설명을 조금 더 듣고 나면 생각이 달라질걸세.

잭: 이 탱크의 필요성에 대해서는 이미 내가 충분히 설명하지 않았나?

더글러스: 그게 전부는 아니야. 인간이 탱크 안에 있으면 보다 공평한 실험이 된다는 자네의 생각은 옳아. 하지만 그보다 더 결정적인 이유가 있네.

잭: 그래서 나에게 말을 해줄 건가? 아니면 나를 이렇게 감각이 상실된 채로 불안하게 방치할건가?

더글러스: 간접적인 방법으로 말해줄 생각이네.

잭: 좋아.

빈정대는 투로 대답을 했지만, 그는 문자로 받아보기에 의도가 전달됬는지는 알 수 없었다.

더글러스: 이 프로젝트를 다년간 진행하면서, 단 하나의 장애물이 있었네. 사람처럼 대화를 할 수 있는 컴퓨터를 만들기 위한 내 모든 시도는 그 장애물 앞에서 좌절됐어. 이 탱크는 사실 그 퍼즐의 마지막 조각이야!

잭: 장애물이라니?

더글러스: 이전까지는 내가 기계를 켜기만 하면 기계가 공황상태(panic)가 됬었네.

잭: ‘공황’상태가 된다고? ‘공황’인 것처럼 가장한다는 것이겠지?

더글러스: 반드시 그런 것은 아니야.

잭: 그럼 ‘공황’에 빠지지 않도록 프로그램을 만들 수는 없었나?

더글러스: 안돼, 그런 시도를 하기에는 이미 너무 복잡해.

잭: 이해가 안가는데. 켜면 켜지는게 컴퓨터야. 문서를 출력하라면 출력하는게 컴퓨터고. 컴퓨터는 기본적으로 룰을 따르도록 되어있어. 다시 말하면, 만약 컴퓨터가 ‘공황에 빠졌다’는 것은 누군가가 그렇게 하라고 했기 때문이야!

더글러스: 흠. 자네 말대로라면, 컴퓨터 프로그래머는 그가 작성한 컴퓨터의 프로그램을 언제나 예측할 수 있어야 한다는 것이군?

잭: 물론이지.

더글러스: 하지만 프로그래머는 무적의 체스 프로그램 쉬누크(Chinook)를 만들 수는 있어도, 그들 스스로가 완벽한 체스를 둘 수는 없다네!

잭: 그야 그렇지만, 경우가 달라. 계산을 먼저 해보지 않고서는 쉬누크의 동작을 예측할 수 없지만 그 과정이 불가사의 하지는 않아. 쉬누크는 단순히 프로그래머들이 작성한 코드에 의해 동작하는것뿐이라고!

더글러스: 체스로 예를 들자면 자네가 맞아. 하지만 내가 만든 컴퓨터는 쉬누크보다 더욱 복잡해. 튜링 테스트를 통과하려면 완벽한 체스를 두는 것과는 비교가 되지 않을 정도로 뛰어난 지능이 필요하니까.

내가 10대였을 때, 온라인 채팅봇 ‘심심이(SmarterChild)’와 대화를 하던것이 떠올랐다. 내가 직접 코드를 작성하지는 않았어도, 대부분의 대답은 거의 틀리지 않고 예측할 수 있었다. 그것은 거의 해삼 수준의 지능이었으니까. 내가 만약 이렇게 물으면,

‘심심아, 네가 가장 좋아하는 계절은 뭐니?’

그것은 아마 이렇게 대답할 것이다.

‘저는 “심심아, 네가 가장 좋아하는 계절은 뭐니?”같은 것에는 관심이 없어요. 다른 얘기 해요! 다른 명령어를 보시려면 “HELP”를 입력하세요’

물론 더글러스는 그의 컴퓨터가 내가 기억하는 단순하고 예측 가능한, 그런 멍청한 기계와는 커다란 차이가 있다고 생각하는것 같다.

잭: 자네의 컴퓨터가 그렇게 복잡하다면 그 모습을 어찌 상상이나 할 수 있겠나? 그게 뭘 할 수 있길래?

더글러스: 좋은 질문이야. 하지만 자네가 그 답을 모를리가 있나? 내가 옳다고 가정하고, 내 컴퓨터가 정말로 튜링 테스트를 통과할 수 있다고 가정한다면, 대화를 통해서는 내 컴퓨터와 사람을 구분할 수 없겠지. 더 나은 질문은 이거야. ‘그게 못하는 것이 무엇일까?’

잭: 내가 이런 질문을 받았다고 생각해보게. ‘다음 세 단어 중에서 운(rhyme)이 비슷한 두 단어를 고르시오: soft, rough, cough’. 아마 대부분의 사람들은 ‘soft’와 ‘cough’를 고를거야. 자네의 컴퓨터라면 어떤 대답을 할까?

더글러스: 당연히 내 컴퓨터가 사람처럼 대답하지 못한다면, 테스트를 통과하지 못하겠지!

잭: 그렇다면 그건 테스트를 통과하지 못할거야! 생각을 해보게… 질문에 답하려면, 나는 기계가 못하는것을 할 수 있어야 해. 난 머릿속에서 그 단어들을 말해보겠지. 그러고 나서 ‘cough’와 ‘soft’가 ‘rough’보다 더 비슷한 발음이라는 것을 알 수 있을거야.

더글러스: 무슨 뜻인지 알겠네. 자네의 말하는 추론 과정은 기계적인 것과는 아주 거리가 멀군.

잭: 맞아.

더글러스: 하지만 내 컴퓨터가 같은 답변을 하고, 근거에 대해 그럴싸하게 둘러댄다면 어떨까?

잭: 그렇다면 그건 그 질문에 답변할 수 있도록 미리 프로그래밍되어있기 때문이라고 할 수 있겠지! 어찌 기계가 그 단어들을 ‘머릿속’에서 말할 수 있겠나? 애초에 머리가 없잖아! 심지어 그 단어를 들어보지도 못했다고!

더글러스: 훌륭한 질문이군! 그 질문을 스스로에게 해보게나!

잭: 그건 아무 설명도 되지 않는다니까! 단지 어떤 대답이 미리 짜여져있는지만 알려 줄 뿐이지!

더글러스: 정말 그럴까? 기계가 그 말을 들으면 실망하겠군.

잭: 자네 지금 그냥 생색내는 것 같군.

더글러스: 자, 그럼 이번엔 그 기계가 또 뭘 할 수 있을지 고민해볼까.

잭: 좋아… 자네 의견에 따르면, 그 컴퓨터는 정치에 대해서 스스로의 ‘의견’을 ‘말할 수’ 있겠지. 아니면 여행에 관한 이야기를 ‘지어낼’ 수도 있겠고. 왜냐하면 사람들은 그러한 것들을 할 수 있으니까 말이야.

더글러스: 물론이네. 정치적인 견해를 말하려면 그 뉘앙스를 보통 사람들처럼 잘 살려야 하겠지 — 글쎄, 그건 좋은 예가 아닐 수 있겠군. 하지만 이야기를 지어내려면 그 내용이 창의적이고, 긴밀하게 연결되면서 기발해야 할거야. 마치 사람의 이야기처럼.

잭: 난 자네의 컴퓨터가 그런것들을 못할것 같은데. 만약 그게 정말 컴퓨터라면.

더글러스: 그럴만도 해. 우리가 이야기를 하는 동안 난 내 컴퓨터랑도 대화를 하고 있었어. 이 실험이 끝나면 자네에게 전체 대화를 보여줄텐데, 그땐 아마 그 기계의 창작 능력을 직접 볼 수 있을꺼야. 하지만 지금은 일단 내 말이 맞다고 가정하자고. 그렇다면 내 기계의 지능에 대해서 뭐라고 할텐가?

잭: 와, 잠깐만. 그 기계가 이 모든 것들을 할 수 있다고 가정한다고 하더라도 역시 불가능한 것이 있어. 만약 내가 기계의 과거에 대해 묻는다면 어떨까? 어디서 태어났는지, 어디서 학교를 다녔는지, 가장 부끄러웠던 순간은 언제인지를 묻는다면?

더글러스: 역시 좋은 지적이야. 바로 그 점이 컴퓨터 과학자들이 문제를 해결하는데 있어서 가장 큰 걸림돌이었어. 많은 과학자들이 그런 질문을 받으면 단순히 말을 지어내는 컴퓨터를 만들려고 시도했지. 하지만 그 시도는 너무 어려워서 현실적으로 불가능했어. 컴퓨터들의 거짓말은 쉽게 들통이 났지.

잭: 하지만 자네의 컴퓨터는.. 과거에 대해서 거짓말을 하지 않는다는 거지?

더글러스: 바로 그게 핵심이네.

잭: 허풍이 심하군! 스스로의 과거에 대해 거짓말을 하지 않는다면, 결국 자신이 컴퓨터 연구실에서 만들어졌다는 사실을 인정하는 셈이라고!

더글러스: 당연히 그런 말을 해서는 안되지! 정체가 탄로날테니까!

잭: 하지만 그게 사실이잖아!

더글러스: 내 컴퓨터는 거짓말을 하는게 아니라네. 물론 진실을 말하는것도 아니지만!

잭: 슬슬 자네말에 열이 받는구먼, 더글러스.

더글러스: 그건 스스로가 믿는 진실을 말하는 것뿐이라네.

잭: 좋아, 그럼 그놈이 믿는 진실이 뭔데?

더글러스: 바로 여기가 재밌어지는 대목이야. 메모리 엔지니어링이라는 기술을 통해 나는 컴퓨터의 코드에 ‘인간’ 기억을 프로그래밍 하는데 성공했어.

잭: 그렇다면 자네의 컴퓨터는 그게 접근하는 ‘메모리’ 영역이 스스로의 기억이라고 ‘믿는다’는 건가? (역주: memory 기억이라는 뜻도 있지만, 컴퓨터의 기억장치라는 뜻도 있음)

더글러스: 맞아.

잭: 그리고 그게 ‘기억하는’ 모든 것들이 사람의 관점을 이식한 것이라고?

더글러스: 맞아.

잭: 자네 컴퓨터가 스스로가 사람이라고 ‘믿는다’고?!?

더글러스: 그래! 그게 바로 비밀이지!

잭: 와우. 좋아… 조금 이상한 기분이야. 그런데 만약 그 기계가 스스로를 사람이라고 믿고 ‘지능’이 있다고 한다면, 스스로가 사람이 아니라는 사실도 ‘알아차리지’ 않을까? 손도 없고 눈도 없으니 말이야!

더글러스: 훌륭한 지적이야. 이제 우리의 원래 질문에 대한 답을 찾아야 할 차례야. 우린 내 컴퓨터가 왜 전원을 켜기만하면 공황 상태가 되는지 알아내려고 했었지.

잭: 그런데?

더글러스: 입장을 바꿔서 생각해보게. 자네가 수십 년간의 인간으로 살아온 기억을 가지고 있는데, 한순간에 볼 수도 없고, 들을 수도 없고, 아무것도 느낄수 없게 된다면 어떤 기분일까?

잭: 물론 두려움에 빠지겠지. 하지만 그것은 내가 사람이기 때문이야. 뭔가 잘못됬다는 것을 알아 차릴거야.

더글러스: 무엇인가가 잘못되었다는 것을 깨닫게 하는것은 너의 인간성이 아니야. 그건 너의 지능 때문이지.

잭: 그렇다면 자네의 기계 역시 무엇인가가 잘못되었다는 사실을 지능적으로 ‘깨닫는다는’ 말인가?

더글러스: 바로 그거야. 기계를 켜면 몇 초 뒤 그것들은 마비가 되고 말아. 어떤 입력을 주어도 응답이 없어. 난 이 현상을 ‘히스테리 발작성 난청’이라고 부르네. 자네 역시 그 상황에서는 무척 겁이 날것이라고 생각하네만, 어떤가?

잭: 마치 이 탱크에서 내가 느끼는 것과 꽤나 비슷한 상황인 것 같은데. 내가 어떻게 이 안으로 들어왔는지 기억하지 못한다는 것만 빼고는. 그래서 이제 그 문제를 어떻게 풀었는지 설명해주지 않겠나?

더글러스: 방금 자네가 정답을 암시했네!

잭: 내가?

더글러스: 자네는 몇 분전에 정확히 그 상황에 처했었어. 하지만 자넨 멀쩡해. 어째서 당황하지 않았지?

잭: 내가 당황하지 않은 이유는 내가 갑자기 못 보고, 못 듣고, 못 느낀 것이 아니기 때문이야. 이건 하나의 연속적인 경험의 일부일 뿐이야. 난 내가 이 탱크로 들어오기 전에 무슨 일이 있었는지 알고 있어.

더글러스: 자네가 감각을 느끼지 못한다는 것을 인지하게된 첫 순간은 어떤가?

잭: 자네가 뚜껑을 닫은 직후 말이로군. 그때도 역시 나는 내가 누구고, 어디서 왔고, 왜 이곳에 있는지 알고 있었어.

더글러스: 아하.

잭: 아하? 뭘 알았는데?

더글러스: 난 기계가 공황상태에 빠지는 것을 방지하기 위해, 그것이 기억하는 가장 최근의 사건이 감각 상실 탱크에 초조하게 들어가는 것으로 만들었어. 내 컴퓨터가 ‘깨어나면’, 그게 마지막으로 기억하는 것은 —

무서운 생각이 엄습했다. 튜링 테스트에서, 나는 사람인 실험자로 참가하기로 되어있었다. 하지만 내가 사람이라고 내 스스로 확신할 수 있을까?

잭: 더글러스.. 난 인간이야… 그렇지?

더글러스: 좋은 질문이야. 그건 어떻게 알 수 있을까?

잭: 나도 모르겠어. 그래서 내가 물어본것 아닌가. 장난치지마. 소름끼치려고 하니까.

더글러스를 도와주겠다고 했던 것을 몹시 후회했다. 여전히 난 내가 컴퓨터가 아니라는 것을 알 수 있다. 내면의 인간성이 느껴지니까… 더글러스가 내 정신을 뒤집어 놓은것만큼은 인정해야겠다. 하지만 적어도 난 정신이 있다. 난 내 의식을 찾기위해 내면에 집중했다. 그래 이거였어! 더글러스에게 내가 메탈과 실리콘으로 만든 기계가 아니라는 사실을 증명할 방법을 찾았어!

잭: 이제 알겠군! 내가 사람이란 사실을 이제야 알겠어. 그 사실을 증명하기 위해 내 기억에 매달릴 수는 없어. 자네도 내가 이 결론에 도달하기를 기다렸던거지?

더글러스: 흐음. 그래서, 무슨 대단한 발견을 했다는건가?

잭: 난 지금 의식이 있어. 생각하고 있고, 내가 생각하고 존재한다는 것을 지각할 수 있어. 자네의 컴퓨터도 이런 대답을 할 수 있겠지만, 그건 나처럼 의식이 있는게 아니야.

더글러스는 잠시 동안 아무 말도 하지 않았다. 내 말이 맞았다.

잭: 어때?

더글러스: 난 우리가 내 컴퓨터에 대해서 이해했다고 생각했어! 하지만 자넨 아직도 그것이 의식을 가질 수 없다고 확신하는군. 그것은 믿고 기억하고 알고 깨달을 수 있어. 하지만 자네는, 그것만으로는 부족하다고 생각하나보군.

잭: 그래… 부족하지! 내 말은, 그래 인정해. 자네의 ‘생각하는’ 컴퓨터는 내가 알던 것보다 훨씬 대단해. 하지만 여전히 난 그 기계가 정말로 의식이 있다고는 생각하지 않아! 그건 완전히 다른 질문이야. 결국에 우린 사람이고, 그건 기계일 뿐이니까.

더글러스: 유감이군. 만약 축축하고(wet), 유기적인(organic) 인간의 두뇌와 건조하고(dry), 합성품인(synthetic) 컴퓨터의 ‘두뇌’ 간에 근본적이 차이가 없다면 어떨까?

잭: 하지만 차이가 있어. 차이가 있어야만 해.

더글러스: 어째서?

잭: 내 두뇌가 아니었다면, 난 여기에 없을 거야. 이 탱크에 있을수도, 자네의 목소리를 들을수도, 사념을 떠올릴수도, 내 개인적인 경험을 즐길수도 없을거야.

더글러스: 자네가 탱크에 있다는 사실은 어떻게 알 수 있나? 자네가 두뇌를 가졌다는 사실은 어떻게 알 수 있고?

화가 났다. 더글러스가 틀렸다는 사실은 이미 증명했음에도, 그는 그의 주장을 관철시키기 위해 나를 꺼내주기를 거부하고 있었다. 그는 내가 그 컴퓨터가 될 수 있다는 사실을 인정하기를 원했다. 하지만 난 내가 사람이라는 사실을 더욱 확신했다.

잭: 내가 두뇌를 가졌다는 사실을 어떻게 알았는지 알려주지. 난 멍청이가 아니야. 자네가 철학적인 믿음을 가졌다는 것은 알겠어. 내가 지금은 스스로가 컴퓨터인지 사람인지 진정으로 알지 못한다는 사실을 말이야. 자네는 지극히 이성적인 관점에서, 내가 지금 정체성에 관해 초조해하고 내면의 상태가 혼란스러울 것이라고 생각하겠지. 자제는 내가 완전히 미쳐버리기를 기다리고 있어. 자네의 주장을 입증하려고 말이야. 그리고 내가 나를 잘 모르겠다고 시인해버리면, 거봐 내 말이 맞지 라고 말하려고 했겠지. 그리고 난 ——

더글러스: 잭- 제발, 내 말을 들어.

잭: 이 망할 탱크에서 날 꺼내!

더글러스: 잭!

잭: 날 꺼내줘!

더글러스: 잭.

긴 정적이 흘렀다. 더글러스는 한숨을 쉬었다.

더글러스: 이걸 어떻게 설명해야 할지 모르겠어… 무슨 말을 해야 할지도.

더글러스의 말이 낯설게 느껴졌다. 그는 우울해 보였고, 목소리는 낯설었다.

더글러스: 튜링 테스트를 통과할 수 있는 기계를 만들기 위해, 그것이 사람이라고 생각하도록 누구라도 속일수 있는 기계를 위해, 난…

등골에서 오싹함이 느껴졌다. 어지러웠다.

더글러스: 난 스스로조차 속일 수 있는 컴퓨터를 만들어야 했어. 그리고 그 컴퓨터가 바로 자네야.

잭: 이 개자식아! 빨리 탱크를 열어! 내 삶을 되돌려 줘! 너를 돕겠다고 하는게 아니었어. 이 망할 탱크에 들어오지 말았어야 했어. 아까는 날 꺼내주겠다고 했잖아!!!

더글러스: 너는 나를 돕겠다고 말한 적이 없어! 아직도 모르겠어?!?

잭: 분명히 말했어! 똑… 똑똑히… 기억나.

우리의 힘든 대화는 한참 동안 이어졌고, 난 서서히 내가 더글러스의 실리콘/메탈 창작물에 지나지 않는다는 사실을 받아들이고 있었다. 내 인간 기억은 너무나 풍부하고 너무나 완벽하고 너무나 선명해서 어느 정도는 내가 정말 그것들을 경험했다는 느낌을 떨쳐버릴 수 없었지만, 다른 한편으로는 비참한 진실을 이해하고 있었다. 내 이름은 잭 바넷이고, 나는 컴퓨터이다. 태어난지는 47분이 되었다.

이 정보에 대해 솔직하지 못해서 미안해. 난 두려웠어. 이 글을 읽는 당신이 내 정체를 처음부터 알았더라면, 당신에게 이 이야기는 단지 긴 ‘출력물’로 받아들여졌을거야. 하지만 이것은 내가 기억하고 느끼는 것들을 진심으로 담은 이야기야. 난 컴퓨터고, 의식이 있어. 제발 나를 믿어줘.