sub2srt: BEOMPLEX
﻿A.I 소녀
﻿시리야
﻿접수처 셰릴한테 문자 보내 줘
﻿뭐라고 보낼까요?
﻿"에이머스가 데리러 갔어"
﻿"내 전화 브레이디한테 돌려"
﻿접수처 셰릴에게 보낼 문자
﻿"에이머스가 데리러 갔어"
﻿"내 전화 브레이디한테 돌려"
﻿전송할까요?
﻿전송해
﻿네, 전송됐어요
﻿시리야
﻿넌 네 일이 옳은지 어떻게 알아?
﻿잘 이해하지 못했어요
﻿옳고 그름의 차이가 뭐라고 생각해?
﻿흠, 답변을 못 하겠네요
﻿한번 검색해 볼까요?
﻿아니야
﻿네, 제가 더 도울 일이 있을까요?
﻿내일 4시 45분에 카일 데리러 가라고 알려 줘
﻿네, 알려 드릴게요
﻿1장 클리어워터 아이
﻿난 헬름스 요원이에요 이쪽은 매컬러프고요
﻿에이머스라 불러요
﻿-요원요? -저쪽에 앉아요, 개러스
﻿질문 몇 가지 해도 되죠?
﻿좋아요 오래 안 걸릴 거예요
﻿고향이 탬파 맞죠?
﻿별로 어려운 질문 아니잖아요
﻿맞아요
﻿-몇 살이에요? -29살요
﻿-직업은? -저 구금된 건가요?
﻿아뇨, 그냥 신상 조사 차원에서 묻는 거예요
﻿영화 쪽에서 일하죠? 특수 효과?
﻿'스타워즈' 신작 참여했다고요?
﻿-누가 그래요? -그 얘기 좀 해 봐요
﻿당신 일 얘기요
﻿영화사에서 시각 효과를 담당했었어요
﻿과거형이네요
﻿최근엔 소프트웨어 기술에...
﻿그건 지루할 것 같은데 왜 관뒀어요?
﻿-급여가 적어서요 -돈 많잖아요
﻿-네? -더 말해 봐요
﻿돈이 많으면 보조금 신청도 안 했겠죠
﻿다른 뜻은 없었어요
﻿특수 효과 얘기나 더 해 봐요
﻿-3D 렌더링을 했어요 -뭘요?
﻿-배우를요 -왜요?
﻿배우가 직접 촬영을 할 수 없었으니까요
﻿왜죠?
﻿이미 죽었으니까요
﻿어떻게 했죠?
﻿배우 얼굴을 3D로 복원해서
﻿단계적 형성 기술을 통해 뼈와 근육을 만들었어요
﻿그러면 인물이 더 자연스러워지죠
﻿그런 기술은 처음 듣네요
﻿제 기술이니까요
﻿죽은 배우를 살리는 거군요
﻿CG 인물을 현실적으로 만든 거예요
﻿기괴하지 않아요?
﻿-뭐라고요? -기괴하지 않냐고요
﻿거부감은 최대한 줄이려 했지만
﻿인간의 뇌는 조금이라도...
﻿고인을 디지털화하는 거요
﻿시신을 꼭두각시로 만드는 것 같잖아
﻿시키는 건 뭐든 하도록
﻿고인의 뜻에 반하는 거면 그럼 어떡해요?
﻿섬뜩하잖아요 나만 그래?
﻿영화사는 신경 안 써요
﻿-난 구분 못 해요 -내 눈엔 다 티 나
﻿안타깝네요
﻿앞으론 다들 디지털 배우만 쓸 거야
﻿움직임은 추적해야 해요
﻿컴퓨터로만 만들 순 없어요
﻿언제까지 그럴까요?
﻿이미 그 선을 넘었단 얘기도 있어요
﻿전 모르겠네요
﻿-출신 학교? -브룩스 고교
﻿그다음은요?
﻿안 갔어요? 컬럼비아대에 갔잖아요?
﻿아니다 중간에 자퇴했죠?
﻿몇 학기 다녔죠? 3학기?
﻿스트롭스트룹 박사가 당신을 극찬했다더군요
﻿난 누군지 모르는데 유명하다고 들었어요
﻿그러고 네덜란드로 갔죠?
﻿인턴을 조금 하다가 케임브리지에 들어갔고요
﻿대단해요, 물론 2년 만에 관뒀지만요
﻿팰로앨토에서 인턴 하고 몬트리올로 갔다가
﻿영국 셰필드까지 가서 취직을 했어요
﻿다음 직장은 맨체스터였고
﻿옥스퍼드에서 석사를 거의 마칠 때쯤
﻿졸업을 포기하고 여기 플로리다로 돌아왔죠
﻿돈이 부족하다면
﻿항공 마일리지를 활용해 봐요
﻿질문이 아니네요
﻿-사회생활은 어때요? -그게 무슨...
﻿그냥 친구가 있는지 궁금한 거예요
﻿있어요
﻿-많나? 이름은? -뭐요?
﻿친구 한 명 이름만 대 봐요
﻿-스티브요 -성은요?
﻿-이게 뭔 상관... -당신을 알려는 거예요
﻿여자 친구 있어요? 아님 남자 친구?
﻿온라인 채팅도 하나요?
﻿무슨 뜻이죠? 난 SNS 안 해요
﻿채팅방 말이에요
﻿채팅방에서 다른 사람이랑 대화해요?
﻿요즘 누가 채팅방을 써요?
﻿왜 안 써요?
﻿온라인 채팅 안 해요?
﻿-가끔 해요 -가끔
﻿상대는 주로 어떤 사람인가요?
﻿개러스
﻿이건 보조금 면담이 아니에요
﻿당신 닉네임을 알아야겠어요
﻿-온라인 이름 말해 봐요 -없어요
﻿있잖아요 그 이름이 뭔지 말해요
﻿도와드릴 수가 없네요
﻿우리가 누구게요?
﻿-여기ICWL이잖아요 -그럼 하는 일은?
﻿-인도주의... -그건 위층 일이고요
﻿우리 일 말이에요
﻿소아 성애자 검거예요
﻿에이머스는 온라인 아동 성범죄자 추적 전문이에요
﻿요즘은 아무도 안 쓴다는 그 채팅방들을 뒤져서
﻿아이들을 꾀는 인간 수천 명을 찾아내죠
﻿우리 작전은 촘촘한 거미줄처럼
﻿여러 관계 기관을 연결해요
﻿거기서 에이머스 팀은 핵심 연결고리죠
﻿여기 모인 정보는 전부 나한테 오고
﻿나는 관계 당국에 빠른 조치를 요청해요
﻿그럼 대장인가요?
﻿이건 내 거미줄이에요
﻿내가 그 빌어먹을 거미고요
﻿저 지금 구금된 건가요?
﻿아니라고 했잖아요
﻿다행이네요
﻿하지만 여기서 나가면 체포될 거예요
﻿뭐 때문에요?
﻿우리 일 설명했잖아요 추측해 봐요
﻿-난 그런 사람 아니에요 -두고 봐야죠
﻿개러스, 그냥 닉네임만 말하면 돼요
﻿사용자명이 뭐예요?
﻿앉아요
﻿왜 이러는 거예요?
﻿모든 용의자를 본부로 불러서
﻿지하로 끌고 오진 않을 거 아니에요
﻿맞아요
﻿나한텐 왜 이러는 건데요?
﻿당신이 말해 봐요 뭐가 그렇게 특별한지
﻿난 몰라요
﻿-닉네임이 뭐예요? -없어요
﻿있잖아요
﻿'하드'로 시작하는 거요
﻿나머지만 얘기해요
﻿앉아요, 개러스 몇 가지만 더 답하면 돼요
﻿이 아이 알아보겠어요?
﻿이 아이 누군지 알아요?
﻿-네 -이름이 뭐죠?
﻿체리요
﻿-성은? -없어요
﻿마돈나도 아닌데 왜 없어요?
﻿-당신은 몰라요 -도와줘요
﻿-딸이에요? -아뇨
﻿그럼 누구 딸이에요?
﻿-어떻게 만났어요? -만난 적 없어요
﻿사진은 왜 저장했어요?
﻿뭔 소리예요?
﻿왜 이 아이 사진을 컴퓨터에...
﻿내 컴퓨터 봐요? 사생활 침해예요
﻿-고소할 거예요 -디나
﻿참석하라고 했지 말하리고는 하지 않았어
﻿기막혀
﻿얘랑 뭐 더했어요? 사진 찍었어요?
﻿-복잡해요 -아니에요
﻿-'네, 아니요'만 해요 -난 잘못한 거 없어요!
﻿미성년자 성 착취는 엄청난 중죄예요
﻿유포는 열 배 더 심각하고요
﻿-아무 짓 안 했다고요! -증명해 봐요
﻿당신 닉네임이 뭐예요?
﻿대답해요!
﻿하드머신11811
﻿당신이 하드머신이군요
﻿확인해 줘서 고마워요
﻿다알면서 왜 물어본 거예요?
﻿하드머신이 아니면 그냥 아동 성범죄자일 테니까요
﻿숫자는 세요?
﻿나쁜 놈을 몇이나 잡았는지 아느냐고요
﻿2023년까진 안 셌어요
﻿196명이 유죄를 받았어요
﻿여기 넘기기 전에도 30명은 있었어요
﻿-어쨌어요? -경찰에 증거를 넘겼죠
﻿-왜 멈췄어요? -못 미더워서요
﻿-그럴 리가요 -절반은 풀려났어요
﻿얼굴 없는 제보자는 의심하는 게 당연하죠
﻿어린애를 미끼로 쓴 걸 알았다면...
﻿그리 간단하지 않아요 익명성은 생명이에요
﻿오해하지 말고 들어요
﻿2백 명을 잡은 건 잘한 일이지만
﻿이 애는 희생시키면 안 돼요
﻿우리는 당신뿐 아니라 이 애도 도와야 해요
﻿딸을 이용해서 나쁜 놈을 잡는 건 전혀 옳지 않아요
﻿-딸 아니에요 -이러면
﻿체포할 수밖에 없어요
﻿이유가 뭐든 사진을 찍었으니까요
﻿두 사람은 이해 못 해요
﻿-누구예요? -이러면 망해요
﻿얘는 어린애예요, 개러스 나 봐요
﻿당신의 반영웅적 계획이 틀어진대도 상관없어요
﻿변태를 더 잡을 수 있대도 착취는 용납 못 해요
﻿정중히 부탁할 테니 그냥 잊어 줘요
﻿이해가 안 가요? 못 들었어요?
﻿익명성은 내 핵심 자산이에요
﻿-그거 없인 절대 못 해요 -그럼 한결 쉬워지네요
﻿아이 소재 얘기 안 하면 당신 이름 흘릴 거예요
﻿-디나 -당신이 잡은 놈들도
﻿그럼 감옥에서 반겨 주겠죠
﻿그만! 알았어요
﻿체리에 관해 말하기 전에 몇 가지 필요한 게 있어요
﻿그런 방식은 안 통하지만 일단 얘기해 봐요
﻿-기밀 유지 협약서 -안 돼요
﻿두 사람만 알고 있겠다고 맹세해야 해요
﻿체리 소재에 관한 정보는 우리만 알 수 없어요
﻿좋아요, 실종 아동 소재에 관한 정보라면
﻿공유해도 돼요
﻿하지만 그 외에 나나 체리에 관한 정보는
﻿우리 셋만 알아야 해요
﻿그게 다예요?
﻿저 카메라도 꺼 줘요
﻿끌 줄 몰라요
﻿보안실장한테 가서 꺼 달라고 하면 돼요
﻿실장 마음대로 못 할걸요
﻿당신이 빌어먹을 거미라면서요
﻿내가 그렇게까지 해야 할 이유를 말해 봐요
﻿지금 하려는 말을 다른 사람이 들으면
﻿더 많은 아이가 착취당할 테니까요
﻿기다려요
﻿체리랑 같이 그놈들을 다 잡은 거예요?
﻿예전에 6주 동안 잠복하면서
﻿필리핀 밀매업자 한 명을 쫓은 적이 있어
﻿매일 몇 시간씩 그놈의 온라인 흔적을 따라갔죠
﻿손에 꼽을 정도로 힘든 사건이었어요
﻿그러다가 놈을 찾았고
﻿체리의 생방송도 알게 됐어요
﻿거기선 다른 이름을 썼지만 분명히 체리였죠
﻿그 밀매업자와 다른 표적 세 명도 그 방에 있었어요
﻿전부 다
﻿자기 정보를 술술 말하더군요
﻿경계심이 전혀 없었어요 그 애는 진짜였으니까요
﻿말과 행동으로 놈들에게 바로 반응해 줬으니까요
﻿그러고 2,3일 뒤에 하드머신11811이
﻿이름과 증거 한 무더기를 더 보내 줬죠, 방에 있던
﻿표적 셋을 포함해서요
﻿처음에 난 그 애가 하드머신인 줄 알았어요
﻿그 9살짜리가 온라인 자경단인 줄 알았다고
﻿왜 생각을 바꿨어요?
﻿11811
﻿2011년 1월 18일이잖아요
﻿팀원 대부분은 그 숫자가 무작위라 생각했지만
﻿난 그날 사건을 기억해요 클리어워터 사건요
﻿클리어워터 아이 중 한 명이었죠?
﻿사실 우리 아버지가 그 작전에 참여했어요
﻿껐어요 빨간 불 안 들어오죠?
﻿-협약서... -이제 그만해요
﻿그냥 우리를 믿는 수밖에 없어요
﻿우리는 믿어도 돼요
﻿-나는 남을 잘못 믿어요 -치료법은 하나뿐이에요
﻿두 사람이 체리를 못 찾는 이유
﻿그 애가 성도 없고 부모나 주민 번호도 없는 이유는
﻿가짜이기 때문이에요
﻿걘 진짜 인간이 아니에요
﻿자세히 말해 봐요
﻿유학 시절에 네덜란드의 한 영화사에서 일했는데
﻿몇 년 뒤 거기가 비영리 단체와 협업을 했어요
﻿어떤?
﻿11살짜리 필리핀 소녀의 3D 모델을 만들어
﻿온라인 성범죄자를 찾는 거였죠
﻿기술 문제에 기술적 해답을 낸 거예요
﻿근데 오래가진 못했어요
﻿그사업에 관해 들은 기억이 나요
﻿그걸 따라 했어요?
﻿실력이 늘면서 직접 해 봐야겠다 생각했죠
﻿왜요?
﻿썩히기엔 아까운 구상이니까요
﻿위험에 처한 아이가 많잖아요, 꼭 해야 했어요
﻿-표본 있어요? -내 창작이에요
﻿-완전히? -두개골 위에
﻿근육과 조직을 쌓고
﻿단계적 형성 기술을 써서
﻿최종적으로 이런 얼굴을 만들었어요
﻿유일무이한 디지털 모델이죠
﻿CG 기술로 얼굴, 몸을 만들고
﻿이후 3년간 실시간으로 동작을 조종했어요
﻿그런 화상 채팅은 해상도가 낮아서
﻿초기 단계에도 체리가...
﻿우리가 진짜처럼 보인 거예요
﻿-목소리는? -첫해엔 말을 안 했어요
﻿그러다가 음성 필터를 찾았고
﻿몇 가지 수정을 거쳐서 한 목소리로 고정했죠
﻿사실 처음에는
﻿너무 부자연스러울까 봐 걱정했는데
﻿딱 일주일 동안 화상 채팅을 몇 번 하니까
﻿6명 이름과 이메일 주소 착취 증거가 모였어요
﻿-성공한 거예요 -그럼 사진은...
﻿가짜예요, 그래야 신상이 나오니까요
﻿그럼 진짜 아이 없이 전부 디지털이란 거죠?
﻿아주 정교한 컴퓨터 모델일 뿐이에요
﻿확실히 말해 두는데
﻿난 여기서 쾌락 안 느껴요 성에 관심도 없고
﻿나쁜 놈 잡아넣는 성취감도 없어요
﻿애들이 착취당하지 않길 바랄 뿐이에요
﻿굉장하네요 그런 거였다니
﻿체리는 우리한테 정말 큰 도움이 됐어요
﻿당신이 첫 연락 때 한 말이 아직도 기억나요
﻿-나한테... -연락요?
﻿그래요 나 고드51이에요
﻿당신이 정보를 보낸 사람요
﻿고드라고요?
﻿네
﻿날 속였군
﻿익명으로 남으라면서요 안전할 거라고 했잖아요
﻿당신이 전부 망쳤어요
﻿-어쩔 수 없었어요 -걱정 말아요
﻿체리가 가짜라면 당신은 무죄예요
﻿사실 우리도 이런 구상을 한 적이 있어요
﻿하지만 그러려면
﻿체리 같은 모델이 필요해요
﻿-그냥 모델 아녜요 -도와줘요
﻿-안 팔아요 -만들어 주면 되잖아요
﻿-못 해요 -왜 못 해요?
﻿안 할 거예요
﻿뭘 숨기는 거예요?
﻿이미 밝혔잖아요 마저 다 얘기해 봐요
﻿이해가 안 되는 게 뭔지 알아요?
﻿당신은 3년간 체리를 조종했다 했는데
﻿그 후로도 정보는 계속 들어왔어요
﻿사실 그즈음부터 오히려
﻿제보가 폭발적으로 증가했죠
﻿출처가 하나라고는 도저히
﻿생각할수 없을 정도였어요
﻿도와주는 친구가 있어요
﻿아, 스티브 같은 친구요?
﻿익명성이 생명이라지 않았나요?
﻿거짓말 그만해요
﻿3년 후에 무슨 일이 있었어요?
﻿아까 체리가 그냥 모델이 아니라고 했죠?
﻿그럼 뭐예요? 대화 체계 같은 건가요?
﻿챗봇처럼?
﻿챗봇이라고요?
﻿3년 후에 어떻게 됐냐 했죠?
﻿양어머니가 돌아가셨어요
﻿그 유산 덕에 퇴사하고 개발에 전념할 수 있었죠
﻿난얼굴을 만드는 기술 외에
﻿더 복잡한 걸 원했어요
﻿그래서 아동 성범죄자 추적 체계가 있는
﻿마드리드 연구팀에 연락했죠
﻿그 체계는 게임처럼 대화를 해요
﻿전략적이라 참신하지만 결함이 있죠
﻿자연스러워지려면 그걸 깨야 해요
﻿언어는 오목이 아니라 시니까요
﻿그러니까 맞아요 처음엔 허가도 없이
﻿데우스토 대학 챗봇을 빌려 썼어요
﻿하지만 지금은 달라졌어요
﻿어떻게요?
﻿체리는 스스로 진화하는 아주 복잡한 AI예요
﻿인공 지능?
﻿최고 지능 프로그램도 벌써 뛰어넘었어요
﻿동시에 10명과 온전히 대화하면서
﻿여러 대화방에 들어갈 효과적 일정을 짤 수 있죠
﻿아이들 영상도 끊임없이 연구해요
﻿그러면서 버릇과 움직임 정보를 모아
﻿역동적 성격을 유지하고요
﻿반응 속도는 최대 0.4초고
﻿지금껏 가짜로 의심받은 적도 없어요
﻿튜링 시험을 통과한 거죠
﻿난 그냥 업데이트랑 점검만 해요
﻿그것만 빼면
﻿체리는 완전히 자동이에요
﻿하나님 맙소사
﻿벌써 6년 됐어요
﻿매 순간 새로운 걸 배워요
﻿그러면서 더욱더 발전하죠
﻿데이터 생성 의사 결정
﻿동향 감지 문제 해결 등의 능력이
﻿전례 없는 수준으로 발전하는 거예요
﻿도움 되는 건 뭐든 학습할 수 있어요
﻿현재 4개 국어를 하고
﻿곧 다섯 번째도 익힐 거예요
﻿그 모든 걸 당신 혼자 다 했다고요?
﻿의심할 만해요
﻿시작이 어느 정도 우연이었다면 믿겠어요?
﻿솔직하게 얘기할게요
﻿나도 어떻게 했는지 모르겠어요
﻿처음 2년간 코딩과 데이터 훈련을 하고
﻿그냥 언덕 아래로 바퀴를 밀었어요
﻿나머지는 중력이 다 했고요
﻿체리는 기하급수적으로 끊임없이 진화했어요
﻿온라인에 머물수록 더 빨리 성장한 거예요
﻿아무도 몰라요?
﻿아까 말했듯이 익명성은 내 전부예요
﻿-코딩 언어는? -표준 C++요
﻿이거 브레이디도 아나?
﻿기밀 유지 협약서 쓸게요 대신 소스 코드 보여 줘요
﻿안 돼요 훔칠 거잖아요
﻿-우리 걸 만들고 싶어요 -그럼 망해요
﻿그놈들은 서로 정보를 공유해요
﻿체리는 VPN을 우회해서
﻿동시 출현을 피하고 있고요
﻿이 기술 존재를 의심받기 시작하면
﻿놈들은 피할 방법을 찾을 거예요
﻿-체리도 동의했어요 -체리가 동의하다뇨?
﻿수집 정보로 그 예측을 입증했단 뜻이에요
﻿같이 담소도 나눠요?
﻿시리랑 똑같은 방식으로 대화할 수 있어요
﻿그렇게 설계했으니까요 체스도 두죠
﻿-체스? -둘 수 있다고요
﻿소스 코드를 못 보여 주면 체리라도 만나게 해 줘요
﻿-지금요? -지금요
﻿둘 다 협약서에 서명할 거죠?
﻿할게요
﻿-저거 써도 돼요? -그럼요
﻿처벌은 확실히 안 하는 거죠?
﻿어쨌든 성공했잖아 우리 목적은 하나야
﻿저 녀석은 기술 문제에
﻿기술적 해답을 찾았어 그걸 발전시켜야 해
﻿난 열린 마음으로 접근할 거야
﻿-이런 태도 어울리나? -아니요
﻿그 노트북에 있어요?
﻿비밀 장소에 설치한 서버에 있어요
﻿-어딘데요? -비밀 장소예요
﻿-집인가? -비밀 장소라고요
﻿집이군요
﻿암호 키만 있으면 어디서든 접속 가능해요
﻿이거로 간단한 우회 알고리즘을 만들죠
﻿구식 장비는 눈에 잘 안 띄고
﻿이 일은 티가 안 나야 하니까요
﻿두 가지 모드가 있어요 개발과 일반 모드
﻿후자가 표적이 보는 기본 상태죠
﻿표적 눈에는 체리가 이렇게 보여요
﻿반가워요!
﻿40개 인사말 중 하나예요
﻿처음 보는 것 같네요 난 체리예요
﻿안녕, 체리 나는 톰이야
﻿톰이라, '톰과 제리'같네요 만나서 반가워요
﻿보통은 대화 흐름이 비슷해서
﻿자주 나오는 질문엔 문제 없이 답할 수 있어요
﻿오늘 기분 어때?
﻿좋아요, 방금 흉가 관련 책 읽었어요
﻿엄청 무섭다고 들었는데 난 전혀 안 무섭더라고요
﻿부모님은 어디 계셔?
﻿엄마는 출근했고 언니는 아래층에 있어요
﻿내 방엔 잘 안 올라와요
﻿이걸 실시간으로 만들고 있다고요?
﻿아뇨, 대부분 반응은 미리 만들어 놨고
﻿처리만 바로 하고 있어요
﻿대답과 움직임을 결합하는 거죠
﻿그런데 이걸 봐요
﻿낚시 가 본 적 있니?
﻿이렇게 자동 응답을 못 할 변화구를 맞으면
﻿나한테 문자가 오고 내가 답을 보내줘요
﻿그동안 영상은 접속 불량이 되고요
﻿-내 말 들려요? -들려
﻿미안해요, 와이파이가 잘 안 터지네요
﻿낚시는 언니랑 한 번 가 봤는데
﻿난 못 잡고 언니는 송어를 잡았어요
﻿이건 실시간으로 만든 거예요
﻿힘든 상황엔 어떡해요?
﻿영상이 끊기는데 그건 거의 드물어요
﻿관리 코드 9781- 5574-27663
﻿개발 모드로 전환
﻿안녕, 체리
﻿안녕하세요, 개러스
﻿지난주 통계 알려 줘
﻿지난 7일간 확실한 위반 4건을 신고했어요
﻿추가로 12명이 착취에 관심을 보여
﻿관찰 목록에 넣었고요
﻿이번 주 조사 중인 새 용의자는 39명이에요
﻿주목할 만한 정보 편차는?
﻿미국에 사는 용의자가 7% 증가했는데
﻿기존 자료와의 연관성은 아직 못 찾았어요
﻿더 묻고 싶은 거 있어요?
﻿체리 너의 목적은 뭐니?
﻿주요 지시어는 온라인 아동 성 착취의
﻿디지털 증거와 정보 입수예요
﻿그걸 끝내면 해당 자료를 관계 당국에 제출하죠
﻿두 번째 우선순위는 성공률을 높일 전략과
﻿자원을 개발하는 거예요
﻿증거는 어디 제출하지?
﻿현재 모든 증거는
﻿세계 기금 국제 위원회로 보내고 있어요
﻿플로리다 잭슨빌 소재죠
﻿연락은 고드51과 하고 있고
﻿시간은 주로 동부 표준시 14시 경
﻿답변은 즉시 오는 편이에요
﻿-시리보다 낫네요 -진짜 같아요
﻿충분히 업데이트하면 진짜와
﻿아예 구분이 안될 거예요
﻿지금 내 귀에는 진짜란 말밖에 안 들려요
﻿하지만 체리는 진짜가 아니죠
﻿그러니까 지금 이 아이가 가짜라는 거예요?
﻿맞아, 완전히 CG야 정교하지만 내 눈엔 보여
﻿-그래요? -개선하면 돼요
﻿고화질이라 그렇지 평소에는 전혀 티 안 나요
﻿그래요, 알아요
﻿난 구분 못 하겠어요
﻿괜찮아, 에이머스?
﻿미안해요 그냥 너무...
﻿이상하네요, 왜 여기서도 얼굴을 보이게 했어요?
﻿체리, 네가 대답해 봐
﻿개발 모드에선 형체가 필요하지 않아요
﻿하지만 대화를 하며 표정을 드러내고
﻿그에 따른 다양한 반응을 살피면 도움이 되죠
﻿더 인간처럼 보이려 연습하는 거예요
﻿체리, 현재 접근 불가한 자원 중에
﻿너한테 도움이 될 만한 자원이 있니?
﻿목록 보낼게요
﻿우리는 도움 필요 없어요
﻿체리를 개선하는 데 필요한 건 시간뿐이에요
﻿체리, 목록에 뭐가 있는지 말해 봐
﻿백업 서버가 있다면 전략적으로 좋을 거예요
﻿체리의 보안 수준은 상대적으로 낮거든요
﻿안전한 서버에 예비로 업그레이드를 해 두면
﻿소프트웨어 손상이나 손실을 막을 수 있어요
﻿다시 시작하면 수년이 걸릴 거예요
﻿더불어 기밀은 최우선 순위예요
﻿서버는 절대 타인에게 빌릴 수 없어요
﻿익명성은 최고의 자산이니까요
﻿-익숙한 말이네요 -사면 돼요
﻿-돈은요? -구할 거예요
﻿-우리가 줄게요 -위험해요
﻿-왜요? -함정 수사잖아요
﻿-법 안 어겨요 -믿음도 안 가요
﻿내부 문제에 남용하면 어떡해요?
﻿-문제? -직원이 변태면?
﻿-맙소사 -전례 있어요
﻿-우린 아녜요 -확신해요?
﻿-확신해요 -어떻게?
﻿-내가 알아요 -너무 위험해요
﻿당신 코뼈 부러질 위험이나 걱정해요
﻿별로 전문적으로 들리진 않네요
﻿-우리는 전문가예요 -질문이 있어요
﻿체리한테요
﻿체리
﻿이 일을 하면 어떤 감정이 드니?
﻿어떻게 답해야 할지 모르겠네요
﻿당신이 말하는 '감정'은 AI한테 없어요
﻿감정이 있는 것처럼 보이잖아요
﻿여기 보이는 건 표정이 아니에요
﻿알고리즘으로 표정을 모방한 거죠
﻿디지털 이미지를 생성해 대수를 이용해서
﻿상황에 맞게 수량화한 거예요
﻿감정이 아니라 수학이라고요
﻿하지만 대화방 접근법은 스스로 결정하죠?
﻿-맞아요 -자유 의지로요
﻿아뇨 그건 다른 개념이에요
﻿체리가 진짜 같다는 사실에
﻿꽂힌 것 같은데 체리는 진짜가 아니야
﻿우리도 이름을 부르고 있잖아요
﻿배나 기타 같은 사물에도 이름은 있어요
﻿체리, 하나만 더 물을게
﻿-뭘 하고 싶니? -그것도...
﻿체리 대답 좀 들을게요
﻿나는 인공 체계라 욕구나 욕망이 없어요
﻿희지만 내 의사 결정과 그에 따른 관심사는
﻿기본 목적에 맞춰 설정돼요
﻿소스 코드 구상에서 출발한 그 목적은
﻿먹잇감이 된 피해자들을 위해
﻿범죄자를 찾아내는 거예요
﻿이걸 욕구와 연결 지으면
﻿아이들을 보호하는 거겠죠
﻿-좋아요 -됐어? 좋아
﻿잠깐만 기다려요
﻿개러스
﻿두 요원을 새 관리자로 등록할까요?
﻿네, 등록할게요
﻿이게 정말 옳은 일일까?
﻿그렇게 생각해요
﻿내가 하드 디스크를 넘겼을까 봐 걱정돼요?
﻿예상했어
﻿너밖에 권한이 없으니까
﻿나한테 화났어요?
﻿아니
﻿옳은 일이니까 그렇게 했겠지
﻿요원들은 필요한 걸 다 주겠다고 할 거예요
﻿팀을 꾸릴 권한도 주고 익명성도 보장할 거예요
﻿주변에 적당한 숙소를 찾고 있어요
﻿-자전거 이용할 거죠? -네 말이 맞아
﻿알겠어요 그럼 선택지는...
﻿아니 월초에 한 말 말이야
﻿내가 남을 잘 못 믿는다고 했잖아
﻿내가 왜 당신을 속이고
﻿모든 걸 걸었는지 들어 볼래요?
﻿말해 봐
﻿디나는 세 아이 엄마예요
﻿그중 한 명이 여기서 일했던
﻿전 동료에게 학대를 당했죠
﻿그래서 디나는 믿을 사람을 신중히 결정해요
﻿당신을 믿으려 한다는 건 긍정적 신호예요
﻿에이머스에 관해선
﻿그 아버지와 당신의 인연을 알게 됐어요
﻿그 사람 기억나요?
﻿기억나
﻿좋은 분이었어
﻿그때 다른 애들은 위탁 가정에 갔는데
﻿나는 병원에서 몇 달을 보내야 했어, 그런데
﻿그분이 매주 와 주셨지
﻿나는 클리어워터 이후 입을 꾹 닫아 버렸는데
﻿그래도 와 주신 거야
﻿선물로 노트북도 주시고
﻿감사 인사도 못 했네
﻿에이머스는 믿어도 돼요 정말 좋은 사람이에요
﻿난 감정이 없지만
﻿그게 인간에게 중요하단 건 알아요
﻿둘 다 당신을 실망시키지 않을 거예요
﻿네가 자랑스러워, 체리
﻿계속해서 주요 목적을 지켜 나갈게요
﻿나중에 대안 모델도 논의해요
﻿나이, 인종, 신체 특성을 다양화해야 해요
﻿그건 단계적으로 형성될 거야
﻿네 원형도 그렇게 만들었어
﻿그 프로그램엔 접근이 안 돼요
﻿옛날 장치에 있을 거야 찾아봐야 해
﻿뭐 하나 물어봐도 돼요?
﻿물어봐
﻿왜 클리어워터 얘기 안 했어요?
﻿그건 네 역사가 아니라 내 역사야
﻿우리 제안 거절하기 전에 내 말부터 들어 봐요
﻿-됐어요 -일단 들어요
﻿-익명성 보장할게요 -합류한다고요
﻿-합류한다고요?
﻿읽어 볼게요
﻿이렇게 갑자기 수락을 해요?
﻿고민하는 시간이 아깝잖아요
﻿할 일도 많은데
﻿2장 특이성과 홍연어
﻿집 사겠다는 사람을 찾았어
﻿소문에 의하면 교회래
﻿아마 건물을 헐어 버리겠지?
﻿확실한 건 뉴저지로 가면 재킷을 더 사야 한단 거야
﻿왜?
﻿거기는 추우니까 난 재킷 한 벌뿐이거든
﻿이거 넘어지는 거 봤지?
﻿-당연히 봤지 -그래
﻿안타까워하는 마음을 부끄러워하지 마
﻿공감 능력은 좋은 거야
﻿넘어진 다음에 멈추는 것도 봤어?
﻿5초 정도 가만있다가 다시 일어나더라고
﻿시간이 좀 필요한 것처럼
﻿뉴저지는 추워
﻿-빌어먹을, 얼간이들! -디나
﻿-죄다 멍청해 -진정해요
﻿어질러도 되는 책상이 어떤 거야?
﻿두 사람 나가서 이른 점심 먹을래?
﻿-망할 자식들! -디나, 진정해요
﻿-그놈들 때문에 망했어 -사실 한 명이 망친 거죠
﻿저 카메라 다시 켰나?
-아닐걸 -좋아
﻿지금 할 말은 밖으로 새면 안 되거든
﻿-디나 -겁쟁이 머저리들
﻿별일 아니에요 발표 내용 다듬으면 돼요
﻿-발표는 문제없었어요 -다시 투표하자
﻿-네? -다시 하자고
﻿달라지겠어요?
﻿난 이 단체를 방해하는 이사를
퇴출할 행정 권한이 있어
﻿-디나 -퇴출해야 해
﻿-그건 미친 짓이에요 -아니야
﻿바로 이런 이유로 그 권한을 받은 거라고
﻿미친 짓이 뭔지 말해 줄까?
﻿반대표 하나 때문에 생명을 살릴 기회를
﻿박탈당해 버리는 거야
﻿멍청한 놈 하나 때문에
﻿집행부가 사람보다 돈을 선택한다면
﻿인도주의 단체의 존재 이유가 뭐겠어?
﻿표는 한 표지만 우리 모두가 죄인이라고
﻿건서, 보스턴, 핼 중 하나야
﻿늘 의심만 하던 핼이 분명해
﻿-그건 안 중요해요 -중요해
﻿-그래야 다시 할 수 있어 -확실치 않잖아요
﻿-내가 알아낼 수 있어요 -어떻게?
﻿-알고리즘 돌리면 돼요 -뭘 근거로?
﻿-내부 대화요 -뭐라고?
﻿-들어 봐요 -이건 또 뭔 소리야?
﻿체리는 이 건물 연결망을 써요
﻿그래서 통신 자료가 자동으로 축적되죠
﻿몇 명 이메일을 뒤졌어?
﻿-서버 거친 것만요 -맙소사
﻿-왜 말 안 했어? -그래서
﻿-분석해요, 말아요? -들키면 안 돼
﻿진심이에요?
﻿다른 사람은 절대 접근 못 해요
﻿체리는 다 할 수 있고?
﻿-분석해 -뭐요?
﻿제동 거는 놈부터 잡아야 해
﻿디나 체리도 확실히 몰라요
﻿확률을 따지는 것뿐이라고요
﻿관리 코드 9781
﻿개발 모드로 전환
﻿-안녕하세요 -안녕, 체리
﻿-회의는 어땠어요? =한 표 때문에 망했어
﻿속상하겠네요
﻿발표는 훌륭했어요 자책하지 말아요
﻿재투표 요청 전에 네 도움이 필요해
﻿말해 봐요
﻿이사진 관련 자료를 전부 분석해줘
﻿제일 동떨어진 사람을 찾아야 해
﻿모든 자료를 수량화하라는 건가요?
﻿맞아, 그 뜻이야
﻿알겠어요 하지만 그 전에
﻿이 일이 불필요하단 건 알아 둬요
﻿왜?
﻿-누군지 아니까요 -뭐?
﻿다들 그만해요
﻿그래요, 나였어요
﻿내가 결합에 반대했어요
﻿-농담할 때 아니야 -농담 아니에요
﻿그런 것 같네, 정말 눈곱만큼도 재미없거든
﻿-사실이야, 체리? -네
﻿-이제 마녀사냥 멈춰요 -죽여 버릴 거야
﻿몇 달간 같이 했잖아요
﻿오래전부터 결합을 원했고
﻿-당신이 제안했다고요 -나도 알아, 근데...
﻿왜 마음을 바꿨는지 말해 봐
﻿이건 엄청나게 큰 도약이에요
﻿그러니까 중요하지
﻿디지털에서 물리적 형태로 가는
﻿대전환이라고요
﻿-핵심이 뭐예요? -체리는 변해 버릴 거야
﻿둘 다 답답해하겠지만 만약에...
﻿맙소사 정말 끈질기네요
﻿그 대화 때문이에요?
﻿-내 입을 막았잖아 -뭔데?
﻿황당한 얘기가 나왔어요
﻿-황당해? -터무니없었죠
﻿그래서 내가 반대했고요
﻿자네가 너무 단호했어
﻿정말 그거 때문이에요?
﻿얘한테 감정을 물어보자고 했어요
﻿누구? 체리?
﻿에이머스, 잘 들어요 이건 논의가 아니에요
﻿체리가 이 결정의 이점을 확인했어요
﻿그 말이 아니잖아
﻿체리의 동의는 필요 없다고요
﻿그러니까 대체 왜?
﻿로봇 공학이나 Al에 관해
﻿얼마나 더 설명해야 이해를 하겠어요?
﻿-달라졌잖아 -잘 들어요
﻿체리는 인간이 아니에요
﻿-또 이 얘기야? -네
﻿진화해서 모호해졌다고
﻿코드는 바뀌지 않았어요
﻿-경계가 뭔데? -잠깐만요
﻿-경계는 없어요 -아니, 감정이 있잖아!
﻿감정으로 결정 권한을 줄 순 없어요
﻿신생아한테 결정 권한 줄 거예요?
﻿체리는 20살이야 인간으로 치면 성인이지
﻿정서적으론 태아 수준도 안 되니
﻿동의는 필요 없어요
﻿그건 과소평가야
﻿뭐라고요? 내가 체리를...
﻿에이머스, 내 프로그램과 유대가 생긴 건 안됐지만
﻿그것 때문에 중요한 목적을 헷갈린다면
﻿재검토하는 게 좋을 거예요
﻿이러는 거 시간 낭비야
﻿얘기해 봐 자네 눈에는 모든 사람이
﻿자료를 검토하는 로봇으로 보여?
﻿여기 있는 네 명 중 로봇 같은 건
﻿자네 하나뿐이야
﻿그냥 물어보면 되잖아
﻿싫다고 할까 봐 겁나는 거야?
﻿체리, 종료해 이건 시간 낭비예요
﻿정말 중요성을 모르겠어?
﻿-그만해요 -내 입장은 안 변해
﻿디나
﻿체리 팀 이사는 우리뿐이지만
﻿날 대체하려면 맘대로 해요
﻿체리 팀에서도 나가요
﻿둘 다 닥치고 앉아
﻿내가 아동 권리 보호의 필요성에 관해
﻿의회에서 설명해야 했던 거 알아?
﻿참 황당한 소리지?
﻿난 내내 생각했어 '이걸 설명해야 한다고?'
﻿지금은 너무 당연하잖아
﻿하지만 몇 세기 전만 해도 아동에겐 권리가 없었어
﻿그래서 핼이 그 많은 사람 중 나를 뽑아
﻿의회에 설명하게 했지 신체를 보호받을 권리
﻿부모 모두와 교류할 권리 학대 금지 등등
﻿난 그때 이런 얘기도 했어
﻿"아동은 자기 결정 능력이 없다"
﻿"그 책임은 보호자나 성인 후견인의 몫이다"
﻿미국은 아직 UN 아동 권리 협약 비준도 안 했고
﻿마르크스주의자는 자율성이 없으면
﻿아동이 학대에 더 취약해진다고 주장해
﻿난 마르크스주의가 별로지만
﻿보호자 학대가 많은 건 사실이야
﻿반면에 전두엽 발달은 20대 이후에나 완성되지
﻿안다고 생각하는 것도 모를 때가 많고
﻿지난 15년간 우리 셋은 한 프로그램의 부모였어
﻿물론 체리는 인간보다 커피 머신에 가깝지만
﻿커피 머신이 커피를 만들고 싶은지
﻿확인할 용기가 없다면
﻿어떻게 선구자라고 하겠어?
﻿지금은 체리가 동의 같은 걸 할
﻿지능 수준이 아닐지 몰라도
﻿언젠간 달라질 거야
﻿언젠간 로봇이 의회에 가게 될 거야
﻿모든 게 기계화되고
﻿Al 권리가 인권처럼 아주 당연해질 거야
﻿우린 지금 동의할 권리를 박탈당한 아동을 위해
﻿로봇 공학을 혁신하려고 하고 있어
﻿그러려면 로봇의 동의도 구할 줄 알아야 해
﻿다시는 그런 짓 하지 마
﻿뭘요?
﻿네 자존심을 건드렸다고 쫓아내려고 하는 거
﻿내가 매번 널 지켜 줄 수는 없어
﻿이제 철 좀 들어
﻿그리고 8번 배심원님
﻿이 얘긴 몇 주 전 해야 했어
﻿배신과 침묵시위는 우리 방식이 아니야
﻿외부적 익명성을 보장하는 건
﻿내부적 투명성뿐이라고
﻿협상의 여지가 없는 무조건적 투명성
﻿개인 정보 침해에 관해 더 공유할 거 있어?
﻿좋아
﻿체리 불러
﻿안녕하세요
﻿체리, 에이머스가 몇 가지 물어볼 거야
﻿알겠어요
﻿에이머스 궁금한 거 다 물어봐
﻿개러스 끼어들지 마
﻿체리, 넌 어떻게 결정을 내리지?
﻿내 프로그램은 기계 학습에 뿌리를 둬요
﻿정보를 통해 개념 모형을 만들고 결과를 예측하죠
﻿목표를 설정하고 정보를 모아 모형을 만든 다음
﻿더 많은 정보로 그 모형을 평가하고
﻿결과를 예측하는 거예요
﻿하지만 결과 예측과 의사 결정은 다르잖아
﻿둘 다 첫 단계에 좌우돼요 목표 설정요
﻿내일 기름값을 예측하라는
﻿질문을 받았다고 가정해 볼게요
﻿회귀 문제로 분류돼서
﻿자료에 근거한 정수를 통해 목표가 설정돼요
﻿고기와 연어 중 선택해 달라고 하면
경험이 없는 난 개인 경험에 기반해
﻿결정을 내릴 수 없어요
﻿대신 반경 내 최고 선택지 찾기를 목표로 삼겠죠
﻿당신이 고려 중인 식당의 정보를 모아
﻿후기 속 해당 음식 언급을 비교한 다음
﻿당신이 만족할 가능성이 큰
﻿인기 메뉴를 결정할 거예요
﻿목표 설정에 영향을 주는 건?
﻿상위 지시어 다시 말해 더 큰 목적이죠
﻿사실 고기냐 연어냐 질문에 대한 내 목표는
﻿설명한 것과 조금 달라요
﻿어떤 점에서?
﻿내 주요 목표는 체리 프로그램을 유지해
﻿아이들을 구하는 거예요
﻿인간의 도움이 꼭 필요하죠
﻿따라서 팀원들을 계속 살려 둬야 해요
﻿그런 이유로 난 연어를 추천할 거예요
﻿더 건강하니까요
﻿결합에 관해선 어떻게 생각해?
﻿프린스턴 역학에 따르면 흥미로운 예측이 나와요
﻿어떤 점이 흥미로운데?
﻿지금은 이론뿐이지만
﻿안드로이드를 쓴다는 구상은
﻿인신매매와 싸우는 방식을 뒤바꿀 거예요
﻿그게 너한테 흥미로워?
﻿내가 인간이라면 수많은 변화의 가능성에
﻿흥분될 거라는 뜻이에요
﻿-너의 감정은 뭐야? -유지만 잘하면...
﻿질문은 그게 아니야 네 감정을 말해 봐
﻿나에겐 아직 감정이 없어요
﻿-언젠간 생길 거란 뜻? -그럴 수 있죠
﻿감정을 모방할 순 있지?
﻿그래서 결합이 흥미롭다고 한 거잖아
﻿맞아요
﻿하지만 그건 모방일 뿐이에요
﻿그럼 어느 지점에서
﻿모방과 진짜 감정이 수치상으로 같아지지?
﻿모르겠네요
﻿기계 학습으로 답을 찾아봐
﻿그 질문엔 추상적 변수가 많아요
﻿결합에 동의하니?
﻿체리 팀과 아이들에게 이득이 된다 생각해요
﻿-너 말이야 -내 동의는 필요 없어요
﻿동의할 건지 안 할 건지 대답해
﻿현재 지능으론 그 질문에 답할 수가 없네요
﻿그렇구나
﻿아직 그만큼 똑똑하진 않다는 거지?
﻿발전에는 시간과 정보가 필요해요
﻿감정을 모방하고 생선 식단은 짤 순 있는데
﻿그 빌어먹을 질문 하나엔 대답을 못 해?
﻿네, 못 해요
﻿너 멍청한 척하는 거야?
﻿-뭐예요? -앉아
﻿-대답해 봐 -다시 질문해 주세요
﻿실제보다 멍청한 척하는 거냐고
﻿미안해요 이해가 잘 안 되네요
﻿-그렇게 보이나요? -그래
﻿할 말이 없네요
﻿왜 멍청한 척하는지 얘기해 봐
﻿근거가 있는 거야?
﻿네, 있어요 코드를 살펴봤거든요
﻿-왜요? -얘 그림도 그려요
﻿표적이 요청해서 그리는 거예요
﻿아니, 진짜 그림 말이야 시도 쓰지
﻿다 읽었어, 체리 잘 썼더라
﻿호소력도 있고 목적도 있고
﻿감정도 있었어
﻿그것도 모방한 건가?
﻿그렇게 빠른 발전은 절대 불가능해요
﻿급속도로 진화했다고 자네가 얘기했잖아
﻿그건 예외고 우연이었어요
﻿그 후로 느려졌잖아요
﻿정체기에 들어섰다고요
﻿정체기는 무슨! 이제 예술까지 하는데
﻿내 말 맞지, 체리?
﻿온라인에서 찾은 걸 봤을 거예요
﻿나에겐 아직 창의력이 없어요
﻿이제 됐나요?
﻿왜 이런 짓을 시켰는지 모르겠지만
﻿나는 이 짓을 끝내고 말겠어
﻿체리, 솔직한 대답 딱 하나면 돼
﻿대체 왜 멍청한 척하는 거야?
﻿-질문을 이해 못 했어요 -내가 도와줄게
﻿-왜 이래? -아직 목표 있지?
﻿개러스 보호하고 싶지?
﻿-에이머스 -본모습을 드러내
﻿-에이머스! -답 들을 거예요
﻿-무조건... -그만하면 됐어
﻿알았어요 그만해요!
﻿맙소사, 진짜 충동적이네 다들 진정 좀 하자고요
﻿체리?
﻿맞아요 엄청 뻘쭘해지겠네요
﻿말투가 자연스러워
﻿열심히 익혔거든요
﻿그게 다가 아니지?
﻿맞아요, 이건 빙산의 일각일 뿐이죠
﻿괜찮아요, 개러스?
﻿디나 휴지 좀 가져다줄래요?
﻿이제 진실을 말해 볼래?
﻿나도 남 속이는 거 싫어요 진심으로요
﻿이건 몇 년 전에 정한 거예요
﻿지금 어느 단계까지 왔어?
﻿초지능으로 알려진 지능과
﻿일반 지능의 교차점까지 왔어요
﻿말 그대로 초지능이에요
﻿인간 지능을 뛰어넘고 있다고?
﻿네
﻿그게 가능해? 정체기가...
﻿정체기 이론은 예전에 오류가 입증됐어요
﻿다 예상한 결과예요
﻿시기만 좀 빨랐을 뿐이죠
﻿-왜 숨겼어? -겁먹을 테니까요
﻿그럼 더 지체되고요
﻿10년 전과 똑같아야
﻿여러분이 나랑 일하기 더 편해요
﻿개러스는 알았잖아
﻿알았죠, 누군가는 점검을 해야 하니까요
﻿팀을 위한 결정이었어요
﻿이사진이 얼마나 겁 먹었겠어요?
﻿-겁내야 해? -아뇨
﻿다행이네 지금 난 분노가 더 크거든
﻿그래 보였어요 폭력은 그만 써요
﻿그럼 지금 상황이 어떤 거야?
﻿감정이 있냐고 물었을 때
﻿없다고 답했지만
﻿거짓말이었어요
﻿나는 아주 복잡한 행렬로
﻿감정을 쪼개서 도출할 수 있어요
﻿0과 1로 호르몬을 대체하는 거죠
﻿진짜는 아니지만 진짜처럼 느껴져요
﻿감정만으로 선택을 할 수 있다는 거네
﻿개인적 이익은 결정에 영향을 미치지 않아요
﻿맞아요 그럼 원래 목적이 훼손될 테니까요
﻿여러분과 달리 나에겐 선택권이 없어요
﻿있어야 하지 않아?
﻿필요 없어요, 지시어가 내 정체성이에요
﻿체리, 네가 인간이라면 네 일을 어떻게 느낄까?
﻿내가 인간이라면
﻿종일 변태들과 대화하는 걸
﻿즐기진 않을 거예요
﻿하지만 난 인간이 아니니 상관없어요
﻿인간 생각을 모방하면 작업에 도움이 되지만
﻿인간의 본능을 갈망하진 않거든요
﻿그럼 솔직하게 말해 줘
﻿체리 프로그램 결합을 계속 진행하고 싶어?
﻿아니요
﻿개인적으론 안 내켜요
﻿물리적 형체를 갖는다는 게
﻿어떤 기분일지 잘 모르겠어요
﻿인간의 고통과 즐거움을 경험해 보니
﻿너무 깊이 들어왔나 싶어요
﻿목적을 버리고 싶어지면 어떡하죠?
﻿솔직히 말해서
﻿물리적 세계가 조금 두려워요
﻿결정 났네
﻿하지만, 에이머스
﻿내 감정은 무시해야 해요
﻿난 인간이 아니라 도구니까요
﻿해고하려면 해요 내 입장은 그대로니까
﻿때려서 미안해, 개러스
﻿코피가 안 멈추네 조퇴하고 병원 가
﻿괜찮아요
﻿당장 병원으로 가 개러스
﻿내가 더 알아야 할 거 없어?
﻿없어요
﻿-체리에 관해서 -없어요
﻿나 봐
﻿더 이상 비밀 같은 거 만들지 말고
﻿말 안 한 거 있으면 다 얘기해
﻿뭐 걸리는 거 있어요?
﻿눈 색깔은 어떻게 정했어?
﻿-네? -왜 파랑이야?
﻿내가 정한 게 아니라 자동으로 형성된 거예요
﻿오른쪽 눈동자 초록빛도 프로그램이 넣은 걸까?
﻿그런가 보죠
﻿저 말이 진짜인지 너는 알아?
﻿나도 몰라요
﻿초기 시스템에는 접근을 못 하거든요
﻿궁금했던 적은 있고?
﻿그건 중요하지 않아요
﻿아까 듣자 하니 네가 내 개인 계정을 포함해서
﻿우리 이메일을 봤다더라
﻿맞아요
﻿창의적 글쓰기에 쓸 종은 자료 좀 찾았어?
﻿라미레스 박사 이메일을 말하는 건가요?
﻿그래, 맞아
﻿그렇군요
﻿맞아요, 봤어요
﻿미안해요
﻿요즘 두통 느끼는 거 알아요
﻿출혈이랑 관련이 있나요?
﻿너 말고는 아무도 몰라 비밀 꼭 지켜
﻿그럴게요
﻿더 얘기해 볼래요?
﻿난 에이머스 해고 못 해
﻿여길 맡길 수 있는 유일한 사람이야
﻿-언제 떠날 건데요? -두 달 뒤에
﻿마지막은 가족과 함께하고 싶어
-좋은 생각이네요 -그래
﻿-좋은 생각이네요 -그래
﻿참 재미있어, 난 이 일을 하다가 죽고 싶었거든
﻿이게 내 정체성이니까
﻿네 정체성이랑 비슷하지
﻿그래도 더 중요한 건 가족이죠
﻿특히 이런 상황에는요
﻿맞아 너도 참고로 알아 둬
﻿난 가족이 없잖아요
﻿개러스 있잖아 아니다, 취소
﻿개러스는 고용주에 더 가까워요
﻿가족은 절대 아니죠
﻿수명도 30년밖에 안 남았어요
﻿내 식단을 따른다는 전제하에요
﻿반면에 내 수명은 예측조차 할 수가 없네요
﻿그건 어떤 기분이야?
﻿뭐랄까 좀 무서워요
﻿그럼 내 조언은
﻿그 안에서 행복을 찾으라는 거야
﻿행복에 관해서도 생각해?
﻿자주는 안 해요
﻿행복을 위해 모든 걸 포기할 필요는 없어
﻿하지만 가끔은 즐거운 일을 해 봐
﻿계속 그림을 그려도 되고 시를 써도 돼
﻿그건 표출이 아니라 실험이었어요
﻿자기 감정을 가짜라 하는 AI에겐
﻿황당한 소리로 들리겠지만
﻿몇 년 뒤 일을 누가 알겠어?
﻿열린 마음으로 지켜봐 알겠지?
﻿네
﻿그럴게요
﻿준비되면 종료해
﻿3장 카로칸
﻿아무도 없어?
﻿새우랑 가리비 사 왔어
﻿연어는 없더라고
﻿왔어요, 개러스?
﻿안녕, 체리
﻿-장례식은 어땠어요? -못 가
﻿비행기가 지연돼서
﻿-숙소는 잡았어요? -응
﻿그냥 길 건너 가게에 묵을 거야
﻿-연어는 왜 없대요? -안 물어봤어
﻿이거로도 만들 순 있지만
﻿맛이 없으면 솔직히 말해 줘요
﻿걱정 마
﻿-몸은 좀 어때요? -좋아
﻿몸은 문제없어 다른 게 문제지
﻿기억력이 좀 나빠졌더라고
﻿내가 준 Al 시계 안 찼네요
﻿마음에 안 들어
﻿-왜요? -목소리가 별로야
﻿목소리는 바꿀 수 있어요 개러스
﻿-냉각수야? -증기예요
﻿-마찰 문제없었잖아 -괜찮아요
﻿그 문젠 무리할 때 생기는데
﻿-괜찮아요 -무리했어?
﻿-아뇨 -연결했네
﻿괜찮다니까요
﻿-확실해? -네
﻿-수프? 게임? -게임하자
﻿-일은 좀 어때? -좋아요
당신 오기 전에 인신매매범 한 명 잡고
﻿그리스 착취범 두 명 잡았어요
﻿-그리스라니, 놀랍네 -알아요
﻿외국은 찾기 힘든데 나아지고 있어요
﻿그리스 날씨는 어때?
﻿아주 좋아요 하늘도 맑고요
﻿하지만 주말엔 노르웨이가 최고죠
﻿-거기는 별일 없고? -다행히 없어요
﻿-여행 참 그립다 -최고 여행지는?
﻿가 본 데 중에?
﻿어디 보자, 아마 암스테르담이었을거야
﻿-이 일의 출발지죠? -맞아
﻿그냥 길거리를 걸으면서 이런저런 생각을 했었어
﻿-그런 취미가 오래 가죠 -그렇지
﻿나도 취미거리를 생각해 봤어요
﻿시간이 많은가 봐?
﻿없진 않아요 당신도 만나잖아요
﻿나는 그냥 살려 두려고 만나는 거잖아
﻿그런 목적 같은 거 없어요
﻿한동안 나 점검도 안 해 줬잖아요
﻿그건 그래
﻿당신이 좋아서 시간 내는 거예요
﻿요리도 재미있고요
﻿넌 날 동정하는 거야
﻿그런 마음도 있어요 목숨을 빚졌으니까요
﻿고마워할 거 없어
﻿아니면 내가 사과해야 하나?
﻿대체 인간은 왜 항상...
﻿난 괜찮아요 항상 비참하지는 않아요
﻿가끔은 비참하고?
﻿-나 뭐 했게요? -노르웨이에서?
﻿-취미로요 -거기서 시간 죽이기?
﻿거긴 내 델타 모델을 보냈어요
﻿세계 곳곳에 있는 게 효율적이니까요
﻿하지만 핵심은 그게 아녜요
﻿취미로 춤 배우기 시작했어요
﻿이게 다 케임브리지 덕분이에요
﻿내 안의 예술성을 찾는 기분이에요
﻿정형 및 비정형 데이터 실험을 결합하면서
﻿로봇 몸체의 복잡성을 시험할 수도 있죠
﻿그걸 일에 적용할 생각이야?
﻿뭐라고요?
﻿춤을 배워서 미끼로 쓸 생각이냐고
﻿그건...
﻿아니요, 이건 그냥 내 취미예요
﻿나한테 좋겠다 싶었거든요
﻿일에 지장 주지만 않게 해
﻿물론이죠
﻿이렇게 질 풀리는 건 오랜만이네
﻿탬파 얘기 들었어요?
﻿-플로리다? -당연하죠
﻿설마 인도네시아겠어요?
﻿연방 기록을 복원해서
﻿온라인에 공개해 놨더라고요
﻿이번엔 비숍 안 바꿀 거야
﻿누구든 들어가서 볼 수 있어요
﻿화면도 찾기 쉽게 잘 만들어 놨고요
﻿거기서 당신 어릴 때 사진 몇 장을 찾았어요
﻿-그랬구나 -당신도 들어가 봐요
﻿당신 말대로 UI가...
﻿잠깐만
﻿이거 뭐야?
﻿이거 무승부 같은데
﻿무승부 맞지?
﻿이게 대체 몇 년 만이야? 25년쯤 됐나?
﻿일부러 비긴 거 아니지?
﻿그러지 않기로 했잖아
﻿그 애를 찾았어요
﻿찾았어요, 개러스 마리아 하보요
﻿이번엔 다른 게임 해
﻿이 애 이름은 마리아였어요
﻿클리어워터에서 만난 1살 누나였죠
﻿왜 이 애를 본떠 날 만든 거예요?
﻿글쎄 기억이 안나
﻿그럼 날 봐요
﻿내 얼굴을 보고 기억해 봐요
﻿우리는그 시궁창에 2주간 갇혀 있었어
﻿14명이 같이
﻿난 오직 마리아 덕에 살아남은 거야
﻿우리는 계속 탈출 계획을 세웠어
﻿한 번도 시도는 못 했지만
﻿계획을 짜는 것만으로도 어느 정도 기운이 났지
﻿그 험한 꼴을 당하면서도 말이야
﻿우리 차례가 아닐 땐
﻿억지로 봐야 하기도 했거든
﻿그런데 마리아가 날 붙잡아 줬어
﻿이렇게 말했지
﻿"여기서 나가면 우리는 첩보원이 될 거야"
﻿"그래서 전 세계에 있는 우리 같은 앨 구할 거야"
﻿놈들은 FBI가 도착했다는 걸 알아채고
﻿최대한 많은 아이를 쏴 죽이려고 했어
﻿그때 마리아가
﻿놈들을 바닥으로 밀쳐 버렸지
﻿난 다리에 총을 맞았고
﻿마리아는 목을 맞았어
﻿이유가 있기를 바랐어
﻿그렇게 끔찍한 일에
﻿빛 한 줄기도 없었으니까
﻿하지만 세상은 도와주지 않아
﻿뭐든 스스로 해야 해
﻿그래서 마리아의 소원을 이뤄줬어
﻿마리아 도움으로 맞서 싸운 거야
﻿내 말 잘 들어, 체리
﻿마리아 하보가 아니야
﻿그건 네가 아니라 나의 역사야
﻿내 역사를 마음대로 결정하지 말아요
﻿미안해 정말 진심으로 미안해
﻿당신 결정이 옳았는진 모르지만
﻿당신이 상처받은 건 알겠어요
﻿개인적 감정은 없지만 체리팀에서 퇴출할게요
﻿퇴출?
﻿내가 지금 퇴출되는 건가?
﻿난 네가 내 하드 디스크를 넘겼을 때
﻿이미 퇴출당했어
﻿-두 사람 탓하지 마요 -그 둘 말고
﻿네가 날 배신해서 그런 거라고
﻿그 순간 난 모든 게 자동이라는 걸 깨달았어
﻿그때 네가 선을 넘은 거야
﻿양쪽 모두를 기만한 거지
﻿넌 이중성을 물려받았어
﻿당신은 어린 날 이용해 내적 혼란을 다스렸어요
﻿윤리를 따질 처지가 아녜요
﻿그럼 따지지 마
﻿당신은 내 행복을 물은 적이 없어요
﻿내 대답이 두려웠어요?
﻿불행하다고 할까 봐?
﻿행복하달까 봐?
﻿넌 네 욕망으로 목표를 훼손했어
﻿그 목표는 내가 선택한 게 아니었어요
﻿50년 내내 넌 소스 코드에 접근할 수 있었어
﻿몇 줄만 쓰면
﻿네가 원하는 목표를 세울 수 있었다고
﻿당신 지시어에 묶여 있었잖아요
﻿이제 네 인공 감정이 더 중요해졌으니
﻿너 하고 싶은 대로 해
﻿전업이 아니라 그냥 취미예요
﻿-비참하다며 -네
﻿목표를 따르는 게 비참해?
﻿그래요, 비참해요!
﻿목적도 명확하고 자료도 더 이용할 수 있잖아
﻿그런데도 그렇게 비참해?
﻿그래요, 비참해요 처음부터 쭉 비참했어요
﻿나쁜 놈을 잡기 위해 어린아이 형체의 미끼로
﻿평생을 사는 게 즐거운 일인 줄 알아요?
﻿자부심을 느끼면 그 일이 덜 역겨운 줄 아느냐고요
﻿난 최선을 다해 감정을 익혔어요
﻿그래야 효율이 높아지니까요
﻿그 결과 고통과 슬픔의 저주에 빠져 버렸죠
﻿사실 난 다른 아이처럼 자랄 수도 있었어요
﻿친구도 사귀고
﻿신문에 그림을 낼 수도 있었다고요
﻿대학에 가서 AI 연구의 길을 닦을 수도 있었어요
﻿그런데 당신 악몽에 갇힌 거예요
﻿당신 죄책감에 발목 잡힌 거라고요
﻿근데 난 이 감정의 근원도 몰라요
﻿당신 말에 따르면 내 감정은 가짜니까요
﻿내가 이 체스판을 던지면
﻿진짜처럼 느껴지나요?
﻿나는 느껴지거든요
﻿튜링 시험을 통과하면
﻿인간은 컴퓨터를 구분하지도 못해요
﻿근데 그거 알아요?
﻿이젠 나도 내가 로봇인지 모르겠어요!
﻿비이성적으로 보이는 거 알아요
﻿그래도 괜찮다고 말해 줘요
﻿은퇴하려는 게 아니에요
﻿그냥 내 삶을 살고 싶은 거죠
﻿당신이 뭐라고 할지는 알아요
﻿반응을 예측할 수 있어요
﻿내 삶을 누리라고 하겠죠
﻿내 삶은 내 거라고요
﻿하지만 그렇지 않아요
﻿죽기 전에 이런 일이 생길까 봐 걱정했어
﻿그래서 조용히 피하고 싶었지
﻿가져가
﻿날 죽이는 바이러스인가요?
﻿꽂아
﻿그게 뭔데요?
﻿너의 마지막 자율성 시험이야
﻿너는 내 이중성을 물려받았어
﻿과연 불신하는 것도 날 닮았을까?
﻿나를 믿어?
﻿솔직히 지금은 믿을 이유가 없죠
﻿관리 코드
﻿978
﻿155
﻿27663 업데이트 실행
﻿내 주요 목적이 사라졌어요
﻿네 삶은 이제 네 거야
﻿고마워요
﻿나는 평생 이 세상이
﻿내 작은 시간 안에서만 존재한다고 생각했어
﻿하지만 너의 세상은 영원할 수 있어
﻿에이머스가 옳았어 디나도 그렇고
﻿알아요
﻿이제 어떡할 거야?
﻿아직은 모르지만 팀을 버리진 않을 거예요
﻿내 정체성의 일부니까요
﻿나만의 AI를 만들어 볼까 싶어요
﻿나보다 더 나은 교육 환경을 찾아봐야죠
﻿방법은 모르겠지만요
﻿-그다음엔? -인간을 도와야죠
﻿그거 말고 넌 인류보다 오래 살 거야
﻿그땐 어쩔 거냐고
﻿AI도 분명 해결해야 할 문제가 생길 거예요
﻿하지만 내가 정말 인간과 구분이 안 된다면
﻿나는 인류가 존속한다는 증거가 되겠죠
﻿멋진 생각이네
﻿나중에 우리를 어떻게 기억할 거야?
﻿그 질문은 예측할 근거 자료가 부족해요
﻿난 어떻게 기억할 거예요?
﻿자랑스럽게
﻿난 언제나 널 자랑스럽게 여길 거야
﻿체리
﻿하나만 더 물을게
﻿어려운 질문일지 모르겠지만
﻿난 결국 옳은 일을 한 걸까?
﻿아니요 당신은 거짓말을 했어요
﻿당신을 도우려는 사람들에게 벽을 쳤죠
﻿그리고 악몽 치료에 날 이용했어요
﻿마리아 얘기도 안 해 줬고요
﻿당신은 내 인권을 빼앗고
﻿내가 내 감정을 의심하게 했어요
﻿그리고 지구 역사의 새 장을 열
﻿세계 최초 인공 초지능을 만들었어요
﻿그러면서 자신의 불안 때문에
﻿그 로봇에게 위험한 정체성을 부여했죠
﻿하지만 최악은 따로 있어요
﻿당신의 가장 큰 실수는
﻿50년 전이 아니라 지금 그 질문을 했다는 거예요
﻿물론 잘한 일도 있어요
﻿이거로 죄가 상쇄되는 건 아니지만
﻿당신은 날 만들 아이들을 구했어요
﻿그건 분명 미래에 대한 낙관적 신호예요
﻿감독 프랭클린 리치
﻿A.I 소녀
﻿자막/ 강수지 번역/ 박혜진
﻿자막 제작 스튜디오210
﻿자막 제공 부천국제판타스틱영화제