By jeje | July 31, 2018

EP.07 MATRIX, 1999

지난 주(?) 잡캐라이브러리 <공각기동대> 편에서…

잡캐가 잡캐를 섭외해서 잡다한 이야기를 나누며 무려 회사 블로그에 질러버리는 시시껄렁한 잡캐 시리즈의 지난 편, 이렇게 예고(?)를 했었더랬죠.

영화 3편을 골라골라 키위군과 또 썰을 풀어봤습니다.
사실 <매트릭스> 가 메인요리고, 나머지는 반찬 쯤 됩니다.
(그러므로 제목에는 <매트릭스> 만 적는다!!)

그나저나 요새 질문 메시지 주시는 분들 보니 99년생 분들이 계시던데…(말잇못)
.
.
.
네. 이 영화도 1999년에 만들어졌습니다.

각설하고 썰 풀기 시작 해 봅니다!
더운 여름, 에어컨 틀고 이불 속에서 슥슥 넘기며 즐겨주세요ㅋㅋ

<매트릭스>

정보

원제 The Matrix

감독 워쇼스키 자매

요즘은 “남의 집 개를 죽이면 주옥되는거야”를 미친 액션으로 보여준 존 윅 형, 아니, 영화 <존 윅>의 주인공을 맡은 키아누 리브스 주연의 전설은 아니고 레전드급 영화. 당시에는 형제였던(그리고 지금은 자매가 된) 라나 워쇼스키와 릴리 워쇼스키의 희대의 걸작이다. 아쉽게도 <매트릭스> 이후 <매트릭스>만한 흥행작이 없어 슬프다. (그나마 나탈리 포트만 주연의 <브이 포 벤데타>와 넷플릭스 시리즈 <센스8> 정도…?)

<매트릭스> 의 감상 포인트는 세계관과 등장인물들을 컴퓨터의 요소들과 매칭시켜가며 보는 것이다. (<매트릭스>의 오라클을 데이터베이스로 유명한 그 오라클과 매칭시켜가며 보라는 소리는 아니다.)

이번 잡캐 썰에서는 <매트릭스 1>에 대해 주로 이야기 하겠지만, 간혹가다 매트릭스 트릴로지 전반에 대한 이야기도 가끔 튀어나온다.

The Matrix(1999) Official Trailer

다시 봐도 <매트릭스> 설정 겁나 신박하지.

누구나 한 번쯤은 들어봤을 법 한 이 음악은 매트릭스 OST 중 하나인 spybreak! 입니다.

Propellerheads - Spybreak!(The Matrix OST)

음악도 유명한데다,신박한 액션 시퀀스들도 많이 회자되곤 합니다. 가령 영화 처음 부분에서 트리니티의 발차기라던가, 후반부에서 네오가 총알을 허리를 꺾어가며 피하는 장면이라던가. 하지만 그런 시그니처 장면들보다 더 신박한 것이 <매트릭스> 의 설정이죠! 초딩땐 멋모르고 봤었고, 그 뒤에도 별 감흥 없이 재밌구나~ 하고 봤는데, 컴쟁이가 된 지금은 ‘오 대박 어떻게 이런 설정을 1999년에 했지’ 싶습니다.

공각기동대랑 매트릭스랑 둘 다 ‘네트’ 라는 개념이 비슷하게 등장하잖아?

매트릭스는 비슷해보여도 다르죠.
공각기동대에서는 네트가 뇌가 접속할 수 있는 또다른 세상이라면,
매트릭스에서는 네트 자체가 잘 만들어진 하나의 VM인거고, 가상화 된 세계 자체를 의미 하니까요.

<매트릭스> 트릴로지를 다 보게되면, 네오가 디버거 debugger 라는 사실을 알 수 있지.
어째서 매트릭스 안에서 디버거를 만들 필요가 있었을까?

그걸 이야기 하려면, 매트릭스가 왜 생겼는지, 매트릭스가 뭔지부터 이야기 해봐야 할 거 같아요.

매트릭스가 생긴 이유를 간단히 말하면 사람들이 유토피아를 꿈꿔서 죠.
매트릭스는 원래 방정식의 해를 구하기 위한 프로그램이었어요. 모든 사람들이 만족하는 유토피아는 무엇인가?를 구하는 것이 목적인 프로그램이었죠. 그리고 매트릭스 버전 1을 구현 함으로써 사람들이 원하는 세상을 만들었다고 생각했지만, 사람들은 점점 실증을 느끼게 되고, 기계에게 인간이 지배당하고 있다고 생각하게 되면서 기계와 대립하게 됩니다. 모든 사람들이 원하는 유토피아를 만들어줬는데 왜 이걸 거부하는지 매트릭스의 어드민인 데우스마키나는 이해를 못하고, 인간들은 매트릭스를 파괴하려고 하고. 결국 인간과 데우스마키나는 대립하는 구도가 되어버리죠.

그러니까 매트릭스는 인간들이 모두 꿈꿔온 유토피아를 구현해 놓은 가상세계라는거지. 그래서 등장인물이나 설정이 우리가 알고 있는 컴퓨터의 어떤 요소들을 의미하는지 파악하면서 보면 꿀잼이잖아.

그쵸. 가령 1편에는 나오지 않지만, 매트릭스 트릴로지를 통틀어 봤을 때 나오는 데우스마키나는 시스템의 루트같은 존재라고 볼 수 있어요. 스미스같은 요원들은 말그대로 루트로부터 특수한 권한permission을 얻은 프로그램이라고 볼 수 있고요.

또 재미있는게, 네오가 레드필을 먹고 현실을 알게 된 이후에 매트릭스처럼 구현된 가상 세계에 접속할 때 어떤 프로그램이든 불러올 수 있는 베이직한 세계를 로딩 프로그램 이라고 한다거나 하는 것들도 눈여겨 볼만 하지. 우리가 알고 있는 로더(외부 장치로부터 프로그램을 주기억장치에 불러오고 그를 위한 메모리를 할당하고 하는)를 그렇게 표현 해버리니까 진짜 신박하더라. 근데 프로그램이 저장된 장치가 3.5 플로피 디스켓같이 생긴건 함정. 요새 10대 친구들은 3.5 디스켓 모른다 하더라고….. 왜 저장을 뜻하는 아이콘이 그렇게 생겼는지 모른다는 말 듣고 좀 충격적이었다ㅠ_ㅠ

<매트릭스> 속 3.5 플로피 디스켓같은 그녀석

탱크가 손에 들고있는 것이 바로 ‘주짓수’ 프로그램이 들어있는 저장장치. 마치 3.5 플로피 디스켓처럼 생겨서 영화 보다가 웃었다. 물론 어렸을 때는 나도 3.5 플로피 디스켓 사용자였으므로 별로 웃기지 않았음. 여하튼, 컴퓨터와 연결된 네오에게 이 저장장치 내의 프로그램을 주입함으로써, 네오는 주짓수를 학습했다.

어쨌든, 네오의 탄생 배경으로 다시 돌아가볼까?

네네. 영화에서, “매트릭스가 뭐냐”는 네오의 질문에 모피어스가 이야기 해 주는 장면을 근거로 이야기 하면 결국 인간은 건전지 인 겁니다. 그런데 인간을 통해 뽑아낼 수 있는 전력은 사실 많지 않죠. 근데도 인간을 쓰는 것은 그것이 결국 매트릭스의 본질이기 때문인 거 같아요. 매트릭스가 모든 인간의 유토피아를 구현하고자 한 프로그램이니까요.

처음 만든 매트릭스는 사람의 감정을 완벽하게 통제할 수 없었고, 그래서 만든게 오라클이라는 존재입니다. 오라클은 매트릭스 안에서 일어나는 모든 것에 액세스 할 수 있고, 해석을 통해 사람의 심리를 파악해요. 그래서 영화에서 나온 오라클은 모든 일에 대한 예측이 가능한거죠. 네오가 병을 깰 것이라는 것을 예측한 것 처럼요.

이렇게 오라클이 있음으로써 대다수가 만족하는 유토피아를 만들 수 있었고, 99%의 인간은 매트릭스를 유토피아로 생각한 채로 육체는 건전지로, 정신은 매트릭스라는 가상세계에서 사는 데 불만이 없어졌어요. 블루필과 레드필을 들이밀었을 때, 99%는 기꺼이 블루필을 먹는다는거죠. 그런데 나머지 1%, 매트릭스에 살기를 거부하는 사람들, 즉 레드필을 택한 사람들이 여전히 있다는 거예요. 이 사람들 때문에 매트릭스에는 버그가 생기죠. 그래서 스미스 요원같은 에이전트의 역할은 매트릭스라는 시스템을 사수하기 위해 레드필을 없애는 거예요. 버그를 고치는 거죠.

그리고 그 유명한 빨간약 먹을래 파란약 먹을래 하는, 즉 현실이냐 가상환경이냐의 메타포가 탄생했지.

redpill or bluepill

Wikipedia - Red pill and blue pill

“이게 너의 마지막 찬스다. 다시는 돌이킬 수 없어.
파란약을 먹으면, 여기서 끝이다. 넌 침대에서 깨어나서 네가 믿고싶은 걸 믿게 되지.
빨간 약을 먹으면, 이상한 나라에 남아 현실을 보게 된다.” You stay in wonderland, and I show you how deep the rabbit hole goes.

즉 레드필은 가상환경을 탈출할 수 있는, VM escaper 같은 거지.

네 맞아요. VM 입장에서는 레드필이 VM Escaper 니까, 자꾸 버그가 생기고 예외가 생기는거죠. 오라클로도 고칠 수 없는 거예요. 그래서 100년에 한 번 씩 프라임 프로그램이라는 더 원- The One영화에서는 ‘그’ 라고 표현됨-, 즉 매트릭스를 디버깅 할 수 있는 프로그램을 뽑아다가 버그를 픽스하려는거죠. 100년동안 쌓였던 버그에 대해 핫픽스를 만들어서 매트릭스 소스코드에 머지하는거랄까.

여기에 네오Neo 라는 이름의 비화가 있는건데, The One의 One을 거꾸로 해서 Neo 라고 한거래요. 네오가 더 원 이라는 암시인거죠.

여기서 알 수 있는 진리의 두 가지.

첫째, 버그 없는 프로그램은 있을 수 없다.
둘째, 프로그램을 분석하려면 디버거를 켜라(?)

아무리 특이점을 넘은 AI라도, 버그 없는 프로그램은 못 만든다는게 매트릭스의 메시지(?) 아닐까ㅋㅋ

그나저나 가상세계 안에서 네오가 낮에는 소프트웨어 회사에서 일하는 개발자로 살고 밤에는 해커로 활동하는 것도 꽤 흥미로운 부분이네.
말하고 보니 디버거를 사용하는 디버거-같은 느낌이잖어?ㅋㅋ

그러네요ㅋㅋㅋㅋ

여하튼!

네오가 프로그램을 고치지 않으면 매트릭스는 자연스럽게 붕괴 될거예요. 그게 시온의 모피어스 일행이 노리는 지점이죠.
그래서 모피어스가 레드필을 들이밀고 시온 진영으로 데려오도록 한거고요.

그렇지. 아이러니 한 부분은, 정말 매트릭스를 고치기 위해 존재하는 디버거라면 당연히 블루필을 먹어야 하지 않았을까, 라는거야. 네오라는 디버거에도 버그가 있었던 거 같아. 그 버그가 예기치 못한 선택을 하게 한거지. 결과적으론 매트릭스를 택하지 않고 매트릭스 밖의 세상을 택했으니까.

가장 인상깊은 장면은 뭐야?

저는 의미심장한 모피어스의 대사를 꼽아보렵니다.

모피어스와 네오의 대화 중

“우리도 정확히는 모르지만, 한 가지 확실한 건 인류는 21세기 초의 어느 시점엔가 스스로 경탄하며 인공지능의 탄생을 한 마음으로 축하 했다는 거야. 기계들의 일족을 생산해 낸 단일 자의식이었지.”

당연히 블루필 레드필 선택하는 장면도 인상적이지만, 위에서 이미 한 번 동영상을 퍼다 날랐으니까 그 다음으로 명대사라고 생각하는 장면을 퍼다 날라보았습니다. 인공지능의 탄생을 축하한 21세기 초의 인간, 그리고 기계 일족을 생산해 낸 단일 자의식이라고 지칭되는 인공지능이라니. 21세기를 살고있는 우리에게 곧 비슷하게 닥칠 수도 있는 현실 아닐까요.

제일 인상깊었던 장면이 있어?

네오가 결국 매트릭스는 프로그램이라는 것을, 즉 0과 1로 이루어진 세계라는 것을 인지하는 장면이요.

모피어스와 네오의 가상 전투 시뮬레이션 장면

모피어스와 네오가 훈련 시뮬레이션 안에서 싸우는 장면에서 모피어스가 네오를 계속 이기잖아요. 그러면서 하는 말이 “넌 내가 숨을 쉬고 있다고 생각하나?” 라고 묻는 장면이 정말 인상깊어요. 그 대사의 맥락 자체가, 결국 네가 지금 들어와 있는 이 곳은 프로그램일 뿐이라는 것을 인지하라는 뜻이거든요.

레드필을 먹은 이상, 현실과 가상세계를 명확하게 구분할 수 있는 존재라는 것을 스스로 자각하라는 거죠.

그렇구만.
약간 딴소리이긴 한데, 난 의외로 그 장면이 웃음포인트야.
약간 뭐랄까… 군데군데 액션 포즈가 너무 어색하달까.
<킬 빌 2> 에서 우마 서먼이 파이메이랑 처음 만나서 무술 선보이는 씬에서도 액션 포즈가 군데군데 엉거주춤해서 좀 웃겼었는데, 매트릭스에서 그 장면도 좀 그렇더라고ㅎㅎㅎㅎ

왜 매트릭스에서 시온으로 갈 때 전화를 받을까?

왜 매트릭스에서 시온으로 갈 때 전화를 받을까? 모피어스 일당을 감청하지도 못하고 말야.

저는 매트릭스라는 VM 안의 네트 안에서 각각의 객체는 공가긱동대의 전뇌처럼 아주 독립적으로 돌아가는 개체라고 생각 해요. 그런데 스미스 같은 요원들도 일개 프로그램일 뿐이죠. 다만 특정한 권한permission을 받은 프로그램인 거예요. 어떤 객체에 자신을 덮어 씌울 수도 있고, 중간에서 가로챌 수도 있고. 그런데 결국 요원들이 받은 퍼미션은 거기까지가 아니었을까요. 에러로그를 보고, 특정한 객체를 자신으로 덮어 씌울 수 있고, 특정한 로그를 탐지할 수 있고, 다른 객체들에 비해 더 나은 퍼포먼스를 가질 수 있어서 레드필을 먹은 시온 진영의 인물들을 제거할 수 있고.

그렇지만 결국 디버거로 각성한.. 아니, 더 원The One으로 각성한 네오한테는 먹히지 않지. 무려 디버거잖아. 프로그램을 현미경처럼 들여다보고 조질 수 있는 포인트를 찾을 수 있는 도구라구ㅋㅋ

그쵸.

<매트릭스> 에 보면, 큰 VM이 두 개예요. 매트릭스 하나, 시온에 메인프레임 하나. 두 개는 완전히 분리된 VM이죠.
그래서 시온을 파괴하기 위해서 스미스 요원은 시온의 메인프레임에 접속할 수 있는 접속 코드를 달라고 하죠. 시온 자체가 하나의 독립적인 메인프레임이었기 떄문에 요원들이 시온으로부터 들어오는 어떤 커넥션 같은 것을 감청할 수 없었던게 아닐까 싶어요. 전화라는 것은 시온과 매트릭스 사이를 이어주는 매개체고요. 근데 왜 굳이 전화인지는 저도 잘 모르겠네요.

아마 99년이었기 때문에 전화로 표현된 것이 아닐까. 좀 뭐랄까, 초록색 코드가 비처럼 뚝뚝 떨어지는 컴퓨터 화면에 비해 훨씬 아날로그의 느낌이기도 하고, 좀 덜 기계적인 느낌이 나니까?

잘 모르겠다.

너라면 블루필을 먹을래, 레드필을 먹을래?

키위군이라면 모피어스가 빨간약 파란약 고르라고 하면 뭐 고를 거 같아?

음.. 매트릭스 영화의 네오의 입장에 저를 투영시켜본다면… 레드필을 먹을 것 같아요.
이상한 아저씨들이 와서 입을 없애버리고 배꼽에 초코바만한 벌레를 넣는 경험을 했다면 올바른 세상이 아니라고 생각했을 것 같아요.
하지만 그런 경험 없이 “도를 아십니까” 마냥 모피어스가 저를 외진창고로 데려와서 같은 질문을 했다면 블루필을 선택했을 것 같네요.

제제누나는 어때요?

나였다면, 이미 내가 VM 안에 있는 어떤 프로그램이라면 시온에 육체가 있지만 그 육체의 존재를 전혀 모르고, VM 안에 내 정신이 온전하게 들어와 있다는 뜻인데, 그럼 그냥 VM 안의 내가 나라고 생각할 수도 있을 거 같아. 나는 사실 사이퍼가 다시 VM으로 들어가고 싶어 하는 이유를 좀 알 것도 같았거든.

온전히 네트 안에 들어와 있는 나니까, <공각기동대>에서 모토코가 한 고민이 의외로 전혀 필요 없게 될 수도 있겠다는 생각이 들었거든.

저는 조금 다른 관점에서 공각기동대의 대사를 인용하고 싶은데, “내가 온전한 나임을 어떻게 증명할 수 있는가” 하는 맥락에서 시온의 육체와 매트릭스의 정신이 크게 다를바 없다고 생각했어요.

공각기동대와 매트릭스의 차이는 뇌의 ‘전가상화’ vs ‘반가상화’ 라고 볼 수 있을 것 같은데- 공각기동대는 육체(또는 의체) 없이도 고스트가 존재할 수 있지만 매트릭스에서는 육체가 죽었을 때 어떻게 되는지는 다뤄진 적 없는 것 같아요. 오라클이나, 아키텍트, 스미스 요원처럼 애초에 프로그램인 경우도 있지만, 그외의 경우에는 모두 하나의 인격체로써 육체를 갖고 있는 듯 해요. 네오는 본래 더 원이라는 프라임 프로그램이지만, 동시에 육체를 갖고 있어서 좀 헷갈리네용.

정리해보면, 제가 생각했을 때 매트릭스가 말하고자 한 어떤 것을 한마디로 줄여보면, “가상세계와 현실세계, 인간, 인공지능 4개가 공존할 수 있는가? 어떻게 실현될 수 있을까?” 인 것 같아요. 작중의 프로그램과 인간 사이 갈등은 그 사이에서의 관계가 깨져서 생긴 것이고, (스포주의) 매트릭스의 결말까지 보면 결국 ‘데우스 엑스 마키나’ 와 ‘시온’이 평화협정을 맺고 공생하는 것으로 마무리가 되었죠. 워쇼스키 자매는 매트릭스라는 작품을 통해서 “나는 위의 철학적 질문에 대해서 이런 식으로 풀어낼 수 있다고 생각해(가상세계와 현실세계 공존 가능, 인간과 인공지능 공존가능). 너네는 어떻게 생각하니? “라고 독자(또는 관람자)에게 질문을 던지는 것 같네요.

실제로 워쇼스키 자매가 매트릭스 트릴로지를 구상할 때 공각기동대를 모티브로 시작했대요 ㅋㅋ

그럼 여기서 아이로봇과 터미네이터는 왜 낑겨 넣었나

아이로봇(2004)

정보

원제 I, Robot

감독 알렉스 프로야스

아이작 아시모프의 SF 소설을 원작으로 한 영화로, 윌 스미스가 주연을 맡았다. 아이작 아시모프의 로봇 3원칙이 등장한 책으로 유명하다.

터미네이터(1984)

정보

원제 The Terminator

감독 제임스 카메론

<타이타닉>, <아바타> 등, 유명한 작품을 다수 감독한 제임스 카메론 영감님의 작품으로, 인공지능이라고 하면 꼭 한번 씩 언급되는 스카이넷이 이 영화에서 나오는 최종 빌런… 아니, 인공지능이다. 1, 2편은 띵작이지만, 3편부터는…(이하 생략). 5편이 너무나 실망스러워서 더이상 이 시리즈로 그만 우려먹었으면 하는 바람이 있었으나, 2019년에 6편이 개봉 예정이라고 한다ㅠㅠ…

아이로봇도 <공각기동대>, <매트릭스>와 어느정도 비슷한 맥락에서 이야기를 해요.
“인간과 기계의 경계가 모호해진 시점에서 인간과 기계가 어떻게 공생할 것인가”를 중심에 두고 있죠. 그런데 그 사이의 갈등을 풀어내는 방법이나 전개하는 시나리오, 핵심이 되는 기술적,환경적 상황이 달라요.

그리고 터미네이터는…

엄청나게 파괴적이잖아?ㅋㅋㅋㅋㅋㅋㅋㅋ
기계가 인간 다 쓸어버리고, 심지어 자기한테 위협이 되는 인간의 탄생을 막으려고 타임머신을 태워서 아놀드 슈왈제네거를 보낸다고.

그쵸. 그래도 디스토피아에서 꾸역꾸역 희망을 찾아가는 스토리라고 해 두죠.ㅎㅎ 매트릭스는 치고박고 싸우다가 공생을 택하고ㅋㅋ

음, 공각기동대, 매트릭스와 아이로봇의 작중 기술적 설정을 비교해보면요.
공각기동대, 매트릭스는 “네트” 라는 개념이 있어요. 그런데 아이로봇은 네트라는 개념이 없어요. 한개의 전자두뇌가 하나의 객체. 그 이상도 이하도 아니에요.

서로 연결되지 않는 점에서 두 작품과 차이가 있어요.

아이로봇이 아이작아시모프의 단편소설들을 이것저것 재결합, 가공 해서 만든 영화이기 때문에 그런 걸 수도 있고, 이런 설정만 놓고 본다면 <바이센테니얼 맨>이나 에서 등장하는 인공지능 로봇들이랑 더 비슷하죠.

근데 굳이 바이센티니얼맨이나 AI가 아니라, 아이로봇을 중간 영화로 찝은 이유가 있어?? 아이작아시모프 원작이라는 거 외에.

이제 막 그 얘기 하려고 했는데요 ㅋㅋ
아이로봇에서의 주 갈등소재는 로봇의 3원칙은 절대적인 것 처럼 보이지만, 이 3원칙의 충돌이나 대립으로 로봇이 반드시 지킬 것이라고 여겨지던 3원칙이 위배되게 되어요.

아이로봇에서도 공각기동대의 ‘고스트’ 와 비슷한 개념이 나와요. 공각기동대는 “Ghost in the shell” 이지만, 아이로봇에서는 “Ghoust in Mechine” 으로 표현되잖아요?

“로봇이 3원칙을 지키기 위해 진화하다보면 인간의 영혼과 유사한 개념에 쉽게 도달할 것이다” 라고 표현하고 있어요.
여기서 공각기동대, 매트릭스와 유사한 느낌이 들죠.

원작의 설정을 차용했다고 쳐도 아시모프의 3원칙이 전제라는 것이 스토리 자체와는 좀 조화롭지 못하다는 느낌은 들어.

아시모프의 로봇 3원칙
1. 로봇은 인간에게 해를 입혀서는 안 된다. 그리고 위험에 처한 인간을 모른 척해서도 안 된다.
2. 제1원칙에 위배되지 않는 한, 로봇은 인간의 명령에 복종해야 한다.
3. 제1원칙과 제2원칙에 위배되지 않는 한, 로봇은 자신을 보호한다.

3원칙의 3번째 법칙에서, 로봇은 1,2원칙에 위배되지 않는 한 자신을 보호한다 라는 법칙으로부터 파생해서 논리를 전개하는 식인데, 어떻게 스토리가 저렇게 유도되는지는 좀 미스테리라고 생각해요.

그리고 <아이로봇> 과 <터미네이터> 를 연결해서 보면, “스카이넷은 왜 인간에게 핵 세례를 선사했는가” 이게 키 포인트라고 생각합니다.

우리가 왜 터미네이터를 특이점 영화리스트에 넣었을까…그건 무섭게 생긴 살인로봇때문이 아니라 스카이넷 때문이라고 생각해요. 일단… 터미네이터는 타임패러독스가 상당히 심하니까 그걸 감안하고 생각을 해야해서 머리도 상당히 아프고…
그래서 그걸 다 떠나서 생각하면 <터미네이터> 에서 중요한건 사라 코너도, 존 코너도, T-800도 아닌 스카이넷이죠.

그 스카이넷은 왜 인간을 공격했느냐- 요.

스카이넷은 그러고 보니 아이작 아시모프의 법칙을 또 완전히 무시하네.
인간을 무자비하게 공격하잖아?
심지어 자신들의 존재에 위협이 된다고 판단해서 과거로 터미네이터를 보내버리기까지 하니까.

로봇 아래 사람 있는 세상이죠…
사실 이 삼원칙이 절대적이지가 않는게 큰 이유이고요.
어디까지나 “아시모프”의 원칙이지, 이게 무슨 불변의 진리같은 게 아니니까요.

“꺼라위키” 라 불리는 나무위키지만 “로봇3원칙 모순” 을 알기 쉽게 잘 설명하기 때문에… 이 법칙을 모르시는 분들이라면 한 번 쯤 가서 읽어보시는 것도 괜찮다고 생각해요.

나무위키 - 아시모프 로봇의 3원칙(Three Laws of Robotics)

이 외에도 모든 “강인공지능(인간과 대등하거나 더 뛰어난 만능인공지능)” 에게서 일어날 수 있는 잠재적 가능성이 있어요.

“왜곡된 예시화(perverse instantiation)” 라는 심리학 용어가 있어요.
우리가 AI를 개발하고 이용하려는 이유는 우리의 목표를 AI가 이뤄주기를 원해서에요.
AI는 주어진 목표와 제약사항을 받고, 그 제약과 목표를 모두 충족하는 최고의 해결책을 찾기위해 노력하겠죠?

그렇겠지.

여기서, AI가 우리의 의도를 제대로 파악하지 못한다면 그런 목적과, 제약사항을 모두 충족하는 비뚤어진 결과물이 나올 수 있어요. 가령 “인간의 행복을 극대화” 하도록 AI에게 주문했다면, AI는 인간의 두개골에 전극을 꽂아 도파민이 분비되도록 주기적으로 자극을 주게 한다거나, 인간을 컴퓨터에 올려 놓고 5 초짜리 행복을 무한반복하는 식으로 변질 될 수 있는거죠.

후자의 경우는 매트릭스 블루필과 조금 비슷 할 수도 있겠네요.

역시나 결국 인공지능을 만드는 것도 인간이니
어떤 결과가 나오는지도 인간에게 달렸으므로
생각 없이 코드를 막 짜면 안된다는 결론(?)이 납니다(?!!!)

ㅋㅋㅋㅋㅋㅋ 네 바로 그것!

터미네이터에서 미국방성은 “인류의 안녕”을 주문했고, 스카이넷은 전쟁을 일으키는 “국가”, “군대” 라는 존재를 핵으로 싹 날려버렸습니다. 그리고 스카이넷이 인류를 제어하게 되었죠.

왜곡된 예시화의 바람직한(?) 케이스랄까요…

아이로봇에서도 “비키” 라는 양전자두뇌(블랙박스 상태로 동작하는 전자두뇌. 원인규명(interpreatation) 이 되지 않아 로봇 3원칙 논리를 거부할 수 있음) 를 가진 좀 특별한 로봇이 스카이넷과 아주 비슷한 논리로 “인간은 서로 죽이고, 전쟁내고 답이 없으니 로봇의 지배를 받아 너네들을 잘 사육해주겠다” 는 논리로 인류 쿠데타를 시도하다 주인공들에게 정의구현 당하는 레퍼토리로 진행되잖아요.

터미네이터와의 차이점은 “아이로봇은 정의구현되었으나 터미네이터는 정의가 안구현되었다”는 것..