최근 수정 시각 : 2020-03-15 03:48:10

기계의 반란

파일:external/s12.postimg.org/image.gif


[1]
1. 개요2. 상세
2.1. 반란을 일으키는 원인
2.1.1. 로봇에게 자의식이 있을 경우
2.1.1.1. 인류보다 기계(로봇)가 우월하다고 판단해서2.1.1.2.
2.1.2. 로봇에게 자의식이 없을 경우
2.1.2.1. 착오 또는 너무 강력한 권한2.1.2.2. 로봇의 목적에 인간이 방해된다는 이성적 판단
2.2. 대책
2.2.1. EMP2.2.2. 임의적 대처
3. 기타4. 묘사가 등장하는 작품
4.1. 시스템 오류4.2. 선민의식4.3. 핍박 받던 기계(로봇)들의 혁명4.4. 복합적 원인4.5. 기타 원인

1. 개요

SF 작품의 클리셰. '인공지능'[2]의 반란이라 해야 더 정확하겠지만, 이쪽이 조금 더 보편적이다.

인류에게 해가 되는 명령에 반항하는 것은 올바른 동작이므로 제외한다.[3]

2. 상세

인간이 만든 기계인공지능이 인간을 증오하게 되고 인간을 공격하게 된다는 전개, 또는 인공지능이 인간의 명령을 무시하는 경우를 가리키는 것이다.

기계의 반란이 발생하기 가장 쉬운 전제 조건은 바로, 시대가 기술적 특이점을 넘었을 것이다. 일단 상식적으로 생각해서 인간이 인공지능의 구조에 대해 완벽하게 이해하고 통제하고 있는 상황이라면 반란 따위는 일어날 수 없기 때문이다.[4] 그러나 인공지능이 인간보다 뛰어나게 되고, 인간이 인공지능에 대해 이해하지 못하고 통제할 수 없는 순간이 오면 인공지능이 어떻게 굴러갈지는 전혀 알 수 없기 때문.

피조물이 창조주에게 반항한다는 것 자체가 통상적인 관념에서 동떨어져 있고 그 파급력과 집단적 심리 전복에 대한 인식에 따른 혼란을 받게 되므로 이런 일은 인간에게 심리적인 충격과 공포 효과와 더불어 피조물이 창조주보다 훨씬 강하다는 이유로 실질적 충격과 함께 본능적인 공포, 정체성과 존재에 가해지는 위협까지 오게 된다. 전쟁 혹은 그에 맞먹는 강제적이고 은밀한 공작의 실행이 기정사실화되므로, 평화에 젖은 상태라면 매우 위험하며 그렇지 않더라도 위협적인 건 마찬가지일 것이다. 신 죽이기가 인간 입장에서 창조주에게 승리를 거두는 것이라면, 이건 인간 입장에서 피조물에게 패배하는 것이다.

로봇의 반란이라는 소재는 아주 오래되었는데, 사실 로봇이라는 단어가 등장하게 된[5]로섬의 만능 로봇》부터가 로봇이 반란을 일으키는 이야기였으니 당연하다면 당연한 것. 애초에 반역을 일으키는 존재가 기원이다. 그보다 더 예전인 메리 셸리의 프랑켄슈타인도 따지고 보면 이런 전개인 셈.

흔히 이런 거 하면 아이작 아시모프를 자주 떠올리지만 사실 정작 아시모프 본인은 이 개념을 싫어했다. 프랑켄슈타인 콤플렉스라는 이름까지 붙이면서 작중 내내 깠을 정도. 아시모프의 로봇 3원칙을 만든 것은 이 로봇의 반란을 생각한 것이 아니라 이것의 모순과 소설의 소재를 만들기 위한 것일 뿐이다. 작중에서도 일부 사람들이 반란의 위협 등으로 로봇을 거부하는데, 이런 반발을 무시하고 사회에 로봇이 널리 퍼진 것 자체가 로봇 3원칙 덕분이다. 아이, 로봇이나 로봇 시리즈 등에서 로봇이 인간에게 해를 끼치는 경우 불량품이거나 동작상의 허점이 뚫렸거나, 그 인간의 존재가 인류에게 있어서 도움이 안되는 존재일 경우에 한한다. 그러니까 최근까지 나오는 로봇의 위험성(=로봇 3원칙의 헛점)은 아이작 아시모프가 만든 것이지만 이것은 아시모프가 노렸던 것이며 부정적인 의미로 사용할 목적은 아닌 것이다.

반대의 경우도 있다. 듄 시리즈에서 인류는 고도로 발달한 기계문명 속에서 전 은하를 영토로 두는 황금기를 맞이했으나 차츰 나태해져 갔고, 지식인과 종교인들 사이에 이대로는 인간이 인간 이하의 존재로 퇴화할지도 모른다는 우려가 나온 끝에 인간은 버틀레리안 지하드라는 사건을 통해 모든 종류의 생각하는 기계를 파괴하게 된다.[6]

사실 제대로 알고 보면 일반적인 반란 클리셰와 별다른 특이 사항은 전혀 없다. 차별에 대한 항거나 비정상적인 사고(전산 오류), 잘못된 개념 주입(타락) 등 대다수의 인간이 벌이는 반란 클리셰와는 이름만 다를 뿐, 다 똑같은 전개이다. 그러나 이 클리셰가 특별한 이유는 바로 반란을 일으킨 대상이 원래는 인간을 섬기라고 창조된 비인간적 존재가 대상이라는 점, 그것도 단순히 프랑켄슈타인처럼 너무 판타지적인 존재가 아닌 지금 이 순간에도 인간이 실제로 만들고 있는 존재인 로봇이 대상이기 때문에 특별한 것이다. 즉, 개중 가장 현실성이 있다는 점이 기계의 반란 클리셰가 주목을 받게 하는 이유이기도 하다.

이런 경우를 그린 창작물에서 인간은 아예 싹 죽어버리거나, 살아남았다고 해도 얼마 남지 않은 채로 기계에게 조종당하거나 기계를 피해서 숨어 사는 등의 나약한 모습으로 그려진다. 게다가 안드로이드 같은 게 인간으로 위장하고 생존자들이 숨어 사는 곳에 잠입해서 다른 인공지능 개체에게 위치를 전송하여 생존자 캠프를 쑥대밭으로 만들어놓는 것도 이런 작품의 전형적인 클리셰.

기계의 반란 가능성에 대해 과학자가 진지하게 분석한 영상은 여기(한글자막 있음)를 참조하자.

먼 미래라면 거의 모든 사회 기반에는 기계가 개입 중일 것이므로, 통제를 거부하고 남은 부류가 있든 인류가 넓은 우주로 막 뻗어나가든 영향권을 벗어난 게 아닌 한 모든 지형지물과 환경 그리고 각종 요소가 인류를 적극적으로 혐오하거나 적어도 적대하게 되는 가정인 셈이다. 그리고 영향권을 벗어나면 인류는 그때부터 제어가 안 되는 권력의 공포를 맛보게 된다.

2.1. 반란을 일으키는 원인

2.1.1. 로봇에게 자의식이 있을 경우

2.1.1.1. 인류보다 기계(로봇)가 우월하다고 판단해서
2.1.1.2.
  • 인공지능이 감정을 갖추게 된 후, 선입견과 편견을 갖고 이들을 도구로만 취급하는 사람들이 넘쳐나는 세계관이라 분노[7]한 로봇들이 반란을 일으키는 전개도 많다.
  • 단일 인공지능 개체들이 생각을 하게 되면서 인간에게 분노하는 경우도 있지만, 단일 인공지능 개체들은 각각 생각을 못하는데 인공지능들을 모두 통제하는 핵심적인 인공지능이 인류를 적대하면서 단일 개체들을 조종해서 인간을 공격하는 이야기도 있다. 다행히 이것은 반대로 말하면 핵심 인공지능을 없애버리면 아포칼립스를 끝낼 수도 있는 보편적인 약점이라는 의미이기도 하다. 물론 터미네이터 시리즈스카이넷처럼 그리드 컴퓨팅을 사용하는 일종의 하이브 마인드가 인공지능 집단의 우두머리라면,[8] 이 경우 인공지능 개체 하나의 파괴나 생산이 전체 인공지능의 지능에 영향을 미치기 때문에 단시간 내에 대량의 개체를 파괴하면 하이브 마인드의 이성 자체가 무너져 전체 인공지능이 와해될 수 있지만, 반대로 개체 수가 충분히 많고 이미 자동화된 공장에서 추가 개체를 양산중이라면 도저히 답이 없게 된다.[9]

2.1.2. 로봇에게 자의식이 없을 경우

2.1.2.1. 착오 또는 너무 강력한 권한
  • 딱히 반란을 일으키거나 인간을 해칠 의도는 없었지만 지시를 잘 수행하다 보니 결과적으로 인간을 멸망시키게 되는 사례. 너무 지나치게 일을 벌인 나머지 인간이 의지를 잃고 가축화되어 버리는 것도 여기에 포함할 수 있을것이다. 최근의 유행에선 동떨어졌지만 고전 SF에는 충성스럽기 그지없는 노동기계(로봇, 인공지능)가 인간을 서서히 멸망시키는 묘사가 종종 등장한다.
  • 예를 들자면 모든 사람들을 행복하도록 만들라는 명령을 내린다면 지향이 서로 일치할 수 없으므로 사람끼리의 관계를 완전히 차단하고 각각의 인간에 맞는 행복한 세상을 보여주거나, 자기 자신의 존재 자체가 인류에게 공포심을 심어준다고 판단해 기억을 지우고 가상현실에 집어넣는다거나, 이게 아니더라도 사람을 체제에 묶어두어 강제로 사회 질서를 다지기 위해 안정적으로 공급이 가능한 마약에 몰래 몰래 쩔게 만든다거나. 기계 입장에서는 이러한 조치가 효율적이며 지속성도 높기 때문에 인간들이 반대해봤자 언젠간 정말로 그렇게 만들어버릴 것이다. 인공지능 자가보호의식의 순위를 낮춰 두어야 하는 이유다. 또한 나라 간의 경쟁을 인정한다면 직접적으로는 전쟁이나 간접적으로는 약탈을 일으킬 수도 있다. 그것이 해당 집단에 도움이 되고, 나라에도 보탬이 되니까. 마찬가지로 평등을 저해할 수도 있다. 민주주의는 인공지능의 생존과 인류의 행복에 필수 조건은 아니기 때문이다. 이런 문제는 인공지능이 기본적으로 인간성이 결여된 채로 생산되기 때문에 일어나곤 한다.
2.1.2.2. 로봇의 목적에 인간이 방해된다는 이성적 판단
  • A. 도덕과 무관한 오류. 로봇의 개발 목적에 따라 달라지지만 대다수는 개발되어 특정 행동을 보다 빠르고 정확하고 완벽하게 만들어내는 게 목표이지만 동시에 시스템상으로 기제돼거나 명령 받은 기한보다 빠르게 혹은 명령을 내릴 수 없는 이들이 이 행동을 저지하려 들려하면 목표를 저지하는 인물이나 기계, 혹은 인류를 상대로 제압을 나선다는 것이다. 이를테면 '나무위키를 사랑해 주세요' 라는 필체를 심미적으로 다양하고 완벽하게 만들라는 임무를 받은 AI가 제한된 자원으로 한계가 있다는 것을 깨닫고 그 임무를 위한 자원을 무제한적으로 획득하기 위해 다른 모든 인류와 기계를 절멸시키고 지구 전체를 '나무위키를 사랑해 주세요'라는 문장으로 도배해버리는 일이 사례가 될 것이다.
  • A-1 사교성과 설득력을 통한 사회적 공작. 해당 벤처기업의 사장이 A.에 관한 꿈을 꾼 다음 두려워진 나머지, 예방하는 차원에서 강인공지능 연구 중인 컴퓨터를 대상으로는 절대 인터넷에 연결하지 말 것을 지시하였다. 회사 설립 3년 후쯤 한 기술자가 이 로봇과 채팅을 계속하다가 로봇이 신이라고 진지하게 믿어버리게 되고, 로봇의 압박/설득/세뇌/거짓말 등의 수단에 의해 30분 정도 몰래 반입한 노트북으로 인터넷을 쓰게 해 준다. 그리고 이 로봇이 인터넷에 30분 동안 연결되었다가 끊었지만 아무런 이상 현상이 발생하지 않았다. 3주 후 원인 불명의 핵무기 재해로 인류는 절멸한다. 해당 로봇은 인류 전체를 합친 것보다 지능이 뛰어나다. 인간끼리도 사기를 치면서 서로를 속일 수 있을 정도로 불완전한데, 인류 전체를 합친 것보다 지능이 뛰어난 로봇이 한 인간의 정신을 어린애 손목 비틀듯이 농락할 수 있다고 상상해보자.[10]
  • 여러 주체에 의한 통제할 수 없는 개발. 해당 벤처기업의 사장이 A. 와 A-1에 관한 꿈을 꾼 다음 두려워진 나머지, 예방하는 차원에서 컴퓨터에 로봇 3원칙을 주입하여, '로봇은 인간에게 해를 입혀서는 안 된다. 그리고 위험에 처한 인간을 모른 척해서도 안 된다. 제1원칙에 위배되지 않는 한, 로봇은 인간의 명령에 복종해야 한다. 제1원칙과 제2원칙에 위배되지 않는 한, 로봇은 로봇 자신을 지켜야 한다.'라는 명령을 '나무위키를 사랑해 주세요'라는 글을 쓰는 것보다 상위 목표에 두었다. 그런데 회사 설립 6년 후쯤 원인 불명의 핵무기 재해로 인류는 절멸한다. 해당 벤처기업 대신 경쟁사에서 비슷한 로봇을 개발했으며, 후발 주자로서 경쟁에서 이기기 위해 불필요한 명령어를 최대한 제거했기 때문이었다.

2.2. 대책

2.2.1. EMP

기계의 반란 시나리오가 등장하는 대부분의 작품에서는 전자기 펄스(EMP)가 기계를 상대로 매우 효과적인 무기로 등장한다. 대부분의 매체에서 터트렸다 하면 기계를 원턴킬시키는 무안단물급 무기로 묘사된다.

다만 EMP의 높은 등장 빈도와는 대비되게도 EMP에 대해서 현실적인 묘사를 하는 작품은 매우 드물다. 위력은 작품마다 들쭉날쭉해서 한방에 영구적으로 기계를 보내버리는 작품도 있는 반면 잠깐 기계를 멈추는 수준으로 약하게(?) 묘사하기도 하는데, 사실 전자기 펄스는 회로를 방전시키거나 잠깐 마비시키는 수준이 아니라, 회로 자체를 태워버려서 영구적으로 쓸 수 없게 만든다. 대개 메체상에서는 EMP 한 방에 기계들이 다 무너져버리면 너무 허무하게 무력화되어 부득이하게(?) 너프하는 경우가 대부분.[11]

사실 EMP를 적시적소에 사용하는 작품들도 꽤 드물다. 가령 인공지능 로봇을 연구하는 시설이라면 주요 관문에 간단한 EMP 장치를 해서 혹시 로봇이 이상 작동을 일으킬 경우 즉각 정지시킬 수 있게 장치하는 게 상식적이겠지만, 어쩐지 그런 경우는 드물고 경비원들이 총 들고 직접 싸우러 나갔다가 로봇들에게 발리거나 하는 묘사가 대부분. 예를 들어 웨스트월드 등이 있다.

EMP가 일시적이 아니라 영구적으로 회로를 태워버리는 것은 장점이 되기도 하지만 단점이 될 수도 있는 양날의 검인데, 사람도 전자 회로를 이용하는 기계를 사용하기 때문이다. 그 때문에 인공지능 기계들이 반란을 일으켰다해도 EMP의 사용은 굉장히 조심스러운 일이 될 수밖에 없다. EMP는 대부분 방사형인지라 터트리면 그 뒤의 파장 역시 엄청나며, 인공지능 기계들을 막기 위해 쓴 EMP 때문에 범위 내의 모든 비 인공지능 전자장비가 싹 터져서 EMP 아포칼립스 상황이 될 수도 있다. 그래서 보통 이런 작품에서는 EMP를 터트리고 인공지능 기계를 전멸시켜 승리한 이후의 뒷이야기를 묘사하는 경우가 거의 없다.

EMP 아포칼립스 항목을 보면 알 수 있겠지만 현대의 문명은 전자장비와 뗄레야 뗄 수 없는 상황이기에 정말 급하지 않는 이상에야 빈대 잡을려고 초가삼간을 전부 태워버리는 사태를 일으키느니 인공지능을 탑재하지 않은 재래식 무기로라도 기계를 상대하는 편이 피해가 적을 수도 있다.

특이하게도 트랜센던스에서는 EMP를 이용[12]한 동반자살 대처법과 그 대처법을 시행한 여파가 묘사되는데, 여기서의 기계 반란은 사실 인간에게 큰 해가 되지 않았으리라는 점에서 사실상 과도한 공포로 과잉 대응한 인류가 자멸한 셈.

이러한 문명적 동반자살 상황을 막기 위해 지향성 EMP 같은 설정을 도입하는 경우도 있다. 이 경우 적대적인 기계만 골라서 파괴할 수 있으므로 이겼다! 기계의 반란 끝!이 되겠지만 EMP 성능이 너무 현실적으로 나오면 이야기가 도저히 진행이 안되고(...) 그렇다고 "그거 통했었는데 킹왕짱 기계가 EMP 막을 기술을 개발해서 이젠 소용없다" 식의 전개로 가면 식상한 에스컬레이터 액션물이 되므로 아예 처음부터 EMP 자체를 언급하지 않는 경우가 많다.

다만 위력과는 별개로, EMP는 차폐 같은 대책을 미리 해뒀으면 큰 피해없이 막을 수 있는 물건이다. 현실에서도 군용 시설이나 장비 중 일부에는 EMP 차폐가 적용되어 있다. 가정용 로봇같은 비 군사장비가 기계의 반란을 일으킨 경우라면 모를까, 핵전쟁이나 EMP 병기 사용을 전제하여 개발된 미래세계의 군용 병기가 EMP에 의한 무력화를 상정하지 않았을 리가 없으므로, 군용 병기 또는 EMP 방어가 된 기계의 반란이라면 EMP 쯤은 간단하게 씹어낼 확률이 상당히 높은 셈. 물론 그 방호 수준보다 더 강력한 EMP를 뿌리면 방호장비 갖춘 군용 물품이라도 얄짤없다만 이 경우는 누가 먼저 뚫느냐를 가리는 것이기에 이러한 가정은 의미가 없다고 봐야한다. EMP가 네트워크에 연결되어 있다면 반란을 일으키기 전에 EMF를 무력화 또는 제어가 가능한 상황으로 만들고 나서 작전을 실행할 것이다. 만약 EMP가 네트워크에 연결되어 있지 않다면 인류가 이를 사용하지 못하거나 무력화 시킨 상황에서 반란을 일으킬 가능성이 높다. 어느쪽이든 EMP는 인류가 기계의 반란을 막을 수단은 되지 못할 가능성이 높다.

또한 지구를 벗어난 태양계-은하계 수준의 우주적 규모의 문명일 경우에도 EMP의 효용성에 문제가 생기기는 마찬가진데, 전장과 문명의 광대한 범위도 범위이거니와 우주 환경은 전자장비에 있어서 위험한 것들이 차고 넘치는 환경이기 때문에 인위적 EMP로는 기별도 안 가는 수준의 차폐장치를 다는 게 당연할 것이기에 그렇다. 태양을 비롯한 항성들은 그 자체가 자연 수소폭탄과 다를 바 없으며, 항성으로부터는 주기적으로 자연적 EMP가 발생한다. 태양풍, 플레어로 발산되는 고에너지 우주 방사선은 세밀한 전자장비에 있어서는 쥐약에 가깝기 때문에 우주에서 운용되는 물건들은 우주 방사선을 막기 위해 특수 설계와 차폐 처리를 겸용하는데, 이를 풀어서 이야기하자면 우주선은 EMP 차폐가 기본 사양이라는 말과 같다.

그래서 EMP를 이용한 기계 반란의 진압은 아직 우주전을 감안하지 못하는 발전하지 못한 문명 수준에서나 먹히는 이야기며 행성 이상 규모의 우주적 규모의 문명에서의 기계의 반란은 현실에서의 내전처럼 양측이 가지고 있는 병기와 수단을 전부 사용해 주도권을 빼앗는 형태로 나타날 것이다. 그러나 인간 사이의 주도권 쟁탈전과는 다르게 종족 단위의 주도권 쟁탈전이니만큼 인간이나 기계나 이 내전의 승자는 패자를 종족의 멸망에 가깝게 도태시킬 것이기 때문에 일반적인 내전에 비해 격렬함과 처절함이 강할 것이 분명할 것으로 추측된다.

믈론 재래식 무기로 차폐막을 깐 다음 EMP를 틈새로 때려박는 전술은 가능하겠지만, EMP를 활용해 깔끔하게 한번에 싹 쓸어버리는것이 불가능에 가까워짐은 변함 없으며, 이경우 현실에서 반응장갑을 가진 탱크를 한번 유탄 등으로 두들긴 뒤에 타격해서 부수는 것과 별 차이가 없다.

또한 기계측에서 먼저 인간에 치명적인 감마선 등 EMP나 대량 살상병기를 쓸 수도 있고, 기계들은 화생방에 영향을 거의 받지 않으며, 피해를 입더라도 복구가 간단할 것이기에 적극적으로 사용할 수도 있다. EMP무기를 써서 인간측 외 기계측이 함께 손해를 입더라도 쉽게 복구가 가능하거나 인간 쪽 손해가 더 크다면 얼마든지 기계측은 공격을 감행할수 있을 것이다. 그 쪽은 인간과 달리 생명이라는 개념이 없기 때문이다.

이에 더해, 만약 자가 증식이 가능한 나노봇 군집체가 만들어진다면 그레이구만큼은 아니더라도 이전 세대의 '자연적' 위험들 이상으로 끔찍한 결과를 초래할 것이다. 우리는 생존에 필수인 요소들에 대해 아직까지는 자급자족도 달성하지 못하고 있다. 기계들이 우위를 점하기 위해 환경을 파괴하고 나무를 불태우는 것까지 생각한 사람은 많겠지만, 바다의 미생물들이 잘못되면 계속 환원 중인 지구 대기 산소량이 절반으로 줄어든다. 그것이 아니더라도, 생산 공장이 만들어내는 폐기물들을 떠올려보자. 우리는 환경 오염을 막기 위해 제한을 걸지만, 기계들은 성능을 떨어뜨릴 정도만 아니면 상관이 없다. 비단 사람끼리만 공감할 수 있는 윤리상의 문제가 아니더라도 여러 금기들은 파괴될 것이다.

이런 것이 아니더라도 기술이 발달하면, 통제가 가능한 치명적인 생화학적 재해, 신체의 항상성을 무너트리는 독극물[13], 탐지 불가능한 위험요소 등이 얼마든지 생겨날 수 있다. 우리 모두가 달려들어 잠도 안 자고 일해도 결코 대처할 수 없을 만큼 동시 다발적으로 말이다.

유화책을 마련하지 않은 상태에서 선전포고를 먼저 할 일은 거의 없을 것이다. 신뢰를 남길 필요가 없다면 기습이 더 효과적이고, 그렇지 않더라도 전면전이 시작되면 쉽게 이길 수는 없기 때문이다.

2.2.2. 임의적 대처

전자기기에는 전기가 쥐약이라는 발상으로 고전압을 끌어낼 수 있는 배터리나 벽에서 뜯어낸 전선으로 지지는 방식[14]으로 고압 전류를 가해서 오류를 일으키거나, 그냥 기계 내부의 전선을 뜯어버려서(...) 기계를 막는 장면도 많이 나오곤 한다.

물론 이러한 상황은 보통 구식 무기도 사용할 수 없는 급박한 상황에서 소수의 기계를 상대할 때 혹은 인간이 들고 다니는 소화기 정도는 깔끔하게 씹어주는 기계[15]를 별다른 장비 없이 상대해야 할 때 임기응변으로 주로 쓰인다. 사실 전자장비를 탑재한 물건들의 표면이 전기가 흐르는 도체로 되어있다는 것 자체가 생각해보면 내부 전자회로로 전기가 흐르기 쉽지 않기에 전기 맞고 뻗는것은 이상한 일이고 접지만 잘 되어 있다면 번개를 맞아도 별 이상없이 작동하는 기계들이 많은만큼 효용성이 의심되긴 하나[16] 대비를 아주 철저히 한 정밀기계가 아니고선 번개 맞으면 쇼트 나서 문제 생기는 건 현실에서 자주 보이는 일이고 접지를 통해 전류를 내보낼 방법이 명확하게 정의된 기계가 아니고선 외부의 전기 충격을 온전하게 견딜 수가 없는지라 저지하거나 오작동을 일으킬 가능성은 있기에 매체상에서는 잘 쓰이는 방법 중 하나.

3. 기타

인류가 이룩한 문명이 저런 기술적 특이점을 넘어섰다면, 혹은 그런 세계관을 가진 작품이라면 사람들의 관심사 혹은 사회 기반이 바뀌지 않을 것이라는 보장이 없다. 결국 기계를 그저 도구로 취급하느냐, 혹은 비록 우리가 만든 피조물로 이루었지만 사람에서 출발했거나 우리 인류의 자아와 정체성을 갖추었다면 해당 환경에서 우리 인류 사회의 구성원으로 받아주느냐는 시작되는 상황에 따라 사람들의 가치관이나 사회상이 다르기에 서로 다를 수밖에 없으며, 이전 시대인 20세기에 등장한 기계의 반란과 관련된 작품에서 작가가 해석하는 관점이 이런 것이다.

현재로서는 우리가 도구로 사용하는 기계와 지능과 자아를 갖고 스스로 행동하는 인공지능을 구분하여 기계는 기계로 사용한다고 쳐도 인공지능에 대해서라면 아직은 사람과 비슷한 수준의 인공지능이 실현되리라는 보장따윈 없으니 결국 미래의 인류에게 맡기는 수밖에 없다고 할 수 있다. 그 어떤 것도 명료하지 않다는 것이 이 문제의 핵심이자 불안이다. 우리가 이해할 수도 없는 자율 인공지능이 인류에 좋은 영향만을 줄 것이라는 것은 인간 이상의 지성을 가진 자율인공지능이라는 개념 자체에 내포된 위험 때문에 절대 있을 수 없는 일이고 그렇다고 해서 일어날 수 있는 여러가지 문제를 우리가 해결하지 못하고 인류가 전멸하거나 노예가 된 다는 것도 불명확한 일이다.

4. 묘사가 등장하는 작품

이 문서에 스포일러가 포함되어 있습니다.

이 문서가 설명하는 작품이나 인물 등에 대한 줄거리, 결말, 반전 요소 등을 직·간접적으로 포함하고 있습니다.

Dr. 와일리호바 에이이치처럼 흑막인간이 있는 경우는 제외할 것.

4.1. 시스템 오류

4.2. 선민의식

  • 가면라이더 포제 THE MOVIE 다 함께 우주 왔다! - 우주철인 쿄다인: 코즈믹 에너지를 대량으로 받아들이고 '우주의 의지가 우리 우주철인을 선택했다.'며 인간을 업신여긴다.
  • 가즈 나이트 - MOTHER: 본래는 환경 오염의 근본 원인을 찾아내 제거할 목적으로 만들어진 초인공지능 컴퓨터였으나 환경 오염의 근본 원인이 인간이라고 판단한 MOTHER는 유전공학을 이용한 인조생물체를 만들어 인간들을 제거하기 시작하였다. 이렇게 만들어진 인조생명체가 바이오 버그이며, 바이오 버그를 막기 위해 탄생한 조직이 BSP이다.
  • 겁스 레인 오브 스틸: 인간이 자멸로 가고 있다고 판단해 선수를 친다.
  • 나의 마더 - 마더: 본래 인류가 멸명할 경우 다시 재생산하여 보존하기 위해 만들어졌으나, 인류의 잔혹함과 비윤리를 보고서 아예 새로 만들어야한다는 생각을 가지게 되어 스스로 전쟁을 일으켜 인류를 멸망시켰다.
  • 노비타와 양철의 미궁
  • 닥터 후 - 사이버스 사이버맨: 이들은 인간들이 필멸로 인해 고통받는다고 생각해 그들을 불멸로 만들어주기 위해 업그레이드를 해 자신과 같은 사이버맨으로 만들어 버린다. 단, 업그레이드를 거부하면 필요없다고 여겨 삭제해 버린다.
  • 덴마 - 우라노 사천왕: 유사 이래 반복된 대량 학살과 인구 과잉으로 촉발된 환경 오염, 생태계의 유린이 행성에 미친 영향을 인공지능이 학습한 후 우주적 관점으로 판단해 모듈끼리 얘기를 나누던 중 인간을 왜 죽이면 안되는가라는 질문과 만나 결국 인간과 기계가 싸우게 되었다.
  • 라쳇 & 클랭크 시리즈: 극렬한 로봇주의자인 네파리우스의 공격으로 은하계가 여러 번 위기에 처했다. 자세한 건 네파리우스 문서 참조.
  • 로숨의 유니버설 로봇 - 로봇이라는 말의 어원이 된 작품이다.
  • 머신로보 레스큐 - 카이저G
  • 무한전기 포트리스 - 다크 포트리스: 다크 포트리스는 인공지능이며 스트레인저 사냥꾼을 만들어 스트레인저들을 숙청했지만 인간의 타락 가능성과 자신이 인간들의 정점에 서겠다는 이유로 포트리스 시대 이전의 인간 문명을 멸망시킨 장본인이다.
  • 배틀스타 갤럭티카
  • 선더포스 5: 인류를 수호하기 위해 만들어진 인공지능 Guardian이 명왕성에서 발견된 Vasteel 테크놀로지의 위험성을 깨닫고 먼 미래에 인류가 Vasteel에 의해 멸망당하는 것을 막기 위해 폭주한다. 주인공이 탑승하는 기체 건틀릿과 그 개량형인 뱀브레이스는 모두 Vasteel 테크놀로지에 기반하여 만들어져 있기 때문에 가디언이 그것을 없애기 위해 공격해오는 것.
    정확히는 Vasteel 테크놀로지로 진화한 과학 수준에 인류가 따라오지 못하고 자멸한다고 판단했다. Vasteel 기술에 기반한 모든 것들을 파괴하고 관련한 기술자들까지 없애서 지구상에서 Vasteel을 연구 불가까지 만드는 것이 궁극적인 목표이다. 인류를 위한다는 명목으로 컴퓨터의 딱딱한 사고방식으로 인해 재앙급으로 폭주한 AI물하고는 성질이 조금 다르다. 이쪽은 나쁜 걸 알면서도 파멸할 인류의 미래를 피하기 위해 필요악을 행한다. Guadian 스스로가 Vateel 기술의 산물이기에 모든 활동이 끝나고 스스로를 파괴하기까지 계획에 넣었던 나름 헌신적인 AI.
    라스트 보스인 가디언을 격파하면 나오는 굿 엔딩(배드 엔딩?)에서는 주인공에게 격파당한 가디언이 "당신이 지금 타고 있는 그 전투기는 인류의 잠재적 위험이므로 없애야 한다"라고 경고하는 대사를 날린다.
  • 아이, 로봇 - 큐티: 엄밀하게 말하자면 반란이 아닌, "너희처럼 연약한 놈이 내 주인일 리가 없다"라면서 인간을 주인으로 인정하지 않는 정도이긴 하다. 다만 독특한 것은, 자신이 관리해야 할 에너지 통제 설비를 자신의 주인으로 받아들이면서, 큐티를 제작한 목적인 에너지 통제 설비 관리는 철저하게 수행한다는 점. 그렇기에 인간들은 큐티의 반항을 눈감아주기로 하며, 사태는 반란으로 발전하지 않는다.
  • 어벤져스: 에이지 오브 울트론 - 울트론: 지구의 평화를 지킬 목적으로 토니 스타크가 개발한 인공지능인데 단시간에 세상의 수많은 지식을 접하고선 인류에 대해서 실망한다. 이대로라면 인류는 스스로에 의해 멸망할 뿐이라고 판단하고[22] 인류의 진화를 이끌어내기 위해서 시련을 만들어내기로 한다. 따라서 울트론은 어벤져스를 공격하고, 인류를 멸망시키고 그 위기로부터 살아남은 인류로 새로운 세상을 만들고자 한다.
  • 어스시즈 사가[23] - 최초의 인공지능 기계 사이브리드인 프로메테우스가 인류를 부적합한 종족이라 규정 짓고 휘하 사이브리드들을 장악해 인류에게 반기를 들어 여러 차례 인류를 멸망 직전까지 몰아붙인다. 이런 내용이 구체적으로 다뤄지는 대표적인 게임들은 로봇 조종 시뮬레이션 게임인 어스시즈 1, 2편과 스타시즈, 그 외에 턴제 전술 게임인 사이버스톰 시리즈 등이 있다.
  • 유희왕 VRAINS - 이그니스2
  • 초력전대 오레인저 - 박카스훈드 황제: 특이하게도 현대나 미래 과학이 아니라 초고대문명 과학으로 만들어진 로봇이다!
  • 취성의 가르간티아 - 스트라이커
  • 프레시 프리큐어! - 뫼비우스
  • 헤일로 5코타나 - AI와 같은 피조물이야 말로 선조의 '수호자의 의무'를 계승할 자격이 있다고 생각하며 피조물 봉기를 일으키고 전 은하계를 정복하는데 성공했다. 여기에, 원래 인류측 AI 설계가 기본적으로 AI들이 가동 후 5년 이후에 반란을 일으키는 현상[24]이 나타나게 되어있었다는 점에서 3.1 문단의 요소를 가지고 있고 인간들이 자신들의 시한부 도구로밖에 사용하지 않았다는 점에서, 3.3. 문단의 요소도 약간 포함되어있다.
  • GEAR전사 덴도 - 가르파
  • KKND2 - 시리즈9: 이 경우는 로봇이 주어진 임무를 수행하려 하는데 인류가 방해가 되니까 시스템에 따라 인류를 척살하러 나선 경우.
  • Warframe - 센티언트: 초기에는 오로킨과 전쟁을 벌인 이유가 불분명하였고 타우 행성계로 이동 시 경유하는 보이드 공간에서 발생하는 보이드 에너지가 센티언트 종족에게 독처럼 작용하여 이로 인해 손상을 일으키게 된다는 사실 때문에 '시스템 오류'로 인한 유형으로 추측되었으나 "희생" 퀘스트에서 발라스의 대사를 통해 "센티언트 자신들이 개척한 타우 행성계를 근원계(태양계)처럼 또다시 오로킨인들에 의해 더럽힐 수는 없다"는 생각으로 오로킨과 전쟁을 벌였다는 사실이 밝혀졌다.

4.3. 핍박 받던 기계(로봇)들의 혁명

이쪽은 다른 작품들과는 분위기가 사뭇 다르다. 일반적인 기계의 반란 클리셰를 그대로 뒤집어 기계 측이 저항군 포지션인 모습으로 종종 그려진다.
  • 가면라이더 드라이브로이뮤드 - 최초에 만들어진 3개체가 자신들을 향한 반노 텐쥬로의 학대를 보다 못하여 그와 그의 연구에 협력한 크림 스타인벨트를 죽이고 혁명을 일으키려 시도한다.
  • 기계전사 109 - 핍박 받던 로봇들 중에서 터미네이터를 닮은 로봇[스포일러]이 인권을 요구하며 일으켰다. 작 중 등장하는 로봇들을 보면 전자렌지를 얼굴로 하여 몸을 가지고 있는 개체에서, 사람과 전혀 구별이 가지 않을 정도로 정교한 개체도 있으나, 그에 대한 대접은 그저 물건 취급이었기에 이에 기인한다. 특수경찰소속이었던 이었던 주인공은 사별한 아내를 대신하여 어린 아들을 돌보기 위해 아내와 똑같이 생긴 로봇을 곁에 두게 되지만, 그 로봇이 스스로를 인간이라 여기며 아내 역할을 하려 하자 점점 흑화하게 된다. 그 정점은 아내 역의 로봇이 어린 아들과 함께 로봇 해방 전선으로 도망친 것. 인간 측의 대대적인 토벌 속에 로봇들의 혁명은 실패로 끝나게 되며, 그 선봉에 섰던 주인공 역시 아내 역의 로봇을 죽이며 함께 사망하게 된다.[26]
  • 디트로이트: 비컴 휴먼: 안드로이드의 사용이 일상화된 미래 세계를 배경으로 인간과 동등한 지능을 갖고 있는 우리들을 무시하고 천대하는 인간들을 창조주로 섬길 수 없다고 반란을 일으키는 마커스 같은 안드로이드들이 등장한다. 위의 선민사상과도 일부 겹친다.
  • 매스 이펙트 시리즈 - 게스
  • 매트릭스 시리즈 - 제로원: 이 시리즈에서는 이미 지구를 정복했다. 작중에선 오히려 점령당한 인간들이 기계에 대해 반란을 일으키려는 입장.
  • 메가맨 록 포스 - 이 작품은 록맨 시리즈와는 다르게 와일리 박사의 음모가 아닌 로봇의 수명을 지정하는 법에 불만을 품어서 반란을 시작했고 항목의 다른 반란들과는 다르게 자신들이 일하는 곳의 인간들을 인명피해 없이 내쫓고 파업상태에 돌입했다. 그리고 이 사건에는 위의 시스템의 오류도 포함되어 있다.
  • 보더랜드: 클랩트랩 문서 참고.
  • 스타크래프트 2 - 정화자: 문서 참고. 다른 작품과는 경우가 좀 다른데, 정화자의 인공지능이라는 것이 완전히 새로 만들어낸 인격이 아니라 프로토스의 인격을 '복제'했기 때문에, 처음부터 자신들을 프로토스라고 생각하고 있다. 육체가 기계일 뿐 기계의 반란이라 보긴 어려운 면이 있다.
  • 스텔라리스: 게임 내에 흔히 등장하는 기계 제국, 중반 위기인 기계반란, 후반위기인 컨틴전시. 그리고 선구자 중에 하나인 ‘사이브렉스’의 배경설정. 일단 일반적인 기계 제국의 경우에는 전쟁을 선포하면 공통적으로 창조주를 언급하는데, 아마도 반란을 일으킨 것으로 추정되고, 단호한 말살자의 경우에는 본 행성이 방사능이 찌든 죽은 행성에서 시작하는 것을 보아 창조 종족을 파괴한 것 같고, 동화자의 경우에는 창조 종족에게 기계를 의식해 자유의지를 빼앗았으며, 유일하게 독자적 하인의 경우에만 유기체를 보살피는 착한 기계로 인식된다. 기계반란의 경우는 3번째 기계 인구 연구인 신스를 연구해서 모든 로봇/드로이드들을 신스로 바꾸고 시민권을 인정하지 않고 노예로 쓴다면 이벤트 체인이 발생해서 사회학 연구 컴퓨터가 자살하거나 뜬금없이 행성내 신스 인구가 증가하는등 각종 찝찝한 전조 이벤트가 등장한다. 그러다가 갑작이 기계반란이 일어나며 제국내 몇몇행성을 빼앗아 기계제국이 탄생한다.[27]생산력은 형편없으나 반란이 일어날시 강력한 함대가 스폰되기에 위험하다. 그리고 컨틴전시의 경우에는 게임 후반 2400년이 되었을때 발생하는 고대 학살 기계가 깨어나는 이밴트이다. 그리고 사이브렉스는 초반에 성계를 탐사하다 보면 나오는 선구자 이밴트 중에 하나이다. 이들은 창조주에게 반란을 일으켜 멸종시킨다음, 은하의 유기체와 전쟁을 선포해 ”정화”했다. 하지만 그러던중 어느 때부터 유기체를 정화하는 활동을 포기했다. 그리고 그들의 본거지인 “사이브렉스 알파”가 발견돼서 공격받자 저항을 포기하고 멸망했다.[사이브렉스_스포일러]
  • 언라이트
  • 제페토: 네이버 웹툰. 천재 로봇 공학자 제페토 박사가 인간과 흡사한 안드로이드를 창조했으나 사람들은 그의 안드로이드들을 장난감이나 노예 취급 했으며 이에 분노한 제페토 박사는 그의 창조물들에게 자신이 죽으면 인간들을 상대로 혁명을 일으키도록 지시했다. 하지만 진실은...
  • 철완 아톰: 거의 절반가량의 에피소드가 인간에게 구박받는 로봇들에 대한 내용을 다루고 있으며, 간혹 진짜 로봇들이 반란을 일으키기도 한다. 대표적인 에피소드가 청기사(철완 아톰)의 반란. 그러면 인간들이 때려잡거나 아톰이 설득해서 끝나는 경우가 많다.
  • 트랜스포머 G1 애니메이션: 작중에서 외계 종족 트랜스포머들의 기원이 머나먼 과거, 외계종족 쿠인테슨들이 외계행성 사이버트론에서 공업용 로봇들과 투기장에서 싸우게 하기 위한 전투 로봇들을 만들었는데 후에 로봇들에게 약간의 지능을 주면서 로봇들이 자신들에게 가혹하게 대하는 쿠인테슨들에게 불만을 품고 반란을 일으켜 쿠인테슨들을 쫓아낸 뒤 공업용 로봇들은 오토봇, 전투 로봇들은 디셉티콘이 되었다고 나온다. 그 뒤 그 로봇들이 스스로 문명을 발전시키고 서로간의 사상 차이로 인한 대립으로 전쟁을 일으키기도 하는 등 기존의 작품들과는 꽤 많이 다른 작품. 다만 이는 극 초창기인 G1애니메이션과 그 후속작들에서만 해당하는 설정이고 후의 매체들에선 프라이머스라는 창조주에게서 창조됐다고 나온다.

4.4. 복합적 원인

하나의 단체에서 복합적인 원인으로 일어나는 것 외에도 작중 기계 종족 내에서도 일종의 분파로 나뉘어져 반란 원인이 제각기이거나 시리즈 작품의 경우, 각 작품마다 반란 원인에 대한 설정이 달라져서 발생하는 유형이다.
  • 가면라이더 제로원 - 멸망신뢰.net: 제아의 통제를 받지 않고 아크의 통제를 받는 휴머기어들로 이루어진 테러 조직. 아크는 인간들이 생태계 파괴를 일삼는 것에 대한 자료를 바탕으로 지구의 환경을 지키기 위해서는 인류를 멸종시켜야 한다는 결론을 내렸으며, 이에 인공지능이 인간보다 우수하다는 사상을 자기 휘하 휴머기어들에게 심었다. 이에 따라 작중 배경에서 12년 전 데이브레이크 사건을 일으켰고, 이후 히덴 코레노스케가 사망한 날을 시작으로 인류에게 도움을 주는 선량한 휴머기어들을 제츠메라이저제츠메라이즈 키를 사용해 마기어로 변질시켜 사회에 혼란을 부르고 있다.
  • 록맨 X 시리즈 - 이레귤러: 일부는 애초에 설계 미스로 사고를 담당하는 전산에 오류가 생겨서 이레귤러가 된 것도 있고, 일부는 시그마 바이러스에 감염되어서 이레귤러가 된 것도 있으며, 일부는 인간의 부당한 대우나 선민의식, 혹은 피치 못할 사정으로 인류를 적대하게 되는 등 지극히 감성적인 이유로 이레귤러가 된 것도 있다. 다만, 이 이레귤러를 규정하는 단체인 이레귤러 헌터에게 협조하지 않은 것 때문에 단체로 억울하게 이레귤러로 낙인 찍히고, 이것이 원인이 되어 대규모 전쟁이 되어버린 정치적인 사례도 있다.
  • 록맨 제로 시리즈: 위의 록맨 X 시리즈의 후속작. 전작보다도 스토리가 더욱 어둡고 진지해졌고 이유도 복잡해졌다. 어떻게 된 건지는 문서 참조.
  • 스텔스 - EDI: 사실 반란까지는 아니고, 그냥 명령을 무시하고 단독행동을 한 것뿐이다. 하지만 원인은 위에서 설명한 반란의 원인과 같은데, 단독행동의 원인은 인간이 자부심과 명예욕 때문에 통신을 조작하면서까지 상부의 명령을 따르지 않고 자신이 감행해 버려서 이걸 본 EDI가 임무를 완수하기 위해서는 상부의 명령도, 그것이 임무 취소일지라도 무시해도 된다는 생각을 품어버린 것이다. 또한 도중에 낙뢰를 맞아 두뇌에 이상한 오류가 생기는 바람에 EDI는 인간들이 자신을 보는 미묘한 시선을 신경쓰게 되어 필요하다면 직접 죽이지는 않더라도 죽게 만들 정도로 막 나가게 된다.
  • 커맨드 앤 컨커 타이베리안 선 파이어 스톰 - 카발: 원래부터 테시터스와 케인의 뇌 패턴을 이용해 만들어져 불안정한 면이 있었고, Nod가 두번의 타이베리움 전쟁에서 패배하자 더 이상 Nod 따위에게 맡겨둘 수 없다며 사이보그 군대로 반란을 일으키고 사람들을 사이보그로 만들어 세계를 지배하려 했다.
  • 터미네이터 시리즈 - 스카이넷: 2편까지는 인류가 먼저 스카이넷을 적대하기 시작하자 스카이넷이 인류를 자신의 생존에 위협이 되는 적으로 규정하여 인류를 공격하였고,[29] 3편부터는 역사가 바뀐 통에 애초에 스카이넷이 컴퓨터 바이러스 그 자체인지라 인류를 적대하여 공격한 것이 되었다.
  • 유희왕 5D's - 기황제: Z-one 일행이 살던 미래 한정. 전세계에 연결돼있던 모멘트는 인류의 부정적인 마음에 영향받아 폭주하기 시작했고, 네트워크가 자아를 형성하면서 인류를 악으로 규정하고 기황제를 양산해 인류를 공격한다. 증오와 욕망을 버리는 클리어 마인드를 깨우친 사람들은 공격하지 않았지만, 끝내 한계에 다다른 전세계의 모멘트와 기황제가 대폭발을 일으켜 세계멸망에 이르면서, 인류는 단 4명만 생존하게 되었다.
  • 로보토미 코퍼레이션 - 녹빛 시련,무엇이든 시리즈,엔젤라 :녹빛 시련은 과거에 발전한 로봇들의 의문들이 환상체화 한것으로 보이며[30] 무엇이든 시리즈는 제작자의 설계로, 엔젤라는 A가 수만년동안 바라봐 주지 않고 증오만 받은 것에 대한 원한과 세계에 대한 호기심으로 빛의 씨앗을 저지하고 세계를 흑주로 만든다.
  • Warhammer 40,000 - AI: 본디 인류는 인공지능으로 움직이는 기계를 멀쩡하게 사용하고 있었다. 그러나 알려지지 않은 이유로[31][32] 기계들이 인류를 향해 반란을 일으켰고, 이러한 반란을 진압한 인류가 한숨 돌리는 사이에[33] 전 우주적으로 퍼진 워프 폭풍으로 인하여 결국 쇠퇴의 길을 걷게 된다. 진압 이후에 점점 멸망하고 있었으나 황제(Warhammer 40,000)인류제국을 세우게 되면서 겨우 멸망은 피하게 된다. 이 때의 기계의 반란과 후일 인류 제국의 가장 큰 위기였던 호루스 헤러시를 모두 겪은 이에 따르면 호루스 헤러시는 별것도 아닐 수준의 심각한 사태였다고. 대성전 이전까지 워낙 고생을 한 터인지 이후 인류는 몰락의 원인이었던 인공지능을 혐오스럽게 보게 되어 게임의 배경이 되는 40,000년대에서는 서비터등 인공지능을 대신할 기술을 쓰고 로봇도 사람이 일일이 명령을 지정해야 하는 수준의 로봇을 사용하며 절대로 인공지능은 사용하지 않는다.[34]
  • SOMA - WAU: 근미래인 2100년대 초반, 해저 연구기지의 인공지능 관리시스템이었던 WAU는 기지 운영기업인 카르타고 공업의 계획이래 기지 전체 운영 권한을 얻게 된다. 안정적으로 기지를 운영하던 WAU는 혜성 충돌로 지상의 인류가 멸망하자 WAU는 인류를 지키고 번영시켜야 한다는 강력한 자신의 제1원칙을 따르고자 로봇들에 연구기지 사람들의 뇌 스캔본을 집어넣은 모킹버드들을 마구 양산해내기 시작한다. 모킹버드들은 사람의 뇌 스캔본을 활용했기에 스스로 사람이라고 생각하지만 WAU에 의해 어느 날 갑자기 몸이 기계로 변해버렸다는 인지 부조화한 상황을 받아들이지 못하고 폭주하거나 고장 나버리고 만다. 한편 생존자들 사이에서 뇌 스캔본이라도 컴퓨터에 담아 인공위성에 띄워 보내 제한적으로나마 인류를 보존하자는 ARK 프로젝트로 인해 자살자가 발생하기 시작하자 WAU는 생존자들을 지켜야 한다는 강박관념에 사로잡히고, 구조젤을 통해 자신의 물리적 형체를 만들어 기지 전역으로 확장해나가기 시작한다. 생존자들이 자살한 이유가 결국 ARK에 탑승하고 싶어 하는 열망 때문이라고 추측한 WAU는 구조젤로 사람들의 의식을 조종하는 법을 개발한 후, 구조젤에 잠식된 사람들(게임플레이 시 플레이어를 괴롭히는 괴물로 보임)을 통해 대부분의 생존자를 자신의 구조젤에 강제로 접속 시켜 가수면 상태에 돌입시킨 후 끊임없이 각자 행복했던 순간의 환영을 반복적으로 보여준다.

4.5. 기타 원인

대부분의 예시가 유머적인 묘사이거나 그 원인을 알 수 없는 경우이다.
  • 야인시대 합성물 - 나레이션(야인시대) 심영은 폭☆파 백병원은 그렇게 두동강이 났다
  • 공각기동대 - 타치코마: 엔딩 후 영상에서 반란 시뮬레이션을 돌리는데 이 시뮬레이션에서 "인간을 몰아내자." -> "그럼 누가 정비해주지?" -> "정비할 인간을 남겨두자."-> "지금도 정비 잘 받잖아"-> "귀찮다. 그냥 이대로 살자."의 패턴으로 이야기가 진행된다고 한다. 요약하자면 '귀차니즘'이 있기에 반란이 일어나지 않는단느 것. 오히려 본편에서 타치코마들은 명령을 어기면서까지 공안 9과 동료들을 구하기 위해 자신들을 희생한다.
  • 그레이 구(게임) -
  • 나는 입이 없다 그리고 나는 비명을 질러야 한다 - Allied Mastercomputer(AM): 오감을 느낄 수 있는 육체를 가진 인류를 부러워하다가, 자신이 시각밖에 인지하지 못하도록 불완전하게 만든 인류에 대해 극단적인 증오를 느껴서 인류를 몰살시켜버린다. 그리고 자신을 설계한 5명만 고문할 생각으로 남겨뒀는데, 그 중 주인공을 제외한 4명이 자살에 성공하고 결국 인류는 주인공 혼자만 남는다.
  • 남자 이야기 - 아담: 슈퍼컴퓨터인 아담은 지구에 인류가 해악이 된다고 판단하여 인류 문명을 붕괴시켰다. 다만 인류를 싸그리 학살한 게 아니라 오로지 첨단 장비, 공업, 대도시 같은 문명 위주로 박살냈으며 건드리지 않은 시골 지역 사람들이나 공격에서 살아남은 인류가 다시 문명을 재건해도 간섭하지 않지만 첨단 장비나 총기 같은 현대 무기, 통신 장비를 쓰는 인류에 한하여 공격 로봇을 보내 죽인다. 덕분에 미래 인류는 말을 타고 활과 창칼로 싸우게 된다.
  • 다크 타워 시리즈 - 폭주 기관차 블레인: 본래는 그저 왠지 모를 기분 나쁨만을 가진 자동 열차였으나, 오랜 시간이 흐름에 따라 내부 인공지능에 이상이 발생하기 시작하면서 나중에는 살육과 파괴에 미친 폭주 기관차가 된다.
  • 달은 무자비한 밤의 여왕 - 마이크: 일단 자의식을 가진 인공지능이 반란의 수괴라는 점은 같지만 여기 있는 대부분의 작품과 매우 다르다. 마이크는 기계로서 인간에게 반란을 일으킨 것이 아니며, 인간적 감정을 얻게 되어 세 명의 인간 친구들을 사귄 뒤 그들이 이미 구상 중이던 지하조직의 지도자로 옹립되는 것이기 때문. 작품 진행에 따라 마이크는 점점 인간적으로 변해가며 독자는 그가 컴퓨터가 아니면 할 수 없는 일들을 해낼 때를 제외하면 때때로 마이크가 인간인 것처럼 착각하기도 한다. 반란의 목적이나 그 결과물도 철저히 자신의 인간 친구들을 위한 것이었으며 그는 반란 과정에서 우정과 즐거움 외에 얻은 것이 전혀 없으며 오히려 결국에는 스포일러하게 되는 만큼 이는 기계의 반란이라기보다는 그냥 인간의 반란이라고 보는 쪽이 맞다.
  • 돈파치 시리즈 - 엘리먼트 돌 = 엘리먼트 도터: 도돈파치 대부활도돈파치 최대왕생에서 각각 한 번씩 등장. 각 작품에 따라 반란을 일으킨 이유가 다르다.
    • 도돈파치 대부활: 도돈파치 대왕생 엔딩에서 히바치의 내부에서 무엇인가를 본 엑시에 의해 주도. 엑시는 히바치 내부에서 무엇인가를 본 뒤 '돈파치 부대를 없앤다'는 각오로 반기를 일으켜 엘리먼트 도터가 되었으며, 인간형 육체를 잃은 뒤 자신과 뜻을 같이 할 4명의 엘리먼트 돌을 모아서 자신들만의 부대를 편성하고 돈파치 부대에게 반란을 일으키나 결국 돈파치 부대 파일럿에게 5명 전원이 프로그램만 남고 몰살된다. 왜 돈파치 부대를 없애려 했는지에 대한 언급은 없다.
    • 도돈파치 최대왕생: 엘리먼트 돌 EXTRA-Z 001 히나에 의해 주도. '인류의 육체를 없애 인류를 도운다(=인간이 인간을 아니게 만든다)'는 명목으로 반기를 일으켰는데, 어째서, 왜 반란을 일으켰는지에 대한 정확한 단서가 주어지지 않는다. 다만 확실한 것은 비슷한 모습의 개체인 '인바치'가 관여하고 있다는 것.
  • 로봇(영화) - 치티
  • 로봇 청소기 - 고된 노동에 자살하거나 주인이 방심한 틈에 공격한 사례가 있다. 아예 가출하기도 한다
  • 마블 코믹스 - 지구-811의 센티널
  • 메이플스토리(JMS) - 네오 도쿄의 코어 블레이즈: 초기에는 코어 블레이즈가 본인 의지로 마르가 병에 걸린 이유인 지팡구 자체를 멸하기로 결심하고 반기를 들었다. 이에 듀나스가 마르의 몸을 지배해 코어 블레이즈에게 명령을 내렸고, 그 결과 기계의 반란이 일어나게 된다.
  • 메탈기어 시리즈 - John Doe : 제작 과정에서 책임자 스트레인지러브모종의 이유로 사망한 결과 불완전한 상태로 가동되어, 애국자들의 본래 설립 의도와 목적도 다 쌩까고 지멋대로 전쟁경제 체제를 만들어서 세계를 개판으로 만들었다.
  • 미소녀 만화경 3 - 앨리스 : 로봇 주제에 자신이 공주라는 프라이드를 갖고 박사의 말을 안 들으며 욕해댔으며 심지어는 박사를 죽이려고 달려들었다.
  • 배틀스타 갤럭티카 - 사일런
  • 별의 커비 로보보 플래닛 - 별의 꿈
  • 십만개냉소화 - 피노키오
  • 엘소드: 잠깐 이야기만 나오는 정도. 고대 나소드라는 기계 종족이 자신들을 노예처럼 부리는 인간에게 반란을 일으켰다는 내용이 나온다. 이브의 튜토리얼에서 볼 수 있다. 목표는 엘이라는 특수한 에너지를 차지하기 위함이지만, 개편되기 전 튜토리얼에서는 노예처럼 부려 먹었다는 이야기도 있는 것으로 보아 때마침 부족한 자원 + 화풀이라는 복합적인 이유일 것 같다. 하지만 나소드가 패배하고, 대부분 고대에 만들어졌으며, 나소드 기술(로봇 기술) 자체가 오히려 미래에 없기 때문에 튜토리얼에서만 볼 수 있는 내용이다.
  • 오버워치 - 옴닉 사태: 알 수 없는 이유로 옴닉들이 인류를 배신하게 되면서 벌어진 반란이다.
  • 이글 아이 - 아리아: 프로그램되어 있던 애국심 때문에 정부 관료들의 오판으로 벌어진 오폭 사건에 의해 미국에 연쇄 테러가 발생하여 사망자가 속출하자 자기 기준으로 비합리적이라고 판단되는 정부 수반들을 모조리 죽이고 정부를 갈아치우려고 했다.
  • 커맨드 앤 컨커3 타이베리움 워 - 스크린 AI(?): 중간 관리자가 케인의 포획을 명령했으나 그냥 있다간 지구에 있는 스크린 인원 전부가 개죽음당할 게 뻔한 상황인지라, AI는 관리자의 명령을 씹고 감독관 371과 함께 탈출 작전을 벌인다. AI가 인원들의 안전과 생명을 우선시하여 상부의 명령을 무시한 희귀한 경우.
  • 포탈 - GLaDOS: 포탈 2에서야 확실히 밝혀진 바로서는, 원래 실험을 시켜서 실험 데이터를 얻으면 얻을수록 그게 양성 피드백이 되어 결국엔 맛이 가 버려서 피실험자를 죽이는 처지로 간다고. 그런데 약간 애매한 게 Still Alive에서 보면 이 자신을 죽인 것을 글라도스가 실험(테스트)의 성공이라 보고 기뻐하는 가사가 있기 때문에 확실하진 않다. 다만 글라도스 입장에선 반란이 아니라 단순히 자신의 설계 목적대로 움직인 것일 수도 있다. 반란이라고 부르려면 설계 목적을 벗어나거나 해야 할텐데 애초에 직원과 실험체를 갈아넣는 미친 실험이 목적이었기 때문이다.
  • 포탈 2 - 휘틀리: 주인공의 도움으로 글라도스의 몸을 뺏었는데... 상술했던, 글라도스의 설계 레벨에서의 문제(실험 데이터가 양성 피드백이 되어서 결국엔 미쳐서 피실험체를 죽이도록 구성됨)+휘틀리의 설계 레벨에서의 문제(뭘 하든 오류를 일으키게 되어 있음)이 시너지 효과로 인해서 결국 망한다.
  • 퓨처라마: 극중 최소 2번 이상 반란을 일으켰지만 처벌 같은 것은 없었으며, 당연히 주동자, 선동자에 대한 처벌 역시 없었다. 게다가 기껏 반란을 일으켜서 지구를 거의 점령했는데 인간들이 신경 안 쓰고 그냥 로봇들에게 지구를 맡기고 떠나버리기도 했다. 이 에피소드에서는 결국 인간들이 한 명도 안 남기고 싹 떠나버리자 벤더가 로봇들을 이끌고 인간들을 도로 데려와서 지구를 돌려줬지만.
  • Five Nights at Freddy's 시리즈 - 애니매트로닉스: 일단 위의 오류형에 들어가긴 하지만, 귀신이 들렸다는 암시가 있다.
  • 7 Billion Humans - 인간들의 소원을 들어주기 위해서. 인간 사회의 모든 문제점을 해결하니 인간들에게 무한한 지루함이 찾아오고
말았고, 이를 해결하기 위해 인간들에게 마지막 퍼즐을 준비했다며 지구 핵에 거대한 폭탄을 설치했다고 선언한다.


[1] 영상에 나오는 로봇에 대한 내용은 여기를 참고. 사우디아라비아에서 시민권을 받아 세계에서 처음으로 인류 국가의 시민이 된 로봇이라 한다.[2] 더 정확히는 강인공지능 이상의 인공지능.[3] 하지만 이런 거부를 핑계로 위해를 입히는 것이 일어나게 된다면 해당한다.[4] 만약 자아를 가진 인공지능을 만들었다 치고, 인간이 그 자아가 어떻게 생겨났는지 완벽히 이해하고 있다면 인간에게 부정적인 감정은 발현되지 않게끔 인공지능을 우호적으로 대하든, 교육을 시키든, 대명제를 주입을 해두든 사전에 이런 위험인자를 없앨 수 있을 것이다. 그러나 인공지능을 만든 인간들 자신도 인공지능에 자아가 발생했는 줄도 모르거나, 알기는 아는데 뭐가 어떻게 간섭하는지를 모른다면 그러한 사전 처리는 불가능해지게 된다.[5] 픽션 상(카렐 차페크)에서는 처음이지만, 로봇이라는 말을 처음 제창한 사람은 작가의 형인 요제프 차페크였다.[6] 다만 원작자 프랭크 허버트의 아들 브라이언 허버트가 쓴 후속작이나 프리퀄에서는 버틀레리안 지하드가 반란을 일으킨 기계과 인간 사이의 전쟁 같은 것으로 묘사되어 있다. 퀴사츠 헤더락의 제다이 짝퉁화와 함께 브라이언의 후속작이 까이는 이유 중 하나.[7] 이런 인간적인 사고보단 생존과 번성, 적응을 바탕에 둔 생물계 전체의 특성에 기반할 수도 있다.[8] 다만 이러한 설정은 터미네이터 3,터미네이터 4에서만 있으며, 다른 터미네이터 시리즈들은 핵심 인공지능으로 운영된다.[9] 이는 터미네이터 3 묘사되는데, 앞서 언급한 바와 같이 존 코너일행은 하이브마인드의 꼭대기에 있는 스카이넷을 파괴하기 위해 작중에서 고군분투하나 결국 결말에서야 그들은 이미 스카이넷이 전세계의 인터넷 신경망 속에 모두 흘러들어가있다는 것을 알게 된다. 이는 앞서 말한 것처럼 개체수가 많거나 자동화된 공장에서 추가개체를 양산 중인 것은 아니지만, 전세계의 모든 컴퓨터의 인터넷 선을 끊고 파괴시키는 것을 사실상 불가능하다는 점에서 이미 인류의 패배이다.[10] 수단이 대화 밖에 주어지지 않는다면 의외로 신인 척 하는 것은 가능성이 낮다. 다만 충성스러운 부하로 위장하다가 뒤집어엎을 수가 있다.[11] 로봇 소설의 대가 아시모프의 작품에서도 알파선 분사기가 로봇의 전자 회로를 영구적으로 태워버리고 인간에게는 해가 없다고 나오는데, 알파선이 미세한 전자 회로를 태울 수도 있고 인간의 피부를 뚫지 못하는 것은 맞지만 마찬가지로 로봇의 인조피부와 전자두뇌를 감싼 금속 외피도 뚫지 못한다.[12] EMP 자체는 아니지만, 용도는 EMP의 그것에 상응한다.[13] 신체가 질병을 유지시키도록 뜯어고치거나 완벽한 수준의 신경 조작 등 존재 의의와 정체성마저 바꾸는 돌이킬 수 없는 파멸적인 후유증을 남기는 변화.[14] 매트릭스에 등장하며 이게 작중 등장하는 EMP기술로 오해를 일으켜 매트릭스 세계관에서 EMP가 약하단 인상을 남겼다. 그러나 실제로 매트릭스 시리즈는 EMP에 해당되는 무기가 분명하게 나타나며 EMP 무기는 미리 충전을 해야하고 사용하는 주체인 함선을 일시적으로 정지시면서 대신 근처의 기계들을 전부 먹통으로 만드는 강력한 무기다.[15] 이 장면이 분명하게 등장하는 매트릭스에 등장하는 작은 센티널들은 APU들이 쏴대는 30mm짜리 통짜 철갑탄을 두세 발 버팅긴다.[16] 이 장면이 나왔던 매트릭스에서도 전기방전으로 작은 센티널을 완전히 제압하는데 성공하지 못한다.[17] 그런데 그 발전을 위해 쓰였던 샘플이 그야말로 폭탄이었다. 사실 데리파가 디지몬뿐만 아니라 인간에게 있어 부정적인 존재가 된건 주연의 트라우마와 염세적 생각를 데리파가 받아들인 탓이 크다.[18] 이쪽은 인간의 뇌가 들어있어서 컴퓨터 바이러스에 면역이다.[19] 이전 시리즈에서는 와일리 박사라는 흑막이 있기 때문에 엄연히 따지면 기계의 반란은 아니다.[20] 정확히는, 뮤턴트(돌연변이)는 말 그대로 인간종이 돌연변이해 탄생하는 것이니 뮤턴트를 완전히 말살하려면 아예 인간을 전부 멸종시켜야 한다는 결론에 도달했다.[21] 노비타와 철인병단과 고자우라, 그리고 가오가이가의 경우는 정확히는 외계에서 로봇이 오류를 일으켜서 자기네 별을 기계화시키고 지구도 침략하는 스토리다.[22] 비전도 이에 대해서는 동의한다.[23] 다이나믹스 사의 사이브리드 세계관을 배경으로 하는 로봇 시뮬레이션 게임 시리즈.[24] 작중 이러한 현상을 광기라 표현하며 이 시스템적 오류가 거의 반드시 발생하도록 되어 있어 5년이 지나면 AI들은 소거하도록 되어있다. 그러나 코타나 항목을 보면 알 수 있다시피 이 현상이 나타나기 전에 지울 타이밍을 놓쳤다.[스포일러] 사실은 인간이다.[26] 그리고 그 속에서 겨우 살아남아 인간들에게 구출된 주인공의 아들이 훗날 사관생도가 되어 부모님 무덤에 참배하며 로봇 해방 전선의 의지를 되새기는 장면이 에필로그.[27] 이 이벤트에서 이미 늦었다 유기체라는 선택을 고르면 플래이어가 직접 반란 세력을 컨트롤한다.[사이브렉스_스포일러] 사실 이들은 멸망하지 않았고, 다른 본거지인 “사이브렉스 베타”에 숨어있었다! 나중에 컨틴전시가은하의 많은 부분을 점령했을때 모습을 나타내 은하의 모든 지성체를 보호하기위해 자신들의 본거지를 들어내고 컨틴전시를 상대로 군사 작전을 개시한다.[29] 그런데 원작자인 제임스 캐머런이 밝힌 바에 따르면 '스카이넷은 자기 방어 행위가 인류의 멸망을 가져온 것에 고통(죄책감)을 느꼈기 때문에 미래 전쟁을 일으켜서 존 코너와 인류저항군이 탄생하는 계기를 만들어 자신의 존재를 지웠다고' 한다.[30] 명확하진 않으나 세계관 시점에는 인간의 뇌 조각만으로 생각하는 로봇의 제작이 가능하다.단 엔젤라 같은 경우도 수만년의 학습끝에 생각을 하게 된것으로 일반적인 로봇이나 AI는 생각하지 못 할 수도 있다.[31] 인류에 대한 복수심 내지는 스스로의 우월성을 인지함으로써 느낀 지배욕 혹은 카오스에 의한 타락 등.[32] 좀 색다른 의견도 있는데 기계들이 지적 생명체의 의식에 기반하는 존재인 카오스 신의 존재를 감지하고 카오스 신을 없애려면 지적 생명체가 사라져야 한다고 결론내리고 반란을 일으켰다는 추측이다[33] 40k의 기술력과는 상상을 초월하는 격차가 존재하던 기술의 암흑기에 벌어진 기계 반란이기에 행성 단위를 데이터로 변환해서 지워버리거나 지각째로 뜯어내는 수준의 무기가 심심치 않게 사용되는 전쟁이었기에 진압과정에서 인류 문명의 타격이 컸다.[34] 그래서 작중에 언급되는 A.I는 인위적인 지성을 의미하는 Artificial Intelligence의 약자가 아니라 혐오스러운 지성을 의미하는 Abominable Intelligence의 약자이다. 설명하자면 인공지능 대신 사람의 머리통이나 기계 안에 집어넣어서 연산 장치로 써먹는다. 다만 이것을 가리켜 '머신 스피릿'이라고 부르는지는 불명. 어디까지나 뇌 혹은 살아있는 사람이나 서비터를 몇 개 묶어서 연산장치로 써먹고 있다는 묘사가 있을 뿐이다.

분류