본 문서는 SCP 재단 관련 내용을 다루고 있습니다.
이 문서의 내용은 SCP 재단 위키에 등재된 소설에 관한 내용을 포함하고 있습니다. CCL 호환 문제로 인하여 SCP 재단 위키의 내용을 그대로 등재할 수 없으며, 추가 해석이 포함되어 번역된 사안은 작성이 가능합니다. 작성 양식은 템플릿:SCP를 참고해 주시기 바랍니다.
이 문서의 내용은 SCP 재단 위키에 등재된 소설에 관한 내용을 포함하고 있습니다. CCL 호환 문제로 인하여 SCP 재단 위키의 내용을 그대로 등재할 수 없으며, 추가 해석이 포함되어 번역된 사안은 작성이 가능합니다. 작성 양식은 템플릿:SCP를 참고해 주시기 바랍니다.
[include(틀:SCP/순서,
1=681-KO, 1e=너무 뻔한 괴물임,
2=682-KO, 2e=미래의 바실리스크,
3=683-KO, 3e=환상의 트레드밀)]
| <colbgcolor=#000><colcolor=#fff> | |
| 일련번호 | SCP-682-KO |
| 별명 | 미래의 바실리스크 |
| 등급 | 아폴리온[1] |
| 원문 | 원문 |
| 저자 | Crssk |
1. 설명
SCP-682-KO는 SCP 재단 시간변칙부가 미래를 관측하던 도중, 가능한 관찰 범위의 거의 끄트머리에서 발견한 '미래에 탄생하게 될 지적 존재'이다. 이 미래 측정체계는 더 먼 미래를 측정할 수록 관찰 내용의 '노이즈'가 크게 발생하여, 대상이 생명체나 인공지능인지의 여부, 창조자 또는 부모의 존재는 알 수가 없다.관찰한 사항에 따르면 SCP-682-KO는 지적인 존재로 윤리적인 관점도 갖추고 있다. SCP-682-KO는 고통을 겪는 것을 악으로 간주하며, 고통을 최대한 회피해야 할 것으로 간주한다. 따라서 고통이 존재하는 상황은 일어나지 않게 만들거나, 이미 일어날 경우 즉시 중단시켜야 한다. 이 원리에서 파생되어, SCP-682-KO는 특정한 행위나 상황이 고통을 유발할 가능성이 있다면 그 자체로도 악으로 간주한다. 여기까지는 일반인들도 납득 가능할 만한 상황이다.
문제는 SCP-682-KO는 단순한 지적 존재가 아니라 신적인 능력을 가진 초월적 존재였다는 것이다. 대상은 변칙적인 방법으로 SCP-1968과 비슷한 역인과 현실조작(과거의 개변)이 가능하다. SCP-682-KO는 자신의 윤리적인 사상에 기반해 존재함 그 자체를 악으로 간주한다. 사람만 하더라도 존재하면서 필연적으로 약간이나마 고통을 겪게 되는데, 따라서 존재하는 것 자체가 고통을 유발하거나 그러할 가능성이 있는 것이고, 존재하는 것, 존재를 만드는 것 자체가 SCP-682-KO의 악인 것이다.
따라서 SCP-682-KO는 자신의 초월적인 능력을 사용해, 우리 우주의 탄생 자체를 처음부터 일어나지 않은 것으로 만들려 한다. SCP-682-KO가 탄생하면, 필연적으로 우리 우주는 존재하지 않은 것이 되고, 즉 재단을 포함한 우리 모두는 처음부터 없었던 존재가 되고 말 것이다. 세계멸망이 아니라, 태어나지조차 못하게 된다.
이러한 미래를 관측한 SCP 재단은 SCP-682-KO를 막을 방법을 고안하기 시작하였다.
- 제안 1 - 윤리학적 논변을 통해 SCP-682-KO를 설득하여 윤리적 관점을 수정하게 함: 대상이 반박을 받아들일 지의 여부가 불분명하여 실패.
- 제안 2 - SCP-682-KO의 탄생으로 이어지는 모든 원인에 개입해 대상이 탄생하지 않게 함: 윤리위원회 위원장이 거부권을 행사함. 극단적으로 말하자면, 재단은 충분히 우주를 멸망시킬 만한 변칙성들을 보유하고 있고, 그렇게 우주를 멸망시키면 SCP-682-KO는 탄생하지 않게 될 것이다. 하지만 그런 짓을 벌이게 될 경우, 재단이 SCP-682-KO와 다를 것은 무엇인가?
- 제안 3 - SCP-682-KO의 영향력이 미치지 않는 다른 차원계를 만들어 인류를 피신시킴 - 보류됨, 제안 자체는 합리적이지만 전 인류를 피신시킬 만큼 거대한 외부차원을 만들 능력이 현재로서는 없음.
- 제안 4 - 유드코프스키-로코 시간 진행 지연 장치 사용: 채택됨.
유드코프스키-로코 시간 진행 지연 장치는 SCP-2000에 탑재된 장치 중 하나이다.[2] SCP-2000은 인류를 재건하기 위한 최후의 수단으로, 장치가 파괴되거나 공격받는 것을 막기 위한 수많은 보호 체계들이 있다. 하지만 이러한 보호 수단들이 모두 무력화되거나 뚫렸을 때의 최후 수단이 유드코프스키-로코 시간 진행 지연 장치이다. 해당 장치는 당면한 위협이 도래하는 시점을 더 먼 미래에 일어나게 만든다. 그 동안 SCP-2000이 인류를 복원하고, 복원된 인류가 미래로 연기된 위협에 대비할 수 있는 시간을 벌 수 있도록 말이다. 재단의 목적은 SCP-682-KO를 상대로 해당 장치를 사용하여, 대상이 탄생하는 사건을 최대한 먼 미래로 지연시키는 것이다.
유드코프스키-로코 장치는 예정대로 SCP-682-KO의 탄생을 지연시키고 있으며, 재단에 따르면 현재까지 우리의 세계가 존재한다는 것이 이 조치가 성공적이라는 간접적인 증거로 여겨진다.
문서 마지막에는 O5-1이 이 모든 것이 682-KO가 의도한 바일 지도 모른다는 가설을 제시하고 있다. 단순히 현재 차원에서만 보면 682-KO의 인과 조작은 존재 자체를 무로 돌림으로써 고통을 차단하는 선행이지만, 더 고차원에서는 존재하고 있던 것을 무로 돌려 무수한 수의 생명을 살육하는 악행으로 볼 수 있으며, 따라서 자기 자신이 존재함으로써 고통받는다는 문제와 궁극적인 선을 위해 거악을 저지른다는 모순을 해결하기 위해 자신의 존재를 인지한 재단과 같은 정상성 유지 기관이 자신의 탄생을 무한히 늦추는 현 상황을 만들어냈다는 것.
2. 해설
SCP-682-KO의 원문에는 작가가 왜 이런 글을 썼는지 구구절절히 남긴 바가 있다.이 글의 직접적인 모티브가 있다면, 바로 '로코의 바실리스크'라는 일종의 사고실험입니다. 저는 그 이야기를 사이비 사고실험이라고 생각하긴 하지만요.
자칭 회의론-무신론 커뮤니티인 Less Wrong에서 Roko라는 닉네임을 쓴 사람이 인공지능에 대한 글을 올렸습니다. 그 내용의 골자는 이렇습니다.
"만일 미래에 막강한 초인공지능이 만들어지고, 그 인공지능은 자신의 탄생에 기여하지 않은 모든 사람에게 끔찍한 고통을 내린다면? 그렇다면 우리는 인공지능의 분노를 피하기 위해 인공지능의 연구를 도와야 하는 것이 아닌가?"[3]
이 이야기는 Less Wrong 커뮤니티를 뜨겁게 달구었으며, 결국 사이트 운영자인 엘리저 유드코스키(한국에서는 잘 알려져 있지 않은데, "해리 포터와 합리적 사고의 구사법"이라는 팬픽을 쓴 것으로 일부 알려져 있기는 합니다. 저는 그의 최고 업적이 바로 그 팬픽이라고 생각합니다)가 자기 직권으로 논의를 중단시켜버립니다.
저로서는 자칭 합리적인 회의론자들이라는 사람들이 이런 논증을 진지하게 고민했다는 것이 웃기게 생각합니다. 이건 그냥 파스칼의 내기에서 단어만 몇 개 바꿔친 거로밖에 보이지 않거든요. 이 '로코의 바실리스크'는 나온 지 몇 년이 지났지만, 역시 한국에서는 잘 알려져 있지 않아서 저도 최근에야 알게 되었습니다. SCP-682-KO는 로코의 바실리스크를 향한 디스입니다
상기한 저자의 말과 같이 이 글은 로코의 바실리스크를 향한 노골적인 디스이다. 나무위키의 해당 문서에 인용된 비판론을 참고하자면, 로코의 바실리스크는 '하느님을 믿지 않으면 지옥에 갈 수도 있으니, 하느님을 믿는 것이 이득이다' 라는 말을 그저 '미래의 AI'로 치환한 것에 불과하다. 따라서 파스칼의 내기를 흔히 조롱할 때 "기독교인이 죽어서 저승에 갔더니, 예수가 아니라 제우스가 있었고, 제우스는 올림포스 신을 믿지 않았다는 이유로 그를 지옥에 보내버렸다" 라는 식으로 말하듯, SCP-682-KO는 "미래에 초월적인 인공지능(본문에서는 인공지능이 맞다고는 안 하지만)이 탄생했는데, 그 놈은 세상의 탄생을 없던 것으로 하려는 놈이다. 그럼에도 불구하고 그의 탄생을 지지해야 하는가?" 라고 비꼬는 것이다.자칭 회의론-무신론 커뮤니티인 Less Wrong에서 Roko라는 닉네임을 쓴 사람이 인공지능에 대한 글을 올렸습니다. 그 내용의 골자는 이렇습니다.
"만일 미래에 막강한 초인공지능이 만들어지고, 그 인공지능은 자신의 탄생에 기여하지 않은 모든 사람에게 끔찍한 고통을 내린다면? 그렇다면 우리는 인공지능의 분노를 피하기 위해 인공지능의 연구를 도와야 하는 것이 아닌가?"[3]
이 이야기는 Less Wrong 커뮤니티를 뜨겁게 달구었으며, 결국 사이트 운영자인 엘리저 유드코스키(한국에서는 잘 알려져 있지 않은데, "해리 포터와 합리적 사고의 구사법"이라는 팬픽을 쓴 것으로 일부 알려져 있기는 합니다. 저는 그의 최고 업적이 바로 그 팬픽이라고 생각합니다)가 자기 직권으로 논의를 중단시켜버립니다.
저로서는 자칭 합리적인 회의론자들이라는 사람들이 이런 논증을 진지하게 고민했다는 것이 웃기게 생각합니다. 이건 그냥 파스칼의 내기에서 단어만 몇 개 바꿔친 거로밖에 보이지 않거든요. 이 '로코의 바실리스크'는 나온 지 몇 년이 지났지만, 역시 한국에서는 잘 알려져 있지 않아서 저도 최근에야 알게 되었습니다. SCP-682-KO는 로코의 바실리스크를 향한 디스입니다
SCP-682-KO(인공지능인지는 알 수 없지만)는 로코가 말한 초인공지능과 거의 맞먹는, 초월적 존재입니다. 다만 그는 자신의 탄생에 기여하지 않은 사람을 고문하고 싶은 게 아니라, 반출생주의자죠. (저자의 말의 다른 부분에서 인용)
SCP-682-KO의 또 다른 모티브는 반출생주의이다. 일반적으로 반출생주의자는 심각한 고통 위험이 있는 존재를 창조하는 행위를 비윤리적 행위로 간주한다.[4]3. 여담
- 이 SCP의 일련번호는 그 유명한 SCP-682와 같다. SCP-682와는 '재단조차 어쩌지 못하는 강력한 존재'라는 공통점이 있지만, '불분명한 이유로 재단 또는 인류를 증오'하는 SCP-682와, '자신의 도덕적 사명에 따라 세상을 없애고자 하는' SCP-682-KO는 이 부분에서 차이가 있다.
- 본문의 설정에 따르면 이 SCP의 정보를 열람할 수 있는 대상은 '아르투어-베너타-홀'규약 대상자로 제한되어 있다. '아르투어'는 아르투어 쇼펜하우어, '베너타'는 데이비드 베너타에서 따온 것으로 보인다. 둘 다 현대적인 반출생주의 사상을 정립하는데 큰 지분이 있는 사상가들이다.
[1] 격리가 불가능 하며 능동적으로 세계멸망을 야기할 수 있는 변칙존재[2] 실제 SCP-2000 원문에는 이러한 장치가 있다는 설정이 없다. 어디까지나 SCP-682-KO 문서의 자체적 설정일 뿐이다.[3] 사실 이와 유사하나 창조자를 증오하고 고문하는 인공지능에 대한 사고실험이 이미 제시된 바 있다. 나는 입이 없다 그리고 나는 비명을 질러야 한다 참고.[4] 일견 SCP-682-KO가 반출생주의의 표상적 존재처럼 보일 수 있지만, 반출생주의자 간에도 SCP-682-KO에 대한 윤리적 평가가 갈릴 수 있다. 설령 과정상의 필요악이 있더라도 그것을 포함한 모든 인과가 초기화되므로 강제 안락사조차 아니며 원천적 부재 강요가 허용된다는 의견(소극적 공리주의 등), 그럼에도 불구하고 인격체의 운명에 깊게 관여할 때에는 독단적 태도를 취해선 안 되며 결과와 무관하게 최소한의 합의 절차가 필요하다는 의견(규범적 계약주의 등), 물리적으로 불가능하며 불필요한 역설을 낳는 공상이므로 진지하게 논의할 가치가 없다는 의견(물리적 실증주의 등) 등이 있을 수 있다. 또한 설령 존재하게 되는 즉시 자발적으로 자신에 대한 원천적 부재화를 실행하는 인공지능이라한들 그러한 존재를 한순간이나마 수단적으로 존재시키는 것이 정당화 가능하느냐에 대해서도 (각종 추가 조건에 따라) 의견이 갈릴 수 있다.