나무모에 미러 (일반/어두운 화면)
최근 수정 시각 : 2025-03-08 23:40:48

기술적 특이점

특이점이 온다에서 넘어옴
인공지능의 단계
약인공지능 강인공지능
(인공 일반 지능, 인공 의식) 		초인공지능
(인공지능 특이점, 기술적 특이점)
<colbgcolor=#022126><colcolor=#FFFFFF> 기술적 특이점
技術的特異點 | Technological Singularity
분류 미래학
창시자 존 폰 노이만
개념 확립 버너 빈지, 레이 커즈와일
관련 인물 레이 커즈와일, 래리 페이지, 일론 머스크, 닉 보스트롬, 스티븐 호킹, 데미스 허사비스, 샘 올트먼, 제프리 힌튼, 일리야 수츠케버, 미치오 카쿠

1. 개요2. 정의
2.1. 수확 가속의 법칙
3. 예상 과정
3.1. 인공 일반 지능 개발3.2. 지능 폭발 및 초지능 개발
4. 미래5. 특이점주의6. 관련 분야
6.1. 유전공학(G)6.2. 나노기술(N)6.3. 로봇공학·인공지능(R)
7. 과도기8. 예시9. 시사점10. 대중매체11. 관련 문서

[clearfix]

1. 개요

파일:기술적특이점.png
기술의 항구한 가속적 발전으로 인해 인류 역사에는 필연적으로 특이점이 발생할 것이며, 그 후의 인류의 역사는 지금껏 이어져온 것과는 전혀 다른 무언가가 될 것이다.
인공지능을 비롯한 기술들이 매우 발전해 인류가 극적이고 되돌릴 수 없는 변화를 겪게 되는 가설상의 순간.
A hypothetical moment in time when artificial intelligence and other technologies have become so advanced that humanity undergoes a dramatic and irreversible change.
기술적 특이점(技術的特異點, Technological Singularity)은 과학 기술의 항구한 가속적 발전으로 인해 초인공지능이 등장하여, 결과적으로 인공지능이 인간의 지능을 초월하게 되는 시점을 의미한다.

기본 개념은 존 폰 노이만이 제시하였고,[2] 수학자이자 소설가인 버너 빈지가 1983년의 잡지의 기고문과 1993년의 논문 '다가오는 기술적 특이점'을 통해 최초로 그 개념을 정의하였으며, 빌 조이가 2000년의 글 미래에 왜 우리는 필요 없는 존재가 될 것인가을 통해, 레이 커즈와일이 2005년의 저서 '특이점이 온다'를 통해 이 개념을 더욱 구체화하고 대중화하였다.

보통 가장 가능성이 높은 인공지능을 통한 초지능을 기준으로 특이점을 생각하지만, 여러 가지 이설 또한 있어서 기술적 특이점의 개념에 있어서 인공지능이 반드시 필수요소는 아니다. 하지만 특이점을 넘어서는 순간부터 점차 '현생인류'의 힘으로는 기술을 이해하거나 따라잡지 못하게 된다는 것에 대해서는 이설이 없다. 따라서 인간이 기술사학적으로 꾸밈없이 자세하게 추론 가능한 미래의 한계점을 의미하기도 한다.

2. 정의

파일:external/upload.wikimedia.org/Edvac-vonNeumann.jpg
좌측 존 폰 노이만. 우측 줄리어스 로버트 오펜하이머
사람이 기술의 발전을 따라잡을 수 없는 시기로서 특이점이란 단어는 폰 노이만이 처음으로 언급하였으며 정확히는 동료였던 스타니스와프 울람[3]이 1958년 폰 노이만의 사후, 그에 대해 회고하며 쓴 글에서 언급된다. "(그와 나눈) 한 대화는 언제까지고 계속되지는 않을 현 인류의 양상을 넘어서게 할, 점점 다가오고 있는 어떤 필연적인 인류사의 특이점을 출현시킬 항구적으로 가속되고 있는 기술진보 및 그에 따른 인류의 생활상의 변화에 대한 것에 중점을 둔 것이었다."[원문] 이렇게 간략한 언급 정도였던 기술적 특이점은 수학자이자 컴퓨터과학자, SF 소설가인 버너 빈지가 1983년에 쓴 글에서 엄밀한 정의와 함께 현재와 같이 정립된다.

학자마다 기술적 특이점을 어떻게 정의하는지는 약간씩 차이가 있는데, 폰 노이만은 그저 기술의 항구한 가속적 발전으로 인해 인류 역사에 필연적으로 발생할 변곡점이라 정의했고, 버너 빈지는 인공지능을 통한 초지능이 탄생하는 시점이라 정의했다.

커즈와일의 정의에 대해 많은 사람이 빈지의 정의와 헷갈려서 오해하는데, 커즈와일의 정의에 따르면 비생물학적(만들어진) 지능의 총합이 생물학적 지능의 총합을 넘어서는 시점이다. 이게 빈지의 정의와 무엇이 다른가 하면, 빈지의 정의는 단일한 초지능기계를 통해 특이점이 온다고 봤을 가능성이 높지만, 커즈와일은 기술의 분산화를 강조했다. 그에 의하면 나노공학의 발전에 따라 인류의 뇌 속에도 나노봇을 통해 컴퓨터가 들어서게 될 것이고, 인간의 생물학적 지능과 인공지능은 이를 통해 연결될 것이다. 빈지의 견해와 마찬가지로 초지능은 필연적으로 오긴 하나, 이는 단일한 기계가 아닌 세계 곳곳에 분산하는 클라우드 컴퓨팅과 비슷한 것이 될 것이다. 그러니까 인간의 뇌 내부에 있는 비생물학적 지능과 외부에 있는 비생물학적 지능을 모두 포괄하여 이들이 기존의 생물학적 지능의 총합을 넘어서는 시점을 특이점이라고 본 것이다. 트랜스휴머니즘의 요소를 빈지의 특이점 개념에 포함했다고도 볼 수 있다.

유명한 기술사학자이자 평론가인 케빈 켈리(Kevin Kelly) 또한 커즈와일의 기술적 특이점과 관련 있는 개념으로 인간과 기계가 네트워크를 통해 연결되며 탄생하는 행성 규모의 유기체인 홀로스(Holos)라는 개념을 주창한 바 있다. 그는 "나는 이 행성 규모의 층을 홀로스라고 부를 것이다. 홀로스는 모든 기계의 집단행동과 결부된 모든 인간의 집단지능에다가 자연의 지능, 이 전체로부터 출현하는 모든 행동을 포괄한다. 이 전체가 바로 홀로스다. 홀로스는 우리가 살아갈 새로운 플랫폼이다. ... 이 새로운 플랫폼의 대규모 유비쿼터스 상호연결은 처음에는 기존의 자연스러운 확장에 불과한 것처럼 보인다. 이 모든 특성이 꾸준히 증가함에 따라 우리는 어떤 변곡점, 복잡성의 문턱을 통과한다. 변화가 불연속적으로 되어 갑자기 새로운 상태에 놓이게 되는 시점이다. 새로운 표준상태들로 이루어진 다른 세계다."라는 말로 이를 표현했다. 하이브 마인드 개념이 적용된 것이라고 봐도 된다.

2.1. 수확 가속의 법칙

왜 최근에 빌 게이츠, 일론 머스크, 스티븐 호킹 등 많은 유명인들이 인공지능을 경계하라고 호소하는가?

특이점은 기본적으로 수확 가속의 법칙을 바탕으로 한다. 이를 한줄로 요약하면, 기술이 축적됨에 따라 새로운 기술이 등장하는 속도가 점점 빨라진다는 것이다. 다른말로 하면, 기술 발전은 선형적이지 않고 시간에 따라 증가폭이 급격히 커지는 지수함수적인 양상을 띈다는 것이다.

수확가속의 법칙의 개략적인 내용은 다음과 같다. 문명은 이전 세대 문명이 가졌던 아이디어와 돌파구를 '재목적화(repurposing)'하면서 발전한다. 각 세대의 기술은 이와 비슷하게, 이전 세대의 발전을 기반으로 발전의 선순환을 창조한다. 각각의 새로운 세대의 기술은 이전 세대 기술의 어깨 위에 서 있다는 것이 레이 커즈와일의 거대한 아이디어이다. 이러한 방식으로 기술의 발전은 다음 세대의 더 나은 기술을 가능하게 만드는 것이다. 각 세대의 기술은 이전 세대보다 개선되기 때문에 발전의 속도는 갈수록 가속된다. 의자를 생산하기 위해 수동 공구를 사용하는 방식에서 전동 공구를 사용하는 방식으로, 다시 조립라인을 사용하는 방식으로 발전해왔다고 생각해보자. 생산속도는 단계마다 빨라진다. 각 세대에서 사용된 이러한 공구들이 더 나은 공구를 디자인하고 만드는 데 사용된다고 생각해보자. 커즈와일은 컴퓨터 칩 분야의 가속적인 발전이 엔지니어들이 가장 빠른 소프트웨어와 컴퓨터를 가지고 더욱 빠른 컴퓨터 칩을 설계했기 때문이라고 말했다.

일반적으로는 인공지능이 인간의 지능, 정확히는 전인류의 지능을 넘은 시점부터 매우 빠른 속도의 학습과 연쇄적 자체 개량을 통해 지능폭발을 일으키게 되고 결과적으로 기술의 항구한 가속적 발전으로 인해 인류 역사에 필연적으로 발생할 변곡점=초지능이 탄생하는 시점=비생물학적 지능의 총합이 생물학적 지능의 총합을 넘어서는 시점을 특이점이라고 부른다. 이것은 생물학적 진화 속도를 완벽하게 초월하는 것이며, 무어의 법칙을 깨는 속도의 기술발전이다. 한마디로 기술이 기술을 발전시키는 시기.

다시 말해 인공지능의 지적 능력이 인류 최대의 지적 능력을 뛰어넘는 순간이 기술적 특이점의 시발점을 의미하는 것. 일정 수준을 뛰어넘은 인공지능은 인류가 수만 년간 이루어낸 기술 발전이 제자리걸음으로 보일 정도로 폭발적인 수직 성장을 하게 된다. 결국 초지능체에 의해 개발된 기술은 더이상 인류의 지능으로 그 원리를 이해할 수 없고 모방할 수 없는 기술적 복잡성을 지니게 된다. 쉽게 표현하면 침팬지에게 미적분을 이해시키는 것과 비슷하다. 현재와 같이 인간이 기술을 발전시키는 것이 아니라, 기술이 기술을 발전시키고 발전된 기술이 더 발전된 기술을 스스로 만들어내고 더 발전된 기술이 더더욱 발전된 기술을 만들어낸다는 개념이다.

이는 "돈이 돈을 번다"라는 개념과 유사하다. 두 개념 모두 별도의 노력 없이 대량의 축적된 펀더멘털을 이용해 또 다른 유를 창조 내지는 생산한다는 점에서 공통 분모가 있다. 다만 그 돈을 버는 메커니즘이 매우 복잡하므로 어떻게 돈이 벌리는지에 대한 과정이나 원리를 이해하고 규명하는 것은 불가능하고, 단지 돈이 벌리고 있다는 것을 일차원적으로 확인만 할 수 있을 뿐이다.

현재도 딥 러닝 등에 의해서 컴퓨터가 스스로 만든 알고리즘이나 로직을 인간이 이해하는 것은 최고 전문가 수준에서도 대부분 불가능한 수준이다. 현실의 대표적인 예시로 알파고가 바둑을 학습하는 딥러닝 알고리즘을 만든 것은 인간이지만, 알파고가 그 딥러닝으로 스스로 만들어낸 대국을 두는 알고리즘은 인간이 현재 해석할 수 없으며, AI 설계 과정에 있어서 이론적 지식보다도 경험을 쌓아 얻은 직관과 통찰력이 많이 영향을 주는 이유이기도 하다. 단지 알파고가 보내오는 승률 계산 등의 갖가지 통계만을 전달받을 뿐. 이를 조금이라도 극복하기 위해 여러 개발자가 '인간에게 설명하는 인공지능'을 연구하고 있지만, 역설적으로 설명할 수 있는 인공지능은 결코 인공신경망을 통해 만들어진 인공지능의 정의에 부합하지 않게 되기 때문에 기본적으로 인공지능은 작동원리를 이해할 수 없다.

이외에도 커즈와일의 저서 '특이점이 온다'를 보면 질서와 복잡성이란 개념을 통해 더욱더 자세하게 논증을 해놨다.

아서 C. 클라크의 과학 3법칙 중 세 번째인 "충분히 발달한 과학기술은 마법과 구분할 수 없다."라는 말은, 기술적 특이점에 이른 미래 사회에 대한 은유로 해석될 수 있다.[5] 기술적 특이점에 도달한 사회에서, 인간은 첨단 문물의 원리를 이해하기보다는 마법 지팡이 쓰듯 그 효과만을 누리게 될 것이기 때문이다. 이런 모습은 이미 현대의 일반인들이 어떤 버튼을 누르면 어떻게 작동한다는 식으로 기계를 작동시키는 것은 알지만 전자제품들의 정확한 작동 원리를 모르는 것과 같은 맥락이다.

기술적 특이점이 지나버리면 일반인은 물론이고 인류 중 가장 똑똑하고 박학다식한 전문가들조차도 새로운 발명품이 왜 어떻게 작동하는지 모르게 된다는 것이다. 이는 흡사 바둑에서 알파고가 왜 그런 수를 두는지 인간계 최고수도 이해하기 힘들 정도의 상황이 된 것과 비슷하다.

개나 원숭이에게 스마트폰의 작동 원리를 가르칠 수 없는 것처럼, 발전된 기술을 자신에게 적용받지 않은 인간의 경우 어렴풋이 예상하더라도 빗나갈 확률이 높고, 생물학적 한계 때문에 죽었다가 깨어나도 아무런 해설 없이는 재현할 수가 없다![6] 인간으로서 대체 무슨 원리로 뭐가 어떻게 되는지 알 길은 없지만, 그러한 초과학의 혜택은 누릴 수 있을 거라는 점이 포인트. 마치 개가 원자력 발전소에서 나오는 전기로 난방이 되는 집에서 살거나 원숭이가 비행기를 타는 것처럼.

살짝 다르기는 하지만 이미 현대 사회에서는 어느 정도 비슷한 경향이 이루어지고 있다. 컴퓨터의 원리에 대해 전혀 몰라도 컴퓨터는 쓸 수 있으며, 개인의 능력으로는 컴퓨터 한 대에 들어가는 각종 기술 관련 요소들에 대해 개략적 이해는 가능하지만, 전문가가 될 정도로 통달하는 것도 불가능하다. 컴퓨터의 특정 부품, 그나마도 한정된 자신의 전문 분야에 대해서만 전문가가 될 수 있을 뿐이며, 기술이 무섭게 발전하고 분화됨에 따라 개인이 습득할 수 있는 전문 지식의 폭은 점점 좁아지고 있다. 아르키메데스나 레오나르도 다 빈치 같은 전근대 학자들은 수많은 분야에 걸쳐 박학다식한 지식을 보유했지만, 현대의 교수들은 자신의 전공 분야에서 벗어나면 그저 일반인 또는 그 이하 수준의 지식밖에 없는 경우가 많다. 인류의 지식이 발전하면서 각 학문 분야 하나하나의 양과 깊이가 너무나도 거대해졌기 때문에 과거처럼 여러 가지를 동시에 파려 들면 그저 얕은 우물 여러 개를 파게 되는 것에 불과하다. 이건 노골적으로 말해서 인류의 생물학적 사고능력이 이미 다양한 분야를 일정 수준 이상으로 학습하는 데 한계에 달한 지 오래란 것이다. 그것이 박사 학위를 받은 대학 교수 같은 인류에서 가장 똑똑한 축에 드는 개체인데도 말이다.

그 시기는 의견이 분분해서, 2027년[7]~3000년까지 편차가 매우 크며 아예 불가능하다고 보는 견해마저 있다. 특이점 이론을 주장하는 이들 중에서 가장 정확한 예측을 하는 인공지능 분야의 전문가이자 미래학자인 레이 커즈와일의 견해가 가장 잘 알려졌는데, 그는 2045년 전후로 인공지능이 인류 전체의 지능을 초월하면서 특이점이 도래할 것이라고 주장한다. 커즈와일 본인의 말에 따르면 그때는 90대가 될 자신도 기술의 효과를 누릴 것이라고 한다.

파일:external/img.timeinc.net/singularity_graphic.jpg

3. 예상 과정

세부 내용에는 차이가 있지만, 가장 널리 알려지고 널리 받아들여지는 시나리오는 '인공 일반 지능 개발 - 재귀 개선으로 인한 지능 폭발 - 초지능 등장 및 특이점 도래'의 순서를 거치는 것이다.

3.1. 인공 일반 지능 개발

AGI의 개발은 특이점의 도래 과정에서 가장 중요한 변곡점으로 꼽힌다. 인간이 할 수 있는 모든 지적 활동을 전부 대체할 수 있으며, 여기에는 인공지능을 개발하는 것까지도 포함되기 때문이다. AGI가 개발되어 널리 보급된다면 인간의 경제 및 사회 전반에 막대한 파급이 있을 것으로 예상된다.

AGI가 개발되는 시기는 학자 및 업계 관련자마다 의견 차가 있다. 2029년에 개발될 것이라는 커즈와일의 견해가 잘 알려져있으며, GPT-3의 등장 이후로 AI의 개발이 급격하게 가속되며 커즈와일보다 앞당겨 생각하는 의견도 많이 생겼다.

3.2. 지능 폭발 및 초지능 개발

지능 폭발은 인공지능 특이점의 핵심 개념으로, 인공지능이 재귀개선을 통해 스스로의 지능을 계속해서 향상시키며 초지능에 이르는 것을 의미한다. 인간 수준의 인공지능이 개발 된다면, 이 인공지능은 자기 자신의 알고리즘을 최적화하는 일 역시 할 수 있을 것이며, 최적화를 통해 더 높은 지능을 얻게되어 더 빠르게 자기 자신의 지능을 높여가는 과정이 계속 반복되다보면 초지능에 도달할 것이라는 이야기이다.

닉 보스트롬은 이를 '이륙(takeoff)'라 표현했으며, 수십 년이나 수백 년에 걸쳐 일어나는 느린 이륙, 몇 분, 몇 시간, 또는 며칠 만에 일어나는 빠른 이륙, 몇 달, 몇 년만에 일어나는 중간 속도 이륙으로 나눴는데, 그는 현실에서 빠른 이륙이 가장 가능성이 높다고 보았다. 즉 AGI의 개발 직후 특이점이 도래할 것이라는 의미.

4. 미래

인간급의 지능으로 스스로 생각할 수 있는 인공지능 기술이 개발되지 않은 현재는 컴퓨터를 인간이 직접 설계하지만, 인공지능의 수준이 인간급으로 발전되면, 인공지능 스스로 컴퓨터를 설계하는 것이 가능하며 더 나아가 인공지능 자신이 그 자신보다 더더욱 뛰어난 인공지능을 개발하는 것이 가능해진다. 그러면 인공지능에 의해 발전된 인공지능이 더 우수한 지적 능력으로 더 우수한 시스템을 구성하고 이 사이클이 반복되면 발전 속도는 기하급수로 상승할 것이다.

게다가 인간은 뇌에 기반하는 생물 구조적 한계상 처리 능력을 강화하는 게 어렵고 사실상 복제도 불가능하지만, 인공지능은 그 구조상 복제 및 확장, 기능 업그레이드가 매우 손쉽다. 따라서 이렇게 발전된 기술이 다음 기술을 발전시키는 데 사용되며 이게 누적될수록 점점 더 기술의 발전은 빨라져서 결국 기술발전의 그래프는 수직에 가깝게 그려질 것이며 이 시점이 바로 특이점이라는 이야기. 이해가 안 된다면 인류사에서 바퀴, 종이, 문자, 인쇄술, 증기기관, 내연기관, 계산기, 컴퓨터, 스마트폰의 발명 전후 모습을 비교해보면 쉽다. 컴퓨터의 등장 이후 몇십 년 만에 엄청난 발전이 이루어졌는데, 스마트폰의 발명은 수년 만에 인간의 삶을 윤택하고 편리하게 바꾸어 놓았다.

특이점이 오면 현생인류는 야생상태의 멸종위기 동물처럼 절대다수가 도태되고 '소수만 보존'되는 것이 아닌가 하는 의문을 가질 수 있다. 이에 대해 커즈와일은 낙관적이다. 인간의 존엄 및 인간성 역시 미래 세계에서도 유지될 것이라는 주장을 했기 때문이다. 즉, 원하기만 하면 얼마든지 개조가 가해지지 않은 순수한 현생인류인 채로 인간적인 대우를 받으면서 살 수 있을 것이다. 물론 커즈와일이 마냥 낙관적인 것은 아니며, 오히려 기술 경계론자 중 하나인 자신이 왜 그저 무조건 낙관주의자인 것처럼 매체에서 표현되는지에 대해 의아함을 나타냈다. 그의 저서를 제대로 읽어보면 알겠지만, 그는 기술 발전에 따른 위험도 또한 기하급수적으로 증가할 것이기에 미리부터 가이드라인 및 제도를 만들어야 한다고 주장했다. 그가 낙관적으로 생각하는 부분은 지금까지 인류가 불완전하나마 해내 왔던 것처럼 새로운 기술을 통제할 수 있는 가이드라인 및 제도 또한 마련 가능하다는 것이다. 예컨대 문제가 되는 건 경계하라는 지적을 받아들여 바람직하게 진행하는 것이 아니라, 저자의 희망찬 전망을 부풀리고 우리가 어떻든 반드시 이렇게 될 것이다 하고 안심하라는 사람들의 존재 그 자체이다. 이런 자들은 저자의 평판을 오히려 떨어트릴 수밖에 없으며, 아직 채 완전히 알려지지 않았거나 심각하게 생각하지 않던 문제를 포함한 다른 문제들이 잠복하는 것을 돕게 된다.

사피엔스의 저자로 유명한 유발 하라리 예루살렘 히브리대 역사학 교수 또한 마찬가지로 단순한 인공지능의 인류 지배 같은 경쟁적 개념이 아니라 오히려 인간과 기계의 '결혼'에 대해 이야기해야 한다고 내다봤다. 여기서 말하는 결혼은 기계를 인격체로 만들어서 동등하게 대하겠다는 의미가 아니라 결합이라는 의미다.

여태껏 '기계를 인격체로 만든다'라는 개념이 기술적으로 정확하게 정의된 적 없다. 왜냐하면 아직 우리는 인간이 인격을 갖게 해주는 것이 대체 무엇인가에 대해 알지 못하기 때문이다. 따라서 기본적으로는 생물학적으로 인간이기만 하면 인격을 가진 인격체라고 여기고 자연 인권을 갖게 되긴 하지만 알다시피 같은 인간이라도 해도 정신에 문제가 있거나 나이가 일정 이상이 아니거나 하면 인간으로서의 온전한 법적 권리를 완전히 행사할 수가 없다. 즉, 같은 인간이라고 해도 인간 사이의 편차가 분명히 존재하기 때문에 실정법은 구분을 두고 있다. 하지만 누구나 경험적으로 알다시피 성인이라고 해도 미성년자보다 지능이 낮으며 도덕적으로 낮은 수준을 가진 사람들은 얼마든지 있다. 정신병자라고 해도 특정 분야에 대해서만 유독 높은 지능을 보이는 사람 또한 있다. 게다가 인간성 중 한 갈래로 표현되는 '양심'을 가졌는지 의심스러운 범죄자들 또한 있다. 사회관에 얼추 들어맞기 때문에 '정신적으로 문제가 없으며, 신체적으로 성년에 다다랐다는 것'을 온전한 인간=성인이라는 것의 제한된 개념으로 사용할 뿐이다. 결국 기계 또한 인격의 소유 및 그에 따른 인권 소유 여부를 인정하느냐 아니냐가 큰 문제가 될 것이다. 게다가 기계는 개미 수준의 지능부터 침팬지 수준은 되는 것, 더불어 특정 분야에서만 지적 능력을 갖춘 기계까지 지능 자체가 천차만별일 것이다. 이러한 '비생물학적 지능의 인권 소유 여부 문제'에 대해 커즈와일은 자신의 저서에서 이를 '의식의 문제'라고 표현하며 논증을 벌였다. 특히 마음의 탄생에서는 전권을 할애하여 논증하였다.

이에 대해 간략하게 말하자면 결정적인 문제는 아직 우리가 '의식'과 '지능'이라는 것을 완전하게 알고 있지 못하기 때문에 인간에 버금가거나 으뜸인 '지성체'를 구분할 방법이란 무엇인가 또한 알지 못하고 기술적 관점에서만 따지자면 그에 대한 기준과 대책을 마련하는 것 자체가 힘들다는 것이다. 아예 인간이라는 틀 안에서 제한을 걸어 놓으면 모를까… 어떻게든 안심할 수 없다. 만약 인간보다 뛰어나면서 특정 인간 부류를 혐오하거나, 주도권을 갖추고 자기 성격이 강하면서 지나치게 인간에 친밀한, 인외격의 존재가 만들어진다면 심각한 문제가 일어날 것이다. 안전하지 않은, 종 차원의 경쟁이 일어나 인간이 처참히 지거나, 주도권을 잃고 질질 끌려가는 식으로 가축화될 수 있으므로, 논리적으로 어긋나는 실정이더라도 빈틈 하나 없이 틀어막아야 한다. 종과 인류를 지키며 주권을 잡기 위해서는 각 인간이 모두 신성화되고, 신성시되어야 한다. 결코, 보편화된 방법으로는 제어할 수 없는 수준의 재앙이 강림하게 될 위협이 닥친다면 인류 전체가 나서서 그것을 없애야 한다는 것이다. 이런 면에서 어느 정도 자유는 제한될 것이지만, 그렇게 제한이 걸리는 것이야 지금도 익숙하고 흔하다.

덧붙여 위의 비생물학적 지능의 위협과 그 대처 방안에 대해 커즈와일은 저서 특이점이 온다의 '제8장 뗄 수 없게 얽힌 GNR의 희망과 위험' 중 'GNR 방어 전략' 파트에서 아래와 같이 언급하였다.
...위의 방법들로도 병원체적 로봇공학(강력한 AI)을 다룰 수는 없을 것이다. 로봇공학 분야에서 취할 수 있는 최고의 전략은 미래의 비생물학적 지능이 자유, 관용, 지식과 다양성에 대한 존중 등 인간적 가치들을 최대한 따르게 하는 것이다. 그것을 이루는 최고의 방법은 현재 그리고 미래의 우리 사회에서 그 가치들을 극대화하도록 노력하는 것이다. 모호한 얘기로 들리겠지만 사실이다. 이 분야에서는 순전히 기술적인 해법은 없다. 강력한 지능은 덜 강력한 지능이 만든 것은 무엇이든 수월하게 뛰어넘을 수 있기 때문이다. 우리 손에서 탄생하는 비생물학적 지능은 이미 우리 사회에 침투하고 있으며 앞으로도 침투할 테고, 우리의 가치를 반영할 것이다. 비생물학적 지능은 생물학적 지능에 깊이 스며들어 생물학을 재편하는 단계로 나아갈 것이다. 인류의 능력은 매우 확장될 것이고, 굉장히 지적인 이 힘을 어떻게 이용하느냐 하는 것은 전적으로 힘을 만들어낸 자들이 어떤 가치를 따르느냐에 달렸다. 생물학을 재편하는 시대는 생물학을 초월하는 시대로 나아갈 것이다. 우리는 그때조차 인류의 가치들이 보전되길 바란다. 위의 전략은 확실한 것은 아니다. 하지만 현재 우리가 미래의 강력한 AI에 조금이라도 영향을 미칠 수 있는 유일한 방법이다.
기술은 영원히 양날의 칼로 남을 것이다. 인류가 다양한 목적으로 사용할 수 있는 막대한 능력일 뿐이다. GNR은 질병과 가난 같은 인류 고래의 문제들을 극복하게 해주겠지만, 파괴적 이상에 기여할 수도 있다. 우리는 급변하는 기술을 인류의 소중한 가치들을 진작하는 데 사용하면서 한편으로 방어 능력을 키워가는 수밖에 없다. 인류의 소중한 가치들이라는 것이 무엇인가에 대해서는 안타깝게도 확실한 합의가 없지만 말이다.

종합해보면 커즈와일은 미래의 비생물학적 지능이 인간적 가치들을 최대한 따르게 하는 것이 현재 인류가 할 수 있는 최선의 전략이라 했는데, 아마 최신 시점마다 가장 강력한 비생물학적 지능(들)이 재귀적으로 끊임없이 위협에 대한 규제를 설계해 나가는 것을 유일한 대처 방안으로 본 듯하다. 커즈와일 자신도 '기술은 영원히 양날의 칼로 남을 것'이라고 언급했다시피 실제로 이는 완전한 해법이 될 수 없다. 따라서 위 문단에서 '위협을 없앨 방법은 오로지 비생물학적 지능을 민주적이고 선하게 만드는 것뿐이다'라고 언급한 건 틀렸다. 이는 위협을 없앨 수 있는 방법이 아니라 그저 위협을 감소시키는(그마저도 얼마나 되는지 불분명한) 대처 방안에 불과할 뿐이다.[12] 그리고 현시점에서도 많은 근대국가가 삼권분립과 정당, 언론, 집회와 결사의 자유 등을 통해 지능과 권력을 분산하여 이중삼중으로 규제해놓았다는 것에서 알 수 있다시피 만약 비생물학적 지능이 규제를 설계하게 된다고 해도 단일한 개체성을 지닌 비생물학적 지능이 자신을 스스로 규제하는 법률을 만드는 것과 같은 모습은 아닐 것이다. 애초에 이것(이것들?)은 하나이면서도 동시에 여러 개체로도 있을 수 있는 기이한 존재이므로 규제 시스템 또한 현시점의 우리로서는 예측하기 어려운 아주 이상한 형태가 될 듯하다.

또한 이전에 쿠르트 괴델의 불완전성 정리를 예시로 들어 모든 논리체계에는 언제나 허점이 있으며, 따라서 모든 지능은 그보다 약한 지능이 구성한 논리체계를 언제나 논파할 수 있다고 설명하였는데, 이는 불완전성 정리에 대한 잘못된 이해의 예시이다. 불완전성의 정리는 페아노 공리를 포함하는 공리계가 완전성과 무모순성을 동시에 확보할 수 없다는 주장이며 따라서 페아노 공리를 포함하지 않는 공리계의 경우 성립하지 않는다. 실제로 페아노 공리계의 일부를 배제한 공리계 중 완전성과 무모순성이 동시에 성립하는 것이 있다. 아울러 '완전하다'와 '무모순이다'라는 말 역시 논리학적 의미에서 엄밀히 규정된 것이며, 무모순성을 증명할 수 없다는 것은 해당 공리계가 모순을 포함한다는 것을 함축하지 않는다.

하지만 주된 개선의 대상일 뇌가 무모순성을 내재한다고 확신하기 어렵다. 예컨대 귀류법을 통해 자기 자신을 포함하는 임의 프로그램의 무한루프를 검사할 수 있는 프로그램은 모순을 만든다는 점을 쉽게 보일 수 있는데 그렇다면 AI가 자신을 스스로 발전시킬 때 무한루프로 멈춰버리는 결함품을 만들지 않으리라 보장할 방법이 없게 된다. 정 흠결이 없으면 (이전에 프로그램이나 기계에게 그랬듯이) 물리적/사회적으로 주물러서 만들어 놓을지도 모르는 노릇이고, 그 외에도 사회에 일어나는 큰 전환점과 반향이 억제되더라도 흐름 자체가 항상 최선인 적은 없었기 때문에 문제가 생겨날 위험성은 아주 높다.

5. 특이점주의

파일:상세 내용 아이콘.svg   자세한 내용은 특이점주의 문서
를
의 번 문단을
의 부분을
참고하십시오.

6. 관련 분야

3대 특이점 기술 GNR
G 유전공학(Genetics) N 나노로봇(Nanorobotics) R 로봇공학(Robotics)

6.1. 유전공학(G)

뇌공학의 발전은 컴퓨터에 뒤처질 인간의 지능을 보조할 것이고, 유전공학의 발전은 인간의 육체를 기술의 발전에 맞춰 신체적 한계를 극복할 수 있을 것이다. 특히 뇌공학의 발전은 인간지능에 대한 이해를 위해 필요하므로 위에서 서술한 완벽한 인공지능을 구현하는 데도 필요하여, 인공지능과 상호보완적으로 발전할 것이다.

커즈와일은 이미 노화에 대한 이해와 연구는 충분히 진행되었다고 본다. 이미 장년인 본인도 그런 지식을 잘 활용하면 생명공학 혁명이 충분히 진행될 수 있을 때까지 살 수 있다며, 현재 하루에 150알의 알약을 먹고 매주 5~6가지의 정맥주사를 맞고 있다고 한다.

2022년 기준 그의 나이는 74세이며, 그가 주장하는 특이점이 오는 시기인 2045년에 97세가 된다. 단순 수명으로 보면 아슬아슬할지도 모르지만, 본인은 도중에 발전하는 의학 기술을 계속 활용해서 다리를 놓고 다리를 또 놓는 식으로 본인 세대도 충분히 특이점이 오는 연대까지 수명을 연장할 수 있다고 주장한다. 예를 들어, 암에 걸렸으면 치료제가 만들어질 때까지 항암치료만을 계속하고, 팔이 잘렸으면 진짜 팔을 만들 기술이 생길 때까지 염증 치료를 계속하는 식이다. 언젠가 기술의 발전이 자신을 치료해줄 수 있을 것이라는 확실한 믿음이 있기에 가능한 일.

2000년대 후반~2010년대 초면 실험용 쥐의 노화를 되돌리는 수준에도 도달할 수 있을 거라고 예견했고 실제로 성공했다. 회춘 항목을 참조하자. 아직은 인간에게 적용하기엔 극복해야 할 벽이 많지만, 후속 연구가 계속 진행되면 인간에게도 적용할 수 있을 것이다.

첨단 의학 기술로써 RNA가 작동하는데 중간에 간섭하는 기술, 개인의 세포를 배양하여 몸에 이식하는 기술, 이미 있는 세포의 DNA를 바꿔치기하는 기술 등도 소개한다. 커즈와일은 2013년 인터뷰에서 10년 안에 심장 질환과 암에 관한 연구가 거의 끝나고, 20년 안에 인류는 모든 질병을 극복할 수 있을 것이며, 2045년이 되면 인간이 죽지 않고 영원히 살 수 있다고 주장했다.

복제인간이나 인조인간은 그다지 큰 위협이 되지는 않을 것이라고 봤다. 법적, 윤리적 장벽도 있겠지만 무엇보다 위에서 서술한 기술들을 이용하면 굳이 인간을 복제하거나 인간의 유전자를 조작한 아기를 만들 필요가 없기 때문이라고. 이미 천연, 인공의 복제인간은 주변에 널렸다.

유전공학 말고도, 아예 세포 구성단위에서 기전을 조작하고 물질을 갈아치우게 된다면 성능을 개선하기도 쉽고 형태 면에서도 훨씬 더 선택 폭이 클 것이다.

2030년 정도만 되더라도 이미 대뇌피질을 나노기계로 업그레이드 할 수 있는 수준에 과학이 다다르면, 인간이라는 종에 대한 개념이 완전히 달라지는 것을 넘을지도 모른다. 커즈와일은 종이라는 개념 자체가 순수한 생물학적 개념인데, 특이점이 불러올 변화들은 생물학 자체를 초월하는 것으로 이는 생물학적 진화의 마지막 단계가 아니라 생물학적 진화를 통째로 딛고 올라서는 단계라고 주장한다.[13]

현재 (2020년 이전 기준)의 일반인의 인간에 대한 정의는 현재의 스마트폰을 이용하는 것처럼 기계와 사람을 이원화하는 하는 개념에 안착해 있다. 하지만 2030~2040년대에 수술 혹은 나노기술로 대뇌 기능을 강화할 수 있게 된다면 이러한 기준은 딜레마에 빠지게 된다.

간단하게 뇌의 기능의 10% 정도를 기계적인 방법으로 강화한다면 현세대의 기준으로는 그것은 (의수나 의족을 사용한 것처럼) 인간으로 볼 수 있겠지만, 어느 시점에서 원래 뇌 기능보다 강화한 뇌의 기능이 더 커진다면 테세우스의 배와 같은 딜레마가 생길 수 있다. 뇌 기능을 강화한 내가 지금의 나와 같은 사람으로 볼 수 있느냐는 것. 다만 이는 철학적인 문제이지 현실적으로 문제가 되지는 않는다. 보험업 등 몇몇 분야에서는 지급기준 산정 문제가 불거질 수 있으나 일반적인 환경에서 테세우스의 배 문제는 큰 어려움을 일으키지 않는다.

결국 지금 세대의 인류에게는 인간에게 자연적인 부분 보다 인공적인 부분이 많다는 것은 낯선 개념이지만, 연속적인 변화로 인해 자연스럽게 받아들이게 되리라는 것이다. 물론 사람에 대해서는 아직 연구가 많이 필요하니 일단 컴퓨터를 기준으로 봤을 때 연속적이든 비연속적이든 구성 부분을 교체하면 교체한 다른 개체에 속하게 된다는 것은 의심할 여지가 없는 사실이다.

또는, 인간의 정신 내지는 자의식, 자아라는 것이 물질적, 물리적으로 존재하는 무언가가 아닌 개념적인 그 무언가일 수도 있다. 컴퓨터의 소프트웨어처럼. 소프트웨어는 이 세계에 물리적으로 존재하는 것이 아니다. 단순히 0000111000.. 으로 나열된 숫자들에 규칙과 논리를 부여하여 호환되는(==해당 규칙과 논리를 사용하는) 하드웨어에서 구동하면 기능을 하도록 추상적으로 의미를 부여한 것이다. 소프트웨어는 하드디스크에 존재하지 않느냐고? "물리적으로" 존재하지 않는다. 단순히 하드디스크의 자기 원판의 2가지 스핀 상태를 각각 0과 1에 대응한다고 약속(규격 정의)하고 동작할 뿐이다. SSD라면 전자의 전위 수준을 역치에 따라 각각 0, 1로 대응시켜 약속한 것일 뿐이다. 소프트웨어를 구성하는 "0000111000"은 세계 어디에도 존재하지 않는다. 하드디스크를 SSD로 대체하면 동작 원리와 대응 수단은 완전히 달라지지만, 같은 약속(규격)대로 동작한다면 그 약속(규격)을 이용하여 추상적으로 프로그램한 데이터들은 대체된 하드웨어에서 원본 그대로 잘 작동할 것이다. 그리고 그 데이터는 원본이 맞다. 특정 약속(규격)하에서는 "같은 의미"를 가지고 있는 숫자들이니까. 즉, 컴퓨터 프로그램, 소프트웨어란 실재하는 게 아닌, 개념적일 뿐이다.

뇌의 경우에는 뉴런이 연결된 형태에 따라 저장을 한다고 하는데, 만약 사람의 정신이란 게 소프트웨어처럼 개념적이라면, 뇌가 사용하는 규격(어떤 뉴런이 어떻게 연결되어 있으면 어떤 상태를 나타낸다)에 맞는 컴퓨터 시스템과 연결 인터페이스를 만들 수 있다면, 단순히 다른 수단을 통해 약속된 상태의 데이터를 처리, 입출력(듣기, 말하기 등)하는 것뿐이지, 정신, 자아, 또는 의식 그 자체는 변하지 않는다는 논리가 성립한다.

쉽게 생각해서, 컴퓨터에 하드디스크에 윈도우와 데이터(엑셀, 워드, 사진 등)가 깔려 있는데, 그 윈도우를 SSD로 이동시킨 다음 SSD로 부팅한다고 해서 윈도우와 데이터가 변화된 것은 아니잖은가? 마찬가지로 인간의 정신과 기억도 추상적이고 개념적인 그 무언가라면, 뇌를 컴퓨터로 바꾼다고 해도 원본 데이터가 파괴되진 않는다는 것이다.

그렇다면 왜 지금은 뇌가 기능을 정지하면 그 사람의 의식과 정신은 소멸한 것으로 생각하는가? 당연하다. 그 개념적인 것을 다른 하드웨어(타인의 뇌, 컴퓨터 등)에 옮기거나 복사할 기술도 없고, 뇌를 대체할 하드웨어도 없고, 심지어는 어떤 약속(규격)하에 구동되는지도 모르기 때문이다. 컴퓨터로 치면, 지금 당장 프로그램이 동작하고 있는 기존의 하드웨어를 제외하면 HDD, SSD 등 그 어떠한 대체 가능한 하드웨어도 만들 기술이 없고, 연결 케이블 등을 만들 기술도 없으며, 데이터 이동 또는 복사 기능을 구현할 기술도 없고, 기계어나 어셈블리어에 대한 개념도 모르는 상태라고 보면 된다. 당연히 이런 환경에서라면 해당 원본 소프트웨어가 구동되고 있는 컴퓨터(=물리적인 사람의 신체)가 망가진다면, 해당 소프트웨어(=그 사람의 정신, 의식)도 소멸했다고 생각할 것이다.

더군다나 사람의 의식-정신은 정신 활동의 '연속성'에서 비롯된다. 데이터나 뇌구조만 옮긴다고 내가 되는 게 아니라는 말이다. 내 뇌의 일부분을 기계로 대체한다고 하더라도 그 과정에서 연속성이 깨지지 않는다면 나는 소멸하지 않고 나로 계속 남는다. 하지만 그 과정에서 연속성이 깨지면 나라는 주체에 영향을 받는다. 연속성이 사라진다면 나라는 의식-정신은 소멸하고, 연속성이 기계와 이어지지 않는다면 기계와 나는 서로 다른 존재가 된다.

결론적으로 인간이라는 종 자체를 현세대 기준처럼 기계적인 개조나 인위적인 수명 조작이 없는 개체라고 정의한다면, 그 기준으로써의 인간은 `자발적으로 신속하게` 멸종하리라는 것이다. 인간 뇌를 강화하거나 몸을 변화시키는 것이 현재의 노트북이냐 데스크톱이냐 선택하는 것과 같은 관념이 될 것이라는 건 이런 의미라고 할 수 있다.

스스로 인간이길 포기한 개체는 자연스레 자신을 업그레이드해서 인간이 아닌 그 무언가 (훨씬 지적이며, 이해심이 높고, 감정적으로도 안정되며, 이해력 있고, 합리적이며, 더 많은 것들을 다중작업 할 수 있는 개체)가 되어 있을 것이기 때문이다.

상온핵융합이 개발되어 상용화되거나 태양전지의 효율이 극적으로 좋아져 전기요금을 내지 않아도 되며(에너지 추출 비용 및 한계 문제 해방), 유기체의 몸을 버리고 개조 가능한 기계식 혹은 나노머신이 관리하는 유기체 몸을 선택했기 때문에 음식을 먹지 않아도 되겠지만, 특이점이 가까워진 그 시간에도 지적 가치를 통틀어 자본주의 체제는 존속할 것이고 그 경쟁 속에서 살아남기 위해서 혹은 더 나은 인생 경험을 위해서 기존의 인간들은 인간이길 포기하고 초월체가 될 가능성이 크다는 견해도 있다.

하지만 이런 견해는, 인간 자체가 무조건 생존과 자본축적을 위해서만 움직인다고 생각하는 것에서 비롯된다. 그러나 인간은 그렇게 단순한 존재가 아니며 다양한 가치관을 가졌고, 굳이 돈을 위해서만이 아닌 자아실현의 욕구에 의해서도 움직인다는 것을 잊어서는 안 된다. 인간이 생존 문제의 멍에에서 벗어난다고 나태해지는 것만도 아니며, 그 이후에는 인간이 스스로 하고 싶은 것을 선택해서 그것을 이루고 쾌감을 얻기 위해 움직일 것이다. 인간이 기계나 유전공학을 통한 자기 자신을 확장하는 문제는 단순히 생각할 문제도 아니고, 그러한 것에 대한 거부감도 존재하기에 개인 선택이 될 가능성이 크다.

전기적 동력원을 제외한 어떠한 것도 필요 없이 영원히 생존할 수 있고, 죽음과 노화를 극복할 수 있고, 인간의 한계가 가져온 인생의 고달픔을 영원히 벗어나 새로운 세상의 재미와 재미를 위한 목적만으로도 움직일 수 있는 삶에 거부감을 느낄 만한 사람은 별로 없을 것이다. 그리고 이 기술이 돈을 받고 상용화된다면, 대기업들은 구매 욕구를 소비자들에게 주입하는 데 거의 완벽하게 성공할 것이다.

물론, 앞서 서술에 따라, 애초에 생산력이 한정된 상황에서, 생산 극대화를 의의로 하는 자본주의가 무의미해지게 된다면, 바로 이러한 인간 업그레이드 키트랄 수 있는 것들은 인간이 인간으로서 만들고 시장에서 판매하는 최후의 상품이 될 수도 있다. 결국 유토피아도 디스토피아도 아니지만, 중세시대와 현대의 일반적인 삶을 영위하기 위한 엄청난 노력의 격차 등을 생각해 봤을 때, 기술의 혜택으로 인해 삶의 안정성이 상대적으로 훨씬 보장된다는 의미이다.

6.2. 나노기술(N)

나노 단위의 조종은 인간지능만으로는 불가능하고 반드시 인공지능의 제어가 필요하다. 수만, 수천 억 개의 나노봇들의 상호작용을 유기적고 유동적으로 통제하려면 인간이 스위치를 누르는 것만으로는 부족하다. 인공지능이 하나하나 혹은 소형으로 그룹화를 해서라도 일일이 통제해야 가능하다. 동시에 논리회로의 집적도를 높여 인공지능을 구현하는 데에도 필요하다. 또 유전공학의 발전도 나노 단위의 이해가 필요하기에 상호보완적으로 발전할 것이다.

커즈와일은 10년마다 기계 부품의 크기가 1/4로 줄어들었다며, 2020년 무렵에는 대부분의 기계 기술이 나노 기술의 영역에 들어설 것이라고 예견했다. CPU의 집적도를 생각해보자.

2020년대 중반이면 나노기술이 일상적으로 활용되어 대표적으로 의학 용도로 다양하게 활용될 수 있다고 봤다. 이를테면 병원균을 제거하거나, 몸 내부 콜레스테롤이나 노폐물을 제거하거나, 병을 조기 탐지한다든지. 간략하게 써서 체감이 안 될지도 모르지만, 이 정도만으로도 병원에 갈 일이 90% 이상 줄고 노폐물을 제거하는 성능이 충분하면 콩팥이 필요 없다. 보통 이 정도 혁신의 기술이면, 상용화되는 시점에 앞서 길어도 10년여 즈음에 개념 입증이 완성된다. 하지만 아직 그럴듯한 소식은 없다.

항생제의 남용 등으로 인해 출현한 내성이 생긴 슈퍼 박테리아 신종 바이러스 등의 전 세계적인 확산으로 인해 이미 머지않은 미래에 많은 항생제가 무용지물이 될 가능성이 크다고 한다.

커즈와일은 나노봇을 인체에 좀 더 적극적으로 활용하는 방안을 제안했는데, 나노봇의 성능이 충분하고 스스로 움직일 수 있다면, 몸의 적혈구를 전부 나노봇으로 갈아버리면 폐와 심장이 필요 없어지며, 호르몬 등의 합성도 나노봇에 맡기면 각종 분비샘이 필요 없어진다는 것이다. 이 정도면 이미 생물학적 인간의 범주를 벗어났다. 다만 나노머신이 생물학적 무기나 테러로 이용될 경우, 오히려 이러한 악성나노봇은 악성 병원균과 흡사하게 인체를 파괴할 수 있는 능력을 지니고 있어서 이런 상태에서 악성나노봇을 몸에서 전부 강제로 배출하거나 파괴 및 제거할 방법이 존재하는가 등에 대한 문제점도 존재한다. 일단 EMP를 사용하면 전부 정지시킬 수는 있겠지만 이러면 인공심장 이식자는 전부 죽어버린다는 단점도 존재.

또한 두뇌에 나노봇을 투입하여 기존 인간의 생물학적 지능에 비생물학적 지능을 추가할 수 있다고 한다. 커즈와일에 따르면, 생물학적 지능의 향상은 매우 느리고(자연적 진화) 물리적인 한계(두개골의 용적) 때문에 폭발적으로 증가하는 비생물학적 지능을 따라잡지 못할 것이다. 따라서 2040년대에 이르면 두뇌의 대부분은 비생물학적 지능이 우위가 되어있을 것이다.

2030년대 초반이 되면 심장, 폐, 적혈구와 백혈구, 혈소판, 췌장, 갑상샘 및 모든 호르몬 분비 기관들, 신장, 방광, 간, 식도, 위, 소장, 대장이 죄다 필요 없어지고, 남는 것은 골격, 피부, 근육, 피하조직, 생식기, 감각 기관, 입과 식도 윗부분, 뇌라고 한다. 이를 버전 2.0 인체라고 한다.

2040년대에 이르면 버전 3.0 인체가 탄생하게 되는데, 버전 3.0 인체의 특징 중 하나로 꼽는 것은 쉽게 신체를 바꿀 수 있다는 것이다. 분자나노 조립기술을 사용하여 육체조차도 순식간에 바꿀 수 있게 된다.

기존 인간의 관점으로 본다면 신체의 장기를 들어내고 이리저리 개조하는 것이 기괴하고 무섭게 보일 수 있다. 예를 들자면 수준 높은 보호를 받기 위해 신경계를 격리시설에 넣어서 보호하고 몸은 따로 만들어 움직인다든지. 하지만 커즈와일은 이는 상대적인 것으로 그 시점에서는 매우 당연한 것처럼 받아들여질 것이라고 한다. 맞는 말이긴 한 게, 현 인류는 과거 인류가 보면 문화충격을 온몸으로 느끼며 경악을 금치 못할 짓거리들을 서슴지 않고 저지르는데도 별다른 거부감을 드러내지 않으며, 인간은 적응의 동물이라는 말도 있는데 하물며 자신들이 이룩한 것에 적응하지 못할 리가. 물론 한계는 있겠지만, 최악의 상황을 피해 안전해진다면야 지금의 인식과는 꽤 다를 것이 분명하다. 예를 들자면 턱뼈에 임플란트를 식립한다거나 칼로 안구를 짼다거나 하는 행위를 우리는 아무렇지 않게 받아들이고 있지만, 만약 200년, 300년 전의 사람들이 그 모습들을 본다면 상당한 문화충격을 받을 것이 분명하다. 이때 우리는 과거의 사람들이 받는 문화충격을 이해하기는 하지만 그렇다고 해서 현재 우리의 저런 행위들에 대해 기괴함이나 경악스러움을 격렬하게 공유하여 느끼지는 못할 것이며, 이것이 그대로 현재의 우리와 미래의 그들의 인식이 된다고 보면 된다.

에너지 기술에 나노 기술이 적용되면 신재생 에너지의 효율성을 높일 수 있어 2020년대에는 에너지 사용 능력이 비약적으로 상승할 거라고 한다. 나노기술로 생산된 태양열 패널과 연료전지로 인해 에너지 생산과 저장의 분산화가 이루어지기 때문에 발전소나 연료 저장 시설이 사라지고 이로 인한 각종 위협과 환경 문제가 사라질 것이다.

약학 분야에서는 이미 1990년대 후반 ~ 2000년대 초반부터 나노기술이 주목되기 시작하여 현재는 많은 기술적 발전이 구체적인 성과로 나타나기 시작했다. 가장 기초적인 나노기술인 나노 크기의 운반체에 약물을 담아 운반하는 나노 전달 시스템부터 출발하여 현재는 다양한 암이나 각종 장기를 집중적으로 표적 할 수 있는 표적화 기술을 부착한 나노입자까지 매우 다양하다. 표적화(targeting)라는 단어로 인해 전문 지식이 없는 일반인의 경우 약물 전달 시스템이 무슨 유도미사일처럼 목표를 향해 찾아가는 것처럼 이해하나, 현재의 개념에서는 생체 내 혈액 등지에서 잘 돌아다니다가 목표 부위에 도달하면 축적되거나 부착되는 형태의 기술이다. 대표적으로 화장품 제조에도 쓰이는 에멀전 기술부터 시작해서 생체 세포기관을 모방한 리포좀, 그리고 고분자 복합체인 미셀이 있다. 이 기술들은 약물을 세포막에 융화될 수 있는 구조체로 잘 감싸는 형식의 기술들이다. 물에 대한 친화성을 이용하며, 감싸는 형태에 따라 이중막 구조의 리포좀과 단일막 구조의 미셀로 나눈다. 이러한 나노기술은 약물의 생체이용률을 높일 수 있어 절대적인 투여량을 줄일 수 있을 뿐만 아니라 이에 따른 부작용도 함께 감소시킬 수 있는 이점이 있으며, 표적화 기술은 부작용 감소와 약효 증대라는 두 마리 토끼를 한꺼번에 잡는 궁극적인 표상이라 할 수 있다. 다만, 현재까지는 이러한 나노기술의 실용화까진 많은 어려움이 따르며, 특히 생산단가가 높거나 아직 예측해내지 못한 부작용이 있을 수 있다는 문제점이 존재한다. 화학공학과 물리화학, 제어계측학의 발달이 이러한 문제점을 해결해 주리라 기대해본다.

환경 문제도 각종 오염 물질을 분자, 원자 단위로 다룰 수 있으므로 혁신적으로 줄일 수 있다고 한다. 대표적으로 이산화탄소를 분리해서 지구 온난화 문제를 줄일 수 있다. 산소는 대기 중으로 돌려보내고 탄소는 모아서 다용도로 쓰면 된다.

물론 이것이 반대로 알아차릴 수 없는 극소량만의 독으로 사람을 죽이거나 대량살상무기의 개선으로 이어질 수도 있다. 호흡이나 피부, 각종 대사를 통해 체내로 유입할 수 있으며 세포막을 자유자재로 투과할 수 있고 폐나 심장 등 여러 기관에 영향을 미칠 수 있으며 심지어 뇌까지 침투할 수 있어 사고를 뒤바꾸고 지능을 낮출 수도 있다. 태아에게 전달되어 기형아를 만들 수도 있다. 화학물질 공해에서 더 나쁜 쪽으로 발달할 수도 있는 것이다. 더 나아가 DNA까지 파괴하고 복원할 수 없도록 조작할 위험성도 있고, 이것은 인류를 인류보다 낮게 만들어 겉모습뿐만이 아니라 그 존재마저 사람이 아니게 할 수단으로 변질할 수 있다. 이런 이상을 감지하지 못한다면 결과는 끔찍할 것이다. 원래 자신을 본떠놓으면 뭘 하는가? 이미 뒤틀렸을지도 모르는데. 이런 인위적 위험의 문제점은 기계이든 인체이든 그 존재와 효과를 알아채지 못할 수도 있고, 잘 드러나지 않는 식으로 사회의 여러 요소를 오염시키는 것이 가능하므로 기존의 다른 위험물들보다 훨씬 심각하다. 경쟁 피로가 아니더라도, 오랫동안 이어진 혐오 또는 별 시답잖은 이유, 단순한 아이와 선의만으로도 마땅한 방지책이 없다면 기술은 그 자체로 악용되도록 태어날 수도 있다.

다만, 나노 단위로 들어가기 시작하면 본격적으로 불확정성 원리가 무시하지 못할 영향을 미치기 시작하기 때문에 이걸 극복할 방법이 필요하다. 예를 들면, 양자 터널링 때문에 전자가 밖으로 튀어 나가 오작동을 일으킬 수도 있다.

나노 기술을 직접, 집중해서 활용하기보단 개개인의 몸에서 이미 원활히 작동 중인 면역 세포를 바깥에서 배양하며 질병을 인식시켜서, 투여 시에 격렬하게 공격하게 만드는 방식이 부작용도 덜하고 값도 싸다고 한다. 암세포 치료에 효과가 좋을 것으로 예상되며 연구가 진전되면 활용할 수 있다고 한다. 탄소나노튜브 계열 표적은 생산이 까다로워 훨씬 비싸고, 다루기도 힘들다. 이와는 별개로 병원체를 이용하거나 기생충, 더러운 곳에서 살아남는 벌레 및 기타 생물류를 참고하기도 한다.

6.3. 로봇공학·인공지능(R)

파일:상세 내용 아이콘.svg   자세한 내용은 인공지능 특이점 문서
를
의 번 문단을
의 부분을
참고하십시오.

7. 과도기

파일:상세 내용 아이콘.svg   자세한 내용은 기술적 특이점/과도기 문서
를
의 번 문단을
의 부분을
참고하십시오.

8. 예시

레이 커즈와일은 자신의 저서 내용 대부분을 특이점이 머지않았다며 당시 개발되고 있었던 최신 기술을 소개하거나 컴퓨터의 속도가 무어의 법칙에 따라 빨라지고 이야기하고 있다는 것에 할애했지만, 조금은 구체적으로 미래에 어떤 변화가 있을 것인지 쓰기도 했다.
기술적 예측과, 시장성과 수요로 인한 오류까지 모두 감안한다면 커즈와일의 예측보다 약 +10년 정도는 더해서 생각하는 게 더 편할 것이다. 실제로도 2010년대 초반에 사물컴퓨터 시대가 열렸지만 좀더 본격적으로 시장에 쏟아지게 된 시기는 2020년부터다. 상용화와 대중화는 다른 얘기니까. 상용화가 되어도 대중화까지 10년은 더 걸릴 수 있다는 것이다. 여러 중소 기업을 비롯해 삼성이나 LG의 백색가전들 중에서도 2020년 대쯤 제품이라면 인터넷 제어가 가능하다. 왜냐하면 기술이 개발되어도 시장에 내놓을 때까지는 상당한 효율적 발전이 필요하고, 또한 시장에 내놓아도 사람들이 인식하고 구매하고 본격적으로 여러 회사들이 그 기술을 중점으로 시장을 채우려면 다시 어느 정도 시간이 필요하기 때문이다.* 2020년대 말에는 나노 기술을 이용해 인체의 장기를 보강하고 교체할 수 있을 것이다. 예를 들면 신체에 필요한 영양소를 정확히 계산해서 나노봇으로 몸에 공급할 수 있고, 혈구를 나노봇으로 교체하면 훨씬 뛰어난 면역력과 효율적인 호흡 능력을 가질 수 있고 심장을 제거하는 것도 가능하다. 수술 없이 뼈대를 강화하거나 신체 내부의 수술을 진행할 수도 있다.* 2020년대 후반에는 가상 현실이 매우 현실적으로 되어서 그것을 이용한 재택근무가 더 널리 퍼질 것이다.[16]* 2030년대에는 나노봇을 통해 뇌의 기능을 보강하는 것도 가능할 것이다. 뇌 자체의 성능을 높이는 건 물론이고, 매트릭스에 나오는 것과 같은 가상현실에 접속할 수도 있고, 자신의 감각을 전송할 수도 있을 것이다.* 2030년대 말에는 뇌의 정보를 그대로 컴퓨터로 업로드하는 것도 가능할 것이다.* 2030년대 말이나 2040년대 초에는 분자 단위로 물체를 조립하고 해체하는 수준의 나노 기술을 이용해 신체를 아예 마음대로 개조할 수 있을 것이다.* 신체 재생 등을 통한 신체가 절단된 장애인의 구제는 물론 순식간에 외모를 바꾸거나 성별 또한 별도의 수술 없이 나노머신만으로 바꿀 수 있을 것이다.* 외모지상주의의 의미가 거의 사라질 것이며 성별을 구분하는 것 자체가 의미 없어질 것이다. 각자의 개성은 더욱 강해질 것이다 게다가 신체를 전혀 가지지 않고 전기신호를 가진 자아만 온라인에 존재하다가 필요할 때만 신체를 가지는 것이 가능할 것이다. 이러면 이제 물리적 환경과 국토의 한계 문제로 골머리 앓지 않아도 된다.* 뇌가 기계 방식으로 교체되었기 때문에 언제든 초인공지능의 지능을 빌릴 수 있게 되거나 초지능 그 자체가 될 수 있다. 따라서 일반인들도 인류 전체를 합한 지능을 자신의 전뇌에 복사 붙여넣기 할 수 있다는 것. 혹은 타인과 잠시 융합되었다가 세 개의 의식체로 분리되는 것 따위도 가능하다. 이쯤 되면 현재의 모든 인류가 알 수 있는 최고의 지식과 노하우를 얼마 안 되는 시간에 모두 습득할 수 있다는 것이 되고, 단지 혼자의 집중만으로 가상의 세계나 새로운 게임 경험 같은 것들을 만들어낼 수 있게 될 것이다.* 초지능이 되느냐, 인간으로 남느냐는 개인의 선택으로 남게 된다. 그러나 그때 즈음이면 이런 기술들이 너무나 당연해서 데스크톱이냐 노트북이냐의 선택과 같이 아주 일상적인 일이 될 것이다.몇몇 사람들은 너무 오래 살면 사는 재미가 사라지리라는 클리셰적인 생각을 하는데, 해결법 중 하나는 기억을 스스로 리셋하거나 그냥 포맷해서 어린애로 환생하면 된다.* 위와 같은 분자 조립 나노 기술로 인해, 시설로 만들 수 없거나 아예 비싼 재료가 드는 것이 아니라면 제조 비용은 0에 수렴하게 낮아진다. 당연히 물건의 가격은 지적 재산 가치와 거의 같게 되거나, 모든 물건이 아예 공짜로 주어질 것이다.* 각 재화의 생산성과 생산 효율은 어마어마하게 증가할 것이다.* 일하고 싶다면 일할 수 있지만, 초인공지능이 인간과 비교할 수 없을 만큼 잘하고, 기발하며, 창조적이다. 열역학 제2 법칙에 의한 우주 멸망 이외엔 인간 1.0에서 느꼈던 각종 재해로 인한 공포가 비교할 수 없을 만큼 줄어들 것이다.* 이런 경우에는 죽음에 대한 개념도 크게 달라질 것이다. 육체가 돌이킬 수 없는 손상을 입어 죽음에 이른다는 개념은 사라지고, 불의의 사고로 신체 자체는 손상되거나 사라지더라도 자아와 의식을 복사해 두었다가 다시 새로운 육체에 재전송하면 그만이기 때문에, 자신이 죽는다는 개념 자체가 사라질 수 있다. 잠시 의식이 끊겼다가 다시 돌아온 것일 뿐. 모든 인간은 어차피 7년 주기로 모든 세포가 전부 교체되어 아예 새 육신으로 갈아끼우는 것과 마찬가지이며 결국 나를 구성하는건 내 신체가 아니라 기억과 자아라는 점을 생각해보면, 내가 사라져버린 채 다른 사람으로 살아가는 거라고만 단순히 생각할 문제는 아니다. 이는 테세우스의 배 항목 참고.* 커즈와일의 특이점 예측에 동의하는 전문가들은 1970년생 언저리부터는 아주 확실하게 인간 불멸화에 참여할 수 있을 것으로 판단하고 있다. 1960년생 같은 경우에는 건강에 신경을 쓰지 않으면 노화나 기타 노화로 인한 합병증세의 위험성이 높다고 판단하고 있다. 그러나 이런 예측을 하는 커즈와일은 최첨단을 달리는 회사의 수장인 것을 생각해야 한다. 설령 당장 관련 기술이 완성되었다 하더라도 시장 판매가 이뤄지는 데에 시간이 걸릴 것이며, 미국이 아닌 다른 비교 후진국 같은 경우엔 법규나 제재 때문에, 영생화로 이어질 수 있는 수명연장 관련 기술이나 약품이 취급이 어렵거나 금지될 수 있다. 물론 다시 말했듯이 커즈와일 같은, 최첨단 회사의 수장은 시장화 되기 전에 기술적 혜택을 받을 수 있겠지만.
아래는 2013년 12월 26일에 CNN에서 낸 커즈와일 특집에서 참조했다.

9. 시사점

파일:상세 내용 아이콘.svg   자세한 내용은 기술적 특이점/시사점 문서
를
의 번 문단을
의 부분을
참고하십시오.

10. 대중매체

11. 관련 문서


[1] Ulam, Stanislaw (May 1958). Tribute to John von Neumann. Bulletin of the American Mathematical Society, 64, #3, part 2: 5[2] 다만 인류가 어떤 궁극적인 지점을 향해 나아가고 있다는 논지의 세계관은 철학자 헤겔의 정신현상학에서 이미 찾아볼 수 있는 이야기인데, 그는 이를 절대정신이라고 불렀다.[3] 에드워드 텔러와 함께 현대 수소폭탄의 기본 메커니즘인 텔러-울람 설계를 개발한 사람이다.[원문] One conversation centered on the ever accelerating progress of technology and changes in the mode of human life, which gives the appearance of approaching some essential singularity in the history of the race beyond which human affairs, as we know them, could not continue.[5] 가끔 과학 3법칙이 법칙이란 말 때문에 과학적으로 증명된 절대 사실인 줄 아는 사람들이 많은데, 과학 3법칙은 어디까지나 클라크의 소설에 나오는 설정이자 소재의 하나일 뿐이지 반드시 지켜야 할 절대 법칙이나 공식이 아니다.[6] 이해할 만큼 풀어놓는 데 시간이 너무 오래 걸린다거나, 방대한 사전지식이 필요하고, 계산기 보조로 때울 수 있지만, 머리 안에 다 채울 수는 없는 등.[7] 샘 알트만 의견, 일론 머스크 X[8] ~2028년[9] 구글 코사이언티스트에서 초보적인 재귀개선이 이루어졌다는 내용이 있다. 이 말이 사실이라면 2025년에 재귀개선이 성공한 셈. 원문 번역본[10] ~2028년[11] 2028~2031년[12] 인류사에서 한 예를 들자면 독일 바이마르 공화국은 당대의 지혜를 짜내어 세계에서 가장 선진적이라고도 불린 바이마르 헌법을 완성했지만 민주주의를 위한 조항이 민주주의를 파괴하려는 세력에게 악용되어 결국 나치 독일이 탄생했다.[13] 《특이점이 온다》 518~519쪽 참고.[14] 2008년도의 한국 사람 대부분은 스마트폰의 대중화를 짐작조차 하지 못했다. 어렴풋이 상상은 가능했지만, 폭발적인 스마트폰의 대중화로 인해 진짜 유비쿼터스가 도래하는 것은 예상하지 못했던 것.[15] 근데 유사하기는 하지만 실제로는 조금 틀린 부분이 있다. 스마트폰이 유비쿼터스의 포석인 건 맞지만 모든 사물에 다 들어가지는 않았기 때문에 진정한 유비쿼터스 시대가 완벽히 왔다고는 할 수도 없다 스마트폰이 보급된 건 맞지만 증강 현실이 딱히 상용화가 이루어졌다기에는 반박받을 부분이 많다. 이런 몇몇 서술 때문에 이 양반이 기술에 대한 비용은 미처 생각하지 않고 글을 휘갈긴단 비판을 받기도 한다.[16] 코로나바이러스감염증-19 사태로 인해 재택근무 자체는 2020년대 초에 활성화되고 있지만, 가상현실은 아직 재택근무에 적용되지 않았다.[17] 2020년으로부터 4년이 지났지만 아직은 실현되진 않고 있다.[18] 살아있는 세포로 신체 장기까지 3D 바이오프린터의 진화[19] 작중 시점에서 이 기술은 도시의 정부에 해당하는 머리에 의해 금기로 지정되어 버려졌다.[20] 애초에 본 작품의 모티브가 아서 클라스의 소설 유년기의 끝이다.

분류