레이 커즈와일 MIT 교수의 명저 ‘특이점이 온다(THE SINGULARITY IS NEAREA)’를 풀이한 책!
‘특이점이 온다’는 미 동부 아이비리그 대학과 백악관 관리 필독서!

세계적 미래학자이자 실력을 인정 받는 AI 연구자 레이 커즈와일 MIT 교수가 2024년 6월 출간한 저서를 보다 쉽게 해설하고 설명을 보완한 책이다.
일반 독자에게는 과학적이고 컴퓨터 용어가 많아 우리말로 최대한 쉽게 해설했다.
인공지능AI이 인간 뇌를 닮아 사람과 비슷하게 생각할 가능성을 보이는 시점이다.
일반인공지능AGI을 제대로 이용하려면 인간 뇌를 제대로 알아야 한다.
레이 커즈와일 교수는 인간 뇌와 AI가 시너지를 내면서 새 인류 문화를 만들어 나가는 시점을 ‘싱귤래리티’라고 정의한다.
원서에서 싱귤래리티가 실제로 실생활에서 어떻게 일어나는지 제시했다.

AI는 더욱 고도화, 기하급수적으로 발전하면서 세상을 변화시킬 것이다.
고성능 컴퓨팅 비용이 더욱 저렴해지고, 인간 생물학이 더 잘 이해되고, 나노 수준의 엔지니어링이 가능해질 것이다.
특히 AI 능력이 진보하고 정보 접근성이 원활해지고 사람의 지능은 AI와 긴밀하게 통합해 새로운 세상을 열 것이다.
이 사건이 바로 레이 커즈와일이 말하는 싱귤래리티, 즉 ‘특이점’이다.
이 대목에서 AI 시대를 앞두고 회자되는 두려움이 앞선다.
즉 AI가 인간 능력을 압도하면서 인간의 일자리와 나아가 생존 자체를 위협할 수도 있다는 두려움이다.
그러나, 커즈와일의 견해에 따르면 이 문제는 순전히 사람 하기에 달렸다는 점을 지적하고자 한다.

특이점이라는 용어는 수학과 물리학에서 차용한 것이다.
수학에서는 0으로 나눌 때 함수에서 정의되지 않은 지점을 의미하며, 물리학에서는 블랙홀의 중심에서 무한히 밀집된 지점으로 일반적인 물리 법칙이 무너지는 지점이 블랙홀이다.
하지만, AI에서 사용하는 이 용어는 은유적으로 사용한다는 점을 기억할 필요가 있다.
특이점을 은유적으로 사용하는 이유는 AI의 진보를 현재 인간의 지능 수준으로는 따라갈 수 없기 때문이다.
하지만, 전환이 일어나면 인간 기술은 충분히 빠르게 인지 능력을 향상시켜 AI와 공존할 것이다.

AI 미래에 대한 레이 커즈와일Ray Kurzweil과 마빈 민스키Marvin Minsky의 논쟁은 유명하다.
기계가 인간 지능에 도달하는 방법을 놓고 근본적으로 다른 두 가지 관점이 대립한다.
논쟁의 핵심은 ‘계산 능력’과 ‘올바른 알고리즘’이다.
특이점을 지지하는 레이 커즈와일은 인간 수준의 복잡성에 도달하기 위해서는 대량의 연산 능력, 즉 AI가 초당 10¹⁴ 이상의 계산을 수행해야 뇌의 뉴런 연결 수와 그 상호 작용에 접근할 수 있다고 주장했다.
처리 능력을 확장하면, 기계가 인간 인지의 복잡한 작동을 구현할 수 있다는 주장이다.
아울러 무어의 법칙에 기반한 하드웨어 성능의 기하급수적 발전을 강조하며, 컴퓨터가 초당 충분한 계산을 처리한다면, 인간과 동일한 지적 작업을 수행할 것으로 보았다.
나아가 인간 지능은 '무차별 연산'에서 비롯된다는 생각, 즉 충분한 데이터를 처리하고 충분한 연결을 모델링하면 인간 수준에 이를 것이라고 추론했다.
그의 비전은 GPT 및 PaLM과 같은 머신러닝 모델이 발전하고 있는 현재 궤적과 일치한다.
이에 반해 AI 딥러닝을 열어 젖힌 마빈 민스키는 정반대로 주장했다.
계산만으로는 지능을 얻을 수 없으며, 대신 가장 중요한 것은 알고리즘의 품질이라고 했다.
민스키가 보기에 기계가 얼마나 많은 처리 능력을 가지고 있는지가 중요한 것이 아니라, 인간이 보여주는 추상적 사고와 문제 해결 능력을 얼마나 모방할 수 있느냐, 즉 올바른 알고리즘을 실행하는지 여부가 중요하다는 것이다.
민스키는 펜티엄 칩(1993년 출시 데스크톱 프로세서) 정도의 프로세서로도 적절한 알고리즘만 설계된다면, AI가 인간 수준의 지능을 구현할 수 있다고 믿었다.
기호적 AI, 즉 기호를 조작하고 개념을 추론하며 논리를 도출하는 능력에서 비롯된다는 생각이다.
당시에는 어느 쪽도 우세할 수 없었다.
당시 커즈와일과 민스키 모두 자신의 주장을 증명하는 데 필요한 도구가 없었기 때문이다.
커즈와일은 인간과 같은 지능을 얻을 수 있다는 것을 증명할 계산 능력(컴퓨팅 소스)이 부족했고, 민스키는 상징적 추론만으로 동일한 결과를 얻을 수 있다는 것을 증명할 알고리즘이 없었다.

흥미롭게도, 딥러닝(GPT, PaLM, PaLM-E)에 탑재되는 엄청난 연산 능력은 규모와 데이터의 중요성을 강조한 커즈와일의 논리를 입증하고 있다.
방대한 데이터 세트와 수십억, 수조 개의 파라미터에 의존하는 딥러닝 기반 AI의 성능은 계산 능력이 중요하다는 것.
그럼에도 알고리즘의 효율성과 혁신의 여지는 여전히 많다.
천문학적 계산 능력과 고도의 알고리즘은 모두 필수적이다.
둘 중 하나만으로는 완전한 인간 수준의 지능을 달성하기에 충분하지 않다.
커즈와일이 강조한 연산 능력과 정교한 추론 아키텍처가 결합하면 AI는 인간 수준의 추론 능력에 도달할 수도 있다.

~ ‘문장 창의력을 갖춘 AI 모델’

인간의 뇌는 숫자를 계산하는 것보다 패턴 인식, 의사 결정, 창의성이 더 중요한 복잡한 환경에서 생존하는 데 도움이 되도록 진화했다.
그 이유는 다음과 같다.
첫째, 진화의 우선순위다.
인간은 포식자를 식별하고, 먹이를 찾고, 지형을 탐색하고, 다른 사람들과 의사소통을 해야 했다.
이러한 작업에는 방정식을 푸는 것이 아니라 패턴 인식 (예: 덤불 속에서 호랑이를 발견하거나 식용 식물을 찾는 것)이 필요했다.
느리고 세밀한 계산보다는 빠르고 유연한 사고가 생존에 더 유용했다.
둘째, 뇌의 구조이다.
뇌는 적응력을 위해 만들어졌다.
뇌는 정확한 계산이 아닌 퍼지 논리 (불완전하거나 불확실한 정보를 이해하는 것)에 탁월한, 고도로 상호 연결된 뉴런 네트워크로 작동한다.
예를 들어, 뇌는 모든 항목을 해아리지 않고도 사물 그룹을 추정할 수 있다.
즉 ‘충분히 가까운’ 솔루션을 근사화할 수 있다.
셋째, 뉴런 대 트랜지스터를 비교한다.
뉴런(뇌세포)은 복잡한 패턴과 연관성을 인식하는 데 뛰어나지만 컴퓨터의 트랜지스터보다 훨씬 느리게 작동한다.
트랜지스터는 정확한 숫자를 처리하도록 특별히 설계된 반면, 뉴런은 유연성과 경험을 통한 학습을 위해 만들어졌다.
넷째, 작업 기억의 한계이다.
인간 뇌는 한 번에 적은 양의 정보(보통 5~9개 항목)만 저장할 수 있는 제한된 작업 메모리를 가지고 있다.
따라서 복잡한 계산을 수행하기 어렵다.
다섯째, 대체 도구의 개발이다.
인간은 고도의 계산 능력을 개발하는 대신 주판, 계산기, 컴퓨터와 같은 도구를 발명하여 복잡한 계산을 대신 처리했다.
그 덕분에 두뇌는 창의력, 추론, 혁신에 집중할 수 있다.
정리하면, 인간 뇌는 불확실하고 역동적인 환경에서 적응하고, 패턴을 인식하고, 실제 문제 해결이 주된 역할이며 계산을 위해 설계되지 않았다.
정확한 계산을 위해서는 이러한 목적을 위해 특별히 설계된 AI나 컴퓨터에 의존한다.

특히 “인간 지능이란 다양한 인지 능력의 묶음들”이라는 말이 주는 시사점은 적지 않다.
인간의 지능이 개인마다 다른 능력의 집합체라는 점을 강조한다.
이는 인간 뇌를 모방해가는 인공지능 개발에 중요한 시사점을 준다.
이런 인간 지능의 독특한 점은 향후 전문화된 AI의 개발에 영감을 준다.
한 사람은 수학적 천재이지만 사회성이 부족하거나 사진 기억력은 뛰어나지만 창의력이 부족한 사람이 있다.
마찬가지로 현재 AI 시스템은 ‘만능’이 아닌 특정 분야에서 탁월하도록 설계되어 있다.
예를 들어 딥마인드의 알파제로는 체스나 바둑에는 뛰어나지만 대화에는 참여하지 못한다.
챗GPT-4.o은 언어 처리와 텍스트 생성에는 능숙하지만 자동차를 운전하거나 시각 데이터를 분석할 수 없다.
따라서 특화된 AI 개발은 다양한 방면으로 나아갈 수 있다. AI를 만능의 ‘슈퍼 브레인’으로 만드는 것이 아니다.
각자의 영역에서 탁월한 능력을 발휘하는 전문화된 시스템의 집합으로 개발되는 것이다.
이런 점을 염두에 두면서 향후 AI 개발의 방향을 유추해 본다.

첫째, 전문화된 모델 구축이다.
인간에게 고유한 강점이 있는 것처럼 AI도 뛰어난 능력을 발휘할 수 있는 특정 업무에 집중해야 한다.
엑스레이를 해석하거나 질병을 식별하는 의료 진단 AI, 음악을 작곡하거나 예술 작품을 디자인하는 창작 AI 등이다.
전문화된 AI는 인간 전문가와 마찬가지로 서로를 보완하여 복잡한 문제를 함께 해결해 나갈 것이다.
둘째, 능력 결합이다. AI의 전문화된 시스템을 응집력 있는 프레임워크에 통합하는 유형이다.
예를 들어 AI가 언어 처리(챗GPT4.o 등)와 시각(컴퓨터 비전 AI 등) 및 의사 결정(AlphaZero 등)을 결합하여 자율 의료 수술 지원 같은 현실 문제에 집중하는 방식이다.
셋째, AI로 약점 극복하기다.
한 분야에서 뛰어난 능력을 가진 인간도 다른 분야에서는 한계가 있다. AI는 개인이 어려움을 겪는 영역을 보완해 인간의 약점을 보완할 수 있다.
기억력이 좋지 않은 사람은 AI 개인 비서를 사용해 보완할 수 있다. AI는 인간 지능을 대체하는 것 보다는 특정 분야 인지 능력의 격차를 해소하고, 증강하도록 개발될 수 있다.
넷째, 시너지의 극대화다.
예를 들어 의료용 AI 시스템을 상상해 보자.
시스템의 한 부분은 의료 이미지(방사선학)를 분석하도록 훈련된다.
또 다른 부분은 환자 기록을 이해하고 의사 및 환자와 소통한다.
이어 예측 모델을 사용하여 치료법을 추천한다.
각 부분은 개별적으로 특정 영역에서 뛰어난 능력을 발휘한다.
이 시스템을 결합하면 인간 의사가 인지 능력을 통합하여 환자를 진단하고 치료하는 방식과 유사하다.
인간 지능의 ‘묶음’ 개념을 AI에 적용한 사례로서, 인간 재능의 다양성과 전문성을 모방하는 것이 AI 개발에 필수적이라 할 수 있다.
~빅데이터와 인공지능의 발전 ~

2000년경부터 컴퓨터는 꽤 규칙적인 속도로 빨라졌다.
1.4년마다 같은 비용으로 이전보다 약 두 배 빠른 컴퓨터를 구입할 수 있다.
스마트폰이나 노트북이 2년마다 성능이 향상되는 것과 비슷하다.
특히 AI 학습의 속도는 훨씬 빨라진다.
2010년 이후 AI 모델 학습 속도는 5.7개월마다 두 배씩 증가하고 있다.
즉, 반년도 채 안 되는 사이 AI 처리 능력이 두 배씩 늘어나는 셈이다.
발전 속도에서 AI는 컴퓨터보다 훨씬 더 빠르다.
1952~ 2010년까지 컴퓨터 능력은 약 75배 향상되었다.
하지만, 2010~ 2021년까지 AI 학습 속도는 75배에 그치지 않고, 대략 100억배 빨라졌다. AI가 왜 이렇게 빠르게 성장하는가? 더 나은 컴퓨터를 발명했기 때문이 아니다.
첫째, 병렬 컴퓨팅이다.
많은 컴퓨터 칩을 동시에 함께 사용하여 문제를 더 빠르게 해결하는 방법이 개발되었다.
연결주의가 그것이다.
마치 한 사람이 아닌 100명이 함께 큰 퍼즐을 맞추는 것과 같다.
둘째, 빅 데이터로 인해 딥러닝이 더욱 유용해지면서 많은 자본이 몰리기 때문이다.
인터넷, 스마트폰, 소셜 미디어 덕분에 전 세계에는 엄청난 데이터가 쏟아진다.
데이터는 AI를 더 똑똑해지도록 하는 훈련 도구이다.
투자자와 기업들은 산업을 변화시킬 잠재력을 가진 AI 연구와 개발에 많은 돈을 투자하고 있다.

전통적으로 의사는 이미지를 분석하여 질병의 징후를 감지한다.
그러나, 건강한 조직과 암 조직의 차이가 매우 미묘하기 때문에 사진에서 초기 단계의 암을 식별하는 것은 매우 어렵다.
그러나, 대규모 데이터 세트로 훈련된 AI는 사람이 감지하기에는 미묘한 패턴을 학습한다. AI 시스템은 건강한 조직과 병든 조직을 모두 보여주는 수천 개의 엑스레이 또는 MRI 사진을 학습, 인간 의사보다 암의 초기 징후를 찾아낸다.
이는 방대한 양의 데이터를 분석하여 인간이 놓치는 패턴과 인사이트를 파악하기 때문이다.

~ AI에 부족한 세가지 ~

구글이 3월 12일(현지 시간) ‘젬마(Gemma) 3’를 공개하며 인공지능(AI) 경쟁에서 다시 한 번 도약을 시도하고 있다.
중국 딥시크의 부상 이후 AI 업계에서는 성능뿐 아니라 경제성과 연산 효율도 중요한 이슈로 떠오르고 있다.
이에 대응해 구글이 선보인 젬마 3는 단일 그래픽처리장치(GPU) 환경에서도 높은 성능을 발휘하는 오픈소스 거대언어모델(LLM)이다.
AI 모델은 일반적으로 파라미터 수가 많을수록 더 복잡한 연산을 수행할 수 있지만 그만큼 처리 속도가 느려지고 하드웨어 요구 사항이 커진다.
하지만 젬마 3는 대형 모델에서 학습된 정보를 압축해 작은 모델로 전이하는 방식으로 성능을 유지함으로써 연산 부담을 줄이는 데 성공했다.
그 결과 딥시크 R1은 6710억 개 매개변수를 사용하고 필요한 경우 370억 개 매개변수를 선택적으로 활성화할 수 있는 데 비해, 젬마3는 10억~270억 개 매개변수만으로도 뛰어난 성능을 발휘한다.
멀티모달 AI는 아직 초기 단계지만 AI와 인간의 상호작용 방식을 근본적으로 변화시킬 것으로 기대되는 기술 중 하나다.
인간의 감각 처리 방식을 모방해 더욱 직관적인 방식으로 정보를 처리할 수 있어 의료 진단, 자율주행, 감정 분석 등 다양한 분야에서 응용이 가능하다.
의료 분야에서는 환자의 증상 기록과 의료 영상을 함께 분석해 더 정밀한 진단을 제공한다.
자율주행 차량에 적용할 경우 도로 표지판, 보행자, 차량 움직임뿐 아니라 운전자의 음성 명령까지 실시간으로 처리할 수 있다.
또한 산업용 로봇에 적용하면 작업 지시를 따르는 것을 넘어 스스로 환경을 학습하고 적응하는 방향으로 발전할 수 있다.

--- 본문 중에서