AI는 인간의 대체재일까, 인생의 파트너일까?
윤리적 딜레마와 두려움을 넘어
당신의 인간다움을 단단하게 지켜줄 10가지 질문

모두가 실감하고 있듯, AI기술은 무서운 속도로 일상에 스며들고 있다. AI가 이렇게 빨리 인간을 학습한 결과물을 내놓을 줄 누가 예상했을까? 감탄하는 동시에 우리는 딜레마에 빠진다.
모든 것을 잘하는 AI 앞에서 인간은 도대체 무엇을 해야 할까. AI를 인생의 파트너로 영리하게 활용하면서도 인간다움을 잃지 않고 올바르게 사용할 순 없을까? 첨단의 기계가 모든 답을 줄 수 있는 시대에는 인간다움과 인간 고유의 삶을 묻는 질문 능력이 가장 중요하다고 말하는 책 『어느날 미래가 도착했다』가 출간되었다.


저자인 우숙영은 기술이 바꾸는 인간의 삶을 예상하고 구현하는 선행 디자이너이자 AI 기반의 미디어아티스트, 교수로 활동했다.
‘실용적 도구 AI’만이 아닌 ‘삶의 동반자 AI’를 고민해온 사람답게 SF소설을 연상케 하는 매력적인 가정법의 스토리텔링을 동원해 AI를 삶의 반려로 삼을 때 벌어질 수 있는 상상된 미래를 검토한다.
일흔이 넘어서도 AI를 궁금해하는 부모님, 딥페이크 성착취물을 걱정하는 딸을 둔 후배, AI도구 사용의 허용 범위를 고민하던 동료 교수, 그리고 학습한 기술이 언제든 AI로 대체될 수 있다는 생각에 불안해하던 제자 등, 저자는 일상에서 만난 평범한 이들이 자신에게 던졌던 물음들을 한데 버무려 ‘탄생에서 죽음까지 모든 순간의 AI 경험’을 묻는 10가지 질문으로 다듬었다. AI를 몰라도 삶을 살아가는 데 별 문제가 없었던 사람들부터 AI 의존도가 너무 높아 걱정하는 이들까지, AI를 든든한 인생 파트너로 정립하기 위해 모두가 읽어야 할 AI 일상화 시대의 필독서다.

죽음을 얼마 남겨두지 않은 시점에 사랑하는 사람에게 남기고 싶은 이야기는 무엇일까? 함께했던 추억일까? 살아왔던 역사일까? (...) 어쩌면 죽음을 준비하며 자신의 디지털 인격체를 만드는 일은 ‘안녕'이란 말 대신 오래도록 기억되길 원하는 이야기를 선별하는 과정인지도 모른다.
자신의 죽음 이후에도 전달되길 원하는 것을 자신의 인생에서 골라내는 일인지도 모른다.
이것은 기존에는 없던 죽음을 준비하는 방식이다.

--- p.32

남겨진 사람들은 어떨까? 그들은 생전에 고인에게 전하지 못한 말을 하기 위해 자신들이 사랑하는 사람을 디지털로 재현한다.
(...) 이를 위해 두 사람이 나눈 메시지를 서비스에 올린다.
그와 나만의 사적인 데이터를 서비스에 기꺼이 제공한다.
그렇게 해서라도 그에게 전하고 싶은 말은 무엇일까? 그것은 단순한 말일 것이다.
아마도 그리움과 사랑의 말일 것이다.
원망과 미움의 말보단 “보고 싶다"는 말과 “사랑한다”는 말, “미안하다"는 말이 더 많을 것이다.
그것은 함께 살았던 시간 동안 그의 존재를 너무 당연하게 여겨서 전하지 않았던 마음일 것이다.

--- p.32~33

우리는 역사상 처음으로 글이나 사진, 동영상 같은 기록이 아니라 ‘나'라는 사람 자체를 세상에 남기고 싶다는 새로운 욕망을 갖게 된 것인지도 모른다.
아주 잘 편집된 창작물의 형태로.

--- p.59~60

기본적으로 디지털 서비스는 살아 있는 ‘오늘의 나'를 위한 것이지 ‘부재하는 내일의 나'를 위한 것이 아니다.
하지만 지금이 순간에도 누군가는 죽어가고 있다.
그들 중에는 자신의 죽음을 미리 알고 있던 사람도 있지만, 갑작스럽게 죽음을 맞이하는사람도 많다.
그렇게 세상을 떠난 사람들이 인터넷에 남긴 수많은 데이터는 그들의 의도와 상관없이 ‘유산'이 된다.
--- p.67~68

우리를 디지털로 ‘부활'시킬 사람은 우리의 가족이나 애인, 친구일 수도 있지만, 얼굴 한번 보지 못한 타인일 수도 있다.

--- p.71

우리가 우리를 닮은 존재를 디지털로 재현한다 해도 그 존재가 저절로 오래도록 기억되는 것도 아니다.
모든 존재는 관계 속에서만 존재할 수 있기 때문이다.
(...) 그렇기 때문에 누군가에게 오래도록 기억되고 싶다면 나를 닮은 존재를 만들어내기 전에 나에게 어떤 이야기가 있는지 생각해야 한다.
수많은 기억과 추억 속에서 오래도록 기억되고 싶은 이야기를 찾아내야 한다.
(..) 그러기 위해서는 영원히 간직하고 싶은 추억이 필요하다.
잊고 싶지 않은 오늘이 필요하다
--- p.72

어떤 대화는 사람을 죽게 만들지만, 어떤 대화는 사람을 치유하고 구원하기도 한다
--- p.90

우리는 그 동안 인간이 아닌 존재가 인간처럼 자연스럽게 말하는 것을 경험한 적이 없다.
수만년의 진화 과정에서 우리가 경험해온 언어는 인간을 통해 발화된 것 밖에 없었다.
하지만 정교한 인공적인 발화가 탄생한 이후 위는 역사상 처음으로 ‘인간'과 ‘인간이 아닌 존재가'가 만들어낸 언어를 구별해야 하는 상황에 놓였다.

--- p.92~93

인공지능과의 대화는 거기서 한발 더 나아간다.
통제와 예측이 가능하다.
갈등도 딜레마도 없다.
게다가 나만을 위해 존재한다.
모든 대화에서 나의 발화와 욕망이 우선시된다.
우리의 삶에 이런 종류의 대화가 보편화되면 어떤 일이 일어날까?
--- p.98

돌봄은 오랜 시간 동안 ‘사적인 영역'으로 ‘개인의 일'로 치부되었다.
주로 여성과 여성 이주노동자에게 전가되며 ‘하찮은 일'로 여겨졌다.
하지만 우리는 누군가의 돌봄을 받으며 자라고, 누군가를 돌보며 어른이 된다.
누군가를 돌보며 나이 들고, 누군가의 돌봄을 받으며 죽는다.
이것은 삶의 시작이자 끝이다.
(...) 우리 삶의 시작이자 끝인 돌봄을 어디까지 기계에 이임하고 어떤 부분을 인간의 영역으로 남겨둘 것인가? 어쩌면 이 질문에 대한 답이 우리가 우리로 존재하기 위한 조건이자, 인간이 인간으로 존재하기 위한 조건인지도 모른다.

--- p.105

오랫동안 영상파일과 음성파일은 진실을 가리는 도구였다.
사실을 증명할 수 있는 ‘객관적 증거’였다.
동서양을 막론하고 ‘보는 것은 믿는 것'이고 짐작하여 알기보다는 직접 봐서 아는 것이 더 확실했다.
눈으로 보는 것이 가장 강력한 진실의 척도였다.
대화를 녹음한 파일은 막다른 상황을 뒤집을 수 있는 강력한 증거 중 하나였다.
하지만 딥페이크 기술은 누군가의 얼굴을 쉽게 만들어 낸다.
누군가의 목소리도 잘 흉내낸다.
이것은 이전에는 없던 경험이다
--- p.
124

사람들이 온라인에서 콘텐츠를 소비하고 공유할 때 진실은 우선순위가 아니다.
그것이 나의 믿음과 가치에 일치하는지가 더 중요하다.
공유하고자 하는 정보가 자신의 정체성과 사회적 지위, 신념을 강화할 때 그 정보는 기꺼이 우리에게 채택되고 공유된다.
이익과 수익을 보장할 때도 마찬가지다.
허위조작정보가 끊임없이 쉽게 확산되는 이유다
--- p.127

시대를 불문하고 사람들의 마음을 사로잡기 위한 선동과 조작된 정보는 언제나 있었다.
다양한 목적과 욕망을 반영한 거짓이 진실인 것처럼 활보했다.
그런 의미에서 최근 우리가 직면한 중대한 문제는 가짜뉴스와 허위조작정보의 증가가 아니다.
그것은 바로 믿음의 종말과 신뢰의 붕괴다.
현실과 구분되지 않는 딥페이크는 우리의 눈과 귀를 현혹하는 것을 넘어 우리가 보고 들은 모은 것을 의심하게 만든다.
알고리즘은 우리의 관심에 일치하지 않는 사실을 배제한다.
자신의 감정과 욕망에 부합하지 않는 정보를 불신하게 만들 뿐 아니라, 우리가 그동안 공동으로 구축해왔던 많은 것들을 믿고 신뢰하는 일을 포기하게 만든다
--- p.135~136

그들이 사용하는 도구는 멀리 있지 않다.
스마트폰을 비롯해 우리의 가장 사적이고 내밀한 곳에 있다.
인스타그램와 페이스북, 틱톡과 엑스, 스레드, 유튜브 등 다양한 미디어와 서비스 속에 ‘추천'이라는 이름으로 위장해 있다.
심지어 이 도구들은 우리가 들어오길 기다리지도 않는다.
‘알림'을 사용해 수시로 우리가 들어오길 유혹한다.

--- p.158~159

인공지능 비서는 우리 대신 우리 주변의 세계를 탐색하고 평가할 수 있다.
실시간으로 검색하고, 추천하고, 번역하고, 요약해 알려주는 것은 물론 제안하고, 경고하고, 조언하고, 중재하는 것도 가능하다.
중재의 대상에는 인간관계도 포함된다.

--- p.161

이 기술은 분명 우리를 더 똑똑하고 영리해 보이게 만든다.
짧은 시간에 많은 일을 처리할 수 있고 실패 확률도 낮기 때문이다.
시간이 오래 걸리고 실패 확률이 높은 ‘위험한 선택지'는 이미 많은 부분 필터링되는 과정에서 제거되어 있다.
하지만 이런 상황은 필연적으로 다음과 같은 질문을 불러온다.
인공지능이 생각해낸 것을 내가 생각한 것이라고 착각하고 있는 것은 아닐까?
--- p.163

한없이 개인화되고 똑똑해진 인공지능 서비스가 생산성과 효율성, 편리성을 무기로 삼아 우리의 생각과 행동, 감정에 영향을 미치는 것도 가능하다.
우리의 지각과 관심을 조정할 수 있다.
(...) 지금은 우리가 원하는 것을 제공하지만, 앞으로는 그들에게 더 많은 돈을 주는 사람들이 원하는 것을 슬그머니 끼워넣을 수 있다.
우리의 이익이 아닌 그들의 이익을 위해 추천하고, 제안하고, 조언하면서 그 선택이 자신의 자유의지로 이루어진 것이라고 착각하게 할 수 있다.

--- p.163

현실세계에서 합의되지 않고 해결되지 않은 가치와 윤리의 문제는, 인공지능을 사용해도 합의되고 해결되지 않은 채 남아 있다
--- p.183

독재자나 테러단체, 광신도의 손에 들어간 킬러로봇이 어떻게 활용될지는 경험하지 않아도 알 수 있다.
인간이 얼마나 도덕적으로 타락하고 악해질 수 있는지는 이미 역사를 통해 증명되었다.

--- p.194

결국 인공지능이 우리의 일자리를 빼앗아갈지, 기술 발전에 의한 자동화로 대량 실업이 발생할지, 수십억명이 경제적 잉여 인력으로 몰락할지 아닐지는 인공지능 ‘기술'이 아닌 ‘인간'에게 물어야 한다.
인간의 일자리를 결정하는 것은 그 기술을 채택하는 인간이기 때문이다.

--- p.218

오랜 시간 학습의 대상이던 ‘지식'과 ‘기술'이 인공지능에 의해 자동화되고 있는 상황에선 무엇을 학습의 대상으로 삼아야 할까?
--- p.237

이 철학적으로 보이는 질문에 답해야 하는 이유는 간단하다.
이 질문에 대한 답만이 우리를 앞으로 나아갈 수 있게 하기 때문이다.
모든 것이 불확실하고 예측 불가능한 상황에서 변하기 쉬운 외부 요소는 삶의 목표가 될 수 없다.

--- p.256

우리는 그동안 우리의 바깥에 있는 외부 세계를 배우고 공부해왔다.
(...) 하지만 이제는 상황이 달라졌다.
배움의 주체인 ‘나'를 아는 일이 중요해졌다.(...) 나로부터 시작해 외부 세계로 향하는 배움이 중요해졌다
--- p.257

윤리는 삶에 대한 질문이다.
우리 삶에서 무엇이 옳고 그른지 묻는 질문인 동시에 어떻게 살아야 하는가, 왜 그렇게 살아야 하는가를 묻는 질문이다.
윤리는 가치를 묻는 질문이고, 살아가는 데 지켜야 할 규범과 규칙을 묻는 질문이다.
법이나 정책, 기술 어딘가에 형식적으로 붙어 있는 ‘부록’이 아니고, 우리 삶 속에 녹아 있어야 하는 ‘원칙’이다.

--- p.287

동물과 같은 감각을 공유하는 인간은, 인간의 시선으로만 세계를 바라볼 수 없다.

--- p.308

인공지능을 비롯한 과학기술의 발전이 질병, 사고, 노화에 의해 무너진 우리의 일상을 회복하고 삶을 이어나갈 선택지를 넓혀주는 것은 맞다.
하지만 그런 기술의 발전이 왜 우리가 삶을 이어가야 하는지에 대한 답을 주지는 않는다.
왜 우리가 더 오래 살아야 하는지에 대한 답도 마찬가지다.
당연하다.
왜 오래 살아야 하는지를 묻는 말은 왜 살아야 하는지를 묻는 말이기 때문이다.
삶의 목적과 의미를 묻는 말이기 때문이다.
(...) 개별적이기 때문이다.
이 질문에 대한 답은 오늘을 살고 있는 구체적 개인만이 할 수 있다.
결국 삶의 의미는 한 사람, 한 사람에 의해 구체적으로 발명되는 수밖에 없다.

--- p.313