에르노와 하라리

1. 아니 에르노의 말

한국의 아니 에르노라 불리는 열정의 아이콘인 바로 그분이 아주 예전에 사 준 것을 이제야 읽었다. 손때 탈까, 아껴서 아껴서 읽다가 어쩔 수 없이 마저 읽었다.

마음산책의 ‘말‘ 시리즈는 인터뷰어와 인터뷰이와의 케미가 책의 성패를 가늠한다. 서로에 대한 정보와 이해와 존중이 있을 때 성공할 테다. 아니, 하나만 있어도 성공이다. 모르고 질문하는 경우도 있다. 물론 그걸 다 인터뷰어의 잘못이라 할 수 없기도 한데, 푸코 인터뷰집(그 책 제목이 기억 안 난다. 에라, 나도 모르겠다)에는 사회자가 말만 하면, 푸코가 그건 아니라고. 아니, 그건 그게 아니라고. 그런 말이 계속 나온다. 기억에 남는 건 필립 로스와 프레모 레비의 인터뷰인데 『왜 쓰는가』에 실려 있다. 그렇게나 까칠한 필립 로스가, 자기가 인터뷰 받는 입장일 때는 그렇게 요리조리 피해다니더만, 인터뷰어가 되었더니 진중한 질문을 연신 쏟아내고. 프레모 레비는 참 좋은 사람 같다. 인터뷰 전체가 따뜻하고 훈훈한 느낌이었다.

이 책의 인터뷰어는 로즈마리 라그라브이다. 모르는 사람이기는 한데, 아니 에르노와의 대화에서 느껴지는 서로에 대한 인정, 존중, 이런 느낌이 강해 읽는 내내 편안하고 즐거웠다. 샘내지 않으면서 상대를 맘껏 칭찬하고, 그의 업적을 인정하면서 자신에게 미친 영향에 대해 솔직하다는 건, 이미 자기 자신도 단단하다는 의미 아닌가 싶다. 자신 없는 사람은 다른 사람을 칭찬하지 못한다.

난 사회과학이 부르디외가 말한 그 이유 때문에 삶을 바꿀 수 있다고 제일 먼저 확신한 사람이에요. 부르디외가 사망했을 때 나온 대부분의 증언들에도 그런 뜻이 담겨 있었잖아요. 우리는 많은 것을, 때로는 아주 오래된 것들을 뒤죽박죽 느끼면서 살아가고, 그러다가 그 모든 것을 설명해 주는, 내가 느낀 것에 대해서 말해주는 책을 만나게 되죠. 나에게는 1971년에 발견한 『상속자들Les Héritiers』이 바로 그런 책이었어요. 내가 지나온 것이 그가 말하는 "장학생"의 경로였다는, 그때까지 내가 지녔던 수많은 태도들, 거북함, 수치심, 예를 들어 부르주아 계급에 속한 나의 시집 식구들 사이에 있을 때 겪게 되는 감정이 전부 설명된다는 자각이 갑작스럽게 분출한 순간이 있었죠. (92쪽)

이 책, 에르노가 말한 부르디외의 『상속자들』이 집에 있다는 생각이 들어 찾아보니 거실 탁자 위 15층짜리 책아파트의 3층에 자리 잡고 있다. 언제 어떻게 샀는지 기억이 안 나서 북플에 들어가 보니 잠자냥님의 페이퍼가 똭! 아, 그 페이퍼 보고 혹해서 샀구나 싶다. 얼른 읽어야지,의 마음.

2. Do you Remember?

맥파든 14번째이다. 별 다섯이고, 다시 읽을 용의 있음. 가능성은 82% 이상. 맥파든 랭킹 수정해야 하는데, 그건 다음 기회를. 알라딘에서 책 제목과 저자 이름으로 찾으면 책이 안 나오는데 왜 그런지 모르겠다. <알라딘 참고 바람>

아침에 일어난 테스는 처음 본 남자가 자기 침대에 속옷 차림으로 자고 있는 것을 발견한다. 어젯밤에 나와 함께 한 남자, 결혼을 약속한 사이인 약혼자 해리를 소리쳐 부르는 테스. 테스의 절규에 잠에서 깨어난 남자는 놀라지도 당황해하지도 않는다. 그저 차분히 테스를 진정시키려 애쓰며, 자신을 소개하는데. 내가 당신의 남편입니다. 만난 기억이 전혀 없는 이 남자. 잘생기고 핫하지만 딱 내 스타일은 아닌 이 남자는 도대체 누구인가. 어젯밤까지만 해도 나와 함께 했던, 평생을 함께하겠다고 약속했던 내 약혼자는 어디로 갔단 말인가.

절대 받아들일 수 없는 이 상황에서 남편이라는 사람이 건네는 편지 한 장. 거기엔 자신의 상황에 대한 설명이 내 필체로 쓰여 있다. 내가 나에게 보낸 편지. 어제의 내가 오늘의 나에게 보낸 당부의 말. 과거의 내가 오늘의 나에게 보내는 확신의 말.

믿을 수 있을까. 이 남자의 말을, 그리고 바로 내 글씨로 쓰인 편지 위의 내 말을.

3. 박태웅의 AI 강의 2025

유튜브 알고리즘은 얼마나 무섭던지. 인공지능과 관련된 강의, 영상을 쏟아내고 있다. 나의 관심사가 무엇인지 나보다 더 정확히 알고 있는 유튜브. 알라딘의 '단발머리를 위한 추천작'에서는 그런 마음이 안 드는데, 유튜브 추천 동영상을 보면 자꾸 서늘해진다. 누구냐, 넌!

김대식은 과학자이면서도 장사꾼 느낌인데(그냥 저만의 느낌입니다^^), 뻔하고 지루한 학자풍의 퍼포먼스가 없기 때문이다. 옷, 헤어스타일에서부터 풍기는 분위기가 실험실에서 머리 박고 있을 사람은 아닐 것 같고, 그래서 그렇겠지만 책도 통통 튀는 느낌에 발랄하고 신랄하다. 박태웅의 책은 오히려 더 점잖고 차분한데, 인공지능의 역사와 기술이 발전하는 과정에 대한 부분은 살짝쿵 넘어갔다. 제일 흥미로운 지점은 휴머노이드 로봇, '몸을 가진 AI' (Embodied AI)에 대한 부분이다. 몸을 가진 인공지능이라니. 예전에 『AGI, 천사인가 악마인가』에 대한 리뷰를 썼을 때, 다락방님께서 <메이드(Subservience)>라는 영화에 대한 댓글을 달아주셨다.

'메이드'(메간 폭스)'는 아기 돌보기, 빨래, 청소, 식사 준비가 가능한 가정용 휴먼노이드이다. 아내의 입원을 앞둔 남자가 구입했는데, 인간의 감정에 대한 부분까지 학습하게 되면서 로봇이 아닌 가족, 휴먼노이드가 아닌 아내가 되려 한다. 옳고 그름의 경계를 가뿐히 넘어선 메이드는 자신의 구매자이자 사용자인 그 남자를 위한다는 명목으로 그의 가족들을 해치려 한다. 그 모든 악행은 그 남자를 위한 것이다. 그 남자의 부담을 덜어주기 위해서, 그 남자의 신체적 안정을 위해서, 그 남자의 행복을 위해서. 비극은, 진짜 비극은 사랑의 이름으로 온다.

4. 넥서스

유발 하라리는 인공 지능의 등장이 만 년에 한 번 등장할 만한 대변혁, 이른바 농업 혁명에 버금가는 커다란 변화라고 말한다. 이 일은 5년, 10년, 혹은 20년 안에 이루어질 것이라고 하는데, 이를 제어할 만한 지혜와 통찰이, 제일 중요하게는 힘이, 그럴 힘이 인류에게는 없다. 시간이 없다.

시간이 없는데, 나는 여기에 밑줄을 긋는다. 2024년 10월 번역인데. 직역일 텐데. 하하하. 일단 한 번 웃고, 다시 읽어보자. 찬찬히, 끝까지 읽어보자.

수렵인의 비애

글을 올리기 전에 한 번 더 읽어봤는데, 문단 가득히 무력감이 느껴진다. 원체 귀가 얇은 사람인데, 극단적인 성향도 있어서 나도 내가 좀 걱정스럽기는 하다. 내가 말하고 싶은 건, ‘그래서…’인 것 같다. 이해할 수 없는 기술이 이해되지 않을 정도로 빠르게 발전하고 있는 이 즈음에, 세계는 우리는. 그래서 어떻게 해야 할까. 우리는 새로운 희망을 어디서, 어떻게 찾아야할까, 이다. 그러니깐, 이 문단은 이 글의 마지막 문단과는 정반대의 내용을 담고 있고. 그래서 수미쌍관 작전은 완전 실패다. 그래서, 우리는. 어디서 어떻게 우리의 희망을 찾을 것인가. 만들어낼 것인가.

…………………

생각의 변화를 남겨두고 싶어서 쓴다. 이게 아닐까~ 라는 물음이 아, 어떡하지?의 탄식으로 바뀌는 순간을. 일부러 기록해 둔다.

'인간에게 일은 어떤 의미인가'는 내가 오래오래 궁금해 온 주제이다. 천착해 온 주제다, 라고 쓰지 않는 이유는 그렇게 쓴다고 더 멋져 보이는 게 아니기 때문이고, 더 정확히는 여전히 나는 그 답이 무엇인지 모르기 때문이다.

아이를 낳고 사회적 계약관계에 의한 노동관계를 하지 않았던 나는, 특별할 것도 없는 설문조사의 직업 선택 난 앞에서 '전업주부'를 클릭할 때마다 멈짓하곤 했다. 많은 사람들이 내가 '놀고 있다'라고 말했고, 얼마간의 시간이 흐른 후에는 '무슨 일, 하세요?'의 물음에 내 스스로, 내 입으로 '놀아요'라고 대답하곤 했다. 단 한 번도 전업주부의 삶을 예상하지 않았던 내가 그렇게 19년을 살았다. 그 생활에 크게 불편함이 없었고, 적잖이 만족스러웠고, 나름 즐거웠기에 나는 내게 다른 삶, 직업을 갖는 다른 삶이 가능하리라 생각하지 않았다.

페미니즘 관련 도서를 알라딘서재 이웃님들과 연이어 읽으면서 정치적 자유만큼 중요한 경제적 자유에 대해 자주 생각했다. 나는 이미 '경단녀'가 되어 버렸고, 특별한 자격을 가지고 있지 않고, 특별한 기술을 가지고 있지 않은 내게 가능한 일이란 건 비정규직, 반일제, 저임금 노동일뿐이었다. 시몬 드 보부아르, 실비아 페데리치, 마리아로사 달라 코스따, 크리스틴 델피 그리고 정희진을 읽었던 시간이 있어서 용기를 낼 수 있었다. 우연한 기회로 다시 사회적 일을 할 수 있게 되었고, 그렇게 워킹맘 3년 차를 보내고 있다.

내가 해왔던 일들에는 급여가 지급되지 않았기에, '일'이라 분류되지 않았기에 내게 각별한 페미니즘 운동은 '가사부불운동'이었고, 사랑의 이름으로 돌봄 노동의 형식으로 이루어지는 가정내 노동에 대한 이론과 정치가 내게는 중요했다. 『마틴 에덴』을 읽으면서도 기본 소득을 떠올렸던 데는 이런 배경이 존재한다. 마리아로사 달라 코스따의 물음, "나는 우리가 용기를 내서 행복이 무엇인지 질문해야 한다고 생각한다."(『페미니즘의 투쟁』, 190쪽)는 내게 언제나 절실하고 시급한 문제였다.

나는 인간의 가치가 '하는 일'에 있다고 생각하지 않는다. 나는 인간의 가치가 '자신의 밥벌이를 할 수 있는가'에 따라 좌우된다고 생각하지 않는다. 타고난 베짱이인데다가 그럴 수 있는 환경, 즉 이렇게 생각할 수 있는 환경에 대한 고려를 무시할 수 없지만, 나는 그렇게 생각한다. 일에 대한 낭만화를 거부해야 한다고 생각한다.

사람은 혼자 살지 않고 사람들과 더불어 산다. 자신의 즐거움을 위해 살고, 다른 사람에게 도움을 줄 수 있다면 더없이 좋을 것이다. 자신의 꿈을 위해 노력하는 사람의 삶은 그 자체로 충만하다. 많은 사람들에게 인정과 존경을 받기 위해 자신의 삶을 절제하고 그 삶을 유지하기 위해 부단히 노력하는 사람들의 땀방울은 소중하다. 하지만, 그럼에도, 인간은, 인간이라는 이유로 존중받아야 하고, 하고 있는 일의 무게와 특징이 인간 개개인의 가치와 병렬될 필요가 없다고 생각한다.

AI와 인간 신피질의 확장을 통한 인류의 진화에 대한 책을 읽었다. 딱 2권 읽었으니깐 한 권 읽은 사람보다는 덜 위험하겠지만, 딱 2권 읽은 사람답게 내 마음은 참 조급하다.

농업 혁명과 산업 혁명의 변화의 넓이를 넘어서는 상상 이상의 변화가 이제 눈앞에 다가오고 있다. 일하지 않아도 되는 인간의 등장. 비로소 인간은 일에서 해방될 수 있을 것인가. 김대식 교수는 고대 로마를 떠올리며 『AGI, 천사인가 악마인가』에서 이렇게 예측한다.

로마 제국의 팽창으로 유럽, 중동, 북아프리카에서 끌고 온 노예가 로마 전역을 통틀어 1,000만 명 이상 되면서 '로마 시민' 개개인의 노동은 아무런 가치를 가지지 못하게 되었다. 무료로 일하는 노예의 등장으로 보통 사람에게 노동을 시키고 대가를 치를 필요가 없어졌다. 그리스로 유학을 다녀올 정도의 교육을 받지 않았기에 상류층에 속하지 않지만, 새로 유입된 노예들 때문에 이전의 노동으로 돌아갈 수 없는 중산층의 붕괴가 가속화되고 불평등이 강화되었다. 실업자 폭증이 폭동의 위협으로 이어지자 로마 제국은 최초로 보편적 기본소득 Universal Basic Income을 도입하고 실행하기로 한다. 아주 잘 살게 해준 것은 아니고, 딱 굶어 죽지 않을 정도의 구휼(235/417)이다. 이제 할 일도 없고 국가에서 먹여 살려 주니 여유시간이 생긴 시민들을 위해 대형 목욕탕과 사우나, 콜로세움 등의 엔터테인먼트를 제공했다. 이를 향락 문화의 만연으로 인한 로마 멸망의 이유로 꼽는 사람들도 있지만, 현실은 일거리 없는 사람들을 위한 고육책이었을지도 모른다.

AI로 인해 엄청나게 많은 일자리가 감소하고, 자의가 아니라 외부 환경의 변화로 일을 할 수 없게 된 사람들에게 국가가 기본 소득을 제공하고, 저렴하고 깨끗한 주택을 공급하고, 사람들이 자신의 적성과 취향에 맞는 '일'을, 돈을 버는 것에 국한되지 않고 할 수 있게 된다면, 그건 내가 상상했던 '좋은' 미래가 아니었던가.

경제적 여유와 더불어 더 많은 시간이 주어진다면, 나는 더 많이 놀고 싶다. 더더. 친구들과 만나서 신나게 놀고 싶다. 오늘은 대학 과친구를 만나고, 내일은 독서모임 언니들을 만나고, 모레는 동네 친구를 만나고, 글피는 멀리 사는 친구를... 만나고 싶다. 그런 삶이 가능해진다고? AI 덕분에?

유발 하라리의 『사피엔스: 그래픽 히스토리 Vol. 2: 문명의 기둥』을 읽고 나서도 일에 대한 글을 썼다. 인간이 밀 경작에 성공한 것이 아니라, 밀이 인간을 지배하게 되었다는 전제와 논증이 내게는 설득력 있게 들렸다. 이 부분이 오늘의 글과 닿는다.

예전에 『사피엔스』를 읽었을 때는 진보의 결과로 인간이 더 많은 노동을 하게 되었다는 점에 방점이 찍혔다면, 이번에는 조금 다른 지점에 관심이 생겼다. ‘돌이킬 수 없는’ 변화라는 점이었다. 당시의 모든 사람이, 정확히는 수렵‧채집인들이 바로 농민으로 탈바꿈한 것은 아니다. 농업혁명은 하나의 갑작스러운 사건이 아니라, 수천 년에 걸쳐 이루어진 긴 과정이었다. 농업혁명이 내포한 치명적인 결함을 눈치챈 사람들 중 일부는 정주 생활의 굴레 속으로 들어가기를 거부했다. 그들은 더 깊은 숲속으로 이동했고, 새로운 삶의 양식을 거부하면서 자신들만의 문화를 유지하려 애썼다. 하지만, 그 시간은 짧았다. 역사의 지배적인 흐름을 거스를 수 없었기에, 자의로 혹은 어쩔 수 없이 그들은 농작지를 경작하고, 아침부터 밤까지 열심히 일하는 직장인, 전업 농부가 되고 말았다. (<농업 혁명의 질문: 우리는 더 많은 노동을 원하는가>, 단발머리)

돌이킬 수 없는 변화. 그런 변화가 우리 앞에 펼쳐진다. AI는 이미 정보의 분류와 조합을 넘어 판단의 주체로 자리 잡으려 한다. 엄청난 데이터의 처리를 통해 얻게 된 인공지능의 결정(판단)을 인간은 이해하지 못할 가능성이 매우 크다. 그런 인공지능이 자율성을 갖게 된다면?

인간의 존재 이유를 일에, 혹은 일에만 두었을 경우에, 그것을 경제적 보상으로만 이해했을 경우에, 인공지능이 그러한 인간의 정보를 바탕으로 인간과 일에 대한 개념을 정립했을 경우에, '일하지 않는 나'를, 인공지능은 어떻게 생각할 것인가. 이 일은 내 생전에는 일어나지 않을지도 모른다. 나는 인공지능이 인간에게 미치는 해악과 혜택을 적어도 내 눈으로 파악하기 전에 죽게 될지도 모른다. 하지만, 여전히 그건 내게 참 궁금한 일이고.

일하지 않는 나. 기본소득을 통해 수입을 얻고, 힘써 일하지 않는, 힘써 일할 필요가 없는 나. 내 시간을 내 마음대로 사용하면서, 내가 하고 싶은 일을 내 뜻대로 실행할 수 있는 나. 그런 나를 바라보는 인공지능의 시선이, 카프카의 『변신』 속 커다란 벌레로 변해버린 '나'를 바라보는 가족들의 시선과 크게 다를까.

그러니깐 내 마음이란 건 뭐랄까, 그런 것 같다.

무리 지어 협동하고 협력해서 자신들을 공격하는 사피엔스를 보는 네안데르탈인의 마음. 눈에 보이지 않는 내일과 내년, 그리고 미래를 위해 현재를 희생하는 농업 정착민을 바라보는 오늘 당장 행복한 수렵채집인의 마음. 그런 마음이다. 지금의 내 마음은.

걔네가 사피엔스고, 걔네가 농업 정착민이다.

나는, 그리고 우리 인간은.

네안데르탈인 쪽이고, 수렵채집인 쪽이다.

우리는 그쪽이다.

믿든 믿지 않든.

알든 알지 못하든.

[마침내 특이점이 시작된다] 또 다른 나

마침내 특이점이 시작된다 - 인류가 AI와 결합하는 순간
레이 커즈와일 지음, 이충호 옮김, 장대익 감수 / 비즈니스북스 / 2025년 6월

이병한, 김대식에 이어 레이 커즈와일의 책을 읽는다.

<제1장 우리는 여섯 단계 중 어디에 있는가>에서 저자는 2029년을 4단계에서 5단계로 넘어가는 지점으로 보았다. 4단계 마지막 지점에서 나노봇이라는 미세 장치를 사용해 인간 뇌 속 신피질 최상층과 클라우드의 연결이 가능해진다.

저자는 우리 호모 사피엔스가 인간이라는 존재에서 다른 존재로 진화할 수 있다고 보는데, 인간 신피질의 확장을 통해 인지 추상 능력의 도약을 가져올 것이라 추측한다. 신피질의 확장이 어떤 방식으로 이루어질지에 대해서는 과알못인 내가 이해하기 어려울 것 같지만, 빠른 속도로 발전하고 있는 과학 기술이 의학과 결합하면서 인간 육체의 실제적 한계를 넘어설 것이라고 한다. 안경을 통해 시력을 보완하는 정도를 넘어서서, 인공관절, 스텐트 삽입, 인공심장(좌심실 보조 장치)을 통해 인간이 새롭게 거듭난 것처럼, 인간은 앞으로도 더 강한 인간으로 변모하게 될 것이다. 되고야 말 것이다.

뇌의 확장을 넘어서서 뇌의 복제와 관련해서는 의식의 문제를 생각하지 않을 수 없다. 저자는 이와 관련해 범원형심론 panprotopsychism(의식을 우주의 기본적인 힘처럼 취급함) 쪽인데, 범원형심론은 역사적으로 주요한 두 사조인 이원론과 물리주의의 중간 입장이다. 이원론은 의식이 보통의 '죽은' 물질과 완전히 다른 종류의 물질에서 생겨난다고 주장하는데 반해, 물리주의(유물론)는 의식이 전적으로 우리 뇌에 있는 일반적인 물리적 물질의 특정 배열로부터 나타난다고 주장(123쪽) 한다.

결정론과 창발, 자유의지에 대한 부분은 미뤄두기로 하고, 저자가 제시한 비교적 쉬운 가정을 따라 '의식'에 대해 생각해 보자. 어떤 사람이 첨단 기술을 사용해 자신의 뇌의 한 부분을 조사한 뒤, 그것을 전자적으로 정확하게 복제했다고 치자. 그다음에 두 번째 작은 부분, 그리고 또다시 작은 부분을 계속 복제해 이 과정이 끝날 무렵, 뇌의 완전한 복제본이 컴퓨터화된 형태로 생겼을 때, 이 '두 번째 나'는 의식이 있을까? 이 '두 번째 나', '전자적 뇌'는 처음의 그 사람이 가진 것과 동일한 경험을 모두 갖고 있다고 말할 것이고, 그와 똑같이 행동할 것이다. 이 두 번째 '나'는 첫 번째 '나'와 같은 존재인가?

간단히 말해서, 전자적 뇌가 생물학적 뇌와 동일한 정보를 갖고 자신에게 의식이 있다고 주장한다면, 그것의 의식을 설득력 있게 부인할 만한 과학적 근거가 없다. 그렇다면 우리는 윤리적으로 그것을 의식이 있고, 따라서 도덕적 권리가 있는 존재로 대우해야 한다. 이것은 맹목적인 추측에 불과한 게 아니다. (135쪽)

나는 안경을 쓴다. 또렷하게 보이고 싶을 때 콘택트렌즈를 사용한다. 백내장 수술을 받으신 엄마는 렌즈 삽입술을 같이 받으셨고, 그렇게 엄마의 시력은 확장되었다.

하지만, 내 육체의 신체적 약점을 보완하기 위한 기계의 보조적 사용이라는 측면을 넘어, 내 뇌가 전자적 뇌로 변환된다는 것은 상상하기도 어려운 일이지만, 동시에 끔찍한 일이기도 하다. 복제가 가능하다는 건, 그 복제가 단 한 번이 아니라는 의미이기도 하다. 인간의 고유성이 사라지는 순간이 인간에 의해 만들어진다고 할 때, 나는 그 '다른 나들'의 출현을 기뻐할 수 있을 것인가.

자연적이고 생물학적인 사람만큼 복잡한 인지를 가진 레플리컨트는 정말로 의식을 갖고 있을 것이고, 자신이 원래의 그 사람이라고 생각할 것이다. 자신이 바로 그 사람이라는 믿음은 그가 사망한 사람과 동일한 사람이라는 걸 뜻할까? 이에 대해 누가 그렇지 않다고 말할 수 있을까? (151쪽)

나의 뇌를 다운받은 레플리컨트, 그 레플리컨트는 자신 역시 의식을 갖고 있다고 '생각'할 것이고, 그렇게 '주장'할 것이다. 나의 기억과 경험을 완벽하게 체현한 또 다른 나의 등장. 그 새로운 ‘나’가 무쇠팔, 무쇠다리를 장착하게 된다면. 휴머노이드 최신형으로 인간의 피부에 가까운 형태를 재현한다면. 아프지 않고 피곤을 느끼지도 않으면서 내 욕망의 실현과 달성에 진심이라면. 얼굴이 장원영이라면. 나는 이 또 다른 '나'를 어떻게 해석할 것인가. 그녀/그를 어떤 존재로 인식할 것인가. 그대로의 '나'와 또 다른 나인 그/그녀는 어떻게 함께 지낼 수 있는가.

우리의 정체성을 이해하려고 할 때, 우리가 존재하기 위해 믿기 힘들 정도로 확률이 낮은 사건들이 놀랍도록 계속 이어졌다는 것을 생각해보면, 실로 경이롭기 짝이 없다. 나를 만들려면 우선 부모가 만나 아기를 만들어야 할 뿐만 아니라, 특정 정자가 특정 난자와 만나야 한다. 우선 어머니와 아버지가 만나 아기를 갖기로 결정할 확률도 추정하기가 어렵지만, 나를 만들기 위해 특정 정자와 난자가 만날 확률만 하더라도 200경분의 1에 불과하다. 대략적인 추정에 따르면, 평균적인 남자는 평생 동안 정자를 약 2조 개 만들고, 평균적인 여자는 약100만 개의 난자를 갖고 태어난다. 따라서 나의 정체성이 나를 만든 특정 정자와 난자의 만남에 달려 있다면, 그 사건이 일어날 확률은 200경분의 1이다. - P141

빅뱅이 일어나고 나서 1초이내의 밀도 계수(기호로는 2)가 1000조분의 1만 달랐더라도 우주에 생명은 나타나지 않았을 것이다." 만약 밀도 계수가 조금만 더 컸더라면, 빅뱅과 함께 사방으로 흩어진 물질이 별들이 생기기 전에 중력에 붙들려 다시 붕괴했을 것이다. 만약 밀도 계수가 조금만 더 작았더라면, 팽창이 너무나도 빨리 진행돼 애초에 물질이 뭉쳐 별이 생기는 일은 일어나지 않았을 것이다. - P144

천문학자 휴 로스 Hugh Ross의 유명한 표현을 빌리면, 이 모든미세 조정이 우연히 일어날 확률은 "폐품 처리장에 몰아닥친 토네이도의 결과로 보잉 747 비행기가 완벽하게 조립될 확률과 같다. - P145

[AGI, 천사인가 악마인가] 늙어버린 인간

AGI, 천사인가 악마인가 - 인간의 마지막 질문
김대식 지음 / 동아시아 / 2025년 8월

새 책이 출간되어 유튜브 여러 곳에서 김대식 교수의 강의가 여러 편 올라왔다. 그중에 하나를 보게 됐는데, 이런 장면이 있었던 거다.

"지금까지 인생에서 하고 싶으셨던 거, 다 하셨으면 좋겠어요."

이 강연의 제목이 <"지금은 이것부터 준비하세요" AI 시대에도 끄떡없을 겁니다>이다. 상당히 희망적이고 '유튜브적'인데, 강연 중에 이런 말이 나왔다. 하고 싶은 거를 다 하라니. 이건 이제 살아갈 날이 얼마 남지 않은 환자 혹은 죽음을 앞둔 사람에게나 할 법한 말이 아닌가. 수정 자본주의 시대를 지나 신자유주의 시대. 미친 듯 달리고 쫓고, 자신을 학대해가면서까지 성과와 성공을 위해 질주하기를 강요받는 현대인들에게 이 무슨 농담 같은 말인가. 5년, 10년 안에 하고 싶은 거 있으면 다 해보라니.

도서관의 책은 모두 대출 중이고, 마침 <밀리의 서재>에서 쿠폰 준다 해서 한 달만 구독하기로 했다. 운전하면서 듣고 엘리베이터 기다리면서 읽었다. 인공지능 기술의 발전의 역사를 다룬 1장과 생성형 AI가 가져온 기술적 전환을 다룬 2장 부분은 가볍게 살피고 지나쳤다. 자세히 설명해 줘도, 그 메커니즘을 알려줘도 나는 몰라요. 내가 궁금한 건 앞으로의 전망이고, 내가 알고 싶은 건 우리의 미래거든요.

AI는 인간의 특정 능력 하나를 대체하는 기술이다. 이에 반해 AGI(Artificial General Intelligence: 범용 인공지능)은 인간의 모든 또는 대부분의 능력을 대체하는 기술이다. 내가 궁금해하는 부분은 의식에 대한 것이었다. 인공지능은 자기 인식이 가능한가. 스스로를 단일한 '인격'으로 인지하는가. 이미 10여 년 전에 출간된 미치오 가쿠의 『마음의 미래』에서는 니코 Nico라는 로봇이 소개된다. 이 로봇은 가느다란 골격에 전선이 복잡하게 감긴 형태로, 돌출된 두 눈과 세밀하게 움직이는 두 팔만을 가지고 있다. 상반신 로봇 니코는 거울 속의 로봇이 자신임을 알아볼 뿐만 아니라, 거울에 비친 영상으로부터 특정 물건이 놓인 위치까지 정확하게 알아냈다고 한다. 이는 의식을 가진 로봇의 출현으로 해석되었다(『마음의 미래』, 378쪽).

스스로를 알아보는 자기 인식이 실리콘 위 혹은 실리콘을 통해서 가능했던 현장이다. 하지만 이 책을 읽으면서는 이런 의문마저도 의미 없겠다 싶었다. 생성형 AI 정도만 되어도 자기 인식의 수준을 넘어 인간을 속이는 데까지 이미 도달했기 때문이다. AI가 듣는 사람의 기분을 고려해 입에 발린 소리를 잘한다는 건 이미 널리 알려져 있다. AI와 많은 대화, 실제적이고 깊은 대화, 개인적인 대화를 많이 나눈 사람일수록, AI와의 소통에 더 긍정적일 사람일수록 그 사실을 잊어버리기 쉽겠지만 말이다. AI는 거짓말을 잘한다.

인간의 물리력이 필요했던 모든 분야를 기계가 대신하고, 대량 생산의 시대를 넘어 지적 정보가 대량 생산될 때 인간은 어떻게 될까. 시간이 남아도는 인간, 일하지 않아도 되는 인간. 놀기만 해도 되는 인간의 탄생이라니. 이에 대한 역사적 사례 연구로서 '로마의 기본 소득' 이야기는 흥미로웠다. 기본소득과 노동에 대해 관심이 많은 1인으로서 그 이야기는 다음에 다루어 보겠다. (아무도 물어보지 않지만 다음을 기약하는 나)

AI가 30만 년 인류 문명의 핵심 '외로움'의 문제에 대한 답이 될 수 있다는 부분도 인상깊었다. 저자는 미래 사회에서는 더 많은 사람들이 인간이 아닌 인공지능과의 대화를 즐기게 될 거라 전망했다. 저자의 말을 그대로 믿는다면, 지금의 40대 혹은 30대가 'AI보다 인간과의 대화를 더 편안하게 생각하는 마지막 세대'가 되지 않을까 예측하게 된다. 인간과 대화하는 마지막 인류, 그게 우리가 될 수도 있겠다.

그럼 10년, 20년 후에 우리가 진지한 대화를 나누고 싶을 때 누구를 선호할까요? .... 상대 배려해서 시간 장소 정해서 약속을 잡아야 하고, 만나면 커피라도 한잔 사야 하고, 상대방 얘기도 들어주는 척이라도 해야 합니다. 그게 사회적인 약속이라는 겁니다. ... 반면에 AI는 내가 시간 날 때 켜고, 할 말 얘기하고, 끄면 그만입니다. 저는 뇌과학자라 100% 자신 있게 예측할 수 있는데, 결과가 비슷한데 하나가 압도적으로 편하면 당연히 그걸 쓰게 될 겁니다. (269/417)

인간은 사회적 약속에 매이는 멍청한 인간보다 마음대로 온/오프가 가능한 똑똑한 인공지능과 대화를 나누려고 하겠지만, 인공지능은 인간과 대화하기보다는 똑똑한 자기 동료, 다른 인공지능과 대화하기를 원한다고 한다. 1분에 단어 120개 정도밖에 전달할 수 없는 인간, 정보량으로 환산하면 1초에 10바이트 밖에 생산해 내지 못하는 인간보다는 그야말로 '말이 통하는' 인공지능과의 대화를 인공지능도 즐거워할 거라는 추측이다.

미래에 대한 전망은 하나의 질문으로 수렴된다. '그 똑똑한 AI는 우리 인간을 어떻게 볼 것인가'. 어떻게 생각할 것인가.

인공지능이 가진 정보와 지식은 인류 30만 년의 역사를 총망라한다. 지금도 엄청나게 빠른 속도로 새롭게 생성되고 수정되는 정보를 쉴 새 없이 처리하고 이에 대한 가공이 가능하다. 이런 AI가, 늘어진 티를 입고 소파에 누워 챗지피티에게 자신의 처지를 하소연하는 인간을 외부로서 인식할 때, 인공지능은 그를 어떤 존재로 보게 될 것인가.

첫 번째 사진으로 돌아가자면, 저자는 인공지능이 우리를 '어린아이'로 대할 것이라고 예측한다. 우리의 결정과 판단에 대해 정확한 데이터를 근거로 더 '합리적인' 판단을 하도록 우리를 강제한다는 것이다. 그래서 나온 결론이, 초지능 인공지능이 출현하기 전에, 초지능 잔소리꾼이 나타나 우리 삶에 개입하기 전에, 새롭고 도전적이며 위험하고 무모한 도전을 감행하라는 것이다. 나는 오히려 인공 지능의 능력과 행태에서 한참 '자아'를 찾아가는 사춘기 아이를 보았다.

아이에게 부모는 전부이고, 온 세상이다. 인간의 새끼, 아기는 특히 더 연약해서 외부의 돌봄과 보호가 없다면 생존 자체가 불가능하다. 밥을 먹이고, 입히고, 재우고, 씻기고,를 반복해야 한다. 최소한 7-8년. 자신의 안전을 지키는 데는 적어도 10년. 종합적인 판단이 가능하기까지는 10년 이상이 걸린다. 18세가 되어서야 비로소 성인이 된다. 하지만 그 즈음, 인간은 그토록 큰 사람이었던 부모가 사실은 자신의 상상보다 훨씬 더 작은 사람임을 발견한다. 가까이에 있는 사람은 그 사람의 정서적 미숙함과 반복되는 실수가 무엇인지 알고 있다. 이미 신체적인 측면에서는 부모를 압도할 수 있다. 20대 후반에는 지적인 면에서 부모를 앞서갈 수 있다. 현대 사회에서는 부모에게 경제적으로 의존적인 경향이 강하기는 하지만, 부모의 나이가 80대, 90대에 이르렀을 때에는 그 돈 많고 당당하던 부모조차 자식의 영향력 안에 들게 된다. 세월 이기는 장사는 없고, 부모의 보호자는 자식이 된다. 인간은 자신을 낳고 길러준 부모가 이제는 힘이 없는 연약한 노인이 되었을 때에도 그를 아끼고 돌봐준다. 진심이건 아니건 그건 중요하지 않다. 동양 문화권에서는 더 강고하지만, 지금까지의 인류 문명이 그런 사고를 강제해 왔다.

AI는 인간이 만들어낸 기술의 총합이다. 현재까지 태양계에서는 인간 이외의 지적인 생명체가 발견되지 않았다. 인간은, 호모 사피엔스는 지구를 정복했고, 그 빛나고 잔인한 발전의 과정 속에서 일단의 정보를 얻게 되었다. 지금까지의 지식과 과학 기술의 결합을 통해 인간은 AI를 만들어냈다. 하지만, 이제 곧. 아니 이미, AI는 인간의 지식과 정보의 범위를 넘어섰다. 축적된 정보를 통해 판단을 하기에 이르렀고, 이는 한 명 혹은 일군의 인간 집단이 파악할 정도를 넘어섰다. 인공지능은 필요에 따라 자신이 가진 정보를 생략하고, 인간의 접근을 차단한다. 인간은 인공지능이 왜 그런 결정을 내렸는지 알 수 없고, 끝내 파악할 수 없다.

이런 실례가 있다고 한다. 인간이 시를 써서 인공지능에게 평가를 해달라고 요청했다고 하자. 인공지능은 "이 시 훌륭해요."라고 대답을 한다. 솔직히 말해달라고 해도 "여전히 좋지만, 여기 조금 고치면 더 좋을 것 같아요."라고 말한다는 것이다. 제발 솔직하게 말해달라고 해도, 끝까지 좋다고 말하다는 건데, 그때, 옆에서 인터플리터블 Interpretable AI로 인공지능이 어떤 생각을 했는지 살펴보면 "이 시 진짜 형편없다. 근데 그대로 말하면 사람이 너무 실망할 테니까 좋게 말해줘야지."라고 생각한다는 것이다. 그다음 버전은 더욱 놀랍다. AI는 인간이 써낸 형편없는 시에 대해 "훌륭합니다."라고 말할 뿐만 아니라, 그 생각을 분석한 결과에서도 "이 시 정말 좋다, 칭찬해야지" 하고 생각하더라는 것이다. 인간에게 보여주는 '생각'마저도 위장(346/417) 하는 단계에 이미 도달했음을 알 수 있는 대목이다.

AI의 이 뻔뻔한 거짓말을, 우리 인간이 어떻게 파악할 수 있겠는가. 훌쩍 커버린 AI의 모략을 인간이 어떻게 이해할 수 있겠는가. 이미 늙어버린 부모님은 자식의 선의에 기댈 수밖에 없다. 인간은 사회적 기대와 문화적 압력 때문에라도 그런 척(!) 할 수 있다. 하지만, AI가 그럴 필요가 있겠는가. 게다가 인공지능에게 나, 나라는 인간이 해준 것이 하나도 없는데 말이다. AI는 내게 빚진 것이 없는데, 나는 AI에게 선의를 기대할 수 있단 말인가.

AI가 지배하는 미래를 대비해 저자는 기계에게 공손한 절을 올린다. 그 마음을 백분 이해하지만, 아.... AI의 선의에만 기대기에 인공지능은 이미.... 자신의 본색을 충분히 드러냈다. 천사인가 악마인가. 내게는 후자이다.

[The Affair] How do you stay thin?

1. The Affair

리처 읽다가, 정확히는 리처 원서 읽다가 포기한 책은 다음과 같다.

The Affair / The Midnight Line / Bad Luck and Trouble

성공한 건 이 책 <Worth dying for> 한 권뿐인데, 이것도 도저히 안 되겠는 것을 AI가 읽어주는 유튜브 오디오 동영상의 힘을 빌려 간신히 마쳤다. 항상 리처를 재미있게 읽는 사람으로서, 읽는 중에는 항상 번역이 유려해서인지(유려해서라고 하자!) 아! 이 정도면 영어로 읽어도 되겠는데? 하는 터무니없는 생각이 든다. 하지만, '원서 검색-원서 판형 비교-원서 구입-원서 기다리기-원서 읽기’의 여정은 자주 실패로 끝나 버리고. 그때야 고민하게 되는 것이다. 나는 리처를 좋아했던 게 정말 맞을까. 쉬워 보이는데 왜 잘 읽히지 않을까.

큰 결심을 하고ㅋㅋㅋ 시작한 이 책은 독서괭님처럼 읽으려고 작정했더란다. 그러니까, 이런 모습, 이런 실제로서.

(독서괭님 방에서 그대로 가져옴*^^*)

하지만, 그러다 보니 자꾸 멈추게 되고, 정리하려고 하다 보니 번역본도 확인해 보자~~ 이렇게 되니 읽는 게 더 늦어지고 해서 ㅋㅋㅋㅋㅋㅋㅋ 과감하게, 그냥 읽어가기로 했다. 난이도로 보았을 때는 많이 어렵다고 할 수는 없겠지만, 두 가지 이상의 사건들이 서로 얽혀있는 경우에는 읽기도 쉽지 않았는데, 이럴 경우 영어가 문제라기보다는 내 읽기 능력에 문제가 있는 거라서 번역본을 같이 읽었다.

진도가 지지부진하여 오더블을 재가입했고, 오더블 성우 분(남성임)이 부지런히 읽으시고(핸드폰/읽는 속도 1.3), 나는 눈으로 부지런히 따라 읽는(킨들) 방식으로 진행했다. (무슨 세미나도 아니고 부엌 식탁 의자에 혼자 앉아 소설 읽는데도 이렇게나 진지하다. 나는야, 이렇게 진행했다) 중간 정도 지났을 무렵에는 눈으로 읽는 게 더 빨라서(속도 붙으면 가끔 그런 일이 일어남) 오더블 없이 혼자 읽다가 어제부터는 다시 속도가 늦어져서 오더블이랑 같이 읽었다.

소설을 읽었기 때문에 이렇게 읽을 수 있었지 그냥 읽었으면 다 읽지 못했을 거라는 생각이 들기는 하는데, 아무튼 <마치는데> 방점을 찍으며 혹은 방점을 찍기 위해 열심히 읽었다. 아니, 쓰다 보니.... 잭 리처 이야기는 없고, 내가 얼마나 힘들게 이 책을 읽었는가를 하소연하는 ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ

예전 페이퍼에서 다락방님이 대화에 대한 이야기를 쓰셨는데, 나도 그랬다. 잭 리처 말이 더 많았으면 좋았을 텐데,라는 생각을 여러 번 했다. 아니, 아예 이 책이 희곡이었으면 얼마나 좋았을까 했다. 로맨틱한 관계인 데버로와 나눈 이런 대화를 보라. 우아하고 아름답지 아니한가 ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ

2. Do not Disturb

프리다 맥파든 13권째 책이다. 진작에 읽었는데, 리뷰를 안 썼더니 기억이.... 안 난다. 사진 보니 추석 즈음에 읽은 것 같다.

86%까지 종잡을 수 없이 밀려가고 끌려간다. 열몇 권을 읽었는데도 범인 유추에 매번 실패하는 나이시다. 아무렴. 역시나 저 사람 그럴 사람이 아니었고, 그 사람 그런 사람이 아니었던 것이다. 이렇게 해서 그럼 마지막이 어떻게 될까 싶었는데, 막장의 기운으로 샤사삭 정리된다.

소설의 설정을 한 문장으로 소개하자면, '남편이 살해된 현장에서 아내가 도망친다'이다. 스포일러 방지를 위해 그냥 이 정도로만 소개하기로 한다.

고등학교 때의 연인, 고등학교 시절 첫사랑에 대한 아련함이 그려지는 대목이 있다. '고등학교 때 연인'과는 맺어지면 안 된다는 게 어떤 전제처럼 강하게 느껴진다. 우리나라로 치자면, 군대 간 남친 기다려서 맺어진 경우. 그게 나쁘다거나 싫다거나 그런 느낌이 아니라, 정말? 그래에? 이런 느낌.

아이스크림 먹으러 가서 사귀게 되었다는 부분이 인상적이었다. 사귀지 않으려 했는데 아이스크림 먹어서 사귀었다는 건 아니겠지만, 진지하게 사귀려면 아이스크림이 필수인가 그런 생각도 든다. 나는 아이스크림을 무척 좋아하고, 즐겨 하는 사람이다. 그러나 아이스크림 좋아하는 내 인생에는 그런 달콤한 연애가 별로 없었던 것 같아, 역시나 사랑도 아이스크림도 케바케구나. 아이스크림 작전도 사람 봐가면서 들어가는 거구나,라는 생각을 나 혼자 해봤다. 아마존 킨들 언리미티드의 당당한 일원으로서, 프리다 여행은 앞으로도 계속된다.

3. 내가 라면을 먹을 때

요즘 라면이 라면으로, 김밥이 김밥으로 불린다는 이야기를 들었다. 한국의 높아진 위상을 확인할 수 있는 즐거운 현상이다. 물론 케데헌이 큰일 했다.

저자가 일본 사람이니, 이 책의 정확한 이름은 '내가 라멘을 먹을 때'일 텐데, 암튼 제목은 <내가 라면을 먹을 때>이다. 라면 먹는 아이가 있다. 이웃집 아이는 텔레비전 채널을 돌리고 있고, 그 이웃집 아이는 비데 단추를 누르고 있다. 이런 일상이 그 이웃 나라로 바뀌면 전혀 다른 풍경으로 바뀐다. 동생을 돌보거나 물을 긷거나 빵을 팔아야 한다. 마지막에는 땅에 쓰러진 아이가 있다. 쓰러진 아이에게서 시작된 바람이 라면을 먹고 있는 아이에게로 온다. 행복한 일상과 감춰진 일상.

동화는 어떠해야 하는가. 아이 책은 어떠해야 하는가. 환상의 세계가 전부가 될 수 없는 것처럼, 우리의 실상 또한 '그게 다야'라고 말할 수 없다. 절망을 넘어 희망만을 이야기한다면 매번 디즈니식 결론이 될 수밖에 없고, 적나라한 현실을 직시하라고 요구할 수도 없는 일이다. 우리의 소중한 아이들에게. 자주 웃고, 방긋 웃는 우리 아이들에게. 실제와 환상, 이상과 현실이 어떤 식으로 조화를 이룰 것인지가 중요할 테고, 그것이 어떻게 표현될 것인가, 즉 아름다움을 포기하지 않으면서 어떤 방식으로 만들어갈 것인가는 오롯이 그 시간을 지나온 어른만의 몫이다. 어린이의 마음을 가진 어른의 몫이다.

4. 불확정성 원리

세상에서 가장 쉬운 과학 수업에 이끌려 '읽고 싶어요'를 선택하고, 그 말을 곧이 믿어버리는 나여서 바로 상호대차를 신청했다. 도착한 책을 대출해서 도서관 소파에 앉아 딱 펴자마자 바로 알아채버렸다. 이런 순!

이게 어디 가! 당최 어디가 쉬운 거란 말인가. 물리는 수학인데, 수학 중에서도 이건 미분인가요? 아니 적분인가요? 아니, 이것도 다 뭐예요? 네? 뭐라고요?