기술의 덫 - 책 ‘유리감옥(2014)’

유리감옥

“미래 기술이 인류를 위협한다면
데이터센터에 원자폭탄을 투하하는건 어떤가?“
(2024년4월19일 조 로건 쇼에 나온
터커칼슨(전 fox뉴스 앵커)인터뷰)

내 기억이 맞다면 인터뷰에서 보인 (전)폭스뉴스 진행자이자 독립언론가인 터커칼슨의 표정은 매우 진지했다.
이제 더 이상 AI 자동화로 인한 어두운 미래는 그저 SF 디스토피아 영화 속 이야기가 아닌것이다
아마도 이 책의 저자 ‘니콜라스 카’는 출간 당시인 10년 전 지금의 이런 상황을 경고하고 싶었을 것이다.
하지만 10년이 지난 지금 저자가 기대했던 기술에 대한 성찰과 인간 중심의 기술발전에 대한 바램은 이루어지지 않았고 기술 중심의 발전 속도는 저자의 예상보다 더 빨랐다.
책에서 경고하고 있는 모든 일들은 지금 이 시간 모든 사회문제가 되었다.
세상은 점점 기술에 의해 획일화 되어가고 있으며 사람들의 사고는 스마트폰 속 ‘유리감옥’에 갇혀버렸다.
저자가 생각했던 것보다 더 빠르고 더 심각하게  인류는 알고리즘의 노예가 되어가고 있다는 걸 부정할 사람은 별로 없을 것 같다.

182페이지에 적힌 컴퓨터 시스템이 인간의 인지능력을 따라올 수 없는 근거로 든 질문 예시는 오늘날 생성형 AI에 의해 순식간에 답변이 출력됨으로써 농담으로 전락해버리고 말았다.

작가가 자동항공조정장치, 자율주행, 자동의료 시스템, 자동 디자인 프로그램 등 여러 사례를 들어 기술이 헤게모니를 장악할 때 벌어지는 인간의 손실에 대해 경고하고 다시(?) 인간 중심으로 돌아가야 하는 기술의 역할과 위치를 제시했지만
아마 대규모 전쟁이 터지지 않는 한 이미 되돌릴 수 없을 정도로 선을 넘어버린 기술 제국의 문명을 인간의 능력과 행복을 최대치로 끌어올리던 적정선의 시대(그게 언제인지는 모르겠지만 과거였다는 것은 알 것 같다)로 되돌리기는 힘들 것이다.
그런 면에서 이 책이 주는 유익은 축소되었다고 볼 수 있을 것이다.
하지만 축소되었다고 해서 덜 중요해진 것은 아니다.
적어도 이 책의 교훈들로 인한 대의(기술을 보수적으로 바라보는 시대)는 물 건너 갔다고 하더라도 개인적인 측면에서 여전히 중요하게 생각해 봐야 할 문제들이 남아있기 때문이다.

작가의 전작이자 베스트셀러를 기록한 ‘생각하지 않는 사람들(2010)’에서 경고했던 인터넷이 가져온 기억과 사고의 아웃소싱 현상으로 인한 뇌 구조의 변화에 따른 연장선상에서 보면
이제 그것이 자동화에 의해 직업에 참여하는 인간에게 어떤 영향을 끼칠 수 있는지 더 확장된 형태의 자아를 돌아보게 한다.
이런 책이라도 읽어보지 않는다면 작가의 말처럼 ‘우리는 구체적으로 우리가 잃은 게 무엇인지조차 표현하는 데 어려움을 겪거나 모를 수 있다.’

우리는 기억과 사고를 스마트폰과 클라우드컴퓨팅에 저장하고 그때그때 필요한 만큼 꺼내 쓰기 위해 잠깐식 뇌를 활용하는 방식에 익숙해졌다. 중앙처리장치를 자동화에 양도하고 그저 플래시메모리로서의 기능만 남아있을 뿐이다.
그리고 어느 순간에는(아마도 생각보다 빠르게) 그 기능마저 AI에 넘겨주어야 할 것으로 보인다.

역설적이게도 이제는 각자도생의 시대가 되었다.
다수의 의견은 자동화와 알고리즘에 의해 통제되었다.
스스로 사고하고 찾아보지 않는다면 기술이 주는 끊임없는 놀라움과 달콤함에 취해 그들이 조금씩 인간의 영혼을 빨아들이고 있다는 걸 감지할 수조차 없을 것이다.
그리고 영혼이 빠져나간 공간 안에 거대한 중앙처리 시스템의 완벽한 통제를 받는 트랜스휴먼이라는 포스트 휴머니즘을 담으려고 한다.

마크 저커버그는 “당신은 한 가지 신원만을 갖고 있다.
당신이 직장 동료나 친구들과 그 밖의 지인에게 각기 다른 이미지를 보여주던 시절은 아주 빨리 마감될지 모른다”라고 말했다.(303p)

SNS는 이미 인간이 가진 균형잡힌 인격으로서의 페르소나를 파괴하고 개인의 다양성을 축소시켜 광고주들에게 제시할 단일하고 분류하기 좋은 데이터세트로 저장해 놓았다.
작가는 이제 우리가 기술을 바라보는 관점이 아니라 기술이 세상을 바라보는 관점을 생각해 보아야 할 때라고 조언한다.
그리고 그 관점에는 많은 차이가 있고 그로 인해 우리가 잃어가는 여러가지들에 대해 개인이 인식하지 못한다면 우리는 점점 데카르트가 내린 결론을 기술에 양도하게 될 것이라고 경고한다.

나는 비록 형편없는 독서량이지만 전자책이 주는 많은 이점들이 있음에도 불구하고 최근에는 의도적으로 종이책으로 돌아가고 있다.
언제나 기술에 감탄을 보내고 하나라도 기회가 된다면 옛것을 버리고 새것을 취하려던 나의 라이프스타일에 문득 의문이 든 것은 아마도 컴퓨터 덕에 완전하고 절대적인 악필이 되어버린 손글씨 때문인 것 같다.
디지털 자동화 시대를 살아가면서 내가 잃어버린 것은 무엇일까?
어쩌면 내가 잃어버린 그것들은 세상적으로 무가치한 것일지도 모른다.(요즘 누가 손글씨를 신경이나 쓸까?)
지나친 감상일지 모르겠지만 그렇더라도 나는 뭔가 중요한 것을 잃어버린 느낌이다.
기술 중심의 디지털 자동화는 아마도 이렇게 개인적인 가치를 점점 소멸시키고 집단화된 가치를 부각시키고 있는 것 같다. 그야말로 기술 마르크스주의가 뭔지를 좀 더 깊이 깨우친 것 같다고 해야 하나.
그렇게 개인의 사유와 작업 과정에서 느끼는 성취감과 행복들이 불필요하고 무가치한 어떤 것이 되어가고 있다는 발견은 나로 하여금 옛것에 대한 새로운 시각을 가지게 하고 그동안 무시했던 전통에 대한 가치를 다시 생각해 보는 계기가 되었다.
어쩌면 책에서 나오는 몇몇 사례의 주인공들처럼 전문 적이고 예술적이며 거창한 의미는 없을지 몰라도 나의 그런 변화들이 책에서 말하는 기술 중심의 발전을 거부하는 나만의 소소한 저항일지도 모르겠다.

스마트폰이 나오기 전에 사람들 머릿속에는 10개에서 20개 정도 친구와 가족 지인들의 전화번호가 머릿속에 늘 저장돼 있었다.
또 여러 상황 속에서 책 속의 멋진 구절들을 써먹기 위해서 많은 문장들을 머릿속에 기억하는 사람의 인간관계에서의 이득은 꽤 쏠쏠했을 것이다.
하지만 시대가 변했고 우리는 기술의 발전으로 인해 더 이상 아무것도 기억할 필요가 없게 되었다.
자동화는 뇌의 쓸데없는 부담을 줄여주고 번거로운 업무를 줄여 스트레스에서 벗어나 그 시간에 여가를 통해 더 창조적인 아이디어를 떠올리고 행복한 삶을 살게 해 줄 거라는 기술 낙관주의자의 사상으로 무장하고 거대 기술자본을 업고 참으로 거침없이 달려왔다.

문제는 그들이 원하는 것은 뇌의 부담을 줄이는 수준을 넘어 아예 없애버리고 번거로운 업무를 줄이는 것을 넘어 아예 업무를 없애버리려는 데 있다.
아무것도 없는데 창조적인 아이디어가 떠오르고 스트레스가 아예 없는데 스트레스를 벗어난다는 말은 실체가 없는 공허한 소리다.

시간과 장소에 구애받지 않고 우리의 충동을 즉시 해결하는 데 알맞았던 환경은 항상 적대적인 환경이 성장을 방해하고 파괴했듯이 확실히 성장을 제한할 것이다.
앞으로도 영원히 커질 것 같았던 충동은 불현듯 사라지고 감정에도 무감각할 것이다.(존 듀이) (323p)

이제 기술은 인간을 재정의 하려고 한다.
아마도 역사는 여러 요인으로 이런 식의 변화를 겪으면서 지나왔을 것이다.
환경에 의해 역사를 지배하는 시대정신이나 철학은 변했고 그에 따른 인간에 대한 보편적인 인식도 조금씩 달라졌을 것이다.
하지만 그 변화의 중심에는 항상 인간이 있었고 변화의 중심 관점은 인간의 내면으로부터 나온 성찰이었다.
하지만 이번엔 다르다. 인간은 스스로가 아닌 자신들이 만들어낸 기술에 의해서 재정의 되려는 조짐이 보인다.
다행인 것은 아직까지는 적어도 개인이 결정권을 가지고 있다는 것이다.
우리는 어떤 면에서 21세기 방식의 스탠리 밀그램 교수의 ‘아이히만의 실험대’에 올라왔는지도 모른다.
그리고 이 책의 저자 니콜라스 카는 우리에게 실험대의 버튼을 누르는것을 잠시 멈추고 유리감옥에서 나와 자신을 돌아보라고 간곡히 권유하고 있다.