《정보사회의 철학》을 다 읽었습니다. 솔직히 앞에 읽은 일리치 책들과 이 책의 연결지점을 찾는 일은 아직 숙제로 남아 있습니다. 그렇지만 분명 이 책은 우리가 실시간으로 경험하고 있는 현실을 낯설게 보도록 하고, 파편적인 현상들 사이에서 그것들이 그러한 방식으로 드러나도록 한 조건을 인식하도록 해주었습니다. 이번 주에 읽은 3장, 4장, 그리고 종장에서 제가 생각하고 또 함께 이야기 나눈 것들을 간략히 추려보겠습니다.
인공지능의 문제 : 지성이란 무엇인가?
제가 얼마 전에 읽은 《짐을 끄는 짐승들》이라는 책은 인간이 얼마나 자기 능력에 대한 환상에 젖어 있는지를 알게 해줬습니다. 예를 들어 우리가 수어를 쓰는 침팬지가 실험실에 갇혀 있는 모습에 분노할 때 우리의 분노는 무엇을 향하는 걸까요? 책의 저자인 수나우라 테일러는 우리가 철장으로부터 꺼내고 싶어하는 것이 침팬지인지, 아니면 그에 깃들어 있는 ‘인간성’인지를 질문합니다. 즉 우리는 다른 종들에 경탄하고 연민을 품을 때조차 인간의 능력, 인간성의 흔적을 척도로 삼는다는 것이지요.
인간이 자기 능력에 취해 있는 만큼, 비인간 동물들의 인지적 역량에 대해서는 무지하게 됩니다. 우리는 다른 종들, 다른 신체를 지닌 존재들이 세상을 경험하는 방식을 알 수도 없고 알려고 하지도 않기 때문이죠. 그런데 저는 문득 의문이 들었습니다. 그렇다면 우리는 인간의 지적 능력에 대해서는 제대로 알고 있는 걸까? 사실은 그조차도 불확실합니다. 인공지능의 역사를 보면 이 사실을 알 수 있지요.
다이고쿠 다케히코의 설명에 따르면 인공지능의 역사란 기술 진보의 과정일 뿐만 아니라 인간 지성에 대한 학자들의 이해가 벽에 부딪혀온 과정이기도 합니다. 1950년대 미국의 인공두뇌학자들은 “전제가 되는 명제에서 실수와 비약 없는 방식으로 진리를 보증하면서 결론을 도출하는” 추론의 기능이 인간 지능의 본질이라 여겼고, 이에 따라 기호처리 기계로서의 인공지능을 설계했습니다. 지능을 추론 또는 계산이라고 보는 이런 이론적 갈래를 ‘기호계산주의’라고 부릅니다. 그 기원은 무려 라이프니츠까지 닿아 있고, 러셀과 화이트헤드, 튜링을 경유합니다.
그런데 문제는 이들의 지능 모델이 지나치게 언어-의식중심적이었다는 데 있었죠. 추론 기계로서의 인공지능은 우선 모든 신호와 정보를 일관된 기호로 번역하지 않고서는 외부세계에 연결될 수 없습니다. 이런 인공지능이 탑재된 로봇은 한 번 움직일 때마다 방대한 정보수집과 기호처리를 해야 합니다. 이런 문제 때문에 인공지능을 탑재한 최초의 자율형 로봇 섀키Shakey는 몇 미터 떨어진 곳으로 짐을 나르는 데 몇 시간이 걸렸다고 하네요.
기호처리 기계로서의 인공지능이 지닌 한계를 극복할 수 있었던 것은 유기체의 인지작용이 상당부분 무의식으로 남아있다는 깨달음 덕분이라고 합니다. 로봇 공학자 로드니 브룩스는 곤충을 관찰하면서 “표상을 매개로 한 반성 없이도 많은 행동이 이루어진다는 점”(165쪽)을 깨달았습니다. 그래서 중앙집권적인 체제를 버리고 보행, 센서에 대한 반응, 배회, 조종 같은 기능들이 탈중심적으로 협력하도록 하는 시스템을 구축하여 기존의 문제를 해결했다고 하지요.
또한 인공두뇌학의 다른 갈래인 연결주의는 뉴런의 운동을 관찰하면서, 의식 차원의 언어 작용이 반드시 지적활동의 전 과정을 지배하는 것도 아니고, 그 중심으로 군림하는 것도 아니라는 점을 통찰했습니다. 브룩스와 연결주의자들이 밝힌 바에 따르면 지능은 우리 몸 전체에 편재해 있는 집합적 현상이라고 할 수 있을 것 같습니다. 그리고 이 말은 어쩌면 지능을 객관적으로 규명하고 측정하는 일의 불가능성을 보여주는 것일지도 모르겠습니다. 왜냐하면 이들에 따르면 지능은 뇌와 같은 단일한 기관과 동일시 할 수 없으며 집합적인 현상이므로, 우리의 신체가 작동하는 방식에 따라 또 우리가 외부 세계와 맺는 관계에 따라 얼마든지 다르게 변형될 수 있는 잠재성을 지니기 때문입니다.
‘몰아세움’
그런데 다이고쿠씨에 따르면 인공지능은 이제 완전히 새로운 단계에 도달했습니다. 이것은 기술 발전 때문이 아니라 사회적 조건, 그의 표현에 따르자면 미디어 환경의 변화 때문입니다. 인터넷의 보편화로 인해 출현한 정보사회는 니클라스 루만이 말한 ‘세계사회’의 모습을 그대로 구현하고 있습니다. 루만은 사회를 국가 장치와도, 장소적 공동체와도 동일시될 수 없는 추상적 체계로 보았습니다. 그리고 사회의 기본단위를 소통으로 보았습니다. 그가 제시하는 사회의 이미지에서는 “익명적이고 비인칭적이며 목적도, 끝도 없는 접속”(109쪽)이 본질적이며 개인들은 그러한 과정의 산물이자 한 계기일 따름입니다. “소통이라는 연산의 지속으로 실현되는 이 과정과 구조의 순환적 역동성이야말로 사회의 실체”(115쪽)라고 루만은 이야기합니다.
루만은 현대사회를 소통과 접속의 전면화로서의 ‘세계사회’로 이해합니다. 현대에 이르러 기술적-경제적 조건의 변화에 따라 소통과 접속을 막는 지리적-문화적 장벽이 해체되었습니다. 이로 인해 장소적 공동체들이 하나의 유일한 포괄사회로 빨려들게 되었고 장소를 초월한 소통과 접속이 모든 것을 지배하게 되었습니다. 기존의 장소적 공동체는 지워지는 것이 아니라 “노동 자원의 공급지나 관광자원”으로서 “추상적 사회에 포섭되어 기능적으로 분화된 사회의 원천이”(114쪽) 됩니다.
이러한 변화의 배후에는 미디어-환경의 변화가 있다는 것이 다이고쿠의 진단입니다. SNS는 접속과 소통을 가속화하고 영구화함으로써 기술적 환경 속에 세계사회를 구현합니다. 빅데이터와 인공지능은 모든 것을 데이터화하고 데이터 분석을 우리 일상으로 끌고 들어옴으로써 데이터의 자기지향적인 운동에 우리 모두를 끌어들입니다. 그래서 우리는 탈중심적이며 목적이 제거된 부단한 연산 작용 속에서 하나의 노드로 기능하게 됩니다. 다이고쿠에 따르면 정보사회로서의 세계사회, 세계사회로서의 정보사회에는 외부가 없습니다. 따라서 사회에 맞서는 개인, 사회 변혁의 주체란 더 이상 존재하지 않으며 우리는 소통의 연쇄 속에서 특정한 기능을 부여받거나 그것을 박탈당할 뿐입니다.
문제는 일단 세계사회로서의 정보사회가 존재하게 되면 우선 그것은 우리에게 하이데거가 말한 ‘몰아세움’으로 기능하게 된다는 점입니다. 개인적인 차원에서는 유용성을 가져다주는 것처럼 보이는 기술들이 전체사회의 차원에서는 우리를 지배하고 효율성과 쓸모 있음/쓸모 없음의 분류에 따라 우리의 삶을 재조직하게 된다는 것이죠. 네트워크 미디어는 또한 일종의 ‘판옵티콘’으로 작동하기도 합니다. SNS는 시공간적 제약을 넘어 익명적 소통을 확장함으로써 삶의 모든 순간을 접속 중ON이거나 적어도 접속을 준비 중인stnad-by 상태로 만듭니다. 이는 우리에게 익명의 시선들에 지속적으로 노출되는 것과 같은 효과를 줍니다. 지배자-피지배자의 구분이 없는 판옵티콘이 출현한 것이지요.
저는 시장 지배의 확장이 다이고쿠씨가 말하는 ‘몰아세움’의 구체적인 한 형태일 수 있겠다는 생각을 했습니다. 제가 요즘 경제인류학 세미나에서 읽고 있는 《차가운 계산기》라는 책은 정보의 수평적 확장이 곧 경제적 논리의 확산이 될 수 있음을 보여줍니다. 가격비교 사이트나 여행지 리뷰 사이트, 각종 별점 시스템들은 다양한 상품과 서비스들을 한 눈에 비교할 수 있도록 해주는데요. 이렇게 정보가 널리 공유된 결과 구매자들은 ‘가성비’에 혈안이 된 존재로 변모하고, 판매자들은 가격 경쟁이나 구매자들의 평균적 요구 혹은 기대에 복종할 수밖에 없도록 강제됩니다. 모두가 쓸모있음/쓸모없음의 분류를 행동의 지침으로 삼도록 유도되는 것이지요.
정보사회에서 윤리는 가능한가?
추천사에서 진태원샘이 말씀하신 것처럼 이 책의 백미는 종장인 것 같습니다. 종장에서 다이고쿠는 정보사회에서 윤리의 가능성에 대해 질문합니다. 종장을 읽으면서 우리가 지금 겪고 있는 문제들을 낯설게 볼 수 있었던 것 같습니다. 우리가 매일 경험하고 있기에 너무나 당연하게 여겨지지만, 또 너무 당연해서 정작 질문해보지 않았던 문제들. 예를 들면, 어째서 소통이 광범위해질수록 당파주의가 더 판을 치는 것처럼 보일까? 왜 정보의 접근성이 높아질수록 가짜뉴스가 확산되는 것일까? 같은 질문들이요.
“여기서 확인하고자 하는 것은 윤리 또한 대중매체와 마찬가지로 어떤 권위의 승인을 필요로 한다는 것, 이에 비해 네트워크 미디어는 그 권위를 이차원적 평면성에 입각해 원칙적으로 무화하는 구조를 띤다는 점이다. 이는 기본값인 익명성으로 인해 도덕의 자리인 인격의 소멸을 뜻한다. 정보사회의 본격화로 인한 ‘도덕/윤리’가 위기에 직면한 것이다.”(다이고쿠 다케히코, 『정보사회의 철학』, 박영스토리, 207쪽)
저자는 “미디어 기술은 사회적 아프리오리나 사회의 가능성의 조건이 된다. 때문에, 그것은 도덕의 영도degré zéro이다.”(200쪽)라고 말합니다. 도덕과 윤리 또한 미디어 환경이라는 조건으로부터 분리되어 독자적으로 존재할 수 없다는 것이지요. 그런데 문제는 집단을 통합하는 원리로서의 윤리는 권위의 승인과 단일한 중심성을 가능하게 하는 장소적 한정을 그 조건으로 한다는 점입니다.
그런데 정보사회=세계사회는 이와 정반대의 원리에 따라 조직되어 있습니다. 정보사회는 장소적 제약으로부터 벗어나 있고, 바로 그러한 이유 때문에 고정된 중심을 갖지 않습니다. 이러한 기술적·사회적 배치를 간과한 채 ‘합의’를 도출하고 ‘보편성’을 되찾으려고 하는 것은 소용이 없습니다. 그래서 저자에 따르면 정보사회에서 우리에게 익숙한 통합의 원리로서의 윤리와 도덕은 위기에 처해 있습니다.
다이고쿠씨는 정보사회에서 윤리의 가능성은 체계의 바깥을 상상하는 일에 달려 있다고 말합니다. 앞서 말했듯 정보사회=세계사회는 법, 정치, 경제, 학문, 친밀관계, 의료와 같은 기능적 분화체계에 의해 인격을 다중적으로 포섭합니다. 그리고 이 포섭된 인격이 체계의 실체를 이루는 소통이라는 연산을 담당합니다(222쪽). 그런데 이는 언제나 배제와 박탈을 전제합니다. 정보사회는 인격을 부여하는 동시에 고립된 개인을 만들어내기도 합니다.
총체적인 소통으로서의 정보사회는 언제나 연산의 과정 외부로 밀려나는 타자들을 만들어내는 것이죠. 따라서 배제된 목소리에 귀를 기울이는 것은 체계의 탈구축과 비연속적 변형을 가능하게 할 수 있습니다. 그런데 이것은 단순히 약한 자들의 말을 듣는다는 차원을 넘어서, 쓸모와 쓸모 없음을 가르는 우리 자신의 전제, 우리의 소통을 구축하는 조건에 대해서 질문하는 일을 수반하겠죠. 그리고 저자가 예로 들고 있는 돌봄 윤리의 경우처럼 체계의 틀로 환원되지 않는 마주침들을 적극적으로 구성하는 일과도 연관될 것입니다.
다음 시간에는 로지 브라이도티의 『포스트휴먼 지식』을 4장까지 읽어오시면 됩니다. 발제는 난희샘, 희욱샘, 영아샘, 경희샘께서 맡아주셨는데 누구 몇 장을 맡으셨는지 기억이 나지 않네요(^^;). 혹시 기록해두신 분 계시면 댓글에 남겨주세요! 간식은 제가 준비합니다.
1장 난희샘, 2장 희욱샘, 3장 영아샘, 4장 경희샘 이었던걸로 기억해요~!
건화쌤의 글은 생각할 거리들을 줘서 참 좋아요~❤️
교사로 살면서 무용함, 특히 아이들의 무용함을 참지 못했던 것 같아요. 그때 저에게 유용함은 체제가 요구하는 언어(태도)를 가지고 있어서 언제든 체제 안에서 대체가능한 존재가 되는 것(?). 지금도 교사로 돌아가면 그것들을 답습하겠지요. 하지만 제가 생각하는 그 쓸모의 가치를 아이들 모두가 받아들이는 듯 하면서도 항상 그 외부가 작동하고 있었죠. 그 외부를 없애기 위해 무던히 애썼어요. 그 외부를 교육의 실패라고 생각하면서. 하지만 늘 살아남는 그 외부(?)가 신기했지요. 그러다가 쓸모없음이라는 그 외부가 교실의 변화나 환기를 가져오면서 생명력을 지속시키는 것은 아닐까 하는 생각을 하곤 했습니다. 그럼에도 저의 역할을 많이 변화시키지는 못했지요. '쓸모'와 쓸모없음을 가르는 우리 자신의 전제'를 바라보는 것을 제안하는 건화샘의 글을 읽으며 무용함을 제거해야 할 것으로 생각하는 저의 태도가 떠올랐어요. '쓸모없음'에 대한 저의 폭력성은 무엇인지 두고 생각해봐야겠습니다. 정보사회의 윤리에 대한 갈증이 있던 터라 맛있게 읽었습니다.