이 글은 『일송학술총서』에 실릴 글의 축약본이다. 글의 원본을 Scispace라는 인공지능에게 비판해 보라고 했다. Scispace는 학술 연구자들의 논문 심사평을 학습한 AI이다. ‘경험적인 근거가 약한 가운데, AI가 인류에 미칠 영향을 편향되게 부정적으로 인식한다’는 것이 비판의 요지였다. 난생 처음 AI한테 비판받는 즐겁지 않은 경험이었지만, 정곡을 찌른다. 사실 이 글은 지금 막 시작한 AI 문명 혁명의 초입에서의 전망이므로 경험적인 근거가 빈약하다. 또 AI의 긍정적인 효과보다는 잠재적 위험성에 초점을 맞춘 것도 사실이다.

유발 하라리의 표현처럼 AI가 인간의 언어를 해킹^hacking하는 데 성공했다. 문명 대변혁을 앞두고 있는데 AI에 관한 논의는 이공계 분야의 전문가들이 독점하고 있다고 해도 과언이 아니다. 나는 사회과학의 관점에서 현재 빠르게 발전하고 있는 AI 기술의 문명사적 의미를 되새겨 보려고 한다.

AI 혁명은 산업의 범주를 크게 뛰어넘는다. 그렇기 때문에 AI 혁명을 4차 산업혁명으로 인식하는 것은 AI가 가져올 변화의 크기나, 부작용에 대한 우려를 과소평가하게 만든다. 신이 인간을 창조한 이래, 인간이 만든 가장 위대한 발명품으로서 AI는 스스로 학습하고 스스로 판단할 수 있는 능력을 점차 키워가면서 인류 문명을 획기적으로 바꿀 것으로 예상된다.

역사적으로 인류는 두 가지 대상과 상호작용하면서 발전해 왔다. 첫째가 자연이고 둘째가 인간이다. 자연과 상호작용하면서 자연과학과 기술, 즉 좁은 의미의 문명을 발전시켰다. 다른 인간과 상호작용하면서는 규범, 가치, 상징 체계 등 문화를 만들어 왔다. AI의 출현은 인간의 세 번째 상호작용 대상이 생겨난 것을 의미한다. 자연과 인간과 상호작용하면서 생겨난 것을 각각 문명과 문화라고 한다면, AI와 상호작용하면서 생겨날 새로운 체계를 무엇이라고 불러야 할지, 또한 인류가 보다 나은 세계로 나아가고 있는지 지금으로서는 알 수 없다.

AI에 대한 낙관론과 비관론이 갈라지는 분기점은 ‘AI 통제 가능성^{controllability}’에 있다. 통제 가능성에는 대략 네 가지 정도의 의미가 있다. 첫째, 영화 터미네이터의 SKYNET처럼 미래에 스스로 자의식을 갖는 AI가 출현할 경우, 인간이 마주할 실존적 위험을 통제할 수 있는가? 둘째, 연관된 문제로서 AI가 인간의 이해와 배치되지 않도록^alignment 하는 수학 알고리즘을 만들 수 있는가? 셋째, AI의 모든 목적 함수의 조건을 명시할 수 있는가? 예를 들어, AI에게 “이 방의 탄산가스를 줄여줘”라는 명령을 내렸을 때, AI가 탄산가스 발생 원인이 인간의 호흡이라는 것을 깨닫고 인간을 해치게 되는 경우를 막을 수 있을까? 인간을 직접 해치지 않더라도, 탄산가스를 없앨 예상치 못한 방법을 고안해서, 의도치 않게 인간이 다치게 될지도 모른다. 끝으로 악한 의도를 갖고 있는 악인에 의해 AI가 악용되는 것을 막을 수 있나? 악인이 AI를 이용해 인간에게 치명적인 화학물질이나 바이러스를 만들어 내는 일, 네트워크의 보안 취약점을 뚫는 일 등이 즉각적인 위험의 예가 된다. 오픈소스로 개발되는 AI를 누가 어떻게 사용하는지 통제할 수 있는 방법은 없어 보인다.

과학철학에서 창발^Emergence은 낮은 수준에서는 없는 새로운 속성이나 행동이 높은 수준에서 나타나는 현상을 일컫는다. “전체는 부분의 합보다 크다”라는 유명한 명제로 대표되는 창발 현상은 거의 모든 학문 분야에서 관찰된다. 가령, 수많은 물 분자들이 모여서 형성하는 대기에는 개별 물 분자에는 없는 습도나 온도라는 새로운 속성이 생긴다. 도덕적인 사람들만 모인 곳에 비도덕적 사회가 생기기도 한다. AI가 위험할 수 있다는 주장은 모두 AI의 창발에 주목한다. 트랜스포머라는 기술은 인간의 언어에서 다음 단어가 무엇일지를 예측하는 확률 모델일 뿐인데, 모델이 커지고 데이터 양이 많아지면 어느 순간 공감이나 추론 능력을 창발한다. 그 이유를 아는 사람이 없으니 위험을 느끼는 것이다.

《조국 백서》와 《조국 흑서》 사이에 집단이 분열된 이유는 단순한 AI를 적용한 정보 추천 알고리즘 때문이다. AI의 추천이 서로 상대 집단에서 소비하는 정보를 접할 기회조차 갖지 못하게 만든다. 기술이 계속 발전함에 따라, AI가 개인의 취향을 읽어 내며 컨텐츠의 내용을 파악하는 능력은 획기적으로 개선되었다. 게다가 정보를 만들어 낼 수 있는 능력도 생겼다. 향후 개인화된 감성에 특화된 ‘친밀하기 알고리즘^{intimacy algorithm}’은 아담과 이브를 유혹했던 뱀처럼 될 수 있다. ‘대량 수학 살상무기^{Weapons of Math Destruction}’에 의해 공동체의 분열은 더욱 가속화될 수 있기에 인류는 공동체와 민주주의의 몰락이라는 위험에 직면한다.

2023년 사이언스 저널에 AI가 인간의 생각을 읽을 수 있다는 획기적인 논문이 실렸다. ‘기능적 자기 공명 영상^fMRI’ 데이터를 분석하여, 인간의 뇌가 보았던 이미지를 재생한 것이다. 아래 그림의 윗줄이 인간이 실제로 본 이미지이고, 아랫줄이 AI가 기능적 자기 공명 영상 데이터를 분석해 그려 낸 것이다.

생각만은 자유로울 수 있었던 인간 고유의 ‘인간다움’이 손상되었다. “마음속으로 간음한 자는 간음한 자”라는 성경의 가르침을 실천하는 기술로 사용되지야 않겠지만, 독재자가 저항 투사의 생각을, 경찰이 피의자의 생각을 읽어 낸다고 상상하면 생각의 자유로움은 치명타를 입었다. 이러한 변화는 인류가 발전시켜 온 자유민주주의에 중대한 도전을 던진다. 자유민주주의 체제는 인간은 개인이 자신의 행동을 자유롭게 선택하고 결정할 수 있는 ‘자유의지’를 갖고 있다는 가정에 기초한다. 만일 인간의 의식과 생각이 물질적 혈류의 패턴이라면, 혹은 뉴럴 네트워크 사이에 흐르는 전달물질의 패턴에 불과하다면^physicalism, 자유의지는 손상된다. 뇌의 물질적 상태에 의해 유발된 행동에 대해 책임을 묻기 어렵다. 범죄와 처벌, 교육을 통한 기회 제공과 그에 따른 사회적 불평등에 대한 철학적 기초가 모두 흔들릴 수 있게 되었다.

AI는 동영상 속의 언어도 순간적으로 번역해 낸다. 수많은 온라인 영어 강의 컨텐츠들을 모두 한국말로 자동 번역하니, Coursera, Eduex 온라인 교육플랫폼의 강의를 모두 자국어로 들을 수 있다. 전 세계에서 강의 제일 잘하는 교수 한 명만 강의하고, 나머지 교수들은 모두 조교^TA의 역할을 수행하게 될지도 모른다. 뿐만 아니라 동물의 언어를 번역해서 인간은 돌고래, 원숭이, 개, 닭, 고양이 등 동물과 소통하기 시작했다.

AI는 인간 정체성에도 영향을 미치기 시작했다. 화가가 되기 위해 10년 이상 서양화를 공부하던 미술대학 지망생은 자신보다 그림을 더 창의적으로 그리는 AI를 접하고는 자신의 정체성에 대해 의문을 갖는다. 자신만이 추구할 수 있는 회화의 가치와 의미에 대한 정체성 위기가 생긴 것이다. 막스 베버는 과학이 발전함에 따라 탈주술화가 진행되고 탈매혹화^{disenchantment} 과정을 겪는다고 진단했다. 번개를 신비로움과 경외로 받아들이던 사람들이 전기의 스파크로 이해하면서 매혹은 사라졌다. 인간이 추구하던 의미도 탈의미화 과정을 거칠 것으로 예상된다.

최근에 나는 OpenAI사의 GPT4의 GPTs를 활용하여 나만의 AI를 만들었다. 내가 평생 쓴 영어 논문들을 학습시킨 후 구체적인 질문을 던졌더니, 오래전 써서 가물가물하던 내용을 정확하게 집어 답한다. ‘무서울 정도로 똑똑함’, Scary Smart. 구글 개발자가 AI에 관해 쓴 책의 제목이 요즘 내가 AI를 쓰면서 가끔씩 느끼는 놀라움이다. 아직 갓난아기 AI인데 ... 이 놀라움 때문에 “처녀 비행하는 로켓에 온 인류가 탑승한 꼴”이라고 느끼는지 모른다.

기술은 사회 안에서 만들어진다. 사회 구성원 모두가 경각심을 갖고 AI의 잠재적인 위험성에 대한 담론을 확대하며 공유하는 것이 인류가 AI와 더불어 사는 지름길이다. 여기에 사회과학자들에 의한 AI 담론 형성이 중요해지고 있다.