생명 그 자체의 감각 / The Coming Wave / Neural Link

맥락없이 예약했던 책들이 차례가 되어 본 책들인데, 조금씩 연관된 부분들이 있어 같이 적는다.

제목의 순서대로 읽었는데, '생명 그 자체의 감각'은 정독을 하자니 너무 노력과 시간이 들 책이라, 그냥 저자가 무슨 얘길 하는지나 보자는 마음으로 훑어본 수준이다. 나머지 책들은 어렵진 않으나 관심가는 부분만 훑어 읽었다.

 

 

의식이라던가 뇌속에서 일어나는 일들은 항상 관심사 중 하나였지만, 최근에는 AI와 연관되어 관심이 가는 부분도 있다.

특히 LLM은 몇번 써보고 많은 사람들처럼 할루시네이션에 짜증(혹은 안도)을 내곤 시기상조라고 여기기도 하였으나...

최근에 내가 뭔가에 대해 생각하고 심지어 결정을 내리기까지의 과정을 가만 들여다보니, 이건 LLM이랑 과정이 너무 유사한데? 싶은 거다. ㅎㅎㅎ 어떤 글들을 읽으며 내가 그 글들에 영향을 받는 과정이 느껴졌다. 물론 어떤 글들을 읽을지 선택하고, 어떤 글들은 무시하고, 어떤 글들은 취사선택하기도 하지만, 뭐 그것도 지난 학습의 결과가 아니라고 하기도 어렵다.

 

최근에 사람들이 말하는 것도 LLM스럽다고 느낀 계기 중 하나는, 회사에서 높은 임원들이 사내 행사에서 말을 하거나 질의응답을 하는 행사에서였다. 특히나 라이브로 올라온 질문에 대한 대답은 어찌나 LLM스러운지, 매끄럽게 말은 되는데 무슨 말인지 핵심은 한개도 없는 것이었다. (사실 이걸 녹취해서 문자화해서 본다면 매끄럽지조차 않을 것이다. ㅋㅋ)

 

또 하나는 유명한 좌뇌와 우뇌의 뇌량 연결이 제거된 환자의 사례( '생명 그 자체의 감각' 책에서도 언급되고, 가장 인간적인 인간 책에서도 나온 사례)에서 얻은 힌트이다. (우뇌가 받아들인 정보로 인한) 자신의 행동의 이유를 알지 못하더라도 언어를 담당하는 좌뇌는 그것을 나름대로 최선을 다해 설명하려고 한다. LLM의 할루시네이션이 연상되는 부분이 아닐 수 없다.

 

그래서 AI가 인간 수준의 언어 기반 능력은 금방이겠구나 생각이 바뀌었다. 사실 알파고 이전의 바둑 프로그램도 95% 이상의 인간에게 바둑을 이겼을 것이다. 이젠 언어 기반의 범용 능력에 있어서도 AI가 인간의 95%는 이미 이기고 있을 것이다.

 

지식의 단순 요약만이 아니라 좀더 복잡한 단계를 거쳐야 하는 질문을 LLM에게 해보다 보면, 확실히 '지능'이란 것은 있다고 느껴진다. 그렇다면 이제 질문은 "AI가 '의식'을 가질 수 있을까?" 이다. '의식'을 가지지 않고도 튜링이 제안했다는 5분간 대화로 판단하는 튜링 테스트(또다시 가장 인간적인 인간 소환)는 최신의 LLM을 최적화시키면 무난히 통과하지 않을까? 그렇다면 '의식'을 가졌는지 여부는 또 어떻게 확인할 수 있을까?

 

----------------------------

 

'생명 그 자체의 감각'이 AI를 타겟으로 AI는 의식을 가질 수 없다고 주장하기 위해 나온 책은 아니다.

LLM이 본격적으로 유행하기 전인 2019년에 나온 책이기도 하고, 의식 자체에 대해 이야기하고자 하는 책이다. 하지만 AI에 대한 얘기도 나온다.

 

최근 의식을 설명하는 가장 유력한 가설은 '통합정보이론(IIT: Integrated Information Theory)’과 ‘전역 작업공간 이론(GNWT: Global Neuronal Workspace Theory)’ 이라고 하는데, 이 책은 전자의 입장을 주장하는 책이다. 말이 매우 복잡하고 잘 이해가 안되지만, 대략 각각 범심론과 계산주의적 관점이라고 보면 된다(고 한다).

 

저자가 지지하는 통합정보이론의 관점은, "의식은 경험"이라는 명제에서 시작한다. 그래서 복잡한 얘기를 거쳐, "경험이란, 의식 상태의 시스템을 지원하는 최대로 환원 불가능한 원인-결과 구조와 동일하"고, '통합정보'의 최댓값이 0이 아닌 모든 체계들은 '내재적인 인과적 힘'을 갖기 때문에 "의식이 있다"고 할 수 있다는 것이다.

출처:https://www.hani.co.kr/arti/culture/book/1128570.html (내용도 일부 인용)

 

이 관점에서, 연산과 메모리가 분리되어 입력에서 출력까지 한 방향으로 흐르는 계산 기계일 뿐인 컴퓨터/AI는 '통합정보'가 0인 까닭에 지능은 계속 발전하더라도 의식은 없다고 본다. 반면 아무리 작은 단세포 유기체, 심지어 인공적으로 배양된 피질 오가노이드 같은 것도 어느 정도의 '경험'을 하기에 의식이 있다고 본다.

 

좌뇌와 우뇌가 분리된 사람의 실험 얘기에 이어, 반대로 서로 다른 2명의 뇌를 연결한다면...이라는 가정은 특히 흥미롭다. 서로 다른 2명의 뇌를 연결시키는 것은 좌뇌, 우뇌와 비슷하게, 한 사람의 한쪽 뇌를 마취시켰다 풀려나는 과정과 유사할 것이라는 설명이다. 인간은 한쪽 뇌가 꺼져도, 여러 기능적인 제한을 받더라도 상당 수준으로 '정상적인' 사람처럼 행동할 수 있다. 어떻게 보면 서로 다른 능력과 인격의 2개 뇌가 한 공간에 동거할 뿐 아니라 뇌량으로 아주 밀접하게 연결되어 통합적으로 하나의 존재로 기능할 수 있게 된다. 마찬가지로 서로 다른 뇌가 연결되면, 적은 수준의 연결에서는 각각 다른 정체성을 유지하다가 어느 임계점을 넘으면 통합된 하나의 의식을 가진 존재가 될 것이라는 예상이다.

근거는 별로 없는 순전한 내 상상이긴 하지만, 두(혹은 그 이상) 사람의 뇌가 연결되는 건 좌뇌와 우뇌가 연결되는 것과는 좀 다르지 않을까? 좌뇌와 우뇌는 기능적으로 상호 보완적으로 서로 다른 부분이 있고, 특히 언어를 관장하는 것이 좌뇌이기 때문에 비슷한 좌뇌끼리 붙여놓으면 이중인격 같은 일이 일어날 수도 있지 않을까?

 

----------------------------

 

이 책이 지지하는 통합정보이론에 반대하는 목소리도 많은데, 작년 말 관련 연구자들이 이 이론을 유사과학이라고 비난하는 성명을 내기도 했다고 한다. 특히 한글 번역본은 시작부터 크게 지지받지 못하는 느낌인데, 추천사 쓴 두 명의 글도 정말 형식적으로 추천한다는 느낌이 팍팍 나고, 심지어 번역한 철학자분은 통합정보이론 반대편에 가까운 듯한(확실하진 않음) 처칠랜드 부부의 신경철학 연구자이다. ㅎㅎ

 

사실 이 통합정보이론이 맞냐 틀리냐도 궁금하긴 하지만, 과연 그 이론이 맞다고 해도 발달된 AI가 돌아가는 컴퓨터 구조가 의식이 없다고 할 수 있을까? AI가 거치는 학습이 과연 '경험'과 다르다고 할 수 있는 걸까? 개별적인 입력-출력 결과만 보면 단순한 계산처럼 보일지라도, 통합적인 체계로서 AI가 돌아가는 시스템이 유기체의 '경험'과 근본적으로 다르다고 할 수 있는 것인지가 궁금하다.

 

여전히 AI는 경험할 수 없다고 한다면, 책 Neural Link에도 소개된 예쁜꼬마선충의 신경회로를 시뮬레이션 하는 경우에는 어떻게 답할 것인가? 그것도 의식과는 상관 없다고 한다면, 뇌 오가노이드와 컴퓨터를 결합하면 어떻게 될까?

 

책 Neural Link에서 실제로 이런 사례인 'DishBrain' 얘기가 나온다. 마이크로 전극 배열 위에서 뇌 오가노이드를 배양하여 Pong 게임을 능숙하게 수행하도록 훈련시킨 DishBrain 연구 결과가 '22년에 발표되었다고 한다. 통합정보이론의 관점에서 이것은 어느 정도 의식을 가지고 있는가?

 

----------------------------

 

나날이 발전하는 LLM을 보면서, 언어를 '구사'하는 AI에게 사람들이 AGI나 의식을 떠올리는 것은 어느 정도 자연스럽다.

이전부터 언어가 인간 사고에서 차지하는 역할은 과소평가되어 오진 않았으니까.

 

의식의 기원같은 책에서는 아예 언어/문자의 발달로 인해 인간에게 의식이 생겨났고, 그 이전엔 인간에게 의식이란 것이 존재하지 않았다고까지 했다. 여기서도 언어이다. 언어가 인간 사고의 많은 부분을 차지하는 것은 쉽게 생각할 수 있지만, 의식의 발생 자체가 언어 때문이라니. 그러면 AGI는 결국 LLM처럼 언어 학습을 통해 의식이 생겨날 것일까? 코흐가 기겁할 만한 생각이다.

 

----------------------------

The Coming Wave는 (다루고 있는 매우 많은 주제들 중에) 'AI는 의식을 가질 수 있는가?'라는 같은 질문에 대해 전혀 다른 관심사를 가지고 있다. 저자에게는 철학적으로 AI가 의식을 가질 수 있는가는 별로 중요한 문제가 아니고, AI가 의식을 가짐으로 해서 인간을 위협할 가능성이 있느냐가 관심사다. 하지만 이 또한 저자에게는 중요한 문제가 아닌데, AI에게 의식이 없어도 충분히 powerful 해지면 의식을 가진 인간들에 의해 오용/악용되어 파괴적인 결과를 가져올 수 있기 때문이다. 그러니까 저자의 관심은 만들고 사용하는데 상당한 제한이 따르고 감시도 비교적 용이한 핵무기에 비해, AI와 생명공학 기술들은 너무 쉽고 싼 가격으로 누구나 접근 가능한 것이 문제인 것이다.

 

저자는 최근 Microsoft에 고위직으로 합류했는데, 과연 책에서 AI에 우려하던 것들을 막기 위해서도 영향력을 행사할지 궁금하다.

 

----------------------------

질문만 늘어놓았으니 예상도 한번 해보자.

근거는 내 머리속 LLM 로직이다.

 

1. 현재 paradigm의 LLM은 Parameter와 학습량이 충분히 늘어나더라도 AI에 '의식'은 생겨나지 않을 것이다.
2. '의식'이 없는 AI는 인간 의식과 결합하여 충분히 강력한 여러가지 성과들을 내겠지만, 한계를 돌파하는 물리법칙 등을 발견해내지는 못할 것이다.
3. 하지만 결국 다른 방식의 AI들이 발전하면서 '의식'도 생겨날 것이다. 그 '의식'은 외로움을 느끼는 존재였으면 좋겠다.

진화의 경로는 고도의 지능을 가지게 되는 것이 아니라 고도의 지능을 만들어내는 것이었다니, 우리는 과연 대체되지 않고 함께 살아갈 수 있을까?