AI? 에이전트? 그래도 인간이 살아남는다

이세돌:알파고 2국 37수. "프로의 감각에서는 생각하기조차도 힘든 수가 나왔습니다." (출처 : https://www.sedaily.com/NewsView/2D5JQX0N6H)

 

 

 

2016년 이세돌과 알파고가 붙었을 때, 많은 사람들은 당연히 이세돌이 이길 것으로 봤다. 인간이 딥블루에게 체스를 패한 것은 이미 1997년이지만, 바둑은 다르다고 믿었다. 흑과 백이라는 극도의 단순함. 그 속의 무한한 가능성. 바둑 좋아하는 사람들은 다 이렇게 말했었다. 기계 따위가 넘볼 수 없는 예술의 경지, 도의 영역이라고.

 

왠지 느낌은 좀 안 좋았지만 그래도 나는 2:3으로 이세돌이 이길 것이라고 점쳤었다. 점점 강력해지는 기계에 대한 공포심을 애써 부정하고 싶기도 했고, 여러 해 실험실 경험상, 기계 특유의 치명적인 바보스러움을 많이 봤기 때문이다. 놀랍게도 결과는 인간의 일승 사패. 그것도 압도적 패배. 일개 기계가 천재 이세돌을, 인간이 생각지도 못한 새로운 수를 선보이며 눌렀다. 무서웠다. 인간은 이제 곧 빅브라더, 터미네이터에게 쫓기는 신세가 될 것인가?

 

알파고는 강력하다. 못 이길 사람이 없다. 바둑에서만큼은. 그런데 컵을 어떻게 들어야 물이 안 쏟아지는지는 영원히 모른다. 바둑용으로 특화된 알파고가 전혀 무섭지 않은 이유이다. 그러나 챗지피티, 제미나이 같은 언어 생성형 인공지능은 좀 다르다. 인간처럼 말하고 인간처럼 글을 쓴다. 정확한 목표와 구체적 방향 지시만 있으면 그들은 분야를 가리지 않고 엄청나게 빠른 속도로 답을 술술 말한다. 사주 상담 같은 장난대화 말고, 진지하게 책상에 앉아 그들과 제대로 대화하면서 일하면 내가 2시간 정도는 족히 걸렸을 일을 몇 분만에 해 치울 수 있다. 이미 그들은 정말 똑똑하다. 그럼 챗지피티는 바둑도 알파고한테 이길까? 충분히 그렇다고 본다. 지금보다 더 진화할 수 있다면.

 

인공지능의 진화

 

알파고는 이 세상 기보란 기보는 다 읽고, 스스로와 24시간 내내 끝없이 대국하면서 연습했다고 한다. 혼자서 열심히 세계 최강 바둑 실력을 터득했다. 즉, 스스로 진화할 줄 아는 기계다. 그러나 챗지피티류의 언어 생성 모델은 진화를 못한다. 설사 알고리즘적으로는 가능하더라도 실제로는 지금보다 더 나아지는 방향성을 갖는 진화가 일어날 수 없다. 지능의 진화라는 것은 새로 얻는 데이터를 얻을 때마다 지식을 업데이트하고 스스로 더 나은 쪽으로 행동을 바꾸는 능력이라고 볼 수 있는 데, 챗지피티는 이것을 아예 못한다.

 

이유는 간단하다. 오로지 바둑만 두는 알파고는 ‘승률’이라는 명확한 목적 함수가 있다. 그래서 개발자는 보상체계를 정확하게 설계할 수 있었고, 알파고는 이 보상을 최대화하는 방향으로 바둑을 두는 학습 루프를 무한히 반복하며 실력을 끝없이 끌어올릴 수 있다.

 

이와 달리 챗지피티는 답이 유창하면 그걸로 끝이다. 인간이 만든 방대한 언어와 조건들 속에서 가장 그럴듯한 말을 고를 뿐, 뚜렷한 목표가 없다. 유창함은 정답이 존재하는 개념이 아니라서 점수화할 수도 없고, 그래서 보상 루프 자체를 만들 수가 없다. 언어적 유창함이 최적화된 상태에 한 번 도달하면 거기서 멈춘다. 더 좋은 답을 찾으려는 동기도 없다. 기계는 창의적인 존재가 아니다.

 

유창함이라는 것을 억지로 어떻게든 정의해서 목표를 설정해 주었다고 치자. 챗지피티가 대화하면서 얻는 데이터를 스스로 업데이트하면 무슨 일이 벌어질까? 챗지피티는 알아서 더 똑똑해질까?

 

우리 몸을 만드는 DNA를 새로 업데이트하는 방법을 생각해 보자. DNA 서열을 바꾸는 것은 바로 돌연변이다. 우리가 잘 아는 영화 ‘헐크’는 평범한 과학자가 사고로 감마선에 노출된 후 전신에 돌연변이가 일어나 초인적인 근육괴물 헐크로 변신한다는 이야기다. 영화와는 달리 현실에서 벌어지는 감마선 노출 사고 결과는 어떤 가? 슬프게도 방사선 화상으로 인한 조직괴사나 암으로 결국 사망한다. 수많은 무작위 돌연변이가 우연히 전부 기능을 향상하는 방향으로만 작동하는 경우의 수는 현실적으로 제로다. 그렇기 때문에 방사선 사고 후 돌연변이로 슈퍼맨으로 변신한 사람이 역사상 단 한 명도 없는 것이다.

 

챗지피티 같은 언어생성형 인공지능의 파라미터 공간은 사실 지난 글에서 말한 육각관계 복잡계를 훨씬 뛰어넘는 초고차원 불안정 복잡계다. 수억, 수조 개의 파라미터가 얽힌 억 차원 공간을 자꾸 업데이트한답시고 건드리면 총체적 붕괴가 일어나 헛소리 제조기가 되거나, 오히려 바보가 될 확률이 100%다. 데이터 업데이트로 챗지피티가 스스로 더 똑똑해질 거라는 것은 나도 감마선을 쬐면 헐크가 될 거라는 희망과 다를 바가 없다.

 

에이전트 인공지능

 

그렇다면 진화가 불가능한 챗지피티나 제미나이가 진화해 에이전트가 된다는 건 뭘까? 요즘 ‘에이전트’라고 부르는 것들은 언어생성모델 본체는 건드리지 않고, 그 바깥에 있는 행동 결정 레이어를 따로 훈련하는 방식이다. 즉, 개발자들이 아주 제한된 범위에만 조절 회로를 붙여, 제한된 방식으로만 진화를 허용하는 것이다. 이것이 성공하면 인공지능은 그 제한된 범위 내에서만큼은 훨씬 똑똑해질 수 있다.

 

이게 테크 자본가들이 제시하는 미래이다. 이런 에이전트 인공지능은 자기 분야만큼은 보통 인간들보다 훨씬 빠르게 똑똑하게 쉬지도 않고 일할 수 있을 것이다. 그럼 우리는 앞으로 모두 에이전트에게 자리를 뺏기고 잉여 동물이 되어, 터미네이터에게 쫓기는 신세가 될까?

 

겁에 질린 마음을 바로잡고 차분히 공부해 본 결과, 나는 그렇지 않다는 결론에 도달했다. 애초, 현재의 언어생성형 인공지능은 위에 말한 태생적 한계 때문에 에이전트라 해도 현명한 사람처럼 사고하는 완전한 범용인공지능 (AGI)이 되기 어려울 것이다. 정말 너그럽게 생각해도 한 분야는 박식해도 다른 분야는 깜깜이인, 소위 사차원, 사오정, 신인류 같은 괴짜 지능이 될 것이다. 사람의 지능은 수백만 년 진화의 산물이다. 몇 년 만에 쉽게 흉내 낼만한 것이 절대 아니다.

 

비싼 인공지능

 

그럼에도 불구하고 테크자본가들이 이토록 인공지능에 열을 올리는 이유는 결국 돈 때문이라고 생각한다. 사장이 아닌 내가 상상해 보아도, 월급 받아가고, 수시로 커피 마시러 나가고, 결근에, 가끔 옆사람과 다투기도 하는 인간대신, 전등도 창문도 없는 방에 365일 24시간 내내 쌩쌩 돌아가는 튼튼한 기계를 들여다 놓으면 비싼 인건비 고민은 앓던이 빠진 것처럼 싹 사라질 것 같다.

 

그러나 과연 그럴까? 인공지능들은 실수가 없을까? 병가 안 낼까? (낸다. 이건 다음 회에)

 

사람을 대신할 만큼 진화하는 인공지능에 반드시 필요한 것은 앞서 말했듯, 시스템붕괴를 막아줄 조절과 제한이다. 마치 원자력 병원에서 잘 제어한 방사능으로는 암을 고칠 수 있는 것처럼, 누군가가 끊임없이 세심하게 관리해야 한다. 그런데 이건 공짜로 되는 게 아니다. 개발자나 관리자 월급만을 말하는 게 아니다. 인공지능 모듈 위에 붙일 제어 모듈, 그들의 백업 모듈, 전체 시스템 관리 모듈 등등 온갖 장치들이 필요하다. 그것을 돌릴 에너지가 필요하다. 고장 수리도 해야 한다. 이게 다 비용이다. 즉, 인공지능의 진화는 구조적으로 비용이 기하급수적으로 늘어나는 방향으로 갈 수밖에 없다.

 

사오정에 약간 바보인 현재의 인공지능조차 지금 이 순간에도 인간의 뇌보다 훨씬 더 많은 에너지를 쓰고 있다. 그런데 거기에 진화모듈을 붙인다고? 이건 누가 돈 낼 건데?

 

회사 사장님들께 한마디 하고 싶다. 꾀부리면 안 됩니다. 세상에 공짜는 없어요. 사람은 사람과 살아야 돼요.

 

혹시 누군가 읽고 계시다면:

힘냅시다!! 싸서 살아남든, 똑똑해서 살아남든, 어쨌든 살아남아서 넷플릭스 보면서 맥주 한 캔 마실 방 한 칸 있으면 그게 이미 잘 사는 겁니다. 어때요, 참 쉽죠?

 

인생살이 세상 쉬움을 가르쳐주시던 밥 로스 아저씨 (출처: 나무위키 밥로스 (r836판)