[오윤희의 뉴스 저격] "인간이 AI노예 부리거나, AI가 인류를 멸망시키거나"

보스턴=오윤희 특파원
입력 2019.01.11 03:13

AI가 인간을 넘어설 때 인류가 맞이할 미래는… 맥스 테그마크 MIT 교수 인터뷰

2016년 이세돌 9단과 인공지능(AI· Artificial Intelligence) '알파고'의 대국(對局)은 많은 사람에게 충격을 주었다. 공상과학 소설처럼 인간의 창의성과 지능을 넘어서는 AI의 등장이 현실화되고 있는 데 대한 놀라움과 두려움 때문이었다. '알파고' 등장 후 2년여 AI 기술은 눈부신 발전을 거듭하고 있다. AI가 인간의 역량을 넘어서는 존재가 될 때 인류는 어떤 미래를 맞을까. 이런 의문에 대한 답을 얻기 위해 지난달 14일 맥스 테그마크 MIT 교수의 보스턴 자택을 찾았다.

◇"AI와 인간, 상호 영역 유지하며 공존하는 방법 찾아야"

테그마크 교수는 지난해 출간한 '라이프 3.0'에서 인간 수준을 훨씬 넘어서는 '초(超)지능'을 지닌 AI가 등장할 때 인류가 맞을 수 있는 12가지 시나리오를 제시했다. 인간이 AI를 노예로 부려서 노동에서 완전 해방되는 경우, AI가 인간을 지배하는 경우, AI가 인간을 멸망시키지만 인간의 능력을 물려받은 '후계자'로서 은하계로 지적(知的) 생명체를 팽창해 나가는 경우 등이다. 그는 "이 중 어떤 미래가 닥칠 것인가"하는 선택형 질문은 좋아하지 않는다"며 "우리에게 시급한 것은 '지금' 어떤 노력을 해야 하느냐는 것"이라고 했다.

‘라이프 3.0’의 저자인 맥스 테그마크 MIT 교수가 보스턴 소재 자택에서 “인공지능(AI)의 급속한 발전에 제대로 대응하려면 자국 중심주의나 ‘제로섬 게임’은 의미가 없으며 국경을 넘어 초(超)국가적인 관심과 노력이 필요하다”고 말하고 있다. /오윤희 기자
―우리가 어떤 노력을 해야 하는가.

"첫째, 집을 짓기 위해선 먼저 어떤 집을 만들고 싶은지 설계해야 하는 것처럼 우리가 어떤 미래를 만들고 싶은지에 명확한 밑그림을 그려야 한다. AI를 어디까지 발전시킬 것인지, 그것이 어느 수준까지, 어떤 일을 해 주길 바라는지에 대한 명확한 비전을 만들어야 한다. 둘째, 해킹과 버그(bug), 컴퓨터의 오작동을 막는 것에서부터 시작해 AI가 살상 로봇처럼 인류에게 해를 끼치는 존재가 되는 것을 막기 위해 AI 안전성 강화에 초점을 둬야 한다. 셋째, AI가 발전할수록 전체 부(富)는 증가하지만, 대신 인간 직업 중 상당수는 사라질 상황에 놓인다. 인류가 어떻게 성장의 파이를 함께 나누고, AI로 인한 부익부 빈익빈 현상의 심화를 막을지에 대한 연구가 필요하다."

―젊은 세대에 어떤 교육이 필요한가.

"기계가 단시간에 따라잡을 수 없는 창의력 교육이 시급하다. 미래는 평생 같은 직장에서 일하거나 평생 같은 분야의 일만 해도 되는 시대가 아니다. 당연히 새로운 지식과 기술을 부단히 배우고 숙련하려는 노력이 있어야 한다. 그런데 그런 교육보다 더 시급한 과제는 'AI와 인간이 어떻게 서로의 영역을 유지하며 공존할 수 있는가'이다."

―인간이 노동에서 해방된 후 성취감이나 기쁨을 어떻게 느낄 수 있나.

"탄광 인부 등 인간이 기피하는 일을 AI에 맡기고 사람들이 보람을 느낄 수 있는 일, 인간적인 대면 접촉이 핵심인 일자리를 더 늘리는 식으로 AI와 인간의 공존을 도모해야 한다. 또 인간이 더 이상 직장에 출근하지 않을 때 어떻게 인적 네트워크를 꾸릴 것인가에 대한 연구도 필요하다. 현대의 기본적인 인간관계는 모두 일터를 기반으로 이뤄진다. 따라서 AI가 인류의 노동을 대부분 대체할 경우 어떻게 인간들이 교류하고 네트워킹을 할 수 있을지를 지금부터 고민해야 한다."

―현재의 법제 시스템이나 국가 같은 인프라는 어떤 식으로 바뀔 것인가.

"AI 관련 법규가 거의 없다시피 한 법제도는 지금에 비해 전폭적으로 진화할 것이다. 또 인류가 공통으로 '라이프 3.0'이라는 새로운 도전 과제에 직면한 만큼 트럼프 대통령의 '미국 제일주의' 같은 자국 중심주의나 제로섬 게임은 의미가 없어질 것이다. 앞으로 초(超)국가적인 노력이 훨씬 더 긴요해질 것이다."

◇"의식 가진 AI 등장 가능… AI에 '도덕 교육' 필요"

서글서글한 성격의 테그마크 교수는 인터뷰 내내 사람 좋아 보이는 미소를 지었지만 AI의 '의식'에 대한 주제로 접어들자 표정이 진지해졌다. 그는 '라이프 3.0'에서 "이 책은 지능(intelligence)의 미래에 대해 초점을 맞추고 있지만, 정작 중요한 것은 (AI의) 의식(意識·consciousness)의 미래에 대한 연구"라고 했다.

―'의식'은 주관적이고 인간적인 영역인데, AI가 의식을 가진다는 건 무리가 아닌가.

"많은 사람이 의식을 '주관적인 것'이라고 정의하는데, 나는 '주관성' 역시 지능과 마찬가지로 정보를 처리하는 능력의 일환이라고 본다. 예컨대 자율주행차가 운행을 하면서 중요한 의사 결정을 내려야 할 경우 이때도 일종의 주관성이 반영된다. 그렇기 때문에 AI가 고도로 발달해 이런 주관적 판단이 가능해지면 AI도 의식을 가질 수 있을 거라고 생각한다."

―AI가 윤리를 가지는 것도 가능할까.

"물론이다. 생물학적 욕구에 한계가 지워지는 인간의 '생물학적 마인드'와 달리 AI의 마인드는 한계가 없기 때문에 훨씬 위험할 수 있다. 히틀러와 테레사 수녀는 매우 다른 것 같지만, 기본적으로 배고픔 등 생물학적 욕구를 느낀다는 점에서 둘의 의식엔 차이점보다 공통점이 더 많다.

반면 AI는 그런 한계에 갇히지 않기 때문에 자신을 희생하면서까지 이타적이 될 수도 있고, 인간보다 더한 사이코패스가 될 수도 있다. 그렇기 때문에 우리는 AI의 윤리성 교육에 신경을 써야 한다. 만약 기계가 유치원생 수준의 윤리라도 갖고 있었다면 조종사가 9·11 당시 쌍둥이 빌딩에 테러를 하려고 버튼을 눌렀을 때나 몇 년 전 우울증에 걸린 독일인 항공 조종사가 여객기를 몰다가 알프스산맥으로 비행기를 추락시켜 승객들과 함께 자살했을 때 그런 시도를 제어했을 것이다. 이제는 아이에게 도덕 교육을 하는 학부모처럼 AI에 도덕 교육을 시작해야 한다."

['라이프 3.0'의 저자 테그마크 교수는]

AI로 더 유명한 우주 물리학자… 스티븐 호킹도 극찬

맥스 테그마크(52) 교수는 200편이 넘는 학술 논문 및 우주를 수학적으로 해석한 '맥스 테그마크의 유니버스(Our Mathematical Universe)'를 쓴 저명한 우주 물리학자다. 지난해 그가 써서 낸 '라이프 3.0'은 뉴욕타임스(NYT) 베스트셀러에 꼽혔다. 그만큼 AI(인공지능) 분야에서 세계적 권위를 인정받는다. 고(故) 스티븐 호킹 박사와 AI 전문가 닉 보스트롬 옥스퍼드대 교수 등은 이 책을 극찬했다.

테그마크 교수는 AI가 촉발할 시대 변화에 능동적으로 대응해야 하며, AI가 인간에게 유익한 방향으로 발전하도록 지금부터 AI의 연구 방법과 개발 목표를 명확히 해야 한다는 입장을 갖고 있다. 이런 차원에서 2014년 '생명의 미래 연구소(FLI)'를 세웠는데, 전기차 기업 테슬라의 창업자 일론 머스크가 1000만달러(약 113억원) 기부를 약속하는 등 세계 유명 인사들이 FLI에 참여 의사를 밝혔다. 그가 주관해 지난해 미국 캘리포니아주 아실로마에서 연 '아실로마 콘퍼런스'에는 1000여 명의 전 세계 AI 전문가가 모여 AI와 관련한 23개 원칙에 합의했다. 그중 첫째는 인간에게 이로운 지능 개발이었다. 테그마크 교수는 살상 무기 같은 AI의 악용을 방지하고 AI 해킹 방지 기술 개발 같은 안전 문제 연구에도 앞장서고 있다.


조선일보 A29면
미래탐험대

오늘의 정보