제프리 A. 터커
【정견뉴스】
에포크타임스 일러스트레이션, 셔터스톡 이미지
미국의 다국적 유통 대기업 월마트의 CEO 더그 맥밀런은 최근 인공지능(AI)이 모든 산업, 모든 직급의 모든 직무를 파괴하고 있다고 밝혔다. 많은 일자리가 사라지고, 일부는 새로 생기고, 대부분은 어떤 식으로든 구조 조정될 것이다. 이 모든 일이 너무나 빠르게 진행되어 어지러울 정도다.
이는 분명 축하할 만한 일이다. 하지만 지난 수십 년간의 경험을 통해 우리는 이 미지의 여정에 신중하게 접근해야 한다. 현명한 접근 방식은 다음과 같이 질문하는 것이다. 어떤 대가를 치를 것인가? 우리는 무엇을 잃을 수 있는가?
AI의 가장 큰 문제는 바로 그 힘, 효율성, 또는 실용성이 아니다. AI는 이 모든 영역에서 놀라운 성과를 보이고 있다. 하지만 위험은 인류의 뇌에 미치는 영향이다. AI의 궁극적인 목적은 모든 질문에 대한 답을 제공하는 것이다. 하지만 답을 얻는 것이 인류 진보의 원천은 아니다.
간단히 말해, 인류의 진보는 끊임없는 학습에서 비롯된다. 학습의 유일한 방법은 답에 도달하는 데 필요한 불편함을 감수하는 것이다. 우리는 먼저 몇 가지 방법을 학습할 필요가 있고, 그 방법을 적용한다. 그러다 보면 틀렸다는 것을 깨닫고, 또 틀렸다는 것을 깨닫는다. 실수를 발견하고 바로잡아도 여전히 틀린다. 그래서 더 많은 실수를 발견하고, 결국 답을 찾게 된다.
이 순간, 우리는 만족감을 느낀다. 자신의 뇌가 높은 속도로 작동하는 것을 느끼고, 사고력이 향상되었으며, 성취감을 느낀다.
우리는 오직 이러한 과정을 통해서만 진정으로 배울 수 있다. 학습 과정은 실패의 고통과 문제 해결 과정에서 사람의 두뇌 힘을 적용하는 것에서 비롯된다. 인공지능에 의존하여 모든 답을 도출하는 학생이나 근로자는 결코 스스로의 직관, 판단력, 심지어 지능을 개발할 수 없다. 그들은 줄곧 무지(無知) 상태에 머물게 될 것이다. 지식의 빈틈은 발견되지 않고 채워지지 않은 채 남게 될 것이다.
이것이 바로 우리가 직면한 가장 큰 위험이다.
이러한 관점은 9월 24일 텍사스 오스틴에서 열린 브라운스톤 연구소 행사에서 훌륭한 연설을 한 MIT 레테프 레비 교수의 것이다. 이 연설에는 여러 가지 다른 관점들이 담겨 있는데, 그는 엄중한 경고를 내렸다. 인공지능에 전적으로 의존하는 시스템을 구축하는 것은 자유, 민주, 그리고 문명에 치명적인 결과를 초래할 수 있다는 것이다.
개인적인 관점에서도 AI는 우리의 사고 능력을 없앨 수 있는 잠재력을 가지고 있다. 단지 우리가 더 이상 생각할 필요가 없기 때문이다. 최근 내가 검색한 거의 모든 문서에 간단한 요약 기능이 있는 AI 도구가 제공된다. 이렇게 하면 나는 실제로 아무 내용도 읽을 필요가 없다. 이건 말도 안 되는 소리다. 나는 이 회사들이 이런 말도 안 되는 행동을 멈추기 바란다.
하지만 그들은 멈추지 않을 것이다. 이 모든 것은 내가 싫어하는 용어, 바로 “임원 요약(executive summary)”에서 시작되었다. 이 용어가 어디서 유래했는지는 전혀 모르겠다. 호출기와 빠른 차를 가진 바쁘고 허세 부리는 “임원”이 전화를 받고 중요한 결정을 내려야 하기 때문에 세부 사항이나 스토리라인에 시간을 할애할 수 없다는 뜻일까? 잘 모르겠지만, “요약본”은 이미 보편화되어 모든 분야를 휩쓸고 있다.
이제 우리는 모든 사람이 드라마를 보거나 엘리베이터 피치(elevator pitch 짧고 호소력 있게 핵심 관점을 말하는 것)를 듣지 않고 바로 요점으로 들어가 “누가 이걸 했지?”라고 묻기를 기대한다. 생각할 시간이 전혀 없다. 결국 시간을 보낼 더 좋은 방법은 늘 존재한다. 그렇다면 우리는 무엇을 할 수 있을까? 어떤 사람들은 “요약본”을 더 많이 읽으라고 생각할 것이다.
이 모든 것은 터무니없는 위장이다. 우리는 과학기술에 너무 매료되어 더 이상 아무것도 알 필요가 없다고 생각한다. 지능형 시스템이 모든 것을 대신해 줄 것이다.
우리는 언제쯤 생각하고 배우는 시간을 가질 수 있을까? 진정한 사고를 피하는 도구가 너무 많은데, 시스템이 제공하는 답이 맞는지 어떻게 알 수 있을까?
어떤 사람들은 컴퓨터와 인터넷에도 같은 문제가 있다고 주장할지 모른다. 사실, 이들도 이러한 위험을 공유한다.
어쩌면 나는 대학 시절 카드 카탈로그와 종이책 더미만 가지고 있던 마지막 세대의 학생일지도 모른다. 수업이 없을 때는 대부분의 시간을 도서관에서 책꽂이에 둘러싸인 바닥에 앉아 보냈다.
그것은 모험이자, 직업이자, 보람 있는 일이었다. 폭넓게 읽는 것은 즐거움이었고, 2년이 넘는 시간 동안 대학 도서관 전체를 천천히 탐독했다. 이것이 지금 내가 자랑스러워하는 지식의 토대가 되었다.
나는 배우는 것을 사랑하게 되었다. 답을 알고 싶었을 뿐만 아니라, 답을 찾는 방법도 알고 싶었다.
정기간행물을 찾는 것조차 수많은 두꺼운 책들을 훑어보고 꼼꼼히 읽어야 했다. 일단 책을 찾으면, 우리는 서가로 가서 150년 전의 문서들이 담긴 제본된 책들을 꺼낼 수 있었다. 이전 세대가 그랬던 것처럼, 우리는 책의 페이지를 만지고 읽는 감각을 경험할 수 있었다.
나는 종종 이런 일이 오늘날 학생들에게도 다시 일어나고 있는지 궁금하다. 우리가 무엇을 잃었는지 궁금하다. 사람들이 정보에 더 빨리 접근할 수 있다는 것은 의심의 여지가 없다. 정보화 시대는 많은 훌륭한 특징들을 가지고 있다. 하지만 안타깝게도 이 시스템은 모든 질문에 대한 답을 제공한다는 생각에 기반하고 있다. 탐구하고 고민하는 과정을 생략할수록 더 효과적인 것처럼 보인다. 하지만 나는 동의하지 않는다.
고등학교 시절, 서점에서 클리프 노트(Cliff’s Notes)를 발견했다. 학교에서 과제로 내준 모든 문학 작품에 대한 간략한 요약이 실려 있었다. 몇 권을 샀는데, 책을 9시간씩 읽는 대신 30분 만에 핵심 요점을 파악할 수 있었다. 덕분에 학교 시험에서 B, 때로는 A를 받을 수도 있었다.
하지만 그때 한 가지 문제가 있다는 것을 깨달았다. 다른 사람들과 이 문학 작품에 대해 이야기할 수 없었다. 그들은 책을 읽으면서 느꼈던 감정적 경험과 흥분을 이야기했다. 나는 그러지 않았다. 누가 바보였을까? 나는 멋진 경험, 즉 책을 읽는 경험을 스스로 박탈하고 있었다.
등장인물, 줄거리, 결말을 이해하는 것? 그건 그저 데이터일 뿐이었다. 작가가 창조한 다른 세계로 들어가는 듯한 혁신적인 경험을 하지 못했다. 아무것도 기억할 수 없었다.
그래서 나는 더 이상 그렇게 하지 않기로 했다. 정답을 맞히고 시험에 합격하는 것이 중요한 것이 아님을 깨달았다. 중요한 것은 학습, 점진적인 발전, 발견의 경험, 그리고 사고를 단련하는 과정이다. 이렇게 한 학생들은 똑똑해지거나, 심지어 현명해진다. 반면 그렇게 하지 않은 학생들은 제자리에서 맴돌고 자아를 제고하지 못한다.
궁극적으로 모든 학생들은 이 시스템의 틈을 찾아낼 것이다. 특히 대학원에서 그렇다. 교수들은 아첨을 갈구하고, 학생들은 교과서 한 권도 읽지 않고도 답을 찾는 법을 배운다. 이런 사람들은 그저 냉소적이다. 나는 그런 사람들을 많이 알고 있다. 왜 이런 일을 하는지 도무지 이해할 수 없다.
물론 그들은 성공했지만, 그 결과는 어떨까?
안타깝게도 우리의 교육 시스템은 모두 시험을 중심으로 돌아간다. 시험의 목적은 학생들이 정답을 찾아낼 수 있는지 시험하는 것이다. 이 시스템은 항상 교묘하게 조작되어 결국 〇⨉ 문제와 객관식으로 전락한다. 컴퓨터가 생긴 후 상황이 더욱 심각해졌다. 우리는 이런 상황에 익숙해졌고, 18년 동안 이어져 왔다.
이것은 사고력을 기르는 것이 아니라 로봇을 훈련시키는 것이다.
인공지능은 문제를 더욱 악화시킬 뿐이며, 사람들은 모든 것에 얽힌 고뇌와 과정을 경험할 기회를 빼앗긴다. 사실, 처음부터 끝까지 험난한 여정을 경험해야만 진정한 마음의 근육을 키울 수 있다.
나는 종종 음악에 헌신했던 오랜 세월을 되돌아보며 떠올린다. 트롬본, 피아노, 기타를 배우고, 레코드에서 들었던 멜로디를 악보에 직접 작곡하고, 연습실에서 끈질기게 일하고, 각종 콩쿠르 오디션을 보곤 했다.
내가 나중에 음악을 직업으로 삼지 않았으니 그것이 시간 낭비였을까? 절대 그렇지 않다. 나는 끊임없는 연습을 통해 발전하는 법을 배우고 있었다.
수년에 걸쳐 나는 한 학문 분야에서 다른 학문 분야로 옮겨 다녔다. 한때는 종말론, 즉 세상의 종말에 대한 신학 이론에 매료되었다. 그 주제에 관한 책을 60권에서 100권 정도 읽었다. 지금은 더 이상 관심이 없지만, 그것이 시간 낭비였을까? 절대 아니다. 그 시절은 나의 뇌가 효율적으로 기능하도록 훈련하는 시간이었다.
그래서 자녀가 1990년대 “해리 포터” 시리즈에 푹 빠져 다섯 번이나 읽어도 부모는 너무 죄책감을 느낄 필요가 없다. 아이의 사고력을 키우는 좋은 방법이기 때문이다. 열정과 성실함을 쏟는 모든 노력은 지적 게으름을 극복할 수 있다.
바로 그것이 문제다. 인공지능은 게으른 기술이다. 사람들은 인공지능을, 어쩌면 너무 좋아하기도 한다. 지금 인공지능이 마법처럼 보이는 이유는 생각하는 인간과 함께 결합되었기 때문이다. (이것은 레비 교수의 지적이기도 하다.)
하지만 생각하는 인간이 점차 사라지고, 스스로 답을 찾지 못하는 병적이고 게으르며 생각 없는 인간들로 대체된다면 어떻게 될까?
그렇게 되면 세상은 끝나는 것이다. 어쩌면 내가 읽었던 종말론 책들이 내가 생각하는 것보다 더 큰 도움이 될지도 모른다.
현재 내가 사용하는 대규모 언어 모델은 실수를 자주, 때로는 매우 자주 한다. 나는 대개 이러한 실수를 발견할 수 있고, AI 엔진은 이에 대해 책임지지 않는다. 우리는 종종 이를 문제라고 부르지만, 어쩌면 그렇지 않을 수도 있다.
가끔 실수를 하는 AI 시스템보다 늘 정확한 AI가 더 나쁘다. 후자는 게으름과 어리석음을 조장할 가능성이 가장 높다.
간단히 말해서, 월마트에 대한 내 조언은 이렇다. 공급망에 최근에 도입된 기술, 특히 아무도 제대로 이해하지 못하는 기술에 전적으로 의존하는 시스템을 절대 구축하지 말아야 한다. 만약 그렇게 고집한다면, 글로벌 유통 대기업으로서 당신의 회복력은 점점 더 취약해지고 결국 인간 상호 작용, 판단력, 그리고 지혜를 중시하는 기업에 밀려날 것이다. 왜냐하면 그들은 무의미한 헛소리만 쏟아내고 양심이 없고 영혼이 없는 기계를 거부할 것이기 때문이다.
필자 소개:
제프리 A. 터커는 텍사스주 오스틴에 있는 브라운스톤 연구소의 설립자이자 소장이다. 그는 학계와 일반 대중을 대상으로 수천 편의 논문을 발표했고, 5개 언어로 10권의 책을 출간했으며, 가장 최근에는 2020년에 출간된 『자유 또는 봉쇄(Liberty or Lockdown)』를 출간했다. 그는 또한 The Best of Ludwig von Mises(2019)의 편집자다. 또한 에포크타임스에 경제 칼럼을 정기적으로 기고하며 경제, 기술, 사회 철학, 문화 등 다양한 주제에 대해 이야기합니다. tucker@brownstone.org로 연락하기 바란다.
이 기사는 영문 에포크타임스에 실린 Will AI Eat Our Brains?를 번역한 것이다.
원문위치: https://www.zhengjian.org/node/299032