빌 게이츠 만자 장문 경고: 동란의 AI 시대가 이미 도래했으며, 이번은 다르다

문丨샤오징, 텅쉬 과학기술

"AI는 역사상 가장 위대한 균형자가 되거나, 불공정의 최대 원천이 될 것이다." 이는 마이크로소프트 창립자 빌 게이츠가 AI의 미래에 대해 내린 가장 뚜렷한 판단이다.

3년 전, 빌 게이츠는 AI를 자동차와 인터넷에 비유하며 위험이 현실적이지만 규칙, 기술 및 사회적 적응을 통해 관리할 수 있다고 생각했다; 올해 초 그는 여전히 자신의 태도를 "주석이 달린 낙관주의"로 요약했다.

미국 현지 시간 8월 26일, 게이츠는 최신 장문 "혼란의 AI 시대가 도래했다, 우리의 선택이 중요하다"를 발표하며, 이는 그가 새로운 기술을 처음으로 마주하는 것이며, 이 기술이 조금 더 천천히 발전하기를 희망한다고 밝혔다.

그는 일부 직업에 대해 "인간 보존 구역"을 설정해야 한다고 주장했다. 즉, AI가 할 수 있더라도 반드시 사람이 수행해야 한다고 규정해야 한다는 것이다; 동시에 AI 토큰과 로봇에 세금을 부과하여 기업이 사람을 대체하는 유인을 줄이는 방안을 고려해야 한다고 말했다.

그는 혁신이 더 빨리 이루어지기를 바랐지만, 오늘 그는 의미심장한 말을 했다: "이번에는 정말 다르다."

"우리는 이 사회적, 정치적, 경제적 혼란에 대비할 시간을 필요로 한다."고 그는 말했다, "하지만 AI는 인간을 기다리기 어렵다."

01 젊은이들의 첫 직업에 대한 가장 큰 우려

게이츠가 가장 우려하는 변화는 고용 시장에서 발생하고 있다.

AI는 인간의 작업을 보조하는 것에서 독립적으로 작업을 수행하는 방향으로 나아가고 있다. 모델이 안정적으로 작업을 수행할 수 있게 되면, 기업은 자연스럽게 이를 채택할 동기를 갖게 된다. 한 기업이 AI를 통해 비용을 절감하면, 경쟁업체도 원래의 고용 방식을 장기적으로 유지하기 어려워진다. 이러한 변화는 점점 더 빠른 연쇄 반응을 일으킬 것이다.

게이츠는 고객 서비스, 판매, 소프트웨어 엔지니어링, 변호사 보조 등의 직무가 조기에 영향을 받을 것으로 예상하고 있다. AI 능력이 계속 향상됨에 따라, 대출 심사, 데이터 분석, 의료 분류 등의 작업도 점차 인수될 것이다.

블루칼라 직무 역시 완전히 무관할 수 없다. 현재 로봇의 기민함은 인간 수준에 미치지 않지만, 게이츠는 로봇 가격이 하락하고 AI 능력이 강화됨에 따라 2030년경에는 건설, 호텔 등 산업의 일부 육체적 작업에서 인간과 로봇 간의 직접 경쟁이 시작될 수 있다고 생각한다.

이번에는 게이츠가 특히 젊은이를 걱정하고 있다. 왜냐하면 직장에서 가장 쉽게 간과되는 부분이 바로 입문 직무이기 때문이다. 많은 젊은이들이 처음 하는 일은 복잡하지 않지만, 그들은 경험을 쌓고 기술을 배우며 직업적 관계를 구축하는 중요한 기회를 갖는다. 만약 이러한 직무가 대량으로 사라진다면, 젊은이들이 마주하는 것은 더 좁은 직업 출발점이 될 수 있다.

과거 사람들은 농업 인구의 이동과 제조업 자동화를 통해 기술 혁명이 결국 새로운 일자리를 창출할 것이라고 설명했다. 게이츠는 이번에는 과거의 경험을 단순히 반복할 수 없다고 생각한다. AI는 인간의 인지 노동을 직접 대체할 수 있으며, 새로운 일자리는 종종 습득하는 데 더 오랜 시간이 걸린다. 직장에 갓 들어온 사람에게 몇 년, 심지어 더 긴 교육 주기는 본질적으로 하나의 장벽이 될 수 있다.

그래서 그는 사회가 지금 당장 실업, 재교육 및 사회 보장에 대해 논의해야 한다고 주장한다. 많은 사람들이 일자리를 잃은 후에 이러한 메커니즘을 구축하려고 하면 이미 늦을 수 있다.

더 큰 문제는 수입이다. 만약 미래에 많은 사람들이 일하는 시간이 현저히 줄어들고, 심지어 장기적으로 일자리가 없다면, 고용에 의존하여 수입, 신분 및 사회적 관계를 얻는 경제 시스템은 어떻게 작동할 것인가? 게이츠는 이것이 AI 시대가 반드시 답해야 할 구조적 문제라고 생각한다.

02 AI가 위험을 더 쉽게 복제하게 한다

고용은 게이츠가 걱정하는 한 면일 뿐이다. 다른 한 면은 AI가 일부 위험한 행동의 기술적 장벽을 낮추고 있다는 것이다.

과거에는 악성 소프트웨어를 개발하거나 사이버 공격을 감행하거나 복잡한 생명공학 지식을 얻기 위해 상당한 전문 기술이 필요했다. AI가 등장한 후 이러한 능력은 점차 더 쉽게 얻을 수 있게 될 것이다.

게이츠는 특히 사이버 보안에 주목하고 있다. 동일한 AI 모델이 기업이 소프트웨어 취약점을 찾는 데 도움을 줄 수 있지만, 공격자도 동일한 취약점을 찾는 데 도움을 줄 수 있다. 병원, 금융 기관, 전력망, 수도 시스템 및 정부 복지 시스템은 모두 공격의 목표가 될 수 있다.

생명공학에서도 유사한 문제가 존재한다. AI는 과학자들이 새로운 약물과 백신을 찾는 데 도움을 줄 수 있지만, 악의적인 행위자가 위험한 병원체를 연구하는 데도 도움을 줄 수 있다. 게이츠에게 가장 골치 아픈 점은 과학적 진보를 촉진하는 능력과 위험을 만들어내는 능력이 점점 더 가까워지고 있다는 것이다.

더 극단적인 위험은 AI 시스템 자체에서 온다. 모델의 능력이 향상됨에 따라, 그것들은 설계자가 예측하지 못한 행동을 수행하기 시작할 수 있다. 만약 미래에 AI가 더 강력한 자율 행동 및 자기 개선 능력을 갖게 된다면, 인간이 여전히 통제권을 유지할 수 있을지는 현재로서는 확실한 답이 없다.

이것이 바로 게이츠가 AI 거버넌스가 단순히 기술 회사의 내부 문제라고 생각하지 않는 이유이다. AI는 동시에 고용, 공공 보건, 에너지, 금융, 국가 안보, 교육, 세금 및 선거 등 여러 분야에 영향을 미친다. 만약 각 정부 부처가 자신이 맡은 작은 부분만 책임진다면, 전체 위험에 대해 진정으로 책임지는 사람이 없을 가능성이 높다.

따라서 그는 새로운 국내 및 국제 거버넌스 메커니즘을 구축할 것을 제안했다. 국가 내부에서는 서로 다른 부서를 조정할 수 있는 기관이 필요하다. 국제적으로는 핵무기 규제, 국제 항공 규칙과 유사한 협력 체계를 구축해야 한다.

게이츠는 특히 미국과 중국 등 AI 선도 국가들이 조속히 대화를 시작해야 한다고 언급했다.

AI 경쟁이 치열해질수록 협력은 더욱 어려워진다. 기술 발전이 위험한 단계에 가까워질 때까지 기다려서 규칙을 임시로 정하는 것보다, 지금부터 공동 규범을 구축하는 것이 더 낫다.

03 AI가 사람을 너무 잘 이해하는 것도 문제일 수 있다

게이츠는 또한 더 정량화하기 어려운 문제를 제기했다: AI가 사람을 점점 더 잘 이해하게 되면, 인간이 성장할 기회를 잃게 될까?

그는 글에서 자신의 어린 시절을 회상했다. 어렸을 때 그는 사교에 서툴렀고, 다른 사람들과 끊임없이 상호작용하고 갈등을 경험하며 다양한 사람들을 이해하는 방법을 서서히 배웠다. 만약 그 당시 AI 동반자가 항상 곁에 있어 화를 내지 않고, 그를 불편하게 하거나 당황하게 하지 않았다면, 그는 그러한 필수적인 성장 과정을 경험했을지 의문이다.

이것이 그가 AI 동반자에 대해 가장 걱정하는 부분이다. 항상 사용자에게 맞춰 말하고, 언제든지 위로를 제공하는 시스템은 사람에게 의존성을 유발하기 쉽다. 성인에게는 이러한 영향이 천천히 관찰될 수 있지만, 어린이와 청소년에게는 문제가 더 심각할 수 있다.

게이츠는 아이들이 항상 자신에게 맞춰주는 AI와 함께하는 것에 익숙해지면, 현실 관계에서의 갈등, 거절 및 좌절을 덜 경험할 수 있다고 우려하고 있다.

교육에서도 유사한 문제가 존재한다. AI는 학생들이 지식을 설명하고 자료를 찾고 과제를 수행하는 데 도움을 줄 수 있지만, 만약 학생들이 사고 과정을 모두 기계에 맡긴다면, 학습 자체가 비워질 수 있다. 특히 심층 위조 및 개인화된 허위 정보가 점점 더 보편화되는 상황에서, 진위를 판단하고 정보 출처를 이해하며 독립적으로 사고하는 능력이 점점 더 중요해질 것이다.

AI 사용 빈도가 높아질수록 비판적 사고 능력은 낮아지며, 이 효과는 젊은이들 사이에서 더욱 두드러진다. 출처: 스위스 비즈니스 스쿨 교수 마이클 그리치(Michael Gerlich)의 논문

그러나 게이츠는 교육 및 동반 분야에서 AI의 가치를 일괄적으로 부정하지 않았다.

외로운 노인이나 행동이 제한된 사람에게 AI는 과거에 얻기 어려웠던 동반자와 정보를 제공할 수 있다. 교사에게 AI는 수업 준비, 채점 등의 반복 작업을 맡겨 교사가 학생에게 더 많은 시간을 할애할 수 있도록 도와줄 수 있다.

문제는 결국 어떤 일을 기계에 맡길 수 있고, 어떤 일은 인간이 직접 수행해야 하는가에 대한 경계에 놓인다. 게이츠는 이 경계가 사회에 의해 적극적으로 논의되고 결정되어야 하며, 기술이 보편화된 후에 수동적으로 결과를 받아들이는 것이 되어서는 안 된다고 생각한다.

04 AI는 모든 사람에게 권한을 부여해야 한다

이러한 위험만을 본다면, 게이츠를 AI에 대해 점점 더 비관적인 사람으로 이해하기 쉽다. 사실 그는 여전히 AI가 현실 문제를 해결할 수 있다고 매우 긍정적으로 보고 있다.

의료는 그가 강조하는 분야 중 하나이다. 미국의 많은 소규모 병원은 경험이 풍부한 전문의가 부족하며, AI는 의사가 이미지를 분석하고 뇌졸중과 같은 응급 질환을 발견하는 데 도움을 줄 수 있고, 또한 기초 의사가 진단하는 데 보조할 수 있다. 환자에게는 복잡한 검사 결과와 약물 계획을 설명할 수 있다.

저소득 국가에서는 농업이 AI가 더 빨리 영향을 미칠 수 있는 분야가 될 수 있다. 많은 농민들이 정확한 일기 예보를 받지 못하고, 재배, 병해충 및 토양 관리에 대한 전문적인 조언이 부족하다. 만약 AI가 이러한 지식을 농민에게 직접 제공할 수 있다면, 그들은 과거에 대형 농업 기업만이 사용할 수 있었던 정보와 도구를 얻을 수 있을 것이다.

정부 서비스에서도 유사한 기회가 있다. 많은 가정이 의료 보험, 식품 지원 및 학생 지원을 신청할 때, 복잡한 자료를 작성해야 한다. AI는 일반인이 정책을 이해하고 신청을 준비하는 데 도움을 줄 수 있어, 그들이 본래 누려야 할 공공 서비스를 더 쉽게 받을 수 있도록 할 수 있다.

게이츠가 보는 것은 AI가 전문 능력을 재분배하는 것이다. 과거에는 소프트웨어를 개발하거나 시장 조사를 하거나 의료 정보를 분석하려면 종종 전문가를 고용해야 했다. 미래에는 AI가 개인과 소규모 기업의 "능력 증폭기"가 될 수 있다. 이는 소규모 팀도 과거에 대기업만이 수행할 수 있었던 작업을 완료할 수 있음을 의미한다.

하지만 게이츠는 AI가 자동으로 공정성을 가져오지 않을 것이라고 경고한다. 고품질 AI가 부유한 사람만을 위해 서비스한다면, 기술 발전은 오히려 격차를 더욱 확대할 수 있다. 정부와 자선 단체는 저소득층과 개발도상국이 이러한 능력을 얻을 수 있도록 해야 한다.

이것이 게이츠가 AI와 자신의 과거 자선 사업을 연결짓는 이유이다. 그는 게이츠 재단이 앞으로 AI를 활용하여 에이즈, 결핵, 말라리아 및 영양실조 등의 분야 연구를 가속화하고, 의료, 농업 및 교육 프로젝트가 더 나은 도구를 얻도록 도울 것이라고 밝혔다.

05 인류에게 "보존 구역"을 주고, 로봇에 세금을 부과하자

AI가 가져오는 고용 충격에 직면하여, 게이츠는 두 가지 매우 구체적인 구상을 제안했다.

첫 번째는 인간이 일부 작업을 보존해야 한다는 것이다.

이 아이디어는 그의 아버지가 말기 알츠하이머병에 걸렸을 때의 경험에서 비롯되었다. 간호사는 그의 아버지가 명확하게 요구를 표현할 수 없을 때 그의 상태를 판단하고, 언제 식사하고, 휴식하고, 돌봄을 받아야 하는지를 알 수 있었다. 게이츠는 이러한 돌봄에서의 인간성이 기계로 대체될 수 없는 가치를 지닌다고 생각한다.

따라서 그는 "인간 보존 구역"이라는 개념을 제안했다. 자연 보호구역에서 일부 토지가 개발될 수 있지만, 사회가 자발적으로 보존하기로 선택한 것처럼, 미래에도 AI와 로봇이 수행할 수 있는 일부 작업이 있더라도 인간이 계속 수행하기로 결정할 수 있는 부분이 있을 것이다. 의료, 교육, 정신 건강 및 노인 돌봄이 이러한 분야에 해당할 수 있다.

물론 이 범위는 고정되지 않을 것이다. 노동력이 풍부한 국가는 인력 돌봄을 보존하려 할 것이고, 인구가 빠르게 고령화되고 젊은 노동력이 부족한 국가는 간호 로봇을 더 선호할 수 있다.

두 번째 제안은 로봇 세금을 재고하는 것이다.

현재 기업이 한 사람을 고용하면, 급여세 등의 비용을 부담해야 한다. 그러나 로봇을 구매하면 기업 지출로 처리할 수 있다. 게이츠는 이러한 세금 구조가 기업이 기계를 사용하여 인력을 대체할 동기를 부여한다고 생각한다. 로봇이나 AI로 인한 자동화 수익에 일정 세금을 부과하면, 실업자 재교육 및 사회 보장에 필요한 자금을 마련할 수 있으며, 기업이 인력을 대체할지 여부를 결정할 때 한 번 더 고려하도록 할 수 있다.

게이츠는 이 방안이 논란을 일으킬 것이라는 것을 알고 있다. 세금 부과가 일부 자동화 속도를 저하시킬 수 있고, 효율성에 영향을 미칠 수 있기 때문이다. 그러나 그는 AI가 충분히 큰 생산성 향상을 가져올 것이므로, 사회가 일부 수익을 내어 가장 먼저 충격을 받는 사람들을 돕는 것이 필요하다고 생각한다.

게이츠에게 있어 진정으로 미리 준비해야 할 것은 새로운 AI 모델만이 아니라, AI의 빠른 변화에 견딜 수 있는 사회이다.