로그인정보 입력 영역

아이디

비밀번호

• 홈

책소개

“우리는 정말 악마를 불러들이고 있는 걸까?”
인류는 인공지능의 수혜자가 될 것인가, 피해자가 될 것인가?
미래학자이자 기술 현실주의자, 마틴 포드의 경고
★★★
〈뉴욕타임스〉 베스트셀러 《로봇의 부상》의 후속작
에릭 브리뇰프슨, 타일러 코웬, 제임스 매니카, 스튜어트 러셀 강력 추천

인공지능은 이미 우리 삶의 곳곳에, 깊숙한 부분까지 영향을 미치고 있으며 많은 것을 바꾸어 놓고 있다. 당신이 스마트폰을 가지고 있다면 주머니에 인공지능을 가지고 있는 셈이다. 의사가 질병을 진단하는 방법부터 우리가 친구와 교감하고 뉴스를 읽는 방법까지 이미 모든 것을 인공지능이 바꾸어 놓았다. 하지만 긍정적인 측면만 있는 것은 아니다. 편향을 유도하거나 증폭할 수 있는 알고리즘, 얼굴 인식 기술을 기반으로 한 감시와 검열, 딥페이크의 악의적인 사용으로 인한 범죄 등 부정적인 측면도 있다. 스티븐 호킹이나 일론 머스크 같은 저명인사들은 통제를 벗어난 인공지능의 위험성을 일찍이 경고했고, 특히 일론 머스크는 인공지능 연구가 “악마를 불러들이고 있다”, “인공지능은 핵무기보다 더 위험하다”라고 단언하며 언론의 뜨거운 관심을 불러일으켰다.
미래학자이자 베스트셀러 《로봇의 부상》의 저자 마틴 포드는 신간《로봇의 지배》에서 인공지능 연구가 현재 어느 단계에 도달했는지 살펴보고, 앞으로 인공지능이 우리의 노동, 경제, 사회, 국제, 정치, 문화, 생활에 어떤 영향력을 미칠지 인공지능을 둘러싼 다면적인 영향을 기술 현실주의자의 눈으로 날카롭게 분석한다. 그는 인공지능이 인간 생활의 모든 차원을 더 나은 방향으로 바꾸는 유일무이한 강력한 기술임이 분명하지만, 이 기술을 안전하고 공정하게 사용하기 위해서는 규제와 광범위한 관리 감독 또한 절대적으로 필요하다고 주장한다.
인공지능은 우리가 기후변화에 대처하고 다음 팬데믹과 맞서 싸우는 데 도움이 될 수 있다. 그러나 한편으로 심각한 손해를 끼칠 힘도 있다. 인공지능은 우리의 편협한 태도를 학습하고 이를 끊임없이 반복함으로써 더 깊이 편향될 수 있다. 또한 인공지능이 일어나지 않은 사건을 음성이나 영상으로 생성하는 딥페이크 기술은 사회 전반에 혼란을 불러올 수 있다. 중국 같은 권위주의적인 체제에는 사회를 통제하는 전례 없는 메커니즘으로 작용할 수도 있다. 대량 살상 무기가 될 수 있는 인공지능 기반 완전 자율 무기(fully autonomous weapon)는 결국 화학 무기나 생물학 무기, 심지어 핵무기만큼 파괴적이고 불안정할 수 있다. 인공지능이 체계적이면서 전략적인 기술이라는 점이 분명해지면서 미국과 중국 간의 전면적인 인공지능 군비경쟁의 우려는 진정한 위협으로 다가오고 있다.
앞으로 우리는 인공지능의 가능성을 완전히 수용하고 열린 시각을 갖되, 어떤 경우에는 인공지능의 적용을 규제하거나 금지해야 할 것이다. 인류는 인공지능의 수혜자가 될 것인가, 피해자가 될 것인가? 인류의 미래는 낙관적 시나리오인 〈스타트랙〉이 될 것인가, 비관적 시나리오인 〈매트릭스〉가 될 것인가? 인공지능은 단순히 받아들이거나, 아니면 우려해야 하는 기술이 아니다. 이미 오고 있고 멈추지 않을 것이다. 인공지능의 미래는 파괴적인 영향력만큼 예측하는 것도 불가능하기 때문에 우리는 스스로 생각해야 하며, 이 모든 일을 지금 바로 시작해야 한다고 책 《로봇의 지배》의 저자 마틴 포드는 경고한다.
#로봇 #인공지능 #AI #인류의미래


지능을 전기처럼 쓴다면?

인공지능은 점점 더 많은 영역에서 성공적으로 적용되어 진화하고 있으며, 진정한 혁명은 아직 오지 않았다. 저자에 따르면 우리는 인공지능을 ‘전기’처럼 사용하게 될 것이다. 전기는 산업혁명 이후 경제와 사회의 모든 측면을 확장하고 변화시키는 혁신이며, 전기 없는 미래를 상상하기란 거의 불가능하다.
인공지능 역시 전기와 같은 규모와 힘을 가진 범용기술로 진화할 것이며, 전기와 마찬가지로 거의 모든 것과 접촉하고 거의 모든 것을 변화시킬 것이다. 게다가 인공지능은 전기의 경우보다 훨씬 빨리 영향력을 넓힐 것이다. 이미 인공지능을 배포할 때 필요한 많은 인프라가 이미 갖춰져 있기 때문이다. 컴퓨터, 인터넷, 모바일 데이터 서비스와 아마존, 마이크로소프트, 구글 같은 기업이 운영하는 거대한 클라우드 컴퓨팅 시설을 이미 사용하고 있다. 기업뿐만 아니라 정부도 클라우드 컴퓨팅에 크게 의존하고 있으며, 클라우드 컴퓨팅은 정치적으로도 매우 격렬하고 경쟁이 치열한 시장이다.
일반적으로 사람들은 전기를 의심할 여지 없이 긍정적인 힘으로 생각한다. 하지만 인공지능은 다르다. 인공지능이 전기와 가장 다른 점은 ‘누가 기술을 제공하는지’에 따라 크게 달라질 수 있는 ‘직접적인 지적 능력’이라는 점이다. 인공지능에는 어두운 면이 있고, 개인과 사회 전체에 끼칠 수 있는 진짜 위험을 동반한다.


경제 불평등과 일자리 위협… 노동의 종말은 오는가?
인공지능이 경제에 미치는 영향은 ‘양날의 검’이다

저자 마틴 포드는 인공지능이 계속 발전할수록 노동시장과 경제 전반에 유례없는 변화가 일어날 것이라고 말한다. 이러한 그의 주장은 전작 《로봇의 부상》에서부터 이어지는데, 인공지능과 로봇공학의 발전이 결국 단조롭고 예측 가능한 많은 일자리를 파괴할 것이고, 이는 잠재적으로 불평등의 증가와 구조적 실업으로 이어질 것이라는 주장이다. 코로나바이러스 팬데믹 이후 완전히 새로운 경제 현실로 접어든 현재, 그는 여전히 자신의 주장이 매우 적절하다고 생각한다. 팬데믹의 여파로 업무 자동화 증가 추세는 더욱 증폭되고 현재 경제 재난에서 회복하려는 기대 심리에 큰 영향을 끼칠 수 있다.
업무 성격이 단조롭고 예측 가능한 직업, 다시 말해 비슷한 작업이 반복되는 일자리는 전부 또는 부분적으로 자동화될 가능성이 있다. 연구에 따르면 미국 노동인구 가운데 절반가량이 이처럼 예측 가능한 활동에 종사하고 있고, 미국 안에서만 수천만 개의 일자리가 사라질 수 있다고 전망한다. 그 영향력은 저임금층이나 비숙련 노동자에 국한되지 않을 것이다. 화이트칼라나 전문직 종사자 가운데 많은 수가 상대적으로 단조로운 업무를 수행한다. 특히 예측 가능한 지식 노동은 소프트웨어로 처리할 수 있으므로 자동화될 위험이 크다. 오히려 육체노동을 대체하려면 고가의 로봇이 필요하다.
자동화가 미래 노동인구에 끼칠 영향력에 대해서는 활발한 논의가 진행되고 있다. 단조로운 일자리를 잃은 노동자를 흡수하기 위해 새로 창출되는 직업은 앞으로 자동화되지 않고 그 수가 충분할까? 만약 그렇다면 사람들은 새로운 역할로 성공적으로 전환하는 데 필요한 기술과 능력, 특성을 갖추게 될까? 이전에 트럭을 운전했거나 패스트푸드점에서 일했던 노동자가 로봇공학 엔지니어가 되거나 노인을 돌보는 개인 간병인이 될 수 있다고 가정해서는 안 될 것이다. 코딩 능력은 기술에 의한 고용 시장 파괴의 만병통치약처럼 제시되곤 한다. 언론 분야이든 탄광업이든 일자리를 잃은 사람들은 ‘코딩을 배워 보라’는 조언을 듣는다. 그러나 컴퓨터 프로그래밍을 배우면 분명히 유용하고 보람도 있겠지만, 이런 기술 습득이 좋은 일자리를 보장하는 시대는 저물고 있다. 다른 화이트칼라 직업도 대부분 마찬가지다.
마틴 포드는 전작《로봇의 부상》에서 주장했듯, 신작 《로봇의 지배》에서도 여전히 인공지능과 로봇이 계속 발전할수록 노동인구 대부분이 결국 뒤처지는 위험에 처할 것이라고 생각한다. 그리고 코로나바이러스 팬데믹과 그에 따른 경제 침체가 인공지능이 노동시장에 끼칠 영향력을 가속할 것으로 믿는 타당한 이유를 다양한 데이터와 함께 제시하고 있다.
저자에 따르면, 자동화 때문에 일자리가 완전히 사라질 위험뿐만 아니라 기술 발전은 이미 노동시장에 영향을 끼치고 있다. 중산층 일자리는 필요한 기술이 점점 단순해지는 탈숙련화의 위험에 처했고, 반면 훈련을 거의 받지 않은 저임금 노동자는 기술의 도움을 받아 한때 더 높은 임금을 받던 일자리로 진입할 수 있다. 사람들은 점점 더 자신을 가상 로봇처럼 취급하며 업무를 감시하고 속도를 조절하는 알고리즘의 통제를 받으며 일하고 있다. ‘긱(gig)’ 경제에서 새로운 기회들이 생기고 있지만, 이 분야에서 일하는 사람들은 대체로 노동시간과 수입을 예측할 수 없다. 이 모든 것은 점점 더 많은 사람이 종사하는 분야에서 늘어나는 불평등과 잠재적인 비인간화 조건을 가리킨다.
인공지능이 경제에 끼칠 영향을 생각하면 사실 양날의 검과 같다. 한편으로 생산성을 높이고 제품이나 서비스가 더 저렴해지며 우리 모두의 삶을 개선하는 혁신을 가능하게 할 것이다. 인공지능은 지금 우리가 처한 거대한 경제적 구멍에서 빠져나올 때 없어서는 안 될 경제적 가치를 창출한 잠재력이 있다. 다른 한편으로는 경제 불평등을 더 심각한 수준으로 몰아가며 수백만 개의 일자리를 없애거나 단순화할 것이 확실하다.


얼굴 인식 알고리즘과 딥페이크의 위협
완전 자율 무기와 인공지능 군비경쟁
인공지능은 어떻게 민주주의를 방해하고, 인류의 존재를 위협하는가

“인공지능은 인류가 연구하고 있는 가장 심오한 것 중 하나다. 불이나 전기보다 영향력이 더 심오하다. 엄청난 긍정적인 측면도 있지만, 정말 부정적인 결과도 있다.” - 순다르 피차이(구글 CEO, ‘다보스포럼 2020’에서)

인공지능은 중국 같은 권위주의적인 체제에는 사회를 통제하는 전례 없는 메커니즘으로 작용할 수도 있다. 중국의 신장 위구르 자치구는 중국 감시 체제의 시작점이면서 중국 전체에 배치될 감시 기법과 기술의 성능 시험장이다. 인공지능 기반 감시 기술은 결코 권위주의 체제에 국한되지 않는다. 특히 얼굴 인식은 미국과 다른 민주주의 국가에서 널리 사용되고 있다. 2019년 2월, 인디애나주 경찰은 남성 두 명이 공원에서 다툼을 벌여 발생한 범죄 사건을 수사하고 있었다. 한 남성이 총을 꺼내 다른 남성의 복부에 쏜 다음 현장에서 달아난 사건이었다. 현장에 있던 사람이 휴대전화로 이 장면을 녹화했고 주 경찰 수사관들은 가해자의 얼굴 이미지를 시험 중이던 새로운 얼굴 인식 시스템에 올려보기로 했다. 시스템은 즉시 일치하는 항목을 생성했다. 이름을 포함한 설명과 함께 총을 쏜 사람이 소셜 미디어에 올라온 영상에 나타났다. 용의자가 이전에 체포된 기록이 없고 운전면허도 없었지만, 이 사건을 해결하는 데 고작 20분이 걸렸다.
그러나 많은 연구에서 얼굴 인식 시스템이 어느 정도 인종과 성별에 편향된 것으로 꾸준히 나타나고 있다. 딥러닝 알고리즘을 훈련하기 위해 사용한 데이터 세트에 백인 남성의 얼굴이 우세한 데서 비롯한 결과다. 다시 말해 여성과 유색인종은 잘못된 편향에 피해를 볼 가능성이 더 크다. 아프리카계 미국인은 백인보다 100배 이상 잠재적 범죄자로 오인될 가능성이 있고, 따라서 구금될 수도 있다. 이런 문제는 계속 강력해지는 기술을 엄격하게 규제하지 않는 한 더욱 만연하게 될 것이다. 물론 얼굴 인식 시스템이 개인의 사생활을 위협할 가능성은 매우 현실적이지만, 이 기술을 적절하고 윤리적으로 배치해 얻는 분명한 혜택도 중요하게 생각해야 한다. 이 기술을 사용해 중범죄자들을 많이 검거할 수 있었고, 같은 시스템을 실종 아동과 성인을 찾는 데 사용할 수도 있다.
음성뿐만 아니라 사진, 영상, 심지어 일관성 있는 텍스트를 생성하는 데까지 이용될 수 있는 딥페이크로 대선 후보의 가짜 영상과 음성을 만들어 퍼트린다면? 딥페이크가 말 그대로 역사의 흐름을 바꿀 수 있다. 딥페이크의 악의적인 사용은 인공지능이 발전하면서 우리가 직면하게 되는 심각한 위험 중 하나다. 이미 음성 딥페이크를 사용한 범죄자들에게 수백만 달러의 돈을 사취당한 기업들이 있다. 모두 딥페이크로 만든 그 회사 CEO의 목소리로 재무팀 직원에게 돈을 이체하도록 지시하는 전화 통화로 범죄가 이루어졌다. 기업 CEO가 비정상적인 행동을 하는 딥페이크 영상은 그 기업의 주가를 폭락시킬 수 있다. 그러나 딥페이크를 걱정해야 할 사람이 단지 정치인이나 유명인으로 제한되지 않는다. 거의 모든 사람이 표적이 될 수 있으며, 당신의 경력이나 인생이 딥페이크로 인해 파괴될 수 있다.
인간의 개입 없이 인간 목표물을 찾고 선택하고 제거할 수 있는 치명적인 자율 무기, 인공지능 기반 완전 자율 무기는 결국 화학 무기나 생물학 무기, 심지어 핵무기만큼 파괴적이고 불안정할 수 있다. 모든 드론은 잠재적으로 무기로 사용될 수 있다. 수백 대의 드론을 동시에 움직일 수 있지만, 원격으로 조정해야 한다면 기기를 조정할 수백 명의 사람이 필요하다. 하지만 드론이 완전히 자율적으로 움직인다면? 소규모 팀이 거대한 군단을 배치해 상상도 할 수 없는 대학살을 일으킬 수 있다. 통제실에 있는 5명이 1,000만 개의 무기를 발사해 특정 국가에 거주하는 12세에서 60세 남자를 모두 쓸어버릴 수도 있다. 그렇다면 이건 대량 살상 무기다. 얼굴 인식 알고리즘이 민족, 성별, 복장에 따라 식별할 수 있는 기능이 있는 것을 고려하면 이전에는 생각조차 할 수 없던 무자비하고 엄청난 속도로 자행되는 자동 인종 청소나 정치적 반대자들의 대량 암살과 관련된 정말 오싹한 시나리오를 쉽게 상상할 수 있다.
4,500명 이상의 개인과 수백 곳의 기업과 조직, 대학교가 자율 무기 연구에 참여하지 않을 것을 밝히고 이러한 기술의 전면 금지를 요구하는 공개서한에 서명했다. 그러나 2019년 기준으로 개발도상국 29개 국가가 자율 무기 기술의 완전 금지를 공식적으로 요구했지만, 주요 군사 강국은 참여하지 않고 있다. 저자 마틴 포드는 완전 자율 무기 기술에 대해 다소 비관적으로 전망하고 있다. 그는 강대국 간의 경쟁 역학과 신뢰 부족으로 완전 자율 무기 개발이 곧 확실해질 것으로 본다. 미국, 러시아, 중국, 영국, 한국을 포함하는 국가에서 대규모 편대로 이동하는 드론을 적극적으로 개발하고 있다. 일단 한 국가가 현재 완전 자율 무기에 대한 비공식적 금지를 위반하고 이런 무기를 배치하기 시작하면 피할 수 없는 경쟁은 시작될 것이다. 또한 긴장이 고조되고 미국과 중국 관계가 계속 분리되면 인공지능 개발과 배치에 집중된 갈등과 경쟁이 중심 역할을 할 것은 피할 수 없어 보인다. 인공지능이 체계적이면서 전략적인 기술이라는 점이 분명해지면서 양국 간의 전면적인 인공지능 군비경쟁의 우려는 진정한 위협으로 다가오고 있다.
무엇보다 가장 큰 위험은 일단 자율 무기가 생산되면 불법 무기 거래상들에 의해 자율 무기가 테러리스트나 용병, 테러 지원국에 거래될 수 있다는 점이다. 저자는 아이폰보다 ‘똑똑하지’ 않지만 표적을 식별하고 추적하는 데는 망설임이 없는 유능한 무기로 인간이 과연 무엇을 할지를 오히려 걱정해야 한다고 경고한다.


우리는 어떤 미래를 선택할 것인가?
유토피아인가, 디스토피아인가?

저자 마틴 포드는 여러 우려되는 부분이 있음에도 불구하고 인공지능의 일반적인 연구를 과도하게 규제하거나 제한하는 것은 매우 잘못된 판단이라고 말한다. 그보다는 인공지능의 구체적인 응용을 규제하는데 초점을 맞추어야 한다고 주장한다. 자율 주행차나 인공지능 의료 진단 도구 같은 분야에서는 이미 규칙이 만들어지고 있다. 하지만 광범위한 관리 감독도 필요하다. 인공지능은 결국 모든 분야와 접촉하게 될 것이고, 형사 사법제도에 활용되는 얼굴 인식 기술이나 알고리즘 같은 기술은 매우 중요한 결정을 내리는데 사용되고 있기 때문이다. 저자는 인공지능을 관리 감독하는 가장 좋은 행동 방침은 인공지능 적용에 중점을 둔 규제 권한을 가진 독립적인 정부 기관을 세우는 것이라고 제안한다.
여러 가지 매우 현실적인 우려에도 불구하고 저자는 인공지능에서 얻는 혜택이 위험을 능가한다고 굳게 믿는다. 앞으로 수십 년 동안 우리가 직면하게 될 여러 도전 과제를 고려하면 인공지능은 없어서는 안 될 기술이다. 기술 정체를 벗어나 광범위한 혁신의 새로운 시대로 진입하려면 인류에게는 인공지능이 필요하다. 기후변화는 가장 큰 위협으로 다가오고 있다. 전 세계 탄소 배출량을 비약적으로 줄이려면 전기 발전, 교통, 농업, 제조업, 건물 등 모든 분야에서 기술적 돌파구가 필요하다. 세계적인 담수 부족 위기나 피할 수 없는 다음 팬데믹과 같은 다른 도전 과제까지 더하면 산업 전반에 걸쳐 혁신의 폭발이 절실히 필요하다. 혁신을 가능하게 하는 촉매제가 바로 인공지능이다.
책 《로봇의 지배》의 저자 마틴 포드는 인공지능이 가는 길을 따라 탐색하다 보면, 인류가 만들 미래는 결국 두 가지 가상의 극단이 있는 스펙트럼 사이 어딘가에 놓이게 될 것이라 전망한다. 가장 낙관적인 시나리오는 TV 프로그램 〈스타트렉〉에 나오는 세상이다. 발전한 기술 덕분에 물질적으로 풍요롭고 가난이 사라졌으며, 환경 문제도 해결되고, 대부분 질병도 치료할 수 있다. 전통적인 직업이 없어졌다고 사람들이 게을러지거나 삶의 의미나 인간의 존엄이 결핍되지 않는다. 반면에 훨씬 더 디스토피아적인 미래는 영화 〈매트릭스〉에 가까울 것이다. 저자가 두려워하는 것은 인공지능이 우리를 노예로 만드는 것이 아니라, 현실 세계가 너무 불평등하고 더 나아질 기회가 부족한 나머지 많은 인구가 가상현실로 도피하는 선택을 하는 것이다.
앞으로 인공지능과 가상현실 기술의 발전 속도가 빨라질수록 두 기술이 결합해서 너무나도 매력적이고 현실적인 가상 세계를 만들 것이다. 그리고 많은 사람에게 이 가상 세계는 우리가 실제로 사는 세상보다 훨씬 우월해 보일 것이다. 2017년에 한 경제학자 그룹이 발표한 분석에 따르면, 노동시장에서 소외된 젊은이들 가운데 점점 더 많은 수가 비디오게임에 엄청난 시간을 소비하고 있다. 가상 환경을 일종의 마약으로 볼 수 있을 정도로 중독성을 높이는 기술이 곧 나타날 것이다.
마틴 포드는 인류의 거의 모든 사람이 〈스타트렉〉에 가까운 미래를 위해 노력해야 한다는데 동의할 것으로 생각하지만, 그런 낙관적인 미래는 당연하게 주어지지 않는다고 말한다. 때문에 목적지를 향한 궤도를 수정하는 명확한 정책을 만들어야 한다. 목적지에 도착하기까지 아주 오랜 시간이 걸리겠지만 사람들이 스스로 교육받고 의미 있는 도전을 추구하도록 강력한 인센티브를 유지하면서 소득분배 문제를 해결하는 데서 시작한다면, 우리는 올바른 방향으로 가게 될 것이라고 저자는 강조한다.

한줄 서평