AI의 미래를 주제로 한 두 권의 책이 전 세계의 이목을 끌고 있다. 유발 하라리의 '넥서스(Nexus, 2024)'와 무스타파 술래이만의 '더 커밍 웨이브(The Coming Wave, 2023)'이다.

유발 하라리는 이스라엘 히브리대학의 역사학 교수이자 '사피엔스', '호모 데우스' 등의 베스트셀러 작가로서 AI가 진리와 권력의 개념을 근본적으로 변화시키고 있다고 주장한다. 그의 '넥서스'는 AI가 정보의 흐름을 통해 인간의 정체성과 윤리적 가치를 어떻게 재편할 수 있는지를 탐구한다. 이 책의 핵심은 '결정'이라는 개념이다. '결정'은 AI가 하는 일이다. 이것은 내면에서 나오는 행동 방침을 따르는 능력, 즉 '의도성'을 가지고 있다. AI가 기존 기술과 다른 점은 '스스로 결정' 할 수 있다는 것이다. 새로운 정보를 독자적으로 만들고, 고도화된 네트워크를 스스로 확산시킬 수 있다. 결국 AI를 제어하는 극소수의 사람에게 전례 없는 힘을 부여한다. 잠재적으로 인간 사회뿐 아니라 생물권 전체를 재편할 수도 있다. 전례 없는 엄청난 권력이다. AI 기술이 사회에 미치는 단순한 물리적 변화가 아니라, 인류의 정체성과 근본적인 가치의 변화에 대한 미래이다.

무스타파 술래이만 CEO는 알파고를 만든 딥마인드 공동 창립자이자 현재 마이크로소프트 AI의 CEO이다. 그는 '더 커밍 웨이브'를 통해서 고도화된 기술일수록 명과 암이 뚜렷하다고 주장한다. 가장 우려스러운 것은 사회적 갈등과 혼란, 그리고 전쟁의 확산이다. AI를 활용한 딥페이크, 사이버 공격, 킬러로봇 개발 등이 이미 진행형이다. 인간은 보고 싶은 것만 보는 존재이기에 잠재적 위협이나 부정적인 미래를 외면할 가능성이 높다라는 전제를 담고 있다. 만약 인류가 AI의 기술적 통제에 실패한다면 사회 질서의 혼돈을 야기하고 국제적 불안정성이 더욱 확장되어 새로운 냉전시대로 갈 수 있음을 경고한다. 그의 핵심 제안은 기술이 인간의 통제를 벗어나지 않도록 '통제 문제(containment problem)'로 감독 체계를 강화하는 것이다.

하라리와 술래이만이 바라보는 인공지능의 미래는 접근 방식에서 차이가 있다. 하라리는 역사적 관점에서 AI가 인간의 권리와 자유를 억압할 수 있는 도구가 될 수 있으며, 전체주의적 통치를 강화하고 민주주의를 약화시킬 수 있다고 경고한 반면, 술레이만은 현실적으로 AI 통제의 불가능을 인정하고, 최악의 시나리오에 대비하여 핵심과제를 통해 실용적으로 해결하자는 주장이다. 핵심과제란 억제할 수 없을 것 같은 기술을 어떻게 하면 억제할 수 있을지 알아내는 방어적 기술이다.

그러나 두 석학은 AI의 사회적 영향력에 대해서는 공통된 입장을 취한다. AI는 사회적 구조를 재편하고 불평등을 심화시킬 수 있으며, 그 위험성은 피할 수 없는 것이 아니라 적극적으로 관리되어야 할 문제로 인식한다. 이들은 AI 기술의 부정적 측면이 과소평가될 경우 오히려 더 큰 위협에 노출될 수 있음을 경고하며, AI의 규제와 감독이 반드시 사전에 이루어져야 함을 강조한다.

즉, AI를 바라보는 시각이 다르다. 단순한 기술적 혁신이 아니라 인간의 미래를 재편할 수 있는 '양날의 칼'로 보는 것이다. AI는 인간의 도구로서 사용할 수 있지만, 잘못 사용될 경우 인류를 파괴하는 도구로 변모할 수 있기 때문이다.

인공지능은 인간의 욕구까지 닮아있다. 우리가 할 수 있는 최선의 대응은 AI 사용에 윤리적 책임을 바탕으로 서로 다른 의견을 경청하고 소통하는 실천을 통해 나와 주변의 미래에 긍정적으로 작용할 수 있는지 성찰하는 것이다.

김경수 전남대 문화전문대학원 교수