[초점] "AI의 진짜 위협은 슈퍼 인텔리전스 아니다"

지난 수십 년 동안 허황된 꿈에서 현실화 된 인공지능이 급부상하는 것은 충격적이다. AI 프로그램은 오랫동안 체스와 제퍼디였다. AI는 챔피언이었고 포커, 크로스워드 퍼즐, 바둑, 심지어 단백질 접기도 정복했다.

AI는 우리가 매일 사용하는 소셜 미디어, 비디오, 그리고 검색 사이트에서 컴퓨터가 상상할 수 없었던 영역, 즉 예술적 창의성까지 드러내는 우수성을 보여준다.

반면에 초지능적인 AI에 의해 파괴된 터미네이터식 인류의 미래에 대한 경고는 놀라운 일이 아니다.

우리가 무의식중에 스스로에게 드러내는 것. 하지만 스플래시 헤드라인 너머를 볼 때, 진짜 위험은 AI가 똑똑한 것이 아니라는 것을 알게 될 것이다.
AI가 얼마나 무신경한지, 그리고 우리가 AI의 지능에 대해 얼마나 망상적인 경향이 있는지에 대해 재인식할 필요가 있다.

지난 여름 구글의 엔지니어는 회사의 최신 AI를 이렇게 주장했다. “챗봇은 지각 있는 존재이다.” 이유는 그렇게 말했기 때문이다. 최근 공개된 페이스북의 모회사와 유사한 이 챗봇은 당신이 미래적이고 의식적인 생물과 대화하고 있다는 인상을 줄 수 있다.

그러나 이것은 착각이다. 챗봇은 단지 훈련받은 인터넷 텍스트의 통계적 패턴에 기초하여 단어를 반 랜덤으로 선택하는 계산기일 뿐이기 때문이다.

챗봇은 자신이 만들어내는 단어에 대한 이해도 없고, 어떤 생각이나 감정도 가지고 있지 않다. 챗봇은 당신의 전화기에 있는 자동 완성 기능의 더 멋진 버전일 뿐이다.

챗봇은 1960년대 초기 원시적 시도 이후 먼 길을 걸어왔지만, 그 때보다 스스로 생각하는 데 더 가까워지지 않았다.
전류 AI는 가능성이 전혀 없다

챗봇은 자유 의지의 행동으로 반항할 것이다. 챗봇이 하는 모든 것은 텍스트 프롬프트를 확률로 바꾼 다음 확률을 단어로 바꾸는 것이다. AI의 미래 버전은 인류를 박멸하기로 결정하지 않을 것이다.

우리가 어리석게도 AI가 가질 수 없는 권력의 위치에 두는 것은 위험한 일이다. 예를 들어 의료 조언을 제공하거나 자살 예방 핫라인을 운영하려는 것은 위험한 발상이다.

틱톡의 알고리즘은 당신의 마음을 읽는다. 하지만 실제로는 마음을 읽는 것이 아니라 데이터를 읽는 것이다. 틱톡은 당신과 비슷한 시청 이력을 가진 사용자를 찾아보고, 그들이 호의적으로 보고 교류한 동영상을 골라준다.

인상적이긴 하지만, 그냥 통계치일 뿐이다. 마찬가지로 AI, 페이스북, 인스타그램, 트위터에서 사용하는 시스템은 어떤 정보가 진실인지, 어떤 게시물이 여러분의 정신 건강에 좋은지, 민주주의가 번창하는 데 도움이 되는 콘텐츠인지를 알지 못한다.

이것들은 다른 사람들이 과거에 플랫폼에서 무엇을 해왔는지 알고 있으며 이 데이터를 사용해 여러분이 미래에 무엇을 할 것인지를 예측한다.

초지능 AI에 대해 걱정할 필요가 없다. 혹자들은 AI가 우리를 노예로 만들려고 노력하고 있다고 한다든지, 무지하고 독살스러운 AI시스템에 대해 걱정한다. AI시스템은 온라인 광고 수익의 모든 페니를 우리에게서 빼내도록 고안된 것에 불과하다.

그리고 AI시스템이라고 착각하는 경찰 기관에 대해 걱정하는 것이 옳은 일이다. AI시스템은 범죄가 발생하기 전에 예측할 수 있다. 실제로 AI가 하는 모든 것은 소수자에 대한 해로운 고정관념을 영구화하는 것이다.

현실은 AI가 없는 것이다. 우리가 할 수 있는 기회를 명시적으로 제공하지 않는 한 AI는 우리를 해칠 수 있다. 그러나 우리는 자격이 없는 AI를 붙이기로 작정한 것 같다.

우리가 훨씬 더 큰 지능과 자율성을 AI시스템에게 돌리고 있다. AI는 내공이 대부분 불가해하다. AI의 내공은 많은 수학, 많은 컴퓨터 코드, 그리고 수십억 개의 매개 변수를 포함한다. 이 복잡성은 우리를 맹목적으로 만들고, 우리의 상상력은 우리가 보지 못하는 것을 실제보다 더 많이 채워준다.

1770년 체스 두는 로봇, 즉 ‘자동화’가 만들어졌고, 거의 한 세기 동안 세계를 여행하며 나폴레옹과 벤자민 프랭클린과 같은 유명한 사람들을 포함한 많은 기막힌 도전자들을 물리쳤다.

그러나 그것은 결국 속임수임이 밝혀졌다. 이것은 인공지능의 놀라운 초기 형태가 아니라, 단지 인간 체스 선수가 상자 안에 숨어서 한 쌍의 기계식 팔을 조종할 수 있는 기구에 불과했다.

사람들은 기계에 있는 지능을 보기를 간절히 원했고 84년 동안 그들은 훨씬 더 진부한 (그리고 나중에 보면 분명한) 설명인 속임수를 간과했다.

AI의 기술은 18세기 이후 비약적으로 발전했지만, 그것에 대한 우리의 낭만적인 태도는 그렇지 않았다. 우리는 여전히 상자 안을 들여다보기를 거부하고, 대신 초지능 형태의 마법이 일어나고 있다고 믿거나, 그것이 바로 코앞에 있다고 믿어왔다.

이 허황된 갈망은 진정으로 위험한 AI시스템으로부터 우리를 산만하게 한다. AI는 실제보다 훨씬 더 똑똑하다고 잘못 생각했을 때 포즈를 취한다. 그리고 지난 250년이 어떤 징조라면, 우리의 미래까지 지속될 진짜 위험이다.

18세기와 19세기 사람들이 체스 두는 과정에서 자동화에 숨겨진 진부한 진실을 간과했던 것처럼, 오늘날 사람들은 AI시스템의 도주 위험으로부터 우리의 미래를 보호하기 위한 진부하지만 효과적인 방법을 간과하고 있다.

AI시스템은 좀 더 확장해야 한다. 학교와 일반 대중을 대상으로 문맹 퇴치를 하려는데 더 많은 노력이 필요하다. 다만 AI의 과대망상에 덜 취약하도록 한다. AI는 실제보다 훨씬 더 능력이 있다.


김종대 글로벌철강문화원 원장