'AI의 대부' 제프리 힌턴 "中-美 기술 경쟁 '매우 우려스러워'"

인간 두뇌의 구조에서 영감을 받은 혁신적인 신경망 모델을 개발해 '인공지능(AI)의 대부'로 불리는 제프리 힌턴 박사가 미·중 AI 기술 경쟁이 "매우 걱정스럽다"고 경고하면서 AI의 위험성과 초강대국들이 이를 억제할 공동의 해결책을 찾아야 한다고 촉구했다고 1일(현지 시각) 사우스차이나모닝포스트(SCMP)가 보도했다.

힌턴 박사는 허리가 좋지 않아 오랫동안 여행이 어려웠지만 최근 중국을 방문해 상하이에서 열린 세계 인공지능 회의에서 연설했다. 그는 상하이 공산당 서기 천지닝과 중국 컴퓨터 과학자 앤드루 야오를 만나 깊은 인상을 받았다면서 "AI 안전에 대한 인식 수준에 깊은 인상을 받았다"고 말했다. 그는 상하이의 AI 기술 수준이 미국과 "꽤 가까운 것 같다"고 평가했다.

힌턴 박사는 범용 인공지능(AGI)이 "5년에서 20년 안에 어딘가에 올 것"이라고 예측하면서 일단 AGI가 생기면 곧 초인공지능(ASI)이 등장할 것이라고 내다봤다. 그는 AI가 사람에게서 통제권을 빼앗는 장기적인 위협에 대해 "매우 걱정스럽다"면서 "이 경선이 여러 가지 이유로 걱정스럽다"고 말했다. 그는 AI가 사회에 많은 이점을 가져다주지만 동시에 나쁜 결과도 많을 것이기 때문에 발전을 멈출 수는 없을 것이라고 강조했다.

힌턴 박사는 AI가 인간을 장악하는 것을 막기 위해 "AI가 인간에게 많은 관심을 갖도록 설계해야 한다"고 제안했다. 그는 AI가 인간을 돌보도록 설계하는 것을 "어머니가 아기를 돌보도록 하는 것"에 비유하면서 "우리는 이 초지능 AI가 우리를 돌보도록 하는 문제를 해결해야 한다"고 말했다. 그는 이것이 "가능하지 않다면 끝이기 때문에 우리는 확실히 노력해야 한다"고 덧붙였다.
힌턴 박사는 AI가 인간을 멸망시킬 확률이 10~20%라고 언급한 것에 대해 "이것은 단지 추측일 뿐"이라며 "정확히 계산할 좋은 방법은 없다"고 말했다. 그는 AI가 '생존'과 '더 많은 통제권'이라는 하위 목표를 스스로 만들어낼 수 있으며, 이는 인간을 대체하려는 동기가 될 수 있다고 설명했다.

힌턴 박사는 AI로 인해 콜센터 직원, 낮은 수준의 프로그래머, 법률 보조원 등 많은 일자리가 사라질 것이며 "5년 정도 안에 엄청난 실업률이 발생해도 놀랍지 않을 것"이라고 전망했다.

그는 또한 AI가 피싱 공격과 같은 사이버 공격을 훨씬 더 그럴듯하게 만들고, 우리가 생각지 못했던 새로운 형태의 공격을 설계할 수 있어 은행·발전소 등 주요 공공기관이 위험에 빠질 수 있다고 경고했다.

한편 AI가 생성한 가짜 영상을 감지하는 것이 불가능해질 것이며, 대신 진짜 영상이 '진짜'라는 것을 증명해야 하는 시대가 올 것이라고 예측했다. AI가 새로운 바이러스 시퀀스를 생성하고, 이를 합성해 치명적인 바이러스를 쉽게 만들 수 있어 국제적인 규제가 시급하다고 촉구했다.

힌턴 박사는 미국의 첨단 AI칩 중국 수출 통제 정책이 중국의 AI 발전을 늦출 수 있지만 "중국이 자체 칩을 생산하도록 많은 압력을 가할 것이며 그렇게 될 것"이라며 10년 이내에 중국이 좋은 칩을 생산하게 될 것이라고 내다봤다. 그는 중국이 AI 개발에 있어 에너지와 데이터라는 병목현상에 직면해 있다고 지적했다.

힌턴 박사는 젊은이들에게 "특정 기술을 배우기보다는 독립적으로 생각하는 능력을 키우는 교육을 받으라"고 조언했다. 그는 "AI가 대신할 마지막 것은 독립적으로 생각하는 능력이 될 것"이라고 강조했다.


신민철 글로벌이코노믹 기자 shincm@g-enews.com