AI, '의심' 없어 인간 사고력과 차이 있다

인간은 자각하는 동물이다. 인간은 주변을 인지할 뿐만 아니라, 미학적으로 해석도 하고, 느끼는 감각이 실제인지 환상인지 궁금해 하기도 한다. 이는 인간의 머리가 돌고 있기 때문이다.

그렇다면 컴퓨터는 어떨까. 앨런 튜링이 1930년대에 최초의 범용 컴퓨터를 고안한 이후 컴퓨터는 인간의 생활에 깊숙이 자리 잡았다. 인공지능(AI) 시대의 컴퓨터는 바둑, 체스, 컴퓨터 게임과 같은 전통적인 지능과 창의력 테스트에서도 인간의 영역에서 매우 뛰어난 실력을 발휘하고 있다.

그 뒤에 숨어 있는 컴퓨터 알고리즘, 특히 AI가 대단히 지능적으로 보일 수 있지만, 여전히 컴퓨터와 AI는 인간과 다르다. 단적으로 AI는 자신들이 무엇을 모르는지 모른다. 심리학자들은 이를 인식이라고 부른다.

메타 인식은 인간 자신의 생각을 성찰하는 능력이다. 예를 들어, 우리가 틀릴 수도 있고, 다른 의견을 찾는 것이 현명할 수도 있다는 것을 인식하는 것이다. 바로 우리의 생각이 옳은가에 대해 ‘의심하는’ 능력이다.
AI 연구원들은 머신러닝 기술이 지나치게 자신만만해지는 경향이 있다는 사실을 안다. 예를 들어, 인지하는 것은 고양이와 개뿐인 컴퓨터 소프트웨어 인공신경망에 돌고래의 사진을 분류하도록 요청할 경우, 네트워크는 돌고래에 대한 훈련을 받은 적이 없기 때문에 ‘돌고래’라는 반응을 나타낼 수 없다. 그러나 머신러닝을 비롯한 AI는 포기하지 않고 자신있게 거짓 대답을 한다.

실제로 튀빙겐 대학의 마티아스 하인 그룹의 2019년 리포트에 따르면 테스트 이미지가 훈련 데이터와 점점 더 달라질수록 AI 신뢰도는 낮아지는 것이 아니라 높아졌다. 이는 AI가 해야 할 일과는 정반대의 결과다.

런던대학은 자기 인식과 메타 인식을 지원하는 뇌 메커니즘을 연구하는 연구소를 운영하고 있다. 연구소의 연구는 컴퓨터 과학자들이 어떻게 AI를 계속 발전시키는지에 대해 폭 넓게 연구한다. 체스나 바둑 게임이 아니다. 앞으로 인간의 생사를 좌우할 수 있는 자율주행차와 로봇 등을 연구한다.

알고리즘에 대한 연구도 진행하고 있다. 일단 기계가 인간의 일상생활의 일부가 되면, 인간은 관련된 위험에 안주하는 경향이 있다. 진정한 위험은 똑똑한 기계들이 인간 운명을 이끄는 리더의 역할을 기계가 빼앗는 것이 아니라, 기계와 AI에게 그들의 능력을 훨씬 뛰어넘는 권한을 부여하는 것이라는 지적이다.

결국 AI는 사람이 갖고 있는 의심을 하지 않기 때문에 여전히 인간의 사고력과는 현격한 차이가 있다.


조민성 글로벌이코노믹 기자 mscho@g-enews.com