AI 반도체 '원자 결함' 직접 잡는다…코넬대·TSMC, 트랜지스터 3D 이미징 세계 첫 성공

국내 반도체 대기업들이 극미세 공정 수율 전쟁을 벌이는 가운데, 트랜지스터 내부의 원자 단위 결함을 눈으로 직접 확인하는 기술이 현실로 등장했다. 미국 코넬대학교 연구팀이 대만 TSMC, 네덜란드 ASM(ASML과 별개 회사, 원자층 증착(ALD) 장비 사업)과의 산학 공동연구를 통해 초고해상도 3차원(3D) 전자 이미징 기법으로 반도체 트랜지스터 내부의 나노미터 이하 구조 결함을 세계 최초로 관측하는 데 성공했다.

코넬대는 지난 3일(현지시간) 공식 채널을 통해 이 같은 연구 결과를 발표했다. 논문은 지난달 23일 국제 학술지 '네이처 커뮤니케이션즈(Nature Communications)'에 게재됐다.


현대 최첨단 반도체 칩에 내장된 트랜지스터 채널의 폭은 원자 15~18개 수준에 불과하다. 육안은 물론 기존의 어떤 분석 장비로도 내부 구조를 완전히 파악하기 어려운 영역이다.

연구를 이끈 데이비드 뮬러(David Muller) 코넬대 공과대학 교수는 트랜지스터를 "물 대신 전자가 흐르는 미세한 파이프"에 비유했다. 파이프 내벽이 울퉁불퉁하면 유체 흐름이 저하되듯, 원자 단위의 표면 불규칙성이 전자 이동 속도를 저하시키고 소비전력을 높이며 연산 오류를 유발한다는 설명이다.
연구 제1저자 샤크 카라페팹(Shake Karapetyan) 연구원은 이 미세한 굴곡 결함에 '마우스 바이트(Mouse Bite)'라는 이름을 붙였다. 반도체 제조 공정은 수천 단계의 화학적 식각(에칭)·증착·열처리로 이루어지며, 각 단계가 나노미터 이하 단위로 구조에 영향을 준다. 그동안 업계는 이 결함의 위치와 형태를 비파괴적으로 확인할 방법이 없어 수율 개선과 고장 분석에 한계를 겪어왔다.


연구팀이 이번에 활용한 핵심 기술은 전자 프타이코그래피(Electron Ptychography)다. 쉽게 말하면, 극미세 전자빔을 트랜지스터 내부에 쏘았을 때 원자들과 부딪혀 튕겨 나오는 신호를 수천 장의 데이터로 수집한 뒤, 컴퓨터가 이를 역으로 계산해 3차원 원자 배열 지도를 만들어내는 방식이다. 병원에서 CT 촬영으로 몸속을 들여다보듯, 칩을 자르거나 훼손하지 않고도 내부 원자 구조를 입체적으로 확인할 수 있다는 점이 가장 큰 특징이다. 기존에는 반도체를 얇게 잘라 단면만 볼 수 있었지만, 이 기술은 살아있는 구조 그대로를 360도로 들여다볼 수 있다.

뮬러 교수는 과거 기술 수준을 복엽기(이중 날개 비행기)에, 이번 기술을 제트기에 빗대어 설명했다. 실제로 이 기술의 해상도와 3D 재구성 정밀도는 GAA(Gate-All-Around) 트랜지스터처럼 전극이 채널 사방을 감싸는 입체 구조의 내부까지 분석할 수 있는 수준이다.


이번 연구의 산업적 의미는 TSMC와 ASM이 실제 양산 공정 수준의 시편을 제공하고 공동 분석에 참여했다는 점에서 더 커진다. TSMC는 현재 세계 반도체 파운드리(위탁생산) 시장의 약 60%를 점유하고 있으며, ASM은 원자층 증착(ALD) 분야 세계 1위 장비 기업이다.
카라페팹 연구원은 "특정 공정 온도에서 원자 구조가 어떻게 변화하는지 실시간에 가깝게 확인하고 제어할 수 있는 도구를 갖추게 됐다"고 밝혔다. 이는 '마우스 바이트' 발생 조건을 공정 파라미터와 연결 지어 분석할 수 있다는 의미다.

뮬러 교수와 ASM 글렌 윌크(Glen Wilk) 부사장은 과거 벨 연구소 시절 함께 연구한 하프늄 옥사이드(Hafnium Oxide·산화하프늄) 분야의 인연을 이어가고 있다. 산화하프늄은 현재 스마트폰과 PC 칩에서 게이트 절연체로 쓰이며 트랜지스터 누설 전류를 억제하는 핵심 소재다. 두 연구자의 협력이 소재 발굴을 넘어 원자 단위 결함 제어라는 새로운 단계로 진전된 셈이다.


국내 반도체 업계 관점에서 이번 기술의 파급력은 상당하다.

삼성전자는 3나노 GAA 공정을 이미 양산 중이며, SK하이닉스는 HBM(고대역폭 메모리) 적층 공정에서 계면 품질 제어가 핵심 과제로 부상해 있다. 두 기업 모두 수율 개선을 위한 비파괴 계측 기술을 절실히 필요로 하는 상황이다.

업계 관계자는 "원자 단위 비파괴 분석이 실용화되면 공정 개발 주기가 대폭 단축되고 불량 원인 특정에 드는 비용이 줄어들 것"이라며 "장기적으로 반도체 장비 기업들의 계측 솔루션 경쟁도 가열될 것"이라고 전망했다.

AI 반도체 전문 분석 기관들에 따르면, 수십억 개의 트랜지스터가 집적되는 AI 가속기 칩은 미세 결함 하나가 수백 와트(W)의 추가 전력 손실로 이어질 수 있다. 이번 이미징 기술이 AI 칩 개발 전 단계의 '디버깅 도구'로 자리잡을 경우, 설계·공정 최적화 속도가 크게 빨라질 것으로 예상된다.


전문가들은 이 기술의 응용 범위를 AI 반도체에만 한정하지 않는다. 양자컴퓨터는 일반 컴퓨터보다 수억 배 빠른 연산이 가능한 차세대 기술이지만, 원자 하나가 제자리를 벗어나는 것만으로도 계산 전체가 무너질 만큼 정밀도 요구 수준이 극단적으로 높다. 이 때문에 원자 하나하나의 위치를 3차원으로 정확히 확인할 수 있는 이번 이미징 기술은 양자컴퓨터 부품 제작의 필수 검증 도구로 꼽힌다. 나아가 전기차 배터리의 충·방전 효율을 높이는 소재 개발이나, 신약 후보 물질의 분자 구조를 원자 단위로 분석하는 의약학 분야에도 같은 원리를 적용할 수 있어 활용 범위는 반도체를 훌쩍 넘어선다는 평가다.

카라페팹 연구원은 "이번에 확보한 도구가 앞으로 더 많은 과학적 발견과 정밀한 공정 제어를 가능하게 할 것"이라고 말했다.

반도체 미세화의 물리적 한계가 거론된 지 이미 10년이 넘었다. 그러나 '볼 수 없어서 고칠 수 없었던' 원자 단위 결함을 이제 직접 관측하고 추적할 수 있게 됐다는 사실은 단순한 학문적 성과를 넘어선다. 삼성전자와 SK하이닉스가 TSMC를 뒤쫓는 공정 경쟁에서, 이 같은 계측 기술의 도입 속도 자체가 차세대 파운드리 패권을 가를 또 하나의 변수가 될 수 있다.


박정한 글로벌이코노믹 기자 park@g-enews.com