[실리콘 디코드] 美 서브스트레이트, 'X선 리소그래피'로 ASML 독점 깨나…"TSMC 대체" 선언

첨단 반도체 제조의 심장부로 불리는 리소그래피(노광) 장비 시장. 네덜란드 ASML이 극자외선(EUV) 기술로 사실상 독점하고 있는 이 거대한 시장에, 한 미국의 신생 스타트업이 정면으로 도전장을 내밀어 업계의 이목이 쏠리고 있다. 샌프란시스코에 본사를 둔 '서브스트레이트(Substrate)'가 그 주인공이다. 창업자 겸 최고경영자(CEO)는 제임스 프라우드(James Proud)로, 이들은 피터 틸(Peter Thiel)의 파운더스 펀드, 제너럴 캐털리스트, 밸러 에퀴티 파트너스 등 실리콘밸리의 유력 자본을 유치하며 미국 내 차세대 반도체 주권 확보를 위한 기술 벤처로 부상했다.

이들은 기존 EUV와는 완전히 궤를 달리하는 'X선 리소그래피(X-ray lithography)'라는 혁신 기술을 무기로 내세웠다. 서브스트레이트의 야망은 단순히 ASML의 대항마가 되는 것에 그치지 않는다. 이들은 궁극적으로 대만 TSMC가 굳건히 지키고 있는 글로벌 파운드리(반도체 위탁 생산) 시장의 패권을 미국으로 가져오겠다는 원대한 구상을 그리고 있다. 미국 내 자체 팹(Fab·공장)을 구축해 첨단 AI 반도체 생산의 주도권을 되찾겠다는 전략이다. 궁극적으로는 2nm 이하의 AI 가속기, 고성능 메모리, 로직 칩 생산을 미국 내에서 수행하겠다는 목표다.

현재 글로벌 최첨단 반도체 제조 생태계는 ASML의 EUV 장비 없이는 성립 자체가 불가능하다. TSMC, 삼성전자, 인텔과 같은 세계적인 파운드리 기업들은 이 고가의 장비를 확보하기 위해 천문학적인 비용을 쏟아붓고 있다. 블룸버그 통신에 따르면, 파장 13.5nm의 ASML의 EUV 장비는 오늘날 가장 진보된 반도체의 표면에 극도로 미세한 회로를 식각(etching)할 수 있는, 고온의 플라즈마에서 방출되는 특수한 빛을 생성한다.

하지만 서브스트레이트는 이와는 근본적으로 다른, 새로운 기술적 해법을 제시한다. 블룸버그가 전한 바에 따르면, 이 회사의 시스템은 "입자 가속기 기반 X선 광원"을 동원해 EUV보다 파장이 훨씬 더 짧은 (1nm 이하) X선으로부터 빛을 생성한다. 이 방식은 EUV의 복잡한 플라즈마 제어나 거대한 반사경(Optics) 구성이 불필요하며, 촛점 심도와 선명도를 극대화해 EUV 대비 10배 이상의 광원 에너지 밀도를 제공한다고 알려졌다. 서브스트레이트 측은 이 기술을 통해 "기존 EUV 빔보다 훨씬 더 좁고, 동시에 더 정밀한 빔을 만들어낼 수 있다"고 그 우수성을 강력히 주장하고 있다. 2nm 공정 이하의 초미세 회로 선폭(pattern) 구현의 이론적 가능성을 제시한 셈이다.
서브스트레이트가 내세우는 기술력은 단순한 이론에 그치지 않는다. 파이낸셜 타임스(FT)는 이들의 시스템이 이미 미국 국립 연구소(National Laboratories)에서 시험 운용 및 시연되었다고 보도했다. 주요 테스트에서 2nm급 구조를 성공적으로 구현한 것으로 알려졌다. 이 스타트업의 창업자이자 최고경영자(CEO)인 제임스 프라우드는 FT와의 인터뷰에서 자사의 시스템이 현재 기술의 최전선인 2나노(nm) 공정 수준의 초미세 반도체를 생산할 역량을 갖추고 있다고 자신했다.

특히 프라우드 CEO가 강조하는 지점은 '압도적인 비용 경쟁력'이다. 그는 "우리의 새로운 접근법이 상용화되면, 2030년까지 최첨단 웨이퍼 한 장을 제조하는 데 드는 비용을 현재의 약 10만 달러(약 1억 4000만 원)에서 10분의 1 수준인 약 1만 달러(약 1400만 원)로 획기적으로 절감할 수 있을 것"이라고 주장했다. 현재 대당 2억 달러(약 2800억 원)에 달하는 막대한 EUV 장비 비용 구조를 대체, 파운드리 산업의 경제성을 근본적으로 흔들 잠재력이 있음을 시사하는 대목이다. 반도체 제조 단가에 막대한 영향을 미칠 수 있는 파격적인 제안이다.


주목해야 할 대목은 서브스트레이트의 최종 목표가 ASML의 장비 시장 점유율을 일부 빼앗아 오는 것이 아니라는 점이다. 그들의 시선은 세계 최대 파운드리 기업이자 '파운드리의 제왕'으로 불리는 TSMC를 향하고 있다. 로이터 통신에 따르면, 프라우드 CEO는 이번 X선 리소그래피 장비 개발이 "첨단 인공지능(AI) 반도체 생산 분야에서 TSMC와 정면으로 경쟁할 수 있는 미국 기반의 반도체 위탁 생산(C-Fab) 사업을 구축하기 위한 역사적인 첫걸음"이라고 그 의미를 부여했다. 서브스트레이트는 "ASML을 대체하는 것은 시작일 뿐"이라고 공언하며 TSMC를 넘어서겠다는 야심을 명확히 했다.

이들의 구상은 월스트리트저널(WSJ)의 보도를 통해 더욱 구체화된다. WSJ는 서브스트레이트가 단순히 장비 제작사를 넘어, 자체 개발한 리소그래피 장비로 가득 찬 독자적인 '팹 네트워크(fab network)'를 미국 본토에 구축할 계획이며, 오는 2028년까지는 상업적 양산 장비(production-grade tool)를 갖춘 대규모 양산 체제에 돌입하는 것을 목표로 하고 있다고 전했다. TSMC의 성공 모델을 복제해 '미국형 파운드리 생태계'를 형성하려는 전략으로 풀이된다.


그러나 업계 전문가들은 이 스타트업의 야심 찬 청사진에 대해 신중한 입장을 보이고 있다. 장밋빛 전망에도 불구하고 현실화까지는 수많은 기술적 난관이 도사리고 있다는 지적이다. 월스트리트저널은 다수의 전문가를 인용, 반도체 생산 공정에서 서브스트레이트가 목표로 하는 수준의 나노급 정밀도를 완벽하게 구현하고 제어하는 것은 "통상적으로 마스터하는 데만 10년 이상이 소요되는 거대한 위업"이라고 그 어려움을 전했다. 실제로 ASML과 협력사들이 EUV 공정 기술을 안정화하는 데만 15년 이상이 소요됐다.

설령 X선 리소그래피라는 핵심 기술 자체를 완성한다 하더라도, 그것이 반도체 생산이라는 길고 복잡한 기술적 사슬의 '수많은 고리 중 하나'를 해결한 것에 불과하다는 냉정한 평가도 나오고 있다. WSJ는 또한, 고속으로 작동하는 실제 양산 라인에서 머리카락보다 훨씬 얇은 웨이퍼의 넓은 영역 전체에 걸쳐 단 한 치의 오차도 없는 동일한 수준의 정확도를 유지하는 것은, 실험실 환경의 시연과는 비교할 수 없는 또 다른 차원의 난제라고 지적했다. 특히 X선은 파장이 극도로 짧아 정렬 오차에 매우 민감하기 때문에, 300mm 대형 웨이퍼 전체 면적에서 균일한 해상도를 유지하는 '대면적 웨이퍼 정렬(Overlay)' 문제가 가장 큰 기술적 과제로 꼽힌다. 또한 현재 입자 가속기 기반 시스템은 EUV보다 속도가 상당히 느린 것으로 알려져, 대규모 양산의 경제성을 확보하는 것도 시급한 문제다. 이 매체는 앞서 중국의 여러 기업 역시 지난 수년간 막대한 자본을 투입해 유사한 기술적 장애물을 극복하려 시도했지만, 아직 뚜렷한 성과를 내지 못하고 있다고 덧붙였다.

나아가 반도체 산업은 거대한 생태계의 뒷받침이 필수적이다. 현재 X선 리소그래피 기술은 광원, 감광액(포토레지스트), 마스크 블랭크 등 EUV 생태계에 준하는 핵심 공급망이 전무한 상황이다. 장비 상용화에 성공하더라도, 후방산업 구조의 정착이 이뤄지지 않으면 '찻잔 속 태풍'에 그칠 수 있다는 지적이다.

이처럼 가파른 기술적 허들과 높은 불확실성에도 불구하고, 서브스트레이트는 실리콘밸리의 거물급 자본을 끌어모으는 데는 일단 성공한 모양새다. 블룸버그는 페이팔(PayPal)의 공동 창업자로 유명한 억만장자 투자자 피터 틸이 설립한 '파운더스 펀드(Founders Fund)'가 서브스트레이트의 잠재력을 높이 평가해 초기 투자자 명단에 이름을 올렸다고 보도했다. 이 펀드 외에도 제너럴 캐털리스트(General Catalyst)와 밸러 에퀴티 파트너스(Valor Equity Partners) 등 유수의 벤처 캐피털이 투자에 합류했다.

미국 정부 차원의 관심도 감지된다. 블룸버그는 "하워드 러트닉 미 상무장관이 서브스트레이트의 창업자 프라우드 CEO와 이미 여러 차례 회동했다"고 회사 측이 주장하고 있다고 덧붙였다. 이러한 움직임은 반도체 공급망을 자국 중심으로 재편하고 중국을 견제하려는 미국 정부의 강력한 의지와 맞물려, 서브스트레이트의 행보에 힘을 실어줄지 귀추가 주목된다. 현재 서브스트레이트의 기술은 '개념 증명(Proof of Concept)' 단계에 가깝지만, '포스트-EUV 시대'를 겨냥한 미국 최초의 실질적 도전자라는 점에서 그 상징성이 크다. 업계는 상용화까지 최소 5~10년의 장기전이 필요할 것으로 전망하면서도, 서브스트레이트의 등장이 글로벌 반도체 패권 경쟁의 '새로운 전선'을 여는 사건이 될지 예의주시하고 있다.


박정한 글로벌이코노믹 기자 park@g-enews.com