[실리콘 디코드] TSMC, 2nm 공정 '곡선형 마스크' 도입…30년 '맨해튼' 구조 깬다

세계 1위 파운드리(반도체 위탁생산) 기업인 TSMC가 차세대 2nm(나노미터·10억분의 1m) 공정에서 수십 년간 이어온 '맨해튼(Manhattan)' 구조와 결별하고 '곡선형 마스크(Curvilinear masks)'를 전면 도입한다고 윈버저닷컴이 4일(현지시각) 보도했다. 반도체 제조 공정의 30년 전통을 바꾸는 혁신으로 평가받는다.

이 거대한 기술적 도약은 엔비디아의 GPU(그래픽 처리 장치) 기반 '큐리소(cuLitho)' 플랫폼과 차세대 멀티빔 마스크 라이터(기록 장치)의 결합이 있어 가능했다. 폭발적으로 증가하는 AI(인공지능) 시장의 막대한 수요가 이 천문학적 비용의 제조 혁신을 뒷받침하고 있다는 분석이다.


10여 년 만에 칩 설계의 기본 기하학 구조가 재편되고 있다. TSMC의 2nm(N2) 공정 노드는 업계가 수십 년간 의존해 온 '맨해튼' 구조, 즉 직각형의 직선 패턴에서 벗어나 곡선형 마스크를 사용하는 첫 번째 사례가 될 전망이다.
반도체 제조에서 곡선형 마스크란, 기존처럼 수직·수평으로만 정렬된 직선 모서리 모양에 제약받지 않고 부드러운 호(arc), 원, 타원, 스플라인(spline) 등 자유로운 곡선 형태를 포함하는 포토마스크를 말한다.

이 마스크는 고급 광 근접 보정(OPC) 및 역 리소그래피 기술(ILT)로 설계한다. 포토마스크의 모양을 수많은 작은 직사각형으로 근사하는 대신, 최적화된 곡선 그 자체로 구현하는 것이다.

곡선형 디자인을 채택하면 실리콘 웨이퍼에 복잡하고 미세한 회로 패턴을 인쇄할 때 충실도를 극대화할 수 있다. 그 결과, 더 넓은 리소그래피 공정 여유도(process window)를 확보하고 초점 심도를 개선하며 공정 변동성을 획기적으로 줄일 수 있다.


빛은 본질적으로 회절하고 왜곡되며, 90도의 날카로운 각을 선호하지 않는 물리적 특성을 갖는다. 곡선형 설계는 이러한 빛의 거동에 부합해 미세 패턴의 재현성을 높인다. 또한, 초점심도(Depth of Focus)를 넓혀 작은 공정 오차에도 안정성을 유지, 양산 수율을 높이는 데 결정적인 역할을 한다.

이러한 변화는 차세대 트랜지스터 구조인 GAA(게이트-올-어라운드)로의 전환과 맞물려, 지난 15년 이래 반도체 제조 분야에서 가장 중대한 기술적 전환 중 하나로 평가받는다.


엔지니어들은 오래전부터 빛의 특성을 더 정확히 모델링하는 곡선형 설계가 이론적으로 우월하다는 사실을 알고 있었다. ILT 기술을 통해 웨이퍼 상의 목표 패턴으로부터 최적의 마스크 디자인을 역으로 계산할 수도 있었다.

하지만 이는 학술적 개념에 머물렀다. 이러한 마스크를 실제로 제작할 도구가 없었기 때문이다.

기존의 VSB(가변 성형 빔) 마스크 라이터는 직사각형과 정사각형만 생성할 수 있었다. 곡선을 구현하려면 '맨해튼화(Manhattanization)'라는 과정을 통해 수천 개의 미세한 직사각형을 겹쳐 찍는 방식으로 근사해야 했다. 이 방식은 부정확해 흐릿한 가장자리를 만들 뿐만 아니라, 마스크 작성 시간이 몇 시간에서 며칠 단위로 늘어나 심각한 생산 병목 현상을 유발했다. 이는 '하루 이상 마스크 작성'이 걸리는 고질적인 시간 지연 문제를 야기했다.


이 거대한 기술적 난제는 하드웨어와 소프트웨어의 융합된 혁신으로 극복했다.

첫 번째 돌파구는 IMS 나노패브리케이션, 뉴플레어 등이 개발한 멀티빔 마스크 라이터의 등장이었다. 이 장비는 단일 전자빔을 수십만 개의 개별 제어가 가능한 미세 '빔렛(beam-let)'으로 분할한다. 이를 통해 복잡한 곡면 패턴을 마치 픽셀로 그림을 그리듯 높은 충실도로 신속하게 '페인팅'한다.

이는 수많은 곡선을 동시에 빠르게 '그려내는' 원리로, 기존 VSB 방식 대비 수십 배 빠른 처리 속도를 확보한 것이다.

이 기술의 상용화는 거대한 도전이었다. KLA-텐코와 같은 굴지의 장비 기업조차 2014년, 2억 2600만 달러(약 3200억 원) 이상을 투입하고도 프로젝트를 포기했을 정도다.


두 번째 퍼즐 조각은 GPU 혁명이 가져온 압도적인 연산 능력이다.

수십억 개 트랜지스터가 집적된 최신 칩의 ILT 마스크 설계를 계산하는 데는 최대 3000만 CPU 시간이 든다. 수만 대의 CPU를 갖춘 데이터 센터도 일주일 이상 걸리는 작업이다.

엔비디아의 '큐리쇼'는 이 계산 방식을 근본적으로 바꿨다. 엔비디아에 따르면, H100 GPU 500대가 CPU 4만 대의 연산 작업을 대신 수행할 수 있다. 이는 워크플로우를 최대 60배까지 가속해, 2주가 걸리던 계산을 약 12시간 만에 완료한다.

TSMC와 엔비디아, 그리고 설계 소프트웨어(EDA) 기업 시놉시스는 지난해 초, '큐리소' 플랫폼의 생산 라인 도입을 공식화하며 N2 공정의 곡선형 마스크 채택을 위한 기술적 기반을 완성했다.


이 거대한 기술 전환에 필요한 막대한 투자를 정당화하는 동력은 AI 시장의 막대한 수요와 높은 수익성이다. 엔비디아와 AMD 등이 설계하는 AI 가속기 칩은 최고 수준의 성능을 극한까지 추구한다.

AMD의 리사 수 CEO는 TSMC와의 깊은 협력을 강조하며 "TSMC 덕분에 AMD는 고성능 컴퓨팅의 한계를 뛰어넘는 선도적인 제품을 지속적으로 제공할 수 있었다"고 밝힌 바 있다.

엔비디아에 2nm 곡선형 공정은 데이터센터용 GPU의 연산 효율과 전력 효율을 극대화할 수 있다. 또한 AMD에게는 초미세 전력 제어 칩의 설계를 최적화하는 기회를 얻으며, 애플과 같은 고객에게는 차세대 아이폰 및 맥 실리콘의 더 긴 배터리 수명과 빠른 처리 속도를 제공하는 핵심이다.

성숙기에 접어든 모바일 시장과 달리, AI 부문은 이러한 첨단 제조 기술을 개척하는 데 드는 막대한 초기 비용을 기꺼이 감당할 재정적 여력(마진)을 갖추고 있다. AI 인프라급 고객들은 제품 단가보다 성능 및 효율 향상의 가치를 더 높게 평가하기 때문이다.

차세대 기술에 대한 선제적 투자는 TSMC가 압도적인 선두 지위를 공고히 하기 위한 핵심 전략이다. TSMC의 웨이저자 CEO는 최근 인텔 등과의 합병설을 일축하며 "TSMC는 어떤 합작 투자, 기술 라이선스 또는 기술에 대해서도 다른 회사와 논의하고 있지 않다"고 단호히 선을 그었다.

이러한 행보는 글로벌 2nm 경쟁에서 삼성전자(GAA 구조)와 인텔(20A 리본펫) 등 경쟁사 대비 '공정 정밀도' 측면에서 독자적인 우위를 확보하려는 전략으로 풀이할 수 있다.

업계에서는 이번 혁신을 기점으로 거대 AI 시장을 중심으로 TSMC-엔비디아-AMD 간의 'AI 파운드리 얼라이언스'가 더욱 공고해질 것으로 보고 있다.

TSMC는 동시에 미래 AI 수요에 대응하기 위한 첨단 패널 레벨 패키징(PLP) 개발에도 속도를 내고 있다.

또한, 2nm 공정은 2026년 하반기 양산을 시작해 2027년 실제 제품에 적용될 예정이며, 앞으로 서버 및 차량용 HPC(고성능 컴퓨팅) 시장에 집중할 전망이다.

이번 곡선형 마스크의 전면 도입은 단순한 공정 개선을 넘어선, AI 붐이 비용을 지불하고 엔비디아의 기술이 견인한 '제조 패러다임의 근본적 전환'이다. 193i(불화아르곤)에서 EUV(극자외선)로의 전환 이후, 마침내 형상 자체의 혁신(Shape-driven Manufacturing)이 시작됐다는 평가다. 또한, 앞으로 10년간 칩 설계의 한계를 재정의할 중대한 이정표가 될 전망이다.

관련 업계에서는 곡선형 설계 툴을 지원하기 위한 EDA(전자설계자동화) 툴, 시뮬레이션 데이터 처리, 검증 소프트웨어 등 전방위적인 생태계 변화가 가속화될 것으로 예상한다.


박정한 글로벌이코노믹 기자 park@g-enews.com