"18시간 걸리던 예측이 41초로"…삼전·닉스, 엔비디아와 제조 AI 고도화

인공지능(AI)을 이용한 반도체 설계와 공정 개발이 가시화되고 있다. 삼성전자는 18시간 걸리던 반도체 열·변형 해석을 AI를 이용해 41초로 단축했고, SK하이닉스는 식각 공정의 형상 예측 속도를 30배 높였다. 엔비디아의 그래픽처리장치(GPU)와 물리 AI 기술이 본격적으로 활용되면서 반도체 개발의 병목으로 꼽히던 시뮬레이션 시간이 대폭 감소한 것이다. 연구개발 비용과 제품 경쟁력에도 변화가 예상된다.

10일 업계에 따르면 9일 서울 코엑스에서 열린 '엔비디아 AI 데이 서울 2026'에서 삼성전자와 SK하이닉스는 AI 기반 반도체 시뮬레이션 연구 성과를 나란히 공개했다.

반도체는 회로 구조와 공정 조건이 달라질 때마다 발열과 응력, 재료 변형 등을 계산해야 한다. 고부가 상품이다 보니 수율이 무엇보다 중요하고, 양산 전 변수를 최대한 차단해야 하기 때문이다. 특히 최근에는 이 같은 부담이 더 커졌다. AI 서버에 사용되는 고대역폭메모리(HBM)와 같이 반도체 구조가 복잡해지면서 발열이 심해졌고, 예측도 한층 어려워진 탓이다. 따라서 AI를 이용한 시뮬레이션은 시간과 비용을 현저히 줄일 수 있다는 점이 중요하다.

삼성전자는 엔비디아의 물리 AI 개발 프레임워크 '피직스네모(PhysicsNeMo)'와 GPU 가속 기술을 활용해 대규모 반도체 패키지의 열·기계 해석 속도를 높였다. 복잡한 해석 영역을 작은 구역으로 나누고 AI가 각 영역의 물리적 특성을 예측한 뒤 전체 결과를 통합하는 방식이다.
그 결과 32코어 중앙처리장치(CPU)에서 약 18시간 걸리던 해석을 GPU 환경에서 41초에 수행했다. 약 1600배 빠른 속도다. H100 GPU 1개를 활용하면 41초, 4개를 투입하면 17초까지 줄어들었다. 기존 CPU 대비 각각 약 1600배, 3800배 빠른 수준이다. 아직은 AI 알고리즘과 GPU 가속 등을 결합한 특정 시험 환경에서 측정한 성능이지만 괄목할 만한 결과라는 점은 부정할 수 없다.


SK하이닉스는 반도체 공정 시뮬레이션에 AI를 결합한 'TCAD 3.0' 전략을 제시했다. 김정한 SK하이닉스 미래기술연구원 TCAD 인텔리전스팀장은 엔비디아와 협력해 식각 공정의 형상 변화를 예측하는 AI 모델을 개발했다고 밝혔다. 식각은 웨이퍼의 불필요한 부분을 제거해 회로 구조를 만드는 공정이다.

SK하이닉스가 개발한 모델은 기존 물리 시뮬레이션과 비슷한 결과를 내면서도 예측 속도를 30배 높였다. 작은 구조의 물리적 특성을 칩 전체로 확장하는 대면적 해석에서도 GPU 최적화를 통해 기존 CPU 대비 30배 이상 빠른 성능을 확보했다.

시뮬레이션 고속화는 단순한 연산 시간 단축을 넘어 개발 효율 개선으로 이어질 수 있다. 같은 시간에 더 많은 설계안과 공정 조건을 검증하고, 실제 시제품 제작에 앞서 오류를 걸러내 개발 기간과 비용을 줄일 수 있기 때문이다.

이종환 상명대 시스템반도체공학과 교수는 "반도체는 개발 과정에서 시간과 비용이 많이 들어 시뮬레이션이 중요하다"면서 "특히 열 관련 시뮬레이션 기술이 좋아질수록 유리하고, 개발 기간을 단축하는 등 여러 가지 장점이 많다"고 말했다.
양사가 지향하는 다음 단계는 AI가 설계조건 설정부터 시뮬레이션과 결과 검증, 최적화까지 수행하는 '자율 AI 엔지니어'다. 현재는 연구·시연 단계지만 기술 적용이 확대되면 반도체 개발 과정의 반복되는 실험과 검증에 투입하는 시간을 줄일 수 있을 것으로 전망된다.


이다현·유덕규 글로벌이코노믹 기자 dh2@g-enews.com