[HEEDS] Simcenter HEEDS SHERPA의 최적 검색 원리, 기능 소개

 이번 글에서는 Simcenter HEEDS의 핵심 최적화 엔진인 SHERPA Search Framework에 대해 자세히 살펴본다. 기존의 전통적인 최적화 알고리즘들과 비교 분석하여, SHERPA만이 가지는 차별화된 탐색 방식과 뛰어난 성능을 조명할 예정이다. 이를 통해 복잡한 설계 공간에서 사용자의 개입을 최소화하고 가장 효율적으로 최적해를 도출해 내는 원리를 알아보고자 한다.

1. 서론: 최적화의 난제와 'No Free Lunch' 이론

1.1 엔지니어링 최적화의 현실

 현대의 엔지니어링 환경에서 '최적화(Optimization)'는 선택이 아닌 필수가 되었다. 제품의 경량화, 성능 향상, 비용 절감이라는 상충되는 목표를 동시에 만족시켜야 하기 때문이다. 그러나 설계 변수가 증가함에 따라 설계 공간(Design Space)은 기하급수적으로 복잡해진다. 비선형성(Non-linearity), 다봉성(Multi-modality), 그리고 수치적 노이즈(Noise)가 뒤섞인 예측 불가능한 지형에서 최적해를 찾는 것은 매우 도전적인 과제이다. 엔지니어에게 중요한 것은 이론적으로 완벽한 '절대 최적해'를 찾는 것보다, 제한된 시간과 비용 내에서 '실현 가능한 더 나은 해(Feasible Better Design)'를 발견하는 것이다.

1.2 No Free Lunch Theorem (NFL)의 시사점

 최적화 이론에는 "공짜 점심은 없다(No Free Lunch Theorem)"라는 유명한 정리가 존재한다. 이는 "모든 종류의 문제에 대해 평균적으로 우수한 성능을 보이는 단일 최적화 알고리즘은 존재하지 않는다"는 것을 의미한다. 즉, 특정 문제(예: 매끄러운 단봉형 함수)에 뛰어난 성능을 보이는 알고리즘이라도, 다른 문제(예: 복잡한 다봉형 함수)에서는 성능이 현저히 떨어질 수 있다.

Figure 1 No Free Lunch Theorem의 예시: 문제 특성에 따라 최적화 알고리즘의 성능은 달라진다.

 이 이론은 엔지니어에게 큰 부담을 안겨준다. 최적화 문제를 풀기 위해 엔지니어는 자신의 문제 특성을 정확히 파악해야 하며, 이에 적합한 알고리즘을 선정하고, 수많은 파라미터를 튜닝해야 하는 '최적화를 위한 최적화' 과정에 매몰되게 된다.

2. 전통적 최적화 기법의 한계와 파라미터 튜닝의 딜레마

 전통적인 최적화 기법들은 각자의 영역에서 훌륭한 성능을 발휘하지만, 비전문가가 다루기에는 '튜닝의 어려움(Tuning Difficulty)'이라는 명확한 진입장벽이 존재한다.

 아래 그림 2와 같이 Simcenter HEEDS에서 제공하는 전통적인 최적화 기법들의 설정환경을 기반으로 설명하겠다.

Figure 2 Simcenter HEEDS의 전통적 최적화 기법 설정 화면

2.1 2차 계획법 (Quadratic Programming, QP)

 QP는 목적함수를 2차 함수로 근사하여 최적해를 탐색하는 구배(Gradient) 기반 기법이다. 매끄러운 함수에서는 매우 빠른 수렴 속도를 보이지만, 실제 엔지니어링 문제에서는 다음과 같은 튜닝의 어려움과 한계가 있다.

Figure 3 QP(Quadratic Programming) Method Properties 설정 화면

 - 튜닝의 복잡성 : 사용자는 `Maximum outer iterations`(전체 반복 횟수), `Maximum line search iterations`(탐색 방향 결정 후 반복 횟수), `Gradient step size`(미소 변위량) 등을 직접 설정해야 한다. 특히 Step size가 너무 작으면 노이즈에 민감해지고, 너무 크면 정확도가 떨어지는 딜레마가 있다.

 - 조기 종료(Early Termination) 문제 : 예를 들어 최대 반복 횟수를 50회로 설정했더라도, 탐색 도중 국부 최적해(Local Optima)에 갇혀 기울기가 0에 가까워지면 알고리즘은 20~25회 만에 탐색을 종료해 버린다. 이는 전역 최적해를 찾지 못했음에도 불구하고 해석 기회를 스스로 포기하는 결과를 낳는다.

2.2 다중 시작 국부 탐색 (Multi-Start Local Search, MS)

 MS는 이러한 국부 탐색의 한계를 극복하기 위해, 여러 초기점에서 국부 탐색을 수행하여 전역해를 찾으려는 시도이다. 그러나 이 역시 사용자의 파라미터 설정 능력에 크게 의존한다.

Figure 4 MS(Multi-Start Local Search) Method Properties 설정 화면

 - 총 해석 횟수 계산의 번거로움 : SHERPA와 달리 총 해석 횟수(Evaluation)를 직접 입력하는 것이 아니라, `Number of Starts(시작점 개수)`와 `Evaluations per Start(각 탐색별 반복 횟수)`를 곱하여 계산해야 한다.

 - 200회 설정의 함정 (Shallow Search) : 만약 사용자가 총 200회의 해석 예산(Evaluation Budget)을 가지고 `Max Evaluations`를 200으로 설정하더라도, 기본값인 `Number of cycles(Starts)`를 100으로 둔다면 치명적인 문제가 발생한다. 각 시작점(Cycle)에서 평균 2회(200/100) 밖에 탐색하지 못하기 때문이다. 이는 수렴은커녕 수박 겉핥기식 탐색(Shallow Search)에 그치게 된다. 제대로 된 탐색을 위해서는 사용자가 Cycles를 4~5회(각 40~50회 탐색) 수준으로 직접 대폭 줄여야 하는 번거로움이 있다.

2.3 전역 탐색 및 메타 휴리스틱 (Global Search)

 유전 알고리즘(GA)이나 입자 군집 최적화(PSO), 시뮬레이티드 어닐링(SA)과 같은 전역 탐색 기법들은 국부해 탈출 능력은 뛰어나지만, 파라미터 설정의 난이도는 더욱 높다.

- 유전 알고리즘 (GA) :

Figure 5 GA(Genetic Algorithm) Method Properties 설정 화면

 - 총 해석 횟수 계산 : 사용자가 직접 '인구수(Population)'와 '세대수(Cycles)'를 곱하여 총 횟수를 맞춰야 한다. 예를 들어 200회 예산이라면, 기본값(Pop 40 * Cycle 40 = 1600회)을 그대로 쓸 수 없고, Population 20 × Cycles 10 등으로 일일이 변경해야 한다.

 - 유전 연산자 : 교차율(Crossover Rate)과 변이율(Mutation Rate) 설정이 성능을 좌우한다. 변이율이 너무 낮으면 조기 수렴하고, 너무 높으면 랜덤 탐색(Random Search)과 다를 바 없어진다.

 - 입자 군집 최적화 (PSO) :

Figure 6 PSO(Particle Swarm Optimization) Method Properties 설정 화면

 - 파라미터 민감성 : GA와 마찬가지로 `Swarm Size` × `Generations` 계산이 필요하다. 또한 입자의 속도를 제어하는 가속 상수(Acceleration Constants)가 문제 특성에 맞지 않으면 입자들이 발산하거나 너무 빨리 한 점으로 모여버린다.

 - 시뮬레이티드 어닐링 (SA) :

Figure 7 SA(Simulated Annealing) Method Properties 설정 화면

 - 냉각 스케줄 : 초기 온도와 종료 온도, 그리고 온도를 낮추는 스케줄 설정이 핵심이다. 온도가 너무 빨리 내려가면 국부해에 갇히고, 너무 천천히 내려가면 비효율적이다.

 결국, 전통적인 알고리즘을 제대로 사용하려면 엔지니어는 자신의 설계 문제뿐만 아니라 최적화 알고리즘 자체에 대한 깊은 이해가 필요하다. 이는 "설계를 위한 최적화"가 아닌 "알고리즘을 위한 최적화"로 주객이 전도되는 상황을 초래한다.

3. SHERPA: 혁신적인 하이브리드 적응형 탐색

 Simcenter HEEDS의 독자적인 알고리즘인 SHERPA(Simultaneous Hybrid Exploration that is Robust, Progressive, and Adaptive)는 이러한 'No Free Lunch'의 딜레마와 '튜닝의 어려움'을 해결하기 위해 개발되었다. 이름에서 알 수 있듯이, SHERPA는 등반가를 돕는 셰르파처럼 엔지니어가 최적 설계라는 정상에 도달하도록 돕는 강력한 조력자이다.

3.1 핵심 원리 1 : 하이브리드 (Hybrid)

 SHERPA는 단 하나의 탐색 전략에 의존하지 않는다. 유전 알고리즘(GA), 시뮬레이티드 어닐링(SA), 반응표면법(RSM), 국부 탐색(Local Search) 등 다수의 탐색 전략을 동시에(Simultaneously) 구동한다. 이는 마치 연장을 하나만 쓰는 것이 아니라, 상황에 맞는 다양한 도구가 든 '맥가이버 칼'을 사용하는 것과 같다.

3.2 핵심 원리 2 : 적응형 (Adaptive)

 SHERPA의 가장 큰 특징은 실시간 학습이다. 해석이 진행됨에 따라 설계 공간의 지형(Landscape)을 실시간으로 파악하고, 현재 문제에 가장 효과적인 탐색 전략에 자동으로 더 많은 자원(가중치)을 할당한다.

 초기에는 전역 탐색 위주로 넓은 영역을 훑다가, 유망한 영역이 발견되면 국부 탐색 전략을 강화하여 정밀하게 해를 다듬는다. 이 모든 과정이 사용자의 개입 없이 알고리즘 내부에서 자동으로 이루어진다.

3.3 결론 : No Tuning Required

 이러한 하이브리드와 적응형 전략의 결합 덕분에, SHERPA는 사용자가 튜닝할 파라미터가 전혀 없다(No Tuning Parameters). 사용자는 오직 '총 해석 횟수(Number of Evaluations)' 하나만 입력하면 된다. 이는 엔지니어가 골치 아픈 알고리즘 설정에서 해방되어, 본연의 설계 업무와 결과 분석에만 집중할 수 있게 해준다.

4. 성능 검증 (Benchmark Study)

 SHERPA의 우수성을 객관적으로 검증하기 위해, 복잡한 다봉성(Multi-modality)을 가진 대표적인 수학적 벤치마크 함수인 'Six-Hump Camel Back Function'을 대상으로 성능 테스트를 수행했다.

4.1 테스트 모델 정의

- 함수 식 :

 - 특징 : 이름처럼 낙타 등(Hump)과 같은 6개의 봉우리가 존재하며, 그중 2곳에 깊은 전역 최적해(Global Optima, 값: -1.0316)가 숨어 있다. 나머지 2곳은 국부 최적해(Local Optima)로, 알고리즘이 잘못된 곳에 빠지기 쉬운 구조이다.

 Simcenter HEEDS의 Adaptive Sampling study에서 200개의 sampling point와 Kriging 모델로 생성한 함수의 Response surface는 아래와 같다.

Figure 8 3D Surface Plot(좌)과 2D Contour Plot(우): Six-Hump Camel Back Function의 전역/국부 최적해 분포

 Figure 8의 3D Surface Plot(왼쪽)은 2개의 전역 최적해와 다수의 국부 최적해가 복잡하게 배치된 지형(Landscape)을 입체적으로 보여주며, 2D Contour Plot(오른쪽)은 위에서 내려다본 등고선 뷰로 주요 국부해의 위치와 전역해(-1.0316) 주변의 형상을 명확히 시각화한다.

4.2 비교 분석: 효율성(Efficiency)과 강건성(Robustness)

 총 200회의 해석 예산(Evaluation Budget)으로 제한된 조건에서, SHERPA와 5가지 전통적 기법(QP, MS, GA, PSO, SA)의 성능을 비교했다.

Figure 9 SHERPA 탐색 결과

Figure 10 QP 탐색 결과

Figure 11 MS 탐색 결과

Figure 12 GA 탐색 결과

Figure 13 SA 탐색 결과

Figure 14 PSO 탐색 결과

 SHERPA는 단 33회 만에 전역 최적해(-1.0316)를 찾았다. 2D Contour Plot을 보면, 초반에는 넓은 영역을 탐색하다가 빠르게 유망한 영역으로 수렴하는 것을 볼 수 있다.

 QP는 시작점 근처의 국부해에 빠져 21회 만에 조기 종료되었다. 전역해 탐색에 실패했다.

 MS는 100회 이상의 국부 탐색을 수행했지만, 설정된 파라미터 불일치로 인해 얕은 탐색(Shallow Search)에 그쳤다.

 GA / SA / PSO는 200회 가까이 해석을 수행했음에도 불구하고, SHERPA만큼 빠르게 전역해에 수렴하지 못하고 탐색 점들이 산발적으로 흩어져 있거나(SA), 엉뚱한 국부해 주변을 맴도는 경향을 보였다.

4.3 수렴 속도 및 정밀도 비교 (Convergence & Accuracy)

 시간에 따른 최적해 도달 과정을 그래프로 비교해 보면 차이는 더욱 명확하다.

Figure 15 최적화 알고리즘 성능 비교 그래프 (Convergence Plot)

 SHERPA(남색 선)는 초반 10~20회 구간에서 목적함수 값이 수직으로 하강하며, 31회 부근에서 이미 전역 최적해(-1.0316) 수준에 도달했다. 반면, 타 알고리즘들은 그래프의 기울기가 완만하며, 200회가 다 되도록 SHERPA가 33회 만에 찾은 값에 도달하지 못하는 경우가 많았다.

 더욱 놀라운 것은 다중 전역해 탐색 능력이다. 이 함수는 전역 최적해가 2개 존재한다.

표 1. 최적해 탐색 성능 요약

 SHERPA는 첫 번째 전역해를 31회에 찾았을 뿐만 아니라, 단 93회 만에 두 번째 전역해까지 완벽하게 찾아냈다. 반면, MS는 197회나 되어서야 겨우 두 번째 해를 찾았으며, GA나 SA는 200회 내에 정확한 전역해 값(-1.03163)에 수렴하지조차 못했다. 이는 SHERPA의 압도적인 탐색 효율성을 증명한다.

4.4 심화 분석: AI Simulation Predictor (Boost)

 SHERPA의 또 다른 강력한 무기는 AI Simulation Predictor (Boost) 기능이다. 이는 모든 설계를 직접 해석(Solver Call)하지 않고, AI가 예측한 값으로 일부를 대체하여 해석 시간을 획기적으로 줄이는 기술이다.

Figure 16 SHERPA 탐색(좌)과 SHERPA+AI Boost 탐색(우) 비교

 붉은색 사각형(AI 예측)이 유망하지 않은 영역을 빠르게 훑고 지나가고, 검은색 점(실제 해석)은 꼭 필요한 곳에만 찍혀 있다.

 이를 통해 해석 정확도는 유지하면서 전체 최적화에 소요되는 시간(Time Cost)을 대폭 단축할 수 있다. 특히 1회 해석 시간이 오래 걸리는 CFD/FEA 문제에서 그 가치가 매우 크다.

5. 결론 : 최적화의 대중화 (Democratization of Optimization)

 Simcenter HEEDS의 SHERPA 알고리즘은 "어떤 파라미터를 써야 할까?"라는 엔지니어의 오랜 고민을 원천적으로 해결했다.

 전통적인 기법들이 전문가의 섬세한 튜닝을 요구하는 '수동 카메라'라면, SHERPA는 셔터만 누르면 최고의 사진을 찍어주는 '최첨단 자동 카메라'와 같다.

 - Process Automation & Discovery : HEEDS의 프로세스 자동화 기능과 SHERPA의 강력한 탐색 능력이 결합되면, 엔지니어는 단순 반복 작업에서 벗어나 창의적인 설계 탐색(Discovery)에 집중할 수 있다.

 - MDO 환경에서의 가치 : 구조, 유동, 전자기장 등 이종(Heterogeneous) 물리 현상이 결합된 복잡한 MDO(Multi-disciplinary Design Optimization) 문제에서도 SHERPA는 별도의 튜닝 없이 강건한 성능을 발휘한다.

 결론적으로, SHERPA는 '알고리즘을 위한 최적화'가 아닌 '설계를 위한 최적화'를 실현함으로써, 누구나 고성능 최적화 도구를 활용할 수 있는 '최적화의 대중화' 시대를 열어가고 있다.