블랙박스 개봉

아침에 무엇을 입을지 결정하는 것부터 저녁 식사 때 메뉴를 고르는 것까지 하루 중 매 순간 우리에게 선택의 기회가 주어집니다. 결정이 사소한 것이든, 삶을 바꾸는 것이든, 의사결정은 인간 경험의 기본 요소입니다.

그 사람이 올바른 선택을 했는지 의문을 제기하는 것은 언제나 쉽습니다. 나중에 결과가 공개될 때까지 알 수 없는 경우도 있습니다. Aviral Shrivastava 교수(왼쪽)와 박사과정 후보자 Shail Dave(오른쪽)는 컴퓨터가 인공 지능 알고리즘을 얼마나 효율적으로 실행하는지 최적화하는 딥 러닝 가속기 설계의 중요한 구성 요소인 설계 공간 탐색을 개선하기 위한 연구를 진행하고 있습니다. 사진: Erika Gronek/ASU 전체 이미지 다운로드

하드웨어 및 소프트웨어 아키텍처 영역에서 엔지니어는 설계 공간 탐색이라는 기술을 사용하여 컴퓨터 아키텍처 설계 프로세스 중 선택 사항을 평가하여 사용 가능한 옵션 중에서 가장 성능이 좋은 설계를 식별합니다.

설계 공간 탐색 기술은 속도, 전력 소비, 정확성 등 원하는 결과를 기반으로 선호하는 옵션을 선택할 수 있습니다. 이 기술은 물체 또는 인간 인식 소프트웨어부터 고급 마이크로전자공학에 이르기까지 다양한 애플리케이션에 적용될 수 있습니다.

인간의 두뇌에서 영감을 받은 인공지능의 방법인 딥러닝은 컴퓨터에게 데이터 처리 방법을 가르칩니다. 인공 지능을 위한 딥 러닝 알고리즘을 효율적으로 실행하는 데 특화된 컴퓨터인 딥 러닝 가속기의 설계는 설계 공간 탐색을 통해 광범위한 옵션 목록에서 선택합니다. 이러한 가속기 설계 중 일부에는 평가할 수 있는 선택 항목이 수십억 개 있기 때문에 기존 최적화 프로세스는 선택 사항 중 극히 일부만 평가하는 경우에도 완료하는 데 며칠 또는 몇 주가 걸릴 수 있습니다.

이 프로세스는 딥 러닝 가속기가 결정을 내리는 데 의존하는 블랙박스 탐색으로 인해 더욱 복잡해집니다. 블랙박스 탐색은 추론에 대한 세부 정보를 공개하지 않고 정보를 처리하도록 설계되었습니다.

애리조나 주립대학교 Ira A. Fulton 공과대학의 일부인 컴퓨팅 및 증강 지능 학교의 컴퓨터 공학 박사과정 학생인 Shail Dave는 알고리즘과 시스템의 프레임워크인 설명 가능한 설계 공간 탐색을 통해 이 문제를 해결하기 위해 노력하고 있습니다. 이를 통해 연구원과 프로세서 설계자는 프로세스 속도를 늦추는 병목 현상을 분석하고 완화함으로써 딥 러닝 가속기 설계 이면의 추론을 이해할 수 있습니다.

Dave는 "일반적으로 하드웨어 및 소프트웨어 설계는 진화 알고리즘과 같은 블랙박스 메커니즘이나 강화 학습 및 베이지안 최적화와 같은 AI 기반 접근 방식을 통해 탐색되고 최적화됩니다."라고 말합니다. "이러한 블랙박스 메커니즘은 설계 구성 선택이 설계의 전반적인 품질에 어떻게 영향을 미치는지에 대한 설명과 추론이 부족하기 때문에 과도한 양의 시험 실행이 필요합니다."

가속기의 의사 결정 프로세스를 간소화함으로써 Dave의 연구를 통해 설계 방법을 통해 훨씬 더 빠르게 선택을 내릴 수 있으며, 기존 모델이 이 정보를 처리하는 데 며칠 또는 몇 주가 걸릴 수 있었던 것과 비교하여 단 몇 분만에 단 몇 분 만에 완료할 수 있습니다. 결과적으로 설계 최적화 모델은 더 작고, 더 체계적이며, 더 적은 에너지를 사용합니다.

Dave의 연구는 검색 효율성을 향상시킬 뿐만 아니라 엔지니어가 최적의 결과에 도달하고 설계 결정에 대한 통찰력을 얻는 데 도움이 되는 대안을 제공합니다. 설계 선택 및 관련 병목 현상의 이유를 이해함으로써 이 방법은 프로세스의 모든 단계에서 사용 가능한 설계 지점을 분석하고 가장 유망한 옵션을 평가한 후 기술에 의해 의도적으로 결정되는 결정을 내리기 전에 좋은 옵션과 나쁜 옵션을 결정할 수 있습니다. .