미국의 엄중한 노림수밖에 없습니다. 이것 하나로 중국의 데이터센터와 데이터센터의 빅데이터를 이용하는 AI 모델 및 시뮬레이션 등 중국의 차세대 산업 동력에 모두 제동이 걸린 상황입니다.
미국은 확실하게 ‘최첨단 GPU’, 즉 데이터센터용 GPU를 규제했습니다. GPT-3와 같은 대형 딥러닝 모델을 구축하고 성능 개선을 위해서는 최고 성능 GPU 병렬 연결이 필요합니다. 이유는 아시다시피 병렬 GPU 숫자가 많아질수록 병목 현상 때문에 연산 효율이 낮아집니다.
내가 박사과정에 전공한 DFT의 경우는 GPU의 부동 소수점 연산을 이용한 가속을 통해 최소 30% 정도의 성능을 끌어올릴 수 있습니다. GPU가 없으면 계산할 수 없을 정도는 아닙니다. 그러나 부동 소수점 연산 한정에서는 CPU 연산의 속도는 GPU에 훨씬 못 미칩니다.
그래서 알리바바 등 중국 데이터 회사는 독자적으로 ‘평다’ 브랜드와 같은 자체 설계 칩을 TSMC 파운들리를 통해 칩을 만들어 데이터센터 연산을 최적화합니다.
그러나 이는 특정 상황에 맞는 연산만을 위한 최적화이며 초대형 모델을 새롭게 학습시키고 개선시키는 것은 또 다른 일로 판단됩니다. GPU 설계 능력이 아무래도 AMD, NVIDIA보다 떨어질 수밖에 없어 병렬 연산 최적화는 더욱 어렵습니다.
그렇다면 중국 데이터 회사의 선택은? 1. 당분간 중국 내에서 적절한 성능의 GPU와 적절한 머신러닝 모델로 만족하고 있다.2. 해외에 데이터센터를 세워 해외에서 학습시킨다.
차량의 자율주행을 위해 방대한 이미지 데이터를 수집하여 학습 모델을 만듭니다. 그러나 중국 국내에서는 최고 성능의 모델을 만드는 것은 이제 어려워지고 있습니다. 중국 정부는 데이터를 국가 자산으로 생각하고 있습니다. 데이터 해외 반출은 별도 허가가 필요합니다. 결국 중국의 자율주행과 차량 관련 산업도 큰 타격을 입을 수밖에 없습니다. 중국 정부가 가장 어려움을 겪고 있습니다. 데이터를 가지고 나가면 해외로 나돌게 됩니다. 여기에 가장 확실한 경제성장 동력이 데이터센터 및 머신러닝 알고리즘을 통항 자율주행 등의 산업인데, 이 성장 동력이 크게 꺾인 상황이 됐습니다.