"책상 위 AI 슈퍼컴퓨터가 온다" - CES 2025 엔비디아 새로운 도전

엔비디아가 CES 2025에서 차세대 AI 기술의 청사진을 공개했습니다. 젠슨 황 CEO는 6,000명이 넘는 청중 앞에서 '지포스 RTX 50(GeForce RTX 50) 시리즈' 그래픽카드의 신제품들을 선보였는데요. 최상위 모델인 RTX 5090은 역대 가장 강력한 성능을 자랑하며, 새로운 DLSS 4 기술로 게임 성능을 최대 8배까지 끌어올릴 수 있다고 합니다. RTX 5090과 5080은 1월 30일, RTX 5070 Ti와 5070은 2월, 노트북용 GPU는 3월 출시 예정이라고 하네요.

물리적 세계를 이해하고 시뮬레이션하는 '코스모스(Cosmos)' 플랫폼도 공개되었습니다. Uber를 비롯한 주요 로봇공학 기업들이 이미 도입을 결정했으며, GitHub를 통해 오픈 소스로 제공될 예정이에요. 가장 흥미로운 '프로젝트 디짓(Project DIGITS)'는 데스크톱 크기의 소형 AI 슈퍼컴퓨터로, 엔비디아의 모든 AI 소프트웨어를 구동할 수 있으며 2025년 5월 출시 예정입니다. 가정이나 사무실에서도 AI 슈퍼컴퓨터를 사용할 수 있게 된다니 기대되네요!

NVIDIA CEO Jensen Huang Keynote at CES 2025

작은 AI 모델도 수학을 잘 풀 수 있다! 마이크로소프트의 rStar-Math 기술

마이크로소프트 로고 이미지

©Unsplash

마이크로소프트가 작은 언어 모델(Small Language Model, SLM)이 더 큰 모델의 도움 없이도 최고 수준의 수학 실력을 보여줄 수 있는 새로운 기술을 발표했습니다. 'rStar-Math'라는 이 기술은 두 개의 SLM을 활용해 수학 문제를 더 효과적으로 풀 수 있게 해준다고 하네요. 이 기술은 몬테 카를로 트리 탐색과 Chain-of-Thought(CoT) 방식을 결합했는데요. 하나의 SLM이 문제 해결 방법을 찾고 다른 하나는 그 과정의 품질을 평가하는 방식으로 작동한다고 합니다.

실제로 모델에 이 기술을 적용해본 결과가 매우 인상적인데요. Qwen2.5-Math-7B 모델의 경우 MATH 벤치마크에서 58.8%에서 90.0%로, Phi3-mini-3.8B는 41.4%에서 86.4%로 크게 향상되어 오픈AI의 o1-preview를 각각 4.5%와 0.9% 상회하는 성과를 보였고요. 미국 수학 올림피아드(AIME) 수준의 문제도 평균 53.3%(15문제 중 8문제)를 해결하며 상위 20% 수준의 뛰어난 성능을 달성했습니다. 747,000개의 수학 문제로 구성된 데이터셋으로 4단계 진화 과정을 거치며 모델을 훈련시켰는데, 이는 작은 규모의 언어 모델도 최신 기술을 통해 최고 수준의 수학 능력을 달성할 수 있음을 입증했습니다.

rStar-Math: Small LLMs Can Master Math Reasoning with Self-Evolved Deep Thinking

👉🏻 2025 일잘러를 위한 AI 온라인 클래스

📮

내 메일함에서 받아 보기