Наткнулся на интересный обзор мини-ПК GMKtec EVO X5 с новым процессором AMD Ryzen AI Max+ PRO 495. Честно говоря, больше всего меня удивили не размеры компьютера, а то, сколько оперативной памяти здесь можно выделить под графику.
Внутри установлен Ryzen AI Max+ PRO 495 на архитектуре Zen 5: 16 ядер, 32 потока, частота до 5,2 ГГц. За графику отвечает встроенная Radeon 8065S с 40 вычислительными блоками. Также имеется NPU производительностью до 55 TOPS для задач искусственного интеллекта.
Но самое интересное — 192 ГБ LPDDR5X с частотой 8533 MT/s и пропускной способностью до 273 ГБ/с. На скриншотах видно, что под графику выделено целых 160 ГБ, а Windows остаётся примерно 32 ГБ.
Правда, здесь есть нюанс: это не отдельные 160 ГБ видеопамяти, как у дискретной видеокарты, а часть общей оперативной памяти, зарезервированная для встроенной графики.
Сам корпус довольно компактный, внутри установлены два вентилятора. Есть несколько USB-портов, два сетевых разъёма и три слота M.2 для SSD.
В тесте CPU-Z процессор набрал около 15 746 баллов в многопоточном режиме, а во время нагрузки HWiNFO показывал мощность порядка 120 Вт.
Лично мне такой мини-ПК интересен прежде всего для локального запуска нейросетей. Благодаря большому объёму общей памяти можно экспериментировать с крупными языковыми моделями, которые просто не помещаются в видеопамять обычных потребительских видеокарт. Хотя по скорости встроенная Radeon, конечно, не заменит топовые NVIDIA.
Я бы вполне рассматривал такой компьютер как отдельный сервер под Linux для локального ИИ, разработки и других задач. Особенно интересно посмотреть, как он покажет себя с большими моделями через llama.cpp.
А вы как считаете, есть смысл брать подобный мини-ПК для локальных нейросетей или лучше собрать полноценный сервер с дискретной видеокартой?
Внутри установлен Ryzen AI Max+ PRO 495 на архитектуре Zen 5: 16 ядер, 32 потока, частота до 5,2 ГГц. За графику отвечает встроенная Radeon 8065S с 40 вычислительными блоками. Также имеется NPU производительностью до 55 TOPS для задач искусственного интеллекта.
Но самое интересное — 192 ГБ LPDDR5X с частотой 8533 MT/s и пропускной способностью до 273 ГБ/с. На скриншотах видно, что под графику выделено целых 160 ГБ, а Windows остаётся примерно 32 ГБ.
Правда, здесь есть нюанс: это не отдельные 160 ГБ видеопамяти, как у дискретной видеокарты, а часть общей оперативной памяти, зарезервированная для встроенной графики.
Сам корпус довольно компактный, внутри установлены два вентилятора. Есть несколько USB-портов, два сетевых разъёма и три слота M.2 для SSD.
В тесте CPU-Z процессор набрал около 15 746 баллов в многопоточном режиме, а во время нагрузки HWiNFO показывал мощность порядка 120 Вт.
Лично мне такой мини-ПК интересен прежде всего для локального запуска нейросетей. Благодаря большому объёму общей памяти можно экспериментировать с крупными языковыми моделями, которые просто не помещаются в видеопамять обычных потребительских видеокарт. Хотя по скорости встроенная Radeon, конечно, не заменит топовые NVIDIA.
Я бы вполне рассматривал такой компьютер как отдельный сервер под Linux для локального ИИ, разработки и других задач. Особенно интересно посмотреть, как он покажет себя с большими моделями через llama.cpp.
А вы как считаете, есть смысл брать подобный мини-ПК для локальных нейросетей или лучше собрать полноценный сервер с дискретной видеокартой?