L’EVO-X5 Pro de GMKtec : Mini PC IA avec 192 Go et Ryzen AI Max+ PRO 495 pour LLM de 300 milliards de paramètres

GMKtec a récemment présenté son nouveau mini PC, l’EVO-X5 Pro, lors de l’IFA. Ce modèle, équipé d’un processeur Ryzen AI Max+ PRO 495, est annoncé avec une capacité impressionnante de 192 Go de mémoire unifiée, permettant de faire fonctionner localement des modèles de 300 milliards de paramètres.

L’EVO-X5 Pro est basé sur le Ryzen AI Max+ PRO 495, une puce qu’AMD a révélée lors du Computex en juin. Bien que ce processeur conserve la même architecture que ses prédécesseurs, il se distingue par une augmentation de la mémoire, passant de 128 à 192 Go de LPDDR5X, avec un débit amélioré de 8533 MT/s, offrant ainsi une bande passante de 273 Go/s.

Malgré ces avancées, des questions subsistent quant à la performance réelle de l’EVO-X5 Pro. Alors que la capacité de 300 milliards de paramètres semble prometteuse, la vitesse de traitement des données pourrait poser problème. En effet, pour générer un token, un modèle dense doit accéder à l’intégralité de ses poids en mémoire. À la vitesse actuelle de 273 Go/s, lire 160 Go prendrait plus d’une demi-seconde, ce qui se traduirait par une production d’environ 1,5 token par seconde, soit un mot toutes les deux secondes.

Cependant, la technologie des modèles à mélange d’experts (MoE) pourrait offrir une solution. Ces modèles, comme le DeepSeek V4 Flash, n’activent qu’une fraction de leurs paramètres pour chaque token, ce qui réduit considérablement le besoin en mémoire. GMKtec fait référence à cette approche pour justifier sa promesse de traitement local de modèles de 300 milliards de paramètres.

En comparaison avec d’autres machines sur le marché, comme le Mac Studio M5 Ultra, qui propose une bande passante quatre fois supérieure, l’EVO-X5 Pro doit encore prouver son efficacité. Le Mac Studio, bien que coûteux, pourrait exécuter des modèles denses à une vitesse nettement supérieure. D’autres concurrents, comme le DGX Spark de Nvidia, se positionnent également sur le même créneau, offrant des performances similaires à un tarif compétitif.

L’EVO-X5 Pro présente un potentiel intéressant en tant que mini serveur IA, mais il reste à voir comment il se comportera en pratique. Un jour, lorsque les fabricants de mini PC commenceront à communiquer des chiffres en termes de « tokens par seconde » plutôt que de « paramètres », cela signifiera que le marché de l’IA locale aura atteint un nouveau niveau de maturité.