Red Hat Enterprise Linux AI : une plateforme dédiée IA

Par:
francoistonic

jeu, 28/11/2024 - 08:08

Red Hat annonce la disponibilité de Red Hat Enterprise Linux AI. RHEL AI est la plateforme de gestion des modèles de fondation qui permet aux clients de Red Hat de développer, de tester et d’exécuter des modèles d’IA générative (gen AI) avec une plus grande transparence, en vue d’alimenter des implémentations en entreprise. On dispose des LLM Granite d'IBM. 

L'éditeur met en avant :

  • favoriser l’innovation pour l’IA générative grâce à des modèles Granite sous licence open source à usage professionnel et alignés sur un large éventail de cas d’utilisation de l’IA générative ;
  • rationaliser l’alignement des modèles d’IA générative sur les exigences des entreprises grâce aux outils InstructLab ; cette approche permet aux experts et aux développeurs des entreprises d’intégrer des compétences et des connaissances uniques à leurs modèles, même s’ils ne disposent pas de compétences approfondies en science des données ;
  • entraîner et déployer l’IA générative sur l’ensemble du cloud hybride en fournissant la totalité des outils nécessaires pour régler et déployer des modèles pour les serveurs de production, indépendamment de l’endroit où résident les données associées. La plateforme RHEL AI fournit également un accès à la solution Red Hat OpenShift AI pour l’entraînement, le réglage et le déploiement de ces modèles à grande échelle tout en utilisant les mêmes outils et concepts.

Cette plateforme est disponible sur le portail Red Hat, AWS, IBM Cloud et très bientôt sur Azure. 

Sur la partie développement, la plateforme propose PyTorch, accélération matérielle pour NVIDIA / Intel / AMD, intégration avec les flux vLLM, DeepSpeed et PyTorch. 

Plus de détail sur le portail développeur : https://developers.redhat.com/products/rhel-ai/overview