Tout savoir sur « Grok », l’IA développée par Elon Musk

Avec un lancement annoncé par Elon Musk himself, sa nouvelle Intelligence Artificielle « Grok » promet non seulement de répondre à des requêtes complexes avec humour mais également d’accéder à des sources fiables en temps réel.

Origine et concept de Grok

Le terme « Grok » est issu de la science-fiction, précisément du roman « Stranger in a Strange Land » de Robert Heinlein (1961). En anglais, « grok » est un mot d’argot qui signifie « comprendre en profondeur et intuitivement ». Ce choix de nom souligne l’intention de xAI de doter Grok d’une compréhension profonde et presque humaine des interactions et des informations, une tâche ambitieuse étant donné la complexité des signaux verbaux et non verbaux qui façonnent l’intuition humaine.

Intégration et accès

Grok sera intégré à la plateforme X (ex Twitter) et cherchera à se distinguer par son sens de l’humour dans les interactions avec les utilisateurs. Cette caractéristique suggère une tentative de rendre l’expérience d’IA plus légère et engageante, ce qui pourrait potentiellement augmenter son attrait et sa facilité d’utilisation.

Innovation et infrastructure

Pour former Grok, xAI a mis en place une infrastructure personnalisée basée sur Kubernetes, Rust et JAX, se concentrant sur l’efficacité et la robustesse. L’accès en temps réel à l’information via internet (et notamment X) est une autre caractéristique clé de Grok, permettant une mise à jour constante de ses connaissances. Cependant, cela soulève également des défis en termes de précision et de véracité des informations générées, que xAI prévoit d’aborder avec des améliorations futures basées sur des retours humains et une compréhension contextuelle plus profonde.

Capacités et performances

Techniquement, Grok est basé sur le modèle Grok-1 LLM, qui a été développé sur quatre mois avec deux mois de formation intensive. Le modèle prototype initial, Grok-0, comportait 33 milliards de paramètres et tenait la dragée haute à des modèles plus vastes comme LLaMA 2 de Meta. Grok-1, quant à lui, a démontré des compétences avancées, surpassant des modèles tels que GPT-3.5 tout en aspirant à atteindre et éventuellement dépasser les capacités de modèles plus avancés tels que GPT-4.

Pour comprendre les améliorations apportées aux capacités de Grok-1, des séries d’évaluations ont été conçues permettant de mesurer les capacités en mathématiques et en raisonnement :

• GSM8k : Problèmes mathématiques de niveau collège en utilisant l’invite de type « chain-of-thought »
• MMLU : Questions à choix multiples multidisciplinaires fournies avec des exemples en contexte 5-shot
• HumanEval : Tâche de complétion de code Python
• MATH : Problèmes de mathématiques de niveau collège et lycée

Défis et perspectives

Un des défis majeurs pour Grok sera de gérer et de filtrer les informations contradictoires ou fausses tout en conservant la capacité de comprendre et de générer des réponses dans un large éventail de contextes. xAI prévoit d’améliorer la robustesse face aux manipulations malveillantes, ainsi que ses capacités multimodales, pour mieux discerner le contexte et les nuances dans les communications humaines.