Anthropic, développeur du modèle d’intelligence artificielle Claude, est en discussions préliminaires avec Fractile, une start-up britannique qui prétend pouvoir accélérer les processus d’inférence de l’IA par 100 et réduire les coûts par 10. Actuellement, Anthropic cherche à diversifier son infrastructure de puces, qu’elle obtient de géants comme NVIDIA, Google et Amazon, en explorant le développement de ses propres puces d’IA.
Face à la demande croissante de calculs dans le secteur de l’intelligence artificielle, Anthropic est poussé à trouver des solutions matérielles plus efficaces et moins coûteuses. La nouvelle architecture mémoire proposée par Fractile devient un objectif stratégique.
Fractile : une avancée technologique avec la Memory Compute Fusion Architecture
Fractile travaille sur une nouvelle architecture mémoire qui promet d’accroître la vitesse d’inférence de l’IA par 100 fois. Anthropic mène des discussions préliminaires avec cette entreprise pour renforcer son infrastructure matérielle et réduire ses coûts. Cette technologie utilise une structure SRAM spéciale qui réduit le besoin de transférer les données hors des puces.
L’architecture développée par Fractile, appelée « Memory Compute Fusion Architecture », vise à minimiser le besoin de déplacer les données vers la DRAM en traitant toutes les données directement sur la puce. Fonctionnant selon un principe similaire aux solutions Groq LPU de NVIDIA, cette technologie offre une large bande passante et une capacité SRAM optimisée.
NVIDIA et Groq : une concurrence renouvelée
Avec l’acquisition de Groq par NVIDIA, la technologie Groq 3 LPU est devenue centrale pour la plateforme Vera Rubin, offrant une capacité SRAM de 500 MB et une bande passante de 150 TB par seconde pour des opérations à faible latence. Fractile promet une fonctionnalité similaire à un coût dix fois inférieur aux solutions actuelles de NVIDIA.
Anthropic envisage ses propres puces personnalisées
Anthropic a déjà signé un accord massif avec Broadcom et envisage d’ajouter les puces de la série Instinct d’AMD à son portefeuille. Cependant, les discussions avec Fractile révèlent un intérêt clair pour le développement interne de matériel personnalisé. Bien qu’aucune puce ne soit encore en phase de test, les experts issus d’entreprises telles que NVIDIA, Graphcore et Imagination Technologies au sein de l’équipe Fractile témoignent du sérieux du projet.
