Intel Arc Pro B70 prestatiecijfers: aanzienlijk sneller dan Nvidia's RTX 4000 Pro tegen de helft van de prijs en 33% meer VRAM
Intel heeft gisteren de Arc Pro B65 en B70 krachtige GPU's voor werkstations gericht op AI LLM training/inferentie zonder specifieke informatie over de prestaties te geven in het eerste persbericht. Een paar uur later gaf het bedrijf prestatiegrafieken vrij die het B70 model vergelijken met Nvidia's RTX 4000 Pro GPU's, die inmiddels een paar jaar oud zijn. Intel beweert dat de vergelijking nog steeds geldig is, gezien de prijs van de B70-kaart onder de $1.000, en Team Blue ondersteunt dit met indrukwekkende beweringen over de algemene prestaties.
Zelfs zonder naar de prestatiegrafieken te kijken, die al dan niet accuraat kunnen zijn, zoals het Intel betaamt, steekt de Arc B70 GPU meteen boven de Nvidia concurrentie uit met zijn grotere VRAM-capaciteit (32 GB tegenover 24 GB) en de lanceringsprijs vanaf $949 (tegenover $1.800). Toegegeven, het VRAM is slechts 19 Gbps GDDR6 met 256-bits bus en 608 GB/s bandbreedte, maar de grotere capaciteit helpt in ieder geval bij het trainen en afleiden van grotere modellen.
Met de superieure VRAM-capaciteit heeft de B70 een 2,2x groter contextvenster dan de RTX 4000 Pro-kaart. Intel's dia laat zien dat de B70 contextlengtes tot 93K tokens ondersteunt, tegenover de RTX 4000 Pro die zonder geheugen komt te zitten bij maximaal 42K tokens bij gebruik met het Llama 3.1 8b BF16-model.
Parallelle multi-agent flows die draaien op het Ministral Instruct 2410 8B (BF16) model leveren 85% hogere tokendoorvoer voor meerdere gebruikers of verzoeken met de B70 in een Linux OS-omgeving. Daarnaast is de B70 in staat om snellere antwoorden te geven voor meerdere gebruikers of verzoeken met een 6,2x snellere tijd tot het eerste token, en Intel vermeldt dat deze superieure snelheden mogelijk zijn dankzij de verbeterde oneAPI en eigen softwarestack van het bedrijf. De prestatieverbetering ten opzichte van de Nvidia concurrentie is ook schaalbaar met multi-GPU setups, aangezien Intel een toename tot 2x tokens per dollar claimt in enkele, dubbele en quad GPU configuraties.
Helaas laten de dia's geen prestatiecijfers of prijsinformatie zien voor de B65 GPU. Het zou interessant zijn om te zien of Intel AIB-partners toestaat om gaming-georiënteerde versies van de B65 en B70 GPU's uit te brengen met iets lagere VRAM-capaciteiten. Dit zou ook betekenen dat Intel verbeterde grafische stuurprogramma's moet leveren.
