Intel ‘ s cascade van datacenter rijkdom

0
137
cascade-lake-intel-xeon-family-header.jpg

Beeld: Tim HermanIntel Corporation

In één van de grootste aankondigingen, Intel de aftrap voor het tweede kwartaal door het vrijgeven van een reeks nieuwe en verbeterde producten is gericht op het consolideren van de toch al dominante positie in de corporate datacenter. Topping die lijst was een uitgebreide en gewijzigde familie van de 2e generatie Xeon Schaalbare processors (Cascade Lake) samen met de verkoper de langverwachte Optane DC permanente geheugen (Apache Pass).

Maar dat was in het begin van April, vragen ons af te vragen of een van deze had in het datacenter nog en hoe die te leveren prestaties meten met de hype.

Werk in processors

Laten we beginnen met processoren, waarbij het belangrijk te benadrukken dat de architectuur achter de Intel de 2e generatie Xeon Schaalbare line-up is ver van de grote sprong voorwaarts wat zou kunnen verwachten. Inderdaad, de architectuur is weinig veranderd tussen de eerste generatie en het silicium zelf is vervaardigd met behulp van dezelfde 14nm proces. Dat gezegd hebbende, klok tarieven zijn afgestemd op een aantal van de Sku ‘ s, anderen hebben er een paar meer kernen, plus ze ondersteunen de DDR4 RAM tot 2933MHz. Er is ook een heleboel extra tech gebouwd in om te profiteren van de nieuwe Optane DC persistent geheugen, verwerken van de veiligheid in hardware dan software en het versnellen van de AI verwerken bijvoorbeeld. Bovendien, met uitzondering van de 9200 (waarover later meer), de nieuwe Xeons en het ondersteunen van Optane DC permanente geheugen kan worden aangesloten op dezelfde moederborden als de eerste generatie Xeons en nieuwe functies ontgrendeld met een BIOS-update.

cascade-lake-4-new-xeons.jpg

Deze 2e generatie Xeon Schaalbare processors passen in hetzelfde moederbord aansluitingen zoals hun voorgangers.

Afbeelding: Alan Stevens/ZDNet

Sommige kunnen teleurgesteld worden door dit en het feit dat Intel nog steeds niet in geslaagd haar lang beloofde 10nm de fabricage proces. Op de korte termijn, echter, het is goed nieuws als in plaats van te hoeven wachten voor een langzaam druppelen van de nieuwe 2e generatie servers, leveranciers kan ze vrijwel onmiddellijk beschikbaar. Inderdaad, de meeste doen dat, met inbegrip van Dell, EMC en HP, die beide hebben aangekondigd bijgewerkt producten met behulp van de nieuwe chips. Helaas konden we niet in het bezit komen van een van deze servers, maar we waren in staat om te vallen in de labs in Boston Beperkt en hands-on met een paar van Supermicro servers krijgen een veel beter gevoel voor wat klanten kunnen verwachten van de nieuwe silicium.

Wat er daarna gebeurde

Gezien het feit dat ze kunnen worden vastgezet in dezelfde stopcontacten als eerste-generatie Xeon Schaalbare processors, het kwam als geen verrassing Supermicro het aanbieden van de 2e generatie Cpu ‘ s over bijna de gehele server bereik. Inderdaad, de servers die we zagen waren degenen die we hebben bekeken voordat. Een van deze was een eenvoudige dual-socket 1U-Supermicro Ultra, de andere een 2U Supermicro Twin Pro die geschikt is voor vier dual-socket servers gemonteerd op plug-in sleeën. Beide zijn voorzien van moederborden uitgerust met LGA 3647 voeten, waardoor ze kunnen worden uitgerust met de 1e of 2e generatie processoren en die weinig in de weg van de aanpassing te nemen van de laatste, andere dan die van de grotere koellichamen om de hogere TDP beoordelingen.

cascade-lake-bigger-heatsinks.jpg

Grotere koellichamen nodig kunnen zijn met de 2e-generatie Xeon Schaalbare processors, die op sommige servers blokkeren aangrenzende DIMM slots, zoals getoond op deze foto waar de grotere heatsink is evenwichtig op de top van het origineel.

Afbeelding: Alan Stevens/ZDNet

Helaas op de ruimte-beperkt-servers, zoals de modulaire Twin Pro, grotere koellichamen betekent dat naast DIMM-slots niet gebruikt kunnen worden, waardoor het geheugen capaciteit. Echter, dit is alleen een probleem op volledig gevuld systemen en kunnen worden gecompenseerd door de ondersteuning voor Intel ‘ s nieuwe Optane DC Permanente Geheugen modules (DCPMM) die, net als de nieuwe processoren, kunnen ook worden aangesloten op bestaande moederborden.

Laten we eens kijken wat dat allemaal in iets meer detail.

Bedankt voor de herinnering

Veel besproken en bekeken onder de codenaam Apache Pass, Optane DC (datacenter) geheugen maakt gebruik van een technologie genaamd 3D XPoint die, net als conventionele NAND flash, behoudt de data als de stroom is uitgeschakeld. In tegenstelling tot conventionele flash, echter, Optane DC kan leveren dicht bij DRAM prestaties, maar tegen een veel lagere kosten, waardoor het mogelijk is om te bouwen servers met grote hoeveelheden geheugen in beslag, zonder verbreking van de bank. We vinden 128GB Optane DC modules detailhandel voor ongeveer $890: dat is veel meer dan een SSD, maar minder dan de helft van de kosten van een gelijkwaardig DDR4 DIMM uitgerust met ECC DRAM.

cascade-lake-box-of-optane-dc.jpg

Optane DC Permanente Geheugen komt in dezelfde DIMM formaat als DRAM en stekkers in hetzelfde moederbord slots.

Afbeelding: Alan Stevens/ZDNet

Optane DC-geheugen wordt geleverd in standaard DIMM formaat (dat is de reden waarom er geen nieuwe stekkers of stopcontacten nodig zijn), en kan op dit moment leveren tot 512 gb per module. Volgens Intel dat betekent tot 36TB van low-cost geheugen per server in het algemeen, dat klinkt geweldig, maar er zijn valkuilen.

Om te beginnen met, Optane DC vereist een nieuwe memory controller, die is ingebouwd in de nieuwe 2e generatie processors, je kan dus niet zomaar de stekker nieuwe Optane DC modules in een bestaande server zonder ook wisselen processors. Er is ook een limiet van zes Optane modules per socket, toegevoegd aan die van elke contactdoos moet u ten minste een conventionele DRAM DIMM. In de standaard ‘Geheugen-Modus’, dit wordt gebruikt als een high-speed cache voor gegevens die op de Optane modules.

Een ander nadeel is dat de DRAM-cache niet tellen om de totale geheugen capaciteit, maar geeft u de mogelijkheid de Optane geheugen te leveren in de buurt-DRAM prestaties bij toepassingen die dit ondersteunen, met voorspelbare gegevens van het gebruik van patronen. Bovendien, dit kan worden bereikt zonder de noodzaak voor eventuele wijzigingen aan het besturingssysteem of andere software waarmee u onmiddellijk de voordelen toepassingen zoals big data, analytics en grootschalige virtuele server farms.

cascade-lake-optane-dc-in-situ.jpg

Optane DC Permanente Geheugen modules (hier afgebeeld met markante witte etiketten) plug-in standaard DIMM-slots naast de conventionele DRAM die, in de standaard Memory Modus wordt gebruikt voor het cachen.

Afbeelding: Alan Stevens/ZDNet

Voor toepassingen met een minder voorspelbare patronen van gebruik, echter, Optane DC gebruikt in de Memory Mode kunnen gemakkelijk traag vergeleken met DRAM. Bovendien, uitkeringsduur niet beschikbaar is in het Geheugen Modus dus, net als bij een all-DRAM setup, de gegevens nog steeds worden verloren wanneer de stroom wordt uitgeschakeld, of het nu in de DRAM-cache of op Optane DC modules.

Persistentie betaalt

Om volledig te profiteren van de persistentie mogelijkheden en een betere ondersteuning van toepassingen in de raad van bestuur, Optane DC geheugen gebruikt moet worden, in wat heet de App Direct-modus, waardoor gegevens om doorverwezen te worden naar ofwel DRAM of permanent geheugen, zoals vereist. Ook in deze modus, Optane DC kan worden gebruikt als byte-adresseerbare block storage net als een SSD, en dus het leveren van high-performance storage zonder de knelpunten in verband met conventionele opslag interfaces.

ZIE: Cloud v. data center besluit (ZDNet speciale rapport) | Download het rapport als PDF (TechRepublic)

Echter, dit alles is afhankelijk van het gebruik van een hypervisor en/of een besturingssysteem dat in staat is om onderscheid te maken tussen de verschillende geheugen-technologieën. Op het moment van schrijven, dat betekent Windows Server 2019 en/of de meest recente versie van VMware vSphere (6.7). Applicaties kunnen ook worden bijgewerkt op het maximaliseren van de voordelen, meestal met behulp van de open-source Permanente Geheugen Development Kit (PMDK).

De grote cloud leveranciers, SAP en anderen zijn ook gezegd te werken aan de mods te benutten Optane DC op hun platforms.

Echte-wereld-nummers

Bij de lancering van de Intel hyped-up van de prestaties, zowel van de nieuwe Xeons en Optane DC geheugen. Het zetten van die vorderingen aan de test, echter, is verre van eenvoudig en veruit de grootste winsten zal afkomstig zijn van servers die gebruik maken van zowel nieuwe producten, dat maakt het nog moeilijker. Dat zei de ingenieurs van Boston hebben bevestigd meetbare verbeteringen van de prestaties van het gebruik van de processors alleen, vooral als gevolg van Intel stoten van de klok nummers en, in enkele gevallen, hoger kern telt in vergelijking met het equivalent van de eerste generatie Xeons.

Beschikbaarheid problemen betekende dat ze niet kon testen iedere processor, maar de resultaten voor de mensen die ze kunnen meten kan je hier zien:

cascade-lake-linpack.jpg

LINPACK resultaten vergelijken eerste – en tweede-generatie Intel Xeon Schaalbare processors. (*Kloksnelheid verhoogd, **Core count verhoogd, ***Meer cores & snellere klok).

Bron: Boston Limited

Op sommige processors kunt u verder tweaken van de prestaties door het gebruik van Intel ‘ s nieuwe Snelheid Selecteer technologie voor het optimaliseren van de grondfrequentie. Dit is normaal gesproken ingesteld op een laag niveau kunnen worden behouden, zelfs wanneer alle cores actief zijn, maar als de werkdruk patroon vereist minder dan de volledige aanvulling, Snelheid Selecteert u stelt de basis van de frequentie worden verhoogd tot hogere prestaties leveren in het algemeen.

Deze winsten zijn alle de moeite waard, maar ver onder de nummers op sommige dia ‘ s weergegeven op de Intel de lancering. Dat is niet verwonderlijk, want als u een niveau omlaag analyseert in detail de meest in het oog springende getallen zijn gecentreerd rond de Xeon Platinum 9200 dat, ondanks het feit dat een deel van dezelfde 2e generatie Xeon Schaalbare familie, is een ander beest helemaal.

Double jeopardy

Gekenmerkt als Geavanceerde Prestaties of “AP”, wat krijg je in elk 9200 ‘processor’ is een paar Xeon Schaalbare 8200 serie sterft aan elkaar gekoppeld in één zeer dichte verpakking. Dat betekent een verdubbeling van het aantal processor-cores — up van 28 tot 56 op de high-end 9282 SKU — plus het dubbele van de bijbehorende geheugen, benaderd met behulp van 12 DDR4-kanalen in plaats van zes.

cascade-lake-platinum-9200-slide.jpg

De Xeon Platinum-9200 is echt twee processors in één, en kan niet worden vastgezet in een standaard moederbord socket.

Afbeelding: Intel

Het is deze verdubbeling regeling die ingeschakeld Intel kop een 2X prestaties krijgen voor de 9282 Xeon Schaalbare in vergelijking met de eerdere 8180 in de lancering van de literatuur. Maar dan is de 8180 heeft de helft van het aantal cores, dus dat figuur is verre van verrassend.

Op het moment van schrijven, Platina 9200 processors zijn nog maar net begonnen om de fabriek te verlaten en Boston niet had ontvangen samples om te testen of de eventuele prijsinformatie. Bovendien is het belangrijk om te benadrukken dat, in tegenstelling tot andere leden van de 2e generatie Xeon Schaalbare familie, 9200s zijn niet ontworpen om te passen standaard moederbord aansluitingen. In plaats daarvan, ze komen als een BGA pakket en zal waarschijnlijk worden geleverd stevig aangesloten op een host moederbord. Het moederbord zal ook van Intel en ZDNet begrijpt dat OEM-leveranciers, zoals Supermicro, zal niet in staat zijn te bieden Schaalbare 9200 processors op hun eigen ontwerpen.

Boost voor AI

Dit alles betekent niet dat klanten niet zien grote winsten uit andere 2e generatie Xeon Schaalbare processors, vooral als ze ook implementeren Optane DC permanente geheugen. Echter, wat de zorg nodig zullen zijn om de juiste combinatie als kopers op zoek om geld te besparen door het maximaliseren van de Optane DC over DRAM, bijvoorbeeld, kon zien dat de prestaties vallen vergeleken met alle-DRAM-platforms. De prestaties verschillen zal ook variëren, afhankelijk van de aard van de aanvraag betrokken zijn, waarbij Intel hebben toch nog een truc achter de hand in de vorm van een nieuwe Diepe Leren Boost mogelijkheden die specifiek gericht is op het versnellen van AI inferencing apps.

In tegenstelling tot de AI-opleiding, waardoor hoge eisen aan de verwerking van de mogelijkheden die het best worden gerealiseerd met behulp van de GPU-technologie, inferencing toepassingen (AI algoritmen zijn eigenlijk aan het werk gezet) worden veel minder gebruikt. Inderdaad, inferencing hoeveelheden gegevens aanzienlijk kleiner en ook de verwerking gebeurt op een relatief lage precisie — een vereiste gefaciliteerd door Intel ‘ s nieuwe Diep Leren Boost met behulp van de 512-bit vector units (AVX512) opgenomen in de Xeon Schaalbare architectuur. Met behulp van deze, de 2e generatie processoren kan nu gelijktijdig proces van 64 8-bit of 32-16-bits gehele getallen met behulp van een enkele hardware instructie die, samen met ondersteuning voor gesmolten activiteiten zoals FMA (Gesmolten Vermenigvuldigen Optellen), een grote impact kunnen hebben op inferencing prestaties.

Dell, EMC, bijvoorbeeld, publiceerde test resultaten met behulp van de ResNet-50 gevolgtrekking benchmark resultaat van de 2de generatie Xeon Schaalbare processors met Diep Leren Boost meer dan verdrievoudiging van de doorvoer in 8-bit geheel getal precisie:

cascade-lake-deep-learning-boost.jpg

AI inferencing prestaties kunnen aanzienlijk worden verbeterd door Intel ‘ s Diep Leren Stimuleren.

Afbeelding: Dell, EMC

Nogmaals, real-toepassingen kunnen niet altijd de spiegel van deze cijfers, maar er zijn duidelijke voordelen aan het worden was en zonder de noodzaak voor extra GPU hardware, verdere versterking van Intel ‘ s datacenter propositie.

De stand van zaken

De bottom line is dat, hoewel sommige van de cijfers door de Intel moeten worden genomen met een snuifje zout, er zijn echte prestaties te worden gehouden. Ze zijn echter niet automatisch en klanten moeten meer tijd besteden aan zowel het afstemmen van de nieuwe processors aan toepassingen, en uitzoeken hoe zij het beste te implementeren Optane DC geheugen. Het goede nieuws is dat, met uitzondering van de Platinum 9200, Intel heeft verrassend snel uit de mark aan zijn nieuwe producten op de markt en doet naast een waaier van technologieën die samen lijken te snel hervormen de data centrum.

RECENTE EN GERELATEERDE INHOUD

Intel onthult brede Xeon stapel met tientallen werklast-geoptimaliseerd processors

HP updates Z6, Z8 Werkstations met de nieuwste Intel Xeon-processors

Intel zet Optane geheugen en NAND storage samen op het H10 SSD

Eerste Optane Performance tests tonen aan dat de voordelen en de beperkingen van de Intel NVDIMMs

10nm Intel Cpu ‘ s niet komen tot desktops tot minstens 2022, te midden van productie-problemen (TechRepublic)

Verwante Onderwerpen:

Intel

Hardware

Servers

Netwerken

Opslag

Cloud