The Machine wordt realiteit in 2016... maar niet door HP

Door witeken op dinsdag 29 december 2015 08:00 - Reacties (8)
Categorie: -, Views: 4.983

HP’s ambitieuze The Machine wordt realiteit in 2016… maar niet door HP

Wie de technologieactualiteit al een tijdje volgt, zal ongetwijfeld gemerkt hebben dat er aan ideeŽn in de industrie geen gebrek is. Zelfs start-ups en bedrijven die ook effectief aan radicaal nieuwe innovaties werken zijn er in overvloed. Toch hoor je van veel van die bedrijven of technieken na een initiŽle aankondiging in de media nog weinig. Steeds blijkt dat de stap van idee of prototype naar commercieel product een immense uitdaging is.

Zelfs de grootste bedrijven kunnen schuldig zijn aan het overhypen van toekomstige producten die nog jaren van de geplande releasedatum zijn, laat staan de feitelijke release. HP was zo’n bedrijf dat met heel veel fanfare zijn The Machine aankondigde in 2014. Dat had een nieuwe high-performance computerarchitectuur moeten worden die op een eigen Machine OS zou draaien en in de eerste plaats gefocust zou zijn op het geheugen. De machine zou beschikken over een immense hoeveelheid snel en non-volatile geheugen met erg lage latency naar de processorkernen die uiteraard ook in overvloed aanwezig zouden zijn.

Klinkt indrukwekkend in theorie, en dat is ook hoe het in de media ontvangen is, maar een jaar later was HP al genoodzaakt om het geheugen te veranderen van hun eigen unique selling point, namelijk de memristor genoemd, naar het conventionele DRAM. Een half jaar verder is duidelijk dat The Machine in de heel nabije toekomst toch werkelijkheid zal worden. Maar dan niet met privaat IP van HP, maar met commercieel verkrijgbare technologie… geproduceerd door Intel.

The Machine: Een nieuwe geheugenhiŽrarchie
“There will be a new operating system, a new type of memory (memristors), and super-fast buses/peripheral interconnects (photonics). Speaking to Bloomberg, HP says it will commercialize The Machine within a few years, “or fall on its face trying.”

The Machine is een nieuwe aanpak van de computerarchitectuur en wilt meer bepaald de omgang met het geheugen veranderen. Conventioneel heeft het geheugen altijd in dienst gestaan van de processor (of andere rekeneenheden). De onderste laag bestaat uit de registers die het dichts bij de rekenkernen staan, gevolgd door de L1- en later ook L2-, L3- en tegenwoordig soms L4-cache, met uitzondering van die laatste (Intels Crystal Well) zijn zij allen opgebouwd uit SRAM met 6 transistors. Dat is het einde van het geheugen op of rond de CPU, waarna je naar het nog steeds snelle DRAM gaat, bestaande uit een capacitor en een transistor. Tegenwoordig ga je dan naar NAND, en tot slot heb je een harde schijf (en tape).

De reden voor die hiŽrarchie is simpelweg de vaststelling dat ťťn grootte (ťťn geheugentechniek) niet overal past. Als je eis is om heel snel geheugen te maken, ga je bij een techniek uitkomen die erg duur is. Als je de prijs wilt verlagen, zal je bij inferieure technieken uitkomen. Concessies moeten gemaakt worden. Algemeen ga je van heel snel naar traag, en van heel weinig naar heel veel geheugen. Daar komt nog bij dat alles boven NAND (inclusief de CPU zelf) volatile is, wat betekent dat de informatie verloren gaat als je de stroom uitschakelt of zelfs niet constant ververst (DRAM).

http://computerscience.chemeketa.edu/cs160Reader/_images/Memory-Hierarchy.jpg

HP’s bedoeling was dat er weggedaan zou worden met alle geheugen onder de CPU, en ze die vervangen door de memristor. Zoals op de tijdlijn van het artikel van IEEE Spectrum te lezen is [6], is HP al sinds 2008 bezig met de ontwikkeling van de memristor. De verwachting in 2011 was om in 2013 in productie te gaan.

De memristor wordt naast de inductor, capacitor en resistor geplaatst als een vierde passieve component. De prefix mem- verwijst naar het feit dat de component herinnert welke stroom erdoor is gegaan, wat een invloed heeft op de – variabele – weerstand van de component. Hij kan dus gebruikt worden als geheugencel voor opslag. Maar nog beter, een memristor kan schakelen in de orde van nanoseconden, waardoor het qua prestaties dus ook DRAM vervangt. (Ter vergelijking: de latency van SSD's wordt gemeten in microseconden.) De memristor kan in een driedimensionale cross-bar-structuur gelegd worden, wat in principe een eenvoudige structuur is en dus goed zou kunnen schalen met Moore’s Law: er zouden 3nm-memristors in het lab zijn. NAND, daarentegen, is gebaseerd op het bewaren van elektronen in cellen, wat rond de 10nm-node ongeveer ten einde komt gezien je te weinig elektronen hebt. Men kan meerdere lagen op elkaar stapelen, volgens HP initieel vier op een 25nm-procedť in 2013, wat een dichtheid geeft die overeen zou komen met 256Gbit. Tot slot heeft men in 2010 ontdekt dat de memristor ook als logische schakeling gebruikt kan worden.

Als kers op de taart wilde HP de koperen verbindingen van geheugen naar CPU vervangen door lichtsnelle silicon photonics. Allemaal mooi en leuk, totdat HP in juni aankondigde de memristor te laten vallen. Het enige wat dan nog overbleef was feitelijk een machine met heel veel DRAM, al is het ongetwijfeld minder dan mogelijk was geweest met de memristor, gezien de relatief lage dichtheid van DRAM. Ook het OS werd vervangen door een variant van Linux. Volgens HP zou er in een later stadium een versie komen met phase-change memory.

Het beeld ziet er dus niet rooskleurig uit. Hoewel HP de guts heeft getoond het gevestigde paradigma te willen verbreken, lijkt het nu gedoemd tot falen. Of toch niet?

Enter Intel
Grand announcements about products that are still years away are rare in the computer industry. “We don’t need to talk about stuff five years from now,” Juan Loaiza, Oracle senior vice president for systems technology, told Bloomberg Businessweek.

De quote doet me denken aan IBM, dat eerder dit jaar ook nogal hoog van de toren blies met wat zogenaamd de eerste 7nm-testchip zou zijn. Dit heb ik besproken in mijn blog Intel en Innovatie. De realiteit is echter dat er meestal niet gesproken wordt over producten die je effectiťf zult kunnen kopen in de toekomst. Bedrijven houden hun geheime plannen en unique selling points immers graag dicht bij de hand om de concurrentie niet te veel inzicht te geven.

Zo was het dus dat Intel samen met JV-partner Micron een maand na HP’s teleurstellende nieuws een radicaal nieuwe technologie aankondigde: 3D XPoint. Hoewel Intel heeft ontkend dat het om phase change memory gaat, is het er naar alle waarschijnlijkheid een variant op [1]. Hoewel het iets heel anders is dan de memristor, zijn de gelijkenissen sprekend: het wordt geproduceerd op een 20nm-procedť, eveneens met een cross-bar-layout, en het is driedimensionaal met initieel twee lagen. Ook IMFT claimt dat er tien jaar aan gewerkt is en dat het volgens Moore’s Law kan schalen, en dat de karakteristieken bij het verkleinen ook nog zouden verbeteren. De derde mogelijkheid om de capaciteit te vergroten is om meer dan ťťn bit per cel op te slaan. Initieel gaat het om een die van 128Gbit – wat dus overeen zou komen met de 256Gbit bij gebruikt van vier lagen zoals HP.

Er zijn weliswaar twee minpuntjes: de duurzaamheid is 1000x die van NAND, maar dus niet praktisch onbeperkt zoals DRAM [4]. Daarnaast zal de latency ongeveer een orde van grootte trager zijn dan DRAM, dus niet alle toepassingen gaan ervan verbeteren. Officieel positioneert Intel 3D XPoint niet als een vervanger van NAND of DRAM, maar realistischer gezien als een nieuwe technologie tussenin beide.

http://blogs-images.forbes.com/antonyleather/files/2015/07/cross_point_image_for_photo_capsule1.jpg
http://blogs-images.forbe...ge_for_photo_capsule1.jpg

Maar nu komt het. Het grote verschil met de memristor? 3D XPoint zal in 2016 al verkrijgbaar zijn in SSD’s, en zal met het Skylake-EP (codenaam Purley) in 2017 ook voor het datacenter beschikbaar komen. Een jaar na de aankondiging dus, een wereld van verschil. Zal HP overschakelen op 3D XPoint? Wie zal het zeggen, maar het is plausibel, zeker gezien de timing.
Jim Handy, an analyst at Objective Analysis, says he suspects those companies could well have convinced then HP that their [3D XPoint] memory is “a better or more timely solution.”
The Machine had nog een tweede innovatieve verandering: silicon photonics. Ook hier zal het niet HP zijn dat het product op de markt brengt, maar wel de leider van silicon-technologie. Vorig jaar kondigde Intel aan dat eerste producten begin 2015 geleverd zouden worden, maar dat zal nu begin 2016 worden wegens uitstel door problemen [2], maar volgens 451 Research was de oorzaak de beslissing om de productie vaan 200mm- naar 300mm-wafers te verplaatsen [10] (een interessant artikel voor wie wat meer technische details wilt). Desondanks hebben al 2 van de 7 grootste cloudproviders de technologie gesampled. Het bedrijf verwacht dat de TAM in 2020 $5B zal zijn, en al $1B in 2016.

Na het schrijven van dit artikel is een nieuwsbericht uitgekomen waarin Amerikaanse onderzoekers erin geslaagd zijn om op een bestaand 45nm-procedť photonics met elektronica te integreren in een chip met 70M transistors. Ik ben nergens technische informatie tegengekomen over Intels silicon photonics, dus ik weet niet goed hoe die zich met elkaar vergelijken. In het artikel op Tweakers was wel een vraag hoe belangrijk deze ontwikkeling is, wat ik wil beantwoorden met een quote van een deskundige [7]:
“The challenges of silicon photonics remain the same as they have always been: this includes too much optical loss, too much power dissipation, too much chip area, and so on,” Levi says.
Ik vermoed dat hij hier doelt op silicon photonics gebruikt als interconnect in chips zelf, iets wat Intel en wellicht TSMC en Samsung trouwens ook onderzoeken. De voordelen van silicon photonics voor communicatie op langere afstanden tot 2km zijn de grootte en gewicht van de kabel versus koper (form factor), lager verbruik en kosten. Op termijn kan de silicon photonics ook in de processorchip geÔntegreerd worden.

http://i.imgur.com/I8OLfhX.png

Tijdens het opzoekwerk kwam ik op een interessante uitleg in Tweakers coverage van IDF 2004 [9] -- 2004! (En toen was de ontwikkeling al 5 jaar bezig.) Het nieuws komt trouwens een paar maand nadat Imec al een mijlpaal meldde voor silicon photonics [8]. (Al is mijlpaal natuurlijk relatief als een ander bedrijf de verkoop ervan al start, iets wat ook IBM ondervindt [11].)
The basic challenge in silicon photonics is the fact that silicon is also the material used for fiber-optic cables (glass), and the frequencies chosen for optical signals are precisely where silicon is most transparent. To create or detect these frequencies requires the use non-silicon materials that react with light, and to build electro-optical circuits on existing lines requires adapting those processes to include these new materials.
Tot slot heeft Intel ook een vervanger voor Inifiniband, Omni-Path Architecture genaamd, voornamelijk voor HPC-doeleinden. Ook hier is integratie in silicon de sleutel, iets wat de industrie al sinds het begin drijft door Moore's Law. Initieel wordt het op dezelfde package als Knights Landing geplaatst, maar in de toekomst zal het op de die zelf komen. (Zie bv. ook de integratie van FPGA's met Intels overname van Altera: in 2016 als MCP, maar in de toekomst op de die.)

Wat bij beide onderscheidende features opvalt, is dat ze met het geheugen te maken hebben. CPU's en GPU's blijven steeds sneller worden door de exponentiŽle toename van rekenkernen, maar die moeten natuurlijk gevoed worden door data. Als je dat niet kan, heb je weinig aan alle TFLOPS, wat tevens de reden is voor het gebruik van HMC bij de 14nm Xeon Phi die in H1'16 in gebruik zal genomen worden (niet te verwarren met HBM, al zijn beide vergelijkbaar). Het transport van data neemt daarnaast een significante hoeveelheid energie in beslag, dus het is geen verrassing dat men elke schakel van het datavervoer probeert te verbeteren, van de interconnect op de chip tot de exascale supercomputers.

Conclusie
The Machine ziet er anno 2015/2016 helemaal niet meer zo revolutionair uit als in 2014 beloofd was. Gelukkig zijn er echter bedrijven die wťl in staat zijn om innovatie naar de marktplaats te brengen, ook al zijn ze terughoudend om concrete informatie te geven over technologieŽn die zich nog in het R&D-stadium bevinden.

Maar eens ze aangekondigd zijn, kan het snel gaan. Of dit bijvoorbeeld het geval zal zijn met de VISC-architectuur [5] valt nog af te wachten, al lijkt de kans klein (niet te verwarren met de RISC-V ISA). Als het bedrijf echt een opmerkelijke verbetering heeft, zal het eerder overgenomen worden. Voor de geÔnteresseerden, volgende heeft een Intel CPU-architect me verteld.
“Sounds like hardware accelerated code morphing/dynamic translation. Code morphing is still a developing field and you can see the inconsistent performance in Project Denver. So in my opinion, it's why have they not implemented this YET? And that's because it still needs work and development. You have to beat the status quo to become the new status quo.”
Wat The Machine betreft, zullen de componenten die het systeem moeten onderscheiden van de gevestigde orde in de loop van 2016 beschikbaar komen. Dan zal niet enkel HP The Machine werkelijkheid kunnen doen worden, maar zullen andere bedrijven dat eveneens kunnen.

Oh, en hoe zit het voor de gewone consument? Buiten de Optane SSD’s die volgend jaar zullen verschijnen, zal ook silicon photonics zijn weg vinden naar de marktplaats, onder de naam Thunderbolt [3].


Leesvoer
[1] http://seekingalpha.com/a...6-3d-xpoint-not-the-point en http://seekingalpha.com/article/3774746-micron-tainted-love
[2] http://www.pcworld.com/ar...-photonic-networking.html en http://www.theregister.co...les_cant_handle_the_heat/
[3] http://spectrum.ieee.org/...intel-talks-thunderbolt-3
[4] http://spectrum.ieee.org/...ow-they-cripple-computers
[5] http://www.extremetech.co...ugh-weve-been-waiting-for en http://techreport.com/new...ased-on-visc-architecture
[6] http://spectrum.ieee.org/...-hpes-the-machine-deliver
[7] http://spectrum.ieee.org/...tonic-interconnects-built
[8] nieuws: Imec integreert lasers in siliciumwafers voor photonics
[9] reviews: Vooruitblik en eerste persdag Intel Developer Forum
[10] https://451research.com/report-short?entityId=84332
[11] http://www.extremetech.co...package-silicon-photonics http://www.extremetech.co...t-to-break-100gbs-barrier (Nvm het gebruik van inaccurate woorden als "first ever".)

* The Machine & memristor
http://www.extremetech.co...ors-and-silicon-photonics
http://www.extremetech.co...conventional-technologies
http://www.extremetech.co...works-like-brain-synapses
https://en.wikipedia.org/wiki/Memristor
nieuws: HP werkt aan nieuw type computer met memristors en optische datacommunicatie
nieuws: Memcomputer verwerkt data op vergelijkbare manier als menselijk brein

* 3D XPoint, silicon photonics en Omni-Path
http://www.anandtech.com/...mance-endurance-than-nand
http://www.nextplatform.c...point-memory-performance/
http://files.shareholder....NGNVM_Final_CROOKE_nn.pdf (pdf)
http://files.shareholder....SiPh_Final_BJORLIN_nn.pdf (pdf)
http://www.nextplatform.c...e-systems-with-omni-path/
http://www.intel.com/cont...ture-fabric-overview.html
https://ramcloud.atlassia...Date=1441327130864&api=v2 (pdf)
http://www.hpcwire.com/20...kes-center-stage-at-sc15/
http://www.anandtech.com/...s-omnipath-network-fabric
http://www.techrepublic.c...ize-data-centers-in-2015/
http://www.intel.com/cont...n-photonics-research.html
http://spectrum.ieee.org/...ronics/linking-with-light

http://cdn.static-economist.com/sites/default/files/imagecache/original-size/images/2015/04/blogs/economist-explains/20150425_woc302.png

Update: De lezer kan eventueel ook geÔnteresseerd zijn in volgende technische serie van The Next Platform: Drilling Down Into The Machine From HPE.

Volgende: Moore's Law voor dummies 01-'16 Moore's Law voor dummies
Volgende: Calculus in 1000 woorden 12-'15 Calculus in 1000 woorden

Reacties


Door Tweakers user DonJunior, dinsdag 29 december 2015 08:13

Heb met heel veel interesse dit blog zitten lezen. Meer van dit please!! :9~

Door Tweakers user Jogai, dinsdag 29 december 2015 08:37

CPU's en GPU's blijven steeds sneller worden door de exponentiŽle toename van rekenkernen, maar die moeten natuurlijk gevoed worden door data. Als je dat niet kan, heb je weinig aan alle TFLOPS
Dit deed me denken aan een artikel dat ik gisteren las:
http://www.agner.org/optimize/blog/read.php?i=417

En wat betreft het einde van moore's law, het zal 2015 toch echt wel over zijn als ik dat plaatje zo bekijk. Moore zelf is in elk geval consistent in zijn voorspelling en later durft bijna niemand te geloven.

Door Tweakers user dixet, dinsdag 29 december 2015 14:59

Wat een ontzettend interessante, goed geschreven en informatieve blog, complimenten!

Door Tweakers user Sepio, dinsdag 29 december 2015 17:44

Wat een geweldige blog. Erg interessant om te lezen en duidelijk geschreven. Ik ga je meteen aanmelden voor de blog van de maand.

[Reactie gewijzigd op dinsdag 29 december 2015 17:48]


Door Tweakers user Crotchy, dinsdag 29 december 2015 18:05

Heb weer erg genoten van dit blog.
Leest zeer goed weg en maakt alles goed behapbaar.
Kan niet wachten op je volgende post. :)

Door Laurens Stoelers, dinsdag 29 december 2015 23:19

Zeer goed blog, was al zeer benieuwd naar 2016 wat 3d xpoint zal brengen. (intel optane) Zal de computer structuur hierdoor veranderen? Ben zeer benieuwd wanneer de eerste 3d xpoint producten uitkomen, en of ze alle beloften kunnen waar maken.

Door Tweakers user Vnze, woensdag 30 december 2015 13:06

Geweldige blog!

Een kleine verbetering:

Daar komt nog bij dat alles boven NAND (inclusief de CPU zelf) non-volatile is, wat betekent dat de informatie verloren gaat als je de stroom uitschakelt of zelfs niet constant ververst (DRAM).

Ik meen aan dat je daar net wel volatile wil zeggen?

Door Tweakers user 148406, donderdag 31 december 2015 13:04

Jogai schreef op dinsdag 29 december 2015 @ 08:37:
[...]

Dit deed me denken aan een artikel dat ik gisteren las:
http://www.agner.org/optimize/blog/read.php?i=417

En wat betreft het einde van moore's law, het zal 2015 toch echt wel over zijn als ik dat plaatje zo bekijk. Moore zelf is in elk geval consistent in zijn voorspelling en later durft bijna niemand te geloven.
Het is 2015..

Reageren is niet meer mogelijk