[{"data":1,"prerenderedAt":1985},["ShallowReactive",2],{"blog-post-nl-\u002Fblog\u002Fpaiton-kimi-k31-pro-amd-instinct-mi355x":3,"blog-posts-sidebar-nl":1395},{"id":4,"title":5,"body":6,"categories":1376,"date":1380,"description":1381,"extension":1382,"heading":1383,"image":1384,"meta":1385,"navigation":241,"originalUrl":1386,"path":1387,"seo":1388,"slug":1389,"socialImage":1390,"stem":1391,"updated":1392,"video":1393,"__hash__":1394},"blogNl\u002Fblog\u002Fpaiton-kimi-k31-pro-amd-instinct-mi355x.md","Kimi-K3.1-Pro op 6 MI355X GPUs bij 800 W met Paiton",{"type":7,"value":8,"toc":1353},"minimark",[9,30,33,36,42,48,51,103,107,122,224,231,236,249,254,265,268,276,281,399,404,407,411,489,495,504,507,511,561,566,569,572,575,578,587,648,654,662,666,669,727,734,738,759,876,883,886,889,892,895,899,902,949,955,963,966,975,978,1028,1031,1034,1037,1040,1043,1046,1099,1104,1113,1118,1126,1129,1132,1141,1201,1206,1209,1219,1232,1235,1242,1257,1264,1310,1315,1328,1341,1345],[10,11,12,19,20,24,25,29],"p",{},[13,14,18],"a",{"href":15,"rel":16},"https:\u002F\u002Fhuggingface.co\u002Fmoonshotai\u002FKimi-K3.1-Pro",[17],"nofollow","Kimi-K3.1-Pro"," heeft 2,8 biljoen parameters. Met ",[13,21,23],{"href":22},"\u002Fnl\u002Fproducts\u002Fpaiton","Paiton",", ons framework voor AI-optimalisatie, draait het op ",[26,27,28],"strong",{},"zes AMD Instinct MI355X GPUs met elk een vermogenslimiet van 800 W",". Twee GPUs in de node met acht GPUs blijven buiten gebruik door het model.",[10,31,32],{},"Bij verzoeken met 8K invoer- en 1K uitvoertokens, samplingtemperatuur 0 en 800 W per GPU maten we in totaal 5.661 tokens\u002Fs, of 944 per GPU. AMD publiceert 936 per GPU voor ATOM op acht MI355X GPUs. De zes GPUs van Paiton verbruikten tijdens deze workload gemiddeld 4,18 kW. In een afzonderlijke test paste ook een prompt van een miljoen tokens op dezelfde zes GPUs bij dezelfde vermogenslimiet.",[10,34,35],{},"De vergelijking kent beperkingen. AMD vermeldt geen vermogenslimieten of samplingtemperaturen bij zijn doorvoertabellen. De nodes met acht GPUs halen een hogere totale doorvoer, en vLLM blijft per GPU sneller bij de workload met 128K invoertokens. In dit artikel betekent totale tokens steeds invoer plus uitvoer, niet alleen gegenereerde tokens.",[10,37,38,41],{},[26,39,40],{},"Update, 12 november 2026:"," We hebben een fout hersteld in hoe Paiton één attention-parameter las. Daardoor vond het model na ongeveer 100K tokens minder informatie terug en konden lange agentsessies in herhaling vallen. Na de fix vond het model 72 van 72 geplaatste codes terug in tests bij 31K, 120K en 228K tokens; daarvoor waren dat 31 van 48 bij de tests op 120K en 228K. De snelheid bij 800 W is onveranderd. Onze exacte referentie en de gratis communityversie hadden dezelfde fout. De nauwkeurigheidssectie gebruikt nu de gecorrigeerde referentie. De communityfix staat in de pluginrepo; het containerimage wordt opnieuw gebouwd.",[10,43,44],{},[45,46,47],"em",{},"De header is een illustratie. De terminalbeelden en benchmarkopnamen hieronder komen uit de aangeleverde runs.",[10,49,50],{},"In dit artikel",[52,53,54,61,67,73,79,85,91,97],"ul",{},[55,56,57],"li",{},[13,58,60],{"href":59},"#de-opstelling-en-de-opgenomen-run","De opstelling en de opgenomen run",[55,62,63],{},[13,64,66],{"href":65},"#doorvoer-en-wachttijd","Doorvoer en wachttijd",[55,68,69],{},[13,70,72],{"href":71},"#gpu-vermogen-en-kostenscenarios","GPU-vermogen en kostenscenario's",[55,74,75],{},[13,76,78],{"href":77},"#waarom-zes-gpus-en-800-w","Waarom zes GPUs en 800 W",[55,80,81],{},[13,82,84],{"href":83},"#sampling-en-nauwkeurigheid","Sampling en nauwkeurigheid",[55,86,87],{},[13,88,90],{"href":89},"#draaien-op-vier-gpus","Draaien op vier GPUs",[55,92,93],{},[13,94,96],{"href":95},"#probeer-de-communityversie","Probeer de communityversie",[55,98,99],{},[13,100,102],{"href":101},"#meetdetails-en-een-tweede-benchmark","Meetdetails en een tweede benchmark",[104,105,60],"h2",{"id":106},"de-opstelling-en-de-opgenomen-run",[10,108,109,110,115,116,121],{},"De oorspronkelijke Paiton-metingen van snelheid en vermogen hieronder zijn gemaakt op 10 en 11 november 2026. Het ",[13,111,114],{"href":112,"rel":113},"https:\u002F\u002Fwww.amd.com\u002Fen\u002Fdeveloper\u002Fresources\u002Ftechnical-articles\u002F2026\u002Fkimi-k3-1-pro-on-amd-instinct-gpus.html",[17],"AMD-artikel van 4 november"," rapporteert resultaten voor ATOM en vLLM; het ",[13,117,120],{"href":118,"rel":119},"https:\u002F\u002Fvllm.ai\u002Fblog\u002F2026-11-04-kimi-k31-pro",[17],"artikel van vLLM zelf"," bevat de vLLM-cijfers. Dit zijn afzonderlijke runs op verschillende nodes, geen gecontroleerde softwarevergelijking op één machine.",[123,124,125,143],"table",{},[126,127,128],"thead",{},[129,130,131,135,137,140],"tr",{},[132,133,134],"th",{},"Instelling",[132,136,23],{},[132,138,139],{},"ATOM, gepubliceerd door AMD",[132,141,142],{},"vLLM, gepubliceerd door AMD",[144,145,146,160,173,185,198,210],"tbody",{},[129,147,148,152,155,158],{},[149,150,151],"td",{},"GPUs",[149,153,154],{},"6 × MI355X",[149,156,157],{},"8 × MI355X",[149,159,157],{},[129,161,162,165,168,171],{},[149,163,164],{},"Vermogenslimiet per GPU",[149,166,167],{},"800 W",[149,169,170],{},"Niet vermeld",[149,172,170],{},[129,174,175,178,181,183],{},[149,176,177],{},"Gezamenlijke GPU-vermogenslimiet",[149,179,180],{},"4,8 kW",[149,182,170],{},[149,184,170],{},[129,186,187,190,193,196],{},[149,188,189],{},"Gemeten GPU-verbruik, 8K\u002F1K, T=0",[149,191,192],{},"4,18 kW, circa 696 W\u002FGPU",[149,194,195],{},"Niet gepubliceerd",[149,197,195],{},[129,199,200,203,206,208],{},[149,201,202],{},"Samplingtemperatuur",[149,204,205],{},"0 en 1,0, apart gerapporteerd",[149,207,170],{},[149,209,170],{},[129,211,212,215,218,221],{},[149,213,214],{},"Speculative decoding",[149,216,217],{},"DSpark, Inferact-drafter",[149,219,220],{},"DSpark, vijf drafts",[149,222,223],{},"Instelling bij doorvoertabel niet vermeld",[10,225,226],{},[227,228],"img",{"alt":229,"src":230},"Terminalopname van de 8K\u002F1K-run met zes GPUs. amd-smi toont GPUs 2-7 actief rond hun limiet van 800 W en GPUs 0-1 in rust.","\u002Fasset\u002Fimages\u002Fblog\u002Fpaiton-kimi31\u002Fw6-8k1k-midrun-amdsmi.png",[10,232,233],{},[45,234,235],{},"Originele opname tijdens de run, temperatuur 0. De momentopname rond 800 W verschilt van het gemiddelde over de run: circa 696 W per actieve GPU.",[10,237,238],{},[239,240],"video",{"controls":241,"playsInline":241,"preload":242,"width":243,"height":244,"ariaLabel":245,"ariaDescribedBy":246,"poster":230,"src":248},true,"none",1920,1080,"Versnelde opname van de Kimi-K3.1-Pro-benchmark op zes GPUs met vermogensmetingen",[247],"kimi-six-gpu-caption","\u002Fasset\u002Fvideos\u002Fblog\u002Fpaiton-kimi31\u002Fw6-8k1k-t0-run.mp4",[10,250,251],{"id":247},[45,252,253],{},"Benchmarkopname op 4× snelheid, niet in realtime. Zes MI355X GPUs, een limiet van 800 W per GPU, samplingtemperatuur 0.",[10,255,256,259,260,264],{},[13,257,258],{"href":248},"Open de opname met zes GPUs"," of bekijk het ",[13,261,263],{"href":262},"\u002Fasset\u002Fimages\u002Fblog\u002Fpaiton-kimi31\u002Fw6-8k1k-final-result.png","originele resultaatscherm",".",[104,266,66],{"id":267},"doorvoer-en-wachttijd",[10,269,270,271,275],{},"We gebruikten de standaardclient ",[272,273,274],"code",{},"vllm bench serve"," met willekeurige prompts, 64 verzoeken en maximaal 16 gelijktijdige verzoeken, volgens de workloadopzet die AMD publiceert. Prefixcaching stond uit en EOS werd genegeerd. De doorvoertests gebruikten een maximale sequentielengte van 140.000 tokens; de miljoen-tokentest gebruikte een aparte configuratie.",[277,278,280],"h3",{"id":279},"_8k-invoer-en-1k-uitvoer","8K invoer en 1K uitvoer",[123,282,283,308],{},[126,284,285],{},[129,286,287,290,292,296,299,302,305],{},[132,288,289],{},"Runtime en GPU-vermogenslimiet",[132,291,202],{},[132,293,295],{"align":294},"right","Totaal tok\u002Fs, node",[132,297,298],{"align":294},"Totaal tok\u002Fs\u002FGPU",[132,300,301],{"align":294},"Uitvoer tok\u002Fs, node",[132,303,304],{"align":294},"Mediane TTFT",[132,306,307],{"align":294},"Mediane TPOT",[144,309,310,333,355,377],{},[129,311,312,315,318,321,324,327,330],{},[149,313,314],{},"Paiton, 6 GPUs × 800 W",[149,316,317],{},"0",[149,319,320],{"align":294},"5.661",[149,322,323],{"align":294},"944",[149,325,326],{"align":294},"629",[149,328,329],{"align":294},"0,65 s",[149,331,332],{"align":294},"20,4 ms",[129,334,335,337,340,343,346,349,352],{},[149,336,314],{},[149,338,339],{},"1,0",[149,341,342],{"align":294},"4.535",[149,344,345],{"align":294},"756",[149,347,348],{"align":294},"504",[149,350,351],{"align":294},"1,23 s",[149,353,354],{"align":294},"30,6 ms",[129,356,357,360,362,365,368,371,374],{},[149,358,359],{},"ATOM, 8 GPUs, limiet onbekend",[149,361,170],{},[149,363,364],{"align":294},"7.484",[149,366,367],{"align":294},"936",[149,369,370],{"align":294},"831,6",[149,372,373],{"align":294},"0,821 s",[149,375,376],{"align":294},"16,36 ms",[129,378,379,382,384,387,390,393,396],{},[149,380,381],{},"vLLM, 8 GPUs, limiet onbekend",[149,383,170],{},[149,385,386],{"align":294},"6.015",[149,388,389],{"align":294},"752",[149,391,392],{"align":294},"668,4",[149,394,395],{"align":294},"1,875 s",[149,397,398],{"align":294},"22,06 ms",[10,400,401],{},[45,402,403],{},"TTFT: tijd tot het eerste token. TPOT: tijd per uitvoertoken na het eerste. Paiton T=0 bij 800 W per GPU is het gemiddelde van twee runs, 5.673 en 5.648 totale tok\u002Fs; T=1,0 is één run. Cijfers per GPU zijn afgerond. AMD gebruikt TP8\u002FDCP8, 16 gelijktijdige verzoeken en 64 prompts.",[10,405,406],{},"Bij T=0 ligt Paitons doorvoer per GPU dicht bij het gepubliceerde ATOM-resultaat. Bij T=1,0 ligt die dicht bij vLLM. Deze koppelingen zijn indicatief: door de ontbrekende samplingtemperaturen van AMD is dit geen vergelijking bij gelijke temperatuur. Bij die koppelingen is Paitons wachttijd per uitvoertoken hoger en de wachttijd tot het eerste token korter.",[277,408,410],{"id":409},"_128k-invoer-en-100-uitvoer","128K invoer en 100 uitvoer",[123,412,413,427],{},[126,414,415],{},[129,416,417,419,421,423,425],{},[132,418,289],{},[132,420,202],{},[132,422,295],{"align":294},[132,424,298],{"align":294},[132,426,304],{"align":294},[144,428,429,444,459,474],{},[129,430,431,433,435,438,441],{},[149,432,314],{},[149,434,317],{},[149,436,437],{"align":294},"12.768",[149,439,440],{"align":294},"2.128",[149,442,443],{"align":294},"122 s",[129,445,446,448,450,453,456],{},[149,447,314],{},[149,449,339],{},[149,451,452],{"align":294},"12.885",[149,454,455],{"align":294},"2.148",[149,457,458],{"align":294},"100 s",[129,460,461,463,465,468,471],{},[149,462,359],{},[149,464,170],{},[149,466,467],{"align":294},"14.005",[149,469,470],{"align":294},"1.751",[149,472,473],{"align":294},"27,9 s",[129,475,476,478,480,483,486],{},[149,477,381],{},[149,479,170],{},[149,481,482],{"align":294},"17.678",[149,484,485],{"align":294},"2.210",[149,487,488],{"align":294},"105,5 s",[10,490,491],{},[227,492],{"alt":493,"src":494},"Totale invoer- plus uitvoertokens per seconde per GPU voor 8K\u002F1K en 128K\u002F100, met Paitons twee samplingtemperaturen apart van AMDs onbekende temperaturen.","\u002Fasset\u002Fimages\u002Fblog\u002Fpaiton-kimi31\u002Fper-gpu-nl.webp",[10,496,497],{},[45,498,499,500,264],{},"Paiton: zes MI355X GPUs bij elk 800 W. Gepubliceerde AMD-resultaten: acht MI355X GPUs, vermogenslimieten en samplingtemperaturen niet vermeld. De tabellen hierboven bevatten de grafiekwaarden. ",[13,501,503],{"href":502},"\u002Fasset\u002Fimages\u002Fblog\u002Fpaiton-kimi31\u002Fper-gpu-nl.svg","Download de SVG",[10,505,506],{},"Paiton bij T=0 en 800 W per GPU ligt op 128K\u002F100 per GPU circa 22% boven ATOM en circa 4% onder vLLM. ATOM heeft een veel kortere wachttijd tot het eerste token. In de Paiton-run komen 16 lange verzoeken tegelijk binnen en worden hun prompts na elkaar verwerkt. Verzoeken wachten dus op eerdere prefills. Een hoog cijfer voor tokens per GPU neemt die wachttijd niet weg.",[277,508,510],{"id":509},"eén-verzoek-en-een-prompt-van-een-miljoen-tokens","Eén verzoek en een prompt van een miljoen tokens",[123,512,513,529],{},[126,514,515],{},[129,516,517,520,522,524,527],{},[132,518,519],{},"Paiton, 6 MI355X GPUs × 800 W",[132,521,202],{},[132,523,307],{"align":294},[132,525,526],{"align":294},"Uitvoer tok\u002Fs, benadering",[132,528,304],{"align":294},[144,530,531,547],{},[129,532,533,536,538,541,544],{},[149,534,535],{},"8K\u002F1K, één verzoek tegelijk",[149,537,317],{},[149,539,540],{"align":294},"4,35 ms",[149,542,543],{"align":294},"230",[149,545,546],{"align":294},"0,61 s",[129,548,549,551,553,556,559],{},[149,550,535],{},[149,552,339],{},[149,554,555],{"align":294},"11,5 ms",[149,557,558],{"align":294},"87",[149,560,546],{"align":294},[10,562,563],{},[45,564,565],{},"Acht verzoeken met willekeurige prompts per configuratie. De uitvoersnelheid is de omgekeerde waarde van de mediane TPOT.",[10,567,568],{},"Willekeurige prompts zijn gunstig voor speculative decoding bij T=0, omdat hun greedy vervolg vaak herhalend wordt. Op echte tekst bij 800 W per GPU haalde hetzelfde pad circa 100 uitvoertokens\u002Fs voor één verzoek. AMDs cijfers voor één verzoek gebruiken synthetische draftacceptatie; daarom staan ze niet in deze tabel.",[10,570,571],{},"In de aparte lange-contexttest op zes GPUs bij elk 800 W duurde één verzoek met 1.040.000 invoertokens en 64 uitvoertokens 90 seconden tot het eerste token, daarna 19,9 ms per uitvoertoken. De maximale sequentielengte en de KV-pool waren beide 1.052.672 tokens. Het GPU-geheugengebruik bereikte ongeveer 98%. Dat laat zien dat deze context op zes GPUs bij elk 800 W past; dit is niet de configuratie uit de doorvoertabellen.",[104,573,72],{"id":574},"gpu-vermogen-en-kostenscenarios",[10,576,577],{},"Onze zes GPUs verbruikten gemiddeld 4,18 kW op 8K\u002F1K en 4,58 kW op 128K\u002F100 bij T=0, onder hun gezamenlijke limiet van 4,8 kW. Deze metingen omvatten alleen de GPUs, niet de host of koeling.",[10,579,580,581,586],{},"AMD publiceert geen gemeten verbruik of ingestelde limieten voor zijn runs. Voor de berekeningen hieronder nemen we 1.400 W per GPU aan, of 11,2 kW voor acht GPUs, op basis van het ",[13,582,585],{"href":583,"rel":584},"https:\u002F\u002Fwww.amd.com\u002Fen\u002Fproducts\u002Faccelerators\u002Finstinct\u002Fmi350\u002Fmi355x.html",[17],"opgegeven typische kaartvermogen van de MI355X",". Die specificatie bewijst niet dat AMD bij deze limiet draaide of dat vermogen verbruikte.",[123,588,589,602],{},[126,590,591],{},[129,592,593,596,599],{},[132,594,595],{},"Totale tok\u002Fs per kW",[132,597,598],{"align":294},"8K\u002F1K",[132,600,601],{"align":294},"128K\u002F100",[144,603,604,615,626,637],{},[129,605,606,609,612],{},[149,607,608],{},"Paiton T=0, 6 GPUs × 800 W, werkelijke GPU-limiet van 4,8 kW",[149,610,611],{"align":294},"1.179",[149,613,614],{"align":294},"2.660",[129,616,617,620,623],{},[149,618,619],{},"Paiton T=0, 6 GPUs × 800 W, gemeten GPU-verbruik van 4,18\u002F4,58 kW",[149,621,622],{"align":294},"1.354",[149,624,625],{"align":294},"2.788",[129,627,628,631,634],{},[149,629,630],{},"ATOM, aangenomen GPU-limiet van 11,2 kW",[149,632,633],{"align":294},"668",[149,635,636],{"align":294},"1.250",[129,638,639,642,645],{},[149,640,641],{},"vLLM, aangenomen GPU-limiet van 11,2 kW",[149,643,644],{"align":294},"537",[149,646,647],{"align":294},"1.578",[10,649,650],{},[227,651],{"alt":652,"src":653},"Doorvoer per kilowatt met Paitons ingestelde GPU-limiet en een aanname van 1.400 W per GPU voor AMDs gepubliceerde resultaten: een vermogensscenario.","\u002Fasset\u002Fimages\u002Fblog\u002Fpaiton-kimi31\u002Fper-kw-nl.webp",[10,655,656],{},[45,657,658,659,264],{},"Invoer- plus uitvoertokens. Paiton T=0, zes GPUs × 800 W; AMDs samplingtemperaturen en werkelijke limieten zijn onbekend. Delen door aangenomen limieten meet geen relatieve energie-efficiëntie. ",[13,660,503],{"href":661},"\u002Fasset\u002Fimages\u002Fblog\u002Fpaiton-kimi31\u002Fper-kw-nl.svg",[277,663,665],{"id":664},"elektriciteit-voor-de-gpus","Elektriciteit voor de GPUs",[10,667,668],{},"Bij een aangenomen $0,10\u002FkWh zijn dit de GPU-kosten per miljoen totale tokens. CPUs, netwerk en koeling zijn niet inbegrepen.",[123,670,671,682],{},[126,672,673],{},[129,674,675,678,680],{},[132,676,677],{},"Elektriciteitsscenario",[132,679,598],{"align":294},[132,681,601],{"align":294},[144,683,684,695,705,716],{},[129,685,686,689,692],{},[149,687,688],{},"Paiton T=0, 6 GPUs op hun limiet van 4,8 kW",[149,690,691],{"align":294},"$0,024",[149,693,694],{"align":294},"$0,010",[129,696,697,700,703],{},[149,698,699],{},"Paiton T=0, gemeten GPU-verbruik",[149,701,702],{"align":294},"$0,021",[149,704,694],{"align":294},[129,706,707,710,713],{},[149,708,709],{},"ATOM, 8 GPUs aangenomen op 11,2 kW",[149,711,712],{"align":294},"$0,042",[149,714,715],{"align":294},"$0,022",[129,717,718,721,724],{},[149,719,720],{},"vLLM, 8 GPUs aangenomen op 11,2 kW",[149,722,723],{"align":294},"$0,052",[149,725,726],{"align":294},"$0,018",[10,728,729,730,733],{},"De berekening is ",[272,731,732],{},"kW × prijs per kWh × 1.000.000 ÷ (tokens\u002Fs × 3.600)",". Bij continu GPU-verbruik van 4,8 of 11,2 kW zouden de jaarlijkse elektriciteitskosten $4.205 of $9.811 zijn. Deze scenario's tonen geen gemeten elektriciteitsbesparing tegenover AMD aan.",[277,735,737],{"id":736},"gpu-huur","GPU-huur",[10,739,740,741,746,747,752,753,758],{},"Voor een indicatieve toerekening van GPU-kosten gebruiken we gepubliceerde tarieven, gecontroleerd op 11 november 2026: ",[13,742,745],{"href":743,"rel":744},"https:\u002F\u002Ftensorwave.com\u002Fproducts\u002Faccelerators\u002Famd-mi355x",[17],"TensorWave begint bij $2,95\u002FGPU-uur",", ",[13,748,751],{"href":749,"rel":750},"https:\u002F\u002Fwww.daytona.io\u002Fpricing",[17],"Daytona vermeldt $5,99\u002FGPU-uur"," met CPU, RAM en opslag apart geprijsd, en ",[13,754,757],{"href":755,"rel":756},"https:\u002F\u002Fwww.oracle.com\u002Fapac\u002Fa\u002Focom\u002Fdocs\u002Fcorporate\u002Fpricing\u002Foracle-paas-and-iaas-global-price-list.pdf",[17],"Oracle vermeldt $8,60\u002FGPU-uur"," voor bare-metal. Deze verschillende aanbiedingen zijn geen onderling uitwisselbare offertes voor een volledige node. Alle rijen gebruiken totale tokens, inclusief prompttokens.",[123,760,761,777],{},[126,762,763],{},[129,764,765,768,771,774],{},[132,766,767],{},"Kosten per miljoen totale tokens",[132,769,770],{"align":294},"Bij $2,95\u002FGPU-uur",[132,772,773],{"align":294},"Bij $5,99\u002FGPU-uur",[132,775,776],{"align":294},"Bij $8,60\u002FGPU-uur",[144,778,779,793,807,821,835,849,863],{},[129,780,781,784,787,790],{},[149,782,783],{},"8K\u002F1K, Paiton, 6 GPUs × 800 W, T=0",[149,785,786],{"align":294},"$0,87",[149,788,789],{"align":294},"$1,76",[149,791,792],{"align":294},"$2,53",[129,794,795,798,801,804],{},[149,796,797],{},"8K\u002F1K, Paiton, 6 GPUs × 800 W, T=1,0",[149,799,800],{"align":294},"$1,08",[149,802,803],{"align":294},"$2,20",[149,805,806],{"align":294},"$3,16",[129,808,809,812,815,818],{},[149,810,811],{},"8K\u002F1K, ATOM, 8 GPUs, limiet\u002FT onbekend",[149,813,814],{"align":294},"$0,88",[149,816,817],{"align":294},"$1,78",[149,819,820],{"align":294},"$2,55",[129,822,823,826,829,832],{},[149,824,825],{},"8K\u002F1K, vLLM, 8 GPUs, limiet\u002FT onbekend",[149,827,828],{"align":294},"$1,09",[149,830,831],{"align":294},"$2,21",[149,833,834],{"align":294},"$3,18",[129,836,837,840,843,846],{},[149,838,839],{},"128K\u002F100, Paiton, 6 GPUs × 800 W, T=0",[149,841,842],{"align":294},"$0,39",[149,844,845],{"align":294},"$0,78",[149,847,848],{"align":294},"$1,12",[129,850,851,854,857,860],{},[149,852,853],{},"128K\u002F100, ATOM, 8 GPUs, limiet\u002FT onbekend",[149,855,856],{"align":294},"$0,47",[149,858,859],{"align":294},"$0,95",[149,861,862],{"align":294},"$1,36",[129,864,865,868,871,874],{},[149,866,867],{},"128K\u002F100, vLLM, 8 GPUs, limiet\u002FT onbekend",[149,869,870],{"align":294},"$0,37",[149,872,873],{"align":294},"$0,75",[149,875,800],{"align":294},[10,877,878,879,882],{},"Huurkosten zijn ",[272,880,881],{},"aantal GPUs × uurtarief × 1.000.000 ÷ (tokens\u002Fs × 3.600)",". Huurt u een ondeelbare node met acht GPUs, dan verlaagt het ongebruikt laten van twee GPUs de factuur niet. Die capaciteit kan naar een andere workload, afhankelijk van de resterende hostcapaciteit. Test gecombineerde workloads voordat u die capaciteit als omzet meetelt.",[104,884,78],{"id":885},"waarom-zes-gpus-en-800-w",[10,887,888],{},"De circa 1,56 TB aan modelgewichten en een KV-pool voor een miljoen tokens passen op zes MI355X GPUs. Paitons eigen sharding ondersteunt dat aantal, ook al zijn de hoofddimensies van het model niet deelbaar door zes. Het framework draait eigen HIP-kernels op de GPUs.",[10,890,891],{},"Twee GPUs met samen 576 GB opgegeven HBM-capaciteit blijven buiten het Kimi-proces. Embeddings, reranking of een tweede model zouden die kunnen gebruiken, maar zulke combinaties zijn hier niet getest. Zes GPUs hebben ook minder rekenkracht en geheugenbandbreedte dan acht. De gepubliceerde resultaten op acht GPUs halen een hogere totale nodedoorvoer.",[10,893,894],{},"De limiet van 800 W kwam door onze eenfasige PDU. Tests bij 1.000 W per GPU brachten de voeding dicht bij haar grens; langdurig gebruik van acht GPUs bij 1.400 W lag buiten die capaciteit. Alle end-to-end Paiton-benchmarkresultaten in dit artikel gebruiken 800 W per GPU.",[277,896,898],{"id":897},"wat-1400-w-mogelijk-verandert","Wat 1.400 W mogelijk verandert",[10,900,901],{},"We konden het volledige model niet bij 1.400 W draaien. De bereiken hieronder zijn schattingen uit beperkte tests van onderdelen, met de aanname van snellere prefill en maximaal 10% snellere decode. Ze zijn niet gevalideerd bij die vermogenslimiet.",[123,903,904,917],{},[126,905,906],{},[129,907,908,911,914],{},[132,909,910],{},"Paiton op 6 GPUs, totale tok\u002Fs\u002FGPU",[132,912,913],{"align":294},"Gemeten bij 800 W\u002FGPU",[132,915,916],{"align":294},"Geschat bij 1.400 W\u002FGPU",[144,918,919,929,939],{},[129,920,921,924,926],{},[149,922,923],{},"8K\u002F1K, T=0",[149,925,323],{"align":294},[149,927,928],{"align":294},"1.035-1.105",[129,930,931,934,936],{},[149,932,933],{},"8K\u002F1K, T=1,0",[149,935,345],{"align":294},[149,937,938],{"align":294},"830-885",[129,940,941,944,946],{},[149,942,943],{},"128K\u002F100, T=0",[149,945,440],{"align":294},[149,947,948],{"align":294},"2.780-2.790",[10,950,951],{},[227,952],{"alt":953,"src":954},"Paitons gemeten totale tokens per seconde per GPU bij 800 W naast geschatte bereiken bij 1.400 W, met de schattingen duidelijk apart aangeduid.","\u002Fasset\u002Fimages\u002Fblog\u002Fpaiton-kimi31\u002Fpower-estimate-nl.webp",[10,956,957],{},[45,958,959,960,264],{},"De waarden bij 1.400 W zijn extrapolaties uit een onderdelentest en aangenomen decodeschaling. Het zijn geen gemeten resultaten voor het volledige model en geen prestatiebelofte. ",[13,961,503],{"href":962},"\u002Fasset\u002Fimages\u002Fblog\u002Fpaiton-kimi31\u002Fpower-estimate-nl.svg",[104,964,84],{"id":965},"sampling-en-nauwkeurigheid",[10,967,968,969,974],{},"Paiton gebruikt de openbare ",[13,970,973],{"href":971,"rel":972},"https:\u002F\u002Fhuggingface.co\u002FInferact\u002FKimi-K3.1-Pro-DSpark-preview",[17],"Inferact DSpark-drafter",". De samplingtemperatuur verandert hoeveel voorgestelde tokens het doelmodel accepteert. Bij T=0 zijn herhalende vervolgen op willekeurige prompts makkelijker te voorspellen; bij T=1,0 worden meer voorstellen afgewezen. Daarom rapporteren we beide temperaturen zonder er een toe te schrijven aan AMDs onbekende instellingen.",[10,976,977],{},"De volgende resultaten komen van de herstelde versie op zes GPUs bij 800 W per GPU, met een context van 1M tokens, greedy decoding en thinking uit. We gebruikten dezelfde testopzet en opgavensets als voorheen; MMLU-Pro is nieuw in dit artikel.",[123,979,980,993],{},[126,981,982],{},[129,983,984,987,990],{},[132,985,986],{},"Benchmark",[132,988,989],{},"Herstelde versie, 12 november 2026",[132,991,992],{},"Eerder gemeld, versie met de fout",[144,994,995,1006,1017],{},[129,996,997,1000,1003],{},[149,998,999],{},"GSM8K, five-shot",[149,1001,1002],{},"197\u002F200 (98,5%)",[149,1004,1005],{},"185\u002F200 (92,5%)",[129,1007,1008,1011,1014],{},[149,1009,1010],{},"HumanEval, vastgezette OpenAI-set",[149,1012,1013],{},"159\u002F164 (97,0%)",[149,1015,1016],{},"160\u002F164 (97,6%)",[129,1018,1019,1022,1025],{},[149,1020,1021],{},"MMLU-Pro",[149,1023,1024],{},"1.157\u002F1.400 (82,6%)",[149,1026,1027],{},"Niet eerder gemeld",[10,1029,1030],{},"HumanEval is onveranderd binnen de meetruis. Deze controles tonen niet de nauwkeurigheid op elke taak aan.",[10,1032,1033],{},"Onze eerdere KL-cijfers gebruikten een foutieve referentie en zijn niet meer geldig. Tegenover het gecorrigeerde exacte model hebben de gebruikte instellingen op het prefill-pad een KL-divergentie van 0,0078 over 47 apart gehouden rijen en 85.152 posities, met 96,4% top-1-overeenkomst. Tegenover diezelfde gecorrigeerde referentie scoort de oude versie 0,109 en standaard-vLLM 0,0030. Een lagere KL betekent een verdeling die dichter bij de referentie ligt, niet automatisch betere antwoorden op elke taak.",[10,1035,1036],{},"We hebben de KL-divergentie op het decode-pad niet opnieuw gemeten.",[104,1038,90],{"id":1039},"draaien-op-vier-gpus",[10,1041,1042],{},"De tijden in deze sectie zijn vóór de fix gemeten. De gecorrigeerde nauwkeurigheidsresultaten op zes GPUs hierboven valideren deze configuratie met vier GPUs niet.",[10,1044,1045],{},"Paiton draait Kimi-K3.1-Pro ook op vier MI355X GPUs bij elk 800 W. De gewichten passen niet volledig in hun HBM, dus de twee AMD EPYC 9575F CPUs van de node berekenen een deel van de expertworkload.",[123,1047,1048,1065],{},[126,1049,1050],{},[129,1051,1052,1055,1057,1059,1062],{},[132,1053,1054],{},"Paiton, 4 GPUs × 800 W plus CPU-experts",[132,1056,295],{"align":294},[132,1058,298],{"align":294},[132,1060,1061],{"align":294},"Mediane TPOT, 16 gelijktijdig",[132,1063,1064],{"align":294},"TPOT bij één verzoek",[144,1066,1067,1083],{},[129,1068,1069,1071,1074,1077,1080],{},[149,1070,923],{},[149,1072,1073],{"align":294},"915",[149,1075,1076],{"align":294},"229",[149,1078,1079],{"align":294},"152 ms",[149,1081,1082],{"align":294},"26,1 ms, circa 38 uitvoer-tok\u002Fs",[129,1084,1085,1087,1090,1093,1096],{},[149,1086,933],{},[149,1088,1089],{"align":294},"781",[149,1091,1092],{"align":294},"195",[149,1094,1095],{"align":294},"179 ms",[149,1097,1098],{"align":294},"26,4 ms, circa 38 uitvoer-tok\u002Fs",[10,1100,1101],{},[45,1102,1103],{},"Dezelfde workload met 64 verzoeken en maximaal 16 tegelijk; T=0 is het gemiddelde van twee runs. De tijd bij één verzoek komt uit een aparte test. GPUs 2-5 zijn actief.",[10,1105,1106],{},[239,1107],{"controls":241,"playsInline":241,"preload":242,"width":243,"height":244,"ariaLabel":1108,"ariaDescribedBy":1109,"poster":1111,"src":1112},"Versnelde opname van de Kimi-K3.1-Pro-benchmark op vier GPUs met CPU-experts",[1110],"kimi-four-gpu-caption","\u002Fasset\u002Fimages\u002Fblog\u002Fpaiton-kimi31\u002Fw4-8k1k-midrun-amdsmi.png","\u002Fasset\u002Fvideos\u002Fblog\u002Fpaiton-kimi31\u002Fw4-8k1k-t0-run.mp4",[10,1114,1115],{"id":1110},[45,1116,1117],{},"Versnelde benchmarkopname, niet in realtime. Vier MI355X GPUs met elk een limiet van 800 W, met CPU-experts, samplingtemperatuur 0.",[10,1119,1120,259,1123,264],{},[13,1121,1122],{"href":1112},"Open de opname met vier GPUs",[13,1124,263],{"href":1125},"\u002Fasset\u002Fimages\u002Fblog\u002Fpaiton-kimi31\u002Fw4-8k1k-final-result.png",[10,1127,1128],{},"Dit gebruikt minder GPUs, maar verliest veel doorvoer door het wachten op CPU-werk. De vier ongebruikte GPUs delen die drukbezette host. Twee gelijktijdige Kimi-instances zijn niet gevalideerd.",[104,1130,96],{"id":1131},"probeer-de-communityversie",[10,1133,1134,1135,1140],{},"De gratis ",[13,1136,1139],{"href":1137,"rel":1138},"https:\u002F\u002Fgithub.com\u002FEliovp-BV\u002Fpaiton-vllm-plugin\u002Ftree\u002Fmain\u002Fmodels\u002FKimi-K3.1-Pro",[17],"communityversie met launcher"," draait het model op vier ondersteunde AMD Instinct CDNA4 GPUs. Het is gewone Python\u002FPyTorch, zonder Paiton-kernels, batching of speculative decoding. U kunt er het model mee bekijken en eigen prompts proberen; het reproduceert Paitons prestaties niet.",[123,1142,1143,1155],{},[126,1144,1145],{},[129,1146,1147,1150,1153],{},[132,1148,1149],{},"Vier MI355X GPUs bij elk 800 W, T=0",[132,1151,1152],{"align":294},"Communityversie",[132,1154,23],{"align":294},[144,1156,1157,1168,1179,1190],{},[129,1158,1159,1162,1165],{},[149,1160,1161],{},"Eén verzoek, tijd per uitvoertoken",[149,1163,1164],{"align":294},"1,9-4,6 s",[149,1166,1167],{"align":294},"Circa 26 ms",[129,1169,1170,1173,1176],{},[149,1171,1172],{},"Prefill",[149,1174,1175],{"align":294},"Circa 5 invoer-tok\u002Fs",[149,1177,1178],{"align":294},"Circa 3.200 invoer-tok\u002Fs",[129,1180,1181,1184,1187],{},[149,1182,1183],{},"Gelijktijdige verzoeken",[149,1185,1186],{"align":294},"1",[149,1188,1189],{"align":294},"16",[129,1191,1192,1195,1198],{},[149,1193,1194],{},"Volledig 8K\u002F1K-verzoek",[149,1196,1197],{"align":294},"Circa 1-2 uur, geschat",[149,1199,1200],{"align":294},"29 s",[10,1202,1203],{},[45,1204,1205],{},"Historische metingen vóór de fix, bij 800 W per GPU. Communityprefill: 1.175 tokens in 239 seconden; Paiton-prefill: circa 8K tokens in 2,6 seconden. De duur van het 8K\u002F1K-communityverzoek is geschat uit gemeten fasesnelheden, niet uit een voltooide benchmark van twee uur. Deze fasetests gebruiken verschillende promptlengtes.",[10,1207,1208],{},"Op 12 november 2026 staat de communityfix in de pluginrepo en wordt het containerimage opnieuw gebouwd. De tag hieronder verwijst naar de oorspronkelijke release; dit bevestigt niet dat een pull de fix bevat.",[1210,1211,1217],"pre",{"className":1212,"code":1214,"language":1215,"meta":1216},[1213],"language-text","ghcr.io\u002Feliovp\u002Fpaiton-vllm-plugin:kimi31pro-rocm10.1.0-pytorch2.13.0-cdna4-v1\n","text","",[272,1218,1214],{"__ignoreMap":1216},[10,1220,1221,1222,1225,1226,1231],{},"Lees de handleiding voordat u downloadt. Nodig zijn ondersteunde ",[272,1223,1224],{},"gfx950"," GPUs, minstens 768 GB host-RAM en opslag voor circa 1,6 TB gewichten plus het image van ongeveer 37 GB. Er wordt één verzoek tegelijk verwerkt, standaard met maximaal 32.768 tokens; dit is geen gevalideerde communityopstelling voor een miljoen tokens. De Apache-2.0-licentie van de code staat los van ",[13,1227,1230],{"href":1228,"rel":1229},"https:\u002F\u002Fhuggingface.co\u002Fmoonshotai\u002FKimi-K3.1-Pro\u002Fblob\u002Fmain\u002FLICENSE",[17],"Kimi's modelvoorwaarden",". Controleer de commerciële modelvoorwaarden voor uw toepassing.",[104,1233,102],{"id":1234},"meetdetails-en-een-tweede-benchmark",[10,1236,1237,1238,1241],{},"Onze node heeft acht MI355X GPUs, twee EPYC 9575F CPUs met elk 64 cores en 2,2 TB RAM. Tests met zes GPUs gebruikten GPUs 2-7; tests met vier GPUs gebruikten GPUs 2-5. Het GPU-vermogen werd elke twee tot drie seconden gemeten met ",[272,1239,1240],{},"amd-smi metric -p","; de ingestelde limieten zijn bij de resultaten opgeslagen.",[10,1243,1244,1245,1248,1249,1252,1253,1256],{},"De servingclient kwam uit ",[272,1246,1247],{},"vllm\u002Fvllm-openai-rocm:kimi-k31",". Voor 8K\u002F1K gebruikte die ",[272,1250,1251],{},"--dataset-name random --random-input-len 8192 --random-output-len 1024 --num-prompts 64 --max-concurrency 16 --ignore-eos",". T=0-verzoeken stelden expliciet ",[272,1254,1255],{},"--temperature 0"," in; de andere run gebruikte Paitons serverstandaard van 1,0. Prefixcaching stond uit en prefillchunks waren 8.192 tokens.",[10,1258,1259,1260,1263],{},"We draaiden ook LocalMaxxings open CLI, ",[272,1261,1262],{},"lmx 0.1.60",", tegen Paiton op zes MI355X GPUs met elk een limiet van 800 W en de miljoen-tokenconfiguratie. De prompts en tijdmeting verschillen van de benchmark met willekeurige tokens.",[123,1265,1266,1276],{},[126,1267,1268],{},[129,1269,1270,1273],{},[132,1271,1272],{},"LocalMaxxing-CLI-test, 6 GPUs × 800 W",[132,1274,1275],{},"Gemeten resultaat",[144,1277,1278,1286,1294,1302],{},[129,1279,1280,1283],{},[149,1281,1282],{},"Eén verzoek, canonieke redeneerprompt",[149,1284,1285],{},"183 uitvoer-tok\u002Fs; 116 ms tot het eerste token",[129,1287,1288,1291],{},[149,1289,1290],{},"Eén koud verzoek, prefill",[149,1292,1293],{},"12.844 invoer-tok\u002Fs bij 8K; 13.370 bij 128K, 9,5 s",[129,1295,1296,1299],{},[149,1297,1298],{},"Aanhoudende decode, 16 verzoeken, korte prompts",[149,1300,1301],{},"741 totale uitvoer-tok\u002Fs; mediaan 46 tok\u002Fs per verzoek",[129,1303,1304,1307],{},[149,1305,1306],{},"Aanhoudende decode, 16 verzoeken, 64K-prompts",[149,1308,1309],{},"663 totale uitvoer-tok\u002Fs; mediaan 28 tok\u002Fs per verzoek",[10,1311,1312],{},[45,1313,1314],{},"De totale uitvoer wordt geteld over elke decodecel van 30 seconden. De snelheid per verzoek is de mediaan van de omgekeerde inter-tokenwachttijd, niet de totale doorvoer gedeeld door het aantal gelijktijdige verzoeken.",[10,1316,1317,1318,1322,1323,1327],{},"Dit zijn onze lokale CLI-resultaten, geen gepubliceerde vermelding in het klassement. Indiening werd geweigerd omdat de lijst met toegelaten AMD Instinct GPUs stopte bij MI300X en MI325X en de MI355X niet bevatte. De ",[13,1319,1321],{"href":1320},"\u002Fasset\u002Fimages\u002Fblog\u002Fpaiton-kimi31\u002Flocalmaxxing-results.html","opgeslagen resultatenpagina"," en ",[13,1324,1326],{"href":1325},"\u002Fasset\u002Fimages\u002Fblog\u002Fpaiton-kimi31\u002Flocalmaxxing-results.png","originele screenshot"," staan hier.",[10,1329,1330,1331,1335,1336,1340],{},"Dank aan Moonshot AI voor de uitgebrachte gewichten, Inferact voor de drafter en de AMD ATOM- en vLLM-teams voor het publiceren van hun metingen. Onze eerdere ",[13,1332,1334],{"href":1333},"\u002Fnl\u002Fblog\u002Fpaiton-deepseek-v41-flash-amd-instinct-mi350p","MI350P-resultaten"," en ons ",[13,1337,1339],{"href":1338},"\u002Fnl\u002Fblog\u002Fpaiton-qwen38-mxfp4-dflash2-r9700","R9700-werk"," behandelen andere modellen en hardwarebudgetten.",[277,1342,1344],{"id":1343},"bouwt-u-een-tokenfabriek","Bouwt u een tokenfabriek?",[10,1346,1347,1348,1352],{},"Of hebt u er plannen voor? ",[13,1349,1351],{"href":1350},"\u002Fnl\u002Fcontact","Bespreek uw model, gewenste wachttijd en hardwarebudget met ons",". Dan testen we samen welke afwegingen werken.",{"title":1216,"searchDepth":1354,"depth":1354,"links":1355},2,[1356,1357,1363,1367,1370,1371,1372,1373],{"id":106,"depth":1354,"text":60},{"id":267,"depth":1354,"text":66,"children":1358},[1359,1361,1362],{"id":279,"depth":1360,"text":280},3,{"id":409,"depth":1360,"text":410},{"id":509,"depth":1360,"text":510},{"id":574,"depth":1354,"text":72,"children":1364},[1365,1366],{"id":664,"depth":1360,"text":665},{"id":736,"depth":1360,"text":737},{"id":885,"depth":1354,"text":78,"children":1368},[1369],{"id":897,"depth":1360,"text":898},{"id":965,"depth":1354,"text":84},{"id":1039,"depth":1354,"text":90},{"id":1131,"depth":1354,"text":96},{"id":1234,"depth":1354,"text":102,"children":1374},[1375],{"id":1343,"depth":1360,"text":1344},[23,1377,1378,1379],"AMD Instinct","Inference","Kimi","2026-11-11T12:00:00Z","Kimi-K3.1-Pro op zes MI355X-GPU's bij elk 800 W. Paiton-doorvoer, vermogensmetingen, een aparte 1M-contexttest en een optie met vier GPU's.","md","Kimi-K3.1-Pro op 6 MI355X-GPU's met elk een limiet van 800 W","\u002Fasset\u002Fimages\u002Fblog\u002Fpaiton-kimi31\u002Fhero-nl.webp",{},"https:\u002F\u002Feliovp.com\u002Fblog\u002Fpaiton-kimi-k31-pro-amd-instinct-mi355x","\u002Fblog\u002Fpaiton-kimi-k31-pro-amd-instinct-mi355x",{"title":5,"description":1381},"paiton-kimi-k31-pro-amd-instinct-mi355x","\u002Fasset\u002Fimages\u002Fblog\u002Fpaiton-kimi31\u002Fsocial-nl.webp","blog\u002Fpaiton-kimi-k31-pro-amd-instinct-mi355x","2026-11-12",null,"U5z0LITYoHN5PpTix-DEmSjw0UGh0MpKv8lmCDrGynA",[1396,1409,1411,1422,1434,1444,1453,1468,1477,1486,1495,1505,1517,1527,1539,1549,1562,1571,1583,1614,1626,1648,1666,1685,1704,1721,1738,1749,1765,1780,1792,1801,1809,1824,1836,1847,1858,1868,1881,1891,1904,1915,1925,1936,1945,1957,1967,1976],{"path":1397,"title":1398,"description":1399,"date":1400,"slug":1401,"image":1402,"originalUrl":1403,"categories":1404},"\u002Fblog\u002Fpaiton-minimax-h3-image-radeon-ai-pro-r9700","MiniMax-H3-Image op één R9700","MiniMax-H3-Image draait met Paiton op één Radeon AI PRO R9700 van 32 GB: 2048 x 2048 in 6,9 s en 4096 x 4096 in 33,4 s, met zes samplingstappen.","2026-11-12T10:00:00Z","paiton-minimax-h3-image-radeon-ai-pro-r9700","\u002Fasset\u002Fimages\u002Fblog\u002Fpaiton-minimax-h3-image\u002F01-hero-concert.jpg","https:\u002F\u002Feliovp.com\u002Fblog\u002Fpaiton-minimax-h3-image-radeon-ai-pro-r9700",[23,1405,1406,1407,1408],"AMD Radeon","Local AI","Image Generation","MiniMax",{"path":1387,"title":5,"description":1381,"date":1380,"slug":1389,"image":1384,"originalUrl":1386,"categories":1410},[23,1377,1378,1379],{"path":1412,"title":1413,"description":1414,"date":1415,"slug":1416,"image":1417,"originalUrl":1418,"categories":1419},"\u002Fblog\u002Fpaiton-idol-radeon-ai-pro-r9700","De Radeon AI PRO R9700 doet ook 3D: Idol in 16,4 seconden","Idol maakt een 3D Gaussian splat in 16,44 seconden op één Radeon AI PRO R9700 met Paiton, tegenover 39,22 seconden voor standaard-Idol op dezelfde GPU.","2026-11-06T09:00:00Z","paiton-idol-radeon-ai-pro-r9700","\u002Fasset\u002Fimages\u002Fblog\u002Fpaiton-idol\u002Fhero-nl.webp","https:\u002F\u002Feliovp.com\u002Fblog\u002Fpaiton-idol-radeon-ai-pro-r9700",[23,1405,1420,1421],"Lokale AI","3D-generatie",{"path":1423,"title":1424,"description":1425,"date":1426,"slug":1427,"image":1428,"originalUrl":1429,"categories":1430},"\u002Fblog\u002Fpaiton-deepseek-v41-flash-amd-instinct-mi350p","Deepseek V4.1 Flash op één MI350P","DeepSeek V4.1 Flash op één MI350P met 144 GB: 77,9 tokens\u002Fs bij één verzoek en 1.107,6 in een batch van 512, met Paiton en expertberekeningen op CPU.","2026-11-03T12:00:00Z","paiton-deepseek-v41-flash-amd-instinct-mi350p","\u002Fasset\u002Fimages\u002Fblog\u002Fpaiton-deepseek-v41\u002Fhero-nl.webp","https:\u002F\u002Feliovp.com\u002Fblog\u002Fpaiton-deepseek-v41-flash-amd-instinct-mi350p",[23,1377,1431,1432,1433],"AI-inferentie","DeepSeek","Kwantisatie",{"path":1435,"title":1436,"description":1437,"date":1438,"slug":1439,"image":1440,"originalUrl":1441,"categories":1442},"\u002Fblog\u002Fpaiton-qwen38-flash-next-amd-instinct-mi350p","Qwen3.8 Flash Next op MI350P: dubbel zo snel | Paiton","Qwen3.8 Flash Next op één AMD MI350P: 2,24× de decodesnelheid van de geteste vLLM-configuratie bij één verzoek en circa 2,2 miljoen gedeelde KV-cachetokens.","2026-10-30T12:00:00Z","paiton-qwen38-flash-next-amd-instinct-mi350p","\u002Fasset\u002Fimages\u002Fblog\u002Fpaiton-mi350p\u002Fhero-nl.webp","https:\u002F\u002Feliovp.com\u002Fblog\u002Fpaiton-qwen38-flash-next-amd-instinct-mi350p",[23,1377,1431,1443,1433],"Qwen",{"path":1445,"title":1446,"description":1447,"date":1448,"slug":1449,"image":1450,"originalUrl":1451,"categories":1452},"\u002Fblog\u002Fpaiton-qwen38-3bit-accuracy-prefix-caching-mtp","Qwen3.8 Flash Next: 3-bit dicht bij 16-bit nauwkeurigheid, met MTP-prefixcaching","Paitons nieuwe 3-bit Qwen3.8-gewichten benaderen 16-bit taakscores op twee R9700-kaarten. Native MTP-prefixcaching hervat een prompt van 200K in 0,68 seconde. Resultaten, grenzen en installatie.","2026-10-24T18:45:00Z","paiton-qwen38-3bit-accuracy-prefix-caching-mtp","\u002Fasset\u002Fimages\u002Fblog\u002Fpaiton-qwen38-3bit-mtp\u002Fhero-nl.webp","https:\u002F\u002Feliovp.com\u002Fblog\u002Fpaiton-qwen38-3bit-accuracy-prefix-caching-mtp",[23,1405,1420,1443,1433],{"path":1454,"title":1455,"description":1456,"date":1457,"slug":1458,"image":1459,"originalUrl":1460,"categories":1461},"\u002Fblog\u002Fnvidia-dsx-pod-vera-rubin-modular-data-centers","Nvidia confirms the modular DC direction","NVIDIA DSX POD brengt Vera Rubin AI-fabrieken naar modulaire datacenters. ElioVP bespreekt terreinvoorbereiding, koeling en de aanpak achter ModFlex.","2026-10-21T13:00:00Z","nvidia-dsx-pod-vera-rubin-modular-data-centers","\u002Fasset\u002Fimages\u002Fblog\u002Fnvidia-dsx-pod-modflex\u002Fhero.webp","https:\u002F\u002Feliovp.com\u002Fblog\u002Fnvidia-dsx-pod-vera-rubin-modular-data-centers",[1462,1463,1464,1465,1466,1467],"Modular DC","AI-infrastructuur","ModFlex","NVIDIA","Vera Rubin","Vloeistofkoeling",{"path":1469,"title":1470,"description":1471,"date":1472,"slug":1473,"image":1474,"originalUrl":1475,"categories":1476},"\u002Fblog\u002Fpaiton-qwen38-flash-next-4bit-radeon-ai-pro-r9700","Qwen3.8 Flash Next in 4-bit op 2 × Radeon R9700: getest tegenover 16-bit","Paiton draait Qwen3.8 Flash Next in 4-bit op twee R9700-kaarten: 96,8% GSM8K, 96,3% HumanEval, 189,8 tokens\u002Fs en een optionele RAM-prefixcache. Kwaliteit, snelheid en installatie.","2026-10-12T15:00:00Z","paiton-qwen38-flash-next-4bit-radeon-ai-pro-r9700","\u002Fasset\u002Fimages\u002Fblog\u002Fpaiton-qwen38-flash-next-4bit\u002Fhero-nl.webp","https:\u002F\u002Feliovp.com\u002Fblog\u002Fpaiton-qwen38-flash-next-4bit-radeon-ai-pro-r9700",[23,1405,1420,1443,1433],{"path":1478,"title":1479,"description":1480,"date":1481,"slug":1482,"image":1483,"originalUrl":1484,"categories":1485},"\u002Fblog\u002Fpaiton-qwen38-flash-next-radeon-ai-pro-r9700","Qwen3.8 Flash Next op 2 × Radeon AI PRO R9700: 216 tokens\u002Fs, 200K-context","Paiton draait Qwen3.8 Flash Next met 3-bit experts op twee R9700-kaarten: 216,3 tokens\u002Fs, 565,1 tokens\u002Fs samen en een aparte 200K-modus. Metingen, kwaliteit en installatie.","2026-10-10T10:30:00Z","paiton-qwen38-flash-next-radeon-ai-pro-r9700","\u002Fasset\u002Fimages\u002Fblog\u002Fpaiton-qwen38-flash-next\u002Fhero-nl.webp","https:\u002F\u002Feliovp.com\u002Fblog\u002Fpaiton-qwen38-flash-next-radeon-ai-pro-r9700",[23,1405,1420,1443,1433],{"path":1487,"title":1488,"description":1489,"date":1490,"slug":1491,"image":1492,"originalUrl":1493,"categories":1494},"\u002Fblog\u002Fpaiton-qwen38-w3a4-radeon-ai-pro-r9700","Qwen3.8 27B op 1 × Radeon AI PRO R9700: 3-bit gewichten, 20% snellere decode","Qwen3.8 27B op één R9700: 19,9% snellere gewogen decode, een nieuwe 4-bit cache, 200K-context en optionele beeldinvoer. Metingen en Paiton-installatie.","2026-09-27T09:00:00Z","paiton-qwen38-w3a4-radeon-ai-pro-r9700","\u002Fasset\u002Fimages\u002Fblog\u002Fpaiton-qwen38-w3a4\u002Fhero-nl.webp","https:\u002F\u002Feliovp.com\u002Fblog\u002Fpaiton-qwen38-w3a4-radeon-ai-pro-r9700",[23,1405,1420,1443,1433],{"path":1496,"title":1497,"description":1498,"date":1499,"slug":1500,"image":1501,"originalUrl":1502,"categories":1503},"\u002Fblog\u002Fpaiton-qwen-image-21-radeon-ai-pro-r9700","Qwen-Image 2.1 op 1 × Radeon AI PRO R9700: 2048×2048-beelden in 103 seconden","Genereer lokaal Qwen-Image 2.1-beelden van 2048×2048 pixels met 1 × Radeon AI PRO R9700. De Paiton v1.0.2-container mat 103,29 seconden per opgewarmd verzoek, inclusief de PNG-respons.","2026-09-23T09:00:00Z","paiton-qwen-image-21-radeon-ai-pro-r9700","\u002Fasset\u002Fimages\u002Fblog\u002Fpaiton-qwen-image-21\u002Fhero-nl.webp","https:\u002F\u002Feliovp.com\u002Fblog\u002Fpaiton-qwen-image-21-radeon-ai-pro-r9700",[23,1405,1420,1504,1443],"Beeldgeneratie",{"path":1506,"title":1507,"description":1508,"date":1509,"slug":1510,"image":1511,"originalUrl":1512,"categories":1513},"\u002Fblog\u002Fpaiton-qwen38-mxfp4-dflash2-r9700","Qwen3.8: 400,7 tok\u002Fs op één R9700 | Paiton","Qwen3.8 op één R9700: 400,7 tok\u002Fs met ROCm 10 en vLLM 0.29, plus publieke 200K\u002F220K-chatprofielen. Benchmarks, beperkingen en startopdrachten.","2026-09-16T07:30:00Z","paiton-qwen38-mxfp4-dflash2-r9700","\u002Fasset\u002Fimages\u002Fblog\u002Fpaiton-qwen38-mxfp4\u002Fupdate-2026-09-19\u002Fhero.webp","https:\u002F\u002Feliovp.com\u002Fblog\u002Fpaiton-qwen38-mxfp4-dflash2-r9700",[23,1405,1420,1431,1514,1515,1516],"Inferentie-optimalisatie","Grote taalmodellen","vLLM",{"path":1518,"title":1519,"description":1520,"date":1521,"slug":1522,"image":1523,"originalUrl":1524,"categories":1525},"\u002Fblog\u002Fpaiton-qwen38-neo-gguf-vllm-r9700","Qwen3.8 GGUF in vLLM: sneller antwoord op één Radeon","Draai de originele NEO CODER MAX GGUF met Paiton in vLLM op een R9700. Bekijk de gemeten responstijden, beeldinvoer en lokale installatie.","2026-09-14T07:30:00Z","paiton-qwen38-neo-gguf-vllm-r9700","\u002Fasset\u002Fimages\u002Fblog\u002Fpaiton-neo-gguf\u002F00-hero-neo-gguf-r9700.webp","https:\u002F\u002Feliovp.com\u002Fblog\u002Fpaiton-qwen38-neo-gguf-vllm-r9700",[23,1405,1420,1526,1516],"GGUF",{"path":1528,"title":1529,"description":1530,"date":1531,"slug":1532,"image":1533,"originalUrl":1534,"categories":1535},"\u002Fblog\u002Fpaiton-minimax-h3-radeon-ai-pro-r9700","MiniMax H3 op Radeon: 15 seconden video met stereogeluid","Paiton genereert lokaal 15 seconden MiniMax H3-video met stereogeluid op één Radeon AI PRO R9700 in 5 min 33 s, met 16,7% minder wachttijd dan stock.","2026-09-09T07:30:00Z","paiton-minimax-h3-radeon-ai-pro-r9700","\u002Fasset\u002Fimages\u002Fblog\u002Fpaiton-minimax-h3\u002F00-featured-minimax-h3-r9700.webp","https:\u002F\u002Feliovp.com\u002Fblog\u002Fpaiton-minimax-h3-radeon-ai-pro-r9700",[23,1405,1420,1536,1537,1538],"Videogeneratie","MiniMax H3","ComfyUI",{"path":1540,"title":1541,"description":1542,"date":1543,"slug":1544,"image":1545,"originalUrl":1546,"categories":1547},"\u002Fblog\u002Fpaiton-flux2-klein-radeon-ai-pro-r9700","Lokale FLUX.2 klein op Radeon AI PRO R9700: sneller beelden genereren met minder VRAM","Paiton genereert FLUX.2 klein-beelden van 1024 × 1024 in 1,054 seconden op een R9700, met 16,2% minder generatietijd en 33,4% minder piekallocatie in Torch.","2026-09-07T09:00:00","paiton-flux2-klein-radeon-ai-pro-r9700","\u002Fasset\u002Fimages\u002Fblog\u002Fpaiton-flux2-klein\u002Ffox-paiton.webp","https:\u002F\u002Feliovp.com\u002Fblog\u002Fpaiton-flux2-klein-radeon-ai-pro-r9700",[23,1405,1420,1504,1548,1538],"FLUX",{"path":1550,"title":1551,"description":1552,"date":1553,"slug":1554,"image":1555,"originalUrl":1556,"categories":1557},"\u002Fblog\u002Fpaiton-ornith15-radeon-ai-pro-r9700","Ornith 1.5 haalt 44,6 tok\u002Fs op één Radeon AI PRO R9700","Paiton draait Ornith 1.5 35B A3B op één Radeon AI PRO R9700 met 44,63 outputtokens per seconde, 27% sneller en met 21,3% lagere gemodelleerde kosten.","2026-09-05T09:00:00","paiton-ornith15-radeon-ai-pro-r9700","\u002Fasset\u002Fimages\u002Fblog\u002Fpaiton-ornith15\u002F00-featured-ornith15-r9700.webp","https:\u002F\u002Feliovp.com\u002Fblog\u002Fpaiton-ornith15-radeon-ai-pro-r9700",[23,1558,1405,1431,1559,1560,1514,1515,1516,1561],"Kunstmatige intelligentie","GPU-prestaties","Inferentielatentie","Kostenefficiëntie",{"path":1563,"title":1564,"description":1565,"date":1566,"slug":1567,"image":1568,"originalUrl":1569,"categories":1570},"\u002Fblog\u002Fpaiton-qwen38-radeon-ai-pro-r9700","Paiton: 21% meer Qwen3.8-doorvoer op Radeon AI PRO R9700","Paiton draait AMD's Qwen3.8 27B op één Radeon AI PRO R9700 met 39,77 outputtokens per seconde. Dat levert 21% meer throughput en 17,4% lagere gemodelleerde kosten op.","2026-09-04T09:00:00","paiton-qwen38-radeon-ai-pro-r9700","\u002Fasset\u002Fimages\u002Fblog\u002Fpaiton-r9700\u002F00-featured-paiton-r9700.webp","https:\u002F\u002Feliovp.com\u002Fblog\u002Fpaiton-qwen38-radeon-ai-pro-r9700",[23,1558,1405,1431,1559,1560,1514,1515,1516,1561],{"path":1572,"title":1573,"description":1574,"date":1575,"slug":1576,"image":1577,"originalUrl":1393,"categories":1578},"\u002Fblog\u002Fai-data-center-power-requirements-gpu-per-megawatt","Stroomvereisten voor AI-datacenters: de GPU-per-MW-illusie","Waarom verschillen GPU-aantallen per megawatt? Lees hoe PUE, piekbelasting, opslag, netwerken en koeling de inzetbare AI-capaciteit bepalen.","2026-07-27T23:52:00","ai-data-center-power-requirements-gpu-per-megawatt","\u002Fasset\u002Fimages\u002Fblog\u002Fai-data-center-power-requirements-gpu-per-megawatt\u002Fgpu-per-megawatt-illusion.webp",[1579,1463,1580,1464,1581,1582],"Alle","Datacenters","HPC","AMD Helios",{"path":1584,"title":1585,"description":1586,"date":1587,"slug":1588,"image":1589,"originalUrl":1590,"categories":1591},"\u002Fblog\u002Fpaiton-returns-to-its-diffusion-roots-optimizing-wan2-2-t2v-a14b-on-amd-mi355x","Wan2.2-videogeneratie: Paiton op AMD MI355X","Vergelijk Wan2.2-videogeneratie op AMD MI355X met Paiton en NVIDIA B200 via Diffusers. Lees hoe we diffusiemodellen optimaliseren.","2026-06-10T14:04:04","paiton-returns-to-its-diffusion-roots-optimizing-wan2-2-t2v-a14b-on-amd-mi355x","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Fpaitonwan2.webp","https:\u002F\u002Feliovp.com\u002Fpaiton-returns-to-its-diffusion-roots-optimizing-wan2-2-t2v-a14b-on-amd-mi355x\u002F",[1579,1558,23,1592,1593,1594,1595,1596,1597,1598,1599,1600,1601,1602,1603,1604,1605,1465,1606,1607,23,1608,1609,1610,1611,1612,1613],"14B","AMD","B200","Benchmarks","Blackwell","Compute","Diffusie","Eliovp","Generatieve AI","GPU","Hardware","Inferentie","Instinct","MI355x","On-premises","Optimalisatie","Soevereine AI","T2V","Tekst-naar-video","Tuning","Video-generatie","Wan2.2",{"path":1615,"title":1616,"description":1617,"date":1618,"slug":1619,"image":1620,"originalUrl":1621,"categories":1622},"\u002Fblog\u002Ffrom-the-attic-to-the-front-page-eliovp-recognized-as-a-pioneer-in-chip-optimization-data-center-infrastructure","ElioVP in De Tijd: chipoptimalisatie en datacenters","Lees hoe De Tijd ElioVP belicht, van de oorsprong in chipoptimalisatie tot het werk aan modulaire datacenters en koeling voor hoge vermogensdichtheid.","2026-02-10T20:48:12","from-the-attic-to-the-front-page-eliovp-recognized-as-a-pioneer-in-chip-optimization-data-center-infrastructure","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Fphysicalnewspaper.webp","https:\u002F\u002Feliovp.com\u002Ffrom-the-attic-to-the-front-page-eliovp-recognized-as-a-pioneer-in-chip-optimization-data-center-infrastructure\u002F",[1579,1558,1623,1624,1593,1625,1623,1465],"Modulaire DC","Niet gecategoriseerd","De Tijd",{"path":1627,"title":1628,"description":1629,"date":1630,"slug":1631,"image":1632,"originalUrl":1633,"categories":1634},"\u002Fblog\u002Fprivacy-is-geen-it-probleem-meer-het-is-een-strategische-prioriteit","AI en privacy: een strategische prioriteit in de Benelux","Privacyrisico's van generatieve AI, vertrouwen, dataopslag en governance. Waarom bedrijven in de Benelux veilige AI strategisch moeten benaderen.","2026-01-29T13:51:11","privacy-is-geen-it-probleem-meer-het-is-een-strategische-prioriteit","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Fheaderimage.webp","https:\u002F\u002Feliovp.com\u002Fprivacy-is-geen-it-probleem-meer-het-is-een-strategische-prioriteit\u002F",[1579,1558,1635,1624,1636,1637,1638,1639,1640,1641,1642,1643,1599,1644,1600,1645,1646,1647],"Trending","AI Act","Antropomorfisme","AVG","Benelux","ChatGPT","Cyberbeveiliging","Databeheer","Gegevensbeveiliging","GDPR","Microsoft Copilot","Privacy","Shadow AI",{"path":1649,"title":1650,"description":1651,"date":1652,"slug":1653,"image":1654,"originalUrl":1655,"categories":1656},"\u002Fblog\u002Fitsme-bij-ons-is-het-its-not-me-en-dit-is-waarom","Waarom wij itsme niet gebruiken: privacy en soevereiniteit","Waarom ElioVP itsme niet gebruikt: onze afwegingen rond identiteitsmetadata, cloudafhankelijkheid, privacy en datasoevereiniteit.","2025-11-27T09:32:14","itsme-bij-ons-is-het-its-not-me-en-dit-is-waarom","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Ffrontimage.webp","https:\u002F\u002Feliovp.com\u002Fitsme-bij-ons-is-het-its-not-me-en-dit-is-waarom\u002F",[1579,1657,1658,1659,1641,1660,1661,1662,1644,1663,1664,1665,1646],"AWS","Belgian Mobile ID","CLOUD Act","Datasoevereiniteit","Digitale identiteit","eIDAS","itsme","Liberty Global","MyGov.be",{"path":1667,"title":1668,"description":1669,"date":1670,"slug":1671,"image":1672,"originalUrl":1673,"categories":1674},"\u002Fblog\u002Ffield-report-the-reality-of-building-agentic-ai-in-2025","Praktijkrapport: de realiteit van Agentic AI bouwen in 2025","Praktijklessen over lokale AI-agents in 2025 gaan in op workflowontwerp, observability, modeltraining, hallucinaties en GPU-geheugenlimieten.","2025-11-25T14:03:39","field-report-the-reality-of-building-agentic-ai-in-2025","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Ffieldreport.webp","https:\u002F\u002Feliovp.com\u002Ffield-report-the-reality-of-building-agentic-ai-in-2025\u002F",[1579,1558,1675,1635,1676,1677,1678,1679,1680,1681,1682,1683,1608,1684],"Oplossingen","Agentic AI","AI-techniek","AI-strategie","Autonome agenten","Bedrijfs-AI","Lokale LLM","Modelverfijning","AI op locatie","VRAM-optimalisatie",{"path":1686,"title":1687,"description":1688,"date":1689,"slug":1690,"image":1691,"originalUrl":1692,"categories":1693},"\u002Fblog\u002Fthe-synthetic-unicorn-bubble","De synthetische unicornzeepbel","Een analyse van investeringsrisico’s bij AI-neoclouds: circulaire financiering, infrastructuurclaims, contractvoorwaarden en due diligence.","2025-11-24T19:22:28","the-synthetic-unicorn-bubble","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Fsyntheticunicorn.webp","https:\u002F\u002Feliovp.com\u002Fthe-synthetic-unicorn-bubble\u002F",[1579,1558,1635,1694,1695,1696,1697,1698,1699,1700,1701,1702,1703],"AI Infrastructure","AI Neocloud","Circulaire financiering","GPU Cloud","Beleggingsrisico's","Opstartwaardering","Synthetische bubbel","Technische analyse","Vaporware","Durfkapitaal",{"path":1705,"title":1706,"description":1707,"date":1708,"slug":1709,"image":1710,"originalUrl":1711,"categories":1712},"\u002Fblog\u002Fbuilding-the-engine-for-the-ai-race-the-4-month-path-to-nvidia-gb300-nvl72-power","NVIDIA GB300 NVL72: modulair datacenter in vier maanden","Ontdek een modulair datacenterontwerp voor NVIDIA GB300 NVL72, met redundante voeding, hybride koeling en een bouwplanning van vier maanden.","2025-11-20T14:10:19","building-the-engine-for-the-ai-race-the-4-month-path-to-nvidia-gb300-nvl72-power","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Fsuperpodmodflexfrontimage.webp","https:\u002F\u002Feliovp.com\u002Fbuilding-the-engine-for-the-ai-race-the-4-month-path-to-nvidia-gb300-nvl72-power\u002F",[1579,1623,1624,1713,1463,1714,1715,1467,1716,1717,1718,1719,1720],"150 kW-rack","DLC","Hoge dichtheid","Modulair datacenter","NVIDIA Blackwell Ultra","NVIDIA GB300","NVL72","Snelle implementatie",{"path":1722,"title":1723,"description":1724,"date":1725,"slug":1726,"image":1727,"originalUrl":1728,"categories":1729},"\u002Fblog\u002Fwhy-cuda-translation-wont-unlock-amds-real-potential","CUDA-vertaling versus AMD-gerichte optimalisatie","Waarom CUDA-compatibiliteit niet hetzelfde is als AMD-prestaties: over ROCm, HIP, kerneloptimalisatie en hardwaregerichte afstemming.","2025-11-12T14:48:37","why-cuda-translation-wont-unlock-amds-real-potential","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Fchatgpt-image-nov-11-2025-09_16_10-pm-1.webp","https:\u002F\u002Feliovp.com\u002Fwhy-cuda-translation-wont-unlock-amds-real-potential\u002F",[1579,1558,23,1624,1730,1558,1731,1732,1733,1734,1735,1736,23,1737],"AMD MI300X","CUDA-vertaling","FP8","GPU-optimalisatie","High-performance computing","HIP","Kerneltuning","ROCm",{"path":1739,"title":1740,"description":1741,"date":1742,"slug":1743,"image":1744,"originalUrl":1745,"categories":1746},"\u002Fblog\u002Fpaiton-the-simplest-way-to-supercharge-ai-inference","Paiton: snellere AI-inferentie in uw bestaande stack","Lees hoe Paiton aansluit op bestaande inferentiestacks, met AMD MI300X-benchmarks en vergelijkingen van prestaties per dollar.","2025-11-11T10:31:22","paiton-the-simplest-way-to-supercharge-ai-inference","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Fpaiton-powaaah.webp","https:\u002F\u002Feliovp.com\u002Fpaiton-the-simplest-way-to-supercharge-ai-inference\u002F",[1579,1558,23,1431,1377,1730,1561,1747,1514,1736,23,1748,1516],"Hoge throughput","SGLang",{"path":1750,"title":1751,"description":1752,"date":1753,"slug":1754,"image":1755,"originalUrl":1756,"categories":1757},"\u002Fblog\u002Fstop-overpaying-paiton-mi300x-moe-beats-h200-b200-on-1m-tokens","Paiton MoE-benchmarks: MI300X versus H200 en B200","Vergelijk Qwen3-30B-A3B MoE-benchmarks van MI300X met Paiton, H200 en B200: throughput en kosten per miljoen tokens.","2025-09-26T13:36:18","stop-overpaying-paiton-mi300x-moe-beats-h200-b200-on-1m-tokens","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Fhulkvshulkpaitonwins.webp","https:\u002F\u002Feliovp.com\u002Fstop-overpaying-paiton-mi300x-moe-beats-h200-b200-on-1m-tokens\u002F",[1579,1558,23,1758,1730,1759,1514,1760,1761,1762,1763,23,1764],"AI-benchmarks","Kosten per token","Mixture of Experts","MoE","NVIDIA B200","NVIDIA H200","Qwen3",{"path":1766,"title":1767,"description":1768,"date":1769,"slug":1770,"image":1771,"originalUrl":1772,"categories":1773},"\u002Fblog\u002Fagentic-ai-but-make-it-local-from-inbox-to-insight-to-action-en","Lokale Agentic AI: van inbox naar actie","Lokale AI-agents zetten e-mails, documenten en beelden om in tickets, rapporten en acties, met modellen op maat van uw gegevens en systemen.","2025-09-16T13:09:00","agentic-ai-but-make-it-local-from-inbox-to-insight-to-action-en","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Ffrontfotoblog.webp","https:\u002F\u002Feliovp.com\u002Fagentic-ai-but-make-it-local-from-inbox-to-insight-to-action-en\u002F",[1579,1558,1675,1624,1676,1774,1775,1776,1777,1681,1683,1608,1778,1779],"Schadedetectie","Documentverwerking","E-mailautomatisering","Factuurextractie","Ticketautomatisering","Workflowautomatisering",{"path":1781,"title":1782,"description":1783,"date":1784,"slug":1785,"image":1786,"originalUrl":1787,"categories":1788},"\u002Fblog\u002Fmi300x-fp8-data-parallel-benchmarks-8-64-gpus-h200-left-behind-b200-within-reach","MI300X FP8-benchmarks: GPU-partitionering met Paiton","Bekijk hoe Paiton presteert met Llama 3.1 8B FP8 op gepartitioneerde MI300X-GPU's, vergeleken met NVIDIA H200 en B200.","2025-07-31T13:32:57","mi300x-fp8-data-parallel-benchmarks-8-64-gpus-h200-left-behind-b200-within-reach","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Fimage-2-1.webp","https:\u002F\u002Feliovp.com\u002Fmi300x-fp8-data%e2%80%91parallel-benchmarks-8-64-gpus-h200-left-behind-b200-within-reach\u002F",[1579,1558,23,1624,1789,1593,1594,1790,1791,1605,1465,23,1516],"AI","H200","MI300X",{"path":1793,"title":1794,"description":1795,"date":1796,"slug":1797,"image":1798,"originalUrl":1799,"categories":1800},"\u002Fblog\u002Fapplicable-ai-for-businesses","Toepasbare AI voor bedrijven","Ontdek hoe ElioVP lokale AI voor bedrijfsprocessen bouwt, met modeltraining op maat en automatische schadedetectie voor de logistiek.","2025-07-09T21:35:30","applicable-ai-for-businesses","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Fscherm_afbeelding-2025-07-09-om-23.30.17.webp","https:\u002F\u002Feliovp.com\u002Fapplicable-ai-for-businesses\u002F",[1579,1558,1675,1676,1774,1775,1776,1777,1681,1683,1608,1778,1779],{"path":1802,"title":1803,"description":1804,"date":1805,"slug":1806,"image":1216,"originalUrl":1807,"categories":1808},"\u002Fblog\u002Fintroducing-paitons-free-evaluation-models","Maak kennis met de gratis evaluatiemodellen van Paiton","Test Paiton met gratis evaluatiemodellen voor AMD-GPU's. Vergelijk de prestaties voor tekst, beeldanalyse en beeldgeneratie met uw eigen workloads.","2025-07-07T11:26:13","introducing-paitons-free-evaluation-models","https:\u002F\u002Feliovp.com\u002Fintroducing-paitons-free-evaluation-models\u002F",[1579,1558,23],{"path":1810,"title":1811,"description":1812,"date":1813,"slug":1814,"image":1815,"originalUrl":1816,"categories":1817},"\u002Fblog\u002Fpaiton-dramatically-faster-startup-and-performance-for-llama-3-1-405b","Llama 3.1 405B: sneller starten met Paiton op MI300X","Bekijk Paiton-benchmarks voor Llama 3.1 405B op acht AMD MI300X-GPU's, met opstarttijd, tensorparallelisme, throughput en latency.","2025-06-12T20:15:23","paiton-dramatically-faster-startup-and-performance-for-llama-3-1-405b","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Fservingscreenshot.webp","https:\u002F\u002Feliovp.com\u002Fpaiton-dramatically-faster-startup-and-performance-for-llama-3-1-405b\u002F",[1579,1558,23,1624,1431,1730,1818,1732,1819,1820,1821,23,1822,1823],"Koude start","Grafiekcompilatie","Llama 3.1 405B","LLM-optimalisatie","Opstartlatentie","Tensor-parallellisme",{"path":1825,"title":1826,"description":1827,"date":1828,"slug":1829,"image":1830,"originalUrl":1831,"categories":1832},"\u002Fblog\u002Fpaiton-fp8-beats-nvidias-h200-on-amds-mi300x","Paiton FP8 verslaat NVIDIA's H200 op AMD's MI300X","Vergelijk Paiton op AMD MI300X met NVIDIA H200 voor Llama 3.1 70B FP8: throughput, wachttijd tot het eerste token en latency bij diverse batchgroottes.","2025-06-08T19:12:40","paiton-fp8-beats-nvidias-h200-on-amds-mi300x","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Fblognewfp8.webp","https:\u002F\u002Feliovp.com\u002Fpaiton-fp8-beats-nvidias-h200-on-amds-mi300x\u002F",[1579,1558,23,1624,1730,1833,1680,1600,1559,1560,1515,1820,1834,1835],"Koude startoptimalisatie","Model serving","vLLM-optimalisatie",{"path":1837,"title":1838,"description":1839,"date":1840,"slug":1841,"image":1842,"originalUrl":1843,"categories":1844},"\u002Fblog\u002Fmi300x-vs-h200-vs-rx-7900-xtx-vs-tenstorrent-n300s-with-vllm","MI300X, H200, RX 7900 XTX en n300s: vLLM-benchmarks","Vergelijk MI300X, H200, RX 7900 XTX en Tenstorrent n300s met vLLM: throughput, gemodelleerde tokenkosten en hardwarebeperkingen voor Llama 3 8B.","2025-05-09T14:03:58","mi300x-vs-h200-vs-rx-7900-xtx-vs-tenstorrent-n300s-with-vllm","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Fcomparisontenstor.webp","https:\u002F\u002Feliovp.com\u002Fmi300x-vs-h200-vs-rx-7900-xtx-vs-tenstorrent-n300s-with-vllm\u002F",[1579,1558,23,1675,1624,1593,1791,1465,1845,1846],"RX7900XTX","tenstorrent",{"path":1848,"title":1849,"description":1850,"date":1851,"slug":1852,"image":1853,"originalUrl":1854,"categories":1855},"\u002Fblog\u002Fclusterpl-empowering-gpu-cluster-investors-with-real-world-financial-insights","ClusterP&L: financiële modellen voor GPU-clusters","Ontdek hoe ClusterP&L kosten, rendement en investeringsscenario's voor GPU-clusters modelleert, met risicoanalyses en exporteerbare rapporten.","2025-05-03T10:52:22","clusterpl-empowering-gpu-cluster-investors-with-real-world-financial-insights","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Fcomparisonscenarios.webp","https:\u002F\u002Feliovp.com\u002Fclusterpl-empowering-gpu-cluster-investors-with-real-world-financial-insights\u002F",[1579,1558,1623,1675,1594,1790,1856,1465,1857],"MI325X","P&L-calculator",{"path":1859,"title":1860,"description":1861,"date":1862,"slug":1863,"image":1864,"originalUrl":1865,"categories":1866},"\u002Fblog\u002Fcranking-out-faster-tokens-for-fewer-dollars-amd-mi300x-vs-nvidia-h200","AMD MI300X versus NVIDIA H200: Qwen3-32B met Paiton","Vergelijk Qwen3-32B-benchmarks op AMD MI300X met Paiton en NVIDIA H200, met resultaten voor throughput, latency en hardwarekosten.","2025-05-02T21:10:30","cranking-out-faster-tokens-for-fewer-dollars-amd-mi300x-vs-nvidia-h200","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002F3ac59a73-2466-4422-b7e5-ef2e4a8ca58e.webp","https:\u002F\u002Feliovp.com\u002Fcranking-out-faster-tokens-for-fewer-dollars-amd-mi300x-vs-nvidia-h200\u002F",[1579,1558,23,1789,1593,1790,1867,1465,23,1516],"MI300",{"path":1869,"title":1870,"description":1871,"date":1872,"slug":1873,"image":1874,"originalUrl":1875,"categories":1876},"\u002Fblog\u002Fpower-meets-precision-high-density-modular-data-center-for-nvidia-nvl-deployments-1-2-mw","Modulaire datacenters voor NVIDIA NVL: 1 tot 2 MW","Ontdek modulaire datacenterontwerpen voor NVIDIA NVL-systemen, met aandacht voor vermogen, vloeistofkoeling, redundantie en uitrolplanning.","2025-05-02T14:09:59","power-meets-precision-high-density-modular-data-center-for-nvidia-nvl-deployments-1-2-mw","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Feliovp_critical-1mw-pod_rev-2_transparent.webp","https:\u002F\u002Feliovp.com\u002Fpower-meets-precision-high-density-modular-data-center-for-nvidia-nvl-deployments-1-2-mw\u002F",[1579,1623,1877,1694,1715,1581,1467,1716,1878,1879,1719,1880],"1-2MW datacenter","NVIDIA Blackwell","NVIDIA NVL","Precisiekoeling",{"path":1882,"title":1883,"description":1884,"date":1885,"slug":1886,"image":1887,"originalUrl":1888,"categories":1889},"\u002Fblog\u002Fexamining-ai-agents-in-the-medical-field-ai-that-speaks-dicom","AI-agents in de medische wereld: AI die DICOM spreekt","Ontdek een lokale AI-agent die DICOM-gegevens opzoekt en bekijk tests van beeldmodellen met geanonimiseerde medische beelden.","2025-04-11T14:45:48","examining-ai-agents-in-the-medical-field-ai-that-speaks-dicom","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Fhealthcareblog-1.webp","https:\u002F\u002Feliovp.com\u002Fexamining-ai-agents-in-the-medical-field-ai-that-speaks-dicom\u002F",[1579,1558,1675,1624,1789,1593,1890],"Zorg",{"path":1892,"title":1893,"description":1894,"date":1895,"slug":1896,"image":1897,"originalUrl":1898,"categories":1899},"\u002Fblog\u002Feliovp-bv-your-trusted-partner-for-supply-chain-resilience-amidst-new-u-s-tariffs","Amerikaanse invoerheffingen en AI-leveringszekerheid in 2025","Lees ElioVP's visie uit april 2025 op Amerikaanse invoerheffingen en leveringszekerheid voor AI-servers, HPC-systemen en modulaire datacenters.","2025-04-04T10:01:27","eliovp-bv-your-trusted-partner-for-supply-chain-resilience-amidst-new-u-s-tariffs","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Ftariffsshipping.webp","https:\u002F\u002Feliovp.com\u002Feliovp-bv-your-trusted-partner-for-supply-chain-resilience-amidst-new-u-s-tariffs\u002F",[1579,1635,1789,1593,1900,1901,1902,1903],"Invoer","Taiwan","Invoerheffingen","Trump",{"path":1905,"title":1906,"description":1907,"date":1908,"slug":1909,"image":1910,"originalUrl":1911,"categories":1912},"\u002Fblog\u002Fwhy-ai-agents-are-the-future","Waarom AI-agenten de toekomst zijn","Ontdek AI-agents voor ERP, CRM, financiën en klantondersteuning, met praktijkvoorbeelden en een traject van procesanalyse tot pilot en uitrol.","2025-03-23T22:06:59","why-ai-agents-are-the-future","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Ferp2.jpeg","https:\u002F\u002Feliovp.com\u002Fwhy-ai-agents-are-the-future\u002F",[1579,1558,1675,1789,1913,1914],"AI-agenten","ERP",{"path":1916,"title":1917,"description":1918,"date":1919,"slug":1920,"image":1921,"originalUrl":1922,"categories":1923},"\u002Fblog\u002Fthe-rise-of-open-source-ai-model-optimization","De opkomst van open-source AI-modeloptimalisatie","Verken trends in opensource-AI-optimalisatie: kwantisatie, mixture-of-experts-modellen, hardwaregerichte afstemming, RAG en edge-AI.","2025-03-22T20:59:23","the-rise-of-open-source-ai-model-optimization","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Friseofopensource.jpeg","https:\u002F\u002Feliovp.com\u002Fthe-rise-of-open-source-ai-model-optimization\u002F",[1579,1558,1635,1924,1593,1601,1465],"AI-nieuws",{"path":1926,"title":1927,"description":1928,"date":1929,"slug":1930,"image":1931,"originalUrl":1932,"categories":1933},"\u002Fblog\u002Fintroducing-our-benchmarking-tool-powered-by-dstack","Maak kennis met onze benchmarktool, gebouwd op dstack","Ontdek onze benchmarktool met dstack: herhaalbare vLLM-tests, automatische parameterreeksen en prestatierapporten voor lokale GPU's en de cloud.","2025-03-20T14:21:59","introducing-our-benchmarking-tool-powered-by-dstack","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Fbenchmarktool.jpeg","https:\u002F\u002Feliovp.com\u002Fintroducing-our-benchmarking-tool-powered-by-dstack\u002F",[1579,1558,23,1789,1593,1934,1935,1791,23],"benchmark","LLM",{"path":1937,"title":1938,"description":1939,"date":1940,"slug":1941,"image":1942,"originalUrl":1943,"categories":1944},"\u002Fblog\u002Foptimizing-qwq-32b-by-qwen-amd-mi300x-vs-nvidia-h200","QwQ-32B optimaliseren (door Qwen): AMD MI300X versus NVIDIA H200","Vergelijk throughput en latency van QwQ-32B op AMD MI300X met Paiton en NVIDIA H200, bij kleine batches en meer gelijktijdige aanvragen.","2025-03-19T21:41:44","optimizing-qwq-32b-by-qwen-amd-mi300x-vs-nvidia-h200","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Fpaiton4.jpeg","https:\u002F\u002Feliovp.com\u002Foptimizing-qwq-32b-by-qwen-amd-mi300x-vs-nvidia-h200\u002F",[1579,1558,23],{"path":1946,"title":1947,"description":1948,"date":1949,"slug":1950,"image":1951,"originalUrl":1952,"categories":1953},"\u002Fblog\u002Feliovp-featured-on-amd-tech-talk-podcast","Eliovp te gast in de AMD Tech Talk-podcast","Beluister Elio Van Puyvelde en Jim Greene in de AMD Tech Talk-podcast over het ontstaan van ElioVP en de hardware- en softwarediensten voor AI.","2025-03-19T07:53:39","eliovp-featured-on-amd-tech-talk-podcast","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Ftechtalkjimgreene.jpeg","https:\u002F\u002Feliovp.com\u002Feliovp-featured-on-amd-tech-talk-podcast\u002F",[1579,1593,1954,1955,1956],"Jim Greene","Podcast","Tech Talk",{"path":1958,"title":1959,"description":1960,"date":1961,"slug":1962,"image":1963,"originalUrl":1964,"categories":1965},"\u002Fblog\u002Ffurther-optimizing-amd-powered-inference-with-paiton","AMD-inferentie verder optimaliseren met Paiton","Bekijk Paiton-benchmarks voor DeepSeek R1 Distill Llama 8B op AMD MI300X, gericht op throughput en latency bij kleinere batchgroottes.","2025-03-13T06:18:30","further-optimizing-amd-powered-inference-with-paiton","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Fpaitonpost3.webp","https:\u002F\u002Feliovp.com\u002Ffurther-optimizing-amd-powered-inference-with-paiton\u002F",[1579,1558,23,1593,1432,1966,1790,1791,1856,23,1516],"H100",{"path":1968,"title":1969,"description":1970,"date":1971,"slug":1972,"image":1973,"originalUrl":1974,"categories":1975},"\u002Fblog\u002Fa-first-look-at-paiton-in-action-deepseek-r1-distill-llama-3-1-8b","Paiton-benchmarks: DeepSeek R1 Distill Llama 3.1 8B","Vergelijk standaard- en Paiton-versies van DeepSeek R1 Distill Llama 3.1 8B op AMD MI300X, met benchmarks voor throughput en latency.","2025-01-31T09:11:02","a-first-look-at-paiton-in-action-deepseek-r1-distill-llama-3-1-8b","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Fpaitonpost2.webp","https:\u002F\u002Feliovp.com\u002Fa-first-look-at-paiton-in-action-deepseek-r1-distill-llama-3-1-8b\u002F",[1579,1558,23,1593,1432,1966,1790,1791,1856,23,1516],{"path":1977,"title":1978,"description":1979,"date":1980,"slug":1981,"image":1982,"originalUrl":1983,"categories":1984},"\u002Fblog\u002Fai-model-optimization-with-paiton","AI-modeloptimalisatie met Paiton","Lees hoe Paiton modelcompilatie, aangepaste kernels en kernelfusie inzet om AI-inferentie op AMD GPU's te optimaliseren.","2025-01-30T19:53:25","ai-model-optimization-with-paiton","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Fpaitonpost1.webp","https:\u002F\u002Feliovp.com\u002Fai-model-optimization-with-paiton\u002F",[1579,1558,23,1593,1966,1790,1791,1856,23,1516],1794475007200]