[{"data":1,"prerenderedAt":2011},["ShallowReactive",2],{"blog-post-nl-\u002Fblog\u002Fpaiton-qwen38-flash-next-amd-instinct-mi350p":3,"blog-posts-sidebar-nl":1464},{"id":4,"title":5,"body":6,"categories":1444,"date":1449,"description":1450,"extension":1451,"heading":1452,"image":1453,"meta":1454,"navigation":1455,"originalUrl":1456,"path":1457,"seo":1458,"slug":1459,"socialImage":1460,"stem":1461,"updated":1462,"video":1462,"__hash__":1463},"blogNl\u002Fblog\u002Fpaiton-qwen38-flash-next-amd-instinct-mi350p.md","Qwen3.8 Flash Next op MI350P: dubbel zo snel | Paiton",{"type":7,"value":8,"toc":1422},"minimark",[9,25,32,35,55,61,66,88,103,124,227,237,240,243,313,317,326,330,335,377,384,402,408,412,418,432,437,440,451,458,465,468,475,479,487,490,498,662,665,679,683,686,689,694,766,780,784,787,790,795,856,867,874,881,885,898,901,910,929,940,944,955,958,963,1039,1054,1057,1061,1068,1071,1076,1131,1138,1141,1145,1160,1176,1193,1196,1200,1207,1216,1220,1227,1237,1275,1279,1295,1320,1330,1334,1340,1346,1359,1373,1387,1390,1400,1405,1409,1412,1418],[10,11,12,16,17,20,21,24],"p",{},[13,14,15],"strong",{},"Op één AMD Instinct MI350P met CDNA4 genereert Paiton tekst aan 273,1 tokens per seconde, tegenover 122,1 met onze geteste standaard-vLLM-configuratie met AITER."," Dat is ",[13,18,19],{},"2,24× de snelheid"," bij één verzoek. Bij 64 gelijktijdige verzoeken stijgt de totale uitvoer naar ",[13,22,23],{},"2.508,6 tokens\u002Fs",".",[10,26,27,28,31],{},"Ook voor gespreksgeschiedenis is er meer ruimte: ",[13,29,30],{},"circa 2,2 miljoen tokens aan GPU-KV-cachecapaciteit",", 22% meer dan de geteste vLLM-configuratie. Die capaciteit wordt over verzoeken gedeeld; het is geen contextvenster van 2,2 miljoen tokens voor één gesprek.",[10,33,34],{},"De winst is praktisch: minder wachten terwijl tekst verschijnt en meer uitvoer uit dezelfde GPU. De hoofdvergelijking meet tekstgeneratie vanuit een lege context, niet de volledige tijd van prompt tot antwoord. Ze vergelijkt onze A5-gewichten met Paitons native CDNA4-runtime tegenover AMD Quark MXFP4 op vLLM. Het is dus een vergelijking van volledige configuraties, niet alleen van engines.",[10,36,37,38,41,42,49,50,24],{},"Onze 4-bit kwantisatie blijft daarbij dicht bij het oorspronkelijke model: ",[13,39,40],{},"93,78% overeenkomst met het waarschijnlijkste volgende token van BF16"," in de afzonderlijke evaluatie van de gewichten. Dat meet overeenkomst tussen voorspellingen, niet het percentage correcte antwoorden. De ",[43,44,48],"a",{"href":45,"rel":46},"https:\u002F\u002Fhuggingface.co\u002FEliovpAI\u002FQwen3.8-Flash-Next-W4A8-Paiton-CDNA4",[47],"nofollow","gewichten en het kwantisatierecept zijn beschikbaar"," onder de ",[43,51,54],{"href":52,"rel":53},"https:\u002F\u002Fhuggingface.co\u002FQwen\u002FQwen3.8-Flash-Next\u002Fblob\u002Fmain\u002FLICENSE",[47],"Qwen Community License 1.0",[10,56,57,60],{},[13,58,59],{},"Dit zijn resultaten van Paiton, ons framework voor AI-optimalisatie, met zijn native CDNA4-runtime."," De kwantisatie is bedoeld voor de CDNA4-familie, waaronder MI350P, MI350X en MI355X, met een compatibele runtime en voldoende GPU- en hostgeheugen. De metingen hieronder komen uitsluitend van één MI350P. Het A5-formaat vereist momenteel de propriëtaire Paiton-runtime, die niet met de gewichten wordt verspreid; standaard-vLLM, Transformers en llama.cpp kunnen het niet rechtstreeks laden.",[62,63,65],"h2",{"id":64},"wat-paiton-op-één-mi350p-haalt","Wat Paiton op één MI350P haalt",[10,67,68,69,72,73,76,77,80,81,83,84,87],{},"Met de A5-gewichten en Paitons native CDNA4-runtime genereert één ",[13,70,71],{},"AMD Instinct MI350P met 144 GB en een vermogenslimiet van 450 W"," in LocalMaxxing ",[13,74,75],{},"273,1 tokens\u002Fs voor één verzoek",". Dat is ",[13,78,79],{},"2,24×"," onze geteste standaard-vLLM-configuratie met AITER en AMD's MXFP4-checkpoint. Bij 64 gelijktijdige verzoeken stijgt de totale decode naar ",[13,82,23],{},", met ",[13,85,86],{},"2,19 miljoen KV-cachetokens"," beschikbaar op de GPU.",[10,89,90,91,94,95,98,99,102],{},"Dit zijn ",[13,92,93],{},"onze eigen metingen",", geen onafhankelijke certificering. We vergelijken volledige configuraties: ",[13,96,97],{},"Paitons A5-gewichten en native runtime"," tegenover ",[13,100,101],{},"AMD Quark MXFP4-gewichten op vLLM of SGLang",". Gewichten en uitvoeringspaden verschillen. Dit is dus geen geïsoleerde vergelijking van engines of de snelheid die je krijgt door alleen onze kwantisatie te downloaden.",[10,104,105,106,109,110,113,114,117,118,113,121,24],{},"De afzonderlijke servingtest voegt 1.024 invoertokens toe, gevolgd door precies 1.024 uitvoertokens. Met één verzoek begint Paiton na mediaan ",[13,107,108],{},"98 milliseconden"," te antwoorden. Bij 16 gelijktijdige verzoeken wordt dat ",[13,111,112],{},"525 ms",", tegenover ",[13,115,116],{},"1.782 ms"," voor de geteste standaard-vLLM-configuratie. Bij 64 is Paitons mediaan ",[13,119,120],{},"861 ms",[13,122,123],{},"2.811 ms",[125,126,127,147],"table",{},[128,129,130],"thead",{},[131,132,133,137,141,144],"tr",{},[134,135,136],"th",{},"Gelijktijdige verzoeken",[134,138,140],{"align":139},"right","Totale Paiton-uitvoer, tok\u002Fs",[134,142,143],{"align":139},"Decode per verzoek, tok\u002Fs",[134,145,146],{"align":139},"Eerste token, mediaan \u002F steekproef-p99",[148,149,150,165,179,193,207],"tbody",{},[131,151,152,156,159,162],{},[153,154,155],"td",{},"1",[153,157,158],{"align":139},"331",[153,160,161],{"align":139},"337,6",[153,163,164],{"align":139},"98 \u002F 101 ms",[131,166,167,170,173,176],{},[153,168,169],{},"4",[153,171,172],{"align":139},"746",[153,174,175],{"align":139},"193,8",[153,177,178],{"align":139},"150 \u002F 332 ms",[131,180,181,184,187,190],{},[153,182,183],{},"16",[153,185,186],{"align":139},"1.046",[153,188,189],{"align":139},"67,6",[153,191,192],{"align":139},"525 \u002F 1.300 ms",[131,194,195,198,201,204],{},[153,196,197],{},"32",[153,199,200],{"align":139},"1.444",[153,202,203],{"align":139},"46,4",[153,205,206],{"align":139},"632 \u002F 2.572 ms",[131,208,209,212,217,222],{},[153,210,211],{},"64",[153,213,214],{"align":139},[13,215,216],{},"1.790",[153,218,219],{"align":139},[13,220,221],{},"28,9",[153,223,224],{"align":139},[13,225,226],{},"861 \u002F 5.530 ms",[10,228,229],{},[230,231,232,233,24],"em",{},"Servingtest met 1K invoer \u002F 1K uitvoer. Decode per verzoek is het omgekeerde van de mediane tijd per uitvoertoken na het eerste token, niet de totale doorvoer gedeeld door gelijktijdigheid. Steekproef-p99 beschrijft deze gemeten verzoeken, geen productiegarantie. ",[43,234,236],{"href":235},"\u002Fasset\u002Fimages\u002Fblog\u002Fpaiton-mi350p\u002Fresults.json","Grafiekgegevens",[10,238,239],{},"Bij meer belasting komt elk antwoord langzamer binnen, maar produceert de kaart in totaal meer. De snelheid per verzoek bepaalt hoe snel een assistent antwoordt; de totale uitvoer bepaalt hoeveel verzoeken de hardware kunnen delen.",[10,241,242],{},"Dit zijn verzoeken met vaste lengtes en vensters uit brontekst, geen proef met 64 mensen die chatten. Echt verkeer heeft wisselende prompts, pauzes, toolaanroepen en aankomstmomenten. De tabel is een gemeten vertrekpunt voor capaciteitsplanning, geen vervanging voor tests met dat verkeer.",[244,245,246,250,261,306],"details",{},[247,248,249],"summary",{},"Een rekenvoorbeeld voor 1.000 gelijktijdig actieve gebruikers",[10,251,252,253,256,257,260],{},"Stel dat het doel minstens ",[13,254,255],{},"20 Engelse woorden\u002Fs mediane decode"," en ",[13,258,259],{},"een steekproef-p99 voor het eerste token binnen 10 seconden"," is. Met ongeveer 0,75 woorden\u002Ftoken geeft het hoogste geteste 1K \u002F 1K-niveau dat beide drempels haalt:",[125,262,263,276],{},[128,264,265],{},[131,266,267,270,273],{},[134,268,269],{},"Configuratie",[134,271,272],{"align":139},"Verzoeken per kaart volgens deze regel",[134,274,275],{"align":139},"Kaarten voor 1.000",[148,277,278,287,296],{},[131,279,280,283,285],{},[153,281,282],{},"Paiton",[153,284,211],{"align":139},[153,286,183],{"align":139},[131,288,289,292,294],{},[153,290,291],{},"vLLM + AITER",[153,293,197],{"align":139},[153,295,197],{"align":139},[131,297,298,301,303],{},[153,299,300],{},"SGLang MTP, 16 plaatsen",[153,302,183],{"align":139},[153,304,305],{"align":139},"63",[10,307,308,309,312],{},"Dit is rekenwerk uit een korte synthetische test, ",[13,310,311],{},"geen gemeten implementatie met 1.000 gebruikers of capaciteitsgarantie",". Reserves voor pieken, hoge beschikbaarheid en volledige systeemkosten ontbreken. De omrekening naar Engelse woorden is een benadering, geen eigenschap van elke prompt of taal.",[62,314,316],{"id":315},"hoeveel-van-het-oorspronkelijke-model-behoudt-a5","Hoeveel van het oorspronkelijke model behoudt A5?",[10,318,319,320,325],{},"We controleerden de gekwantiseerde gewichten tegenover het oorspronkelijke BF16-checkpoint, met een emulatie van de berekeningen tijdens serving. De ",[43,321,324],{"href":322,"rel":323},"https:\u002F\u002Fhuggingface.co\u002FEliovpAI\u002FQwen3.8-Flash-Next-W4A8-Paiton-CDNA4\u002Fblob\u002Fe949b1c368f99dbfaaa91c7e7d1e109a72b7d97c\u002FREADME.md",[47],"vastgezette modelkaart"," bevat de volledige methode en resultaten.",[327,328],"mi350p-figure",{"kind":329},"weight-accuracy",[10,331,332],{},[230,333,334],{},"Afzonderlijke evaluatie van de gewichten tegenover BF16. Lagere KL over de volledige woordenschat ligt dichter bij de referentie; top-1 meet tokenovereenkomst, geen taaknauwkeurigheid. De INT4-g128-vergelijking gebruikt ons RDNA4-recept in hetzelfde evaluatieprogramma. Dit staat los van de enginecontrole met 130 posities verderop.",[125,336,337,347],{},[128,338,339],{},[131,340,341,344],{},[134,342,343],{},"Controle van de gewichten",[134,345,346],{"align":139},"A5-resultaat",[148,348,349,359,369],{},[131,350,351,354],{},[153,352,353],{},"Hetzelfde waarschijnlijkste volgende token als BF16",[153,355,356],{"align":139},[13,357,358],{},"93,78%",[131,360,361,364],{},[153,362,363],{},"KL-divergentie over de volledige woordenschat, lager is dichterbij",[153,365,366],{"align":139},[13,367,368],{},"0,0265",[131,370,371,374],{},[153,372,373],{},"95%-interval voor KL",[153,375,376],{"align":139},"0,0239 tot 0,0292",[10,378,379,380,383],{},"Deze scores betreffen tekst- en assistentposities uit een afzonderlijke ",[13,381,382],{},"evaluatieset van 294.912 tokens",". Overeenkomst betekent dat beide modellen op die positie hetzelfde volgende token kiezen. Het betekent niet dat 93,78% van de antwoorden correct is. KL vergelijkt de volledige kansverdelingen voor het volgende token; nul betekent identiek. Twee correcte BF16-implementaties scoren met deze methode ongeveer 0,008.",[10,385,386,387,390,391,256,394,397,398,401],{},"Bij langere context blijft de negatieve log-likelihood ",[13,388,389],{},"binnen +0,2% van BF16"," in de documentcategorieën van 8K tot 32K. Terugvindtests reproduceren de referentieantwoorden bij ",[13,392,393],{},"8 van 8 prompts van 131K",[13,395,396],{},"4 van 4 prompts van 258K",". Een vervolg na een gebruikersbeurt van 254K tokens heeft een ",[13,399,400],{},"1,9% hogere negatieve log-likelihood"," dan BF16.",[10,403,404,405,24],{},"Dit zijn controles van gewichten en informatie terugvinden, geen bewijs voor productieserving bij die lengtes. Wiskunde, code, kennis, meertaligheid en kwaliteit van toolaanroepen zijn ",[13,406,407],{},"voor deze release niet als taken gebenchmarkt",[62,409,411],{"id":410},"wat-is-paiton","Wat is Paiton?",[10,413,414,417],{},[13,415,416],{},"Paiton is ElioVP's framework om AI-modellen efficiënter op AMD-GPU's te laten draaien."," Het combineert modelcompilatie, kernels afgestemd op de hardware, runtime-optimalisatie en integratie met servingsoftware zoals vLLM. De native runtime in deze benchmark is daar één onderdeel van, niet het hele product.",[10,419,420,421,426,427,431],{},"AMD beschreef deze aanpak al in ",[43,422,425],{"href":423,"rel":424},"https:\u002F\u002Fwww.amd.com\u002Fen\u002Fblogs\u002F2025\u002Fintroduction-to-paiton-by-eliovp.html",[47],"Introduction to Paiton by ElioVP",", gepubliceerd in oktober 2025. Onze ",[43,428,430],{"href":429},"\u002Fnl\u002Fproducts\u002Fpaiton","Paiton-productpagina"," bevat het huidige overzicht, met toepassingen voor taalmodellen, beeld- en videogeneratie.",[433,434,436],"h3",{"id":435},"wat-we-voor-deze-cdna4-release-veranderden","Wat we voor deze CDNA4-release veranderden",[10,438,439],{},"De release combineert onze kwantisatie, native CDNA4-kernels en een vLLM-server.",[10,441,442,443,446,447,24],{},"Ten eerste ",[13,444,445],{},"onze eigen A5-kwantisatie"," van Qwen3.8-Flash-Next. De gerouteerde experts, die het grootste deel van de modelgewichten bevatten, gebruiken native FP4-codes met één schaalfactor per 128 gewichten. De belangrijkste gewichten buiten de experts gebruiken 8-bit formaten. Het recept gebruikt ongeveer vier miljoen kalibratietokens en staat in de ",[43,448,450],{"href":45,"rel":449},[47],"publieke modelkaart",[10,452,453,454,457],{},"Ten tweede ",[13,455,456],{},"Paitons native CDNA4-runtime",". Die voert de modelberekening en sampling uit met kernels voor deze hardware, inclusief samengevoegde bewerkingen voor decode, prefill en experts. Asynchrone planning laat voorbereiding op de host overlappen met uitvoering op de GPU.",[10,459,460,461,464],{},"Ten derde ",[13,462,463],{},"de reguliere vLLM-serverinterface",". De Paiton-plugin verbindt de runtime met de OpenAI-compatibele server van vLLM. Bestaande clients kunnen die API blijven gebruiken.",[10,466,467],{},"Speculatieve generatie helpt bij lage gelijktijdigheid. Een fijnafgestemde MTP-drafter stelt drie tokens voor, die het hoofdmodel samen controleert. Boven vier actieve verzoeken schakelt deze release de drafter uit: de controle kost dan meer dan ze bespaart. Die afweging is zichtbaar in de resultaten hieronder.",[10,469,470,471,474],{},"“Eén GPU” betekent niet dat elke tensor in GPU-geheugen staat. Ongeveer ",[13,472,473],{},"48 GiB aan n-gram-embeddings staat in het werkgeheugen van de host",". Tijdens de uitvoering worden de benodigde rijen opgehaald. Samen met de kleinere expertgewichten laat dat meer GPU-geheugen vrij voor actieve verzoeken.",[62,476,478],{"id":477},"snellere-decode-over-het-hele-geteste-bereik","Snellere decode over het hele geteste bereik",[10,480,481,482,486],{},"De ",[483,484,485],"code",{},"lmx","-snelheidstest van LocalMaxxing meet generatie vanuit een lege context, los van het verwerken van de prompt. Paiton loopt in deze benchmark voor op elk getest niveau, van één tot 64 gelijktijdige verzoeken.",[327,488],{"kind":489},"decode",[10,491,492],{},[230,493,494,495,24],{},"Totale uitvoertokens\u002Fs; hoger is beter. Eén MI350P met een ingestelde limiet van 450 W. Paiton gebruikt A5, de andere configuraties AMD Quark MXFP4. ",[43,496,497],{"href":235},"Resultaten en herkomst",[125,499,500,518],{},[128,501,502],{},[131,503,504,506,508,510,513,515],{},[134,505,136],{},[134,507,282],{"align":139},[134,509,291],{"align":139},[134,511,512],{"align":139},"SGLang MTP, 8 plaatsen",[134,514,300],{"align":139},[134,516,517],{"align":139},"SGLang zonder MTP",[148,519,520,541,562,582,603,623,643],{},[131,521,522,524,529,532,535,538],{},[153,523,155],{},[153,525,526],{"align":139},[13,527,528],{},"273,1",[153,530,531],{"align":139},"122,1",[153,533,534],{"align":139},"118,6",[153,536,537],{"align":139},"119,6",[153,539,540],{"align":139},"Niet getest",[131,542,543,546,551,554,557,560],{},[153,544,545],{},"2",[153,547,548],{"align":139},[13,549,550],{},"453,4",[153,552,553],{"align":139},"195,4",[153,555,556],{"align":139},"223,1",[153,558,559],{"align":139},"219,0",[153,561,540],{"align":139},[131,563,564,566,571,574,577,580],{},[153,565,169],{},[153,567,568],{"align":139},[13,569,570],{},"676,5",[153,572,573],{"align":139},"384,7",[153,575,576],{"align":139},"397,0",[153,578,579],{"align":139},"403,5",[153,581,540],{"align":139},[131,583,584,587,592,595,598,601],{},[153,585,586],{},"8",[153,588,589],{"align":139},[13,590,591],{},"839,6",[153,593,594],{"align":139},"602,8",[153,596,597],{"align":139},"639,2",[153,599,600],{"align":139},"629,9",[153,602,540],{"align":139},[131,604,605,607,612,615,618,621],{},[153,606,183],{},[153,608,609],{"align":139},[13,610,611],{},"1.265,8",[153,613,614],{"align":139},"1.029,0",[153,616,617],{"align":139},"634,4",[153,619,620],{"align":139},"829,3",[153,622,540],{"align":139},[131,624,625,627,632,635,638,640],{},[153,626,197],{},[153,628,629],{"align":139},[13,630,631],{},"1.886,7",[153,633,634],{"align":139},"1.544,1",[153,636,637],{"align":139},"Niet gemeten",[153,639,637],{"align":139},[153,641,642],{"align":139},"1.088,6",[131,644,645,647,652,655,657,659],{},[153,646,211],{},[153,648,649],{"align":139},[13,650,651],{},"2.508,6",[153,653,654],{"align":139},"2.185,2",[153,656,637],{"align":139},[153,658,637],{"align":139},[153,660,661],{"align":139},"1.093,0",[10,663,664],{},"SGLang gebruikt versie 0.5.22 met AITER; vLLM versie 0.32.0 met AITER. De SGLang-MTP-profielen boden in onze opstelling geen ruimte voor een configuratie met minstens 32 actieve verzoeken. Die metingen gebruiken daarom een afzonderlijk benoemd profiel zonder MTP. Het gaat om geteste configuraties, niet om universele grenzen van deze engines.",[10,666,667,668,670,671,674,675,678],{},"Bij één verzoek is de voorsprong op het snelste alternatief ",[13,669,79],{},". Bij 16 is die ",[13,672,673],{},"23%","; bij 64 ",[13,676,677],{},"15%",". De winst neemt af wanneer batching de referentie efficiënter maakt, maar blijft aanwezig over de hele matrix.",[62,680,682],{"id":681},"eerder-klaar-met-een-lange-prompt","Eerder klaar met een lange prompt",[10,684,685],{},"Prefill is het werk vóór de generatie: de invoer lezen en de benodigde toestand opbouwen. Hier is Paiton bijna twee keer zo snel als de geselecteerde standaard-vLLM-referentie. SGLang komt veel dichterbij, vooral bij de langere prompt.",[327,687],{"kind":688},"prefill",[10,690,691],{},[230,692,693],{},"Invoertokens\u002Fs voor één prompt met nominale dieptes van 8K en 64K; hoger is beter. De werkelijke lengtes na tokenisatie zijn ongeveer 8.200 en 64.100 tokens. Dit staat los van decodedoorvoer.",[125,695,696,708],{},[128,697,698],{},[131,699,700,702,705],{},[134,701,269],{},[134,703,704],{"align":139},"Prefill 8K, tok\u002Fs",[134,706,707],{"align":139},"Prefill 64K, tok\u002Fs",[148,709,710,726,736,746,756],{},[131,711,712,716,721],{},[153,713,714],{},[13,715,282],{},[153,717,718],{"align":139},[13,719,720],{},"13.709",[153,722,723],{"align":139},[13,724,725],{},"14.286",[131,727,728,730,733],{},[153,729,512],{},[153,731,732],{"align":139},"12.069",[153,734,735],{"align":139},"11.585",[131,737,738,740,743],{},[153,739,300],{},[153,741,742],{"align":139},"11.535",[153,744,745],{"align":139},"13.827",[131,747,748,750,753],{},[153,749,517],{},[153,751,752],{"align":139},"12.184",[153,754,755],{"align":139},"13.401",[131,757,758,760,763],{},[153,759,291],{},[153,761,762],{"align":139},"7.009",[153,764,765],{"align":139},"7.224",[10,767,768,769,772,773,256,776,779],{},"Voor de prompt van ongeveer 64K tokens is de gemeten tijd tot het eerste token ",[13,770,771],{},"4,49 seconden met Paiton",", ",[13,774,775],{},"4,64 seconden met SGLang MTP16",[13,777,778],{},"8,88 seconden met vLLM",". Tegenover het beste alternatief is de prefillwinst 13% bij 8K en 3% bij 64K. De grotere winst van ongeveer 2× geldt specifiek tegenover de geselecteerde vLLM-referentie.",[62,781,783],{"id":782},"circa-22-miljoen-kv-cachetokens-op-één-gpu","Circa 2,2 miljoen KV-cachetokens op één GPU",[10,785,786],{},"De KV-cache is werkgeheugen voor de tokens die een model verwerkt. Meer capaciteit kan ruimte bieden voor langere of meer verzoeken, afhankelijk van de overige geheugenvereisten en planning van de engine.",[327,788],{"kind":789},"cache",[10,791,792],{},[230,793,794],{},"Door de runtime gerapporteerde GPU-KV-cachecapaciteit, geen extra fysiek geheugen of gemeten aantal gelijktijdige lange gesprekken.",[125,796,797,809],{},[128,798,799],{},[131,800,801,803,806],{},[134,802,269],{},[134,804,805],{"align":139},"KV-cachetokens",[134,807,808],{"align":139},"Blokken van 32K, alleen geheugenschatting",[148,810,811,827,837,847],{},[131,812,813,817,822],{},[153,814,815],{},[13,816,282],{},[153,818,819],{"align":139},[13,820,821],{},"2.190.540",[153,823,824],{"align":139},[13,825,826],{},"66",[131,828,829,831,834],{},[153,830,291],{},[153,832,833],{"align":139},"1.795.019",[153,835,836],{"align":139},"54",[131,838,839,841,844],{},[153,840,512],{},[153,842,843],{"align":139},"367.424",[153,845,846],{"align":139},"11",[131,848,849,851,854],{},[153,850,300],{},[153,852,853],{"align":139},"64.704",[153,855,155],{"align":139},[10,857,858,859,862,863,866],{},"Paiton rapporteert ",[13,860,861],{},"22% meer tokencapaciteit dan vLLM"," en ongeveer ",[13,864,865],{},"6× de standaard-SGLang-MTP-configuratie met acht plaatsen",". SGLang reserveert bij een hogere limiet voor actieve verzoeken meer toestand per verzoek, waardoor minder ruimte overblijft voor de KV-cache.",[10,868,869,870,873],{},"Hier betekent ",[13,871,872],{},"32K precies 32.768 tokens",". De laatste kolom deelt de capaciteit door dat aantal en rondt naar beneden af. Dat bewijst niet dat 66 gesprekken tegelijk kunnen draaien: Paiton is ingesteld op 64 actieve sequenties, gegenereerde tokens hebben ook ruimte nodig en andere toestand per verzoek telt mee. We hebben geen 64 gelijktijdige prompts van 32K getest.",[10,875,876,877,880],{},"Alle configuraties hadden een ",[13,878,879],{},"ingestelde contextlimiet van 262.144 tokens",". Zo'n instelling bewijst niet dat elke configuratie een verzoek van die grootte kan verwerken. De cache van SGLang MTP met 16 plaatsen is bijvoorbeeld kleiner dan die limiet.",[62,882,884],{"id":883},"belasting-verandert-het-resultaat","Belasting verandert het resultaat",[10,886,887,888,772,891,256,894,897],{},"De servingtest voegt invoerverwerking en langere antwoorden toe. We testten drie vormen: ",[13,889,890],{},"1K \u002F 1K",[13,892,893],{},"1K \u002F 8K",[13,895,896],{},"8K \u002F 1K"," invoer-\u002Fuitvoertokens, met één tot 64 gelijktijdige verzoeken. K betekent hier 1.024 tokens.",[327,899],{"kind":900},"serving",[10,902,903],{},[230,904,905,906,24],{},"Totale uitvoer tegenover decode per verzoek in de servingtest. Dit zijn andere metingen dan LocalMaxxing. Volledige gegevens over latentie, doorvoer en vermogen staan in de ",[43,907,909],{"href":908},"#bekijk-de-meetgegevens","downloads",[10,911,912,913,113,916,256,919,922,923,113,926,24],{},"Voor één verzoek met een antwoord van 8K tokens is Paitons mediane voltooiingstijd ",[13,914,915],{},"22,6 seconden",[13,917,918],{},"43,1 seconden voor SGLang",[13,920,921],{},"67,0 seconden voor vLLM",". Bij 64 gelijktijdige verzoeken met die vorm is de totale uitvoer ",[13,924,925],{},"1.937 tok\u002Fs",[13,927,928],{},"1.737 tok\u002Fs voor vLLM",[10,930,931,932,935,936,939],{},"Lange invoer zet meer druk op de planning. Bij 64 verzoeken met 8K invoer \u002F 1K uitvoer stijgt Paitons mediane tijd tot het eerste token naar ",[13,933,934],{},"9,6 seconden",". Dat is korter dan vLLM's ",[13,937,938],{},"37,6 seconden",", maar nog steeds een flinke wachttijd. Een hoge totaalscore laat die latentie niet verdwijnen.",[62,941,943],{"id":942},"energie-meer-uitvoer-per-gpu-watt","Energie: meer uitvoer per GPU-watt",[10,945,946,947,950,951,954],{},"Een vermogenslimiet is geen gemeten verbruik. Tijdens de 1K \u002F 1K-test stijgt Paitons gemiddelde GPU-meting van ongeveer ",[13,948,949],{},"308 W"," bij één verzoek naar ",[13,952,953],{},"445 W"," bij 64. Gecombineerd met de doorvoer geeft dat de volgende efficiëntie.",[327,956],{"kind":957},"energy",[10,959,960],{},[230,961,962],{},"Uitvoertokens\u002Fs per kW gemeten GPU-vermogen; hoger is beter. Exclusief CPU, systeemgeheugen, verliezen in de voeding en koeling.",[125,964,965,980],{},[128,966,967],{},[131,968,969,971,974,977],{},[134,970,269],{},[134,972,973],{"align":139},"1 verzoek",[134,975,976],{"align":139},"16 verzoeken",[134,978,979],{"align":139},"64 verzoeken",[148,981,982,1001,1014,1028],{},[131,983,984,988,993,996],{},[153,985,986],{},[13,987,282],{},[153,989,990],{"align":139},[13,991,992],{},"1.076",[153,994,995],{"align":139},"2.577",[153,997,998],{"align":139},[13,999,1000],{},"4.021",[131,1002,1003,1005,1008,1011],{},[153,1004,291],{},[153,1006,1007],{"align":139},"413",[153,1009,1010],{"align":139},"2.120",[153,1012,1013],{"align":139},"3.354",[131,1015,1016,1018,1021,1026],{},[153,1017,300],{},[153,1019,1020],{"align":139},"645",[153,1022,1023],{"align":139},[13,1024,1025],{},"2.720",[153,1027,637],{"align":139},[131,1029,1030,1032,1034,1036],{},[153,1031,517],{},[153,1033,637],{"align":139},[153,1035,637],{"align":139},[153,1037,1038],{"align":139},"2.493",[10,1040,1041,1042,1045,1046,1049,1050,1053],{},"Paiton levert bij één verzoek ",[13,1043,1044],{},"2,60× zoveel uitvoer per eenheid GPU-energie"," als de vLLM-referentie en bij 64 verzoeken ",[13,1047,1048],{},"20% meer",". SGLangs profiel met 16 plaatsen is bij 16 verzoeken ",[13,1051,1052],{},"5,6% efficiënter"," dan Paiton. Die uitzondering is relevant wanneer je een gewenste bedrijfsbelasting kiest.",[10,1055,1056],{},"Dit zijn uitsluitend GPU-cijfers uit AMD SMI, geen metingen aan het stopcontact of berekening van de volledige serverkosten. Hostenergie is hier extra relevant omdat een deel van het model in systeemgeheugen staat.",[62,1058,1060],{"id":1059},"een-afzonderlijke-nauwkeurigheidscontrole-van-de-engines","Een afzonderlijke nauwkeurigheidscontrole van de engines",[10,1062,1063,1064,1067],{},"De evaluatie aan het begin van dit artikel test de kwantisatie. Daarnaast controleerden we de uitvoeringspaden: voorspellingen op ",[13,1065,1066],{},"130 tokenposities na prompts van 8.128 tokens",", met de referentietokens als voorafgaande invoer. Deze controle gebruikt een andere maat: de 1.024 hoogst gewaardeerde referentietokens plus de resterende kansmassa als één restterm.",[327,1069],{"kind":1070},"accuracy",[10,1072,1073],{},[230,1074,1075],{},"Beperkte diagnostiek van het volgende token, geen antwoordnauwkeurigheid. Lagere KL ligt dichter bij BF16. Paiton en AMD MXFP4 draaien op MI350P; de BF16-controle op MI355X. De meetpaden verschillen.",[125,1077,1078,1090],{},[128,1079,1080],{},[131,1081,1082,1084,1087],{},[134,1083,269],{},[134,1085,1086],{"align":139},"KL-divergentie",[134,1088,1089],{"align":139},"Overeenkomst waarschijnlijkste token",[148,1091,1092,1103,1120],{},[131,1093,1094,1097,1100],{},[153,1095,1096],{},"BF16-controle via vLLM, MI355X",[153,1098,1099],{"align":139},"0,0077",[153,1101,1102],{"align":139},"95,4%",[131,1104,1105,1110,1115],{},[153,1106,1107],{},[13,1108,1109],{},"Paiton A5-testpad van de engine, MI350P",[153,1111,1112],{"align":139},[13,1113,1114],{},"0,0219",[153,1116,1117],{"align":139},[13,1118,1119],{},"93,1%",[131,1121,1122,1125,1128],{},[153,1123,1124],{},"AMD Quark MXFP4 via vLLM + AITER, MI350P",[153,1126,1127],{"align":139},"0,1141",[153,1129,1130],{"align":139},"80,8%",[10,1132,1133,1134,1137],{},"Paiton ligt in deze kleine steekproef dichter bij de referentie. Dat betekent ",[13,1135,1136],{},"niet"," dat 93,1% van de antwoorden correct is of dat één configuratie vijf keer nauwkeuriger is op gebruikerstaken.",[10,1139,1140],{},"Paiton wordt gemeten via het testpad van de engine met MTP uit; de andere rijen via een vLLM-API-client. Rijen met korte prompts zijn uitgesloten omdat de BF16-controle daar inconsistenties liet zien. De vergelijking combineert ook verschillen in checkpoints en kernels. De gepubliceerde logs onderbouwen deze geselecteerde rijen, maar de bundel bevat niet de volledige referentieverdelingen of evaluatieclient om deze controle onafhankelijk opnieuw uit te voeren.",[62,1142,1144],{"id":1143},"van-rdna4-op-radeon-naar-cdna4-op-instinct","Van RDNA4 op Radeon naar CDNA4 op Instinct",[10,1146,1147,1148,1152,1153,256,1156,1159],{},"Dit werk staat niet los van onze Radeon-releases. Met ",[43,1149,1151],{"href":1150},"\u002Fnl\u002Fblog\u002Fpaiton-qwen38-w3a4-radeon-ai-pro-r9700","3-bit Qwen3.8 27B op één Radeon AI PRO R9700"," haalde Paiton ",[13,1154,1155],{},"492,1 uitvoertokens\u002Fs over acht gelijktijdige verzoeken",[13,1157,1158],{},"19,9% snellere gewogen decode"," dan de voorgaande MXFP4-release. Het artikel bevat de instellingen en nauwkeurigheidsafwegingen van die vergelijking.",[10,1161,1162,1163,1167,1168,1171,1172,1175],{},"Onze ",[43,1164,1166],{"href":1165},"\u002Fnl\u002Fblog\u002Fpaiton-qwen38-3bit-accuracy-prefix-caching-mtp","latere Flash Next-update op twee R9700's"," verbeterde de 3-bit nauwkeurigheid en voegde prefix caching met MTP toe. De optionele native worker haalde ",[13,1169,1170],{},"258,7 tokens\u002Fs gewogen decode bij één verzoek",". In een afzonderlijke test daalde de tijd tot het eerste token bij een herhaalde conversatie van 200K tokens van ",[13,1173,1174],{},"25,81 seconden zonder cachetreffer naar 0,68 seconden met cachetreffer",". Het ongewijzigde begin van de conversatie moet daarvoor nog in de cache staan.",[10,1177,481,1178,256,1183,1188,1189,1192],{},[43,1179,1182],{"href":1180,"rel":1181},"https:\u002F\u002Fhuggingface.co\u002FEliovpAI\u002FQwen3.8-27B-W3Rot-INT3-Paiton-RDNA4",[47],"27B W3Rot-gewichten",[43,1184,1187],{"href":1185,"rel":1186},"https:\u002F\u002Fhuggingface.co\u002FEliovpAI\u002FQwen3.8-Flash-Next-W3A8-Paiton-RDNA4",[47],"Flash Next W3A8-gewichten"," telden samen ",[13,1190,1191],{},"meer dan 2.200 Hugging Face-downloads in de voorafgaande 30 dagen",", gecontroleerd op 30 oktober 2026. Dat telt downloads, geen unieke gebruikers.",[10,1194,1195],{},"Hetzelfde doel loopt door deze releases: meer halen uit AMD-hardware door model en uitvoering samen te optimaliseren. De R9700- en MI350P-cijfers komen uit afzonderlijke tests met verschillende modellen en instellingen; dit is geen rechtstreekse vergelijking tussen de kaarten.",[62,1197,1199],{"id":1198},"een-blik-op-de-benchmarkuitvoer","Een blik op de benchmarkuitvoer",[10,1201,1202],{},[1203,1204],"img",{"alt":1205,"src":1206},"Ongewijzigde terminaluitvoer van een afzonderlijke Paiton-run op één MI350P: 262,6 tokens\u002Fs bij één verzoek, 1.274,3 bij zestien en 14.243 invoertokens\u002Fs voor prefill.","\u002Fasset\u002Fimages\u002Fblog\u002Fpaiton-mi350p\u002Flive-benchmark-poster.webp",[10,1208,1209],{},[230,1210,1211,1212,24],{},"Laatste beeld uit de oorspronkelijke terminalopname, zonder wijzigingen. Klik om te vergroten. Deze afzonderlijke run gebruikt meetcellen van twintig seconden, niet de dertig seconden van de hoofdbenchmark. De bronopname en timinglogs zitten in de ",[43,1213,1215],{"href":1214},"\u002Fasset\u002Fimages\u002Fblog\u002Fpaiton-mi350p\u002Fproof\u002Faccuracy-recording.tar.gz","download met nauwkeurigheids- en opnamegegevens",[62,1217,1219],{"id":1218},"bekijk-de-meetgegevens","Bekijk de meetgegevens",[10,1221,1222,1223,1226],{},"De onderbouwing is opgesplitst in overzichtelijke downloads met ruwe matrices, records per verzoek, opdrachten en checksums. De ",[13,1224,1225],{},"177 vermeldingen in het aangeleverde SHA-256-manifest zijn vóór publicatie succesvol gecontroleerd",". Dat controleert bestandsintegriteit, geen onafhankelijke geldigheid van het experiment.",[10,1228,1229,1232,1233,1236],{},[13,1230,1231],{},"Waarom deze resultaten niet op LocalMaxxing staan:"," we zouden de cijfers daar ook graag publiceren, maar de GPU-detectie herkende de MI350P in deze run niet. Daardoor konden we de resultaten er niet publiceren. Het label ",[483,1234,1235],{},"CPU_ONLY"," in het rapport is een detectiebeperking, geen beschrijving van de uitvoering: het model draaide op de MI350P. We delen de ruwe resultaten hier, zodat lezers ze zelf kunnen bekijken.",[1238,1239,1240,1247,1253,1259,1264,1270],"ul",{},[1241,1242,1243],"li",{},[43,1244,1246],{"href":1245},"\u002Fasset\u002Fimages\u002Fblog\u002Fpaiton-mi350p\u002Fproof\u002Fpaiton.tar.gz","Paiton-benchmarkgegevens",[1241,1248,1249],{},[43,1250,1252],{"href":1251},"\u002Fasset\u002Fimages\u002Fblog\u002Fpaiton-mi350p\u002Fproof\u002Fvllm.tar.gz","vLLM-benchmarkgegevens",[1241,1254,1255],{},[43,1256,1258],{"href":1257},"\u002Fasset\u002Fimages\u002Fblog\u002Fpaiton-mi350p\u002Fproof\u002Fsglang.tar.gz","SGLang-benchmarkgegevens",[1241,1260,1261],{},[43,1262,1263],{"href":1214},"Nauwkeurigheidslogs en onderbouwing van de terminalopname",[1241,1265,1266],{},[43,1267,1269],{"href":1268},"\u002Fasset\u002Fimages\u002Fblog\u002Fpaiton-mi350p\u002Fproof\u002Fmethods.tar.gz","Methoden, opdrachten, servingclient en checksummanifest",[1241,1271,1272],{},[43,1273,1274],{"href":235},"Grafiekgegevens en geselecteerde bronpaden",[433,1276,1278],{"id":1277},"download-de-standaardreferentiecontainer","Download de standaardreferentiecontainer",[10,1280,481,1281,1286,1287,1290,1291,1294],{},[43,1282,1285],{"href":1283,"rel":1284},"https:\u002F\u002Fgithub.com\u002Fusers\u002FEliovp\u002Fpackages\u002Fcontainer\u002Fpaiton-vllm-plugin\u002F1472686429?tag=cdna4-mxfp4-default-20261028",[47],"publieke CDNA4-container"," bevat ",[13,1288,1289],{},"standaard-vLLM 0.32 met AITER",", ingesteld om ",[13,1292,1293],{},"AMD's Quark MXFP4-checkpoint"," te serveren. Download de gepubliceerde image via de digest:",[1296,1297,1302],"pre",{"className":1298,"code":1299,"language":1300,"meta":1301,"style":1301},"language-bash shiki shiki-themes github-light github-dark","docker pull ghcr.io\u002Feliovp\u002Fpaiton-vllm-plugin@sha256:20b729e6c7b0f2de101fd27d080d91291a7d37c4002312fe9ee5aeb5ff131b19\n","bash","",[483,1303,1304],{"__ignoreMap":1301},[1305,1306,1309,1313,1317],"span",{"class":1307,"line":1308},"line",1,[1305,1310,1312],{"class":1311},"sScJk","docker",[1305,1314,1316],{"class":1315},"sZZnC"," pull",[1305,1318,1319],{"class":1315}," ghcr.io\u002Feliovp\u002Fpaiton-vllm-plugin@sha256:20b729e6c7b0f2de101fd27d080d91291a7d37c4002312fe9ee5aeb5ff131b19\n",[10,1321,1322,1323,1326,1327],{},"Dit downloadt de referentiecontainer; het start geen server en levert de propriëtaire engine niet mee. De ",[43,1324,1325],{"href":1268},"methodendownload"," bevat de oorspronkelijke benchmarkopdrachten. ",[13,1328,1329],{},"Deze image kan de A5-gewichten niet serveren en reproduceert de Paiton-kolom niet.",[433,1331,1333],{"id":1332},"meetinstellingen","Meetinstellingen",[10,1335,1336,1339],{},[13,1337,1338],{},"SGLang-profielen."," De servingtest gebruikt MTP met 16 plaatsen voor 1K \u002F 1K en acht plaatsen voor de langere vormen, gekozen op basis van de hoogste piekdoorvoer per vorm. Bij 32 en 64 verzoeken is de configuratie zonder MTP gebruikt.",[10,1341,1342,1345],{},[13,1343,1344],{},"Gelijke omstandigheden."," Eén MI350P, een ingestelde GPU-limiet van 450 W, ventilatoren op volle snelheid, één benchmark tegelijk en de client op de serverhost.",[10,1347,1348,1351,1352,1354,1355,1358],{},[13,1349,1350],{},"LocalMaxxing."," ",[483,1353,485],{}," 0.1.54 met ",[483,1356,1357],{},"llm-inference-bench"," 0.7.7, meetcellen van dertig seconden, decode vanuit een lege context met maximaal 8.192 uitvoertokens en nominale 8K\u002F64K-prefill. Na opwarmen draaien de hoofdconfiguraties drie matrices; we kiezen de volledige run met de middelste decodescore bij één verzoek. De c32\u002Fc64-metingen van de referenties zijn afzonderlijke enkelvoudige runs, geen medianen uit drie runs.",[10,1360,1361,1364,1365,1368,1369,1372],{},[13,1362,1363],{},"Servingtest."," Een streamingclient gebruikt greedy generatie, negeert EOS en geeft elk verzoek een eigen venster uit brontekst. Na twee opwarmrondes met korte uitvoer start hij maximaal ",[483,1366,1367],{},"max(8, 2 × gelijktijdigheid)"," verzoeken. Na honderd seconden worden geen nieuwe verzoeken gestart; lopende verzoeken worden afgemaakt. De meetcellen bevatten ",[13,1370,1371],{},"2 tot 128 gemeten verzoeken",", allemaal zonder fouten of te korte uitvoer. Bij kleine steekproeven ligt p99 dicht bij het waargenomen maximum; het is geen betrouwbaar populatiepercentiel.",[10,1374,1375,1378,1379,1382,1383,1386],{},[13,1376,1377],{},"Selectiedetail."," Het getoonde vLLM-resultaat bij 1K \u002F 1K en c32 gebruikt de eerdere meetcel van ",[13,1380,1381],{},"1.169,2 tok\u002Fs",". Een latere herhaling gaf ",[13,1384,1385],{},"1.064,0 tok\u002Fs",". Beide staan in de download. Andere c32\u002Fc64-rijen uit de servingtest gebruiken de latere reeks. De bronpaden in de grafiekgegevens maken die keuze expliciet.",[10,1388,1389],{},"De MI350P-resultaten tonen wat het Paiton-framework op deze CDNA4-configuratie levert: de grootste snelheidswinst ligt bij lage gelijktijdigheid, met aanhoudende winst onder zwaardere belasting. Onze volgende optimalisatie is speculatieve generatie rendabel maken boven vier actieve verzoeken.",[10,1391,1392,1393,1397,1398,24],{},"Lees de ",[43,1394,1396],{"href":45,"rel":1395},[47],"publieke gewichten en het kwantisatierecept"," of ontdek ",[43,1399,282],{"href":429},[10,1401,1402],{},[230,1403,1404],{},"Omslag: met AI gemaakte redactionele illustratie van een MI350P, geen productfoto of benchmarkopname.",[62,1406,1408],{"id":1407},"een-token-factory-haal-meer-uit-je-amd-gpus","Een token factory? Haal meer uit je AMD-GPU's.",[10,1410,1411],{},"Heb je al een token factory of wil je er één starten? We helpen je de doorvoer te verhogen, de kosten per token te verlagen en meer rendement uit je AMD-hardware te halen.",[10,1413,1414,24],{},[43,1415,1417],{"href":1416},"\u002Fnl\u002Fcontact","Bespreek je token factory met ons",[1419,1420,1421],"style",{},"html pre.shiki code .sScJk, html code.shiki .sScJk{--shiki-default:#6F42C1;--shiki-dark:#B392F0}html pre.shiki code .sZZnC, html code.shiki .sZZnC{--shiki-default:#032F62;--shiki-dark:#9ECBFF}html .default .shiki span {color: var(--shiki-default);background: var(--shiki-default-bg);font-style: var(--shiki-default-font-style);font-weight: var(--shiki-default-font-weight);text-decoration: var(--shiki-default-text-decoration);}html .shiki span {color: var(--shiki-default);background: var(--shiki-default-bg);font-style: var(--shiki-default-font-style);font-weight: var(--shiki-default-font-weight);text-decoration: var(--shiki-default-text-decoration);}html .dark .shiki span {color: var(--shiki-dark);background: var(--shiki-dark-bg);font-style: var(--shiki-dark-font-style);font-weight: var(--shiki-dark-font-weight);text-decoration: var(--shiki-dark-text-decoration);}html.dark .shiki span {color: var(--shiki-dark);background: var(--shiki-dark-bg);font-style: var(--shiki-dark-font-style);font-weight: var(--shiki-dark-font-weight);text-decoration: var(--shiki-dark-text-decoration);}",{"title":1301,"searchDepth":1423,"depth":1423,"links":1424},2,[1425,1426,1427,1431,1432,1433,1434,1435,1436,1437,1438,1439,1443],{"id":64,"depth":1423,"text":65},{"id":315,"depth":1423,"text":316},{"id":410,"depth":1423,"text":411,"children":1428},[1429],{"id":435,"depth":1430,"text":436},3,{"id":477,"depth":1423,"text":478},{"id":681,"depth":1423,"text":682},{"id":782,"depth":1423,"text":783},{"id":883,"depth":1423,"text":884},{"id":942,"depth":1423,"text":943},{"id":1059,"depth":1423,"text":1060},{"id":1143,"depth":1423,"text":1144},{"id":1198,"depth":1423,"text":1199},{"id":1218,"depth":1423,"text":1219,"children":1440},[1441,1442],{"id":1277,"depth":1430,"text":1278},{"id":1332,"depth":1430,"text":1333},{"id":1407,"depth":1423,"text":1408},[282,1445,1446,1447,1448],"AMD Instinct","AI-inferentie","Qwen","Kwantisatie","2026-10-30T12:00:00Z","Qwen3.8 Flash Next op één AMD MI350P: 2,24× de decodesnelheid van de geteste vLLM-configuratie bij één verzoek en circa 2,2 miljoen gedeelde KV-cachetokens.","md","Qwen3.8 Flash Next op een AMD MI350P: dubbel zo snel","\u002Fasset\u002Fimages\u002Fblog\u002Fpaiton-mi350p\u002Fhero-nl.webp",{},true,"https:\u002F\u002Feliovp.com\u002Fblog\u002Fpaiton-qwen38-flash-next-amd-instinct-mi350p","\u002Fblog\u002Fpaiton-qwen38-flash-next-amd-instinct-mi350p",{"title":5,"description":1450},"paiton-qwen38-flash-next-amd-instinct-mi350p","\u002Fasset\u002Fimages\u002Fblog\u002Fpaiton-mi350p\u002Fsocial-nl.webp","blog\u002Fpaiton-qwen38-flash-next-amd-instinct-mi350p",null,"f1cgcWfvdxHhqO-lsWfdcb2bn9YT4FlVQqP8U9fBXHk",[1465,1467,1478,1493,1502,1511,1520,1530,1542,1552,1564,1574,1587,1596,1608,1639,1651,1673,1691,1710,1729,1746,1763,1774,1790,1805,1817,1826,1834,1849,1861,1872,1883,1893,1906,1916,1929,1940,1950,1961,1970,1982,1993,2002],{"path":1457,"title":5,"description":1450,"date":1449,"slug":1459,"image":1453,"originalUrl":1456,"categories":1466},[282,1445,1446,1447,1448],{"path":1468,"title":1469,"description":1470,"date":1471,"slug":1472,"image":1473,"originalUrl":1474,"categories":1475},"\u002Fblog\u002Fpaiton-qwen38-3bit-accuracy-prefix-caching-mtp","Qwen3.8 Flash Next: 3-bit dicht bij 16-bit nauwkeurigheid, met MTP-prefixcaching","Paitons nieuwe 3-bit Qwen3.8-gewichten benaderen 16-bit taakscores op twee R9700-kaarten. Native MTP-prefixcaching hervat een prompt van 200K in 0,68 seconde. Resultaten, grenzen en installatie.","2026-10-24T18:45:00Z","paiton-qwen38-3bit-accuracy-prefix-caching-mtp","\u002Fasset\u002Fimages\u002Fblog\u002Fpaiton-qwen38-3bit-mtp\u002Fhero-nl.webp","https:\u002F\u002Feliovp.com\u002Fblog\u002Fpaiton-qwen38-3bit-accuracy-prefix-caching-mtp",[282,1476,1477,1447,1448],"AMD Radeon","Lokale AI",{"path":1479,"title":1480,"description":1481,"date":1482,"slug":1483,"image":1484,"originalUrl":1485,"categories":1486},"\u002Fblog\u002Fnvidia-dsx-pod-vera-rubin-modular-data-centers","Nvidia confirms the modular DC direction","NVIDIA DSX POD brengt Vera Rubin AI-fabrieken naar modulaire datacenters. ElioVP bespreekt terreinvoorbereiding, koeling en de aanpak achter ModFlex.","2026-10-21T13:00:00Z","nvidia-dsx-pod-vera-rubin-modular-data-centers","\u002Fasset\u002Fimages\u002Fblog\u002Fnvidia-dsx-pod-modflex\u002Fhero.webp","https:\u002F\u002Feliovp.com\u002Fblog\u002Fnvidia-dsx-pod-vera-rubin-modular-data-centers",[1487,1488,1489,1490,1491,1492],"Modular DC","AI-infrastructuur","ModFlex","NVIDIA","Vera Rubin","Vloeistofkoeling",{"path":1494,"title":1495,"description":1496,"date":1497,"slug":1498,"image":1499,"originalUrl":1500,"categories":1501},"\u002Fblog\u002Fpaiton-qwen38-flash-next-4bit-radeon-ai-pro-r9700","Qwen3.8 Flash Next in 4-bit op 2 × Radeon R9700: getest tegenover 16-bit","Paiton draait Qwen3.8 Flash Next in 4-bit op twee R9700-kaarten: 96,8% GSM8K, 96,3% HumanEval, 189,8 tokens\u002Fs en een optionele RAM-prefixcache. Kwaliteit, snelheid en installatie.","2026-10-12T15:00:00Z","paiton-qwen38-flash-next-4bit-radeon-ai-pro-r9700","\u002Fasset\u002Fimages\u002Fblog\u002Fpaiton-qwen38-flash-next-4bit\u002Fhero-nl.webp","https:\u002F\u002Feliovp.com\u002Fblog\u002Fpaiton-qwen38-flash-next-4bit-radeon-ai-pro-r9700",[282,1476,1477,1447,1448],{"path":1503,"title":1504,"description":1505,"date":1506,"slug":1507,"image":1508,"originalUrl":1509,"categories":1510},"\u002Fblog\u002Fpaiton-qwen38-flash-next-radeon-ai-pro-r9700","Qwen3.8 Flash Next op 2 × Radeon AI PRO R9700: 216 tokens\u002Fs, 200K-context","Paiton draait Qwen3.8 Flash Next met 3-bit experts op twee R9700-kaarten: 216,3 tokens\u002Fs, 565,1 tokens\u002Fs samen en een aparte 200K-modus. Metingen, kwaliteit en installatie.","2026-10-10T10:30:00Z","paiton-qwen38-flash-next-radeon-ai-pro-r9700","\u002Fasset\u002Fimages\u002Fblog\u002Fpaiton-qwen38-flash-next\u002Fhero-nl.webp","https:\u002F\u002Feliovp.com\u002Fblog\u002Fpaiton-qwen38-flash-next-radeon-ai-pro-r9700",[282,1476,1477,1447,1448],{"path":1512,"title":1513,"description":1514,"date":1515,"slug":1516,"image":1517,"originalUrl":1518,"categories":1519},"\u002Fblog\u002Fpaiton-qwen38-w3a4-radeon-ai-pro-r9700","Qwen3.8 27B op 1 × Radeon AI PRO R9700: 3-bit gewichten, 20% snellere decode","Qwen3.8 27B op één R9700: 19,9% snellere gewogen decode, een nieuwe 4-bit cache, 200K-context en optionele beeldinvoer. Metingen en Paiton-installatie.","2026-09-27T09:00:00Z","paiton-qwen38-w3a4-radeon-ai-pro-r9700","\u002Fasset\u002Fimages\u002Fblog\u002Fpaiton-qwen38-w3a4\u002Fhero-nl.webp","https:\u002F\u002Feliovp.com\u002Fblog\u002Fpaiton-qwen38-w3a4-radeon-ai-pro-r9700",[282,1476,1477,1447,1448],{"path":1521,"title":1522,"description":1523,"date":1524,"slug":1525,"image":1526,"originalUrl":1527,"categories":1528},"\u002Fblog\u002Fpaiton-qwen-image-21-radeon-ai-pro-r9700","Qwen-Image 2.1 op 1 × Radeon AI PRO R9700: 2048×2048-beelden in 103 seconden","Genereer lokaal Qwen-Image 2.1-beelden van 2048×2048 pixels met 1 × Radeon AI PRO R9700. De Paiton v1.0.2-container mat 103,29 seconden per opgewarmd verzoek, inclusief de PNG-respons.","2026-09-23T09:00:00Z","paiton-qwen-image-21-radeon-ai-pro-r9700","\u002Fasset\u002Fimages\u002Fblog\u002Fpaiton-qwen-image-21\u002Fhero-nl.webp","https:\u002F\u002Feliovp.com\u002Fblog\u002Fpaiton-qwen-image-21-radeon-ai-pro-r9700",[282,1476,1477,1529,1447],"Beeldgeneratie",{"path":1531,"title":1532,"description":1533,"date":1534,"slug":1535,"image":1536,"originalUrl":1537,"categories":1538},"\u002Fblog\u002Fpaiton-qwen38-mxfp4-dflash2-r9700","Qwen3.8: 400,7 tok\u002Fs op één R9700 | Paiton","Qwen3.8 op één R9700: 400,7 tok\u002Fs met ROCm 10 en vLLM 0.29, plus publieke 200K\u002F220K-chatprofielen. Benchmarks, beperkingen en startopdrachten.","2026-09-16T07:30:00Z","paiton-qwen38-mxfp4-dflash2-r9700","\u002Fasset\u002Fimages\u002Fblog\u002Fpaiton-qwen38-mxfp4\u002Fupdate-2026-09-19\u002Fhero.webp","https:\u002F\u002Feliovp.com\u002Fblog\u002Fpaiton-qwen38-mxfp4-dflash2-r9700",[282,1476,1477,1446,1539,1540,1541],"Inferentie-optimalisatie","Grote taalmodellen","vLLM",{"path":1543,"title":1544,"description":1545,"date":1546,"slug":1547,"image":1548,"originalUrl":1549,"categories":1550},"\u002Fblog\u002Fpaiton-qwen38-neo-gguf-vllm-r9700","Qwen3.8 GGUF in vLLM: sneller antwoord op één Radeon","Draai de originele NEO CODER MAX GGUF met Paiton in vLLM op een R9700. Bekijk de gemeten responstijden, beeldinvoer en lokale installatie.","2026-09-14T07:30:00Z","paiton-qwen38-neo-gguf-vllm-r9700","\u002Fasset\u002Fimages\u002Fblog\u002Fpaiton-neo-gguf\u002F00-hero-neo-gguf-r9700.webp","https:\u002F\u002Feliovp.com\u002Fblog\u002Fpaiton-qwen38-neo-gguf-vllm-r9700",[282,1476,1477,1551,1541],"GGUF",{"path":1553,"title":1554,"description":1555,"date":1556,"slug":1557,"image":1558,"originalUrl":1559,"categories":1560},"\u002Fblog\u002Fpaiton-minimax-h3-radeon-ai-pro-r9700","MiniMax H3 op Radeon: 15 seconden video met stereogeluid","Paiton genereert lokaal 15 seconden MiniMax H3-video met stereogeluid op één Radeon AI PRO R9700 in 5 min 33 s, met 16,7% minder wachttijd dan stock.","2026-09-09T07:30:00Z","paiton-minimax-h3-radeon-ai-pro-r9700","\u002Fasset\u002Fimages\u002Fblog\u002Fpaiton-minimax-h3\u002F00-featured-minimax-h3-r9700.webp","https:\u002F\u002Feliovp.com\u002Fblog\u002Fpaiton-minimax-h3-radeon-ai-pro-r9700",[282,1476,1477,1561,1562,1563],"Videogeneratie","MiniMax H3","ComfyUI",{"path":1565,"title":1566,"description":1567,"date":1568,"slug":1569,"image":1570,"originalUrl":1571,"categories":1572},"\u002Fblog\u002Fpaiton-flux2-klein-radeon-ai-pro-r9700","Lokale FLUX.2 klein op Radeon AI PRO R9700: sneller beelden genereren met minder VRAM","Paiton genereert FLUX.2 klein-beelden van 1024 × 1024 in 1,054 seconden op een R9700, met 16,2% minder generatietijd en 33,4% minder piekallocatie in Torch.","2026-09-07T09:00:00","paiton-flux2-klein-radeon-ai-pro-r9700","\u002Fasset\u002Fimages\u002Fblog\u002Fpaiton-flux2-klein\u002Ffox-paiton.webp","https:\u002F\u002Feliovp.com\u002Fblog\u002Fpaiton-flux2-klein-radeon-ai-pro-r9700",[282,1476,1477,1529,1573,1563],"FLUX",{"path":1575,"title":1576,"description":1577,"date":1578,"slug":1579,"image":1580,"originalUrl":1581,"categories":1582},"\u002Fblog\u002Fpaiton-ornith15-radeon-ai-pro-r9700","Ornith 1.5 haalt 44,6 tok\u002Fs op één Radeon AI PRO R9700","Paiton draait Ornith 1.5 35B A3B op één Radeon AI PRO R9700 met 44,63 outputtokens per seconde, 27% sneller en met 21,3% lagere gemodelleerde kosten.","2026-09-05T09:00:00","paiton-ornith15-radeon-ai-pro-r9700","\u002Fasset\u002Fimages\u002Fblog\u002Fpaiton-ornith15\u002F00-featured-ornith15-r9700.webp","https:\u002F\u002Feliovp.com\u002Fblog\u002Fpaiton-ornith15-radeon-ai-pro-r9700",[282,1583,1476,1446,1584,1585,1539,1540,1541,1586],"Kunstmatige intelligentie","GPU-prestaties","Inferentielatentie","Kostenefficiëntie",{"path":1588,"title":1589,"description":1590,"date":1591,"slug":1592,"image":1593,"originalUrl":1594,"categories":1595},"\u002Fblog\u002Fpaiton-qwen38-radeon-ai-pro-r9700","Paiton: 21% meer Qwen3.8-doorvoer op Radeon AI PRO R9700","Paiton draait AMD's Qwen3.8 27B op één Radeon AI PRO R9700 met 39,77 outputtokens per seconde. Dat levert 21% meer throughput en 17,4% lagere gemodelleerde kosten op.","2026-09-04T09:00:00","paiton-qwen38-radeon-ai-pro-r9700","\u002Fasset\u002Fimages\u002Fblog\u002Fpaiton-r9700\u002F00-featured-paiton-r9700.webp","https:\u002F\u002Feliovp.com\u002Fblog\u002Fpaiton-qwen38-radeon-ai-pro-r9700",[282,1583,1476,1446,1584,1585,1539,1540,1541,1586],{"path":1597,"title":1598,"description":1599,"date":1600,"slug":1601,"image":1602,"originalUrl":1462,"categories":1603},"\u002Fblog\u002Fai-data-center-power-requirements-gpu-per-megawatt","Stroomvereisten voor AI-datacenters: de GPU-per-MW-illusie","Waarom verschillen GPU-aantallen per megawatt? Lees hoe PUE, piekbelasting, opslag, netwerken en koeling de inzetbare AI-capaciteit bepalen.","2026-07-27T23:52:00","ai-data-center-power-requirements-gpu-per-megawatt","\u002Fasset\u002Fimages\u002Fblog\u002Fai-data-center-power-requirements-gpu-per-megawatt\u002Fgpu-per-megawatt-illusion.webp",[1604,1488,1605,1489,1606,1607],"Alle","Datacenters","HPC","AMD Helios",{"path":1609,"title":1610,"description":1611,"date":1612,"slug":1613,"image":1614,"originalUrl":1615,"categories":1616},"\u002Fblog\u002Fpaiton-returns-to-its-diffusion-roots-optimizing-wan2-2-t2v-a14b-on-amd-mi355x","Wan2.2-videogeneratie: Paiton op AMD MI355X","Vergelijk Wan2.2-videogeneratie op AMD MI355X met Paiton en NVIDIA B200 via Diffusers. Lees hoe we diffusiemodellen optimaliseren.","2026-06-10T14:04:04","paiton-returns-to-its-diffusion-roots-optimizing-wan2-2-t2v-a14b-on-amd-mi355x","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Fpaitonwan2.webp","https:\u002F\u002Feliovp.com\u002Fpaiton-returns-to-its-diffusion-roots-optimizing-wan2-2-t2v-a14b-on-amd-mi355x\u002F",[1604,1583,282,1617,1618,1619,1620,1621,1622,1623,1624,1625,1626,1627,1628,1629,1630,1490,1631,1632,282,1633,1634,1635,1636,1637,1638],"14B","AMD","B200","Benchmarks","Blackwell","Compute","Diffusie","Eliovp","Generatieve AI","GPU","Hardware","Inferentie","Instinct","MI355x","On-premises","Optimalisatie","Soevereine AI","T2V","Tekst-naar-video","Tuning","Video-generatie","Wan2.2",{"path":1640,"title":1641,"description":1642,"date":1643,"slug":1644,"image":1645,"originalUrl":1646,"categories":1647},"\u002Fblog\u002Ffrom-the-attic-to-the-front-page-eliovp-recognized-as-a-pioneer-in-chip-optimization-data-center-infrastructure","ElioVP in De Tijd: chipoptimalisatie en datacenters","Lees hoe De Tijd ElioVP belicht, van de oorsprong in chipoptimalisatie tot het werk aan modulaire datacenters en koeling voor hoge vermogensdichtheid.","2026-02-10T20:48:12","from-the-attic-to-the-front-page-eliovp-recognized-as-a-pioneer-in-chip-optimization-data-center-infrastructure","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Fphysicalnewspaper.webp","https:\u002F\u002Feliovp.com\u002Ffrom-the-attic-to-the-front-page-eliovp-recognized-as-a-pioneer-in-chip-optimization-data-center-infrastructure\u002F",[1604,1583,1648,1649,1618,1650,1648,1490],"Modulaire DC","Niet gecategoriseerd","De Tijd",{"path":1652,"title":1653,"description":1654,"date":1655,"slug":1656,"image":1657,"originalUrl":1658,"categories":1659},"\u002Fblog\u002Fprivacy-is-geen-it-probleem-meer-het-is-een-strategische-prioriteit","AI en privacy: een strategische prioriteit in de Benelux","Privacyrisico's van generatieve AI, vertrouwen, dataopslag en governance. Waarom bedrijven in de Benelux veilige AI strategisch moeten benaderen.","2026-01-29T13:51:11","privacy-is-geen-it-probleem-meer-het-is-een-strategische-prioriteit","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Fheaderimage.webp","https:\u002F\u002Feliovp.com\u002Fprivacy-is-geen-it-probleem-meer-het-is-een-strategische-prioriteit\u002F",[1604,1583,1660,1649,1661,1662,1663,1664,1665,1666,1667,1668,1624,1669,1625,1670,1671,1672],"Trending","AI Act","Antropomorfisme","AVG","Benelux","ChatGPT","Cyberbeveiliging","Databeheer","Gegevensbeveiliging","GDPR","Microsoft Copilot","Privacy","Shadow AI",{"path":1674,"title":1675,"description":1676,"date":1677,"slug":1678,"image":1679,"originalUrl":1680,"categories":1681},"\u002Fblog\u002Fitsme-bij-ons-is-het-its-not-me-en-dit-is-waarom","Waarom wij itsme niet gebruiken: privacy en soevereiniteit","Waarom ElioVP itsme niet gebruikt: onze afwegingen rond identiteitsmetadata, cloudafhankelijkheid, privacy en datasoevereiniteit.","2025-11-27T09:32:14","itsme-bij-ons-is-het-its-not-me-en-dit-is-waarom","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Ffrontimage.webp","https:\u002F\u002Feliovp.com\u002Fitsme-bij-ons-is-het-its-not-me-en-dit-is-waarom\u002F",[1604,1682,1683,1684,1666,1685,1686,1687,1669,1688,1689,1690,1671],"AWS","Belgian Mobile ID","CLOUD Act","Datasoevereiniteit","Digitale identiteit","eIDAS","itsme","Liberty Global","MyGov.be",{"path":1692,"title":1693,"description":1694,"date":1695,"slug":1696,"image":1697,"originalUrl":1698,"categories":1699},"\u002Fblog\u002Ffield-report-the-reality-of-building-agentic-ai-in-2025","Praktijkrapport: de realiteit van Agentic AI bouwen in 2025","Praktijklessen over lokale AI-agents in 2025 gaan in op workflowontwerp, observability, modeltraining, hallucinaties en GPU-geheugenlimieten.","2025-11-25T14:03:39","field-report-the-reality-of-building-agentic-ai-in-2025","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Ffieldreport.webp","https:\u002F\u002Feliovp.com\u002Ffield-report-the-reality-of-building-agentic-ai-in-2025\u002F",[1604,1583,1700,1660,1701,1702,1703,1704,1705,1706,1707,1708,1633,1709],"Oplossingen","Agentic AI","AI-techniek","AI-strategie","Autonome agenten","Bedrijfs-AI","Lokale LLM","Modelverfijning","AI op locatie","VRAM-optimalisatie",{"path":1711,"title":1712,"description":1713,"date":1714,"slug":1715,"image":1716,"originalUrl":1717,"categories":1718},"\u002Fblog\u002Fthe-synthetic-unicorn-bubble","De synthetische unicornzeepbel","Een analyse van investeringsrisico’s bij AI-neoclouds: circulaire financiering, infrastructuurclaims, contractvoorwaarden en due diligence.","2025-11-24T19:22:28","the-synthetic-unicorn-bubble","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Fsyntheticunicorn.webp","https:\u002F\u002Feliovp.com\u002Fthe-synthetic-unicorn-bubble\u002F",[1604,1583,1660,1719,1720,1721,1722,1723,1724,1725,1726,1727,1728],"AI Infrastructure","AI Neocloud","Circulaire financiering","GPU Cloud","Beleggingsrisico's","Opstartwaardering","Synthetische bubbel","Technische analyse","Vaporware","Durfkapitaal",{"path":1730,"title":1731,"description":1732,"date":1733,"slug":1734,"image":1735,"originalUrl":1736,"categories":1737},"\u002Fblog\u002Fbuilding-the-engine-for-the-ai-race-the-4-month-path-to-nvidia-gb300-nvl72-power","NVIDIA GB300 NVL72: modulair datacenter in vier maanden","Ontdek een modulair datacenterontwerp voor NVIDIA GB300 NVL72, met redundante voeding, hybride koeling en een bouwplanning van vier maanden.","2025-11-20T14:10:19","building-the-engine-for-the-ai-race-the-4-month-path-to-nvidia-gb300-nvl72-power","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Fsuperpodmodflexfrontimage.webp","https:\u002F\u002Feliovp.com\u002Fbuilding-the-engine-for-the-ai-race-the-4-month-path-to-nvidia-gb300-nvl72-power\u002F",[1604,1648,1649,1738,1488,1739,1740,1492,1741,1742,1743,1744,1745],"150 kW-rack","DLC","Hoge dichtheid","Modulair datacenter","NVIDIA Blackwell Ultra","NVIDIA GB300","NVL72","Snelle implementatie",{"path":1747,"title":1748,"description":1749,"date":1750,"slug":1751,"image":1752,"originalUrl":1753,"categories":1754},"\u002Fblog\u002Fwhy-cuda-translation-wont-unlock-amds-real-potential","CUDA-vertaling versus AMD-gerichte optimalisatie","Waarom CUDA-compatibiliteit niet hetzelfde is als AMD-prestaties: over ROCm, HIP, kerneloptimalisatie en hardwaregerichte afstemming.","2025-11-12T14:48:37","why-cuda-translation-wont-unlock-amds-real-potential","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Fchatgpt-image-nov-11-2025-09_16_10-pm-1.webp","https:\u002F\u002Feliovp.com\u002Fwhy-cuda-translation-wont-unlock-amds-real-potential\u002F",[1604,1583,282,1649,1755,1583,1756,1757,1758,1759,1760,1761,282,1762],"AMD MI300X","CUDA-vertaling","FP8","GPU-optimalisatie","High-performance computing","HIP","Kerneltuning","ROCm",{"path":1764,"title":1765,"description":1766,"date":1767,"slug":1768,"image":1769,"originalUrl":1770,"categories":1771},"\u002Fblog\u002Fpaiton-the-simplest-way-to-supercharge-ai-inference","Paiton: snellere AI-inferentie in uw bestaande stack","Lees hoe Paiton aansluit op bestaande inferentiestacks, met AMD MI300X-benchmarks en vergelijkingen van prestaties per dollar.","2025-11-11T10:31:22","paiton-the-simplest-way-to-supercharge-ai-inference","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Fpaiton-powaaah.webp","https:\u002F\u002Feliovp.com\u002Fpaiton-the-simplest-way-to-supercharge-ai-inference\u002F",[1604,1583,282,1446,1445,1755,1586,1772,1539,1761,282,1773,1541],"Hoge throughput","SGLang",{"path":1775,"title":1776,"description":1777,"date":1778,"slug":1779,"image":1780,"originalUrl":1781,"categories":1782},"\u002Fblog\u002Fstop-overpaying-paiton-mi300x-moe-beats-h200-b200-on-1m-tokens","Paiton MoE-benchmarks: MI300X versus H200 en B200","Vergelijk Qwen3-30B-A3B MoE-benchmarks van MI300X met Paiton, H200 en B200: throughput en kosten per miljoen tokens.","2025-09-26T13:36:18","stop-overpaying-paiton-mi300x-moe-beats-h200-b200-on-1m-tokens","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Fhulkvshulkpaitonwins.webp","https:\u002F\u002Feliovp.com\u002Fstop-overpaying-paiton-mi300x-moe-beats-h200-b200-on-1m-tokens\u002F",[1604,1583,282,1783,1755,1784,1539,1785,1786,1787,1788,282,1789],"AI-benchmarks","Kosten per token","Mixture of Experts","MoE","NVIDIA B200","NVIDIA H200","Qwen3",{"path":1791,"title":1792,"description":1793,"date":1794,"slug":1795,"image":1796,"originalUrl":1797,"categories":1798},"\u002Fblog\u002Fagentic-ai-but-make-it-local-from-inbox-to-insight-to-action-en","Lokale Agentic AI: van inbox naar actie","Lokale AI-agents zetten e-mails, documenten en beelden om in tickets, rapporten en acties, met modellen op maat van uw gegevens en systemen.","2025-09-16T13:09:00","agentic-ai-but-make-it-local-from-inbox-to-insight-to-action-en","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Ffrontfotoblog.webp","https:\u002F\u002Feliovp.com\u002Fagentic-ai-but-make-it-local-from-inbox-to-insight-to-action-en\u002F",[1604,1583,1700,1649,1701,1799,1800,1801,1802,1706,1708,1633,1803,1804],"Schadedetectie","Documentverwerking","E-mailautomatisering","Factuurextractie","Ticketautomatisering","Workflowautomatisering",{"path":1806,"title":1807,"description":1808,"date":1809,"slug":1810,"image":1811,"originalUrl":1812,"categories":1813},"\u002Fblog\u002Fmi300x-fp8-data-parallel-benchmarks-8-64-gpus-h200-left-behind-b200-within-reach","MI300X FP8-benchmarks: GPU-partitionering met Paiton","Bekijk hoe Paiton presteert met Llama 3.1 8B FP8 op gepartitioneerde MI300X-GPU's, vergeleken met NVIDIA H200 en B200.","2025-07-31T13:32:57","mi300x-fp8-data-parallel-benchmarks-8-64-gpus-h200-left-behind-b200-within-reach","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Fimage-2-1.webp","https:\u002F\u002Feliovp.com\u002Fmi300x-fp8-data%e2%80%91parallel-benchmarks-8-64-gpus-h200-left-behind-b200-within-reach\u002F",[1604,1583,282,1649,1814,1618,1619,1815,1816,1630,1490,282,1541],"AI","H200","MI300X",{"path":1818,"title":1819,"description":1820,"date":1821,"slug":1822,"image":1823,"originalUrl":1824,"categories":1825},"\u002Fblog\u002Fapplicable-ai-for-businesses","Toepasbare AI voor bedrijven","Ontdek hoe ElioVP lokale AI voor bedrijfsprocessen bouwt, met modeltraining op maat en automatische schadedetectie voor de logistiek.","2025-07-09T21:35:30","applicable-ai-for-businesses","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Fscherm_afbeelding-2025-07-09-om-23.30.17.webp","https:\u002F\u002Feliovp.com\u002Fapplicable-ai-for-businesses\u002F",[1604,1583,1700,1701,1799,1800,1801,1802,1706,1708,1633,1803,1804],{"path":1827,"title":1828,"description":1829,"date":1830,"slug":1831,"image":1301,"originalUrl":1832,"categories":1833},"\u002Fblog\u002Fintroducing-paitons-free-evaluation-models","Maak kennis met de gratis evaluatiemodellen van Paiton","Test Paiton met gratis evaluatiemodellen voor AMD-GPU's. Vergelijk de prestaties voor tekst, beeldanalyse en beeldgeneratie met uw eigen workloads.","2025-07-07T11:26:13","introducing-paitons-free-evaluation-models","https:\u002F\u002Feliovp.com\u002Fintroducing-paitons-free-evaluation-models\u002F",[1604,1583,282],{"path":1835,"title":1836,"description":1837,"date":1838,"slug":1839,"image":1840,"originalUrl":1841,"categories":1842},"\u002Fblog\u002Fpaiton-dramatically-faster-startup-and-performance-for-llama-3-1-405b","Llama 3.1 405B: sneller starten met Paiton op MI300X","Bekijk Paiton-benchmarks voor Llama 3.1 405B op acht AMD MI300X-GPU's, met opstarttijd, tensorparallelisme, throughput en latency.","2025-06-12T20:15:23","paiton-dramatically-faster-startup-and-performance-for-llama-3-1-405b","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Fservingscreenshot.webp","https:\u002F\u002Feliovp.com\u002Fpaiton-dramatically-faster-startup-and-performance-for-llama-3-1-405b\u002F",[1604,1583,282,1649,1446,1755,1843,1757,1844,1845,1846,282,1847,1848],"Koude start","Grafiekcompilatie","Llama 3.1 405B","LLM-optimalisatie","Opstartlatentie","Tensor-parallellisme",{"path":1850,"title":1851,"description":1852,"date":1853,"slug":1854,"image":1855,"originalUrl":1856,"categories":1857},"\u002Fblog\u002Fpaiton-fp8-beats-nvidias-h200-on-amds-mi300x","Paiton FP8 verslaat NVIDIA's H200 op AMD's MI300X","Vergelijk Paiton op AMD MI300X met NVIDIA H200 voor Llama 3.1 70B FP8: throughput, wachttijd tot het eerste token en latency bij diverse batchgroottes.","2025-06-08T19:12:40","paiton-fp8-beats-nvidias-h200-on-amds-mi300x","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Fblognewfp8.webp","https:\u002F\u002Feliovp.com\u002Fpaiton-fp8-beats-nvidias-h200-on-amds-mi300x\u002F",[1604,1583,282,1649,1755,1858,1705,1625,1584,1585,1540,1845,1859,1860],"Koude startoptimalisatie","Model serving","vLLM-optimalisatie",{"path":1862,"title":1863,"description":1864,"date":1865,"slug":1866,"image":1867,"originalUrl":1868,"categories":1869},"\u002Fblog\u002Fmi300x-vs-h200-vs-rx-7900-xtx-vs-tenstorrent-n300s-with-vllm","MI300X, H200, RX 7900 XTX en n300s: vLLM-benchmarks","Vergelijk MI300X, H200, RX 7900 XTX en Tenstorrent n300s met vLLM: throughput, gemodelleerde tokenkosten en hardwarebeperkingen voor Llama 3 8B.","2025-05-09T14:03:58","mi300x-vs-h200-vs-rx-7900-xtx-vs-tenstorrent-n300s-with-vllm","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Fcomparisontenstor.webp","https:\u002F\u002Feliovp.com\u002Fmi300x-vs-h200-vs-rx-7900-xtx-vs-tenstorrent-n300s-with-vllm\u002F",[1604,1583,282,1700,1649,1618,1816,1490,1870,1871],"RX7900XTX","tenstorrent",{"path":1873,"title":1874,"description":1875,"date":1876,"slug":1877,"image":1878,"originalUrl":1879,"categories":1880},"\u002Fblog\u002Fclusterpl-empowering-gpu-cluster-investors-with-real-world-financial-insights","ClusterP&L: financiële modellen voor GPU-clusters","Ontdek hoe ClusterP&L kosten, rendement en investeringsscenario's voor GPU-clusters modelleert, met risicoanalyses en exporteerbare rapporten.","2025-05-03T10:52:22","clusterpl-empowering-gpu-cluster-investors-with-real-world-financial-insights","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Fcomparisonscenarios.webp","https:\u002F\u002Feliovp.com\u002Fclusterpl-empowering-gpu-cluster-investors-with-real-world-financial-insights\u002F",[1604,1583,1648,1700,1619,1815,1881,1490,1882],"MI325X","P&L-calculator",{"path":1884,"title":1885,"description":1886,"date":1887,"slug":1888,"image":1889,"originalUrl":1890,"categories":1891},"\u002Fblog\u002Fcranking-out-faster-tokens-for-fewer-dollars-amd-mi300x-vs-nvidia-h200","AMD MI300X versus NVIDIA H200: Qwen3-32B met Paiton","Vergelijk Qwen3-32B-benchmarks op AMD MI300X met Paiton en NVIDIA H200, met resultaten voor throughput, latency en hardwarekosten.","2025-05-02T21:10:30","cranking-out-faster-tokens-for-fewer-dollars-amd-mi300x-vs-nvidia-h200","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002F3ac59a73-2466-4422-b7e5-ef2e4a8ca58e.webp","https:\u002F\u002Feliovp.com\u002Fcranking-out-faster-tokens-for-fewer-dollars-amd-mi300x-vs-nvidia-h200\u002F",[1604,1583,282,1814,1618,1815,1892,1490,282,1541],"MI300",{"path":1894,"title":1895,"description":1896,"date":1897,"slug":1898,"image":1899,"originalUrl":1900,"categories":1901},"\u002Fblog\u002Fpower-meets-precision-high-density-modular-data-center-for-nvidia-nvl-deployments-1-2-mw","Modulaire datacenters voor NVIDIA NVL: 1 tot 2 MW","Ontdek modulaire datacenterontwerpen voor NVIDIA NVL-systemen, met aandacht voor vermogen, vloeistofkoeling, redundantie en uitrolplanning.","2025-05-02T14:09:59","power-meets-precision-high-density-modular-data-center-for-nvidia-nvl-deployments-1-2-mw","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Feliovp_critical-1mw-pod_rev-2_transparent.webp","https:\u002F\u002Feliovp.com\u002Fpower-meets-precision-high-density-modular-data-center-for-nvidia-nvl-deployments-1-2-mw\u002F",[1604,1648,1902,1719,1740,1606,1492,1741,1903,1904,1744,1905],"1-2MW datacenter","NVIDIA Blackwell","NVIDIA NVL","Precisiekoeling",{"path":1907,"title":1908,"description":1909,"date":1910,"slug":1911,"image":1912,"originalUrl":1913,"categories":1914},"\u002Fblog\u002Fexamining-ai-agents-in-the-medical-field-ai-that-speaks-dicom","AI-agents in de medische wereld: AI die DICOM spreekt","Ontdek een lokale AI-agent die DICOM-gegevens opzoekt en bekijk tests van beeldmodellen met geanonimiseerde medische beelden.","2025-04-11T14:45:48","examining-ai-agents-in-the-medical-field-ai-that-speaks-dicom","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Fhealthcareblog-1.webp","https:\u002F\u002Feliovp.com\u002Fexamining-ai-agents-in-the-medical-field-ai-that-speaks-dicom\u002F",[1604,1583,1700,1649,1814,1618,1915],"Zorg",{"path":1917,"title":1918,"description":1919,"date":1920,"slug":1921,"image":1922,"originalUrl":1923,"categories":1924},"\u002Fblog\u002Feliovp-bv-your-trusted-partner-for-supply-chain-resilience-amidst-new-u-s-tariffs","Amerikaanse invoerheffingen en AI-leveringszekerheid in 2025","Lees ElioVP's visie uit april 2025 op Amerikaanse invoerheffingen en leveringszekerheid voor AI-servers, HPC-systemen en modulaire datacenters.","2025-04-04T10:01:27","eliovp-bv-your-trusted-partner-for-supply-chain-resilience-amidst-new-u-s-tariffs","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Ftariffsshipping.webp","https:\u002F\u002Feliovp.com\u002Feliovp-bv-your-trusted-partner-for-supply-chain-resilience-amidst-new-u-s-tariffs\u002F",[1604,1660,1814,1618,1925,1926,1927,1928],"Invoer","Taiwan","Invoerheffingen","Trump",{"path":1930,"title":1931,"description":1932,"date":1933,"slug":1934,"image":1935,"originalUrl":1936,"categories":1937},"\u002Fblog\u002Fwhy-ai-agents-are-the-future","Waarom AI-agenten de toekomst zijn","Ontdek AI-agents voor ERP, CRM, financiën en klantondersteuning, met praktijkvoorbeelden en een traject van procesanalyse tot pilot en uitrol.","2025-03-23T22:06:59","why-ai-agents-are-the-future","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Ferp2.jpeg","https:\u002F\u002Feliovp.com\u002Fwhy-ai-agents-are-the-future\u002F",[1604,1583,1700,1814,1938,1939],"AI-agenten","ERP",{"path":1941,"title":1942,"description":1943,"date":1944,"slug":1945,"image":1946,"originalUrl":1947,"categories":1948},"\u002Fblog\u002Fthe-rise-of-open-source-ai-model-optimization","De opkomst van open-source AI-modeloptimalisatie","Verken trends in opensource-AI-optimalisatie: kwantisatie, mixture-of-experts-modellen, hardwaregerichte afstemming, RAG en edge-AI.","2025-03-22T20:59:23","the-rise-of-open-source-ai-model-optimization","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Friseofopensource.jpeg","https:\u002F\u002Feliovp.com\u002Fthe-rise-of-open-source-ai-model-optimization\u002F",[1604,1583,1660,1949,1618,1626,1490],"AI-nieuws",{"path":1951,"title":1952,"description":1953,"date":1954,"slug":1955,"image":1956,"originalUrl":1957,"categories":1958},"\u002Fblog\u002Fintroducing-our-benchmarking-tool-powered-by-dstack","Maak kennis met onze benchmarktool, gebouwd op dstack","Ontdek onze benchmarktool met dstack: herhaalbare vLLM-tests, automatische parameterreeksen en prestatierapporten voor lokale GPU's en de cloud.","2025-03-20T14:21:59","introducing-our-benchmarking-tool-powered-by-dstack","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Fbenchmarktool.jpeg","https:\u002F\u002Feliovp.com\u002Fintroducing-our-benchmarking-tool-powered-by-dstack\u002F",[1604,1583,282,1814,1618,1959,1960,1816,282],"benchmark","LLM",{"path":1962,"title":1963,"description":1964,"date":1965,"slug":1966,"image":1967,"originalUrl":1968,"categories":1969},"\u002Fblog\u002Foptimizing-qwq-32b-by-qwen-amd-mi300x-vs-nvidia-h200","QwQ-32B optimaliseren (door Qwen): AMD MI300X versus NVIDIA H200","Vergelijk throughput en latency van QwQ-32B op AMD MI300X met Paiton en NVIDIA H200, bij kleine batches en meer gelijktijdige aanvragen.","2025-03-19T21:41:44","optimizing-qwq-32b-by-qwen-amd-mi300x-vs-nvidia-h200","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Fpaiton4.jpeg","https:\u002F\u002Feliovp.com\u002Foptimizing-qwq-32b-by-qwen-amd-mi300x-vs-nvidia-h200\u002F",[1604,1583,282],{"path":1971,"title":1972,"description":1973,"date":1974,"slug":1975,"image":1976,"originalUrl":1977,"categories":1978},"\u002Fblog\u002Feliovp-featured-on-amd-tech-talk-podcast","Eliovp te gast in de AMD Tech Talk-podcast","Beluister Elio Van Puyvelde en Jim Greene in de AMD Tech Talk-podcast over het ontstaan van ElioVP en de hardware- en softwarediensten voor AI.","2025-03-19T07:53:39","eliovp-featured-on-amd-tech-talk-podcast","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Ftechtalkjimgreene.jpeg","https:\u002F\u002Feliovp.com\u002Feliovp-featured-on-amd-tech-talk-podcast\u002F",[1604,1618,1979,1980,1981],"Jim Greene","Podcast","Tech Talk",{"path":1983,"title":1984,"description":1985,"date":1986,"slug":1987,"image":1988,"originalUrl":1989,"categories":1990},"\u002Fblog\u002Ffurther-optimizing-amd-powered-inference-with-paiton","AMD-inferentie verder optimaliseren met Paiton","Bekijk Paiton-benchmarks voor DeepSeek R1 Distill Llama 8B op AMD MI300X, gericht op throughput en latency bij kleinere batchgroottes.","2025-03-13T06:18:30","further-optimizing-amd-powered-inference-with-paiton","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Fpaitonpost3.webp","https:\u002F\u002Feliovp.com\u002Ffurther-optimizing-amd-powered-inference-with-paiton\u002F",[1604,1583,282,1618,1991,1992,1815,1816,1881,282,1541],"DeepSeek","H100",{"path":1994,"title":1995,"description":1996,"date":1997,"slug":1998,"image":1999,"originalUrl":2000,"categories":2001},"\u002Fblog\u002Fa-first-look-at-paiton-in-action-deepseek-r1-distill-llama-3-1-8b","Paiton-benchmarks: DeepSeek R1 Distill Llama 3.1 8B","Vergelijk standaard- en Paiton-versies van DeepSeek R1 Distill Llama 3.1 8B op AMD MI300X, met benchmarks voor throughput en latency.","2025-01-31T09:11:02","a-first-look-at-paiton-in-action-deepseek-r1-distill-llama-3-1-8b","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Fpaitonpost2.webp","https:\u002F\u002Feliovp.com\u002Fa-first-look-at-paiton-in-action-deepseek-r1-distill-llama-3-1-8b\u002F",[1604,1583,282,1618,1991,1992,1815,1816,1881,282,1541],{"path":2003,"title":2004,"description":2005,"date":2006,"slug":2007,"image":2008,"originalUrl":2009,"categories":2010},"\u002Fblog\u002Fai-model-optimization-with-paiton","AI-modeloptimalisatie met Paiton","Lees hoe Paiton modelcompilatie, aangepaste kernels en kernelfusie inzet om AI-inferentie op AMD GPU's te optimaliseren.","2025-01-30T19:53:25","ai-model-optimization-with-paiton","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Fpaitonpost1.webp","https:\u002F\u002Feliovp.com\u002Fai-model-optimization-with-paiton\u002F",[1604,1583,282,1618,1992,1815,1816,1881,282,1541],1793353532692]