[{"data":1,"prerenderedAt":1388},["ShallowReactive",2],{"blog-post-nl-\u002Fblog\u002Fpaiton-qwen38-radeon-ai-pro-r9700":3,"blog-posts-sidebar-nl":966},{"id":4,"title":5,"body":6,"categories":944,"date":954,"description":955,"extension":956,"image":957,"meta":958,"navigation":959,"originalUrl":960,"path":961,"seo":962,"slug":963,"stem":964,"__hash__":965},"blogNl\u002Fblog\u002Fpaiton-qwen38-radeon-ai-pro-r9700.md","Paiton: 21% meer Qwen3.8-doorvoer op Radeon AI PRO R9700",{"type":7,"value":8,"toc":931},"minimark",[9,16,31,38,49,56,61,64,157,160,163,167,170,173,195,198,201,207,211,214,220,223,272,339,345,348,354,357,361,364,367,370,373,377,380,383,386,390,393,396,399,403,406,515,518,536,539,559,574,584,588,591,766,769,773,883,886,889,893,908,911,915,918,921,927],[10,11,12],"p",{},[13,14,15],"strong",{},"Eén GPU. Hetzelfde publieke broncontrolepunt. Dezelfde benchmarkverzoeken. Meer output.",[10,17,18,19,26,27,30],{},"Paiton draaide AMD's publieke\n",[20,21,25],"a",{"href":22,"rel":23},"https:\u002F\u002Fhuggingface.co\u002Famd\u002FQwen3.8-27B-Quark-Qronos-INT4-W4A16",[24],"nofollow","Qwen3.8-27B-Quark-Qronos-INT4-W4A16","\nmet ",[13,28,29],{},"39,77 outputtokens per seconde"," in onze interactieve benchmark met batchgrootte één op één AMD Radeon AI PRO R9700 met 32 GB geheugen.",[10,32,33,34,37],{},"Onze snelste gekwalificeerde standaard-vLLM-configuratie op hetzelfde systeem behaalde 32,86 outputtokens per seconde. Daardoor levert Paiton ",[13,35,36],{},"21,0% meer output per actief inferentie-uur"," uit dezelfde GPU.",[10,39,40,41,44,45,48],{},"Bij de codeerworkload liep het voordeel op tot ",[13,42,43],{},"54,3%",". Met een input van 4.096 tokens bedroeg het ",[13,46,47],{},"26,8%",".",[10,50,51],{},[52,53],"img",{"alt":54,"src":55},"Paiton levert 39,77 outputtokens per seconde voor de interactieve workload, 37,93 voor codering en 25,45 voor lange context, waarmee hij in alle drie de tests beter presteert dan de gekwalificeerde stock-vLLM-basislijn.","\u002Fasset\u002Fimages\u002Fblog\u002Fpaiton-r9700\u002F01-throughput-by-workload-eliovp.webp",[57,58,60],"h2",{"id":59},"throughput-voor-drie-workloads","Throughput voor drie workloads",[10,62,63],{},"Dit zijn servingtests voor één gebruiker, met één verzoek tegelijk, één actieve modelsequentie, temperatuur nul, thinking uitgeschakeld en vaste willekeurige inputs.",[65,66,67,90],"table",{},[68,69,70],"thead",{},[71,72,73,77,81,84,87],"tr",{},[74,75,76],"th",{},"Workload",[74,78,80],{"align":79},"right","Gevraagde input \u002F output",[74,82,83],{"align":79},"Gekwalificeerde standaard-vLLM",[74,85,86],{"align":79},"Paiton",[74,88,89],{"align":79},"Voordeel met Paiton",[91,92,93,115,136],"tbody",{},[71,94,95,99,102,105,110],{},[96,97,98],"td",{},"Interactief",[96,100,101],{"align":79},"256 \u002F 256",[96,103,104],{"align":79},"32,86 tok\u002Fs",[96,106,107],{"align":79},[13,108,109],{},"39,77 tok\u002Fs",[96,111,112],{"align":79},[13,113,114],{},"+21,0%",[71,116,117,120,123,126,131],{},[96,118,119],{},"Codering",[96,121,122],{"align":79},"1.024 \u002F 512",[96,124,125],{"align":79},"24,58 tok\u002Fs",[96,127,128],{"align":79},[13,129,130],{},"37,93 tok\u002Fs",[96,132,133],{"align":79},[13,134,135],{},"+54,3%",[71,137,138,141,144,147,152],{},[96,139,140],{},"Lange context",[96,142,143],{"align":79},"4.096 \u002F 256",[96,145,146],{"align":79},"20,07 tok\u002Fs",[96,148,149],{"align":79},[13,150,151],{},"25,45 tok\u002Fs",[96,153,154],{"align":79},[13,155,156],{},"+26,8%",[10,158,159],{},"Elke workload werd twee keer uitgevoerd vanaf een nieuw gestarte server. Elke run bestond uit drie warm-ups, gevolgd door 12 gemeten verzoeken. De tabel vermeldt het gemiddelde van beide runs. Alle zes Paiton-runs verwerkten de 12 verzoeken zonder fouten en leverden telkens de volledig gevraagde outputlengte.",[10,161,162],{},"Door de chattemplates bedroegen de werkelijke promptlengtes respectievelijk 268 tot 270, 1.036 tot 1.038 en 4.108 tot 4.110 tokens.",[57,164,166],{"id":165},"latency-sneller-streamen-gemengde-resultaten-voor-het-eerste-token","Latency: sneller streamen, gemengde resultaten voor het eerste token",[10,168,169],{},"Outputthroughput is slechts één onderdeel van de gebruikerservaring. Daarom publiceren we ook de latency voor het eerste token en voor streaming.",[10,171,172],{},"Paiton verminderde de mediane tijd per uitvoertoken in elke workload:",[174,175,176,183,189],"ul",{},[177,178,179,180],"li",{},"Interactief: ",[13,181,182],{},"30 ms tot 24 ms",[177,184,185,186],{},"Codering: ",[13,187,188],{},"39 ms tot 25 ms",[177,190,191,192],{},"Lange context: ",[13,193,194],{},"37 ms tot 28 ms",[10,196,197],{},"De Time to First Token hing af van de workload. De mediane interactieve TTFT steeg van 258 ms naar 290 ms. Bij codering verbeterde die licht, van 757 ms naar 737 ms, terwijl de TTFT voor lange context daalde van 3.337 ms naar 2.984 ms.",[10,199,200],{},"Het resultaat is een duidelijke winst in streamingthroughput. We beweren niet dat elke latencymetric in elk scenario verbetert.",[10,202,203],{},[52,204],{"alt":205,"src":206},"Paiton verlaagt de tijd per uitvoertoken voor alle drie de workloads. De tijd tot het eerste token is langer voor de interactieve test, iets korter voor codering en lager voor de lange-contexttest.","\u002Fasset\u002Fimages\u002Fblog\u002Fpaiton-r9700\u002F02-latency-snapshot-eliovp.webp",[57,208,210],{"id":209},"wat-de-winst-betekent-voor-de-kosten","Wat de winst betekent voor de kosten",[10,212,213],{},"Bij eigen inferentiehardware bepaalt de throughput hoeveel output een vast uur GPU-tijd oplevert. Bij gelijke systeemkosten per uur levert 21,0% meer throughput ook 21,0% meer tokens op binnen hetzelfde actieve runtimebudget.",[10,215,216,217,48],{},"Omdat de kosten per token omgekeerd evenredig zijn met de throughput, bedraagt de overeenkomstige gemodelleerde daling van de tijdsgebonden kosten per miljoen outputtokens ",[13,218,219],{},"17,4%",[10,221,222],{},"In de onderstaande voorbeelden schrijven we de GPU af over 5.000 productieve inferentie-uren. Voor beide runtimes gaan we uit van hetzelfde systeemverbruik van 450 W.",[65,224,225,238],{},[68,226,227],{},[71,228,229,232,235],{},[74,230,231],{},"Veronderstelling",[74,233,234],{"align":79},"Amerikaans voorbeeld",[74,236,237],{"align":79},"Europees voorbeeld",[91,239,240,251,262],{},[71,241,242,245,248],{},[96,243,244],{},"GPU-aankoopprijs",[96,246,247],{"align":79},"$ 1.299",[96,249,250],{"align":79},"€ 1.749",[71,252,253,256,259],{},[96,254,255],{},"Elektriciteit",[96,257,258],{"align":79},"$ 0,17\u002FkWh",[96,260,261],{"align":79},"€ 0,2558\u002FkWh",[71,263,264,267,270],{},[96,265,266],{},"Productieve inferentie levensduur",[96,268,269],{"align":79},"5.000 uur",[96,271,269],{"align":79},[65,273,274,285],{},[68,275,276],{},[71,277,278,281,283],{},[74,279,280],{},"Interactieve tokeneconomie",[74,282,83],{"align":79},[74,284,86],{"align":79},[91,286,287,300,313,326],{},[71,288,289,292,295],{},[96,290,291],{},"Uren per miljoen outputtokens",[96,293,294],{"align":79},"8,45",[96,296,297],{"align":79},[13,298,299],{},"6,98",[71,301,302,305,308],{},[96,303,304],{},"Gemodelleerde kosten per miljoen, Amerikaans voorbeeld",[96,306,307],{"align":79},"$ 2,84",[96,309,310],{"align":79},[13,311,312],{},"$ 2,35",[71,314,315,318,321],{},[96,316,317],{},"Gemodelleerde kosten per miljoen, Europees voorbeeld",[96,319,320],{"align":79},"€ 3,93",[96,322,323],{"align":79},[13,324,325],{},"€ 3,25",[71,327,328,331,334],{},[96,329,330],{},"Output over 5.000 actieve uren",[96,332,333],{"align":79},"591,5 miljoen",[96,335,336],{"align":79},[13,337,338],{},"715,8 miljoen",[10,340,341,342,48],{},"Bij de gemeten interactieve snelheden produceert dezelfde kaart over 5.000 productieve uren ongeveer ",[13,343,344],{},"124 miljoen extra outputtokens",[10,346,347],{},"Met hetzelfde gemodelleerde budget van $ 100 voor eigendom en elektriciteit produceert Paiton ongeveer 42,6 miljoen tokens in plaats van 35,2 miljoen. In het Europese voorbeeld levert € 100 ongeveer 30,8 miljoen tokens op in plaats van 25,4 miljoen.",[10,349,350],{},[52,351],{"alt":352,"src":353},"Bij 5.000 productieve inferentie-uren bedragen de gemodelleerde Europese kosten € 3,93 per miljoen outputtokens voor stock-vLLM en € 3,25 voor Paiton.","\u002Fasset\u002Fimages\u002Fblog\u002Fpaiton-r9700\u002F03-economics-sensitivity-eliovp.webp",[10,355,356],{},"Deze cijfers vormen een transparant, tijdsgebonden eigendomsmodel en geen claim over gemeten energie-efficiëntie. Het model houdt geen rekening met de hostcomputer, inactieve tijd, koeling, onderhoud, financiering, belastingen of restwaarde. U kunt de aankoopprijs, het elektriciteitstarief en de productieve levensduur door uw eigen waarden vervangen. De relatieve daling van 17,4% blijft gelijk zolang beide runtimes dezelfde uurkosten hebben.",[57,358,360],{"id":359},"een-relevante-standaardbaseline","Een relevante standaardbaseline",[10,362,363],{},"We vergeleken Paiton niet met een eager- of standaardinstallatie om het resultaat vervolgens een optimalisatiewinst te noemen. We investeerden veel tijd in het kwalificeren van de snelste stabiele standaardconfiguratie die we op dit systeem konden realiseren.",[10,365,366],{},"De standaardbaseline gebruikte gecompileerde vLLM-uitvoering op optimalisatieniveau 2, volledige en gedeeltelijke HIP-graph capture, standaard hybride W4A16-kernels voor RDNA, vLLM's Triton GDN-implementatie, de ROCm-attentionbackend en het ondersteunde high-clockbeleid van de R9700.",[10,368,369],{},"Beide configuraties gebruikten dezelfde GPU, ROCm-host, modelrevisie, tokenizer, vastgezette vLLM-revisie, verzoekgegevens, random seed, outputlengtes, concurrency en hetzelfde ondersteunde GPU-klokbeleid. We bewaarden de volledige resultaatbestanden en namen per workload het gemiddelde van twee runs vanaf een nieuw gestarte server. We selecteerden dus niet één gunstig terminalresultaat.",[10,371,372],{},"De standaardlogs bevestigen de gecompileerde uitvoering en graph capture. Ze laden geen Paiton-modelartefact en geen Paiton-computekernel.",[57,374,376],{"id":375},"wat-paiton-doet","Wat Paiton doet",[10,378,379],{},"Op hoofdlijnen bouwt Paiton een gekwalificeerd, model- en hardwarespecifiek uitvoeringspad en integreert dat met de servingruntime. Het oorspronkelijke AMD-checkpoint blijft ongewijzigd op schijf.",[10,381,382],{},"Tijdens het laden van het model stelt Paiton doelspecifieke runtimeartefacten samen. Er mag daarom niet van worden uitgegaan dat het geoptimaliseerde pad output oplevert die bit voor bit identiek is aan de standaard W4-uitvoering.",[10,384,385],{},"Daar stopt de technische toelichting over de implementatie. De modelspecifieke kernels, fusie, scheduling en het runtimeontwerp zijn gesloten Paiton-IP. We publiceren wel wat klanten kunnen valideren: het ondersteunde doel, de benchmarkmethode, throughput, latency, kwaliteitscontroles, pakketidentiteit en operationele scope.",[57,387,389],{"id":388},"kwaliteitscontroles","Kwaliteitscontroles",[10,391,392],{},"We voerden een deterministische testreeks met 12 gevallen uit. Die omvatte het volgen van instructies, rekenkunde, algebra, logica, feitenkennis, vertaling, gestructureerde JSON, Python, SQL, samenvatting, formaatbeperkingen en modulair redeneren.",[10,394,395],{},"Alle 12 tests slaagden. Herhaalde antwoorden met temperatuur nul waren byte-identiek en alle geregistreerde logwaarschijnlijkheden waren eindig.",[10,397,398],{},"Dit is een praktische kwaliteitscontrole voor de vermelde lokale chatscope. Ze vervangt geen volledige academische nauwkeurigheidsevaluatie en vormt geen claim van gelijke kwaliteit voor elke taak of promptverdeling.",[57,400,402],{"id":401},"voer-de-lokale-chatbot-uit","Voer de lokale chatbot uit",[10,404,405],{},"De publieke image bevat de Paiton-runtimeplug-in en gecompileerde runtimeartefacten. De image downloadt het oorspronkelijke AMD-checkpoint van 19,9 GB rechtstreeks van Hugging Face naar een persistent Docker-volume. Paiton distribueert de modelgewichten niet opnieuw.",[407,408,413],"pre",{"className":409,"code":410,"language":411,"meta":412,"style":412},"language-bash shiki shiki-themes github-light github-dark","docker run -d \\\n  --name paiton-qwen38 \\\n  --device \u002Fdev\u002Fkfd \\\n  --device \u002Fdev\u002Fdri \\\n  --group-add video \\\n  --ipc=host \\\n  --network host \\\n  --mount type=volume,src=paiton-qwen38-cache,dst=\u002Fmodels\u002Fcache \\\n  ghcr.io\u002Feliovp\u002Fpaiton-vllm-plugin@sha256:c56baf54aca1ad229829c1de26e8792806608e65ee9d06ee210b79cd49f70bc9\n","bash","",[414,415,416,436,447,458,468,479,487,498,509],"code",{"__ignoreMap":412},[417,418,421,425,429,433],"span",{"class":419,"line":420},"line",1,[417,422,424],{"class":423},"sScJk","docker",[417,426,428],{"class":427},"sZZnC"," run",[417,430,432],{"class":431},"sj4cs"," -d",[417,434,435],{"class":431}," \\\n",[417,437,439,442,445],{"class":419,"line":438},2,[417,440,441],{"class":431},"  --name",[417,443,444],{"class":427}," paiton-qwen38",[417,446,435],{"class":431},[417,448,450,453,456],{"class":419,"line":449},3,[417,451,452],{"class":431},"  --device",[417,454,455],{"class":427}," \u002Fdev\u002Fkfd",[417,457,435],{"class":431},[417,459,461,463,466],{"class":419,"line":460},4,[417,462,452],{"class":431},[417,464,465],{"class":427}," \u002Fdev\u002Fdri",[417,467,435],{"class":431},[417,469,471,474,477],{"class":419,"line":470},5,[417,472,473],{"class":431},"  --group-add",[417,475,476],{"class":427}," video",[417,478,435],{"class":431},[417,480,482,485],{"class":419,"line":481},6,[417,483,484],{"class":431},"  --ipc=host",[417,486,435],{"class":431},[417,488,490,493,496],{"class":419,"line":489},7,[417,491,492],{"class":431},"  --network",[417,494,495],{"class":427}," host",[417,497,435],{"class":431},[417,499,501,504,507],{"class":419,"line":500},8,[417,502,503],{"class":431},"  --mount",[417,505,506],{"class":427}," type=volume,src=paiton-qwen38-cache,dst=\u002Fmodels\u002Fcache",[417,508,435],{"class":431},[417,510,512],{"class":419,"line":511},9,[417,513,514],{"class":427},"  ghcr.io\u002Feliovp\u002Fpaiton-vllm-plugin@sha256:c56baf54aca1ad229829c1de26e8792806608e65ee9d06ee210b79cd49f70bc9\n",[10,516,517],{},"Bij de eerste start wordt het checkpoint gedownload. Als de gewichten al in de cache staan, duurt de modelsamenstelling op onze R9700 ongeveer 10 tot 12 minuten. Volg het opstartproces met:",[407,519,521],{"className":409,"code":520,"language":411,"meta":412,"style":412},"docker logs -f paiton-qwen38\n",[414,522,523],{"__ignoreMap":412},[417,524,525,527,530,533],{"class":419,"line":420},[417,526,424],{"class":423},[417,528,529],{"class":427}," logs",[417,531,532],{"class":431}," -f",[417,534,535],{"class":427}," paiton-qwen38\n",[10,537,538],{},"Zodra de logs melden dat de applicatie gereed is, opent u de meegeleverde streamingchat:",[407,540,542],{"className":409,"code":541,"language":411,"meta":412,"style":412},"docker exec -it paiton-qwen38 paiton-chat\n",[414,543,544],{"__ignoreMap":412},[417,545,546,548,551,554,556],{"class":419,"line":420},[417,547,424],{"class":423},[417,549,550],{"class":427}," exec",[417,552,553],{"class":431}," -it",[417,555,444],{"class":427},[417,557,558],{"class":427}," paiton-chat\n",[10,560,561,562,565,566,569,570,573],{},"Gebruik ",[414,563,564],{},"\u002Freset"," om het gesprek te wissen en ",[414,567,568],{},"\u002Fquit"," om af te sluiten. Thinking is standaard uitgeschakeld voor een responsieve lokale chat. Geef indien nodig ",[414,571,572],{},"--thinking"," mee.",[10,575,576,577,580,581,48],{},"Dezelfde server stelt een OpenAI-compatibel eindpunt beschikbaar op\n",[414,578,579],{},"http:\u002F\u002F127.0.0.1:8000\u002Fv1\u002Fchat\u002Fcompletions"," met modelnaam ",[414,582,583],{},"qwen38",[57,585,587],{"id":586},"reproduceer-de-interactieve-benchmark","Reproduceer de interactieve benchmark",[10,589,590],{},"Nadat de server gereed is:",[407,592,594],{"className":409,"code":593,"language":411,"meta":412,"style":412},"docker exec paiton-qwen38 sh -lc '\nMODEL_DIR=\"$(find \u002Ftmp -maxdepth 2 -type d \\\n  -path \"\u002Ftmp\u002Fpaiton-qwen38-reused-*\u002Fmodel\" -print -quit)\"\nexec vllm bench serve \\\n  --backend openai-chat \\\n  --base-url http:\u002F\u002F127.0.0.1:8000 \\\n  --endpoint \u002Fv1\u002Fchat\u002Fcompletions \\\n  --model qwen38 \\\n  --tokenizer \"$MODEL_DIR\" \\\n  --dataset-name random \\\n  --seed 42 \\\n  --num-warmups 3 \\\n  --num-prompts 12 \\\n  --random-input-len 256 \\\n  --random-output-len 256 \\\n  --random-range-ratio 0 \\\n  --random-prefix-len 0 \\\n  --request-rate inf \\\n  --max-concurrency 1 \\\n  --temperature 0 \\\n  --ignore-eos \\\n  --extra-body '\\''{\"chat_template_kwargs\":{\"enable_thinking\":false}}'\\'' \\\n  --percentile-metrics ttft,tpot,itl,e2el \\\n  --metric-percentiles 50,90,95,99 \\\n  --disable-tqdm\n'\n",[414,595,596,613,618,623,628,633,638,643,648,653,659,665,671,677,683,689,695,701,707,713,719,725,742,748,754,760],{"__ignoreMap":412},[417,597,598,600,602,604,607,610],{"class":419,"line":420},[417,599,424],{"class":423},[417,601,550],{"class":427},[417,603,444],{"class":427},[417,605,606],{"class":427}," sh",[417,608,609],{"class":431}," -lc",[417,611,612],{"class":427}," '\n",[417,614,615],{"class":419,"line":438},[417,616,617],{"class":427},"MODEL_DIR=\"$(find \u002Ftmp -maxdepth 2 -type d \\\n",[417,619,620],{"class":419,"line":449},[417,621,622],{"class":427},"  -path \"\u002Ftmp\u002Fpaiton-qwen38-reused-*\u002Fmodel\" -print -quit)\"\n",[417,624,625],{"class":419,"line":460},[417,626,627],{"class":427},"exec vllm bench serve \\\n",[417,629,630],{"class":419,"line":470},[417,631,632],{"class":427},"  --backend openai-chat \\\n",[417,634,635],{"class":419,"line":481},[417,636,637],{"class":427},"  --base-url http:\u002F\u002F127.0.0.1:8000 \\\n",[417,639,640],{"class":419,"line":489},[417,641,642],{"class":427},"  --endpoint \u002Fv1\u002Fchat\u002Fcompletions \\\n",[417,644,645],{"class":419,"line":500},[417,646,647],{"class":427},"  --model qwen38 \\\n",[417,649,650],{"class":419,"line":511},[417,651,652],{"class":427},"  --tokenizer \"$MODEL_DIR\" \\\n",[417,654,656],{"class":419,"line":655},10,[417,657,658],{"class":427},"  --dataset-name random \\\n",[417,660,662],{"class":419,"line":661},11,[417,663,664],{"class":427},"  --seed 42 \\\n",[417,666,668],{"class":419,"line":667},12,[417,669,670],{"class":427},"  --num-warmups 3 \\\n",[417,672,674],{"class":419,"line":673},13,[417,675,676],{"class":427},"  --num-prompts 12 \\\n",[417,678,680],{"class":419,"line":679},14,[417,681,682],{"class":427},"  --random-input-len 256 \\\n",[417,684,686],{"class":419,"line":685},15,[417,687,688],{"class":427},"  --random-output-len 256 \\\n",[417,690,692],{"class":419,"line":691},16,[417,693,694],{"class":427},"  --random-range-ratio 0 \\\n",[417,696,698],{"class":419,"line":697},17,[417,699,700],{"class":427},"  --random-prefix-len 0 \\\n",[417,702,704],{"class":419,"line":703},18,[417,705,706],{"class":427},"  --request-rate inf \\\n",[417,708,710],{"class":419,"line":709},19,[417,711,712],{"class":427},"  --max-concurrency 1 \\\n",[417,714,716],{"class":419,"line":715},20,[417,717,718],{"class":427},"  --temperature 0 \\\n",[417,720,722],{"class":419,"line":721},21,[417,723,724],{"class":427},"  --ignore-eos \\\n",[417,726,728,731,734,737,739],{"class":419,"line":727},22,[417,729,730],{"class":427},"  --extra-body '",[417,732,733],{"class":431},"\\'",[417,735,736],{"class":427},"'{\"chat_template_kwargs\":{\"enable_thinking\":false}}'",[417,738,733],{"class":431},[417,740,741],{"class":427},"' \\\n",[417,743,745],{"class":419,"line":744},23,[417,746,747],{"class":427},"  --percentile-metrics ttft,tpot,itl,e2el \\\n",[417,749,751],{"class":419,"line":750},24,[417,752,753],{"class":427},"  --metric-percentiles 50,90,95,99 \\\n",[417,755,757],{"class":419,"line":756},25,[417,758,759],{"class":427},"  --disable-tqdm\n",[417,761,763],{"class":419,"line":762},26,[417,764,765],{"class":427},"'\n",[10,767,768],{},"Eén run is nuttig als lokale controle, maar het energiebeheer van een consumentengpu kan een cold run vertragen. Voer eerst een korte warm-up uit en controleer of de geheugenklok zijn normale belaste toestand heeft bereikt voordat u een vergelijking registreert.",[57,770,772],{"id":771},"geteste-configuratie","Geteste configuratie",[65,774,775,785],{},[68,776,777],{},[71,778,779,782],{},[74,780,781],{},"Onderdeel",[74,783,784],{},"Geteste waarde",[91,786,787,798,806,816,824,834,842,852,860,867,875],{},[71,788,789,792],{},[96,790,791],{},"GPU",[96,793,794,795],{},"AMD Radeon AI PRO R9700, 32 GB, ",[414,796,797],{},"gfx1201",[71,799,800,803],{},[96,801,802],{},"Model",[96,804,805],{},"AMD Qwen3.8 27B Qronos W4A16 INT4",[71,807,808,811],{},[96,809,810],{},"Modelrevisie",[96,812,813],{},[414,814,815],{},"649ca9d47a7de5364c6fcccc0c1b4f6e542e15e2",[71,817,818,821],{},[96,819,820],{},"ROCm",[96,822,823],{},"7.14",[71,825,826,829],{},[96,827,828],{},"vLLM-revisie",[96,830,831],{},[414,832,833],{},"39bd959b582c85e78e7e0326d49042ce7c3c07ed",[71,835,836,839],{},[96,837,838],{},"Paiton-image",[96,840,841],{},"Qwen3.8 Qronos voor Radeon AI PRO R9700",[71,843,844,847],{},[96,845,846],{},"Image-digest",[96,848,849],{},[414,850,851],{},"sha256:c56baf54aca1ad229829c1de26e8792806608e65ee9d06ee210b79cd49f70bc9",[71,853,854,857],{},[96,855,856],{},"Tensorparallellisme",[96,858,859],{},"1",[71,861,862,865],{},[96,863,864],{},"Maximaal aantal actieve sequenties",[96,866,859],{},[71,868,869,872],{},[96,870,871],{},"Maximale context",[96,873,874],{},"8.192 tokens",[71,876,877,880],{},[96,878,879],{},"Gekwalificeerd bereik",[96,881,882],{},"Alleen tekst, inferentie voor één gebruiker",[10,884,885],{},"Het pakket weigert veilig te starten bij een niet-ondersteunde GPU-identiteit, architectuur, runtimecontract, artefactchecksum, modelcontract of servingconfiguratie. Meerdere gelijktijdige verzoeken worden in een wachtrij geplaatst.",[10,887,888],{},"Dit artikel claimt geen ondersteuning voor andere GPU's, ROCm-versies, tensorparallelle configuraties, multimodale input of continuous batching in productie.",[57,890,892],{"id":891},"het-praktische-resultaat","Het praktische resultaat",[10,894,895,896,899,900,903,904,907],{},"Op één Radeon AI PRO R9700 verhoogde Paiton de interactieve Qwen3.8-outputthroughput van 32,86 naar 39,77 tokens per seconde. Dat betekent ",[13,897,898],{},"21,0% meer output per actief uur",", een ",[13,901,902],{},"daling van 17,4% in de gemodelleerde tijdsgebonden kosten per miljoen outputtokens"," en ongeveer ",[13,905,906],{},"124 miljoen extra tokens over 5.000 productieve uren"," bij de gemeten interactieve snelheid.",[10,909,910],{},"De resultaten voor codering en lange context tonen dat de winst niet beperkt blijft tot één promptvorm. De latencygegevens maken ook de nuance duidelijk: streaming werd bij alle drie de workloads sneller, terwijl de latency van het eerste token afhankelijk bleef van de workload.",[57,912,914],{"id":913},"optimaliseer-uw-inferentieworkload-met-paiton","Optimaliseer uw inferentieworkload met Paiton",[10,916,917],{},"Dit is een gekwalificeerd resultaat voor de Radeon AI PRO R9700, één model en één servingscope. Paiton's bredere commerciële werk richt zich ook op AMD Instinct CDNA-accelerators voor grotere inferentiedeployments, waar throughput, benutting van de volledige GPU-vloot en kosten per gegenereerde token elkaar op infrastructuurniveau versterken.",[10,919,920],{},"We benchmarken de echte workload, identificeren het runtimeknelpunt, bouwen het gekwalificeerde AMD-pad en meten het geleverde resultaat aan de hand van een overeengekomen baseline.",[10,922,923,924,48],{},"Meer informatie over ",[20,925,86],{"href":926},"\u002Fproducts\u002Fpaiton",[928,929,930],"style",{},"html pre.shiki code .sScJk, html code.shiki .sScJk{--shiki-default:#6F42C1;--shiki-dark:#B392F0}html pre.shiki code .sZZnC, html code.shiki .sZZnC{--shiki-default:#032F62;--shiki-dark:#9ECBFF}html pre.shiki code .sj4cs, html code.shiki .sj4cs{--shiki-default:#005CC5;--shiki-dark:#79B8FF}html .default .shiki span {color: var(--shiki-default);background: var(--shiki-default-bg);font-style: var(--shiki-default-font-style);font-weight: var(--shiki-default-font-weight);text-decoration: var(--shiki-default-text-decoration);}html .shiki span {color: var(--shiki-default);background: var(--shiki-default-bg);font-style: var(--shiki-default-font-style);font-weight: var(--shiki-default-font-weight);text-decoration: var(--shiki-default-text-decoration);}html .dark .shiki span {color: var(--shiki-dark);background: var(--shiki-dark-bg);font-style: var(--shiki-dark-font-style);font-weight: var(--shiki-dark-font-weight);text-decoration: var(--shiki-dark-text-decoration);}html.dark .shiki span {color: var(--shiki-dark);background: var(--shiki-dark-bg);font-style: var(--shiki-dark-font-style);font-weight: var(--shiki-dark-font-weight);text-decoration: var(--shiki-dark-text-decoration);}",{"title":412,"searchDepth":438,"depth":438,"links":932},[933,934,935,936,937,938,939,940,941,942,943],{"id":59,"depth":438,"text":60},{"id":165,"depth":438,"text":166},{"id":209,"depth":438,"text":210},{"id":359,"depth":438,"text":360},{"id":375,"depth":438,"text":376},{"id":388,"depth":438,"text":389},{"id":401,"depth":438,"text":402},{"id":586,"depth":438,"text":587},{"id":771,"depth":438,"text":772},{"id":891,"depth":438,"text":892},{"id":913,"depth":438,"text":914},[86,945,946,947,948,949,950,951,952,953],"Kunstmatige intelligentie","AMD Radeon","AI-inferentie","GPU-prestaties","Inferentielatentie","Inferentie-optimalisatie","Grote taalmodellen","vLLM","Kostenefficiëntie","2026-09-04T09:00:00","Paiton draait AMD's Qwen3.8 27B op één Radeon AI PRO R9700 met 39,77 outputtokens per seconde. Dat levert 21% meer throughput en 17,4% lagere gemodelleerde kosten op.","md","\u002Fasset\u002Fimages\u002Fblog\u002Fpaiton-r9700\u002F00-featured-paiton-r9700.webp",{},true,"https:\u002F\u002Feliovp.com\u002Fblog\u002Fpaiton-qwen38-radeon-ai-pro-r9700","\u002Fblog\u002Fpaiton-qwen38-radeon-ai-pro-r9700",{"title":5,"description":955},"paiton-qwen38-radeon-ai-pro-r9700","blog\u002Fpaiton-qwen38-radeon-ai-pro-r9700","nWbZQIelxMJaSRKuKnhiMDQc5AeiWBu1vdllX-0OQsY",[967,969,984,1015,1027,1049,1067,1086,1105,1123,1139,1151,1167,1182,1194,1203,1211,1226,1238,1249,1260,1270,1283,1293,1306,1317,1327,1338,1347,1359,1370,1379],{"path":961,"title":5,"description":955,"date":954,"slug":963,"image":957,"originalUrl":960,"categories":968},[86,945,946,947,948,949,950,951,952,953],{"path":970,"title":971,"description":972,"date":973,"slug":974,"image":975,"originalUrl":976,"categories":977},"\u002Fblog\u002Fai-data-center-power-requirements-gpu-per-megawatt","Stroomvereisten voor AI-datacenters: de GPU-per-MW-illusie","Waarom vermelden offertes voor AI-datacenters verschillende GPU-capaciteiten? Ontdek hoe PUE, piekbelasting, opslag, netwerken en koeling bepalen hoeveel compute werkelijk inzetbaar is.","2026-07-27T23:52:00","ai-data-center-power-requirements-gpu-per-megawatt","\u002Fasset\u002Fimages\u002Fblog\u002Fai-data-center-power-requirements-gpu-per-megawatt\u002Fgpu-per-megawatt-illusion.webp",null,[978,979,980,981,982,983],"Alle","AI-infrastructuur","Datacenters","ModFlex","HPC","AMD Helios",{"path":985,"title":986,"description":987,"date":988,"slug":989,"image":990,"originalUrl":991,"categories":992},"\u002Fblog\u002Fpaiton-returns-to-its-diffusion-roots-optimizing-wan2-2-t2v-a14b-on-amd-mi355x","Paiton keert terug naar zijn diffusiewortels: optimalisatie van Wan2.2-T2V-A14B op AMD MI355X","Toen we begonnen met het bouwen van Paiton, was een van onze eerste aandachtsgebieden het optimaliseren van diffusiemodellen. Stable Diffusion XL was een van de eerste grote modellen waarin we lieten zien dat gefuseerde operators, efficiënte uitvoering en hardwarebewuste kernels een echt verschil konden maken. Nu keren we terug naar die oorsprong. Met de groeiende belangstelling voor het genereren van tekst-naar-video, ...","2026-06-10T14:04:04","paiton-returns-to-its-diffusion-roots-optimizing-wan2-2-t2v-a14b-on-amd-mi355x","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Fpaitonwan2.webp","https:\u002F\u002Feliovp.com\u002Fpaiton-returns-to-its-diffusion-roots-optimizing-wan2-2-t2v-a14b-on-amd-mi355x\u002F",[978,945,86,993,994,995,996,997,998,999,1000,1001,791,1002,1003,1004,1005,1006,1007,1008,86,1009,1010,1011,1012,1013,1014],"14B","AMD","B200","Benchmarks","Blackwell","Compute","Diffusie","Eliovp","Generatieve AI","Hardware","Inferentie","Instinct","MI355x","NVidia","On-premises","Optimalisatie","Soevereine AI","T2V","Tekst-naar-video","Tuning","Video-generatie","Wan2.2",{"path":1016,"title":1017,"description":1018,"date":1019,"slug":1020,"image":1021,"originalUrl":1022,"categories":1023},"\u002Fblog\u002Ffrom-the-attic-to-the-front-page-eliovp-recognized-as-a-pioneer-in-chip-optimization-data-center-infrastructure","Van zolder tot voorpagina: ElioVP erkend als pionier op het gebied van chipoptimalisatie en datacenterinfrastructuur","Het waren bijzondere weken voor het team van Eliovp. Ons bedrijf haalde de voorpagina van De Tijd, de toonaangevende zakenkrant van België. Ons verhaal begon bij een oprichter die op zolder aan hardware sleutelde en groeide uit tot een onderneming met 215 miljoen euro omzet.","2026-02-10T20:48:12","from-the-attic-to-the-front-page-eliovp-recognized-as-a-pioneer-in-chip-optimization-data-center-infrastructure","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Fphysicalnewspaper.webp","https:\u002F\u002Feliovp.com\u002Ffrom-the-attic-to-the-front-page-eliovp-recognized-as-a-pioneer-in-chip-optimization-data-center-infrastructure\u002F",[978,945,1024,1025,994,1026,1024,1006],"Modulaire DC","Niet gecategoriseerd","De Tijd",{"path":1028,"title":1029,"description":1030,"date":1031,"slug":1032,"image":1033,"originalUrl":1034,"categories":1035},"\u002Fblog\u002Fprivacy-is-geen-it-probleem-meer-het-is-een-strategische-prioriteit","Privacy is geen IT-probleem meer, het is een strategische prioriteit","Privacyrisico's, psychologische valkuilen en de operationele realiteit van generatieve AI in de Benelux. Waarom bedrijven gevoelige gegevens, governance en lokale AI strategisch moeten benaderen.","2026-01-29T13:51:11","privacy-is-geen-it-probleem-meer-het-is-een-strategische-prioriteit","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Fheaderimage.webp","https:\u002F\u002Feliovp.com\u002Fprivacy-is-geen-it-probleem-meer-het-is-een-strategische-prioriteit\u002F",[978,945,1036,1025,1037,1038,1039,1040,1041,1042,1043,1044,1000,1045,1001,1046,1047,1048],"Trending","AI Act","Antropomorfisme","AVG","Benelux","ChatGPT","Cyberbeveiliging","Databeheer","Gegevensbeveiliging","GDPR","Microsoft Copilot","Privacy","Shadow AI",{"path":1050,"title":1051,"description":1052,"date":1053,"slug":1054,"image":1055,"originalUrl":1056,"categories":1057},"\u002Fblog\u002Fitsme-bij-ons-is-het-its-not-me-en-dit-is-waarom","Itsme? Bij ons is het “it's not me”, en dit is waarom.","Waarom Eliovp itsme niet gebruikt voor medewerkers en interne processen: een analyse van datasoevereiniteit, cloudjurisdictie, metadata, eigendomsstructuur en technische risico's.","2025-11-27T09:32:14","itsme-bij-ons-is-het-its-not-me-en-dit-is-waarom","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Ffrontimage.webp","https:\u002F\u002Feliovp.com\u002Fitsme-bij-ons-is-het-its-not-me-en-dit-is-waarom\u002F",[978,1058,1059,1060,1042,1061,1062,1063,1045,1064,1065,1066,1047],"AWS","Belgian Mobile ID","CLOUD Act","Datasoevereiniteit","Digitale identiteit","eIDAS","itsme","Liberty Global","MyGov.be",{"path":1068,"title":1069,"description":1070,"date":1071,"slug":1072,"image":1073,"originalUrl":1074,"categories":1075},"\u002Fblog\u002Ffield-report-the-reality-of-building-agentic-ai-in-2025","Praktijkrapport: de realiteit van Agentic AI bouwen in 2025","De verwachtingen rond Agentic AI staan vaak ver af van de technische realiteit. Dit praktijkrapport beschrijft wat er nodig is om betrouwbare, lokale AI-agents voor bedrijfsworkflows te bouwen, van modulaire architectuur en observability tot modeltraining, VRAM en soevereine infrastructuur.","2025-11-25T14:03:39","field-report-the-reality-of-building-agentic-ai-in-2025","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Ffieldreport.webp","https:\u002F\u002Feliovp.com\u002Ffield-report-the-reality-of-building-agentic-ai-in-2025\u002F",[978,945,1076,1036,1077,1078,1079,1080,1081,1082,1083,1084,1009,1085],"Oplossingen","Agentic AI","AI-techniek","AI-strategie","Autonome agenten","Bedrijfs-AI","Lokale LLM","Modelverfijning","AI op locatie","VRAM-optimalisatie",{"path":1087,"title":1088,"description":1089,"date":1090,"slug":1091,"image":1092,"originalUrl":1093,"categories":1094},"\u002Fblog\u002Fthe-synthetic-unicorn-bubble","De synthetische unicornzeepbel","Hoe AI-neocloudinfrastructuur circulaire kasstromen omzet in schijngroei. Tussen 2023 en 2025 stroomden miljarden aan durfkapitaal naar het neocloudecosysteem. Onze analyse onderzoekt hoe circulaire financiering, vaporware-infrastructuur en roofzuchtige contracten onderliggende activawaarden kunstmatig kunnen opbouwen.","2025-11-24T19:22:28","the-synthetic-unicorn-bubble","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Fsyntheticunicorn.webp","https:\u002F\u002Feliovp.com\u002Fthe-synthetic-unicorn-bubble\u002F",[978,945,1036,1095,1096,1097,1098,1099,1100,1101,1102,1103,1104],"AI Infrastructure","AI Neocloud","Circulaire financiering","GPU Cloud","Beleggingsrisico's","Opstartwaardering","Synthetische bubbel","Technische analyse","Vaporware","Durfkapitaal",{"path":1106,"title":1107,"description":1108,"date":1109,"slug":1110,"image":1111,"originalUrl":1112,"categories":1113},"\u002Fblog\u002Fbuilding-the-engine-for-the-ai-race-the-4-month-path-to-nvidia-gb300-nvl72-power","De motor voor de AI-race bouwen: in vier maanden klaar voor NVIDIA GB300 NVL72","Bij AI-infrastructuur is snelheid een concurrentieel voordeel. Traditionele datacenterprojecten duren vaak 18 tot 24 maanden. Onze modulaire aanpak levert in vier maanden een operationele faciliteit die specifiek is ontworpen voor de NVIDIA GB300 NVL72.","2025-11-20T14:10:19","building-the-engine-for-the-ai-race-the-4-month-path-to-nvidia-gb300-nvl72-power","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Fsuperpodmodflexfrontimage.webp","https:\u002F\u002Feliovp.com\u002Fbuilding-the-engine-for-the-ai-race-the-4-month-path-to-nvidia-gb300-nvl72-power\u002F",[978,1024,1025,1114,979,1115,1116,1117,1118,1119,1120,1121,1122],"150 kW rek","DLC","Hoge dichtheid","Vloeistofkoeling","Modulair datacenter","NVIDIA Blackwell Ultra","NVIDIA GB300","NVL72","Snelle implementatie",{"path":1124,"title":1125,"description":1126,"date":1127,"slug":1128,"image":1129,"originalUrl":1130,"categories":1131},"\u002Fblog\u002Fwhy-cuda-translation-wont-unlock-amds-real-potential","Waarom de “CUDA”-vertaling het echte potentieel van AMD niet zal ontsluiten","Om de paar jaar verschijnt een oplossing met dezelfde belofte: behoud uw CUDA-code, wissel van toolchain en draai plots op verschillende GPU-platforms. Dat kan nuttig zijn voor compatibiliteit, maar ontsluit niet automatisch AMD's echte prestatiepotentieel. Daarvoor zijn AMD-first kernels, libraries en tuning nodig.","2025-11-12T14:48:37","why-cuda-translation-wont-unlock-amds-real-potential","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Fchatgpt-image-nov-11-2025-09_16_10-pm-1.webp","https:\u002F\u002Feliovp.com\u002Fwhy-cuda-translation-wont-unlock-amds-real-potential\u002F",[978,945,86,1025,1132,945,1133,1134,1135,1136,1137,1138,86,820],"AMD MI300X","CUDA-vertaling","FP8","GPU-optimalisatie","Hoogwaardige computers","HIP","Kerneltuning",{"path":1140,"title":1141,"description":1142,"date":1143,"slug":1144,"image":1145,"originalUrl":1146,"categories":1147},"\u002Fblog\u002Fpaiton-the-simplest-way-to-supercharge-ai-inference","Paiton: de eenvoudigste manier om AI-inferentie een boost te geven","Laten we eerlijk zijn: marketing is niet onze sterkste kant. We namen nooit extern kapitaal aan, verbrandden geen budget aan advertentiecampagnes en bouwden geen verkoopleger. We bouwen gewoon technologie die werkt. Paiton versnelt uw bestaande inferentiestack zonder migratie, nieuwe API's of modelconversie.","2025-11-11T10:31:22","paiton-the-simplest-way-to-supercharge-ai-inference","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Fpaiton-powaaah.webp","https:\u002F\u002Feliovp.com\u002Fpaiton-the-simplest-way-to-supercharge-ai-inference\u002F",[978,945,86,947,1148,1132,953,1149,950,1138,86,1150,952],"AMD Instinct","Hoge throughput","SGLang",{"path":1152,"title":1153,"description":1154,"date":1155,"slug":1156,"image":1157,"originalUrl":1158,"categories":1159},"\u002Fblog\u002Fstop-overpaying-paiton-mi300x-moe-beats-h200-b200-on-1m-tokens","Stop met te veel betalen: Paiton MI300X MoE verslaat H200\u002FB200 in kosten per 1 miljoen tokens","We benchmarkten Paiton's nieuwe MoE-ondersteuning met Qwen\u002FQwen3-30B-A3B-Instruct-2507 en vergeleken de inferentieprestaties van verschillende opstellingen. Elke configuratie draaide vijf keer per batchgrootte. We rapporteren het gemiddelde van die runs op basis van realistische conversationele workloads.","2025-09-26T13:36:18","stop-overpaying-paiton-mi300x-moe-beats-h200-b200-on-1m-tokens","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Fhulkvshulkpaitonwins.webp","https:\u002F\u002Feliovp.com\u002Fstop-overpaying-paiton-mi300x-moe-beats-h200-b200-on-1m-tokens\u002F",[978,945,86,1160,1132,1161,950,1162,1163,1164,1165,86,1166],"AI-benchmarks","Kosten per token","Mixture of Experts","MoE","NVIDIA B200","NVIDIA H200","Qwen3",{"path":1168,"title":1169,"description":1170,"date":1171,"slug":1172,"image":1173,"originalUrl":1174,"categories":1175},"\u002Fblog\u002Fagentic-ai-but-make-it-local-from-inbox-to-insight-to-action-en","Agentic AI, maar dan lokaal: van inbox naar inzicht en actie","We bouwen productieklare, local-first AI-agents die aansluiten op uw bestaande e-mailomgeving. Ze maken tickets aan, classificeren berichten, lezen documenten, herkennen facturen en offertes, analyseren beelden en sturen gestructureerde rapporten naar uw systemen, zonder verplichte afhankelijkheid van externe AI-API's.","2025-09-16T13:09:00","agentic-ai-but-make-it-local-from-inbox-to-insight-to-action-en","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Ffrontfotoblog.webp","https:\u002F\u002Feliovp.com\u002Fagentic-ai-but-make-it-local-from-inbox-to-insight-to-action-en\u002F",[978,945,1076,1025,1077,1176,1177,1178,1179,1082,1084,1009,1180,1181],"Schadedetectie","Documentverwerking","E-mailautomatisering","Factuurextractie","Ticketautomatisering","Workflowautomatisering",{"path":1183,"title":1184,"description":1185,"date":1186,"slug":1187,"image":1188,"originalUrl":1189,"categories":1190},"\u002Fblog\u002Fmi300x-fp8-data-parallel-benchmarks-8-64-gpus-h200-left-behind-b200-within-reach","MI300X FP8 data-parallelle benchmarks (8 tot 64 GPU's): H200 achter zich, B200 binnen bereik","We schalen Llama-3.1-8B-Instruct-FP8-KV met Paiton op een gepartitioneerde AMD MI300X-server van 8 fysieke GPU's naar 64 virtuele GPU's. De resultaten tonen sterke multi-tenant throughput, veel lagere latency en een bijna gelijkspel met NVIDIA's B200.","2025-07-31T13:32:57","mi300x-fp8-data-parallel-benchmarks-8-64-gpus-h200-left-behind-b200-within-reach","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Fimage-2-1.webp","https:\u002F\u002Feliovp.com\u002Fmi300x-fp8-data%e2%80%91parallel-benchmarks-8-64-gpus-h200-left-behind-b200-within-reach\u002F",[978,945,86,1025,1191,994,995,1192,1193,1005,1006,86,952],"AI","H200","MI300X",{"path":1195,"title":1196,"description":1197,"date":1198,"slug":1199,"image":1200,"originalUrl":1201,"categories":1202},"\u002Fblog\u002Fapplicable-ai-for-businesses","Toepasbare AI voor bedrijven","Bij Eliovp blijven we innoveren om praktische oplossingen te bouwen. Een van onze grootste sterktes is het vermogen om buiten de gebaande paden te denken. Daarom ontwikkelen we toepasbare AI-oplossingen die dagelijks bruikbaar zijn en precies aansluiten op de behoeften van onze klanten.","2025-07-09T21:35:30","applicable-ai-for-businesses","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Fscherm_afbeelding-2025-07-09-om-23.30.17.webp","https:\u002F\u002Feliovp.com\u002Fapplicable-ai-for-businesses\u002F",[978,945,1076,1077,1176,1177,1178,1179,1082,1084,1009,1180,1181],{"path":1204,"title":1205,"description":1206,"date":1207,"slug":1208,"image":412,"originalUrl":1209,"categories":1210},"\u002Fblog\u002Fintroducing-paitons-free-evaluation-models","Maak kennis met de gratis evaluatiemodellen van Paiton","AI verandert elke sector in hoog tempo, maar grote modellen efficiënt uitvoeren blijft een aanzienlijke technische en financiële uitdaging. ElioVP specialiseert zich in optimalisatie voor AMD-accelerators en helpt organisaties het volledige potentieel van hun hardware te benutten. Met onze gratis evaluatiemodellen kunt u de optimalisaties van Paiton vooraf op uw eigen workloads testen.","2025-07-07T11:26:13","introducing-paitons-free-evaluation-models","https:\u002F\u002Feliovp.com\u002Fintroducing-paitons-free-evaluation-models\u002F",[978,945,86],{"path":1212,"title":1213,"description":1214,"date":1215,"slug":1216,"image":1217,"originalUrl":1218,"categories":1219},"\u002Fblog\u002Fpaiton-dramatically-faster-startup-and-performance-for-llama-3-1-405b","Paiton: veel sneller opstarten en betere prestaties voor Llama-3.1-405B","Met Paiton streven we niet alleen naar maximale inferentiesnelheden. We verbeteren de volledige levenscyclus van de deployment van grote taalmodellen. Onze nieuwste test combineert AMD MI300X-GPU's met het omvangrijke Llama-3.1-405B-Instruct-FP8-KV-model en levert baanbrekende resultaten op voor zowel opstartsnelheid als runtimeprestaties.","2025-06-12T20:15:23","paiton-dramatically-faster-startup-and-performance-for-llama-3-1-405b","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Fservingscreenshot.webp","https:\u002F\u002Feliovp.com\u002Fpaiton-dramatically-faster-startup-and-performance-for-llama-3-1-405b\u002F",[978,945,86,1025,947,1132,1220,1134,1221,1222,1223,86,1224,1225],"Koude start","Grafiekcompilatie","Llama 3.1 405B","LLM-optimalisatie","Opstartlatentie","Tensor-parallellisme",{"path":1227,"title":1228,"description":1229,"date":1230,"slug":1231,"image":1232,"originalUrl":1233,"categories":1234},"\u002Fblog\u002Fpaiton-fp8-beats-nvidias-h200-on-amds-mi300x","Paiton FP8 verslaat NVIDIA's H200 op AMD's MI300X","AI evolueert razendsnel en efficiënte inferentie is essentieel om krachtige modellen in praktijksituaties in te zetten. Paiton levert nu sterkere FP8-inferentieprestaties op AMD MI300X-GPU's dan NVIDIA's H200, dankzij zorgvuldig geoptimaliseerde kernels.","2025-06-08T19:12:40","paiton-fp8-beats-nvidias-h200-on-amds-mi300x","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Fblognewfp8.webp","https:\u002F\u002Feliovp.com\u002Fpaiton-fp8-beats-nvidias-h200-on-amds-mi300x\u002F",[978,945,86,1025,1132,1235,1081,1001,948,949,951,1222,1236,1237],"Koude startoptimalisatie","Model serving","vLLM-optimalisatie",{"path":1239,"title":1240,"description":1241,"date":1242,"slug":1243,"image":1244,"originalUrl":1245,"categories":1246},"\u002Fblog\u002Fmi300x-vs-h200-vs-rx-7900-xtx-vs-tenstorrent-n300s-with-vllm","MI300X versus H200 versus RX 7900 XTX versus Tenstorrent n300s met vLLM","Nu grote taalmodellen een fundamenteel onderdeel worden van moderne toepassingen, is de juiste server voor deployment belangrijker dan ooit. We vergelijken AMD MI300X, NVIDIA H200, AMD RX 7900 XTX en Tenstorrent n300s met vLLM op throughput en kosten.","2025-05-09T14:03:58","mi300x-vs-h200-vs-rx-7900-xtx-vs-tenstorrent-n300s-with-vllm","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Fcomparisontenstor.webp","https:\u002F\u002Feliovp.com\u002Fmi300x-vs-h200-vs-rx-7900-xtx-vs-tenstorrent-n300s-with-vllm\u002F",[978,945,86,1076,1025,994,1193,1006,1247,1248],"RX7900XTX","tenstorrent",{"path":1250,"title":1251,"description":1252,"date":1253,"slug":1254,"image":1255,"originalUrl":1256,"categories":1257},"\u002Fblog\u002Fclusterpl-empowering-gpu-cluster-investors-with-real-world-financial-insights","ClusterP&L: financiële inzichten voor investeerders in GPU-clusters","Eliovp ontwerpt, bouwt en optimaliseert al jaren GPU-clusters in heel Europa. Omdat klanten ons telkens opnieuw vroegen om een P&L-model voor hun investering, bundelden we onze praktijkkennis in ClusterP&L: een toegankelijke, voortdurend bijgewerkte tool voor financiële prognoses van GPU-infrastructuur.","2025-05-03T10:52:22","clusterpl-empowering-gpu-cluster-investors-with-real-world-financial-insights","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Fcomparisonscenarios.webp","https:\u002F\u002Feliovp.com\u002Fclusterpl-empowering-gpu-cluster-investors-with-real-world-financial-insights\u002F",[978,945,1024,1076,995,1192,1258,1006,1259],"MI325x","pnl-rekenmachine",{"path":1261,"title":1262,"description":1263,"date":1264,"slug":1265,"image":1266,"originalUrl":1267,"categories":1268},"\u002Fblog\u002Fcranking-out-faster-tokens-for-fewer-dollars-amd-mi300x-vs-nvidia-h200","Snellere tokens voor minder geld: AMD MI300X tegenover NVIDIA H200","We vergelijken Qwen3-32B op een AMD MI300X, geoptimaliseerd met Paiton, met de NVIDIA H200. De resultaten tonen hoe Paiton vergelijkbare of betere prestaties kan leveren tegen lagere hardwarekosten en met aantrekkelijke kosten per miljoen tokens.","2025-05-02T21:10:30","cranking-out-faster-tokens-for-fewer-dollars-amd-mi300x-vs-nvidia-h200","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002F3ac59a73-2466-4422-b7e5-ef2e4a8ca58e.webp","https:\u002F\u002Feliovp.com\u002Fcranking-out-faster-tokens-for-fewer-dollars-amd-mi300x-vs-nvidia-h200\u002F",[978,945,86,1191,994,1192,1269,1006,86,952],"MI300",{"path":1271,"title":1272,"description":1273,"date":1274,"slug":1275,"image":1276,"originalUrl":1277,"categories":1278},"\u002Fblog\u002Fpower-meets-precision-high-density-modular-data-center-for-nvidia-nvl-deployments-1-2-mw","Waar vermogen en precisie samenkomen: modulair high-density datacenter voor NVIDIA NVL-deployments (1 tot 2 MW)","Eliovp ontwikkelt modulaire high-density infrastructuur voor AI-workloads van Blackwell-klasse. Het platform ondersteunt NVIDIA NVL-configuraties van NVL4 tot NVL72, van gedistribueerde edge-inferentie tot modeltraining op hyperscale, met 1 tot 2 MW IT-vermogen per module.","2025-05-02T14:09:59","power-meets-precision-high-density-modular-data-center-for-nvidia-nvl-deployments-1-2-mw","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Feliovp_critical-1mw-pod_rev-2_transparent.webp","https:\u002F\u002Feliovp.com\u002Fpower-meets-precision-high-density-modular-data-center-for-nvidia-nvl-deployments-1-2-mw\u002F",[978,1024,1279,1095,1116,982,1117,1118,1280,1281,1121,1282],"1-2MW datacenter","NVIDIA Blackwell","NVIDIA NVL","Precisiekoeling",{"path":1284,"title":1285,"description":1286,"date":1287,"slug":1288,"image":1289,"originalUrl":1290,"categories":1291},"\u002Fblog\u002Fexamining-ai-agents-in-the-medical-field-ai-that-speaks-dicom","AI-agents in de medische wereld: AI die DICOM spreekt","Eliovp ontwikkelde een medische AI-agent die rechtstreeks met DICOM-servers in ziekenhuizen communiceert. De assistent kan patiënten en onderzoeken opzoeken, relevante beelden ophalen en medische beeldanalyse ondersteunen binnen de lokale ziekenhuisinfrastructuur.","2025-04-11T14:45:48","examining-ai-agents-in-the-medical-field-ai-that-speaks-dicom","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Fhealthcareblog-1.webp","https:\u002F\u002Feliovp.com\u002Fexamining-ai-agents-in-the-medical-field-ai-that-speaks-dicom\u002F",[978,945,1076,1025,1191,994,1292],"Zorg",{"path":1294,"title":1295,"description":1296,"date":1297,"slug":1298,"image":1299,"originalUrl":1300,"categories":1301},"\u002Fblog\u002Feliovp-bv-your-trusted-partner-for-supply-chain-resilience-amidst-new-u-s-tariffs","Eliovp BV: uw partner voor een veerkrachtige supply chain bij nieuwe Amerikaanse invoerheffingen","Het internationale handelslandschap verandert snel. Nieuwe Amerikaanse invoerheffingen zorgen voor onzekerheid, vooral bij bedrijven die afhankelijk zijn van high-performance computing en AI-infrastructuur. Eliovp helpt klanten hun supply chain veerkrachtig, betrouwbaar en kostenefficiënt te houden.","2025-04-04T10:01:27","eliovp-bv-your-trusted-partner-for-supply-chain-resilience-amidst-new-u-s-tariffs","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Ftariffsshipping.webp","https:\u002F\u002Feliovp.com\u002Feliovp-bv-your-trusted-partner-for-supply-chain-resilience-amidst-new-u-s-tariffs\u002F",[978,1036,1191,994,1302,1303,1304,1305],"importeren","Taiwan","Tarieven","Trump",{"path":1307,"title":1308,"description":1309,"date":1310,"slug":1311,"image":1312,"originalUrl":1313,"categories":1314},"\u002Fblog\u002Fwhy-ai-agents-are-the-future","Waarom AI-agenten de toekomst zijn","AI-agenten integreren met uw bestaande ERP-, CRM- en marketingplatforms. Ze vullen uw huidige systemen aan, nemen intelligentere beslissingen en schalen mee met uw organisatie. Zo verlaagt u kosten, beperkt u fouten en maakt u medewerkers vrij voor werk met meer toegevoegde waarde.","2025-03-23T22:06:59","why-ai-agents-are-the-future","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Ferp2.jpeg","https:\u002F\u002Feliovp.com\u002Fwhy-ai-agents-are-the-future\u002F",[978,945,1076,1191,1315,1316],"AI-agenten","ERP",{"path":1318,"title":1319,"description":1320,"date":1321,"slug":1322,"image":1323,"originalUrl":1324,"categories":1325},"\u002Fblog\u002Fthe-rise-of-open-source-ai-model-optimization","De opkomst van open-source AI-modeloptimalisatie","In het snel evoluerende AI-landschap zijn opensourceoplossingen belangrijke aanjagers van innovatie en betere prestaties. Deze door de gemeenschap gedragen platforms maken geavanceerde technologie breder toegankelijk, stimuleren samenwerking en versnellen de optimalisatie van AI-modellen.","2025-03-22T20:59:23","the-rise-of-open-source-ai-model-optimization","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Friseofopensource.jpeg","https:\u002F\u002Feliovp.com\u002Fthe-rise-of-open-source-ai-model-optimization\u002F",[978,945,1036,1326,994,791,1006],"AI-nieuws",{"path":1328,"title":1329,"description":1330,"date":1331,"slug":1332,"image":1333,"originalUrl":1334,"categories":1335},"\u002Fblog\u002Fintroducing-our-benchmarking-tool-powered-by-dstack","Maak kennis met onze benchmarktool, gebouwd op dstack","Betrouwbare benchmarks zijn essentieel om AI-modellen en software te optimaliseren. Onze nieuwe tool integreert met dstack en maakt geautomatiseerde, reproduceerbare en schaalbare benchmarkworkflows mogelijk, zowel op lokale GPU's als in de cloud.","2025-03-20T14:21:59","introducing-our-benchmarking-tool-powered-by-dstack","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Fbenchmarktool.jpeg","https:\u002F\u002Feliovp.com\u002Fintroducing-our-benchmarking-tool-powered-by-dstack\u002F",[978,945,86,1191,994,1336,1337,1193,86],"benchmark","LLM",{"path":1339,"title":1340,"description":1341,"date":1342,"slug":1343,"image":1344,"originalUrl":1345,"categories":1346},"\u002Fblog\u002Foptimizing-qwq-32b-by-qwen-amd-mi300x-vs-nvidia-h200","QwQ-32B optimaliseren (door Qwen): AMD MI300X versus NVIDIA H200","De meeste LLM-benchmarks richten zich op afgeleiden van Llama of DeepSeek. Met QwQ-32B verbreden we die vergelijking en testen we hoe Paiton de AMD MI300X optimaliseert tegenover NVIDIA's H200, van throughput en concurrency tot TTFT en end-to-end-latency.","2025-03-19T21:41:44","optimizing-qwq-32b-by-qwen-amd-mi300x-vs-nvidia-h200","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Fpaiton4.jpeg","https:\u002F\u002Feliovp.com\u002Foptimizing-qwq-32b-by-qwen-amd-mi300x-vs-nvidia-h200\u002F",[978,945,86],{"path":1348,"title":1349,"description":1350,"date":1351,"slug":1352,"image":1353,"originalUrl":1354,"categories":1355},"\u002Fblog\u002Feliovp-featured-on-amd-tech-talk-podcast","Eliovp te gast in de AMD Tech Talk-podcast","Eliovp was onlangs te gast in de AMD Tech Talk-podcast. Onze CEO Elio Van Puyvelde sprak met Jim Greene over het ontstaan van Eliovp, de passie en expertise achter het bedrijf en de geïntegreerde oplossingen die we vandaag aanbieden.","2025-03-19T07:53:39","eliovp-featured-on-amd-tech-talk-podcast","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Ftechtalkjimgreene.jpeg","https:\u002F\u002Feliovp.com\u002Feliovp-featured-on-amd-tech-talk-podcast\u002F",[978,994,1356,1357,1358],"Jim Greene","Podcast","Tech Talk",{"path":1360,"title":1361,"description":1362,"date":1363,"slug":1364,"image":1365,"originalUrl":1366,"categories":1367},"\u002Fblog\u002Ffurther-optimizing-amd-powered-inference-with-paiton","AMD-inferentie verder optimaliseren met Paiton","Paiton richt zich volledig op inferentieoptimalisatie voor AMD. Ons recentste werk levert voor DeepSeek R1 Distill Llama 8B een 10 tot 15% hogere throughput, een betere time-to-first-token en stabielere prestaties bij kleinere batchgroottes.","2025-03-13T06:18:30","further-optimizing-amd-powered-inference-with-paiton","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Fpaitonpost3.webp","https:\u002F\u002Feliovp.com\u002Ffurther-optimizing-amd-powered-inference-with-paiton\u002F",[978,945,86,994,1368,1369,1192,1193,1258,86,952],"Deepseek","H100",{"path":1371,"title":1372,"description":1373,"date":1374,"slug":1375,"image":1376,"originalUrl":1377,"categories":1378},"\u002Fblog\u002Fa-first-look-at-paiton-in-action-deepseek-r1-distill-llama-3-1-8b","Een eerste blik op Paiton in actie: Deepseek R1 Distill Llama 3.1 8B","Een eerste blik op hoe Paiton Deepseek R1 Distill Llama 3.1 8B optimaliseert voor de AMD MI300X. We vergelijken een met Paiton geoptimaliseerd model met de standaardversie en meten throughput, latency en end-to-end prestaties bij uiteenlopende batchgroottes.","2025-01-31T09:11:02","a-first-look-at-paiton-in-action-deepseek-r1-distill-llama-3-1-8b","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Fpaitonpost2.webp","https:\u002F\u002Feliovp.com\u002Fa-first-look-at-paiton-in-action-deepseek-r1-distill-llama-3-1-8b\u002F",[978,945,86,994,1368,1369,1192,1193,1258,86,952],{"path":1380,"title":1381,"description":1382,"date":1383,"slug":1384,"image":1385,"originalUrl":1386,"categories":1387},"\u002Fblog\u002Fai-model-optimization-with-paiton","AI-modeloptimalisatie met Paiton","In de snel evoluerende wereld van artificiële intelligentie zijn efficiënte modellen en sterke prestaties cruciaal. Met Paiton biedt ElioVP doorgedreven optimalisatie voor AI-modellen. Door de modelarchitectuur te compileren en onze eigen kernels te gebruiken, maakt Paiton snellere inferentie en een lager resourcegebruik op AMD GPU's mogelijk.","2025-01-30T19:53:25","ai-model-optimization-with-paiton","\u002Fasset\u002Fimages\u002Fblog\u002Fimported\u002Fpaitonpost1.webp","https:\u002F\u002Feliovp.com\u002Fai-model-optimization-with-paiton\u002F",[978,945,86,994,1369,1192,1193,1258,86,952],1788530430039]