https://cageyv.dev/no/series/llm/Recent content in LLM on Vladimir SamoylovHugonoFri, 06 Feb 2026 00:00:00 +0000https://cageyv.dev/no/posts/inf2-trn3-vllm-neuron-experiment/Fri, 06 Feb 2026 00:00:00 +0000https://cageyv.dev/no/posts/inf2-trn3-vllm-neuron-experiment/<p>Jeg ønsket en enkel, repeterbar måte å besvare et praktisk spørsmål på:</p> <blockquote> <p>&ldquo;Hvis vi måtte kjøre en privat modell på AWS, hva er den operasjonelle virkeligheten på Inf2 / Trn3?&rdquo;</p></blockquote> <p>Dette innlegget dokumenterer ett lite <strong>praktisk</strong> eksperiment (Inf2) pluss de nøyaktige oppfølgingskontrollene jeg ville kjørt på <strong>Trn3</strong>.</p> <h2 id="eksperimentoppsett-inf2"> Eksperimentoppsett (Inf2) <a class="heading-link" href="#eksperimentoppsett-inf2"> <i class="fa-solid fa-link" aria-hidden="true" title="Lenke til overskrift"></i> <span class="sr-only">Lenke til overskrift</span> </a> </h2> <p>Dette var en rask &ldquo;kan vi få det til å fungere ende-til-ende?&quot;-test, ikke en full benchmark-suite.</p>