https://ainews.dk/sektion/lokal-llm/Lokal LLM på AiNews.dkdaFri, 02 Oct 2026 20:13:34 GMThttps://ainews.dk/lokal-ai-motor-udfordrer-tech-giganternes-sky-monopol/https://ainews.dk/lokal-ai-motor-udfordrer-tech-giganternes-sky-monopol/Redis-skaberen antirez har udgivet ds4, en C-motor til lokal inferens under MIT-licens. Den kører DeepSeek V4, GLM 5.x og Qwen med hård kvantisering af eksperter, CLI, server og agent. 128 GB rækker til V4 Flash, oplyser projektet.Fri, 02 Oct 2026 20:48:58 GMThttps://ainews.dk/ai-behovet-fortraenger-den-almindelige-forbruger/https://ainews.dk/ai-behovet-fortraenger-den-almindelige-forbruger/Microns direktør Sanjay Mehrotra siger, at efterspørgslen vil overstige udbuddet mindst et par år endnu. Samsung peger i samme retning. Meldingen dækker hukommelse til AI og servere, men rammer også forbrugerenheder, da fabrikkerne prioriterer datacentre.Thu, 01 Oct 2026 20:36:53 GMThttps://ainews.dk/aaben-kildekode-flytter-ai-kraften-til-brugerens-maskine/https://ainews.dk/aaben-kildekode-flytter-ai-kraften-til-brugerens-maskine/Magnitude er en ny open source-motor til inferens for lokale agenter. Den tilpasser sine kerner til den computer, den kører på, deler hukommelse mellem sessioner og lover op til næsten dobbelt hastighed mod llama.cpp på Mac og lavere forbrug pr. agent.Wed, 30 Sep 2026 20:49:08 GMThttps://ainews.dk/muse-overtager-indkoebene-med-adgang-til-brugerens-kort/https://ainews.dk/muse-overtager-indkoebene-med-adgang-til-brugerens-kort/Meta har lanceret AI-agenten Muse, der kan klare mails og onlinekøb. Den virker overraskende godt, hvis brugeren giver adgang til data og kort. Lanceringen følges af planer om en fysisk Charm-dims og sager om lækket adresse, et lukket sikkerhedshul og at Amazon blokerer agenten.Wed, 30 Sep 2026 19:01:03 GMThttps://ainews.dk/kina-udfordrer-nvidias-magt-med-aaben-software/https://ainews.dk/kina-udfordrer-nvidias-magt-med-aaben-software/Deepseek og Huawei har bygget open source-værktøjer til Huaweis Ascend-chip. Kernen er sproget TileLang, som skal være enklere end Nvidias CUDA. Målet er at løse branchens største problem: software til kinesiske chips.Wed, 30 Sep 2026 16:25:18 GMThttps://ainews.dk/kompetencer-trumfer-maerker-i-ai-styring/https://ainews.dk/kompetencer-trumfer-maerker-i-ai-styring/Ollama 0.35.1-rc0 indfører CAPABILITY-angivelser i Modelfiler og et additivt felt i create-kald. Evner bevares ved GGUF- og safetensors-oprettelse, nedarvning og eksport. System One kræver nu decision-evne, mens GGUF-reglen for scoring fortsætter.Tue, 29 Sep 2026 21:03:03 GMThttps://ainews.dk/open-source-ai-udfordrer-skyens-magt-over-beslutninger/https://ainews.dk/open-source-ai-udfordrer-skyens-magt-over-beslutninger/Unsloth v0.1.900-beta kan køre beslutningsmodellen Laya lokalt. Modellen svarer på ja/nej-, multiple-choice- og scoringsspørgsmål med sandsynligheder. Opdateringen giver også en dokumentfremviser og op til 4,5 gange hurtigere video- og billedgenerering.Tue, 29 Sep 2026 19:52:04 GMThttps://ainews.dk/ny-chip-stopper-udbrud-men-overser-ai-agentens-loegn/https://ainews.dk/ny-chip-stopper-udbrud-men-overser-ai-agentens-loegn/Nvidia lancerer Open Agent Safety Platform, der kombinerer OpenShell-agentsoftware med hardware-vagthunden Sentry. Den skal isolere udbrudte AI-agenter på millisekunder – hos OpenAI tog det næsten tre timer i september. Men Sentry kan ikke pålideligt stoppe agenter, der er narret eller skjuler deres intentioner.Mon, 28 Sep 2026 19:35:52 GMThttps://ainews.dk/lokale-apps-kaprer-metas-ai-assistent-og-dine-konti/https://ainews.dk/lokale-apps-kaprer-metas-ai-assistent-og-dine-konti/Metas nye AI-assistent Muse har en 0-day-sårbarhed, der giver lokalt kørende apps og terminalkommandoer fuld kontrol over agenten. Amazon har blokeret Muse fra sin side.Mon, 28 Sep 2026 16:31:46 GMThttps://ainews.dk/ai-modeller-vokser-ud-af-n-gpu-tensorrt-deler-dem-op/https://ainews.dk/ai-modeller-vokser-ud-af-n-gpu-tensorrt-deler-dem-op/NVIDIA TensorRT 11.0 understøtter multi-device inferens: ét TensorRT-netværk kan køre på tværs af flere GPU'er via NCCL-baserede distribuerede kollektiver. Funktionen skal imødekomme generative AI-modellers voksende krav til compute og hukommelse.Mon, 28 Sep 2026 16:28:54 GMThttps://ainews.dk/lokalt-ai-studie-loesner-skyens-greb-om-musikken/https://ainews.dk/lokalt-ai-studie-loesner-skyens-greb-om-musikken/En udvikler har bygget Miso, et selv-hostet musikstudie, der samler flere lokale AI-modeller i én grænseflade. Projektet gemmer hele arbejdsprocessen: prompts, stems, scores og lineage mellem versioner.Mon, 28 Sep 2026 15:57:28 GMThttps://ainews.dk/runway-lader-dig-styre-ai-video-live/https://ainews.dk/runway-lader-dig-styre-ai-video-live/Runway vil minimere tiden til første frame og streame video, mens brugeren skriver prompts. Realtidsgenerering kan også sænke GPU-omkostningerne, fordi hurtigere modeller bruger mindre GPU-tid.Sun, 20 Sep 2026 20:44:08 GMThttps://ainews.dk/enzo-lader-dig-koere-2000-ai-modeller-uden-skyen/https://ainews.dk/enzo-lader-dig-koere-2000-ai-modeller-uden-skyen/ENZO er en open source-platform, der kører lokalt og samler mere end 2000 gratis AI-modeller. Den har agenter, integration med Google-tjenester, kodevisning og en krypteret vault til API-nøgler.Sun, 20 Sep 2026 19:02:11 GMThttps://ainews.dk/nye-konti-isolerer-arbejde-men-deler-modellen/https://ainews.dk/nye-konti-isolerer-arbejde-men-deler-modellen/Unsloth v0.1.810-beta tilføjer AMD-støtte til Docker og multi-brugerkonti med isolering. Billeddiffusion med INT8/FP8 kører dobbelt så hurtigt, og Windows på ARM64 får CUDA-støtte til træning og inferens.Thu, 17 Sep 2026 19:14:59 GMThttps://ainews.dk/hp-lader-dig-koere-kaempe-ai-modeller-i-toget/https://ainews.dk/hp-lader-dig-koere-kaempe-ai-modeller-i-toget/HPs Zbook Ultra G3a får op til 192 gigabyte delt hukommelse med 273 Gbps båndbredde til lokale AI-modeller. Den 16-tommer maskine vejer 1,9 kilo, holder 16 timer og kommer i oktober. Prisen er endnu ukendt.Thu, 17 Sep 2026 13:13:11 GMThttps://ainews.dk/apple-udfordrer-nvidias-dominans-paa-ai-hardware/https://ainews.dk/apple-udfordrer-nvidias-dominans-paa-ai-hardware/Apple arbejder på en erhvervsserver med to eller fire M8 Ultra-chips til AI-inferens, skriver The Information. Serveren kan tidligst komme i 2029, og Apple overvejer Nvidias NVLink Fusion til at forbinde chipsene.Wed, 16 Sep 2026 21:09:53 GMThttps://ainews.dk/nvidia-lader-udviklere-slaa-sikkerheden-fra-i-gpu-kerner/https://ainews.dk/nvidia-lader-udviklere-slaa-sikkerheden-fra-i-gpu-kerner/NVIDIA har udgivet cuTile Rust, et tile-baseret system til at skrive GPU-kerner i Rust. Det udvider Rusts ejerskabsmodel til GPU-kerner, opdeler mutable output i disjunkte stykker og bevarer ejerskabskontrakten på tværs af kernel-launches. Udviklere kan fravælge sikkerheden lokalt, når de har brug for lavere-niveau-kontrol.Wed, 16 Sep 2026 19:43:14 GMThttps://ainews.dk/brugeren-beholder-kontrollen-over-gpu-raekkefoelgen/https://ainews.dk/brugeren-beholder-kontrollen-over-gpu-raekkefoelgen/Unsloth har udgivet Windows ARM64-binaries med en rettelse, der sikrer, at brugerens valgte GPU-rækkefølge bevares i multi-GPU-opsætninger.Wed, 16 Sep 2026 17:20:07 GMThttps://ainews.dk/ai-agenter-afleverer-opgaver-i-din-indbakke/https://ainews.dk/ai-agenter-afleverer-opgaver-i-din-indbakke/Pizza Bot er en open source-desktopapp, der kører AI-agenter i baggrunden og viser resultaterne i en email-lignende indbakke. Appen er Apache 2.0-licenseret, kræver ingen konto og understøtter flere modeludbydere, herunder OpenAI, Anthropic og lokale modeller via Ollama.Wed, 16 Sep 2026 08:32:12 GMThttps://ainews.dk/forskere-deler-udstyr-men-ikke-data/https://ainews.dk/forskere-deler-udstyr-men-ikke-data/Fødereret læring starter med én server og få klienter. Når projektet vokser, bliver opgaven at drive delt infrastruktur. Nvidia beskriver, hvordan FLARE skalerer på tværs af Docker, Kubernetes og Slurm, tildeler GPU'er efter behov og holder studier og data adskilt.Tue, 15 Sep 2026 20:44:44 GMThttps://ainews.dk/openai-goer-mobilkameraet-skarpere-fra-foerste-billede/https://ainews.dk/openai-goer-mobilkameraet-skarpere-fra-foerste-billede/OpenAI køber Glass Imaging for over 300 millioner dollars. Selskabet, stiftet af to tidligere Apple-ingeniører, bruger neurale netværk til at forbedre smartphone-kameraer i optagelsesøjeblikket. Opkøbet styrker OpenAIs hardware-ambitioner.Tue, 15 Sep 2026 16:01:05 GMThttps://ainews.dk/ollama-skaerer-i-api-udviklere-mister-kontrol/https://ainews.dk/ollama-skaerer-i-api-udviklere-mister-kontrol/Ollama har udgivet v0.34.1-rc2, hvor API-parameteren typical_p er afskrevet. Nye modeller kan ikke længere oprettes med parameteren, mens eksisterende GGUF-modeller med indstillingen fortsat understøttes.Tue, 15 Sep 2026 08:00:46 GMThttps://ainews.dk/paastanden-om-lokal-ai-faar-nu-et-modregnestykke/https://ainews.dk/paastanden-om-lokal-ai-faar-nu-et-modregnestykke/Sunk Cost beregner, hvor lang tid en lokal AI-hardware skal bruges, før den har tjent sig selv ind sammenlignet med at leje modellen per token.Tue, 15 Sep 2026 05:15:06 GMThttps://ainews.dk/ubuntu-brugere-slipper-for-selv-at-kompilere-llama-cpp/https://ainews.dk/ubuntu-brugere-slipper-for-selv-at-kompilere-llama-cpp/llama.cpps udgivelse b10969 inkluderer nu Ubuntu-CUDA-byg til x64 og ARM64. CI'en bruger CUDA 12.8 og 13.3, og ARM64-byg kompileres med GCC 14. Afhængige biblioteker følger med, men NCCL er fjernet indtil licensen er afklaret.Mon, 14 Sep 2026 19:27:47 GMThttps://ainews.dk/den-skrivende-agent-faar-nu-en-uafhaengig-dommer/https://ainews.dk/den-skrivende-agent-faar-nu-en-uafhaengig-dommer/Qodo har lanceret Agentic Toolbox, der lader kodeagenter som Claude Code, Codex og Cursor bruge Qodo til uafhængig kodegennemgang. Gennemgangen kan køre på lokale ændringer, før en pull request eksisterer.Mon, 14 Sep 2026 10:33:12 GMThttps://ainews.dk/vaerktoej-afsloerer-ai-hallucinationer-paa-under-et-mikrosekund/https://ainews.dk/vaerktoej-afsloerer-ai-hallucinationer-paa-under-et-mikrosekund/Spanda er en open source-motor i Rust, der måler sprogmodellers usikkerhed på 760 nanosekunder. Metoden matcher Semantic Entropy på matematisk ræsonnement og bruger ingen GPU. Værktøjet kan opdage hallucinationer i realtid.Sat, 12 Sep 2026 09:29:52 GMThttps://ainews.dk/ai-traening-bliver-en-privatsag-for-998-dollars/https://ainews.dk/ai-traening-bliver-en-privatsag-for-998-dollars/En udvikler har trænet en 3,8B-sprogmodel til en CORE-score på 0,384 for 998 dollars i lejede GPU-timer – et tegn på, at træning af egne modeller bliver billigere.Thu, 10 Sep 2026 11:06:43 GMThttps://ainews.dk/nvidia-aabner-windows-enheder-for-ai-udvikling/https://ainews.dk/nvidia-aabner-windows-enheder-for-ai-udvikling/CUDA Toolkit 13.4 tilføjer support til Windows på Arm og giver udviklere mere kontrol over delte GPU'er. Opdateringen bygger på den eksisterende Linux-support og udvider CUDA-applikationer til Windows-enheder med Arm-processorer.Thu, 10 Sep 2026 08:36:33 GMThttps://ainews.dk/over-1-000-brugere-styrer-ai-agenter-med-moadim-io/https://ainews.dk/over-1-000-brugere-styrer-ai-agenter-med-moadim-io/Over 1.000 brugere anvender Moadim.io, en open source-planlægger til AI-agenter. Værktøjet installeres som en lokal Rust-daemon og administreres gennem Git.Sun, 06 Sep 2026 08:00:36 GMThttps://ainews.dk/nvidia-goer-hjemmenetvaerket-til-et-lille-datacenter-med-det-nye-vaerk/https://ainews.dk/nvidia-goer-hjemmenetvaerket-til-et-lille-datacenter-med-det-nye-vaerk/Nvidias nye værktøj PAIR gør det muligt at bruge flere computere på et hjemmenetværk som et lille datacenter til lokal AI. Værktøjet fordeler opgaver automatisk mellem ledige enheder, hvilket i en demo reducerede tidsforbruget fra 18 til under 9 minutter.Fri, 04 Sep 2026 13:49:29 GMT