CUDA installeren op Windows: complete handleiding en oplossingen

  • Compatibiliteit: Windows- en Visual Studio-versies worden ondersteund en de 32-bits toolchain is sinds CUDA 12 niet meer beschikbaar.
  • Flexibele installatie: volledige of netwerkinstallatie, stille modus, Conda of Wheels met cu12/cu129-metapakketten.
  • Verificatie en build: nvcc, deviceQuery/bandwidthTest, Visual Studio-integratie en $(CUDA_PATH).
  • WSL en speciale gevallen: WSL-specifieke driver, kernel 5.10.43.3+ en Model Builder-afhankelijkheden met CUDA 10.1/cuDNN 7.6.4.

Wat is CUDA op NVIDIA Windows?

Het installeren van CUDA op Windows hoeft geen gedoe te zijn als je weet waar je moet zijn en welke versies je moet gebruiken. In deze praktische handleiding leg ik je stap voor stap alles uit wat je nodig hebt om de toolkit, de juiste driver en verificatieprogramma's aan de praat te krijgen, zowel op native Windows als met WSL. Het idee is om je GPU uit te schakelen. echt versnellen uw workloads, zonder verrassingen op het gebied van compatibiliteit.

Naast de basisinstallatie behandel ik praktijkvoorbeelden en speciale vereisten (zoals ML.NET Model Builder met verouderde afhankelijkheden), installatiealternatieven met Conda en pip, integratie met Visual Studio en de klassieke tests deviceQuery en bandwidthTest. Je leert ook hoe je problemen kunt diagnosticeren. typische driverproblemen, GPU-detectie en CUDA-versieverschillen zorgen er vaak voor dat gebruikers de eerste keer langzamer werken.

Wat is CUDA en waarom is het belangrijk op Windows?

CUDA is het platform en model van NVIDIA-programmering Voor parallel computing waarmee u de meest intensieve delen van uw applicaties naar de GPU kunt overbrengen. De CPU verwerkt het sequentiële werk en de GPU de rest. enorm parallel, elk met een eigen geheugen, waardoor knelpunten worden vermeden en gelijktijdig werken mogelijk is.

CUDA-compatibele GPU's beschikken over honderden of duizenden cores die tienduizenden threads uitvoeren. Bibliotheken zoals cuBLAS, cuDNN en NVCC Maak de kit compleet zodat u uw GPU-versnelde software op Windows kunt compileren, debuggen en profileren.

Waarom IBM de Quantum Experience heeft gecreëerd
Gerelateerd artikel:
Quantum Experience: wat het is en waar het voor dient

Systeemvereisten en compatibiliteit op Windows

Controleer allereerst of uw systeem compatibel is met de toolkit die u wilt. Op huidige Windows-systemen, CUDA 13.0 U1-ondersteuning: Windows 11 24H2, 23H2, 22H2-SV2; Windows 10 22H2; Windows Server 2022 en 2025.

Ondersteunde compilers en IDE's: Visual Studio 2022 17.x (MSVC 193x) met C++11/14/17/20 en Visual Studio 2019 16.x (MSVC 192x) met C++11/14/17. De ondersteuning voor VS2017 Het is verwijderd in CUDA 13.0 en voor VS2015 is het verouderd sinds CUDA 11.1. Pas daarom uw projecten aan.

Belangrijke opmerking over 32-bits: sinds CUDA 12.0 is er geen 32-bits toolchain meer (native of cross-platform). Drivers blijven 32-bits binaries draaien op GeForce. Ada-architectuur; Hopper ondersteunt 32 bits niet meer.

Aanbevolen hardware: NVIDIA GPU met rekencapaciteit die geschikt is voor uw versie (voor algemene scenario's 3.0 of hoger; zie officiële lijst), voldoende geheugen en in bepaalde specifieke gevallen meer eisend. Voor Model Builder (beeldclassificatie) is ten minste 6 GB van VRAM toegewijd, terwijl voor basisgebruik een minimum van 4 GB wordt genoemd.

Controleer of u een compatibele GPU hebt en welke versie u hebt

CUDA installeren op Windows

Om uw GPU-model in Windows te controleren: Instellingen > Systeem > Beeldscherm > Geavanceerde instellingen. Daar ziet u onder Weergave-informatie het merk en model, erg handig om compatibiliteit te bevestigen.

U kunt ook Taakbeheer gebruiken op het tabblad Prestaties en het GPU-paneel selecteren om details te bekijken. Als dit niet verschijnt, opent u het Apparaatbeheer en kijk naar Beeldschermadapters; Als de NVIDIA-driver ontbreekt, installeer deze dan.

Om de CUDA-installatie te controleren, opent u een PowerShell of CMD en voert u het volgende uit: nvcc --version o nvcc -V. Dit retourneert de compilerversie NVCC geïnstalleerd. Als het niet reageert, is het PATH van de toolkit niet geconfigureerd of is het niet correct geïnstalleerd.

Als u drivers moet bijwerken, stelt GeForce Experience de nieuwste versies voor of downloadt u ze van de officiële NVIDIA driverwebsite. Een bijgewerkte driver lost het probleem meestal op. toolkit-incompatibiliteiten en detectiefouten.

Download NVIDIA CUDA Toolkit: Formaten en integriteit

Ga naar de officiële CUDA-downloadpagina van NVIDIA en kies Windows. Je kunt kiezen tussen Network Installer (minimale download, dan on-demand pakketten) of Full Installer (alles inbegrepen). De volledige installatie is ideaal voor offline computers of voor bedrijfsimplementaties.

Na het downloaden is het verstandig om de gepubliceerde MD5-checksum te controleren om er zeker van te zijn dat het bestand niet beschadigd is. Als de hash niet overeenkomt, opnieuw downloaden de installateur en voorkomt u hoofdpijn achteraf.

Sinds CUDA 13 is de NVIDIA-driver niet meer opgenomen in de Toolkit. Installeer de driver apart van de NVIDIA-stuurprogrammapagina en dan de Toolkit; vermijd het mengen van incompatibele versies.

Installatie op Windows: grafische, stille en extractiemodus

Grafische installatie: voer het installatieprogramma uit en volg de stappen. Kies een locatie, accepteer de licentie en selecteer componenten zoals Toolkit, Nsight Compute/Systems en voorbeelden.

Stille installatie: U kunt het installatieprogramma starten met -s voor de stille modus en voeg parameters toe voor specifieke subpakketten. Als u geen automatische herstart wilt, voegt u -n en je regelt het opnieuw opstarten aan het einde.

Handmatig uitpakken: Met 7-Zip/WinZip kunt u het volledige pakket uitpakken om de inhoud te inspecteren. De Toolkit bevindt zich in de map. CUDA-toolkit en Visual Studio-integratie in de gelijknamige map; de .dll- en .nvi-bestanden die u in de hoofdmap van het installatieprogramma ziet, zijn als zodanig geen installeerbare bestanden.

Standaard Toolkit-pad: C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v13.0. Bij het installeren van subpakketten U kunt alleen kiezen wat u nodig hebt (bijvoorbeeld nvcc_13.0 voor de compiler, cudart_13.0 voor runtime, cublas_13.0/cublas_dev_13.0, cufft_13.0, curand_13.0, cusolver_13.0, cusparse_13.0, nsight_compute_13.0, nsight_systems_13.0, nvrtc_13.0, nvdisasm_13.0, nvprune_13.0, opencl_13.0, sanitizer_13.0, thrust_13.0, Enz.). Zo verkort u de benodigde ruimte en installatietijd.

Verwijderen: Alle subpakketten kunnen worden verwijderd via Configuratiescherm > Programma's en onderdelen. Handig als u een versie opnieuw wilt installeren. limpia of van tak veranderen zonder dat er iets overblijft.

Stuurprogrammamodellen in Windows: WDDM versus TCC

In Windows 10 en hoger kan de NVIDIA-driver in twee modi werken: WDDM (voor weergaveapparaten) en TCC (voor reken-GPU's zoals Tesla of bepaalde Titans). U kunt de modus controleren en wijzigen met nvidia-smi op ondersteunde kaarten; de meeste moderne GeForce-kaarten gebruiken standaard WDDM.

Controleer de installatie: nvcc, monsters en tests

Controleer de NVCC-versie met nvcc -VAls het commando werkt, PATH en de basisinstallatie is op zijn plaats.

Kloon de CUDA-voorbeelden van GitHub op nvidia/cuda-voorbeelden, compileer ze en voer ze uit deviceQueryHet zou uw apparaat moeten detecteren en een test geslaagd; indien dit niet het geval is, controleer dan het stuurprogramma en de hardware.

Loopt ook bandwidthTest om de bandbreedte van het hostapparaat te valideren. Als de tests slagen, is de communicatie CPU-GPU is OK. Eventuele fouten hier wijzen meestal op de installatie van drivers of de Toolkit.

Integratie met Visual Studio en projectinfrastructuur

De voorbeelden en uw projecten kunnen worden gecompileerd met VS 2019/2022-oplossingen. NVIDIA-sjablonen stellen een C++-project in met de Bouw aanpassingen van CUDA voor uw versie (bijvoorbeeld CUDA 13.0 Runtime).

Toolkit .props-bestanden: VS 2019 heeft de props in C:\Program Files (x86)\Microsoft Visual Studio\2019\Professional\MSBuild\Microsoft\VC\v160\BuildCustomizations en VS 2022 in C:\Program Files\Microsoft Visual Studio\2022\Professional\MSBuild\Microsoft\VC\v170\BuildCustomizationsDeze routes stellen VS in staat om regels en eigenschappen van CUDA.

Maak in nieuwe projecten via NVIDIA Templates > CUDA voor de geïnstalleerde versie. Ga in bestaande projecten naar Afhankelijkheden bouwen > Aanpassingen bouwen en markeer uw CUDA-versie of wijs ernaar $(CUDA_PATH) als u altijd de meest recent geïnstalleerde versie wilt gebruiken.

Controleer na het installeren of verwijderen van Toolkits of: $(CUDA_PATH) verwijst naar de juiste map. Toegang Omgevingsvariabelen vanuit Systeem Eigenschappen om de waarde te controleren en indien nodig aan te passen.

Bestanden met CUDA-code moeten gemarkeerd zijn als CUDA C/C++-type. U kunt ze toevoegen vanuit Nieuw item toevoegen > NVIDIA CUDA 13.0 > CUDA C/C++-code in Visual Studio.

CUDA installeren met Conda en pip

Conda: NVIDIA publiceert pakketten op zijn Anaconda-kanaal (anaconda.org/nvidia) om de volledige Toolkit of specifieke eerdere versies te installeren. Om een ​​eerdere versie vast te zetten, voegt u de vrijgavelabel aan de opdracht install toe en Conda lost de afhankelijkheden op.

Mappen vastmaken aan het startmenu van Windows 11
Gerelateerd artikel:
Wat zijn GGUF-bestanden?

pip: NVIDIA biedt Wheels aan om CUDA-componenten te installeren die primair gericht zijn op de Python-runtime. Eerste installatie nvidia-pyindex en zorg ervoor dat pip en setuptools zijn bijgewerkt. U kunt de overeenkomstige regel in uw requirements.txt Als je dat liever hebt.

Metapakketten op Windows voor CUDA 12 (cu12) die gebruikmaken van de nieuwste beschikbare versie: onder andere, nvidia-cublas-cu12, nvidia-cuda-cccl-cu12, nvidia-cuda-cupti-cu12, nvidia-cuda-nvcc-cu12, nvidia-cuda-nvrtc-cu12, nvidia-cuda-opencl-cu12, nvidia-cuda-runtime-cu12, nvidia-cuda-sanitizer-api-cu12, nvidia-cufft-cu12, nvidia-curand-cu12, nvidia-cusolver-cu12, nvidia-cusparse-cu12, nvidia-npp-cu12, nvidia-nvfatbin-cu12, nvidia-nvjitlink-cu12, nvidia-nvjpeg-cu12, nvidia-nvml-dev-cu12, nvidia-nvtx-cu12.

Deze metapakketten installeren specifieke versiepakketten, bijvoorbeeld met het achtervoegsel cu129: nvidia-cublas-cu129, nvidia-cuda-cccl-cu129, nvidia-cuda-cupti-cu129, nvidia-cuda-nvcc-cu129, nvidia-cuda-nvrtc-cu129, nvidia-cuda-opencl-cu129, nvidia-cuda-runtime-cu129, nvidia-cuda-sanitizer-api-cu129, nvidia-cufft-cu129, nvidia-curand-cu129, nvidia-cusolver-cu129, nvidia-cusparse-cu129, nvidia-npp-cu129, nvidia-nvfatbin-cu129, nvidia-nvjitlink-cu129, nvidia-nvjpeg-cu129, nvidia-nvml-dev-cu129, nvidia-nvtx-cu129Houd er rekening mee dat CUDA Wheels geen ontwikkeltools bevat, alleen de runtime.

Door pip te gebruiken, wordt de CUDA-omgeving gekoppeld aan je Python-omgeving. Als je van plan bent om buiten die omgeving te compileren of te draaien, installeer dan ook de Toolkit op systeemniveau om inconsistenties in de route te voorkomen.

CUDA op WSL: Windows 11 en Windows 10 21H2

Met Windows 11 en Windows 10 21H2 (en later) kunt u CUDA-versnelde ML-frameworks en -bibliotheken binnen WSL uitvoeren. Dit omvat: PyTorch, TensorFlow, Docker en NVIDIA Container Toolkit, net zoals je dat op een native Linux-systeem zou doen.

Stap 1: Installeer de CUDA-compatibele NVIDIA-driver voor WSL vanaf de officiële website. Deze driver is speciaal ontworpen om de GPU binnen distributies bloot te stellen. Linux op WSL.

Stap 2: Schakel WSL in en voeg een glibc-gebaseerde distributie toe (Ubuntu/Debian). Werk de kernel bij via Windows Update en controleer of deze correct is. 5.10.43.3 of hoger rennen wsl cat /proc/version in PowerShell.

Stap 3: Volg de NVIDIA CUDA op WSL-handleiding om de Toolkit binnen de distro te installeren en/of NVIDIA Docker te configureren. Je zult in staat zijn om te gebruiken de gebruikelijke Linux-stromen met versnelling en de omgeving perfect scheiden van het host-Windows.

Real-life scenario: gemengde AMD + NVIDIA laptop en fouten met 12.8/11.8

Laten we aannemen dat het een Lenovo Ideapad 5 Pro is met AMD Ryzen, AMD Radeon iGPU en NVIDIA GeForce GTX dGPU. Tijdens het draaien nvidia-smi verschijnt Driver 526.56 en CUDA versie 12.0, maar het installeren van CUDA 12.8 of 11.8 lijkt niet te werken.

Sleutels om het te begrijpen: de CUDA-versielijn van nvidia-smi geeft de maximale CUDA-runtimeversie aan die door uw driver wordt ondersteund, niet de geïnstalleerde Toolkit. De driver 526.56 CUDA 12.0 en 11.8 worden ondersteund, maar niet 12.8, waarvoor een veel nieuwere driver (55x/56x-versie) nodig is. Werk bij naar een recente driver (Studio of Game Ready DCH) van de NVIDIA-website en herhaal de installatie.

Controleer op hybride computers in het NVIDIA Configuratiescherm of de grafische instellingen van Windows of uw computertoepassing de NVIDIA GPU gebruikt. Als de dGPU niet wordt gebruikt, nvidia-smi Dit kan problemen veroorzaken, of de frameworks kunnen worden geladen op de AMD iGPU, die CUDA niet ondersteunt. Overweeg een schone driverinstallatie en controleer of GeForce Experience de hardware detecteert.

Speciale vereisten: ML.NET Model Builder (alleen beeldclassificatie)

Voor het scenario voor beeldclassificatie met Model Builder vereist Microsoft een specifieke stack: CUDA 10.1 en cuDNN 7.6.4Wees hier voorzichtig mee, want nieuwere versies ondersteunen deze specifieke flow niet.

Belangrijkste stappen met cuDNN 7.6.4: download de ZIP voor CUDA 10.1, pak deze uit en kopieer cudnn64_7.dll van cuda\bin a C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.1\bin. U kunt niet meerdere versies van cuDNN verwijdert tegelijkertijd restanten van andere versies om conflicten tijdens de uitvoering te voorkomen.

Hardwarevereisten voor dit scenario: minimaal één CUDA-compatibele GPU en 6 GB dedicated geheugen. Als u geen lokale GPU hebt, kan Model Builder trainen op virtuele GPU-machines. Azuur, of uiteindelijk op de CPU, hoewel met veel langere trainingtijden.

Snelle diagnose en oplossing van veelvoorkomende problemen

De GPU wordt niet weergegeven in Instellingen of Taakbeheer: Open Apparaatbeheer, kijk onder Beeldschermadapters en installeer de juiste driver. Geen driver. NVIDIAWindows zal de dGPU niet blootstellen aan apps.

Controleer de CUDA-versie van het systeem: voer in PowerShell/CMD uit nvcc --versionAls dit mislukt, controleer dan of de Toolkit is geïnstalleerd en of de PATH de map opnemen bin uit de Toolkit.

De toolkit herkent geen CUDA-apparaten: controleer of de driver up-to-date is en of uw GPU op de lijst met CUDA-compatibele apparaten staat. apparaatQuery y bandbreedteTest Ze fungeren als een soort thermometer om te bevestigen dat de hardware-driver-toolkit-stack reageert.

Onjuiste drivermodus voor berekening: Gebruik op de GPU van de berekening nvidia-smi om TCC te controleren/inschakelen indien van toepassing. Op de meeste GeForces-laptops, WDDM Dit is de beoogde modus en u kunt deze niet wijzigen.

Afhankelijkheidsconflicten met Python-frameworks: als u CUDA Wheels via pip gebruikt, houd er dan rekening mee dat ze alleen runtime dekken en gekoppeld zijn aan de virtuele omgeving. Om extensies te compileren of tools te gebruiken, installeert u ook de Systeem Toolkit, of gebruik Conda om alles in bulk te beheren.

Voorbeelden, voorbeelden en goede praktijken

Om de prestaties en functionaliteit te valideren, compileren en uitvoeren deviceQuery y bandwidthTest van VS-oplossingen in de sample repository. Builds laten meestal binaire bestanden achter in paden zoals CUDA-voorbeelden\v13.0\bin\win64\Release als u de standaardwaarden hebt behouden.

Om het potentieel van CUDA visueel te zien, kunt u grafische voorbeelden uitvoeren zoals particlesNaast de demo helpen ze je bij het vinden van referenties voor het gebruik van gedeeld geheugen en raster-/blokpatronen in uw eigen projecten.

Cloudalternatieven met GPU's

Als u geen gedoe wilt hebben met lokale drivers of piekvermogen nodig hebt, kunt u kiezen voor cloud-instances met moderne GPU's (A100, RTX 4090, A6000, enz.). Deze services bieden onmiddellijke inzet, sjablonen voor PyTorch/TensorFlow en pay-as-you-go, handig voor intensieve training of snelle tests.

Aantekeningen en markeringen

Technische documentatie en pakketten van NVIDIA kunnen zonder voorafgaande kennisgeving worden gewijzigd. Controleer altijd de release-opmerkingen en bijgewerkte compatibiliteiten voordat u drivers of toolkits in productie installeert.

OpenCL is een handelsmerk van Apple Inc., gebruikt onder licentie door Khronos Group. NVIDIA en het bijbehorende logo zijn handelsmerken of geregistreerde handelsmerken van NVIDIA Corporation in de VS en andere landen.

vochtigheidssensor
Gerelateerd artikel:
Wat te doen als de vochtigheidssensor op onze mobiele telefoon is geactiveerd?

Met de juiste driver, de juiste toolkit en een paar goed uitgevoerde tests is Windows een solide basis voor CUDA: u kunt ontwikkelen met Visual Studio, valideren met de officiële voorbeelden, AI-frameworks uitvoeren in WSL zoals in Linux en, als u vastloopt, alternatieve installatieprogramma's (Conda/pip) of zelfs de cloud downloaden om te voorkomen dat u blijft hangen; het belangrijke ding is om de versies van drivers en toolkits op elkaar af te stemmen, te bevestigen dat de NVIDIA GPU daadwerkelijk wordt gebruikt en u te ondersteunen bij apparaatQuery/bandbreedteTest om er zeker van te zijn dat alles groen is. Deel deze tutorial, zodat meer gebruikers weten hoe ze CUDA op Windows kunnen installeren.