PCの話をしていると、GPU＝グラボ＝ゲーム用というイメージが強いですよね？ でも実際のGPUは、映像を描くだけじゃなく「並列処理の塊」として、AIや動画編集、科学計算まで支えています。 そのGPUの本領を引き出しているのが、NVIDIAの技術「CUDA（クーダ ...

A monthly overview of things you need to know as an architect or aspiring architect. Unlock the full InfoQ experience by logging in! Stay updated with your favorite authors and topics, engage with ...

NVIDIA’s CUDA is a general purpose parallel computing platform and programming model that accelerates deep learning and other compute-intensive apps by taking advantage of the parallel processing ...

CPUで動くプログラムはそれぞれのGPU(デバイス)を独立に制御する。CUDAのStreamはデバイスごとの仕事のキューになっている。プログラムの実行はStreamの実行開始と同期で行われている。 そして、Stream間の同期を行うにはeventを使う。eventはカーネルの完了を ...

セットアップ ほかのJetsonモジュールはeMMCを搭載しており、そこへOSを流し込む必要があるためセットアップが少し面倒だが、Nanoに関してはmicroSDカードを使うので非常に簡単だ。 まず Jetson Download Center でOSイメージをダウンロードする。ちょうど2019年6月7日に「Jetson Nano Developer Kit SD Card Image New ...

NVIDIAのコンピューティング向けGPU活用技術「CUDA」をIntel GPUで実行できるようにしたソフトウェア「ZLUDA」が復活しましたが、IntelではなくAMDのGPUで動作するよう改変が加えられていました。 ZLUDAは2020年に初めて登場したソフトウェアです。ZLUDAはIntel GPUをCUDA ...

Apple Silicon MacでNVIDIA製GPUを動かしCUDA環境を実現する「TinyGPU」を試してみた。高いセキュリティを維持したまま動作する画期的な新技術の導入手順から、最新GPUを用いた検証、現時点の課題まで解説する。

そして、午後は、Scalable Parallel Programming with CUDAと題して、最近注目度の高い、NVIDIAのCUDAによるGPUの並列プログラミングのチュートリアルが行われた。講師は、Ian Buck氏ほか4名のNVIDIAの人と、並列プログラムで有名なイリノイ大学のWen-mei Hwu教授である。

まあ端的にいうとハードが新しすぎて PyTorch が対応できてないっぽい。 nvidia-smi で出てくる「CUDA Version: 13.0」とは別。 NVIDIA CUDA GPU Compute Capability Find the compute capability for your GPU. developer.nvidia.com なんかこのページが「CUDA ...

THEALE, UK - 8th NOVEMBER 2006 - NVIDIA Corporation (Nasdaq: NVDA), the worldwide leader in graphics processors, today unveiled NVIDIA CUDA technology, a fundamentally new architecture for computing ...