GPGPU

関連記事

• NVIDIA
• ハードウェアビデオアクセラレーション

GPGPU は General-purpose computing on graphics processing units の略です。

OpenCL

OpenCL (Open Computing Language) は非営利団体である Khronos グループによって開発されている、オープンでロイヤルティフリーの並列プログラミングフレームワークです。

OpenCL の仕様書には一般環境として必要なプログラミング言語と、プログラマーがこの環境で呼び出せる C API が書かれています。

ヒント: clinfo ユーティリティを使うことで OpenCL プラットフォームと存在するデバイス、ICD ローダーのプロパティを確認できます。

OpenCL ランタイム

OpenCL を使用するプログラムを実行するには、ハードウェアに対応したランタイムをインストールする必要があります。

AMD/ATI

• opencl-mesa: AMDGPU と Radeon 用のフリーなランタイム。
• opencl-amd^AUR: AMD の ubuntu リリースから再パッケージングされた ROCr OpenCL と legacy OpenCL (別名:orca) (ubuntu の amdgpu-install で opencl=rocr,legacy を指定したものと等価です)。
• opencl-legacy-amdgpu-pro^AUR: AMD の ubuntu リリースから最パッケージングされた ROCr OpenCL と legacy OpenCL (別名:orca) (ubuntu の amdgpu-install で opencl=legacy を指定したものと等価です)。
• rocm-opencl-runtime^AUR: AMD の ROCm GPU コンピュートスタックの一部。GFX8 およびそれ以降のカード(Fiji, Polaris, Vega)を公式にサポートします。Navi10 ベースのカードは非公式・部分的なサポートがあります(似てはいますが、ubuntu の amdgpu-install で opencl=rocr を指定したものと等価ではありません。このパッケージの rocm バージョンは ubuntu のインストーラのバージョンと異なるからです)。
• amdapp-sdk^AUR: AMD CPU ランタイム。

NVIDIA

• opencl-nvidia: 公式 NVIDIA ランタイム。

Intel

• intel-compute-runtime: 別名 Neo OpenCL ランタイム。Gen8 (Broadwell) 以降の Intel HD Graphics GPU 用のオープンソース実装。
• beignet^AUR: Intel IvyBridge 以上の iGPU 用のオープンソース実装。古いプラットフォーム向け (例: Ivy Bridge, Sandy Bridge, Haswell)。
• intel-opencl^AUR: Intel IvyBridge 以上の iGPU 用のプロプライエタリ実装。古いプラットフォーム向け (例: Ivy Bridge, Sandy Bridge, Haswell)。
• intel-opencl-runtime^AUR: Intel Core と Xeon プロセッサ向けの実装。Intel 製以外の CPU もサポート。

その他

• pocl: LLVM ベースの OpenCL 実装(ハードウェアとは独立)。

32ビット OpenCL ランタイム

OpenCL を使う32ビットプログラムを実行するには、互換性のあるハードウェア32ビットランタイムをインストールする必要があります。

ヒント: clinfo ユーティリティは64ビットの OpenCL プラットフォームや存在するデバイス、ICD ローダプロパティをリストアップするためだけに使用できます。32ビットにおいては、clinfo を 32ビット向けにコンパイルするか、archlinux32 プロジェクトの32ビット版 clinfo を使う必要があります。

AMD/ATI

• lib32-opencl-mesa: AMDGPU と Radeon (32-bit)のためのフリーなランタイム
• lib32-opencl-legacy-amdgpu-pro^AUR: AMDの ubuntu リリース(32ビット)から最パッケージングされた legacy OpenCL (別名: orca)

NVIDIA

• lib32-opencl-nvidia: 公式の NVIDIA ランタイム(32ビット)

OpenCL ICD ローダー (libOpenCL.so)

OpenCL ICD ローダーはプラットフォームに依存しないライブラリで、OpenCL API 経由で特定のデバイスのドライバーをロードするのに使われます。ほとんどの OpenCL ベンダーはそれぞれ独自の OpenCL ICD ローダーを提供しており、他のベンダーの OpenCL 実装でも問題なく動作するはずです。残念ながら、大抵のベンダーは最新の ICD ローダーを提供していません。そのため、Arch Linux ではこのライブラリを別のプロジェクトから用意することで (ocl-icd) 最新の OpenCL API の実装が機能するようにしています。

他の ICD ローダーライブラリは各メーカーの SDK の一部としてインストールされます。確実に ocl-icd パッケージに含まれている ICD ローダーを使用したい場合、/etc/ld.so.conf.d にファイルを作成して /usr/lib を動的プログラムローダーの検索ディレクトリに追加します:

/etc/ld.so.conf.d/00-usrlib.conf

/usr/lib

全ての SDK は ld.so.conf.d ファイルでランタイムのライブラリディレクトリを検索パスに追加するため上記の設定をする必要があります。

様々な OpenCL ICD が含まれているパッケージ:

• ocl-icd: 推奨、基本的に最新です。
• Intel による intel-opencl^AUR: OpenCL 2.0 を提供します。intel-compute-runtime によって廃止予定。

ノート: ICD ローダーのベンダーの名前が出るのはローダーを識別する必要があるときだけです。他の場合、ベンダーの名前は関係ありません。ICD ローダーはベンダーに依存しないため (正しく実装されてさえいれば) 相互に交換して使うことができます。

OpenCL 開発

OpenCL を使用して開発をしたい場合、最低でも以下のパッケージが必要になります:

• ocl-icd: OpenCL ICD ローダーの実装、最新の OpenCL の仕様に沿っています。
• opencl-headers: OpenCL C/C++ API ヘッダー。

ベンダーの SDK には様々なツールやサポートライブラリが含まれています:

• intel-opencl-sdk^AUR: Intel の OpenCL SDK (旧バージョン、最新の OpenCL SDK は INDE や Intel Media Server Studio に含まれています)
• amdapp-sdk^AUR: このパッケージでは /opt/AMDAPP にファイルがインストールされ、SDK ファイルの他にコードサンプルが大量に同梱されています (/opt/AMDAPP/SDK/samples/)。システム内の OpenCL プラットフォームやデバイスを確認したり詳細情報を表示できる clinfo ユーティリティが含まれています。SDK には CPU OpenCL ドライバーが含まれているため、CPU デバイスで OpenCL を実行するのに追加のドライバーは必要ありません (AMD 製じゃなくても動作します)。
• cuda: NVidia の GPU SDK、OpenCL 1.1 のサポートを含んでいます。

実装

あなたの環境で有効になっている OpenCL 実装を確認するには、次のコマンドを使います:

$ ls /etc/OpenCL/vendors

OpenCL プラットフォームとデバイスの利用可能な (既知の) プロパティを確認するには clinfo をインストールしてください。

言語バインディング

• JavaScript/HTML5: WebCL
• Python: python-pyopencl
• D: cl4d や DCompute
• Java: Aparapi や JOCL (JogAmp の一部)
• Mono/.NET: Open Toolkit
• Go: Go のための OpenCL バインディング
• Racket: Racket には PLaneTにネイティブのインファーフェイスが含まれています。roco を通してインストールできます。
• Rust: ocl
• Julia: OpenCL.jl

SYCL

SYCL は Khronos Group によって作られたオープン・ロイヤルティフリーな標準で、OpenCL 1.2 に基づく C++ によるシングルソースのヘテロジニアスプログラミングモデルを定義しています。

SYCL はランタイム部分と C++ デバイスコンパイラから構成されます。デバイスコンパイラはあらゆる種類のアクセラレータを対象とします。ランタイムは OpenCL 実装が存在しない場合に CPU コードパスにフォールバックするために必要となります。

実装

• computecpp^AUR: Codeplay による SYCL 1.2.1 のプロプライエタリ実装。SPIR, SPIR-V を対象とし、実験的なデバイスターゲットとして PTX (NVIDIA) にも対応。
• trisycl-git^AUR: Xilinx によって開発されているオープンソースの実装。
• hipsycl-cuda-git^AUR と hipsycl-rocm-git^AUR: OpenCL の代わりに AMD の HIP を使用するフリー実装。AMD と NVIDIA の GPU で動作可能。

SPIR サポートの確認

大抵の SYCL 実装はアクセラレータのコードを SPIR あるいは SPIR-V にコンパイルすることができます。どちらも Khronos によって設計された中間言語で、OpenCL ドライバーに渡すことができます。SPIR や SPIR-V に対応しているかどうか確認するには clinfo を使います:

$ clinfo | grep -i spir

Platform Extensions                             cl_khr_icd cl_khr_global_int32_base_atomics cl_khr_global_int32_extended_atomics cl_khr_local_int32_base_atomics cl_khr_local_int32_extended_atomics cl_khr_byte_addressable_store cl_khr_depth_images cl_khr_3d_image_writes cl_intel_exec_by_local_thread cl_khr_spir cl_khr_fp64 cl_khr_image2d_from_buffer cl_intel_vec_len_hint 
  IL version                                    SPIR-V_1.0
  SPIR versions                                 1.2

ComputeCpp にはシステム情報を表示するツールが付属しています:

$ computecpp_info

Device 0:

  Device is supported                     : UNTESTED - Untested OS
  CL_DEVICE_NAME                          : Intel(R) Core(TM) i7-4770K CPU @ 3.50GHz
  CL_DEVICE_VENDOR                        : Intel(R) Corporation
  CL_DRIVER_VERSION                       : 18.1.0.0920
  CL_DEVICE_TYPE                          : CL_DEVICE_TYPE_CPU 

SPIR や SPIR-V をサポートしている既知のドライバーとして intel-compute-runtime, intel-opencl-runtime^AUR, pocl, amdgpu-pro-opencl^{AUR[リンク切れ: パッケージが存在しません]} などが存在します。

SYCL 開発

SYCL を使うには C++11 環境が必要です。少数ながらオープンソースのライブラリが存在します:

• ComputeCpp SDK: コードサンプル集や ComputeCpp のcmake 統合
• SYCL-DNN: ニューラルネットワークパフォーマンスプリミティブ
• SYCL-BLAS: 線形代数パフォーマンスプリミティブ
• VisionCpp: コンピュータビジョンライブラリ
• SYCL Parallel STL: C++17 並列アルゴリズムの GPU 実装

CUDA

CUDA (Compute Unified Device Architecture) は NVIDIA による、プロプライエタリでクローズドソースの並列計算アーキテクチャ・フレームワークです。NVIDIA の GPU を必要とします。CUDA は複数のコンポーネントから構成されます:

• 必須:
  • プロプライエタリの NVIDIA カーネルモジュール
  • CUDA "driver" と "runtime" ライブラリ
• 任意:
  • 追加ライブラリ: CUBLAS, CUFFT, CUSPARSE など。
  • CUDA ツールキット。nvcc コンパイラが含まれています。
  • CUDA SDK。CUDA と OpenCL のプログラムの多数のサンプルやコードが含まれています。

カーネルモジュールと CUDA の "driver" ライブラリは nvidia と opencl-nvidia に入っています。"runtime" ライブラリと CUDA ツールキットは cuda パッケージでインストール可能です。cuda-gdb を使うには ncurses5-compat-libs^AUR のインストールが必要です。FS#46598 を参照。

開発

cuda パッケージは全てのコンポーネントを /opt/cuda ディレクトリにインストールします。CUDA のコードをコンパイルするときはコンパイラのインクルードパスに /opt/cuda/include を追加してください。例えばコンパイラのフラグやオプションに -I/opt/cuda/include を加えることで追加できます。NVIDIA による gcc ラッパーである nvcc を使うには、/opt/cuda/bin をパスに追加してください。

インストールが成功したかどうかや、CUDA が動いているかどうかを確かめるには、CUDA samples をコンパイルすることで可能です。インストールをチェックする方法の一つとして、deviceQuery サンプル実行するというものがあります。

言語バインディング

• Fortran: PGI CUDA Fortran Compiler
• Haskell: accelerate パッケージ に CUDA バックエンドがあります
• Java: JCuda
• Mathematica: CUDAlink
• Mono/.NET: CUDAfy.NET, managedCuda
• Perl: KappaCUDA, CUDA-Minimal
• Python: python-pycuda
• Ruby: rbcuda
• Rust: cuda-sys (bindings) や RustaCUDA (高レベルなラッパ)

ROCm

ROCm (Radeon Open Compute) は AMD のオープンソース並列計算アーキテクチャでありフレームワークです。これは AMD GPU を要求しますが、一部の ROCm ツールはハードウェアに依りません。さらなる情報やインストール手順については Arch Linux 向けの ROCm リポジトリを見てください。

HIP

Heterogeneous Interface for Portability (HIP) は、GPU ハードウェア上で高パフォーマンスなカーネルを設計するための AMD の専用 GPU プログラミング環境です。HIP は C++ ランタイム API であり、異なるプラットフォームで移植性の高いアプリケーションを開発することができるプログラミング言語です。

• rocm-hip-runtime^AUR: ベースのランタイム。AMD プラットフォーム上で HIP アプリケーションを実行するためのパッケージ群。
• hip-runtime-amd^AUR: ROCm の AMDGPU 向け Heterogeneous Interface。polaris アーキテクチャ(RX 500 シリーズ)から AMD の最新 RDNA 2 アーキテクチャ(RX 6000 シリーズ)までの GPU をサポートします。
• hip-runtime-nvidia^AUR: ROCm の NVIDIA GPU 向け　Heterogeneous Interface。

OpenMP

openmp-extras^AUR パッケージは AOMP という、AMD GPU 上の OpenMP API のサポートが追加されたオープンソースの Clang/LLVM ベースのコンパイラを提供します。

OpenCL

rocm-opencl-runtime^AUR パッケージは ROCm フレームワークの一部で、OpenCL ランタイムを提供します。

OpenCL Image Support

現在、最新の ROCm バージョンには、Darktable などの GPGPU により支援されたソフトウェアにより使用される OpenCL Image Support が含まれています。必要なものは AMDGPU オープンソースグラフィックドライバと ROCm です。AMDGPU PRO は必要ありません。

$ /opt/rocm/bin/clinfo | grep -i "image support"

Image support                                   Yes

GPGPU のアクセラレーションがあるソフトウェア

• Bitcoin
• Blender – Nvidia GPU 向けの CUDA のサポートと AMD GPU 向けの OpenCL のサポート。詳細はこちら。
• BOINC
• FFmpeg – 詳細はこちら。
• Folding@home
• GIMP – 実験段階 - 詳細はこちら。
• HandBrake
• Hashcat
• LibreOffice Calc – 詳細はこちら。
• clinfo – システムの OpenCL プラットフォーム・デバイスのプロパティを確認。
• cuda_memtest^AUR – GPU memtest。名前とは裏腹に、CUDA と OpenCL の両方をサポートしています。
• darktable – OpenCL 機能を使うには GPU に最低でも 1GB のメモリが搭載されていて Image support が必要です (clinfo コマンドの出力で確認できます)。
• DaVinci Resolve - ノンリニア動画エディタ。OpenCL と CUDA の両方を使えます。
• imagemagick
• lc0^AUR - ニューラルネットワークの検索に使います (tensorflow, OpenCL, CUDA, openblas に対応)。
• opencv
• pyrit^AUR
• python-pytorch-cuda - CUDA バックエンドの PyTorch
• tensorflow-cuda - TensorFlow の CUDA への移植
• tensorflow-computecpp^AUR - TensorFlow の SYCL への移植
• xmrig - High Perf CryptoNote CPU と GPU(OpenCL, CUDA) miner

参照

• OpenCL 公式ホームページ
• SYCL 公式ホームページ
• SPIR 公式ホームページ
• CUDA Toolkit ホームページ
• Intel SDK for OpenCL Applications ホームページ
• ComputeCpp 公式ホームページ
• 異なる GPU で利用できる OpenCL フレームワークのリスト