Content-Length: 329709 | pFad | http://b.hatena.ne.jp/masterq/gpgpu/
DeepSeek R1をほぼ準備なしからローカルGPUで動かす｜しぴちゃん
しぴぴぴ！ Vtuberのしぴちゃん (https://www.youtube.com/@CP-chan)です。普段はゲーム配信しかしてませんが、たまにAIについて発信することがあります。今日はAIの記事の方。 現在はローカルAIモデルに関する連載をしています。 第一弾 本記事（DeepSeek R1をほぼ準備なしからローカルGPUで動かす） 第二弾 Cline＋ローカル版DeepSeek R1でAIコーディングを使い放題にする（高スペックマシン向け） 最近話題のローカルで動くLLM、DeepSeek R1 をローカルGPU環境（NVIDIA）で動かしてみましょう。 多少のコマンドラインの操作ができれば、事前にローカルLLMを触ったことがなくてもインストールできるように書くつもりです。 サムネはDeepSeek R1くんに画像を生成してもらおうとしたところです（そんな機能はありません）。
世界一安いGPUを求めて2024冬 - Qiita
Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? 結論 スポットで使うならColab、Runpodが最強 ゲーミングPCでいいならどこかで買うかBREAJONでサブスクしよう だいたいRunpodさんがなんとかしてくれる 今回の記事について こんにちは！逆瀬川 ( https://x.com/gyakuse ) です！今日は最強のGPUプロバイダー決定戦をします。世は大GPU時代となりました。Valorantをやるにも、APEXをやるにも、ある程度高性能なGPUが必要です。League of Legends はノートパソコンでも遊べるのでおすすめです。 その他の利用として機械学習のモデ
CUDA用のemacs設定とlspの導入方法 - pyopyopyo - Linuxとかプログラミングの覚え書き -
CUDAのプログラムを書くための emacs の設定です cuda-mode まずcuda-modeをインストールします 設定はこれだけ (use-package cuda-mode :mode ("\\.cu\\'" "\\.cuh\\'") ) これでCUDA関連の予約語などがhighlight表示されます lsp 関連 clangd 経由でCUDAのコードでもlspが使えます 設定も簡単です 設定ファイル .clangd を用意 C/C++と同様に lspを使う これだけです .clangdはソースコードと同じディレクトリに配置します .clangd の内容は以下のとおり CompileFlags: Add: - --cuda-path=/usr/lib/cuda - -L/usr/lib/cuda/lib64 - -I/usr/lib/cuda/include これで clangd
CUDA-X
NVIDIA CUDA-X Libraries NVIDIA CUDA-X™ Libraries, built on CUDA®, is a collection of libraries that deliver dramatically higher performance—compared to CPU-only alternatives—across application domains, including AI and high-performance computing. NVIDIA libraries run everywhere from resource-constrained IoT devices to self-driving cars to the largest supercomputers on the planet. As a result, user
GitHub - mathiasbourgoin/SPOC: Stream Processing with OCaml
SPOC is a set of tools for GPGPU programming with OCaml. The SPOC library enables the detection and use of GPGPU devices with OCaml using Cuda and OpenCL. There is also a camlp4 syntax extension to handle external Cuda or OpenCL kernels, as well as a DSL to express GPGPU kernels from the OCaml code. This work was part of my PhD thesis (UPMC-LIP6 laboratory, Paris, France) and was partially funded
SCALE GPGPU Programming Language
SCALE is a GPGPU programming toolkit that allows CUDA applications to be natively compiled for AMD GPUs.
[CUDA] NVIDIA GPUやCUDA周りの互換性を理解したかった
よくわからなかったので、調べて整理しようとした試み。 Compute Capability GPU ハードウェアがサポートする機能を識別するためのもので、例えば RTX 3000 台であれば 8.6 であるなど、そのハードウェアに対応して一意に決まる。 アーキテクチャの世代が新しくなり、機能が増えるほど、この数字も上がっていく。 以下のリンク先に、Compute Capability と機能の対応表があるが、これを見ると（少なくとも執筆時点で） Compute Capability 7.x 以上でテンソルコアが使えるといったことがわかる。 それぞれの機種がどの値かは以下のサイトから確認できる。 NVIDIA Driver のバージョン Compute Capablity 一般向けの Compute Capability との関連性は見つからなかったが、データセンタ向けの資料には Maxwe
![[CUDA] NVIDIA GPUやCUDA周りの互換性を理解したかった](https://images.weserv.nl/?url=https%3A%2F%2Fcdn-ak-scissors.b.st-hatena.com%2Fimage%2Fsquare%2F85cf8361e193b6c85a85ff11f6be3131360d96e7%2Fheight%3D288%3Bversion%3D1%3Bwidth%3D512%2Fhttps%253A%252F%252Fres.cloudinary.com%252Fzenn%252Fimage%252Fupload%252Fs--Zly7bMhc--%252Fc_fit%25252Cg_north_west%25252Cl_text%253Anotosansjp-medium.otf_55%253A%2525255BCUDA%2525255D%25252520NVIDIA%25252520GPU%252525E3%25252582%25252584CUDA%252525E5%25252591%252525A8%252525E3%25252582%2525258A%252525E3%25252581%252525AE%252525E4%252525BA%25252592%252525E6%2525258F%2525259B%252525E6%25252580%252525A7%252525E3%25252582%25252592%252525E7%25252590%25252586%252525E8%252525A7%252525A3%252525E3%25252581%25252597%252525E3%25252581%2525259F%252525E3%25252581%2525258B%252525E3%25252581%252525A3%252525E3%25252581%2525259F%25252Cw_1010%25252Cx_90%25252Cy_100%252Fg_south_west%25252Cl_text%253Anotosansjp-medium.otf_37%253Aeduidl%25252Cx_203%25252Cy_121%252Fg_south_west%25252Ch_90%25252Cl_fetch%253AaHR0cHM6Ly9zdG9yYWdlLmdvb2dsZWFwaXMuY29tL3plbm4tdXNlci11cGxvYWQvYXZhdGFyLzJkNDMwMDk1NTYuanBlZw%253D%253D%25252Cr_max%25252Cw_90%25252Cx_87%25252Cy_95%252Fv1627283836%252Fdefault%252Fog-base-w1200-v2.png&q=12&output=webp&max-age=110)
#123: SYCL 2020 Specification
(壊れた音声ファイルを配信してしまったので、修正したファイルで同じエピソードを再配信しています。ごめんね。教えてくれた皆さんありがとうございました。） GPGPU ワナビーの森田が C++ 拡張の GPGPU 標準を眺めました。ご意見感想などは Reddit やおたより投書箱にお寄せください。iTunes のレビューや星もよろしくね。 SYCL Overview – The Khronos Group Inc SYCL.tech – Find out the latest SYCL news, videos, learning materials and projects. GitHub – Tohoku-University-Takizawa-Lab/neoSYCL: A SYCL Implementation for CPU and SX-Aurora TSUBASA DPC++ Do
AGP #1
Android で GPU programming をするにはどうするんじゃろ、というのを調べる試み。といっても Android と一般化するとほぼ不可能であることが知られているので Pixel 限定で。自分的にはそれで問題なし。 特に何も見ずに候補を考えてみる。 OpenGL – いちおう GPGPU できることが知られている。 Vulkan – 同上。 OpenCL. SDK には入ってないが, Qcom とか ARM とかには SDK がある。ただ一般開発者は使うえるものなのだろうか。 NNAPI – NN 特化だが、いちおう計算を投げることはできる。 RenderScript … はお亡くなりになりましたので無視。 常識的に考えると OpenCL が動くなら一番妥当。ただ常識が通じないのが Android の世界である。 TensorFlow Lite はどうしているのか？ ten
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Fetched URL: http://b.hatena.ne.jp/masterq/gpgpu/
Alternative Proxies:
NVIDIA Jetson Edge AI Solutions - Jetson Nano, Jetson Xavier NX, Jetson AGX Orin - Seeed Studio
GitHub - XiongjieDai/GPU-Benchmarks-on-LLM-Inference: Multiple NVIDIA GPUs or Apple Silicon for Large Language Model Inference?
GitHub - tmcdonell/cuda: Haskell FFI bindings to CUDA
https://hub.docker.com/r/nvidia/cuda
AMD ROCm™ Software
GitHub - AccelerateHS/accelerate-llvm: LLVM backend for Accelerate
CUDA 10.2 or CUDA 11.0 for RTX3060
RTX3060x2のGPUで激安ローカルLLMマシンを構築。 | blueqat
GitHub - vortexgpgpu/vortex
GitHub - Syllo/nvtop: NVIDIA GPUs htop like monitoring tool