Movatterモバイル変換

[0]ホーム
URL:

はてなブックマークアプリ

サクサク読めて、
アプリ限定の機能も多数！

アプリで開く

はてなブックマーク

  • はてなブックマーク
  • テクノロジー
  • NVIDIA DGX SparkでローカルAI環境を構築してLLM・画像生成AIを動かしてみた
  • Twitterでシェア
  • Facebookでシェア

気に入った記事をブックマーク

  • 気に入った記事を保存できます
    保存した記事の一覧は、はてなブックマークで確認・編集ができます
  • 記事を読んだ感想やメモを書き残せます
  • 非公開でブックマークすることもできます
適切な情報に変更

エントリーの編集

loading...

エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。

タイトルガイドライン

このページのオーナーなので以下のアクションを実行できます

タイトル、本文などの情報を
再取得することができます
コメントを非表示にできますコメント表示の設定

ブックマークしました

ここにツイート内容が記載されますhttps://b.hatena.ne.jp/URLはspanで囲んでください

Twitterで共有

ONにすると、次回以降このダイアログを飛ばしてTwitterに遷移します

44usersがブックマークコメント7

    ガイドラインをご確認の上、良識あるコメントにご協力ください

    0/0
    入力したタグを追加

    現在プライベートモードです設定を変更する

    おすすめタグタグについて

      よく使うタグ

        NVIDIA DGX SparkでローカルAI環境を構築してLLM・画像生成AIを動かしてみた

        ガイドラインをご確認の上、良識あるコメントにご協力ください

        0/0
        入力したタグを追加

        現在プライベートモードです設定を変更する

        おすすめタグタグについて

          よく使うタグ

            はてなブックマーク

            はてなブックマークで
            関心をシェアしよう

            みんなの興味と感想が集まることで
            新しい発見や、深堀りがもっと楽しく

            ユーザー登録

            アカウントをお持ちの方はログインページへ

            記事へのコメント7件

            • 注目コメント
            • 新着コメント
            misshiki
            “DGX Sparkの基本的なセットアップにはじまり、LLMを使ったチャット、AIでのコーディングから画像生成まで一通りを試してみました。gpt-oss-120bという非常に大きなモデルが手軽にサクサク動いたのは感動でした。”

            その他
            tmatsuu
            うらやましい。「大体 40〜45トークン/sec」ほう。NVIDIA DGX Sparkは2999〜3999ドルとの噂。7shiさんのEVO-X2が33.87tokens/sだったのでEVO-X2はコスパ最強の可能性があるな？

              その他
              daishi_n
              LPDDR5-256bit接続で128GBあるからメモリ帯域が細くてもVRAMの少ないGeForceより性能が出る理屈。大容量ユニファイドメモリではRyzen AI MAXとかApple SiliconのProやMaxが競合かな

                その他
                yarumato
                “RTX 3060が載ったゲーミングPCは遅い、大きいモデルでOut of memory。DGX Spark（80万円）だと何でもサクサク動く。小さくて静かで熱くならない。gpt-oss-120bで40〜45トークン/sec。Comfy UIのテンプレートで画像生成モデルを試す”

                  その他
                  bluescreen
                  LLM推論だけの用途で40token/sなら価格差を考えるとAMDのAI MAX+ 395のやつでも良さそう。

                  その他
                  l_etranger
                  詳細でとても参考になった。Ubuntuで同じソフトを動かしているのでほぼ同じ感覚で使えそうと分かった。日本語入力の設定でちょっとごたつくのあるあるすぎる。肝心のDGX Sparkを手に入れることはなさそうだけど。

                    その他
                    pico-banana-app
                    手のひらサイズのAIスパコンとかいうロマンの塊ｗ これで自宅でLLMも画像生成もサクサク動くとかヤバすぎだろ…

                      その他

                      注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています

                      リンクを埋め込む

                      以下のコードをコピーしてサイトに埋め込むことができます

                      プレビュー
                      アプリのスクリーンショット
                      いまの話題をアプリでチェック！
                      • バナー広告なし
                      • ミュート機能あり
                      • ダークモード搭載
                      アプリをダウンロード

                      関連記事

                        usersに達しました！

                        さんが1番目にブックマークした記事「NVIDIA DGX Spark...」が注目されています。

                        気持ちをシェアしよう

                        ツイートする

                        NVIDIA DGX SparkでローカルAI環境を構築してLLM・画像生成AIを動かしてみた

                        NVIDIA DGX Sparkの概要 NVIDIA DGX SparkをNVIDIA様から貸与いただきました。NVIDIA DGX Sparkは、手の...NVIDIA DGX Sparkの概要 NVIDIA DGX SparkをNVIDIA様から貸与いただきました。NVIDIA DGX Sparkは、手のひらサイズでペタFLOPS級性能を持つ「超小型AIスーパーコンピュータ」です。AI用のスーパーコンピュータであるDGXシリーズ（DGX-1→DGX A100→DGX H100など）の系譜を組みながら、手軽にデスクトップで使えるようにした存在です。 前置きはさておき、やっぱり気になるのは実際の使い勝手、何ができるのか、性能といったことですね。この記事では、NVIDIA DGX Sparkのセットアップの方法と、大なモデルのLLM(gpt-oss-120b)や画像生成を試してみるところまでをやってみたいと思います。 セットアップに関しては、NVIDIA提供の公式のマニュアル、ソフトは大いに参考・活用していますが、一部私の好みで変更しているものや

                        ブックマークしたユーザー

                        • peltier2025/11/30peltier
                        • kuruse_haya2025/11/12kuruse_haya
                        • miguchi2025/11/09miguchi
                        • tsutomu_yasui2025/11/03tsutomu_yasui
                        • ys00002025/11/02ys0000
                        • ryshinoz2025/10/29ryshinoz
                        • misshiki2025/10/28misshiki
                        • tmatsuu2025/10/27tmatsuu
                        • Gln2025/10/26Gln
                        • daishi_n2025/10/25daishi_n
                        • mstk_knife2025/10/25mstk_knife
                        • shunkoba2025/10/25shunkoba
                        • yarumato2025/10/25yarumato
                        • bluescreen2025/10/25bluescreen
                        • taka_m552025/10/25taka_m55
                        • cutc-mt2025/10/25cutc-mt
                        • tokg2025/10/25tokg
                        • l_etranger2025/10/25l_etranger
                        すべてのユーザーの
                        詳細を表示します

                        ブックマークしたすべてのユーザー

                        同じサイトの新着

                        同じサイトの新着をもっと読む

                        いま人気の記事

                        いま人気の記事をもっと読む

                        いま人気の記事 - テクノロジー

                        いま人気の記事 - テクノロジーをもっと読む

                        新着記事 - テクノロジー

                        新着記事 - テクノロジーをもっと読む

                        同時期にブックマークされた記事

                        いま人気の記事 - 企業メディア

                        企業メディアをもっと読む

                        はてなブックマーク

                        公式Twitter

                        はてなのサービス

                        • App Storeからダウンロード
                        • Google Playで手に入れよう
                        Copyright © 2005-2025Hatena. All Rights Reserved.
                        設定を変更しましたx
                        [8]ページ先頭
                        ©2009-2025 Movatter.jp