Movatterモバイル変換


[0]ホーム

URL:


はてラボはてな匿名ダイアリー
ようこそ ゲスト さんログインユーザー登録

「浮動小数」を含む日記RSS

はてなキーワード:浮動小数とは

次の25件>

2025-10-13

次世代テレビ4K8Kだ言うけど

フル2K60FPSをまず実現してくれないかなあ

画質でYoutubeの中の雑魚みたいな動画に負けてるようじゃ話にならない

5.1chもそれ以上もしてくれていいよもういい加減音声も浮動小数点にしよ

ネットへの導線も良くしてCMやってるときボタン一つで登録済みのPCスマホ広告送れるようにしてもらっていいか

いつまでも「xxで検索!」じゃねえよめんどくさいじゃんか

テレビさんは同時視聴のネタ提供役としてもっと頑張ってもらって

4K8Kテレビで2k使った残りのエリアyoutubeliveとかの同時視聴を召喚できる枠とかSwitch2みたいに知り合いを召喚する枠とかそういうのをすることにしようよ

リモート団欒とかリモート野球スタジアムとかリモート競技場だよ

頼むよ

Permalink |記事への反応(1) | 01:12

このエントリーをはてなブックマークに追加ツイートシェア

2025-03-15

anond:20250315143600

NaN(Not aNumber、非数、ナン)は、コンピュータにおいて、主に浮動小数演算の結果として、不正オペランドを与えられたために生じた結果を表す値またはシンボルであるNaNの体系的仕様は、無限大表現などと共に1985年IEEE 754浮動小数点規格で標準が与えられている。

Permalink |記事への反応(0) | 14:37

このエントリーをはてなブックマークに追加ツイートシェア

2024-10-14

anond:20241014153241

勝手浮動小数点で計算しやがるからなあ

分数計算できないよやつは

Permalink |記事への反応(0) | 15:35

このエントリーをはてなブックマークに追加ツイートシェア

2024-09-19

anond:20240919165408

有限

ハイ論破

物理パラメータ実数から無限にあるんだよ。

「それがどの程度無限か」はパラメータの変化が結果を変化させる度合い、つまり感度によって既定される。

感度が浮動小数点の精度を超えていたらコンピュータにとっても無限なんだよ。

Permalink |記事への反応(0) | 17:13

このエントリーをはてなブックマークに追加ツイートシェア

2024-09-11

anond:20240828211356

PS5 proのスペックと同じスペックPCを用意しようとした場合モニターOSこみで14万円かかる。

本体のみだと11万円となりPS5 Proと値段がほぼ変わらないことになる。

PS5 ProはASK税込みの1ドル180円で計算した場合108,000から126,000円ぐらいと思われる)

G.SKILLF4-3200C16D-16GIS (DDR4PC4-25600 8GB 2枚組)

 4,820

XPG PYLON 550W PYLON550B-BKCJP

 6,667円

中古IntelCore i7-12700 (2.5GHz/TB:4.8GHz) Bulk LGA1200/8C/16T/L3

 42,980円

中古 _MSI PRO B660M-EDDR4 (B6601700 mATXDDR4)

 8,590円

Ultimate SU630 ASU630SS-480GQ-R

 4,980円

Define CFD-CA-DEF-C-BK

 13,262円

SPARKLEIntelArc A750ORCOC Edition SA750C-8GOC

 31,700円

フィリップス 221V8/11

 11,000円

Windows11Home日本語版

 16,090円

合計 140,089円

Intelarc a770(16GB)はfp16だと39tflops程度で、中古だと3.2万円から4万円台で売られており、新品だと4万円から5万円台程度なので、運が良ければps5 proとメモリー以外全く同じやつが手に入ってしまうことになる。

以下、そうなる根拠

公式発表では、PS5におけるGPUの処理能力は「10.3TFLOPS」。この数字は、RTX2080に相当します。しかし「TFLOPS数字」と「実際のグラボの性能」は、百パーセント一致するものではなく、性能ほど実パフォーマンスは高くならないのが一般的です。

https://digitaldiy.jp/article/esportsgame/16914/

CPUCPU周波数最大4.4GHz、Zen4ベースアーキテクチャ、5nmプロセス製造台湾TSMC製造担当CPUクロック周波数10%増加させ、3.85GHzで動作させるモードが搭載される。

AppleM2と同じく、TSMC製4nmプロセスSoC搭載の可能性もあるとのこと)

CPUキャッシュ:コア毎に64kBのL1キャッシュ、512kBのL2キャッシュ、8MBのL3共有キャッシュ

性能:PS5標準モデルと比べ、通常時で2倍、レイトレーシングでは2.5倍の性能アップ

プロセッサ:30基のWGP(WorkGroup Processors)、60基のCU演算コア

ROP(Rasterize OPeration unit):96~128基

※現行PS5はROPが64基、CUが36基。

メモリ:18gbps GDDR6 256bitメモリメモリ容量16GB、バス幅576GB/s、18000MT/s(現行PS5のメモリは14000MT/s)

CPUアーキテクチャ:RDNA3(Radeon DNA3)

GPU:GFX1115。GPUコアが現行の18個から30個に増加。これは約1.66倍の増加

テラフロップス(浮動小数演算):33.5テラフロップス

GPU周波数:2.18GHz、ブーストで最大2.35GHz

GPUキャッシュ:L1キャッシュ128KBから256KBに倍増、L0キャッシュが16KBから32KBに倍増

グラフィック性能:PS5比で45%向上。可変レートシェーディングやハイブリッドMSAAのサポートなど、DirectX12 Ultimateの新機能を搭載。GPUアーキテクチャがRDNA 2からRDNA 3に変更される可能性があり、これにより各GPUコアの演算機が2倍になる。

超解像技術ソニー独自超解像技術を搭載。高精細と高フレームレートを両立。AMDFSR2等の採用は無し。アップスケーリングアンチエイリアスソリューション

AMDFSR(FiedelityFX SuperResolution)を搭載との話も)

https://socius101.com/matome-of-ps5-pro/

IntelARC A750のスペック

Theoretical Performance

PixelRate

268.8 GPixel/s

TextureRate

537.6 GTexel/s

FP16 (half)

34.41 TFLOPS (2:1)

FP32 (float)

17.20 TFLOPS

https://www.techpowerup.com/gpu-specs/arc-a750.c3929

PS5 ProのGPUと同じ性能である

PSCPUはRayzen 7 7700X相当で、IntelCore i7-11700だと7割の性能で、IntelCore i712700で同じぐらいの性能となる。

Permalink |記事への反応(1) | 01:09

このエントリーをはてなブックマークに追加ツイートシェア

2024-06-27

anond:20240626004823

浮動小数演算ユニットなんてのは386の時代からあって(ユニット自体もっとからあったが)、nvidiaが爆成長したのは仮想通貨ブームでのマイニング需要が発生したからだよ

なんせ金が儲かるならいくらでも投資する人は現れるし、企業としてやるんだから一部のゲーマーが湯水のように金を使うなんてのとは需要のケタが違う

で、それが落ち込むタイミングAIが出てきたというだけの事

3Dとかは全く関係無いとは言わないが、処理自体は高度な事をしているのでは無く莫大な数のコアを使った並列処理で延々と単純な計算をしているだけ

トータルのユニットとしては非常に高度な技術なのは言うまでも無い)

それがマイニングAIの処理にも使えたというもの。このタイミングマイニングAIが出てきたのは偶然に近いと言っていい

後、スパコンに関しては全く関係が無い。nvidiaスパコンで莫大な利益を挙げているわけでも無いし、そもそもスパコンと言ってもいろいろな評価軸があるが最も重要なのは逐次処理性能

アウトプットタイミングを問われない並列処理ならコアを増やせば理論いくらでも性能はあがるが、アウトプットを待って次の処理に入る様な複雑な計算こそがスパコンに求められているもの

これは今我が世の春を謳歌している3DプロセッサArm等に代表されるRiscCPUが最も苦手とする物。つまり全くジャンルが違う

Permalink |記事への反応(1) | 12:01

このエントリーをはてなブックマークに追加ツイートシェア

2024-06-10

anond:20240610140727

浮動小数点って言葉がむかつく

なんで浮いて動くなの!?

ねえねえどうしてよ!

(えりくびをつかんでがくがくゆらしながら)

Permalink |記事への反応(0) | 14:09

このエントリーをはてなブックマークに追加ツイートシェア

2024-03-10

anond:20240310165707

アンダーフローってのは浮動小数点の表現において指数部が云々かんぬん

Permalink |記事への反応(0) | 16:59

このエントリーをはてなブックマークに追加ツイートシェア

2023-01-02

三流エンジニアがやりがちなミス

タイムゾーン考えずに時間を使う

暗黙的にJSTとして時間を使ったせいでUTCで作った場所で盛大にバグる

応急処置バグったところを+9とかやってしまうと、それ以降に逆に誰も気付かずに更に影響範囲が拡がったりする

海外展開しようとしたときバグに気付くがどうしようもなくなって途方にくれて海外だけは別アプリになったりする

UNIXTIMEを使えば楽なんだけれど、そうすると生データぱっと見で時間判別できないので困ることも多い

素直にUTCでISO8601が良い

文字コードUTF-8だと大丈夫だと思ってしま

とりあえずUTF-8にしとけば大丈夫、ってことで実装を進めた結果、Mac/Winでハマる

他にもBOMでハマったりして、むしろSJISの方が良かったんじゃ無いか、とか言い出す

DB統一的になっている場合はまだ後からどうにかできるが、変なところでキャッシュされてたりすると凄い困ることになる

MySQLなりPostgreSQLなりでUTF-8を正しく扱う方法はいろんな記事があるのでちゃんと読んでおけば問題無い

価格浮動小数にしてしま

「将来的にはグローバル展開が必要

とかよく分からないことを言い出して価格浮動小数にしてしま

かに米国なら$2.43みたいな感じで価格を使ったりするし、むしろ小数点以下が無い通貨の方が珍しいのだけれど

丸め誤差を考えないで作ってしまってバグが見つかりめちゃくちゃ揉める

応急処置として丸め機能とかが追加されて事なきを得るけれど

そもそも最小単位で扱って表示の時に小数化すれば良いだけ

他にある?

Permalink |記事への反応(0) | 00:06

このエントリーをはてなブックマークに追加ツイートシェア

2022-07-28

小数点以下を含む数値の計算結果が狂ったのを見て、特定言語問題だと思ってしまうのか、コンピュータ浮動小数形式表現問題だと思うのかというあたりに計算機科学を履修してない人と履修してる人の差が感じられる。

Permalink |記事への反応(0) | 14:26

このエントリーをはてなブックマークに追加ツイートシェア

2022-02-14

0.01fをかける計算

9までは浮動小数の誤差吸収出来てるんだけど10にしたとたん0.09999999になってしま

このせいで0.1秒って表示するのに四捨五入とか入れないといけないんだけどスマート計算する方法ある?

わざわざ1とか10にかけてコンマ秒だすんじゃなくて最初からそっちで保持しろという意見もわかる

だけどIntで持ってた方がいろいろ楽だから

追記

サンキュー

解決した!

Permalink |記事への反応(1) | 11:56

このエントリーをはてなブックマークに追加ツイートシェア

2021-10-05

anond:20211005192235

俺別増田なんだけどApple信者増田はどこを観て浮動小数演算だと思ったの?

俺の記憶上もウン兆回の部分は浮動小数演算の回数じゃなかった気がするんだが

発表会の動画でもFLOPSっていう文字出てなかったはず

Permalink |記事への反応(0) | 19:29

このエントリーをはてなブックマークに追加ツイートシェア

anond:20211005182304

Apple機械学習を15.8兆回走らせることが可能だって言ってるんだよ

浮動小数演算じゃなくて機械学習

Permalink |記事への反応(0) | 18:33

このエントリーをはてなブックマークに追加ツイートシェア

ガジェットマニア評価する今のiPhone

どうも、以前こんなの書かせていただきました。

突然、紹介されるAndroidアプリ集を書いた増田ガジェット

anond:20210516172137

ガジェットマニアとしての自己紹介みたいなものなので趣味の傾向を知りたい場合は以前のエントリを読んで貰えれば何となくわかるでしょう。

長々と出囃子をやっても仕方ないので早速本題に入りましょうか。

題して【今のiPhoneは優れているのか?】

今のiPhoneは優れているのか?

iPhoneは優れている」と主張されれば100人中99人はこの主張を肯定すると思います。実際に筆者自身がこの主張を耳にしたら筆者も肯定しますし、流行に敏感な高校生の姪っ子もおそらくは肯定してくれることでしょう。
しかし「iPhoneは優れているってことで結論ね」で終えてしまうのは芸がない。そもそもエントリを描く意味すら無い。
わざわざ書き始めたということは目的があって書いているわけです。

優れているの意味は1つじゃない

ここまでの書き出しでこれに気付いた人は非常に賢いか、筆者のように物事を斜に構えてみているかのどちらかだ。
一言で「iPhoneは優れている」と表現しても評価できるパラメータは膨大にあり「iPhoneは優れている」との主張へ多くの人が肯定を示していても「iPhoneは○○が優れている」の○○は人によって違う可能性が高いのだ。

そしてその個々人の価値観話題となった下記のエントリへ寄せられる声で知ることが出来る。

もうiPhoneを買う理由はほぼないと思う

https://anond.hatelabo.jp/20211004123017

個々人が各々にiPhoneへ優れている点を見出しており、ある意味iPhone評価は一様ではないとわかる。
しかし、筆者と趣味を同じくするガジェットマニアの皆さんはこの程度のことで感心してはくれないので、もう少し踏み込んだ話をしよう。

実はよくわからない「iPhoneは“性能”が優れている」

iPhoneは○○が優れている」の中でもかなりポピュラーな主張であるiPhoneは“性能”が優れている」だが、実はこれApple結構雰囲気でこのイメージを押し通そうとしているフシが最近ある。

まずiPhone 13無印iPhone 13miniを発表した際「率直に言って去年どころか2年前の私達のチップに追いつこうとしているところです」と主張した後に搭載するSoCであるA15 Bionicを指して「(A15 Bionicを使ってもっと)差を広げる」と主張した。
更に「主要な他社製品より最大で50%も高速です」「グラフィックスは主要な他社製品より最大で30%も高速です」と付け加えた。
もうおわかりだろう。主要な他社製品とは?最大で50%や最大で30%とはどういう演算能力のどういうシチュエーションで高速なのだろうか?実際のところAppleの発表を見てもよくわからないのだ。

ガジェットマニア、そしてコンピュータの性能を測ることを生業としているベンチマーカーはコンピュータの性能を比較するためのポピュラー演算方式単位系を持っている。浮動小数演算とその単位であるFLOPSだ。
浮動小数演算と言っても単精度や倍精度とかまぁ細かく言えば色々あるけれど、わざわざn%とかいう相対値など使わずnFLOPSのような絶対値を使ったほうがわかりやすいに決まっている。
しかし何故か最近Appleは相対値が非常に大好きで、何なら比較先のチップすら「主要な他社製品」とボカしてしまう有様だ。
しかしたらAppleフリークは「一般人へのわかりやすさを重視したんだ」と言うかも知れないけれど「アナタペーパーテストは他の人より50%上です」と言われてわかりやすいだろうか?普通は「50%はわかったか自分は一体何点だったんだ?」と思わないか

いやそれでもAppleフリークは「絶対値あるじゃん!16-core NeuralEngineは15.8兆回も演算可能ですって言ってるぞ!」とAppleの出す数字を信じるのかも知れない。
いや、その機械学習モデルは何なの?どういう機械学習モデルが15.8兆回演算できるの?知ってるなら逆に教えて欲しいとガジェットマニアやベンチマーカーたちは思うのだ。

イマドキのスマホゲームするなら実はAndroid

オマケとしてもう1つ付け加えよう。

記事増田はどうやら「iPhoneは“ゲーム性能”が優れている」と評価しているようだが、ゲーム性能が良いからと言ってイマドキのスマホゲームで有利になるとは限らないのがイマドキのスマホゲームなのだ
言ってしまえばイマドキのスマホゲームはPay toWin、つまり課金すりゃ勝てるゲームシステムを採用していることが多くあり、実は課金を考えた場合iPhoneよりAndroidのほうが投資額が少なくて済むのだ!

まず前提としてGoogle Play Storeは事実上キャッシュバックがある。更にキャッシュバックキャンペーンもあり、特定ゲームタイトル課金した場合に通常よりも多くキャッシュバックが得られることがあるのだ。

そしてAndroidにはGoogle公式お小遣い稼ぎアプリたる「Googleアンケートモニター」の存在が強すぎる。

Googleアンケートモニター

https://play.google.com/store/apps/details?id=com.google.android.apps.paidtasks

Googleアンケートモニターアンケートに答えるだけで少額ではあるがGoogle Playポイントを貰うことが可能。まぁつまり個人情報を売ってポイントを得られるだけなんだが、貰えることに意味があるユーザは少なくないだろう。お小遣いに限りある学生とか。

まりiPhoneユーザ10,000円課金Androidユーザ10,000円課金意味が違う。Google Play Storeの実質キャッシュバック100円につき1円キャッシュバックキャンペーン時は3円キャッシュバックなのでAndroidユーザ10,000円課金すると実質10,100円を課金することが可能なのだ
そしてそこへGoogleアンケートモニターを加えると、真面目にアンケートに答え続ければ1ヶ月で500ポイント前後は貯まるのでAndroidユーザの1ヶ月10,000円課金実質的10,500円課金になっていると考えたら良い。Pay toWinでこの差はデカイ!


というような感じで、一般的目線からわざとズレて変な角度からiPhone評価してみたけれどもどうでしたか
iPhoneには優れた面が沢山あるけれども、わざと面白おかし評価することも可能であることを見せてみたかった。
ちなみに筆者がiPhoneを使っていない最大の理由が「ハードウェアQWERTYキーボードが搭載されていないから」なので、いつか搭載してくれることを心待ちにしてエントリを終えようと思います

Permalink |記事への反応(3) | 18:16

このエントリーをはてなブックマークに追加ツイートシェア

2021-03-30

半導体チップ設計ってどうやって勉強するんだ?

デジタル回路だと、FPGAについての本がある。

Verilog、System-Verilogあたりは書籍もある。

LINTはチェックするツールフリーではないが、書籍がある。

検証となると、VerilogやSystem-Verilogあたりでの検証書籍でなんとなくは出来る。

アサーションあたりになると書籍微妙になる。System-Verilogアサーション、PSLでなんとなく書くのは出来るかもしれないが。

e言語になると書籍もない、ネットでも情報がない。


加算器と減算器はまだいい。

乗算器、除算器、Sin、√となると、書籍がない。


CPU簡単なのは作っている人はいるが、浮動小数点回路となると減ってくる。

GPUなんてなると、殆どない。

USBHDMIなど、身近に溢れているものでも、作っている人がいない。

タイミング制約や非同期あたりも情報が少ない。


アナログだとSpiceにはたどり着くが、ディスクリート品の対象が多い。

Permalink |記事への反応(4) | 20:04

このエントリーをはてなブックマークに追加ツイートシェア

2020-09-02

富岳って1.421エクサエクサは100京)フロップスという性能らしいけど

人間最高峰そろばん名人?、サヴァン症候群?)って、1秒に何回浮動小数演算できるんだろうね?

Permalink |記事への反応(1) | 11:06

このエントリーをはてなブックマークに追加ツイートシェア

2020-06-30

anond:20200630173804

子供議論するときに32Bitはなくていい8Bitで十分 って答えているのですが 浮動小数演算がろんぱっぱしずらい。なんか弾薬ください

Permalink |記事への反応(0) | 17:40

このエントリーをはてなブックマークに追加ツイートシェア

anond:20200630171122

Intel先生・・・あの32Bit人権か?というはなしはありますが、浮動小数点のfloatは人権じゃないでしょうか?難しいな 8Bit浮動小数ってありましたっけ?って聞かれて

Permalink |記事への反応(1) | 17:38

このエントリーをはてなブックマークに追加ツイートシェア

2020-06-05

小数点以下を扱うシステムを組むときに誤差が出たりするじゃん?
それを言語仕様から仕方ないですとか言いきっちゃう人はもうダメだと思う。

お前は何を作ってるんだと。

いからお客さんが求めてるモノを作れと。

請求書の1円違いの重みを知れと。— いけしん@ジジイ無資格無認可システム屋) (@_ikeshin)June 4, 2020



金額計算の誤差なら、浮動小数演算を知らんのかとか、あるいはDecimal機能使えとかでいいけど

いからお客さんが求めてるモノを作れと。

これを言うマネージャーは嫌だわ

ブラウザ画面と同じフォント、改行、改ページで印刷できるようにしろPDFはだめだ」みたいなのが来るから

Permalink |記事への反応(1) | 09:32

このエントリーをはてなブックマークに追加ツイートシェア

2020-05-21

anond:20200521122034

仕様書に書いてあることだけが仕様じゃないだろ。IBM浮動小数点の仕様とか。

Permalink |記事への反応(0) | 12:23

このエントリーをはてなブックマークに追加ツイートシェア

2020-04-29

anond:20200429111443

バイブの振動って強弱つってるけど実は情報量なんだよ。波の重ね合わせが効くから適切な関数を選んで合成できないと話にならない。勉強になるぞ。

更にArduinoなら安易浮動小数演算乱数を使うこともできない。関数の近似という概念も出てくる。モーターを直接駆動するパワーもないから回路も必要だ。総合力が身につくんだよ。

Permalink |記事への反応(2) | 11:17

このエントリーをはてなブックマークに追加ツイートシェア

2020-04-17

anond:20200417204213

100万単位だと8%でも10%でも端数らしい端数は出ないと思うにゃん

浮動小数点で演算してるとかだったらごめんなさいにゃん

Permalink |記事への反応(1) | 20:50

このエントリーをはてなブックマークに追加ツイートシェア

2020-04-07

意味ベクトル浮動小数点精度が少なめのやつ

ニューラルネットワーク量子化みたいで面白くない

Permalink |記事への反応(0) | 23:53

このエントリーをはてなブックマークに追加ツイートシェア

2020-04-05

データの前処理をパイソンでやろうとしたら浮動小数演算の誤差がわけわかめ

Permalink |記事への反応(0) | 19:07

このエントリーをはてなブックマークに追加ツイートシェア

2019-03-01

anond:20190301010229

繰り返すが基情程度であれば小学生でも勉強すれば取れる簡単資格

あなたがそう言いたいのならそれで良い。

私が言いたいのは、基本情報中学以上の数学試験範囲に含まれる(組み合わせ計算浮動小数点の正規化対数、基数変換・・・これらは小学校じゃやらないだろ。)であって、

小学生勉強したら取れるとか取れないとかはっきりいってどちらでも良い話。私はそんな話をしていないのだから

Permalink |記事への反応(2) | 01:10

このエントリーをはてなブックマークに追加ツイートシェア

次の25件>
ログインユーザー登録
ようこそ ゲスト さん
Copyright (C) 2001-2025 hatena. All Rights Reserved.

[8]ページ先頭

©2009-2025 Movatter.jp