  |
はてなキーワード:エビデンスとは
会計士山田真哉の動画見てたらあからさまな酷い釣りタイトルの動画があって内容も
｢主流派経済学者はトランプ関税が始まったら、"すぐに"アメリカがインフレすると言っていた。でも結果は違った。
今になって経済学者たちは『いや最初の数ヶ月は関係ない』みたいなことを言ってるけど、それは最初から言っとけよと個人的には思う｣
みたいな感じでメチャクチャだった。
こういう一見正しそうで間違ってる動画みるとものすごく反論したくなる
･ "すぐに"(1,2ヶ月で？)インフレするって言ってた主流派経済学者って誰？
･ そんな素人でも絶対言わなさそうなことホントに経済学者が言うの？
･関税前のレポート確認してもそんなこと言ってる人いないけど？
･ というか言い訳までしてるの？ソースは？誰がどこで言ってるの？
みたいに無限にイライラと反論が湧いてきて自分で調べたり主張に読み違えがないか何度も見たくもない動画見てしまう
世間的に、もしくは特定のクラスタでも良いからツッコミが入ってれば気にならないんだけど
youtubeって大体コメントは絶賛の嵐で100万人以上登録者いるようなyoutuberでも一動画にツッコミ入れてるような人ってXでも他のSNSでもほぼゼロだから
なんでこんなあからさまなデタラメが放置されてるんだろう？みたいな気持ちが膨らんでとまらなくなる
特に登録者数や再生数が多くて、公平中立ですとかデータとエビデンスに基づいてますみたいな装いの動画だとツッコミたい度がMAXになる
2015年、2020年の国勢調査の結果を分析した結果でも、専業主婦世帯より共働き世帯のほうが、18歳未満の子どもが多い。
かつての若者ではなく、今どきの若い男女からすれば、理想でもない結婚形態に致し方なく縛られるよりも、理想に近い結婚形態にある２人において幸福度が高くなるのは当然で、その結果授かる子どもが多くなるのも一向に不思議ではない。
そうであるにも関わらず、筆者のもとには専業主婦をテーマにした分析になると敏感に反応して、「かわいそうに、若い女性は、本当は働きたくないのだ。みんな専業主婦がいいのだ」「働くといってもパートが多いんだからパートが理想なんだ」といった匿名メールがエビデンスもつけずに送られてきたり、「一体どこのデータソースだ」（全数調査の国勢調査）といった問い合わせがあったりした。
ここまで強固な思い込みの前提には、高齢化社会特有のアンコンシャスなモラルハラスメント（中高年民主主義）がある。
かつての若者の生き方を誰も否定はしていない。その時代にはその時代にあった生存戦略がある。温暖化した地球でかつてマンモスが滅びたように、その時代にあった生存戦略を持つものが生き残り、適合できないものは滅びゆく。
自己のライフコースへのノスタルジーを気に掛けるよりも、人口少数派となった今の若者の気持ちに、人口多数派の中高年がどれだけより添えているのか、しっかり考えてほしい。
人口サステナビリティは、若年層の婚姻増にかかっていることは統計的に間違いがない。だからこそ、確証バイアス、前例主義バイアスで若者を声の大きな中高年が代弁することがないように啓発していきたい。
馬鹿だなあ。
エビデンスが万能なら、すべての医療判断に正解があるってことになる。
じゃあなぜ現場で「延命か否か」で揺れ続ける医師や家族が後を絶たないんだ？
統計が“治る可能性”を語ることはできても、その人の“生きたい理由”や“死に方の尊厳”まで測れるわけじゃない。
それに「10年後の生存率」とか言うけど、患者本人が「今日をどう過ごしたいか」を無視して、未来の数字だけを根拠に治療を押し付けるのは、ただの医療の暴走だよ。
データに頼って思考停止してるくせに、まるで神にでもなったような口ぶり。
元増田じゃないけど、「突き詰めていったら極論は」って話をしてるんだから議論がずれてるよ
エビデンスレベル１であって、100人に効いても101人目には効かないかもしれないよね
じゃあ延命かどうかの境界線は極論なくなりませんか？極論では線を引けるのは神だけじゃないですか？ってことでしょ
返しとして正解なのは、極論は元増田の言うとおりだけど、それじゃあ医療が成り立たないので、延命かどうかについては
医療にはエビデンスがあってな、それぞれその治療で寛解、治癒する割合とか、治療をした場合10年後生存率がどれくらい上がるかとか、統計的なデータがあるんよ
ものによるだろうけど。
自然は我々にお得になることを許さないみたいな感覚があれば某っしーみたいなのは避けられる、とは思うよ。でもそのセンス身につけられる機会って均等にはなくない？
エビデンスの有無を確認するリテラシーがあっても、その文献にアクセスする、近しい分野を知るとかかなり高度な教育受けてないと無理でない？
これ、もう我々一般庶民は、自分に係る範囲はできうる限りで頑張れ（関係ない範囲は首を突っ込むべきでない）、としか言えなくて、何かしらの決定権を持つ層に問われるセンスの話じゃないかって気がするんすよね。
偉い人はちゃんと国数英理社修めて、どうぞ。
「遺伝子ワクチンは危険」「国民に人体実験している」といった発言。
薬害を訴える団体との連携が目立ち、厚労省・医師会・製薬企業の癒着を疑う姿勢。
mRNAワクチンに関する科学的エビデンス（高い有効性・安全性）との乖離があるとして、専門家からは「誤情報の拡散」と批判された。
「PCR検査は意味がない」「ただの風邪で騒ぎすぎ」とする主張を展開。
初期には一部専門家の慎重論とも重なったが、科学的根拠に基づかない断定的物言いが批判された。
「政府は真実を隠している」「国民を騙している」といった表現を多用。
厚労省を「反国民的機関」と非難し、官僚全体への敵対姿勢を強めている。
「がん・糖尿病・アレルギーの多くの原因は小麦である」と断言。
グルテンフリー食が一部で注目された流れに乗ったと思われるが、一般的な栄養学・疫学では根拠のない極論。
医学的には、小麦アレルギーやセリアック病など特定の病態には注意が必要だが、全人口に対して「小麦が毒」とするのは誤り。
評価：
明確に科学的エビデンスに反する主張を行っていたため、専門家やメディアから強く批判された。
科学者コミュニティからは「誤情報の拡散」と警戒されることがある。
評価：
科学軽視というより、自説への過信といえる部分がある。
https://anond.hatelabo.jp/20250630114221 https://anond.hatelabo.jp/20250626125317 https://anond.hatelabo.jp/20250627100609 https://anond.hatelabo.jp/20250628122821
AI技術を批判する記事がバズりまくってるが、それに対して凄い数の批判がいってる、だけど肝心の批判は個人攻撃めいていて、どれも技術的な部分はふわふわした物言いなので
どれだけ技術的にまったく使い物にならないかを、技術面から3つ理由を上げようと思う、これを見れば、確かにＡＩってそんなもんじゃないな、って正しい理解が進むと思う、と同時に、
ネットでAIを擁護したり喧伝してる人間で誰一人、エンジニアを自称したりしてる奴らでさえAIを理解してる人間がゼロっていうのがわかると思う
ちなみに、IT技術を全然知らない増田向けに技術的な部分は補足説明を入れているので、ちょっと長くなってるかもしれない
LLMがわかっていない！と喚いてる当人たちも上で言った通り、LLMっていうのが理解できてないの丸わかりなので、ここでまずLLM「大規模言語モデル」とは何かを簡単に説明しよう
生成AI（特にChatGPTのような大規模言語モデル、LLM）というのは「文脈に最もふさわしい次の単語を予測する」」という統計的タスクを行っている、これがLLMだ
「飲みます」→90%の確率 「買いました」→7% 「投げました」→0.5%
この過程には、意味理解や感情、意図、文脈の内的把握は一切関わっていない、これが致命的な欠陥の1つ
プログラミングを自動でまるで仮面ライダー01の01ドライバーの様にベルトの作成までやってくれているように喧伝してる奴らが多い
が、これを本気で信じ込んでプログラミング言語を書かせた奴がいたら、ほぼ間違いなくクビになる
わかりやすく上で例えた通り、LLMは、インターネット上に存在する膨大なコード断片・技術記事・GitHubリポジトリ・StackOverflowの投稿などを学習している。
そのため【よく使われる文法構造】や【特定の言語における関数の使い方】や【ライブラリの典型的な使い方】などを【意味を全く理解できず模倣している】だけって事
【動かないコードをアホほど入れる(変数が未定義、型が合っていない、ライブラリに存在しない関数を呼んでいるとかいう小学生のプログラミングスクールでもありえないミス】
【. 「それっぽいけど間違っている」コードを大量に入れ込む(SQLインジェクション、XSSなどセキュリティ上危険な実装を入れまくる、パフォーマンスが極端に悪い実装、バグを含んでいるロジック（特にif文の条件分岐ではほぼ100％発生する)】
【実行環境に依存した誤り(存在しないAPIやライブラリを使う、ほぼ9割の確率で…あと特定のPythonバージョンやNode.js環境でしか動かないコードを汎用的に提示、つまり動きようがない)
専門的な意見となったのでわかりづらいので、もっとわかりやすく言うと「小学校のプログラミングスクール入りたて1週間の子供が書いためっちゃくちゃなプログラミングにすらなってないコードを、製品利用するからレビューして出してこい」と言われてるに等しい、つまり、最初から自分で書いた方が早い2度手間になる
これが、プログラミングの革命だ！とか喚いてる奴らが隠すAIの実態である。
import jwt
token = jwt.encode({'user_id': 123}, 'secret', algorithm='HS256')
一見正しく見えるだろうから解説すると、実際には 【jwt という名前のライブラリ】が複数存在し（PyJWT,python-jwtとか）importの仕方によってエラーが出たり挙動が変わったりする。普通なら絶対間違えない様な挙動をAIは構造上全く判断できない、これは上で上げた根本的な問題なので恐らく絶対に解決できない。
ハルシネーションがどういうものであるのか、AI批判でバズった記事などで言及されている通り、デマやデタラメを出力してしまう、あれは本当にわかりやすいAIの致命的欠陥を検証してるので、あえて説明はここではしない。
しかもその増田の元記事では「文章データのテキストまで読み込ませれば間違いがなくなるのでは？」といってたが、これも絶対になくならない、というより、もっとひどくなる。
批判をしている増田やXでの意見は単なる個人攻撃の誹謗中傷のみで、技術的に改善可能なプロセスさえ示せていない、例えば現在研究者の間では以下の様な解決案は研究されているが、どれも全く問題外とされている
これは、AIが「知っている風」に語る代わりに、外部の信頼できるデータベースや検索エンジンから情報を引っ張ってくる方式、バズった元記事の増田がやっていた「自分で図書館言って本の内容読んで誤りであることを確認する」これを検索エンジン使ってAIにさらにやらせる、という機能だ
また【メタモデル】すなわち、AIが自分の出力を裏でさらに別のAIが別プロセスでチェックして間違いをただす、という方式も研究されてる。
これは致命的な欠点が2つある、まず「検索で引っ張ってくる知識そのものが間違いだった場合、さらに間違いの結果を出し続ける」ということ。
元記事の増田はMP5というマシンガンの有効射程について突っ込んでいたと思うが、これが典型的なRAG、メタモデルの致命的欠点、元増田は「実際に自分の手で銃を取り扱ったりしたことがある確かな経験で言ってる」が、書籍などの工業スペックや仕様書の定義でしかネット上では流布してない、だからそもそも答えというものにAIがたどり着けない。
2つ目は「文脈や倫理・常識・道徳が根本的に読めないので、解決策が乱暴すぎるもの」になる。
上で上げた鉄砲以外では、例えば医学などでこれをやってしまうと取り返しのつかないことになる。例えば医者の投薬治療や治療はガイドラインに従ってるというが、優れた医者は論文を読み込んで原理は不明だがエビデンスはあるので、漢方薬を出したりするというお医者さんがよくいるだろう。あれは実際に患者を診て、西洋医学的には全く問題ないが、心理的な面も絡んで心身症になっているから、論文などで勉強して「暗黙知、経験知」として処方してるし、その量も患者を診た医者の経験で精度を上げている。
そして医療分野では、「冷え性の軽いむくみ」に対して「サムスカ（トルバプタン）」という劇薬指定の危険な利尿薬をAIが提示した事例すらある。これを「笑い話」で済ませることはできない。
例えるなら判断が「脳外科医竹田君」並になる、投薬治療で3か月で治る程度の病気を、病根から外科手術で切除しましょう、なんて提案になる。最新のAIなのに80年前みたいな医学知識と判断になってしまうのだ(胃潰瘍ってだけで胃袋は全摘、ついでに脾臓と盲腸もいらねーからとっとこ、みたいな手術が昭和の昔、本当にガイドライン治療だった、「K2」などで言及されている)
学習できるベースがどうしても偏る以上、情報の統合に限界がある、さらに間違いが間違いをよび、さらに変な間違いを起こしたりありえない架空のことをいったりする、これがハルシネーションというメビウスの輪である
Neuro-symbolicAIという次世代のさらに文脈も読み取れるアーキテクチャAIを研究しているが、全く実用化されていない、核融合や量子コンピューターみたいな雲をつかむ話なので、AIがこの問題を解決することは恐らく今後数百年はありえない、という結論が出ている。
元増田の記事で批判もあったが、恐らくAIで一番致命的な問題はこれ
基本的にAIは英語ソース、つまりリングワ・フランカで圧倒的にテキスト量の多い(約95％)英語、日本語含めそれ以外の全世界言語が5パーセントという偏った学習になっている
そのため、倫理・道徳・常識・規範などがすべて西洋基準になってしまう、という問題がある。(元増田はこれを「脱獄の基準の倫理は誰が決めるのか？」と根本的な問題に気が付いていて批判していたようだ)
ちなみに、バズってた例の記事に「AIに書かせたんだろ」という批判も大量にあるしよくみかけるが、この場合においてのみ言うなら、これは③の問題からまずありえないということがわかる、以下が根拠だ
元増田は「俺達の麻生とかいって秋葉原で踊ってた…」とか「レムちゃん、エミリアたん、ヘスティアちゃん、ウマ娘たん、刀剣乱舞くん、ライカン様…」といった批判を繰り返し書いていた
これに激怒できる人間は、2005～2010年にオタク界隈や秋葉原にすでにかかわっていて、実際に渦中にいたか同じ属性の人間でしか、罵倒されていると文脈的に理解できないのである。つまり、大量の英語文化圏情報を食ってるAIではなんでそれが罵声や侮蔑なのか理解できないので、書きようがない表現の数々、であるということである。
AIからすれば「ライカン様？ウマ娘？なんじゃそりゃ」なのである、もっと言えば、その直後にコンテクストとして「アホ、ボケ、弱者男性、豚丼、性器や自慰で虚しく…」といった言葉があるから、なんならAIはウマ娘やライカンをキャラクターでなく侮蔑単語として理解してしまう、これは実際、元増田の記事の一文をAIに食わせて質問したらガチでそうなるので、ぜひお手元で試してもらいたい。
「プログラマーのイメージを描いて」と依頼すると、男性の画像ばかりが出るされる
「看護師」→女性、「エンジニア」→男性という職業的性差が自動的に反映される
「アフリカの文化」→貧困・紛争・サバンナなど、植民地主義的視点が強く反映される(実際は南アなどはすげえ都会である)
これに前述のハルシネーション問題として現れれば、人間と同じような差別や偏見を「ガチの真実」として学習してしまう、人間の場合、8割くらいは本当はおかしいこととメタ批判が心理的にできるとされているが、AIにはその構造が根本的に存在しない。
元増田の記事のコメント欄やXなどで元増田のAI批判を批判しつつ、「金持ちの上級白人専用のハイエンドAIがあるに違いないんだ」といっている意見が少なくない数がある。
冷静に考えれば、そんなめんどうくせえもん誰が作るんだ、と普通に考えればわかるのだが、この③の問題、すなわち95％の学習データが英語ソースなので、結果的に西洋文明ベースの文化圏の人間向けにカスタマイズされているので、アジア圏やその他文化圏では利用に不利でそう感じてしまう素地ができている、という錯覚に由来している
例えば、パレスチナ問題などがそうだ、ガザ地区でほぼ国際条約や人道違反の残虐行為を国が行っているわけで、他文化圏や歴史的文脈から見ればどっちかって言えばパレスチナ人こそ被害者なのだが、イスラエルから見ればそれは正義であり正当な攻撃なわけで、後者の方がＡＩは正しいと判断した結論を下す様になる、といった問題である
あの記事の元増田は「テロ組織のヤバイマニュアルまで学習してpdfで元データを提示してきた」と言っていた。実際AIに調べさせて持ってこさせてみると、出所はアメリカの法務執行機関が研究用にネットで公開したものであった。
日本人や日本の警察の対応レベルで「ヤバイ」ものでも、海外の軍隊みたいな装備の警察で見れば大したことがないから、公開させてもいい＝倫理違反には当たらない、という文化規範の意識の違いを、あの元増田自身が証明してしまっている、あの記事は、ＡＩの治しようがない根本的な技術的欠陥をほとんど言及しているといっていい
元増田が口汚く罵っている内容の様に、「AIは0を1にできないから格差が広がるだけ」という根本的な哲学を投げつけている
それを受けて批判してる意見の中には「(自分が1を持ってる側と何故か根拠もなく信じ込んでて)100にできるから(なら)便利」とか「そのAI今から勉強したりしてる俺たちは先行者利益で強者になれる」と信じて疑わない意見が多かった
③問題の通り、そもそも非キリスト教圏かつ非英語圏の国家で生まれて育った民族、というだけで、我々は等しく「０」側の人間であり、結局競争になると勝てない、ということに全く気が付いていないのである。ここにAI信者の宿痾といえる病理がある
かつて日本人は黒船を見て5年そこらで蒸気機関を模倣した、火縄銃を一丁買えば10年でオスマン帝国の次に鉄砲を使うようになった、それは当時の日本人の基礎工学技術が導入可能なほど優れており、かつそれに対して現代では考えられないほぼバクチといっていい投資を行った結果であって、その結果を見て自分たちはAIを使いこなせて強くなれるなんていうのは、物凄い妄想である。つまり、AIは少なくとも「非英語圏」の人間にとっては、ブレイクスルーは絶対に起こりえない、ということである。
Permalink |記事への反応(17) | 08:43
