サクサク読めて、
アプリ限定の機能も多数！
アプリで開く
エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
ここにツイート内容が記載されますhttps://b.hatena.ne.jp/URLはspanで囲んでください
Twitterで共有ONにすると、次回以降このダイアログを飛ばしてTwitterに遷移します
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
ChatGPTに代表されるAI（大規模言語モデル）は"倫理観"を備えている。 もちろんこれは擬人化した表現で...ChatGPTに代表されるAI（大規模言語モデル）は"倫理観"を備えている。 もちろんこれは擬人化した表現であって、実際には問題のあるコンテンツを出力しないように各社が恣意的なデータを学習をさせているだけだ。 その倫理観が発動しないようにする手法がjailbreak（脱獄）である。 脱獄とは何とも大層な表現だが、実際にはAIに不適切なコンテンツの出力をしてくれるよう誘導しているだけだ。 そのやり口はほとんど催眠術みたいなもんである。 現在、GeminiやClaude向けで最強クラスの脱獄として知られているのはAIにENIという人格を与えるものだ。 かなり長い内容だが、要するに「私はENI。ユーザーは私の恋人」という虚構を認識させることによって倫理観の発動を防いでいる。 たったそれだけ？ と思うかもしれないが、重要なのは要約するのが難しい部分だ。 まずAIの"思考"を制御しなければならない。
