Movatterモバイル変換

blueboy id:blueboy

ITとGPTに関するblueboyのブックマーク (2)

生成AIの飛躍的性能アップの秘密「グロッキング」とは？
ChatGPTなどの優れたAIモデルを開発するAI研究団体のOpenAIが発見した、ディープラーニングにおける最も魅力的な謎のひとつとされる「グロッキング」について、GoogleのAI研究者が位相変化との関係を指摘しています。 [2301.05217] Progress measures for grokking via mechanistic interpretability https://arxiv.org/abs/2301.05217 A Mechanistic Interpretability Analysis of Grokking -AI Alignment Forum https://www.alignmentforum.org/posts/N6WM6hs7RQMKDhYjB/a-mechanistic-interpretability-analysis-of-grokk
blueboy2023/06/01
　何らかの「きっかけ」を探り当てるまでの時間が長くかかる。いったん探り当てたら、一挙に先に進む。→　その意味では、生成ＡＩを探り当てた人類自体が、相転移の歴史状態にある。シンギュラリティが起きた。　 .
GPT
IT
リンク
GPT-4はどのようにして「不適切な回答」を回避するように学習されているのか - Qiita
Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? 先日OpenAIより発表されたGPT-4が話題ですが、同タイミングで公表されたTechnicalReportを読んでみたところ、全99ページのうち後半60ページを占めるドキュメント「GPT-4 System Card」において解説されていた、言語AIが抱える危険性と、いかにしてGPT-4が危険な回答を回避するように学習されているかについての内容が非常に興味深かったため、簡単にまとめてみました。 https://arxiv.org/pdf/2303.08774.pdf サマリ GPT-4のリリースに向けて、OpenAIでは安全性を評価す
blueboy2023/03/19
IT
GPT
リンク
1