サクサク読めて、
アプリ限定の機能も多数！
アプリで開く
TL;DR LLMガードレールはLLMの入出力を監視・制御する技術であり、LLMアプリケーションにおける様々な脅威への対抗策になります。しかし、あくまで役割は脅威の緩和・低減であるため、それぞれの脅威に対する根本的な対策をした上で、万が一の事故に備え文字通りガードレールとして導入する必要があります。本文中では、RAGアプリケーションの利用する外部データベースにプロンプトインジェクションを引き起こすデータが存在し、LLMに対する入力として利用された場合、LLMガードレールで検知する例を紹介しています。しかし、根本的には外部データベースに悪意あるデータが登録されないよう対策すべきです。 このブログではLLMガードレールで対応できる脅威を実際に検証しながら整理し、適切なユースケースを議論します。 はじめに こんにちは、GMO FlattSecurity株式会社所属のセキュリティエンジニア滝上
はじめに こんにちは、GMO FlattSecurity株式会社セキュリティエンジニアの石川(@ryusei_ishika)です。 近年、ChatGPT や Gemini などの大規模言語モデル（LLM）をはじめとする生成AI の活用が急速に進んでいます。その一方で、これらのAI モデルに対する新たな攻撃手法である「プロンプトインジェクション」が注目を集めており、そのセキュリティリスクが問題視されています。 この記事では、プロンプトインジェクションが実際にどのような脅威となり得るのか、具体的な事例を交えながらそのリアルなセキュリティリスクを解説します。さらに、開発者や経営者が取るべき具体的な対策についても、分かりやすくご紹介します。 また、GMO FlattSecurityは日本初のセキュリティ診断AIエージェント「Takumi」や、LLMを活用したアプリケーションに対する脆弱性診
私は今までの人生で5回ある。 そんな時は、まず平謝り。人として当然だけど。 次に、あとで絶対持ってくると約束する。これも当然だけど。 そこでだいたい聞かれるのが、ATMでおろしてきてくれないか？ってやつ。 1回はキャッシュカードがあったのでなんとかなった。 1回はクレジットカードのキャッシングでなんとかなった。 残る3回は、なんももってなくて本当にツケ。 写真くらい撮られるかとか、なにか置いていけと言われないかとか覚悟してるのだけど、一度もない。 こっちから申し出ても断られた。 といっても、たった3回だけど。 財布を忘れた時の正解を知りたい。 追記そもそも忘れるなってブコメが多いけど、忘れるでしょう？人間なんだから。 スマホを忘れて外出したことがない人、鍵を忘れて外出したことがない人、免許証を忘れて運転したことがない人、切符を無くしたことがない人、マークシートミスしたことがない人だけが石を
連日、アメリカ大統領の発言がニュースになる。クルーグマン氏によると、彼は「完全に狂っている」そうだが*1、将来ビザが下りなくなる事態を避けたい*2私としては、トランプ大統領が、正気なのかそうでないかをはっきりと断定することはできない。ただ、上司が狂ってしまったと感じた時の絶望感と、その喜劇じみた空気については知っているから、ボスがああなってしまった時の部下の気持ちは、なんとなくわかる。 例えば、上司や同僚が以下のような様子になってきたら（あるいは既になっていたら）残念ながら「狂気」はあなたのすぐ側にある。 非科学的、非論理的な主張を行い、同意するよう強制する 例文）来期の目標は売り上げ2倍！粗利率2倍！弊社のフィロソフィーに忠実であれば十分達成可能な目標だ。 非倫理的な行為を行う、あるいはするように強制する 例文）顧客に（暗に）求められている以上、この程度の法令違反をすることはやむを得ない
TOPICS 発行年月日 2025年05月 PRINT LENGTH 82 ISBN 978-4-8144-0117-8 FORMATPDF EPUB リーダーに求められる立ち振る舞い、コミュニケーションや情報共有をリードする方法、リーダーと開発者の兼任、チームメンバーが自己組織化するために必要なことなど、技術チームをリードするのに必要な考え方と方法についてのエッセイをまとめた書籍です。 伊藤直也、井原正博、海野弘成、岡島幸男、柄沢聡太郎、栗林健太郎、庄司嘉織、関将俊、たなべすなお、永瀬美穂、平鍋健児、まつもとゆきひろ、吉羽龍太郎の13名による14本のリーダーシップをテーマにしたエッセイを収録しています。 チームに対してリーダーシップを発揮するためのヒントをまとめた本書は、チームリーダーやマネージャーはもちろん、チームでプロジェクトに取り組むすべての方にも読んでいただきたい一冊です。 な
こんにちは！「家族アルバム みてね」（以下、みてね）SREグループのおじまです。 今回は、みてねの開発プロセスを支えるデプロイパイプライン、特にブランチ戦略を改善し、ステージング環境における占有問題などの課題を解決したお話をご紹介します。 みてねの開発フローとこれまでの課題みてねでは、ブランチ戦略としてGitHub Flowを採用しています。GitHub Flow では、はじめにメインブランチからフィーチャーブランチを作成します。フィーチャーブランチで機能開発を行った後、プルリクエストを作成します。フィーチャーブランチは、プルリクエストにおけるコードレビューを経て、メインブランチにマージされます。メインブランチは常にデプロイ可能な状態に保たれます。GitHub Flowは、シンプルで分かりやすいのが特徴です。 しかし、GitHub Flow自体には、本番環境以外へのデプロイ方法について明確
はてブに湧きがちだけど、科学信者ってほんとにバカなんだろうなぁ ネトウヨにとっての天皇が科学になっただけの人たちだよね たかだか二千年のうちに人間が考案した記号だけで世界を記述できると思ってるなんてバカすぎる 今ある記号だけで辻褄を合わせているだけじゃん、バカじゃね 0って記号がないだけで0を記述できないのに、なんで今ある記号ですべてが記述できてると思ってんのかな だいたい歴史を見てもわかるけど、データが少ないだけで天動説を導き出しちゃうバカ集団なんだよ じゃあ今も今あるデータだけで辻褄合わせてるだけってなんでわからんの？ 顕微鏡がないだけで微生物の存在を認識できないバカ集団なわけ 今ある観測機のなかで辻褄合わせてるだけじゃん それなのになんで科学を信奉できるのかねえ やっぱりお前らにとっての天皇だから？ ほんとバカバカしいよね、科学信者って
1月から転職のために選考を受け始めました。しかし、まさかの 4社連続1次落ち を経験しました。そのタイミングで猛省をした結果、最終的に 4社から内定をいただきました。 (まだ1社選考残ってますが) 今回は特に転職活動の前半で「やらかしたな〜」と思った点を7つほど紹介します(多すぎる)。 (追記:本記事は「自分のココができてなかったな〜」というのが趣旨です、特定の企業に対して落ち度があった等は思っていません。僕が選考のいろはが分かってなかったのが落ちた理由の8割だったと思ってます) 失敗7つ 応募先ポジションとのミスマッチ 自己アピール不足 職務経歴書を隅々まで読まれてる前提で受けていた フロント専門が思ってた以上に少ない スカウトされたという話が通ってる前提で話していた退職日を先に決めた 手当たり次第に全部受けた それぞれ以下に書いていきます 失敗1: 応募先ポジションとのミスマッチ
4/3追記 思った以上の反応と応援本当にありがとうございます。 いちいちポテトでたとえてるのは、いくら匿名とはいえ外見的特徴を書き込まれてたら嫌だろうな、と思ったので、その人の雰囲気だけ伝わればいいとああいう言い方になりました。 決してどっちが上とかそういう話ではないです。どっちも好物です。 ポテロングは昔喉に刺さって2日苦しんだトラウマがあって私の中で最下位なので私に当てはめました。ごめんね。 来週中に結果分かるので、そうしたら報告させてください！ 【4/7 追記！】 付き合えました！！！！！！！！！！ 背中押していただいた方々、応援してくださった方々、叱咤激励してくださった方々本当にありがとうございました！！！！！ 手を繋いで反応見ろってアドバイスがあったのでそれやってみたらいい感じだったので思い切って告りました！そうしたら付き合ってみる？と言ってもらえたので、付き合う！って言いました
freee PSIRT( ProductSecurity Incident Response Team ) のhikaeです。freeeでも自律型AI AgentのDevin*1を雇用しています。 今回はPSIRTの業務の一つである Dependabot対応におけるDevinの活用事例（Devindabot）… ライブラリの脆弱性対策にAIを活用して、開発ライフサイクル全体にいい影響が出た話 をご紹介します。 Dependabot対応 ... ライブラリの脆弱性対策 ライブラリアップデートの辛さ フローを見直し負担を下げる ===DependabotがPull Requestを作る流れ 1.GitHub AdvisoryDatabase ·GitHub に脆弱性情報が追加される 2. Dependabotがリポジトリごとの依存グラフを定期的に更新する。もし脆弱性による影響がある場合
概要 原著者の許諾を得て翻訳・公開いたします。英語記事: Guardrails Are Not Code Smells | byroot’sblog 原文公開日: 2025/02/09 原著者: byroot --Railsコアコミッター、Rubyコミッターであり、ShopifyのRuby/Railsインフラチームのシニアスタッフエンジニアです 日本語タイトルは内容に即したものにしました。 私がやりたいのは、Pitchforkに関する記事を書いて、これがどんな理由でできたのか、なぜ現在のような形になったのか、そして今後どうなるのかについて説明することです。しかしその前に解説しておく必要があることがいくつかあります。今回は「レジリエンス（resilience: 回復力）」についてです。 数年前、unicorn-worker-killer gemには重大なコードの臭い（code smel
コミュ障で友達がいなかったとかではなく、毎日睡眠不足で非常に辛かったという話。 福岡では、0時間目といって全員強制参加の朝課外が実施されている高校がいくつかある。 俺の母校では7時40分からやってた。 進学する前はこのことを知らなかったのだが、俺にとってはこれが地獄だった。 自宅から高校までdoor to doorで約1時間半かかるので、毎朝5時半に起きて6時に家を出発する必要があった。 部活が19時に終わるので、家には帰り着くのはだいたい21時。 飯食って風呂入って休憩して宿題やってたらすぐに24時だ。 つまり、高校時代の俺の平均睡眠時間は5時間半くらいだった。 6時間睡眠を3日続けた脳の覚醒度は徹夜のそれと同じって研究もある中、明らかに睡眠不足だった。 眠すぎて授業中は気絶するように寝ていたから、もちろん成績は悪かった。 明らかに自律神経をやられていて食欲もなく、当時は170cm45k
あたたたたー @81I6VVboj7h2Bqy 元お笑い芸人の小学校教員です。私は教員１年目の頃、誰よりも授業が下手くそで誰よりも学級がガチャガチャしていました。そんな私ですが、難しい学級を立て直せるくらいには成長できました。今、苦しんでいる先生方は、辞める前に上手なやり方を学び、それを実践してください。必ず活路はあります。Voicy始めました。 sites.google.com/view/atatatata- あたたたたー @81I6VVboj7h2Bqy 保護者会で次の話をする予定です。 「私は決して塾の回し者ではありませんが、英語だけは塾に通わせた方がいいです。 今の中学校は、我々が中学生の時のように、文法を丁寧に教えてもらえません。小学校で少し触れた程度の英単語も、習得したこと前提で授業が進みます」 2025-03-05 22:50:47
WEBページの制作進行兼営業の仕事をしている クライアントから「こういうWEBページを作りたい」「このまえ作ってもらったWEBページのここを直したい」といった要望を聞き、これを取りまとめてエンジニアやデザイナーに発注、納品されたものをクライアントに渡すという仕事 で、この仕事をやっていて思うんだけどエンジニアって性格終わってる人多くね？ 営業やWEBデザイナーといった他業種にはない独特の性格の悪さがあると思うエンジニア連中は頑固で融通が利かないしものの言い方が高圧的 「心理的安全性？なにそれ？」ってレベルの言葉遣いをしまくってくる 一方で社内のデザイナーさんの方はそんなことないんだよな 一体この差はなんなんだろう 最近あった具体例だと中途で入った新人さんが初発注するとき 一応規定のテンプレートに沿って発注書を作ったんだが受け持った案件がちょっと特殊であることがあとからわかって、仕様を詰め
𓏲𓎨ﾈｺ🎀8m（R6.5）☺︎ @5everLv1 これは古から受け継いだ知恵なんだけど チャック付き商品の開封時に1️⃣左右をL字にカットした後真ん中の隙間にハサミを入れて2️⃣手前側だけ直線にカットすると毎日幸せになれるので騙されたと思ってやって欲しい pic.x.com/EWQD7BQUkH 2025-02-24 19:48:02
nabit❖🎄 @nabitchobit 大人の事を代わりにやるのと、子供の事を代わりにやるのは大変さが雲泥の差 しかも、子がいなければ 👨「やっといてあげたよ」 👩「ありがとう！♡」 ってなるけど、子がいると 👨「やっといてあげたよ」 👩「は？貴方も親だから、やって当たり前だけど？やってあげたって何？」 と、なる 2025-02-24 01:16:49 nabit❖🎄 @nabitchobit 女性達は、夫の事を子がいないと自分の為にやってくれる優しい人なんだな、と思ってしまう でも、婚活割り勘男を見ててもわかるけど、実はただ見返りを求めてるだけなんだよね 優しく機嫌を取っていれば見返りがあった でも、子供がいると見返りはいつまで待っても、いくらやっても来ない 親だから 2025-02-24 01:16:50 nabit❖🎄 @nabitchobit これで、やる気を失って
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
