PostgreSQL (TimescaleDB) で SKIP LOCKED という機能がある事を知ったため、自分用のメモ。 目的 最大処理時間が数十時間かかる可能性があるワーカーの管理に、MQ 的な仕組みを使いたいと考え、できるだけ楽に使える仕組みを検討することにした。 クラウドのサービスは利用しないAWS /GCP / Azure といったサービスを普段から利用していないGo で利用できること 普段の負荷は 1 時間 10 リクエストもない 負荷対策での利用ではない MQ をもし使う場合はRabbitMQ だが、今回はオーバーキル Erlang VM で、ソースも一通り読んだことあるので、何かあってもなんとかなる 一つの処理が数十時間かかることもあり、ジョブにはキャンセルをできるようにしたい 処理が終わるまでは Ack を返さない仕組みが必要 Redis の検討 MQ を除くと

Welcome to the 2024Ruby onRails Community Survey! In 2009, we initiated the first community survey to gather insights about hostingRuby onRails applications. Over the years, we've expanded the scope to cover questions about tools, frameworks, andworkflows toobserve the evolving environment. Now, inits eighth edition, we're leaning deeper into thetopics we're all curious about. We had over

Amazon RDS は、PostgreSQLDB インスタンスの Secure Socket Layer (SSL) 暗号化をサポートします。SSL を使用して、アプリケーションと PostgreSQLDB インスタンスとの PostgreSQL 接続を暗号化できます。デフォルトでは、RDS for PostgreSQL は SSL/TLS を使用し、すべてのクライアントが SSL/TLS を使用して接続することを想定していますが、必須にすることもできます。RDS for PostgreSQL は、Transport LayerSecurity (TLS) バージョン 1.1、1.2、および 1.3 をサポートしています。 SSL サポートおよび PostgreSQL データベースの一般情報については、PostgreSQL ドキュメントの「SSL Support」を参照してください
質問されることが多いのでPostgreSQL初学者が運用を行うためにしっておく知識に必要な内容をまとめる。 PostgreSQLの基本的なアーキテクチャ PostgreSQLのアーキテクチャを知らないと自分がやっている作業が危険な作業かどうかわからないし、パラメータの意味もわからない。 そこで以下のリンクを読むと良い。富士通が後述の資料を参考にまとめたのだろうなと思われる記事。 非常によくまとまっているのでわかりやすい。 www.fujitsu.com もっと細かく知りたいならPostgreSQL Internalsがおすすめ。富士通の資料と重複するところがあるがこっちが本家。Githubで管理されているので誤字脱字などあったら気軽にPRを出してほしい。 www.postgresqlinternals.org PostgreSQL Internalsが少し古いので最新事情で知りたい場
BigQueryへMySQLやPostgreSQLから直接ニアリアルタイムでレプリケーション可能に。「Datastream for BigQuery」登場Google Cloudは、BigQueryに対してMySQLやPostgreSQL、OracleDatabaseからニアリアルタイムで直接データのレプリケーションを可能にする新サービス「Datastream for BigQuery」をプレビューリリースしました。 オンプレミスやクラウドで稼働するMySQLやPostgreSQL、OracleDatabaseでのOLTPによるデータ操作が、ETLツールなどを挟むことなくほぼリアルタイムでBigQueryに反映されるため、プライマリとなるデータベースのOLTP処理に負荷をかけることなく並行してBigQueryによる大規模データの分析処理が容易になります。 To stay compet

Active Recordでのヒント句の書き方について。 クエリの実行計画の最適化をRDBMS のオプティマイザ (プランナ) に任せずに、アプリケーション側で指定するのにヒント句というのがあります。通常RDBMS のオプティマイザに任せたりしていますが、DBA からチューニングのアドバイスがあったりしたときに使ったりできます。Oracle、MySQL 5.7.7 以上 (MariaDB 除く) 、PostgreSQL だと pg_hint_plan が使えるものあたりがサポートしているようです。ヒント句は既存のクエリ自体は書き換えることなく、コードコメントで指示を出せるのが売りのようです。 SELECT /*+ MAX_EXECUTION_TIME(50000) NO_INDEX_MERGE(topics) */ `topics`.* FROM `topics` Active Re
2020-03-07 明示的なドキュメントは無かったが、RDS(PostgreSQL)と同等の方法で取得可能なはず。Amazon RDS for PostgreSQL のバージョンと拡張機能 https://docs.aws.amazon.com/ja_jp/AmazonRDS/latest/UserGuide/CHAP_PostgreSQL.html#PostgreSQL.Concepts 使用可能な拡張機能はパラメータグループに定義されているのでそこから確認可能。 バージョン postgres=> selectaurora_version();aurora_version ---------------- 2.3.5 (1 row) postgres=> select version(); version -------------------------------------
I'm getting theerror: FATAL: Peer authentication failed for user "postgres" when I try to make postgres work withRails. Here's my pg_hba.conf, mydatabase.yml, and a dump of the full trace. I changed authentication to md5 in pg_hba and tried different things, but none seem to work. I also triedcreating a new user anddatabase as perRails 3.2, FATAL: Peer authentication failed for user (PG::Err
ruby-jpSlack の #newbie で bin/railsdb:create が通らないという話があったので調べてみた結果のまとめです。 確認環境macOS Mojave 10.14.6 Homebrew 2.2.2-56-g33b4e08 postgresql 12.1 状況 could not connect to server: No such file or directory Is the server running locally and accepting connections on Unixdomain socket "/tmp/.s.PGSQL.5432"? という部分を含むログを出してくれていたので、 何らかの原因で postgresql が起動していないような感じでした。 brew info postgresql homebrew でインストール
オミカレでテックリードをしております、高橋です。 ちなみにその任も後2週間足らずで終わりです。 3月からは別の会社で働く事になっておりますが、これは転職 or退職エントリでは無いのでまたの機会に..! いやぁーーー、この2〜3ヶ月、本当に色んなタスクを倒してきたなーーー! DMS撤退に始まり数十万円単位でのインフラリソースの削減等も完了出来る状態になった。思い残す事は何も無い。 という事で本日、高橋は最終出社日でございます!— ikkitang (@ikkitang) 2021年2月11日 さて、表題の通りですが、この度 オミカレでの最後の大仕事として DMS撤退、Aurora撤退を決めてきたので どんな風に進めてきたか、みたいなのをアウトプットしようかと思います。 意思決定プロセスみたいなのも僕の能力で実現出来る限り言語化してみようと思うのでなにかご参考になれば嬉しいな、と思う限りです

PostgreSQLに超高速な日本語全文検索機能を追加するPGroongaを開発している須藤です。今回はPGroongaやpg_bigmなど拡張モジュールを使わずにPostgreSQLの組み込み機能だけで日本語全文検索を実現する方法を紹介します。PGroongaを使う方法はRuby onRailsでPostgreSQLとPGroongaを使って日本語全文検索を実現する方法を参照してください。Heroku PostgresなどDBaaSとして提供されているPostgreSQLではPGroongaを使えません。(DBaaSとして提供しているベンダーがPGroongaをインストールしてくれないから。)PostgreSQLの組み込み機能だけでは日本語全文検索を満足に実現することができないので、DBaaSのPostgreSQLを使っていると次のように日本語全文検索で困ってしまいます。 日本人のプ
表 8.4はPostgreSQLで使用可能な汎用文字型を示したものです。SQLは2つの主要な文字データ型を定義しています。 character varying(n)とcharacter(n)です。 ここでnは正の整数です。 これらのデータ型は2つともn文字長(バイト数ではなく)までの文字列を保存できます。 上限を越えた文字列をこれらの型の列に保存しようとするとエラーになります。 ただし、上限を超えた部分にある文字がすべて空白の場合はエラーにはならず、文字列の最大長にまで切り詰められます。 (この一風変わった例外は標準SQLで要求されています。) もし宣言された上限よりも文字列が短い時はcharacterの値は空白で埋められ、character varyingの値は単にその短い文字列で保存されます。 明示的に値をcharacter varying(n)またはcharacter(n)にキャス

PostgreSQLの基本コマンドをメモ。 参考:ドットインストール 他 (注:少しずつ追加していきます) 起動 サービスの起動 postgres -D /usr/local/var/postgres ターミナルを起動 デフォルトのデータベースに接続 psql -d postgres データベースを指定して接続 psql -d データベース名 データベースとユーザを指定して接続 psql -d データベース名 -U ユーザ名 データベース データベース一覧の表示 \l データベースの選択 \c データベース名 テーブル テーブル一覧の表示 \dt; テーブル構造の表示 \d テーブル名; テーブル内のデータを一覧 select * from テーブル名; 指定したカラムの内容を小さい順に表示 select * from テーブル名 order by カラム; 指定したカラムの内容を大きい順

(読みづらいタイトルだな) ことの発端はこのツイート。MySQLは、以下を満たさないという理解でいいのか? エラーが出た時にPostgreSQLのようにロールバックを行わないので Atomicity(原子性)・・・トランザクションの実行結果は「全て成功」か「全て失敗」のいずれかでなければならない#mysql— imaharu (@imaharuTech) July 2, 2020 さすがのMySQL でもそこを破ってくることはないだろうと思いつつ、トランザクション野郎としてはちゃんと確かめねばならないと思い、早朝にも関わらず布団から出てラップトップを開いた(午前10時)。 実験1 以下のようなdocker-compose.yml とsql/script.sql を用意し、実験をする。 version: '3.3' services:db: image:mysql:8 envir
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く