Movatterモバイル変換


[0]ホーム

URL:


Uploaded bysamemoon
4,265 views

CloudStackユーザ会 OSC.cloud

2012年12月16日オープンソースカンファレンス2012 .Cloud

Embed presentation

CloudStack構築事例例+Tips                                                                       OCDET環境編                                                                                                                                                            ⽇日本CloudStackユーザ会                                                                                     @MayumiK0      Copyright  (C)  2012  Japan  CloudStack  User  Group  All  Rights                                  Reserved.
CloudStackユーザ会で           Copyright  (C)  2012  Japan  CloudStack  User  Group  All  Rights                                       Reserved.                                                                                 2
OCDETとはオープンクラウド実証実験タスクフォース                                              http://www.ocdet.org/        ⽇日本CloudStackユーザ会は ⽬目的:   OpenIaaS研究会に参加しております オープンソースベースの各クラウド基盤技術の 実証実験を通じて相互接続による連携、運⽤用ノ ウハウを周知し、クラウド基盤の⼀一般化と利利活 ⽤用の促進を図る。          Copyright  (C)  2012  Japan  CloudStack  User  Group  All  Rights                                      Reserved.                                                                                3
OCDET  ファシリティ・機器ラック:  IDCフロンティア様よりご提供PCサーバ、ネットワーク機器を各社より機材ご提供□  IDCフロンティア様ラック  x  1本  1500KV                               □  NetGear/IBS様                                                 NetGear  RNDP6610(NAS)                                                 NFS/iSCSI  12T(物理理)                     ファシリティ・機材は全て借⽤用!                       ※ただし、ケーブルは⾃自腹                                              □  Intel様/IDCF様    Intel製サーバ  x  3  –                                                ノード⽤用                                              SandyBridge-‐‑‒EP  8  cores  3.1GHz                                              Memory:  32G     □  モーフ様  Rackable製サーバ  x  3台  –  ノード⽤用     RackableA20X                             □  ATWORKS様  ⾃自社サーバ  x  3台  –  管理理     CPU:XeonE5320  1.86GHz  (4corex2)        系サーバ⽤用     MEM:16GB                                 Intel  Core  i5-‐‑‒2520M  2.5GH(2コア)                                              8GBメモリ
OCDET  CloudStack構成グローバルネットワーク                                                                 -‐‑‒Management  Server Gateway#1  (KVM)                                                                         APサーバ✕2               すべてオープンソースで                                                                         DBサーバ✕2                        構成       VPN#1          FW#1        Zabbix#1                                                                 -‐‑‒NFS  Server  (Primary/Secondary領領域)                                                                 -‐‑‒Compute  Node✕3                                                                 -‐‑‒LVS(負荷分散)✕2   プライベートネットワーク(VLANによりネットワークを分けている)                             Management  Host  #1  (KVM)         CloudStack     CloudStack                                                                   Compute       Compute       Compute     Management          DB          LVS#1                  暫定NFS                              Node        Node          Node      Server#1        Server#1                                                                   (node004)   (node005)     (node006)                                                                      Primary                                                                        Storage                                                                    Secondary                                                                                                                     Storage  Management  Host  #2  (KVM)                                  Storage                                                                                                                    (NFS)    CloudStack     CloudStack     Management          DB          LVS#2     Server#2      Server#12                                          Copyright  (C)  2012  Japan  CloudStack  User  Group  All  Rights                                                                    Reserved.                                                                                                                                                5
OCDET  CloudStack構成■  CloudStackApache  CloudStack  4.0   ・リリース情報     blog:https://blogs.apache.org/cloudstack/entry/apache_̲cloudstack_̲4_̲0_̲0   ・ダウンロードURL     http://incubator.apache.org/cloudstack/downloads.html ・インストールガイドHTML版     http://incubator.apache.org/cloudstack/docs/en-‐‑‒US/      Apache_̲CloudStack/4.0.0-‐‑‒incubating/html/Installation_̲Guide/index.html■  OSCentOS6.3(64bit版)                            Copyright  (C)  2012  Japan  CloudStack  User  Group  All  Rights                                                        Reserved.                                                                                                  6
Management  Serverインストール[root@manager01 ~]# vi /etc/yum.repos.d/CloudStack.repo [cloudstack]                                                                                                        CloudStack⽤用リポジトリ追加name=cloudstack baseurl=http://cloudstack.apt-get.eu/rhel/4.0/ enabled=1 gpgcheck=1                                                                                                          サインされてないので                                                                                                                    「-‐‑‒-‐‑‒nogpgcheck」オプションを[root@manager01 etc]# hostname --fqdn                                                                         つけないと⼊入らないmanager01.cs01.ocdet.org  [root@manager01 ~]# yum install --nogpgcheck cloud-client (ざっくり省略) cloud-aws-api.x86_64 0:4.0.0-0.140.el6.4.0                                     cloud-client-ui.x86_64 0:4.0.0-0.140.el6.4.0                                   cloud-core.x86_64 0:4.0.0-0.140.el6.4.0                                        cloud-deps.x86_64 0:4.0.0-0.140.el6.4.0                                                                                                                                                             Apache  CloudStack  4.0は  cloud-python.x86_64 0:4.0.0-0.140.el6.4.0                                                                                                                                                                 install.sh  がありませんcloud-scripts.x86_64 0:4.0.0-0.140.el6.4.0                                                                                                                                                                 yum  installでいれますcloud-server.x86_64 0:4.0.0-0.140.el6.4.0                                      cloud-setup.x86_64 0:4.0.0-0.140.el6.4.0                                       cloud-utils.x86_64 0:4.0.0-0.140.el6.4.0                                        Complete!                                                          Copyright  (C)  2012  Japan  CloudStack  User  Group  All  Rights                                                                                     Reserved.                                                                                                                                                                    7
DB  Serverインストール①[root@db01 ~]# rpm -qa |grep mysql                                                                                                          mysql-‐‑‒serverをインストールしておくmysql-server-5.1.61-4.el6.x86_64                                                                                                                      ことmysql-libs-5.1.61-4.el6.x86_64 mysql-5.1.61-4.el6.x86_64                                                                                                                             [mysqld]セクションに次の⾏行行を挿⼊入し                                                                                                                                                      ます [root@db01 ~]# vi /etc/my.cnf                                                                                                                   innodb_̲rollback_̲on_̲timeout=1  追加[mysqld]                                                                                                                                              innodb_̲lock_̲wait_̲timeout=600  追加datadir=/var/lib/mysql                                                                                                                                max_̲connections=700  追加socket=/var/lib/mysql/mysql.sock                                                                                                                      log-‐‑‒bin=mysql-‐‑‒bin  追加user=mysql                                                                                                                                            binlog-‐‑‒format  =  'ROWʼ’  追加# Disabling symbolic-links is recommended to prevent assorted security risks                                                        bind-‐‑‒address  =  0.0.0.0  追加symbolic-links=0 innodb_rollback_on_timeout=1  innodb_lock_wait_timeout=600  max_connections=700                                                                                                                                                                     1管理理サーバあたりlog-bin=mysql-bin                                                                                                                              max_̲connections  350を⽬目安にbinlog-format = ‘ROW’                                                                                                                                       OCDET構成ではbind-address = 0.0.0.0                                                                                                                                 管理理サーバ2台なので [root@db01 ~]# service mysqld restart                                                                                                                       700で設定mysqld を停止中:                                           [  OK  ] mysqld を起動中:                                           [  OK  ]                                                                  Copyright  (C)  2012  Japan  CloudStack  User  Group  All  Rights                                                                                            Reserved.                                                                                                                                                                                              8
DB  Serverインストール②[root@db01 ~]# mysql_secure_installation  NOTE: RUNNING ALL PARTS OF THIS SCRIPT IS RECOMMENDED FOR ALL MySQL       SERVERS IN PRODUCTION USE!  PLEASE READ EACH STEP CAREFULLY!  Change the root password? [Y/n] Y                                                                                             「Disallow  root  login  remotely」以外は全Remove anonymous users? [Y/n] Y                                                                                             て「Y」で設定Disallow root login remotely? [Y/n] n Remove test database and access to it? [Y/n] Y Reload privilege tables now? [Y/n] Y  ... Success!  Cleaning up...  All done!  If you've completed all of the above steps, your MySQL installation should now be secure.  Thanks for using MySQL!                                             Copyright  (C)  2012  Japan  CloudStack  User  Group  All  Rights                                                                       Reserved.                                                                                                                                    9
CloudStack設定① [root@manager01 ~]# yum install mysql  (省略)  Complete!    # cloud-setup-databases cloud:DBパスワード@DBサーバのIPアドレス --deploy-as=root:DBサーバpasswoed    (省略)                                                                                                                                               データベースをセットアップします。 Applying /usr/share/cloud/setup/bridge/db/cloudbridge_offering.sql              [ OK ]                           ※必要に応じて、-‐‑‒e  <encryption_̲type>  -‐‑‒ Applying /usr/share/cloud/setup/bridge/db/cloudbridge_offering_alter.sql        [ OK ]                                       m  <management_̲server_̲key>  -‐‑‒k   Processing encryption ...                                                       [ OK ]                                                                                                                                                       <database_̲key>を付けて Finalizing setup ...                                                            [ OK ]                                                                                                                                                       セキュリティ設定を⾏行行いましょう   CloudStack has successfully initialized database, you can check your database configuration in / etc/cloud/management/db.properties                                                                             Copyright  (C)  2012  Japan  CloudStack  User  Group  All  Rights                                                                                                      Reserved.                                                                                                                                                                                                                             10
CloudStack設定②[root@manager01 ~]# cloud-setup-management Starting to configure CloudStack Management Server: Configure sudoers ...         [OK]                                                                          KVM環境ではvhd-‐‑‒utilは不不要なのでConfigure Firewall ...        [OK]                                                                          スキップConfigure CloudStack Management Server ...[OK] CloudStack Management Server setup is Done!  [root@manager01 network-scripts]# mkdir -p /mnt/secondary [root@manager01 network-scripts]# mount -t nfs 172.16.10.19:/export/secondary /mnt/secondary [root@manager01 network-scripts]# cd /mnt/secondary/ [root@manager01 secondary]# cat > hoge                         NFS領領域が正しくtest file                                                            rootで読み書き可能なことを確認しておく[root@manager01 secondary]# ls -al hoge  -rw-r--r--. 1 root root 10 11月  4 18:31 2012 hoge [root@manager01 secondary]# rm hoge                                      Copyright  (C)  2012  Japan  CloudStack  User  Group  All  Rights                                                                Reserved.                                                                                                              11
CloudStack設定③[root@manager01 secondary]# cd [root@manager01 ~]# wget http://download.cloud.com/templates/acton/acton-systemvm-02062012.qcow2.bz2 (省略)                                                                          システムVM⽤用のテンプレートの配置する。                                                                        wgetで⾃自ホストにDownLoadしておいて                                                                        -‐‑‒f  オプションで指定した⽅方がやり直し時に                                                                        は便便利利 [root@manager01 ~]# /usr/lib64/cloud/common/scripts/storage/secondary/cloud-install-sys-tmplt -m /mnt/secondary -f acton-systemvm-02062012.qcow2.bz2 -h kvm -F Uncompressing to /usr/lib64/cloud/common/scripts/storage/secondary/38d0870e-d5f2-43a5-a2b7-276c41796a5f.qcow2.tmp (type bz2)...could take a long time  Moving to /mnt/secondary/template/tmpl/1/3///38d0870e-d5f2-43a5-a2b7-276c41796a5f.qcow2...could take a while Successfully installed system VM template acton-systemvm-02062012.qcow2.bz2 to /mnt/secondary/template/tmpl/1/3/  [root@manager01 ~]# umount /mnt/secondary/                        システムVMと仮想ルータ⽤用のテンプレート                                                                        がSecondaryStorageに格納されます                                    Copyright  (C)  2012  Japan  CloudStack  User  Group  All  Rights                                                                Reserved.                                                                                                               12
Agentインストール[root@node006 ~]# vi /etc/yum.repos.d/CloudStack.repo [cloudstack] name=cloudstack baseurl=http://cloudstack.apt-get.eu/rhel/4.0/ enabled=1 gpgcheck=1  [root@node006 ~]# yum install cloud-agent [root@node006 ~]# yum install --nogpgcheck cloud-agent                                          Copyright  (C)  2012  Japan  CloudStack  User  Group  All  Rights                                                                     Reserved.                                                                                                               13
無事に動きました           Copyright  (C)  2012  Japan  CloudStack  User  Group  All  Rights                                       Reserved.                                                                                 14
CloudStack  Tips編          CloudStack  Tips               Copyright  (C)  2012  Japan  CloudStack  User  Group  All  Rights                                           Reserved.                                                                                     15
CloudStack  Tips編SystemVMが起動しない場合  GUIで確認するとProxy  Console  VMと  Secondary  Storage  VMが「Starting」のまま(1)NFS・Compute  NodeをCloudStack  Agentとして登録すると    Compute  NodeがPrimaryStorage領領域をmountする・SystemVM起動(Deploy)時はPrimaryStorage領領域に書き込む・NFSの設定を誤るとmount領領域のownerがnobody:nobodyになり  仮想イメージを書き込めない。そのためSystemVMをDeployできない。(2)コントロールグループ(cgroup)                    Copyright  (C)  2012  Japan  CloudStack  User  Group  All  Rights                                              Reserved.                                                                                        16
CloudStack  Tips編SystemVMが起動しない場合(1)NFS [root@node006 ~]#  df -kh  Filesystem            Size  Used Avail Use% マウント位置  /dev/mapper/vg_node006-lv_root                         50G  2.3G   45G   5% /  tmpfs                  16G     0   16G   0% /dev/shm  /dev/sda1             485M   37M  423M   9% /boot  /dev/mapper/vg_node006-lv_home                        852G  200M  809G   1% /home  172.16.20.19:/export/primary                        197G  9.8G  178G   6% /mnt/bf4b1152-4359-3311-be2c-8b2271948d00    [root@node006 ~]# ls -lsa /mnt/bf4b1152-4359-3311-be2c-8b2271948d00  合計 715248       4 drwxr-xr-x.  3 root root      4096 11月 26 21:44 2012 .  正しくroot:rootでmountされていることを確認しましょう                                                   Copyright  (C)  2012  Japan  CloudStack  User  Group  All  Rights                                                                               Reserved.                                                                                                                                                        17
CloudStack  Tips編仮想ルータにホストからsshできます [root@node006 ~]# ssh -i .ssh/id_rsa.cloud 169.254.3.116 -p 3922  Linux r-5-VM 2.6.32-5-686-bigmem #1 SMP Mon Jan 16 16:42:05 UTC 2012 i686    The programs included with the Debian GNU/Linux system are free software;  the exact distribution terms for each program are described in the  individual files in /usr/share/doc/*/copyright.    Debian GNU/Linux comes with ABSOLUTELY NO WARRANTY, to the extent  permitted by applicable law.                    root@r-5-VM:~# date; ifconfig –a                                                          eth0      Link encap:Ethernet  HWaddr 02:00:6b:3d:00:02    Last login: Sun Dec  9 14:20:04 2012 from 169.254.0.1                                                                    inet addr:10.1.1.1  Bcast:10.1.1.255  Mask:255.255.255.0  Linux r-5-VM 2.6.32-5-686-bigmem #1 SMP Mon Jan 16 16:42:05 UTC 2012 i686                                                                    UP BROADCAST RUNNING MULTICAST  MTU:1500  Metric:1                                                                    RX packets:11592 errors:0 dropped:0 overruns:0 frame:0                                                                  TX packets:8741 errors:0 dropped:0 overruns:0 carrier:0  The programs included with the Debian GNU/Linux system are free software;                                                                    collisions:0 txqueuelen:1000                                                                     RX bytes:972709 (949.9 KiB)  TX bytes:2582211 (2.4 MiB)  the exact distribution terms for each program are described in the                                                            individual files in /usr/share/doc/*/copyright. eth1      Link encap:Ethernet  HWaddr 0e:00:a9:fe:03:74                                                                      inet addr:169.254.3.116  Bcast:169.254.255.255  Mask:255.255.0.0                                                                  UP BROADCAST RUNNING MULTICAST  MTU:1500  Metric:1  Debian GNU/Linux comes with ABSOLUTELY NO WARRANTY, to the extent                                                                    RX packets:12285 errors:0 dropped:0 overruns:0 frame:0                                                                    TX packets:10166 errors:0 dropped:0 overruns:0 carrier:0  permitted by applicable law.                              collisions:0 txqueuelen:1000   root@r-5-VM:~#                                                RX bytes:1937229 (1.8 MiB)  TX bytes:1915520 (1.8 MiB)                                                        Copyright  (C)  2012  Japan  CloudStack  User  Group  All  Rights                                                                                   Reserved.                                                                                                                                                                       18
CloudStack  Tips編仮想ルータにホストからsshできます VMware  vSphereの場合はホストからではなく管理理サーバからログイン    #  ssh  -‐‑‒i  /var/lib/cloud/management/.ssh/id_̲rsa  -‐‑‒p  3922  root@リンクローカルIP Proxy  Console  VM Secondary  Storage  VMも同様の⽅方法でsshできます                            Copyright  (C)  2012  Japan  CloudStack  User  Group  All  Rights                                                        Reserved.                                                                                                  19
CloudStack  Tips編CloudStackで利利⽤用するDBでよく参照するtable               Copyright  (C)  2012  Japan  CloudStack  User  Group  All  Rights                                           Reserved.                                                                                     20
CloudStack  Tips編ログの調べ⽅方例例)DeployVM [root@manager01 management]# zcat management-server.log.2012-12-12.gz | grep DeployVM    2012-12-12 02:11:07,436 DEBUG [cloud.async.AsyncJobManagerImpl] (catalina-exec-5:null) submit async job-56, details:  AsyncJobVO {id:56, userId: 2, accountId: 2, sessionKey: null, instanceType: VirtualMachine, instanceId: 7, cmd:  com.cloud.api.commands.DeployVMCmd, cmdOriginator: null, cmdInfo: {"sessionkey":"xC3F7odnUaqCSIiLnl4RO7gH5gQ u003d","ctxUserId":"2","serviceOfferingId":"35690ace-f8cd-472f- b587-1812ddd379aa","zoneId":"928e3322-2854-4246-8264-9d17c7c05a35","templateId":"b30d7821-f7db-468c-9a8a- cd57a8bf4a8b","response":"json","id":"7","networkIds":"302929d8-9bbf-4465-bbb9- fd610fc96860","hypervisor":"KVM","name":"test03","_":"1355245866228","ctxAccountId":"2","ctxStartEventId":"214","disp layname":"test03"}, cmdVersion: 0, callbackType: 0, callbackAddress: null, status: 0, processStatus: 0, resultCode:  0, result: null, initMsid: 90520734315668, completeMsid: null, lastUpdated: null, lastPolled: null, created: null}    2012-12-12 02:11:07,442 DEBUG [cloud.async.AsyncJobManagerImpl] (Job-Executor-31:job-56) Executing  com.cloud.api.commands.DeployVMCmd for job-56    2012-12-12 02:11:21,078 DEBUG [cloud.async.AsyncJobManagerImpl] (Job-Executor-31:job-56) Done executing  com.cloud.api.commands.DeployVMCmd for job-56                                                Copyright  (C)  2012  Japan  CloudStack  User  Group  All  Rights                                                                           Reserved.                                                                                                                                                 21
CloudStack  Tips編Job番号でtrace例例)  DeployVMのjob番号「job-‐‑‒56」で処理理を追ってゆく                Copyright  (C)  2012  Japan  CloudStack  User  Group  All  Rights                                            Reserved.                                                                                      22
CloudStack  Tips編削除したVMがなかなか消えない例例)  検証環境などリソースが少ない環境で削除したVMを    完全に削除したい                                                                                                                                                             秒数で指定  [root@manager01 ~]# /etc/init.d/cloud-management restart                                                                                                                                                        グローバル設定変更更後は再起  Stopping cloud-management:                                 [  OK  ]    動を忘れずに  Starting cloud-management:                                 [  OK  ]                                                                                Copyright  (C)  2012  Japan  CloudStack  User  Group  All  Rights                                                                                                           Reserved.                                                                                                                                                                        23
CloudStackユーザ会つかもうぜ!                                              CloudStack世界でいっとー                                    スリルなIaaSさがそうぜ!                                              CloudStack世界でいっとー                                    ユカイなIaaSCloudはでっかい宝島                                            そうさ今こそユーザ会                   今日は参加できずに                              残念                      /)(  ◕  ‿‿  ◕  )(\             ⽇日本CloudStackユーザ会   事務局⻑⾧長  :  荒井  康宏                                               24
ご静聴ありがとうございました

Recommended

PDF
CloudStack徹底入門読書会 第4章 4.6 グローバル設定について
PDF
オープンソースのクラウド基盤 CloudStack技術解説~ストレージ編~
PDF
30分でRHEL6 High Availability Add-Onを超絶的に理解しよう!
PDF
OpenStack Kilo with 6Wind VA High-Performance Networking Using DPDK - OpenSta...
PDF
OpenStackのQuantum(LinuxBridge Plugin)が実際どうやって仮想ネットワークを構成するのか説明する資料
ODP
DRBD/Heartbeat/Pacemakerで作るKVM仮想化クラスタ
PDF
第4回Linux-HA勉強会資料 Pacemakerの紹介
 
PDF
君にもできる! にゅーとろん君になってみよー!! 「Neutronになって理解するOpenStack Net - OpenStack最新情報セミナー ...
PDF
OpenStackネットワーキング管理者入門 - OpenStack最新情報セミナー 2014年8月
PPTX
Azure Storage Partition Internals
PPTX
OpenStack管理者入門 - OpenStack最新情報セミナー 2014年12月
PDF
OVS VXLAN Network Accelaration on OpenStack (VXLAN offload and DPDK) - OpenSt...
PDF
openstack_neutron-ovs_osc2014tf_20141019
PDF
Apache cloudstack4.0インストール
PDF
試して覚えるPacemaker入門 『リソース設定編』
PDF
Try andstudy cloud_20120509_nagoya
PDF
Pacemaker NextGen OSC2012TokyoFall-20120908
 
PDF
第7回oss貢献者賞 森-20120316
 
PDF
OpenStackでも重要な役割を果たすPacemakerを知ろう!
 
PDF
Okinawa Open Days 2014 OpenStackハンズオンセミナー / OpenStackの機能概要
PDF
OpenStack Neutronの機能概要 - OpenStack最新情報セミナー 2014年12月
PDF
Linux-HA Japanプロジェクトのこれまでとこれから
 
PDF
PG-REXで学ぶPacemaker運用の実例
PDF
OpenStackクラウド基盤構築ハンズオンセミナー 第2日:講義No2
PDF
DPDKを拡張してみた話し
PDF
Stormの注目の新機能TridentAPI
PDF
Neutron Icehouse Update (Japanese)
PDF
痛い目にあってわかる HAクラスタのありがたさ
PDF
Apache CloudStack 4.0 インストール(ver0.5)
PDF
CloudStack at Cloud Week 2012

More Related Content

PDF
CloudStack徹底入門読書会 第4章 4.6 グローバル設定について
PDF
オープンソースのクラウド基盤 CloudStack技術解説~ストレージ編~
PDF
30分でRHEL6 High Availability Add-Onを超絶的に理解しよう!
PDF
OpenStack Kilo with 6Wind VA High-Performance Networking Using DPDK - OpenSta...
PDF
OpenStackのQuantum(LinuxBridge Plugin)が実際どうやって仮想ネットワークを構成するのか説明する資料
ODP
DRBD/Heartbeat/Pacemakerで作るKVM仮想化クラスタ
PDF
第4回Linux-HA勉強会資料 Pacemakerの紹介
 
PDF
君にもできる! にゅーとろん君になってみよー!! 「Neutronになって理解するOpenStack Net - OpenStack最新情報セミナー ...
CloudStack徹底入門読書会 第4章 4.6 グローバル設定について
オープンソースのクラウド基盤 CloudStack技術解説~ストレージ編~
30分でRHEL6 High Availability Add-Onを超絶的に理解しよう!
OpenStack Kilo with 6Wind VA High-Performance Networking Using DPDK - OpenSta...
OpenStackのQuantum(LinuxBridge Plugin)が実際どうやって仮想ネットワークを構成するのか説明する資料
DRBD/Heartbeat/Pacemakerで作るKVM仮想化クラスタ
第4回Linux-HA勉強会資料 Pacemakerの紹介
 
君にもできる! にゅーとろん君になってみよー!! 「Neutronになって理解するOpenStack Net - OpenStack最新情報セミナー ...

What's hot

PDF
OpenStackネットワーキング管理者入門 - OpenStack最新情報セミナー 2014年8月
PPTX
Azure Storage Partition Internals
PPTX
OpenStack管理者入門 - OpenStack最新情報セミナー 2014年12月
PDF
OVS VXLAN Network Accelaration on OpenStack (VXLAN offload and DPDK) - OpenSt...
PDF
openstack_neutron-ovs_osc2014tf_20141019
PDF
Apache cloudstack4.0インストール
PDF
試して覚えるPacemaker入門 『リソース設定編』
PDF
Try andstudy cloud_20120509_nagoya
PDF
Pacemaker NextGen OSC2012TokyoFall-20120908
 
PDF
第7回oss貢献者賞 森-20120316
 
PDF
OpenStackでも重要な役割を果たすPacemakerを知ろう!
 
PDF
Okinawa Open Days 2014 OpenStackハンズオンセミナー / OpenStackの機能概要
PDF
OpenStack Neutronの機能概要 - OpenStack最新情報セミナー 2014年12月
PDF
Linux-HA Japanプロジェクトのこれまでとこれから
 
PDF
PG-REXで学ぶPacemaker運用の実例
PDF
OpenStackクラウド基盤構築ハンズオンセミナー 第2日:講義No2
PDF
DPDKを拡張してみた話し
PDF
Stormの注目の新機能TridentAPI
PDF
Neutron Icehouse Update (Japanese)
PDF
痛い目にあってわかる HAクラスタのありがたさ
OpenStackネットワーキング管理者入門 - OpenStack最新情報セミナー 2014年8月
Azure Storage Partition Internals
OpenStack管理者入門 - OpenStack最新情報セミナー 2014年12月
OVS VXLAN Network Accelaration on OpenStack (VXLAN offload and DPDK) - OpenSt...
openstack_neutron-ovs_osc2014tf_20141019
Apache cloudstack4.0インストール
試して覚えるPacemaker入門 『リソース設定編』
Try andstudy cloud_20120509_nagoya
Pacemaker NextGen OSC2012TokyoFall-20120908
 
第7回oss貢献者賞 森-20120316
 
OpenStackでも重要な役割を果たすPacemakerを知ろう!
 
Okinawa Open Days 2014 OpenStackハンズオンセミナー / OpenStackの機能概要
OpenStack Neutronの機能概要 - OpenStack最新情報セミナー 2014年12月
Linux-HA Japanプロジェクトのこれまでとこれから
 
PG-REXで学ぶPacemaker運用の実例
OpenStackクラウド基盤構築ハンズオンセミナー 第2日:講義No2
DPDKを拡張してみた話し
Stormの注目の新機能TridentAPI
Neutron Icehouse Update (Japanese)
痛い目にあってわかる HAクラスタのありがたさ

Similar to CloudStackユーザ会 OSC.cloud

PDF
Apache CloudStack 4.0 インストール(ver0.5)
PDF
CloudStack at Cloud Week 2012
PDF
「hbstudy#23 OpenStack祭!!」資料 ~OpenStackプロジェクトの全体像~
PDF
Whats new Apache CloudStack
PDF
20111119 OSC Tokyo/Fall on CloudStack and LXC
PDF
JOSUG 9th Study
PDF
hbstudy37 slide
PDF
Hbstudy41 slide
PDF
Cloudianと連携するCloudStack (Cloudian Summit 2012)
PDF
OSC2012.Cloud_CloudStack概要
PDF
Wakame Project - 自作クラウド研究会
PDF
【セミナー講演資料】オープンクラウドソリューションのご紹介
PDF
OpenStack Updates
PDF
Open stack reference architecture v1 2
PDF
20101029 open cloudcampus-1
PDF
なぜソーシャルゲームはクラウドなのか? ~AWSの成功事例を紐解く~
PDF
第12回CloudStackユーザ会_ApacheCloudStack最新情報
PDF
OpenCloudCampus : Cloud Technologies Meeting (OpenStack)
PDF
2012 OpenStack + KVM = onamae.com VPS #2 ~ vnc and snapshot ~
PPTX
Riak meetup tokyo idcf 20130312
Apache CloudStack 4.0 インストール(ver0.5)
CloudStack at Cloud Week 2012
「hbstudy#23 OpenStack祭!!」資料 ~OpenStackプロジェクトの全体像~
Whats new Apache CloudStack
20111119 OSC Tokyo/Fall on CloudStack and LXC
JOSUG 9th Study
hbstudy37 slide
Hbstudy41 slide
Cloudianと連携するCloudStack (Cloudian Summit 2012)
OSC2012.Cloud_CloudStack概要
Wakame Project - 自作クラウド研究会
【セミナー講演資料】オープンクラウドソリューションのご紹介
OpenStack Updates
Open stack reference architecture v1 2
20101029 open cloudcampus-1
なぜソーシャルゲームはクラウドなのか? ~AWSの成功事例を紐解く~
第12回CloudStackユーザ会_ApacheCloudStack最新情報
OpenCloudCampus : Cloud Technologies Meeting (OpenStack)
2012 OpenStack + KVM = onamae.com VPS #2 ~ vnc and snapshot ~
Riak meetup tokyo idcf 20130312

More from samemoon

PDF
おぷ☆すたあど彼
PDF
Openstack calendar20141222
PDF
Eucalyptus calendar20141222
PDF
Eucalyptus calendar 20141221
PDF
CloudStack Advent Calendar 2014/12/12
PDF
20141201_OpenStack_Advent_Calendar
PDF
CloudStack概要と最新動向_JulyTechFesta
PDF
Developer Summit_20140214
PDF
20131213 OSC enterprise
PDF
20131212 advent calender
PDF
Cloud OS「Apache CloudStack」をお手軽に使ってみる方法
PDF
20131030 developer lounge
PDF
20131019 OSC@Tokyo CloudStackユーザー会
PDF
第15回cloudstackユーザー会
PDF
第14回cloudstackユーザー会
PDF
使ってみよう CloudStack
PDF
CloudStack Collaboration Conference 2013 レポート
PDF
20130803 OSC@Kyoto CloudStackユーザー会
PDF
20130714 July Tech Festa 日本CloudStackユーザー会
PDF
OSC 2013.Cloud@Osaka
おぷ☆すたあど彼
Openstack calendar20141222
Eucalyptus calendar20141222
Eucalyptus calendar 20141221
CloudStack Advent Calendar 2014/12/12
20141201_OpenStack_Advent_Calendar
CloudStack概要と最新動向_JulyTechFesta
Developer Summit_20140214
20131213 OSC enterprise
20131212 advent calender
Cloud OS「Apache CloudStack」をお手軽に使ってみる方法
20131030 developer lounge
20131019 OSC@Tokyo CloudStackユーザー会
第15回cloudstackユーザー会
第14回cloudstackユーザー会
使ってみよう CloudStack
CloudStack Collaboration Conference 2013 レポート
20130803 OSC@Kyoto CloudStackユーザー会
20130714 July Tech Festa 日本CloudStackユーザー会
OSC 2013.Cloud@Osaka

CloudStackユーザ会 OSC.cloud

  • 1.
    CloudStack構築事例例+Tips OCDET環境編    ⽇日本CloudStackユーザ会 @MayumiK0 Copyright  (C)  2012  Japan  CloudStack  User  Group  All  Rights   Reserved.
  • 2.
    CloudStackユーザ会で Copyright  (C)  2012  Japan  CloudStack  User  Group  All  Rights   Reserved. 2
  • 3.
    OCDETとはオープンクラウド実証実験タスクフォース http://www.ocdet.org/ ⽇日本CloudStackユーザ会は ⽬目的:   OpenIaaS研究会に参加しております オープンソースベースの各クラウド基盤技術の 実証実験を通じて相互接続による連携、運⽤用ノ ウハウを周知し、クラウド基盤の⼀一般化と利利活 ⽤用の促進を図る。 Copyright  (C)  2012  Japan  CloudStack  User  Group  All  Rights   Reserved. 3
  • 4.
    OCDET  ファシリティ・機器ラック:  IDCフロンティア様よりご提供PCサーバ、ネットワーク機器を各社より機材ご提供□ IDCフロンティア様ラック  x  1本  1500KV □  NetGear/IBS様 NetGear  RNDP6610(NAS) NFS/iSCSI  12T(物理理) ファシリティ・機材は全て借⽤用! ※ただし、ケーブルは⾃自腹 □  Intel様/IDCF様    Intel製サーバ  x  3  –   ノード⽤用 SandyBridge-‐‑‒EP  8  cores  3.1GHz Memory:  32G □  モーフ様  Rackable製サーバ  x  3台  –  ノード⽤用 RackableA20X □  ATWORKS様  ⾃自社サーバ  x  3台  –  管理理 CPU:XeonE5320  1.86GHz  (4corex2) 系サーバ⽤用 MEM:16GB Intel  Core  i5-‐‑‒2520M  2.5GH(2コア) 8GBメモリ
  • 5.
    OCDET  CloudStack構成グローバルネットワーク -‐‑‒Management  Server Gateway#1  (KVM)   APサーバ✕2 すべてオープンソースで DBサーバ✕2 構成 VPN#1    FW#1    Zabbix#1 -‐‑‒NFS  Server  (Primary/Secondary領領域) -‐‑‒Compute  Node✕3 -‐‑‒LVS(負荷分散)✕2 プライベートネットワーク(VLANによりネットワークを分けている)   Management  Host  #1  (KVM)    CloudStack   CloudStack   Compute  Compute   Compute   Management   DB   LVS#1 暫定NFS Node   Node   Node   Server#1    Server#1    (node004) (node005) (node006) Primary   Storage Secondary   Storage  Management  Host  #2  (KVM) Storage (NFS) CloudStack   CloudStack   Management   DB   LVS#2 Server#2    Server#12   Copyright  (C)  2012  Japan  CloudStack  User  Group  All  Rights   Reserved. 5
  • 6.
    OCDET  CloudStack構成■  CloudStackApache CloudStack  4.0 ・リリース情報   blog:https://blogs.apache.org/cloudstack/entry/apache_̲cloudstack_̲4_̲0_̲0 ・ダウンロードURL   http://incubator.apache.org/cloudstack/downloads.html ・インストールガイドHTML版   http://incubator.apache.org/cloudstack/docs/en-‐‑‒US/      Apache_̲CloudStack/4.0.0-‐‑‒incubating/html/Installation_̲Guide/index.html■  OSCentOS6.3(64bit版) Copyright  (C)  2012  Japan  CloudStack  User  Group  All  Rights   Reserved. 6
  • 7.
    Management  Serverインストール[root@manager01 ~]#vi /etc/yum.repos.d/CloudStack.repo [cloudstack] CloudStack⽤用リポジトリ追加name=cloudstack baseurl=http://cloudstack.apt-get.eu/rhel/4.0/ enabled=1 gpgcheck=1 サインされてないので 「-‐‑‒-‐‑‒nogpgcheck」オプションを[root@manager01 etc]# hostname --fqdn つけないと⼊入らないmanager01.cs01.ocdet.org [root@manager01 ~]# yum install --nogpgcheck cloud-client (ざっくり省略) cloud-aws-api.x86_64 0:4.0.0-0.140.el6.4.0 cloud-client-ui.x86_64 0:4.0.0-0.140.el6.4.0 cloud-core.x86_64 0:4.0.0-0.140.el6.4.0 cloud-deps.x86_64 0:4.0.0-0.140.el6.4.0 Apache  CloudStack  4.0は  cloud-python.x86_64 0:4.0.0-0.140.el6.4.0 install.sh  がありませんcloud-scripts.x86_64 0:4.0.0-0.140.el6.4.0 yum  installでいれますcloud-server.x86_64 0:4.0.0-0.140.el6.4.0 cloud-setup.x86_64 0:4.0.0-0.140.el6.4.0 cloud-utils.x86_64 0:4.0.0-0.140.el6.4.0 Complete! Copyright  (C)  2012  Japan  CloudStack  User  Group  All  Rights   Reserved. 7
  • 8.
    DB  Serverインストール①[root@db01 ~]#rpm -qa |grep mysql mysql-‐‑‒serverをインストールしておくmysql-server-5.1.61-4.el6.x86_64 ことmysql-libs-5.1.61-4.el6.x86_64 mysql-5.1.61-4.el6.x86_64 [mysqld]セクションに次の⾏行行を挿⼊入し ます [root@db01 ~]# vi /etc/my.cnf innodb_̲rollback_̲on_̲timeout=1  追加[mysqld] innodb_̲lock_̲wait_̲timeout=600  追加datadir=/var/lib/mysql max_̲connections=700  追加socket=/var/lib/mysql/mysql.sock log-‐‑‒bin=mysql-‐‑‒bin  追加user=mysql binlog-‐‑‒format  =  'ROWʼ’  追加# Disabling symbolic-links is recommended to prevent assorted security risks bind-‐‑‒address  =  0.0.0.0  追加symbolic-links=0 innodb_rollback_on_timeout=1 innodb_lock_wait_timeout=600 max_connections=700 1管理理サーバあたりlog-bin=mysql-bin max_̲connections  350を⽬目安にbinlog-format = ‘ROW’ OCDET構成ではbind-address = 0.0.0.0 管理理サーバ2台なので [root@db01 ~]# service mysqld restart 700で設定mysqld を停止中: [ OK ] mysqld を起動中: [ OK ] Copyright  (C)  2012  Japan  CloudStack  User  Group  All  Rights   Reserved. 8
  • 9.
    DB  Serverインストール②[root@db01 ~]#mysql_secure_installation NOTE: RUNNING ALL PARTS OF THIS SCRIPT IS RECOMMENDED FOR ALL MySQL SERVERS IN PRODUCTION USE! PLEASE READ EACH STEP CAREFULLY! Change the root password? [Y/n] Y 「Disallow  root  login  remotely」以外は全Remove anonymous users? [Y/n] Y て「Y」で設定Disallow root login remotely? [Y/n] n Remove test database and access to it? [Y/n] Y Reload privilege tables now? [Y/n] Y ... Success! Cleaning up... All done! If you've completed all of the above steps, your MySQL installation should now be secure. Thanks for using MySQL! Copyright  (C)  2012  Japan  CloudStack  User  Group  All  Rights   Reserved. 9
  • 10.
    CloudStack設定① [root@manager01 ~]#yum install mysql (省略) Complete! # cloud-setup-databases cloud:DBパスワード@DBサーバのIPアドレス --deploy-as=root:DBサーバpasswoed (省略) データベースをセットアップします。 Applying /usr/share/cloud/setup/bridge/db/cloudbridge_offering.sql [ OK ] ※必要に応じて、-‐‑‒e  <encryption_̲type>  -‐‑‒ Applying /usr/share/cloud/setup/bridge/db/cloudbridge_offering_alter.sql [ OK ] m  <management_̲server_̲key>  -‐‑‒k   Processing encryption ... [ OK ] <database_̲key>を付けて Finalizing setup ... [ OK ] セキュリティ設定を⾏行行いましょう CloudStack has successfully initialized database, you can check your database configuration in / etc/cloud/management/db.properties Copyright  (C)  2012  Japan  CloudStack  User  Group  All  Rights   Reserved. 10
  • 11.
    CloudStack設定②[root@manager01 ~]# cloud-setup-managementStarting to configure CloudStack Management Server: Configure sudoers ... [OK] KVM環境ではvhd-‐‑‒utilは不不要なのでConfigure Firewall ... [OK] スキップConfigure CloudStack Management Server ...[OK] CloudStack Management Server setup is Done! [root@manager01 network-scripts]# mkdir -p /mnt/secondary [root@manager01 network-scripts]# mount -t nfs 172.16.10.19:/export/secondary /mnt/secondary [root@manager01 network-scripts]# cd /mnt/secondary/ [root@manager01 secondary]# cat > hoge NFS領領域が正しくtest file rootで読み書き可能なことを確認しておく[root@manager01 secondary]# ls -al hoge -rw-r--r--. 1 root root 10 11月 4 18:31 2012 hoge [root@manager01 secondary]# rm hoge Copyright  (C)  2012  Japan  CloudStack  User  Group  All  Rights   Reserved. 11
  • 12.
    CloudStack設定③[root@manager01 secondary]# cd[root@manager01 ~]# wget http://download.cloud.com/templates/acton/acton-systemvm-02062012.qcow2.bz2 (省略) システムVM⽤用のテンプレートの配置する。 wgetで⾃自ホストにDownLoadしておいて -‐‑‒f  オプションで指定した⽅方がやり直し時に は便便利利 [root@manager01 ~]# /usr/lib64/cloud/common/scripts/storage/secondary/cloud-install-sys-tmplt -m /mnt/secondary -f acton-systemvm-02062012.qcow2.bz2 -h kvm -F Uncompressing to /usr/lib64/cloud/common/scripts/storage/secondary/38d0870e-d5f2-43a5-a2b7-276c41796a5f.qcow2.tmp (type bz2)...could take a long time Moving to /mnt/secondary/template/tmpl/1/3///38d0870e-d5f2-43a5-a2b7-276c41796a5f.qcow2...could take a while Successfully installed system VM template acton-systemvm-02062012.qcow2.bz2 to /mnt/secondary/template/tmpl/1/3/ [root@manager01 ~]# umount /mnt/secondary/ システムVMと仮想ルータ⽤用のテンプレート がSecondaryStorageに格納されます Copyright  (C)  2012  Japan  CloudStack  User  Group  All  Rights   Reserved. 12
  • 13.
    Agentインストール[root@node006 ~]# vi/etc/yum.repos.d/CloudStack.repo [cloudstack] name=cloudstack baseurl=http://cloudstack.apt-get.eu/rhel/4.0/ enabled=1 gpgcheck=1 [root@node006 ~]# yum install cloud-agent [root@node006 ~]# yum install --nogpgcheck cloud-agent Copyright  (C)  2012  Japan  CloudStack  User  Group  All  Rights   Reserved. 13
  • 14.
    無事に動きました Copyright  (C)  2012  Japan  CloudStack  User  Group  All  Rights   Reserved. 14
  • 15.
    CloudStack  Tips編 CloudStack  Tips Copyright  (C)  2012  Japan  CloudStack  User  Group  All  Rights   Reserved. 15
  • 16.
    CloudStack  Tips編SystemVMが起動しない場合GUIで確認するとProxy  Console  VMと Secondary  Storage  VMが「Starting」のまま(1)NFS・Compute  NodeをCloudStack  Agentとして登録すると    Compute  NodeがPrimaryStorage領領域をmountする・SystemVM起動(Deploy)時はPrimaryStorage領領域に書き込む・NFSの設定を誤るとmount領領域のownerがnobody:nobodyになり  仮想イメージを書き込めない。そのためSystemVMをDeployできない。(2)コントロールグループ(cgroup)   Copyright  (C)  2012  Japan  CloudStack  User  Group  All  Rights   Reserved. 16
  • 17.
    CloudStack  Tips編SystemVMが起動しない場合(1)NFS [root@node006~]# df -kh Filesystem Size Used Avail Use% マウント位置 /dev/mapper/vg_node006-lv_root 50G 2.3G 45G 5% / tmpfs 16G 0 16G 0% /dev/shm /dev/sda1 485M 37M 423M 9% /boot /dev/mapper/vg_node006-lv_home 852G 200M 809G 1% /home 172.16.20.19:/export/primary 197G 9.8G 178G 6% /mnt/bf4b1152-4359-3311-be2c-8b2271948d00 [root@node006 ~]# ls -lsa /mnt/bf4b1152-4359-3311-be2c-8b2271948d00 合計 715248 4 drwxr-xr-x. 3 root root 4096 11月 26 21:44 2012 . 正しくroot:rootでmountされていることを確認しましょう Copyright  (C)  2012  Japan  CloudStack  User  Group  All  Rights   Reserved. 17
  • 18.
    CloudStack  Tips編仮想ルータにホストからsshできます [root@node006~]# ssh -i .ssh/id_rsa.cloud 169.254.3.116 -p 3922 Linux r-5-VM 2.6.32-5-686-bigmem #1 SMP Mon Jan 16 16:42:05 UTC 2012 i686 The programs included with the Debian GNU/Linux system are free software; the exact distribution terms for each program are described in the individual files in /usr/share/doc/*/copyright. Debian GNU/Linux comes with ABSOLUTELY NO WARRANTY, to the extent permitted by applicable law. root@r-5-VM:~# date; ifconfig –a eth0 Link encap:Ethernet HWaddr 02:00:6b:3d:00:02 Last login: Sun Dec 9 14:20:04 2012 from 169.254.0.1 inet addr:10.1.1.1 Bcast:10.1.1.255 Mask:255.255.255.0 Linux r-5-VM 2.6.32-5-686-bigmem #1 SMP Mon Jan 16 16:42:05 UTC 2012 i686 UP BROADCAST RUNNING MULTICAST MTU:1500 Metric:1 RX packets:11592 errors:0 dropped:0 overruns:0 frame:0 TX packets:8741 errors:0 dropped:0 overruns:0 carrier:0 The programs included with the Debian GNU/Linux system are free software; collisions:0 txqueuelen:1000 RX bytes:972709 (949.9 KiB) TX bytes:2582211 (2.4 MiB) the exact distribution terms for each program are described in the individual files in /usr/share/doc/*/copyright. eth1 Link encap:Ethernet HWaddr 0e:00:a9:fe:03:74 inet addr:169.254.3.116 Bcast:169.254.255.255 Mask:255.255.0.0 UP BROADCAST RUNNING MULTICAST MTU:1500 Metric:1 Debian GNU/Linux comes with ABSOLUTELY NO WARRANTY, to the extent RX packets:12285 errors:0 dropped:0 overruns:0 frame:0 TX packets:10166 errors:0 dropped:0 overruns:0 carrier:0 permitted by applicable law. collisions:0 txqueuelen:1000 root@r-5-VM:~# RX bytes:1937229 (1.8 MiB) TX bytes:1915520 (1.8 MiB) Copyright  (C)  2012  Japan  CloudStack  User  Group  All  Rights   Reserved. 18
  • 19.
    CloudStack  Tips編仮想ルータにホストからsshできます VMware vSphereの場合はホストからではなく管理理サーバからログイン   #  ssh  -‐‑‒i  /var/lib/cloud/management/.ssh/id_̲rsa  -‐‑‒p  3922  root@リンクローカルIP Proxy  Console  VM Secondary  Storage  VMも同様の⽅方法でsshできます Copyright  (C)  2012  Japan  CloudStack  User  Group  All  Rights   Reserved. 19
  • 20.
    CloudStack  Tips編CloudStackで利利⽤用するDBでよく参照するtable Copyright  (C)  2012  Japan  CloudStack  User  Group  All  Rights   Reserved. 20
  • 21.
    CloudStack  Tips編ログの調べ⽅方例例)DeployVM [root@manager01management]# zcat management-server.log.2012-12-12.gz | grep DeployVM 2012-12-12 02:11:07,436 DEBUG [cloud.async.AsyncJobManagerImpl] (catalina-exec-5:null) submit async job-56, details: AsyncJobVO {id:56, userId: 2, accountId: 2, sessionKey: null, instanceType: VirtualMachine, instanceId: 7, cmd: com.cloud.api.commands.DeployVMCmd, cmdOriginator: null, cmdInfo: {"sessionkey":"xC3F7odnUaqCSIiLnl4RO7gH5gQ u003d","ctxUserId":"2","serviceOfferingId":"35690ace-f8cd-472f- b587-1812ddd379aa","zoneId":"928e3322-2854-4246-8264-9d17c7c05a35","templateId":"b30d7821-f7db-468c-9a8a- cd57a8bf4a8b","response":"json","id":"7","networkIds":"302929d8-9bbf-4465-bbb9- fd610fc96860","hypervisor":"KVM","name":"test03","_":"1355245866228","ctxAccountId":"2","ctxStartEventId":"214","disp layname":"test03"}, cmdVersion: 0, callbackType: 0, callbackAddress: null, status: 0, processStatus: 0, resultCode: 0, result: null, initMsid: 90520734315668, completeMsid: null, lastUpdated: null, lastPolled: null, created: null} 2012-12-12 02:11:07,442 DEBUG [cloud.async.AsyncJobManagerImpl] (Job-Executor-31:job-56) Executing com.cloud.api.commands.DeployVMCmd for job-56 2012-12-12 02:11:21,078 DEBUG [cloud.async.AsyncJobManagerImpl] (Job-Executor-31:job-56) Done executing com.cloud.api.commands.DeployVMCmd for job-56 Copyright  (C)  2012  Japan  CloudStack  User  Group  All  Rights   Reserved. 21
  • 22.
    CloudStack  Tips編Job番号でtrace例例)  DeployVMのjob番号「job-‐‑‒56」で処理理を追ってゆく Copyright  (C)  2012  Japan  CloudStack  User  Group  All  Rights   Reserved. 22
  • 23.
    CloudStack  Tips編削除したVMがなかなか消えない例例)  検証環境などリソースが少ない環境で削除したVMを    完全に削除したい   秒数で指定 [root@manager01 ~]# /etc/init.d/cloud-management restart グローバル設定変更更後は再起 Stopping cloud-management: [ OK ] 動を忘れずに Starting cloud-management: [ OK ] Copyright  (C)  2012  Japan  CloudStack  User  Group  All  Rights   Reserved. 23
  • 24.
    CloudStackユーザ会つかもうぜ!                                             CloudStack世界でいっとー                                    スリルなIaaSさがそうぜ!                                              CloudStack世界でいっとー                                    ユカイなIaaSCloudはでっかい宝島                                            そうさ今こそユーザ会 今日は参加できずに   残念   /)(  ◕  ‿‿  ◕  )(\   ⽇日本CloudStackユーザ会   事務局⻑⾧長  :  荒井  康宏 24
  • 25.

[8]ページ先頭

©2009-2025 Movatter.jp