クラウドの垣根を超えた高性能計算に向けて~AIST Super Green Cloudでの試み~

26
Üê ǘđ ČÐŵƎįÕƒƠĐ Ë×É §º¤È¡W©ȸ»\ěÊ miz[ÒÇeÉMS §³®µZ«OU A"# "73)4 4))1 /27(V[¸^A

description

アカデミックインタークラウドシンポジウム2014講演

Transcript of クラウドの垣根を超えた高性能計算に向けて~AIST Super Green Cloudでの試み~

Page 1: クラウドの垣根を超えた高性能計算に向けて~AIST Super Green Cloudでの試み~

Üê�ǘđ�ČÐŵƎįÕƒƠĐ�

�� �Ë�×�É���§º¤��È¡W�Â�©�ȸ��»\ěÊ�

m�iz[ÒÇeÉMS��§³®µZ«OU�

A��"#�"73)4��4))1��/27(V[¸^A�

Page 2: クラウドの垣根を超えた高性能計算に向けて~AIST Super Green Cloudでの試み~

ËÀ�O �Â�©ùxęơ�

N ČįƒsyQ¼WÄy�AA:>8��BBD�9AC��FD<@8DDQ�ÐĒ��¦»y/<@7AHD��KFC8wƌÑ�

O ƒƠóÚ��¦»XƘ`zQ (�Yy�Â�©tűëŖU�N ČÐħsyQ������A?BFE8C4<787�8@:<@88C<@:�xØêvus�Â�©xģþcę~pp^��

O �Â�©ûƨSƌÑwëjrQðb�Şũcţċ�N ņĉ��¦»ĶƊáwyQĎè�Â�©|xƽÿƌÑ�^�Ľ��O ZÙ`�ù[jwe_ňþSóÚ��¨QijĔā�

��

Page 3: クラウドの垣根を超えた高性能計算に向けて~AIST Super Green Cloudでの試み~

ËÀ?���m�iz�O �Â�©xģǒď���WÄ��¨ď�úon�}}QÜďŎĭŘw�ŏ`� (��Â�©wƈ÷�

O Čįƒsxć�Ĭ~�N �� �ËP�?4KA@����s�>FDE8C��A?BFE8�!@DE4@68cģþŰŎw�

N �� ËP!@M@<�4@7�(�!°��ÄWsģþjnǣƖ�Â�¡xďŎƫŃ�2+��+!+�� 3�

N �� ËP�!+,�+FB8C��>AF7ňþóŕ�O Ċw/85�W±�þLjwģþ�

N �� �ËP�!+,�+FB8C��C88@��>AF7ňþóŕ�O  (�þLj�ƃêw�

��

Page 4: クラウドの垣根を超えた高性能計算に向けて~AIST Super Green Cloudでの試み~

����21��)0%1(�O  �?4KA@�������!�O  �J6>8�>AF7�

N ���Îw�Â�¡ƔƉ��žǕXƳƧY�

O  &��� (��'@$<@8�N &����'�-+vux�°�ÈĞĎwQ�?4KA@����w�ßŬ�

O  (8@:F<@�A@��8?4@7�N ·�¼¡Äx!@M@<�4@7�Â�¡�Â�¡�ŅƗ�

O ŨŇT+A9E$4J8Cs�!@M@<�4@7cģþŰŎw�

��

156000���ŏþ�

Page 5: クラウドの垣根を超えた高性能計算に向けて~AIST Super Green Cloudでの試み~

��Wg��@w�

O  ǣƖùx¼Ã¤¨�N  ģþÔw��øÑƔƉxÖŤv��¡¹���N  ƔƉƸǙƥďxğÎQĭŘĆxŢĀ�

O  ǣƖùx§¼Ã¤¨�N  ďŎ�W¯¶¤©�

��

Ǘĝx�Â�©�þLjwŬkrʼnDžwŏ_Øf��� (�µÂ¤¨³�W»xžǕ�

ZǣƖù[w�orøÑƔƉxŰǴď�Ü��gtcǵ�

Page 6: クラウドの垣根を超えた高性能計算に向けて~AIST Super Green Cloudでの試み~

��"#����m�iz[�q���;�7-/(��1')��!71��8)4:9,)4)<�

��

��§º¤��Â�©�

µÂ�·W¨��Â�©�

Ŵþ��Â�©�

ǣƖĭŘĆ�¦ÈµÅW¨�

ǣƖ�Â�¡Ɲ�ĭŘĆ�

¶ÐÖ=�@o@\��¢Zlrv�hsQSÑÄm�rve¾Îº³�

¶Ð×=��¾ÎQSÑÄm�rv\XfYm�iz�V`²¾Îº³�

Page 7: クラウドの垣根を超えた高性能計算に向けて~AIST Super Green Cloudでの試み~

�£[»d�O ƹƀ�O  �!+,�+FB8C��C88@��>AF7��+���xǭƙ�

N ®W©����N  ³¨����N ďŎƫŃ�

O Ʒĕx (�µÂ¤¨³�W»wğfnŅĻ�N ǣƖ�Â�¡xŰǴď�N �+��t�?4KA@�����þ_nøŋøƓ�

O öŧ�O }t��

��

Page 8: クラウドの垣根を超えた高性能計算に向けて~AIST Super Green Cloudでの試み~

¦°Â[����@oÆ�

��

ƔƉS�¬Ä�W�

ĝƞĮĦ½§Ä�ģþjnÉǏĮǓxƒƠ�Ƈřċdžñw��¼¡È®�©ÅW¨njxǬƃ��WÄťƚƁăľǥ�

ÝƆ� ÝǛtƣƶx�º¿ÅW�ÁÈ�ª­¦�SƾŗSƂƐ�

ġÏĈýƾŗ�º¿ÅW¡)%�+w��ĠŊƶĺǑ��þ_nÊŪƤijçŶżĭŘ�ǹƌÒǖæǢ�Ã�È�Â�¡WǶŢôxžƐ½§Ä�³�W�S³�WÄ©ñ�þ_nÊŪƤ�ņļĔǩłĂŲœźċdžľǥ�

Â�³� �²�­»ĿĦľǥ�ĿĦïĚS�Å�

,�������<A����ÇW�³ÆW�ƵƪĿĦůýwëûjn/85Îx�W±��

Đæ (�ÇW��Á¤µµÆ�»��X�� ��Y�

Page 9: クラウドの垣根を超えた高性能計算に向けて~AIST Super Green Cloudでの試み~

�"��[¬¢h�@q�

��

ÀW�WyøÑƔƉ�ÖŤw��¡¹��ŰŎ�

Æ��Èjrģþ�

/85�µÃþ�

§W¡ůýþ�

ÜďŎĭŘþ�

ǻĺÌtv�ǣƖĭŘĆ�P¦ÈµÅW¨�õǝ�

Ǽţċv ³¨����ƕĢ�

ǣƖĭŘĆ¦ÈµÅW¨�

ÜďŎĭŘþL�

��

F�

ÜďŎĭŘþL�

ǽ��¡¹��jn�x�úƥ�

ŏ_n_tdwøÑƔƉ�Żă�

ÑÄ Zbc§³¿�eÌPMS�§³���

´LaRL�

ǣƖ�Â�¡�

�+�����!+,�+FB8C��C88@��>AF7�

Page 10: クラウドの垣根を超えた高性能計算に向けて~AIST Super Green Cloudでの試み~

�Á´���¿WÂ�

p{�kG?���m�rv�O ŷǤwŬknQ�Â�¡���xťǂ�

N �Á´���¿WÂ�ÇW�³ÆW�È�ÈtûăjnQĭŘ­W©xĴİ�

O Ďè�Â�¡xģþ�N ĭŘ­W©ąŸá�N ĭśǔijS¼È¦ªÈ�á�

��

ĭŘ­W©�

ĭŘ­W©�

ĭŘ­W©�

ĭŘ­W©x�ƕĢSƴƭ�

ÀW���Á´xĤÞ�

Page 11: クラウドの垣根を超えた高性能計算に向けて~AIST Super Green Cloudでの試み~

p{�kH?$)&n@�r�O ŷǤwŬknQ�Â�¡���xťǂ�

N ģþÔb�x����xưÚåvĴĢXĦīǁY�N �ȦȥľǥßƄxƕĢX«�«�ăśßŬvuY�

O ³�����WÄxēäsQĎèb�x�����ǀŰ�

�+A@:C<F?�

��'��C<7�$4@7D4E�§W¡ǯáſĚ�

Page 12: クラウドの垣根を超えた高性能計算に向けて~AIST Super Green Cloudでの試み~

�"��[©®�¼�O  ǣƖ¹�Èx~�ŅƗ�

N  ķý¹�Ètxŝþ�ŇǜjncQº©Ä���xƻđdz��ƅýxǸǡù��ųƑ�

N  ďŎwël�ǎƑyľísd�tIJų�O  ŝœ�¨ÅW�vj�

N  �°�ÈxƬŮxıeyŝœ�¨ÅW�wŻƼ�N  �¨ÅW�|xċŁyÀW�htwÊdeƿv��

N  ÆW�Ä�¨ÅW�t.%�¼W��ŒNJl��Â�¡��¨ÅW�x~ŅƗ�

N  �¨ÅW�yÀW�xĩĸsßŬ�O  ���ÂÅW¡X�(-Q08A@�(;<Yvj�

N  ŏ_gvm�ÀW�cŦveQ�¸W¨�sdv_�

��

Page 13: クラウドの垣根を超えた高性能計算に向けて~AIST Super Green Cloudでの試み~

�"��}@zijg¾¨�

��

�20376)��2()��(-� !@E8>�08A@�������G����� K��

� ��6AC8��I���(-��;<BD8E� !@E8>������%8?ACJ� ��������*� ����!@M@<�4@7� %8>>4@AI��A@@86E0�����*���E;8C@8E� !@E8>�0�������� ���5����<D=� !@E8>�++�����+������������

O  �C4JÓƂ´ÅW©�W¯ �� �� ��­W©b�žđi��(��Â�¡�

O  ŧý²W�ďŎ�����,�$'(+�O  �� �Ë�×ňþóŕ�

Page 14: クラウドの垣根を超えた高性能計算に向けて~AIST Super Green Cloudでの試み~

�"��u�yijg¾¨�O  �8@E'+����O  �B46;8��>AF7+E46=�

N ¯W�ÁÈ���·W�wƮƍ�N (�!°��ÄWS+*!'.ßŬX#.%x~Y�N ƏÒ��¦»xøDŽ�

O  *��'+�Â�¡�¨ÅW��O  1455<I½«¡ÃÈ���¦»�O ǣƖ�Â�¡žǕ¥WÄ�D:6EAA>D�

��

Page 15: クラウドの垣根を超えた高性能計算に向けて~AIST Super Green Cloudでの試み~

O  �(-a�{§¯��xǣƖùßŬw��QǣƖù�W¯¶¤©yÊdeĵƲ�N ÕÑÄ ���TP�W¯¶¤©Ê�N ����rr�@TķýĭŘĆwDzǧl�ďŎ�

15

0

50

100

150

200

250

300

BT CG EP FT LU

Exe

cutio

n tim

e [s

econ

ds]�

BMM (IB) BMM (10GbE) KVM (IB) KVM (virtio)

The overhead of I/O virtualization on the NAS Parallel Benchmarks 3.3.1 class C, 64 processes.�

BMM: Bare Metal Machine�

KVM (virtio)�

VM1�

10GbE NIC�

VMM�

Guest driver�

Physical driver�

Guest OS�

KVM (IB)

VM1�

IB QDR HCA�

VMM�

Physical driver�

Guest OS�

ÑÄ N§³Z½McÅÊ�

Bypass�

Page 16: クラウドの垣根を超えた高性能計算に向けて~AIST Super Green Cloudでの試み~

�����2-16�62�32-16�ª§³�

��

0.1$

1$

10$

1$ 1024$

Throughp

ut)(G

B/s)�

Message)Size)(KB)�

�Physical$Cluster$�Virtual$Cluster$

�������5���� ����5�

ÑÄ k@~�xz\��Ï�ESTQ>¡�xt@qnhsV\�¤����

�+��sxĹŐ�

�!@M@<�4@7���*��

Page 17: クラウドの垣根を超えた高性能計算に向けて~AIST Super Green Cloudでの試み~

�������§³B |@zC�O ƔƉ�

N  (���;4>>8@:8� ���N 'B8@�%(!� ���N  !@E8>�6A?B<>8C�+( � ���

O ǣƖù�W¯¶¤©yĀ����

��

§³� ��ȹ�ķý�Â�¡� ����,�$'(+� ������ǣƖ�Â�¡� ����,�$'(+� ������

]��ÊŪƤQǦǃvĹŐyâÉĦŌĮä�

�+��sxĹŐ�

Page 18: クラウドの垣根を超えた高性能計算に向けて~AIST Super Green Cloudでの試み~

ÑÄm�rv[ºÔ§�O ÷å�

N Ǘĝx�Â�©�þLjwŬkrʼnDžwŏ_Øf��� (�µÂ¤¨³�W»xøĖ�

O ÷åsyv_gt�N ÝýåwƩ�nǗĝǍėwǺcorƺÏxĭŘƔƉ�žǕl��È¡W�Â�©ƒƠsyv_�O �ä©%(!yƸĖøå�O ƺÏx�Á´���¿WÂQ�Â�©htx�¿WyĖøå�

N ǣƖ�Â�¡¹��ÅW�ÁÈsyv_�O  ¦ÈµÅW¨b�ǣƖ�Â�¡�ōžǕl�xsQøÑ�Ȧ��¨yĜdljcv_�

O  %(!µÆ�»syăåwµÆ��ĝ�ťǂl�xyƸÏNjå�

��

Page 19: クラウドの垣根を超えた高性能計算に向けて~AIST Super Green Cloudでの試み~

Á­�O ǣƖ�Â�¡žǕ¥WÄx�Â�©Íìď�

N  !44+�Â�©yQƺôx.%�ŅƗjra�Q� (��Â�¡tjrxģþcƖäi�r_v_�

N Ǫƥ¥WÄyQŠäx�Â�©wǙƥ�O %!,�+E4C�>FDE8C��;EEB���DE4C?<E87F�6>FDE8C��O  69@6>FDE8C��;EEBD���:<E;F56A?�4HD>45D�69@6>FDE8C�

��

Page 20: クラウドの垣根を超えた高性能計算に向けて~AIST Super Green Cloudでの試み~

ÑÄm�rv[Ó¥�

���

³ÆȨ�È©­W©�

ĭŘ­W©�

ĭŘ­W©�

ĭŘ­W©�

ĭŘ­W©x�ƕĢSƴƭ�

&�+7�,'*)-��Æ��È­W©�

ǣƖ�Â�¡�

!@M@<�4@7��E;8C@8E�

*��'+��Â�¡X.%�¦ÈµÅW¨Y�

D:6EAA>D�

�Á´xĤÞ�ǣƖ�Â�¡xÛđQ�ƴƭQÃ���xċŁ�

ÀW�Đœ��¨ÅW��

��5��ƢĘ�

X�µ�ÁÈY�

Page 21: クラウドの垣根を超えた高性能計算に向けて~AIST Super Green Cloudでの試み~

ÑÄm�rv[�Í�O  �>AF7<@<ET.%�È�¡È�xĨĉù�

N  ++ ĄóǵxƯƛQ°�ÇW©xĨĉù�N  �;A?8x&�+¹�Ȩ�N  &!+�N  �Á´���¿WÂX,'*)-�Y�

O  +8C9Tăåv¼È¯�¤µƅý�N  �8E6�;ADEDxǂé�N  ,'*)-�|xĭŘ­W©x�ƕĢSƴƭ�

� �

³ÆȨ�È©­W©�

ĭŘ­W©�

ĭŘ­W©�

ĭŘ­W©�

ĭŘ­W©x�ƕĢSƴƭ�

")4*�

")4*�")4*� ")4*�

Page 22: クラウドの垣根を超えた高性能計算に向けて~AIST Super Green Cloudでの試み~

5+'�622/5[¬¢Æ�# ǣƖ�Â�¡xńđ $"sgc&cluster"create"myCluster.txt"

# ǣƖ�Â�¡xŻă

$"sgc&cluster"start"myCluster"

# ǣƖ�Â�¡xƋLJ $"sgc&cluster"destroy"myCluster�

#"myCluster.txt"

[frontend]"

template"="cluster_frontend&20140701"

compute_offering"="HPC"

disk_offering"="Large"

"

[cmpnode]"

number"="16"

template"="cluster_compute&20140701"

compute_offering"="HPC"

disk_offering"="Large"

"

[common]"

name"="myCluster"

zone"="zone01"

network"="myNetwork"

ssh"="myKey�

���

Page 23: クラウドの垣根を超えた高性能計算に向けて~AIST Super Green Cloudでの試み~

�$"e¢LS�±�Ã�O ŝïxǣƖ¹�ȦȵÅW¨b�Q�+��t�?4KA@����ÎwǣƖ�Â�¡�žǕ�

���

��"#�"73)4��4))1��/27(��$"�

ǣƖĭŘĆ�¦ÈµÅW¨�

8IBACE�

<?BACE�+��

!@M@<�4@7� ���<:45<E��E;8C@8E�

ĭŘ�³ÆȨ�

ĭŘ�³ÆȨ�

ĭŘ�³ÆȨ��%!����+�� D:6EAA>D�

D:6EAA>D�

ŝï¦ÈµÅW¨b� žǕi�nǣƖ�Â�¡�

����

Page 24: クラウドの垣根を超えた高性能計算に向けて~AIST Super Green Cloudでの試み~

�·�O �Â�©s�ďŎåwyşØ (�yňþŰŎ�O ňþÎxƏĥ�

N �Â�©ãxÜƟv§W¡ūŽXAC�ŝœY�N ŀŋSŀŰS���Ȧ�È��N ňþƜŭxi�v�ğÎ�

O ǣƖ�Â�¡c·�¨xľtyĪ`v_�N �Â�©ƔƉƸǙƥx¦ÈµÅW¨žǕ�N Â��È��W¯xǟ_�

O ƒƠSóÚđŐx³�W©¯¤��N (�!°��ÄWßŬ�N �>AF7+E46=x¯�ßŬX�WªW�W�wÝǰY�

���

Page 25: クラウドの垣根を超えた高性能計算に向けて~AIST Super Green Cloudでの試み~

]W_�O ÷åTǗĝx�Â�©�þLjwŬkrʼnDžwŏ_Øf��� (�µÂ¤¨³�W»xøĖ�

O ÏòńonǣƖ�Â�¡�Qƿv��Â�©�W±�s�žǕsd� (��Â�©ŵƎ�ŅĻ�N ŷǤwŬkrăåwƮÊSǐüŰŎvǣƖ�Â�¡�N µÂ�·W¨�Â�©søÑsdv_ŪƤxĭŘ�QĎè�Â�©sʼnDžwăńŰŎw�

O  (�þLjs�Qðb��Â�©ģþxŞũ��

���

��§º¤��È¡W�Â�©ƔƉs�Q (�µÂ¤¨³�W»xøĖsûƨjr_dn_V�

Page 26: クラウドの垣根を超えた高性能計算に向けて~AIST Super Green Cloudでの試み~

KDJ�

���

ǠǚT�+��xƔƉžǕb�ňþwǫîǮ_r_�Q���+���¸W¨£W»wšǠj}lR�vaQ̃ƠxÏèyQ"+(+�ƱƒŜ������������xđŐ�őþjr_�R��