ソーシャルアプリを分析してみた

32
Copyright Drecom Co., Ltd All Rights Reserved. ソーシャルアプリを分析してみた ゆとりデータマイニング ~声優と結婚したい~

Transcript of ソーシャルアプリを分析してみた

Page 1: ソーシャルアプリを分析してみた

Copyright Drecom Co., Ltd All Rights Reserved.

ソーシャルアプリを分析してみた

ゆとりデータマイニング ~声優と結婚したい~

Page 2: ソーシャルアプリを分析してみた

Copyright Drecom Co., Ltd All Rights Reserved.

自己紹介

名前

選手

肩書き

データアナリスト (社内一人目)

目標

声優と結婚する

Page 3: ソーシャルアプリを分析してみた

Copyright Drecom Co., Ltd All Rights Reserved.

自己紹介

やってること

ソーシャルゲームのデータ分析

Raid, Battle等のバランス

カードパラメータの最適化

参加率、課金率

Page 4: ソーシャルアプリを分析してみた

Copyright Drecom Co., Ltd All Rights Reserved.

自己紹介

学生

C, Perl, Delphi, Java

前職

社内コミュニケーションツールの自社開発

Windows Server(2000, 2003)

JRun + SQL Server

WebSphere + DB2

Page 5: ソーシャルアプリを分析してみた

Copyright Drecom Co., Ltd All Rights Reserved.

自己紹介

ドリコム(B2B→B2C→・・・)

B2Bブログ

Debian, Apache, Tomcat, PostgreSQL

Struts, Hibernate

B2Cブログ

ほとんど一緒

違うのはアクセスログの流れる量

Page 6: ソーシャルアプリを分析してみた

Copyright Drecom Co., Ltd All Rights Reserved.

自己紹介

ドリコム(・・・→インフラ→・・・) インフラ

ソーシャルゲームのインフラ環境構築

リワード広告サービスの環境構築

EC2

2週間後リリース

MySQL Partitioning

億単位レコード

Android

?

Page 7: ソーシャルアプリを分析してみた

Copyright Drecom Co., Ltd All Rights Reserved.

自己紹介

ドリコム(・・・→データ分析)

Hadoop, MySQL, MongoDB

R, Knime

データマイニング、統計関数

Ruby, SQL

データ抽出、加工、シミュレータ

Page 8: ソーシャルアプリを分析してみた

Copyright Drecom Co., Ltd All Rights Reserved.

データ分析

クラスタリング

Page 9: ソーシャルアプリを分析してみた

Copyright Drecom Co., Ltd All Rights Reserved.

データ分析

主成分分析

Page 10: ソーシャルアプリを分析してみた

Copyright Drecom Co., Ltd All Rights Reserved.

データ分析

一方、立ち上げ時は・・・

Page 11: ソーシャルアプリを分析してみた

Copyright Drecom Co., Ltd All Rights Reserved.

データ分析

データはどこに・・・?

Page 12: ソーシャルアプリを分析してみた

Copyright Drecom Co., Ltd All Rights Reserved.

データ分析

社内Wiki, エンジニアの声, 噂・・・

「Hadoopにあるよ」

Page 13: ソーシャルアプリを分析してみた

Copyright Drecom Co., Ltd All Rights Reserved.

データ分析

Hadoopから開発用サーバにデータ持ってきて解析

→Hadoop糞重い

→HDD糞重い

Page 14: ソーシャルアプリを分析してみた

Copyright Drecom Co., Ltd All Rights Reserved.

データ分析

元インフラ部の特権を利用し

Intel SSDを取り付け専用サーバを構築

→解析速度2~5倍!

Page 15: ソーシャルアプリを分析してみた

Copyright Drecom Co., Ltd All Rights Reserved.

データ分析

Hadoopのデータでは物足りない

アプリデータのバックアップをリストアして詳細な行動分析

→リストア糞時間かかる

→SQLも数十分から数時間レベル

Page 16: ソーシャルアプリを分析してみた

Copyright Drecom Co., Ltd All Rights Reserved.

データ分析

インフラ部の戦友

「本番用の待機サーバ使わない?」

Page 18: ソーシャルアプリを分析してみた

Copyright Drecom Co., Ltd All Rights Reserved.

データ分析

解析にFusion-IO・・・

→ゆとり贅沢wwww

Page 19: ソーシャルアプリを分析してみた

Copyright Drecom Co., Ltd All Rights Reserved.

データ分析

CPU Coreの数だけのクエリを同時に実行しても速度がほとんど落ちな

→解析速度10~xx倍

→思考速度が追いつかない

Page 20: ソーシャルアプリを分析してみた

Copyright Drecom Co., Ltd All Rights Reserved.

データ分析

リアルタイムなデータもほしい・・・

→本番Slaveに直SQL

→社内で一番スロークエリを発行してます!

Page 21: ソーシャルアプリを分析してみた

Copyright Drecom Co., Ltd All Rights Reserved.

データ分析

インフラ部元上司

「専用サーバいらない?」

→専用の大容量Fusion-IO!!

→MongoDBいれたり、24時間シミュレータ動かしたり

Page 22: ソーシャルアプリを分析してみた

Copyright Drecom Co., Ltd All Rights Reserved.

データ分析

現在は人も増えて

データは整備されつつある

Page 23: ソーシャルアプリを分析してみた

Copyright Drecom Co., Ltd All Rights Reserved.

Rails?

どこでRails?

Page 24: ソーシャルアプリを分析してみた

Copyright Drecom Co., Ltd All Rights Reserved.

Rails?

分析・シミュレーション結果等を突っ込んでるMongoDBのViewerをつ

くってみた

Page 25: ソーシャルアプリを分析してみた

Copyright Drecom Co., Ltd All Rights Reserved.

Rails?

Ruby 1.9.3

Rails 3.2.3

Mongoid 2.4.10

k_means 0.0.7

Page 26: ソーシャルアプリを分析してみた

Copyright Drecom Co., Ltd All Rights Reserved.

Rails?

Scaffold後に簡単なMapReduce

書いて集計しただけ

Page 27: ソーシャルアプリを分析してみた

Copyright Drecom Co., Ltd All Rights Reserved.

Rails?

Page 28: ソーシャルアプリを分析してみた

Copyright Drecom Co., Ltd All Rights Reserved.

Rails?

分析者っぽくおまけで

k-means法でクラスタリング

Page 29: ソーシャルアプリを分析してみた

Copyright Drecom Co., Ltd All Rights Reserved.

Rails?

Page 30: ソーシャルアプリを分析してみた

Copyright Drecom Co., Ltd All Rights Reserved.

Rails?

Page 31: ソーシャルアプリを分析してみた

Copyright Drecom Co., Ltd All Rights Reserved.

Rails?

Railsにかすりたかっただけなんです

ごめんなさい!

Page 32: ソーシャルアプリを分析してみた

Copyright Drecom Co., Ltd All Rights Reserved. Copyright Drecom Co., Ltd All Rights Reserved.