GmailとPythonでイベント管理

18
Gmail と Python と とととととと みみみみ Python みみみ #21 LT 2017/02/3

Transcript of GmailとPythonでイベント管理

Page 1: GmailとPythonでイベント管理

Gmailと Pythonでイベント管理 みんなの Python勉強会 #21 LT2017/02/3

Page 2: GmailとPythonでイベント管理

Hello!

drillerですトレーダーやってますtwitter @patraqushe

Page 3: GmailとPythonでイベント管理

宣伝

Python + 金融のコミュニティやってますfin-pyもくもく会#32/18(土 ) 11:00-19:00@DATUM STUDIO

Page 4: GmailとPythonでイベント管理

色々なサービス使っているけど・・・

Page 5: GmailとPythonでイベント管理

Pythonで管理したい

Page 6: GmailとPythonでイベント管理

例えばこんなこと

▪SNSのデータ分析▪価格比較サイトで適正価格を評価▪イベントサイトの申込状況を管理

Page 7: GmailとPythonでイベント管理

API?用意されていないサービスの方が多い

Page 8: GmailとPythonでイベント管理

Scraping?とにかく大変

Page 9: GmailとPythonでイベント管理

Mailを使おう

Page 10: GmailとPythonでイベント管理

いまさらメール?

▪殆どのサービスでメールの通知が設定できる▪Gmalでフィルタリングがラベリングが簡単にできる▪インフラがいらない

▫googleのインフラをそのまま使える

Page 11: GmailとPythonでイベント管理

とりあえずやりたいこと

各証券会社の約定記録を DBに突っ込む

Page 12: GmailとPythonでイベント管理

こうすると超簡単

Page 13: GmailとPythonでイベント管理

01 メールを通知設定02

gmailでフィルタリング03

GASを使ってGoogleスプレッドシートに取り込む

04

クレンジングしてpandasに取り込む

手順

Page 14: GmailとPythonでイベント管理

Googleスプレッドシート

▪Gmailから割と簡単にエクスポートできる▪Google Apps Script(GAS)は JavaScriptがわかれば書けるらしい

▫とりあえず JavaScriptしらないけどなんとかなった▪スケジュール処理ができる

▫cronがいらない!

Page 15: GmailとPythonでイベント管理

つかったパッケージ

▪oauth2client▫Google apiの認証

▪gspread▫Googleスプレッドシートから pandasへ取り込み

▪pandas▫クレンジングしたデータを DBへ

Page 16: GmailとPythonでイベント管理

Demo生トレードの情報が入っているので目を凝らして見ないように!

Page 17: GmailとPythonでイベント管理

課題

▪今回はメールで必要な情報が集まったが、サービスによってはメール通知に対応していない項目もある▪データクレンジングは Pythonで実施したが、泥臭い作業は残っている

Page 18: GmailとPythonでイベント管理

まとめ

▪スクレイピングが大変だと思ったらメールを試してみよう▪面倒な情報の振り分けは Gmailでできる▪Gmail+Googleスプレッドシートでインフラいらず