はじめに

2020年7月8日にAuto-sklearn2.0の論文( https://arxiv.org/abs/2007.04074 )がarXiv上に公開されました。
今までAuto-sklearnの存在は知っていたものの、使ったことがなかったのでこれを機に試してみました。

論文のななめ読み

著者はFreiburg-Hannoverのグループ( https://www.automl.org/ )の方々。
論文によるとAuto-sklearn2.0のアップデート内容は、モデル選択のストラテジーの改善、ポートフォリオの構築、自動ポリシー選択とのことですが、詳細は論文を参照してください。
（モデル選択、ハイパラチューニング、前処理部分含めた全体の構成の３点を改善したと理解しましたが、チラ見程度なので間違えていたらすみません）

やること

あるデータに対して、Auto-sklearn1.0、Auto-sklearn2.0をそれぞれ実行して、予測精度がどうなるのか比較してみたいと思います。
また、Auto-sklearnの中で閉じるのは面白くないので、同じデータに対してAuto-Gluonでも予測させて精度がどうなるのか見てみたいと思います。

環境

今回はGoogle Colaboratoryを使用します（GPUは使っていません）。

実施した内容

Auto-sklearnのインストール

https://automl.github.io/auto-sklearn/master/installation.html
こちらに記載されているように以下の内容を実行します。
2020年7月22日時点でインストール時にエラーなどは起こりませんでした。

!sudo apt-get install build-essential swig
!curl https://raw.githubusercontent.com/automl/auto-sklearn/master/requirements.txt | xargs -n 1 -L 1 pip install
!pip install auto-sklearn

https://automl.github.io/auto-sklearn/master/
こちらにAuto-sklearn2.0のインポート方法が記載されているので、以下のように実行します。
なお、Github( https://github.com/automl/auto-sklearn )の中身を見ると、Auto-sklearn2.0のRegressorは見当たりませんでした。今後のアップデートに期待です。

import sklearn.model_selection
import sklearn.datasets
import sklearn.metrics
from sklearn import preprocessing

from autosklearn.experimental.askl2 import AutoSklearn2Classifier

データのロード

Auto-sklearn2.0がClassifierしかないので、公式のexample( https://automl.github.io/auto-sklearn/master/examples/example_feature_types.html )を参考にしました。
データはこちらにある、収入が一定の額以上か否かを当てるタスクの物を使用しています。

X, y = sklearn.datasets.fetch_openml(data_id=179, return_X_y=True)

# y needs to be encoded, as fetch openml doesn't download a float
y = preprocessing.LabelEncoder().fit_transform(y)

X_train, X_test, y_train, y_test = \
     sklearn.model_selection.train_test_split(X, y, random_state=1)

# Create feature type list from openml.org indicator and run autosklearn
data = sklearn.datasets.fetch_openml(data_id=179, as_frame=True)
feat_type = ['Categorical' if x.name == 'category' else 'Numerical' for x in data['data'].dtypes]

Auto-sklearn2.0の実行

今回はお試しなので、時間を5分に設定して次のように実行しました。

%%time 

cls = AutoSklearn2Classifier(
    time_left_for_this_task=300,
    seed=1,
    metric=autosklearn.metrics.log_loss
)
cls.fit(X_train, y_train, feat_type=feat_type)
#CPU times: user 16.8 s, sys: 557 ms, total: 17.3 s
#Wall time: 4min 56s

ただし、このまま実行すると以下のwarningが大量に表示されました。

/usr/local/lib/python3.6/dist-packages/sklearn/base.py:197: FutureWarning: From version 0.24, get_params will raise an AttributeError if a parameter cannot be retrieved as an instance attribute. Previously it would return None.
  FutureWarning)

とくに問題ないと思いますが、もし気になる場合は、warningsで無視するといいかもしれません。

import warnings
warnings.simplefilter('ignore')

AccuracyとAUCで予測精度を出すと次のような結果になりました。

predictions = cls.predict(X_test)
print("Accuracy score ", sklearn.metrics.accuracy_score(y_test, predictions))
print("AUC ", sklearn.metrics.roc_auc_score(y_test, predictions))
#Accuracy score  0.8585701416755385
#AUC  0.7749035627902573

Auto-sklearn1.0の実行

従来のAuto-sklearnを使う場合は、import autosklearn.classificationでライブラリをインポートして、同じように実行します。

%%time 

cls = autosklearn.classification.AutoSklearnClassifier(
    time_left_for_this_task=300,
    per_run_time_limit=30,
    seed=1,
    metric=autosklearn.metrics.log_loss
)
cls.fit(X_train, y_train, feat_type=feat_type)
#CPU times: user 5.77 s, sys: 1.08 s, total: 6.86 s
#Wall time: 4min 55s

predictions = cls.predict(X_test)
print("Accuracy score ", sklearn.metrics.accuracy_score(y_test, predictions))
print("AUC ", sklearn.metrics.roc_auc_score(y_test, predictions))
#Accuracy score  0.8490705101957252
#AUC  0.7580882714036629

今回はモデル構築時にCross-validationをしていないので、もう少し慎重に比較しないといけないところですが、単純に数値だけ比較するとAuto-sklearn2.0の方が良い結果となりました。

Auto-Gluonの実行

Auto-Gluonについての詳細は別の記事( https://qiita.com/dyamaguc/items/dded739f35e59a6491c8 )を参照してください。
Auto-Gluonの場合は、インプットのデータにnumpyのndarrayを指定できないため、pandasのDataFrameに変換する処理を追加しています。
それ以外は基本的に同じにしています。

X, y = sklearn.datasets.fetch_openml(data_id=179, return_X_y=True)

# y needs to be encoded, as fetch openml doesn't download a float
y = preprocessing.LabelEncoder().fit_transform(y)

X_train, X_test, y_train, y_test = \
     sklearn.model_selection.train_test_split(X, y, random_state=1)

X_train_ = pd.DataFrame( X_train )
y_train_ = pd.DataFrame(y_train, columns=['class'])
train_data = pd.concat( [X_train_, y_train_ ], axis=1)

auto-stackを使用する設定として、実行します。

%%time

long_time = 5*60 # for quick demonstration only, you should set this to longest time you are willing to wait
dir = 'agModels-predictClass-autostack' # specifies folder where to store trained models
predictor = task.fit(
    train_data=train_data, 
    label='class', 
    auto_stack=True, 
    output_directory = dir,
    eval_metric='log_loss',
    time_limits=long_time)
#CPU times: user 9min 21s, sys: 11.3 s, total: 9min 32s
#Wall time: 5min 15s

import sklearn.metrics
X_test_ = pd.DataFrame( X_test )
predictions = predictor.predict(X_test_)
print("Accuracy score ", sklearn.metrics.accuracy_score(y_test, predictions))
print("AUC ", sklearn.metrics.roc_auc_score(y_test, predictions))
#Accuracy score  0.8609450495454918
#AUC  0.780458426444995

今回のデータセットと設定では、Auto-Gluonが一番良い結果となりました。

まとめ

今回はAuto-sklearn2.0に触れて見ましたが、この手のAutoMLは本当に楽で、そこそこの結果を出してくれるので、便利だなと思いました。

環境

• Raspbian Stretch
• Minecraft Pi Edition v0.1.1
• Python3(IDLE)
• Scratch2MCPI
• Scratch 1.4

トラブルシュート

現象

Minecraft-piは起動されず、何も起こらない。試しに、minecraft-piコマンドを手動実行すると、次のエラーが表示された。

error while loading shared libraries: libGLESv2.so: cannot open shared object file: No such file or directory

原因と対策

次のサイトの記事を参考に、Raspberry Piのファームウェアをアップデートすることで解消した。
※参考：Games that uses libGLESv2.so doen't work in raspbian stretch

sudo rpi-update

＃pyenvのインストール

pyenvとは

pythonのバージョンを簡単に切り替えるて利用できるようにするツールです

Homebrewでpyenvをインストールする場合

% brew install pyenv

gitでpyenvをインストールする場合

% git clone git://github.com/yyuu/pyenv.git ~/.pyenv

pyenvを利用する前にターミナルで利用するシェルの確認

% echo $SHELL

/bin/bash か /bin/zsh が表示される

bashの場合

% vi ~/.bash_profile
export PYENV_ROOT="$HOME/.pyenv"
export PATH="$PYENV_ROOT/bin:$PATH"
if command -v pyenv 1>/dev/null 2>&1; then
  eval "$(pyenv init -)"
fi

% source ~/.bash_profile

zshの場合

% vi ~/.zshrc
export PYENV_ROOT="$HOME/.pyenv"
export PATH="$PYENV_ROOT/bin:$PATH"
if command -v pyenv 1>/dev/null 2>&1; then
  eval "$(pyenv init -)"
fi

% zsh -l

pyenvでpythonをインストールする

インストール可能なpythonのバージョンを確認し、インストールする

% pyenv install --list
% pyenv install 3.8.3
% pyenv install 3.8.2
% pyenv versions

pythonをインストールしてきた後はshimのリフレッシュをしておく。

% pyenv rehash

特定のディレクトリ配下で利用するpythonのバージョンを設定する

% pyenv local 3.8.2
% ls -lah
.python-version
% cat .python-version
3.8.2

全体で利用するpythonのバージョンを設定する

% pyenv global 3.8.3

バージョンの確認

% pyenv version

アンインストール

pyenv uninstall 3.8.2

pipの利用

pipとは

python標準のパッケージはたいていpythonをインストールする時点で
自動的にインストールされます。
サードパーティのパッケージは別途インストールが必要で、
PyPIという下記のサイトで配布されています。
https://pypi.org/
このサードパーティが配布しているパッケージをインストールするために、
pipを使ってパッケージの管理が行います。

pipのバージョンを確認する

% python -m pip list
Package    Version
---------- -------
pip        19.2.3
setuptools 41.2.0
WARNING: You are using pip version 19.2.3, however version 20.1.1 is available.
You should consider upgrading via the 'pip install --upgrade pip' command.

pipのバージョンアップ

% python -m pip install pip --upgrade
Collecting pip
  Using cached https://files.pythonhosted.org/packages/43/84/23ed6a1796480a6f1a2d38f2802901d078266bda38388954d01d3f2e821d/pip-20.1.1-py2.py3-none-any.whl
Installing collected packages: pip
  Found existing installation: pip 19.2.3
    Uninstalling pip-19.2.3:
      Successfully uninstalled pip-19.2.3
Successfully installed pip-20.1.1

pipenvの利用

pipenvとは

Pipenvは、Python公式が正式に推薦する依存関係管理・パッケージングのためのツールです。

pipenvのインストール

% pip install pipenv

pipenvの利用方法

プロジェクト「project1」を作成する

% mkdir /develop/python/tutorial/project1
% cd /develop/python/tutorial/project1

プロジェクトでpython3.8.3を利用するとする

% pipenv --python 3.8.3
% ls -lah
 Pipfile

numpyパッケージをインストールする

% pipenv install numpy
% ls -lah
 Pipfile
 Pipfile.lock

Pipfileに利用するパッケージの情報が書かれている

% cat Pipfile
[[source]]
name = "pypi"
url = "https://pypi.org/simple"
verify_ssl = true

[dev-packages]

[packages]
numpy = "*"

[requires]
python_version = "3.8"

Pipfile.lockにインストール済みパッケージの詳細が書き込まれる

% cat Pipfile.lock
{
    "_meta": {
        "hash": {
            "sha256": "b59842a2e4aca58430e4c67380e4d495bd0cb8b31d65c29e51235c48f9456e4b"
        },
        "pipfile-spec": 6,
        "requires": {
            "python_version": "3.8"
        },
        "sources": [
            {
                "name": "pypi",
                "url": "https://pypi.org/simple",
                "verify_ssl": true
            }
        ]
    },
    "default": {
        "numpy": {
            "hashes": [
                "sha256:13af0184177469192d80db9bd02619f6fa8b922f9f327e077d6f2a6acb1ce1c0",
                "sha256:26a45798ca2a4e168d00de75d4a524abf5907949231512f372b217ede3429e98",
                "sha256:26f509450db547e4dfa3ec739419b31edad646d21fb8d0ed0734188b35ff6b27",
                "sha256:30a59fb41bb6b8c465ab50d60a1b298d1cd7b85274e71f38af5a75d6c475d2d2",
                "sha256:33c623ef9ca5e19e05991f127c1be5aeb1ab5cdf30cb1c5cf3960752e58b599b",
                "sha256:356f96c9fbec59974a592452ab6a036cd6f180822a60b529a975c9467fcd5f23",
                "sha256:3c40c827d36c6d1c3cf413694d7dc843d50997ebffbc7c87d888a203ed6403a7",
                "sha256:4d054f013a1983551254e2379385e359884e5af105e3efe00418977d02f634a7",
                "sha256:63d971bb211ad3ca37b2adecdd5365f40f3b741a455beecba70fd0dde8b2a4cb",
                "sha256:658624a11f6e1c252b2cd170d94bf28c8f9410acab9f2fd4369e11e1cd4e1aaf",
                "sha256:76766cc80d6128750075378d3bb7812cf146415bd29b588616f72c943c00d598",
                "sha256:7b57f26e5e6ee2f14f960db46bd58ffdca25ca06dd997729b1b179fddd35f5a3",
                "sha256:7b852817800eb02e109ae4a9cef2beda8dd50d98b76b6cfb7b5c0099d27b52d4",
                "sha256:8cde829f14bd38f6da7b2954be0f2837043e8b8d7a9110ec5e318ae6bf706610",
                "sha256:a2e3a39f43f0ce95204beb8fe0831199542ccab1e0c6e486a0b4947256215632",
                "sha256:a86c962e211f37edd61d6e11bb4df7eddc4a519a38a856e20a6498c319efa6b0",
                "sha256:a8705c5073fe3fcc297fb8e0b31aa794e05af6a329e81b7ca4ffecab7f2b95ef",
                "sha256:b6aaeadf1e4866ca0fdf7bb4eed25e521ae21a7947c59f78154b24fc7abbe1dd",
                "sha256:be62aeff8f2f054eff7725f502f6228298891fd648dc2630e03e44bf63e8cee0",
                "sha256:c2edbb783c841e36ca0fa159f0ae97a88ce8137fb3a6cd82eae77349ba4b607b",
                "sha256:cbe326f6d364375a8e5a8ccb7e9cd73f4b2f6dc3b2ed205633a0db8243e2a96a",
                "sha256:d34fbb98ad0d6b563b95de852a284074514331e6b9da0a9fc894fb1cdae7a79e",
                "sha256:d97a86937cf9970453c3b62abb55a6475f173347b4cde7f8dcdb48c8e1b9952d",
                "sha256:dd53d7c4a69e766e4900f29db5872f5824a06827d594427cf1a4aa542818b796",
                "sha256:df1889701e2dfd8ba4dc9b1a010f0a60950077fb5242bb92c8b5c7f1a6f2668a",
                "sha256:fa1fe75b4a9e18b66ae7f0b122543c42debcf800aaafa0212aaff3ad273c2596"
            ],
            "index": "pypi",
            "version": "==1.19.0"
        }
    },
    "develop": {}
}

開発環境用のパッケージをインストールする

$ pipenv install --dev ptvsd pytest

パッケージをアップデートする

$ pipenv update pytest

パッケージをアンインストールする

$ pipenv uninstall --all

開発用のパッケージのみアンインストールする

$ pipenv uninstall --all-dev

PipfileとPipfile.lockの再利用

Pipfileの利用

Pipfileをもとにパッケージをインストールします。
このときにインストールした内容でPipfile.lockが更新されます．

$ pipenv install

開発用のパッケージもインストールしたい場合は--devをつける

$ pipenv install --dev 

Pipfile.lockの利用

Pipfile.lockをもとにパッケージをインストールします。

$ pipenv sync

開発用のパッケージもインストールしたい場合は--devをつける

$ pipenv sync --dev 

はじめに

オンプレ環境のGPUを持っていないので、私はAWSでGPUインスタンスを立ててディープラーニングを行っている。
学習データを利用する際、EC2内に一時ディレクトリを作成して、そこにS3から学習データをダウンロードして使うことで、以下のような利点が得られるんじゃないかと思ったので、紹介する。

EC2インスタンス上にデータを入れっぱなしにしておくよりも、プログラムの実行が終わった際にEC2インスタンスからデータが消去される、かつS3に出力結果が上がるため、セキュリティの強化、出力結果紛失の危険性低減、EBS（ストレージ）の節約になる。

この記事では、EC2インスタンス内に一時ディレクトリを作成し、そこにS3からファイルをダウンロードする。
そして、一時ディレクトリからS3へのアップロードするまでを目指す。

必要作業

• EC2にIAMロールの設定
• pythonモジュールのインストール(python3を利用)
• コードの記述

IAMロールの設定

ロールの作成

①AWSマネジメントコンソールからIAMのページに移動
②左のメニュー一覧からロールを選択
③ロールを作成を選択

④ユースケースはEC2を選択
⑤次のステップへ

⑥検索窓でS3と入力し検索
⑦AmazonS3FullAccessにチェックマークを入れる
⑧次のステップへ

⑨タグは設定してもしなくてもどちらでも良いが、複数人でAWSを利用している場合は、管理のしやすさのため、Userのみ設定しておくと良い
⑩次のステップへ

⑪任意のロール名をつける（ロール名から何ができるロールなのかわかるようにしておくと楽）
⑫ロールの作成

EC2インスタンスへのIAMロールの割当

EC2インスタンスを作成する際に先程作成したIAMロールを割り当てる

※インスタンス作成時にしかロールの割当できないかも？作成後にロールが割り当てられるかは要検証

pythonモジュールのインストール

必要モジュール

AWSモジュール
- boto3
一時ディレクトリモジュール
- tempfile(python標準モジュールのためインストール不要)

インストールコマンド

pip install boto3

コードの記述

以下のコードをノートブックファイルや.pyファイルにコピペすればダウンロード及びアップロードの完了

ダウンロード元やアップロード先の設定

import boto3
import tempfile

#ダウンロード元バケット名
bucket_name = 'hogehoge'
#アップロード先バケット名（今回はダウンロード先と同じ）
out_bucket_name = bucket_name

#バケットにある動画ファイル名
file_name = 'input.mp4'

#アップロード先のフォルダ名
#下記の例だとS3にresultフォルダが作成され、そこに出力される
out_folder_name = 'result'

一時ディレクトリの作成及びS3からのダウンロード

#一時保存用ディレクトリの作成
tmpdir = tempfile.TemporaryDirectory()
tmp = tmpdir.name + '/'

#一時的な入力ファイル名（適当な名前で固定）
#固定された名前で一時フォルダにダウンロードされる
tmp_input = tmp + 'tmp.mp4'

#S3からファイルをダウンロード
s3_client = boto3.client('s3')
s3 = boto3.resource('s3')
bucket = s3.Bucket(bucket_name)
bucket.download_file(file_name, tmp_input)

ダウンロードされたファイルの使用例

以下の例はopencvで読み込みをし、何も処理せず一時ディレクトリに別名保存している

(一時ディレクトリにtmp.mp4とoutput.mp4がある状態)

import cv2

#一時ディレクトリに保存するビデオ名の設定
output_video =tmp + 'output.mp4'

#動画ファイルを読み込む
video = cv2.VideoCapture(tmp_input)

# 幅と高さを取得
width = int(video.get(cv2.CAP_PROP_FRAME_WIDTH))
height = int(video.get(cv2.CAP_PROP_FRAME_HEIGHT))
size = (width, height)

#総フレーム数を取得
frame_count = int(video.get(cv2.CAP_PROP_FRAME_COUNT))

#フレームレート(1フレームの時間単位はミリ秒)の取得
frame_rate = int(video.get(cv2.CAP_PROP_FPS))

# 保存用
fmt = cv2.VideoWriter_fourcc('m', 'p', '4', 'v')
writer = cv2.VideoWriter(output_video, fmt, frame_rate, size)

for i in range(frame_count):
    ret, frame = video.read()
    ### ここに加工処理などを記述する ###
    writer.write(frame)

writer.release()
video.release()
cv2.destroyAllWindows()#ビデオの読み込み

S3へのアップロード

以下の例は先に設定したS3アップロード先にoutput_video.mp4という名前で上で作成したビデオがアップロードされている。

s3.Bucket(out_bucket_name).upload_file(output_video,out_folder_name+'/'+ 'output_video.mp4')

一時ディレクトリの削除

tmpdir.cleanup()

まとめ

それぞれの技術についてもっと細かく解説しているサイトはたくさんあると思うが、それをどうやってうまく組み合わせるのかが意外と難しいと思いこの記事を作成した。

AWSのAPI GatewayのAPIのメソッドの設定で、IAM認証を使っている場合、APIリクエスト時に署名が必要です。

API Gatewayのメソッド設定画面はこんな感じです。英語のマネジメントコンソールだと「Authorization」、日本語だと「認可」という欄です。

デフォルトはNONEという設定になっていますが、これをAWS_IAMにするとAPI Gatewayは届いたリクエストの署名を確認するようになります。リクエストする側が署名をする必要があります。

API Gatewayが署名を確認するようになるとAPI GatewayのリソースポリシーにてIAMユーザやIAMロールで制限をかけられるようになります。

Pythonにて署名を付けてAPIリクエストするサンプルコードを書いておきます。

前提

IAMユーザのアクセスキーが ~/.aws/credentials に設定されていて、そのIAMユーザからIAMロールにスイッチするIAM権限があり、そのIAMロールでAPI Gatewayにアクセスするものとします。（~/.aws/credentials があればよいので、以下のサンプルコードはGCPのCompute Engineインスタンスで動かしました）

Pythonコード

import boto3
from botocore.awsrequest import AWSRequest
from botocore.auth import SigV4Auth
import urllib.request
import sys

endpoint_host = "xxxxxxxxxx.execute-api.ap-northeast-1.amazonaws.com"
endpoint = "https://" + endpoint_host + "/stage"
path = "/hello"
url = endpoint + path

# .aws/credentials または環境変数でアクセスキーが設定されているIAMユーザのセッションを生成。
session = boto3.session.Session()
# .aws/credentials に複数のIAMユーザがある場合は profile_name を指定。
#session = boto3.session.Session(profile_name = "foo")

sts_client = session.client("sts")

# IAMロールのARNを指定して assume_role 。
# IAMロールが不要でIAMユーザのままでAPIリクエストする場合は、ここは不要。
assume_role_response = sts_client.assume_role(
    RoleArn = "arn:aws:iam::XXXXXXXXXXXX:role/ROLENAME",
    RoleSessionName = "test")

# assume_role で得られたトークンなどからIAMロールでのセッションを生成。
# IAMロールが不要でIAMユーザのままでAPIリクエストする場合は、ここは不要。
session = boto3.session.Session(
    aws_access_key_id = assume_role_response['Credentials']['AccessKeyId'],
    aws_secret_access_key = assume_role_response['Credentials']['SecretAccessKey'],
    aws_session_token = assume_role_response['Credentials']['SessionToken'])

# セッション情報からAPIリクエストに署名。
credentials = session.get_credentials()
awsreq = AWSRequest(method = "GET", url = url)
SigV4Auth(credentials, "execute-api", "ap-northeast-1").add_auth(awsreq)

# urllib.request.Request 生成。
# この4つのリクエストヘッダーが必須。
# IAMロールが不要でIAMユーザのままでAPIリクエストする場合は、X-Amz-Security-Token は不要。
req = urllib.request.Request(url, headers = {
    "Authorization": awsreq.headers['Authorization'],
    "Host": endpoint_host,
    "X-Amz-Date": awsreq.context['timestamp'],
    "X-Amz-Security-Token": assume_role_response["Credentials"]["SessionToken"]
})

# APIリクエスト実行
try:
    with urllib.request.urlopen(req) as response:
        # レスポンス出力
        sys.stdout.buffer.write(response.read())
except urllib.error.HTTPError as err:
    # 403などの場合はここに到達
    # エラーを出力
    print(err)
    # レスポンスヘッダを出力
    print(err.headers)

エラーメッセージの例

IAMユーザに assume_role する権限がないと assume_role を呼び出したところで

botocore.exceptions.ClientError: An error occurred (AccessDenied) when calling the AssumeRole operation

という例外が発生します。

X-Amz-Security-Token が必要なのに足りてないと、403 Forbidden が返され、レスポンスヘッダに次のように書かれます。

x-amzn-ErrorType: UnrecognizedClientException

API GatewayのリソースポリシーでこのIAMロールからのリクエストを拒否していると、403 Forbidden が返され、レスポンスヘッダに次のように書かれます。

x-amzn-ErrorType: AccessDeniedException

なお、IAMロールにAPI GatewayにアクセスするIAM権限がなくても、API Gatewayのリソースポリシーで許可していれば、AccessDeniedException にはならずに正常に処理できるようです。

開発環境は通常マシンごとに

# 開発環境ラベル
export DEPLOY_ENV=<dev/stg/prd>

のように開発環境を記述する環境変数を書き分けると便利だが、PyCharmを用いて開発するときには、楽をしようとするとちょっとややこしい。そこで備忘録を残しておく。

PyCharmで開発環境ラベルが必要になる状況は、以下2つのパターンがある。

1. 画面からRun/Debugする場合
2. PyCharmのターミナルでpython manage.py ...を実行する場合（migration実行時など）

前者の場合（画面からRun/Debugする場合）の環境変数設定は別に難しくない。Run/Debug Configurationsから環境変数を追加すれば可能だ。

ただし、Configurationsの数 × 開発ラベルの種類の数だけ設定しなくてはいけないのでちょっと面倒ではある。本当はProjectレベルの環境変数があったら便利なのかもしれないが、ここは良い解決策がないので地道に行おう。

さて、このように設定してしても、後者の場合（PyCharmのターミナル、もしくは通常のターミナルで実行する場合）の環境変数には（当然ながら）開発ラベルの環境変数は反映されない。上で設定したものはあくまでPyCharmの画面から実行するときにのみ反映される環境変数だ。

そこで、別の環境変数設定方法が必要になる。しかし、いくつかアイデアを検討したが、あまりぱっとしたものが思うかばない。

というのは、ターミナルからexportしたり、.bash_profileなどでexportしても、1つのマシンで複数のProjectや開発環境がある場合を考えるとあまり筋がよくないからだ。また、manage.py系の実行をRun/Debug Configurationに設定してしまうことも考えたが、インタラクティブシェルを必要とすることが多く、そのような場合に立ち上がらないケースがあったのでこれも諦めた。PyCharm側で良さげな機能があればよいのだが、これも残念ながら見つからない。

そこで、ちょっと荒業だが、virtualenvのbin/activateの最後で直接exportするように運用ルールを設定した。具体的には以下のように設定するようにした。

vi ~/.virtualenvs/<Virtualenv環境名>/bin/activate
# 最後にexport DEPLOY_ENV=<dev/stg/prd>を記述

こうすることで、activateと同時に開発環境ラベルが設定できて楽になる。

なお、このように書き分けるために、当然Virtualenv環境は<Project名称>_<開発環境ラベル>（例：project_dev）のように書き分ける必要がある。

まとめ

PyCharmにおける開発環境ラベルは、

• Run/Debug Configurationsで、それぞれの開発環境ごとにラベルをきちんと書く

• また、python manage.py...でも反映させるために、virtualenvのactivateの最後でもマシンごとに環境変数をexportする。

と良い。

目的

作成したCSVファイルをスプレッドシートへ自動でインポートしたい。

Pythonのgspreadを使用して実際にやってみた。

前提条件

・Googleアカウント作成
・プロジェクト作成
・API有効化
・サービスアカウントキーの取得

こちらが全て完了している事が前提です。
筆者は下記リンクを参考にしました。

pythonでGoogle Driveの任意のフォルダにスプレッドシートを作成・編集する
PythonでGoogleスプレッドシートを編集

CSVをインポート

インポートテスト用CSVファイル

a,b,c
1,2,3

コード

import_test.py

import gspread
from oauth2client.service_account import ServiceAccountCredentials
from pydrive.auth import GoogleAuth
from pydrive.drive import GoogleDrive
import csv

# GoogleAPI
scope = ['https://spreadsheets.google.com/feeds',
         'https://www.googleapis.com/auth/drive']
# 認証用キー
json_keyfile_path = '認証用キーのファイルパス'
# サービスアカウントキーを読み込む
credentials = ServiceAccountCredentials.from_json_keyfile_name(json_keyfile_path, scope)
# pydrive用の認証
gauth = GoogleAuth()
gauth.credentials = credentials
drive = GoogleDrive(gauth)
# インポートするCSVファイル
csv_path = 'CSVファイルパス'
# スプレッドシート格納フォルダ（https://drive.google.com/drive/folders/<フォルダのID>）
folder_id = 'フォルダID'
# スプレッドシート新規作成
f = drive.CreateFile({
    'title': 'test',
    'mimeType': 'application/vnd.google-apps.spreadsheet',
    "parents": [{"id": folder_id}]})
f.Upload()
# gspread用の認証
gc = gspread.authorize(credentials)
# 作成したスプレッドシートのIDを取得
sheet_id = f['id']
# スプレッドシートを開く
workbook = gc.open_by_key(sheet_id)
# 作成したスプレッドシートにCSVをインポート
workbook.values_update(
    'Sheet1',
    params={'valueInputOption': 'USER_ENTERED'},
    body={'values': list(csv.reader(open(csv_path, encoding='utf_8_sig')))}
)

実行結果

無事にインポート出来ました。

ドライブ用の認証処理
↓
作成したいフォルダの指定
↓
空のスプレッドシート作成
↓
スプレッドシート用の認証処理
↓
CSVインポート

という流れです。

既存のブックにシートを追加→CSVインポート

インポートテスト用CSVファイル

d,e,f
4,5,6

コード

import_test.py

import gspread
from oauth2client.service_account import ServiceAccountCredentials
from pydrive.auth import GoogleAuth
from pydrive.drive import GoogleDrive
import csv

# GoogleAPI
scope = ['https://spreadsheets.google.com/feeds',
         'https://www.googleapis.com/auth/drive']
# 認証用キー
json_keyfile_path = '認証用キーのファイルパス'
# サービスアカウントキーを読み込む
credentials = ServiceAccountCredentials.from_json_keyfile_name(json_keyfile_path, scope)
# pydrive用の認証
gauth = GoogleAuth()
gauth.credentials = credentials
drive = GoogleDrive(gauth)
# インポートするCSVファイル
csv_path = 'CSVファイルパス'
# スプレッドシート格納フォルダ（https://drive.google.com/drive/folders/<フォルダのID>）
folder_id = 'フォルダID'
# スプレッドシート格納フォルダ内のファイル一覧取得
file_list = drive.ListFile({'q': "'%s' in parents and trashed=false" % folder_id}).GetList()
# gspread用の認証
gc = gspread.authorize(credentials)
# スプレッドシートIDを取得
book_name = 'test'
sheet_id = [file['id'] for file in file_list if file['title'] == book_name]
sheet_id = sheet_id[0]
# スプレッドシートを開く
workbook = gc.open_by_key(sheet_id)
# ワークシート追加
sheet_name = 'Sheet2'
workbook.add_worksheet(title=sheet_name, rows=1000, cols=26)
# スプレッドシートにCSVをインポート
workbook.values_update(
    sheet_name,
    params={'valueInputOption': 'USER_ENTERED'},
    body={'values': list(csv.reader(open(csv_path, encoding='utf_8_sig')))}
)

実行結果

新たなシートを作成してCSVをインポートする手順はこんな感じになります。

フォルダ内に存在するファイル一覧を作成
↓
ファイル一覧からCSVインポートしたいブックを検索してシートIDを取得
↓
CSVインポート

という流れ。

ブックが既に存在する場合は新規ワークシートを作成、存在しない場合は新規ブックを作成してCSVをインポート

import_test.py

import gspread
from oauth2client.service_account import ServiceAccountCredentials
from pydrive.auth import GoogleAuth
from pydrive.drive import GoogleDrive
import csv
import sys

# GoogleAPI
scope = ['https://spreadsheets.google.com/feeds',
         'https://www.googleapis.com/auth/drive']
# 認証用キー
json_keyfile_path = '認証用キーのファイルパス'
# サービスアカウントキーを読み込む
credentials = ServiceAccountCredentials.from_json_keyfile_name(json_keyfile_path, scope)
# pydrive用の認証
gauth = GoogleAuth()
gauth.credentials = credentials
drive = GoogleDrive(gauth)
# インポートするCSVファイル
csv_path = 'CSVファイルパス'
# スプレッドシート格納フォルダ（https://drive.google.com/drive/folders/<フォルダのID>）
folder_id = 'フォルダID'
# スプレッドシート格納フォルダ内のファイル一覧取得
file_list = drive.ListFile({'q': "'%s' in parents and trashed=false" % folder_id}).GetList()
# ファイル一覧からファイル名のみを抽出
title_list = [file['title'] for file in file_list]
# 任意のブック名
book_name = '任意のブック名'
# ブックの存在判定
if book_name not in title_list:
    # ブック新規作成
    f = drive.CreateFile({
        'title': book_name,
        'mimeType': 'application/vnd.google-apps.spreadsheet',
        "parents": [{"id": folder_id}]})
    f.Upload()
    # gspread用に認証
    gc = gspread.authorize(credentials)
    # スプレッドシートIDを取得
    sheet_id = f['id']
    # ブックを開く
    workbook = gc.open_by_key(sheet_id)
    # ワークシート名を任意のシート名に変更
    worksheet = workbook.worksheet('Sheet1')
    sheet_name = '任意のワークシート名'
    worksheet.update_title(sheet_name)
else:
    # gspread用の認証
    gc = gspread.authorize(credentials)
    # スプレッドシートIDを取得
    sheet_id = [file['id'] for file in file_list if file['title'] == book_name]
    sheet_id = sheet_id[0]
    # ブックを開く
    workbook = gc.open_by_key(sheet_id)
    # 存在するワークシートの情報を全て取得
    worksheets = workbook.worksheets()
    # ワークシート名のみをリストへ格納
    worksheets_title_list = [sheet.title for sheet in worksheets]
    # 任意のワークシート名
    sheet_name = '任意のワークシート名'
    # 同一ワークシート名の存在判定
    if sheet_name == worksheets_title_list:
        # 同一のワークシート名が既に存在する場合はシートを作成せずに処理終了
        sys.exit()
    else:       
        # ワークシート追加
        workbook.add_worksheet(title=sheet_name, rows=1000, cols=26)
# スプレッドシートにCSVをインポート
workbook.values_update(
    sheet_name,
    params={'valueInputOption': 'USER_ENTERED'},
    body={'values': list(csv.reader(open(csv_path, encoding='utf_8_sig')))}
)

先程紹介した新規ブック作成パターンと新規ワークシート追加パターンを組み合わせた例。

ブックの新規作成が必要な場合と既存ブックへ書き込む場合のどちらにも対応出来る。

日次処理等で定期的にデータを追加する場合に便利。

同一ワークシート名の存在判定も追加する事によってエラーを回避。

最後に

お手軽にCSVをインポート出来てめちゃ便利。

DRF(Django Rest Framework)とdjoser（jwt認証型のauthシステム）で開発しているが、認証周りのテストが初めてだったので、色々戸惑った。

なので、ユーザー認証テストと認証されたユーザでの投稿テストをメモしておく。

from rest_framework.test import APITestCase
from config.settings import TEST_USER_ID_PW


# TEST_USE_ID_PWは'username'と'password'をキーにもつdict。なお、ここのパスワードは平文で行う。

class TestSomeSerializer(APITestCase):
    def setUp(self):
        # テスト共通で用いるユーザーを作成
        self.register_response = self.client.post('/api/v1/auth/users/', TEST_USER_ID_PW) # login done
        self.assertEqual(self.register_response.status_code, 201)  # 201 Created

    def test_create_something(self):
        # 作成したユーザで投稿をテスト
        res = self.client.post('/api/v1/something/',
                               {'user': self.register_response.data['id'], 'message': 'abc'})
        self.assertEqual(res.status_code, 201)  # 201 Created

目標：Googleカレンダー⇔CSVファイル⇔別アプリのようにカレンダーと他アプリを連携すること。

その第一段階として、CSVのファイルに記述した予定をGoogleカレンダー上に登録するプログラムを作りました。

GoogleカレンダーAPIの利用方法

こちらのサイトを参考にさせていただきました。

【Python】Google Calendar APIを使ってGoogle Calendarの予定を取得・追加する | 無次元日記
https://non-dimension.com/python-googlecalendarapi/

Google Calendar APIのReference > Events: insert
https://developers.google.com/calendar/v3/reference/events/insert

新規イベントを登録するソースコード

上記サイトを参考にしてカレンダーに"変数eventの予定"を追加するコードは以下のようになりました。

CalendarAPI.py

from __future__ import print_function
import datetime
import pickle
import os.path
from googleapiclient.discovery import build
from google_auth_oauthlib.flow import InstalledAppFlow
from google.auth.transport.requests import Request

# If modifying these scopes, delete the file token.pickle.
SCOPES = ['https://www.googleapis.com/auth/calendar']
CID = 'Your Calendar ID'

def insert(event):
    creds = None
    # The file token.pickle stores the user's access and refresh tokens, and is
    # created automatically when the authorization flow completes for the first
    # time.
    if os.path.exists('token.pickle'):
        with open('token.pickle', 'rb') as token:
            creds = pickle.load(token)
    # If there are no (valid) credentials available, let the user log in.
    if not creds or not creds.valid:
        if creds and creds.expired and creds.refresh_token:
            creds.refresh(Request())
        else:
            flow = InstalledAppFlow.from_client_secrets_file(
                'credentials.json', SCOPES)
            creds = flow.run_local_server(port=0)
        # Save the credentials for the next run
        with open('token.pickle', 'wb') as token:
            pickle.dump(creds, token)

    service = build('calendar', 'v3', credentials=creds)

    # Call the Calendar API
    create_event = service.events().insert(calendarId=CID, body=event).execute()
    return create_event['id']

変数eventの中身

変数イベントの中身は上記Googleサイトを確認すると、start(開始時刻),end(終了時刻)が必須でその他様々なオプションがあります。
今回はSummary(イベントタイトル)、location(場所)、description(説明)を一緒に載っけます。

ソースコード

ソースコードは以下となります。

csv2calendar.py

import pandas as pd
import pprint
import datetime
import CalendarAPI
TIMEZONE = 'Japan'

def TransTime(t):
    if len(t) > 11:
        strtime = datetime.datetime.strptime(t, '%Y/%m/%d %H:%M').isoformat()
        dictime = {
            'dateTime': strtime,
            'timeZone': TIMEZONE
        }
    else :
        strtime = datetime.datetime.strptime(t, '%Y/%m/%d').isoformat()
        dictime = {
            'date': strtime[0:10],
            'timeZone': TIMEZONE
        }
    return dictime


csv = pd.read_csv('test.csv')
d = csv.to_dict(orient='index')

for h, num in zip(d.values(), d.keys()):
    h['start'] = TransTime(h['start'])
    h['end']   = TransTime(h['end'])
    del h['id']
    try:
        event_id = insert_calendar.insert(h)
    except:
        print("Error: Can't put id={} on your calendar".format(csv.loc[num, 'id']))
    else:
        print("Put id={} on your calendar as new_id={}".format(csv.loc[num, 'id'], event_id))
        csv.loc[num, 'id'] = event_id

csv.to_csv('test.csv',index=False)

CSVは以下のように記述しました。

test.csv

id,summary,location,description,start,end
1,会議1,会議室1,memo,2020/7/22 20:40,2020/7/23 0:30
2,会議2,会議室2,メモ,2020/7/30 12:00,2020/7/30 13:00
3,終日イベント,家,,2020/7/31,2020/07/31
4,終日イベント2,家,,2020/8/2,2020/8/3 12:00

説明

関数TransTimeについて

TransTimeは開始時刻、終了時刻の「年/月/日 時:分」を変換する関数です
送信するeventは以下の書式をとります。

{'summary': '会議1',
 'location': '会議室1',
 'description': 'memo',
 'start':  {'dateTime': '2020-07-22T20:40:00', 'timeZone': 'Japan'},
 'end': {'dateTime': '2020-07-23T00:30:00', 'timeZone': 'Japan'},      
},

時刻をISOフォーマットに変換します。このときタイムゾーンを設定する必要があります。
また、終日予定の場合は時刻を書かずに以下のように記します。

{'summary': '終日イベント',
 'location': '家',
 'description': nan,
 'start': {'date': '2020-07-31', 'timeZone': 'Japan'},
 'end': {'date': '2020-07-31', 'timeZone': 'Japan'}
 }

そのため、CSV内で日付のみのデータは後者こととしました。

本体

プログラムの挙動はCSVを読み込みPandas DataFrameを介して辞書型に変換します。
この辞書型それぞれに対し、eventのフォーマットに変換しAPIを通します。
CSVにはidの行を用意します。Googleカレンダーに予定を追加した場合、固有のidが帰ってきます。
これで上書きすることで、後々予定のアップデートなどを実装した際にイベントの識別ができるようにしました。

次の目標

CSVの変更に対しGoogleカレンダーを更新する。

はじめに

一人暮らしを始めてからというものの、読書が趣味になりました。
家には本棚が6か所あり、そのどこに何の本があるかをしりたくなったので、書籍管理line bot作ってみました。line botﾍﾞﾝﾘｨ

完成イメージ

写真をアップロード⇒本の登録

本情報の手打ちはしんどいなあと思ったので、本の写真アップロードで代用。
背表紙にあるISBN番号をOCRで読み取って、Google Books APIで書籍情報を呼び出します。
「これ登録しますけどどの棚に入れますか～」と聞かれるので、棚番号を応えて登録。
登録済のものについては※で忠告を出しておきます。

検索 (本の名前)⇒本の検索

「検索」(スペース)(本の名前の一部)とすると、その言葉を含む本がどの棚になるかを教えてくれます。複数の場合も対応、該当がない場合は該当するものがないよ、と言ってくれます。

スタンプ⇒キレる

スタンプに対しては厳しめの対応です。
そりゃあ書籍管理botだもんね。
スタンプなんて意味わかんないよね。

スタンプかわいい

全体構造

本の登録

ざくっとした流れは
①写真アップロード
②cloud functionsが写真をcloud vision APIへ。写真内の文字を読み取る。
③cloud functionsでISBN番号を取り出し、google books APIへ。書籍情報を取得。
④cloud functionsからgoogle apps scriptに書籍情報を送り、スプレッドシートに入力。
となっています。

直接GASとやり取りすればいいじゃんと思った人もいると思います。
その通りです（作ってる最中に思いました）。
その通りなんです。。。ｸｿｳｾｯｶｸﾂｸｯﾁｬｯﾀｶﾗ

本の検索

こちらの処理は
①検索_(書籍名の一部) と送る
②cloud functionsがgoogle apps scriptへ受け流す
③google apps scriptでスプレッドシート内の検索処理
④cloud functions経由でlineへ返す。
となっています。

GASメインの処理ですね。いよいよcloud functionsなぜ使った感。
見切り発車でcloud functionsを起動したのが仇でしたね。。。
だからline botとGASつなげればいいじゃんとか言わないでやめて石投げなry

サンプルコード

Cloud Functions

line botがpostする先の処理になります。
基本的にはpost内容に応じて処理を変えるようになっています。
言語はpythonで書いております。

import os
import base64, hashlib, hmac
import logging
import requests
import json
import re
import base64
import urllib.request
from flask import abort, jsonify
from linebot import (
    LineBotApi, WebhookParser
)
from linebot.exceptions import (
    InvalidSignatureError
)
from linebot.models import (
    MessageEvent, TextMessage, TextSendMessage
)

def main(request):
    #環境変数から各トークンの取得
    channel_secret = os.environ.get('LINE_CHANNEL_SECRET')
    channel_access_token = os.environ.get('LINE_CHANNEL_ACCESS_TOKEN')

    #botインスタンス
    line_bot_api = LineBotApi(channel_access_token)
    parser = WebhookParser(channel_secret)

    #lineから運ばれてきたデータ
    body = request.get_data(as_text=True)

    #認証周り
    hash = hmac.new(channel_secret.encode('utf-8'),
        body.encode('utf-8'), hashlib.sha256).digest()
    signature = base64.b64encode(hash).decode()
    if signature != request.headers['X_LINE_SIGNATURE']:
        return abort(405)
    try:
        events = parser.parse(body, signature)
    except InvalidSignatureError:
        return abort(405)

    #内容に応じて分岐
    for event in events:
        #メッセージタイプに応じて処理を変化
        message_type = event.message.type
        response_text = ""
        print(event)

        #テキストの場合、検索か棚番号
        if message_type == "text":
            #テキストの内容を取得
            message_text = event.message.text
            message_list = message_text.split()
            message = message_list[0]

            #検索の場合
            if message == "検索" and len(message_list) >= 2:
                body = {"mode":"search","target":message_list[1]}
                res = send_to_GAS(body)
                response_text = res["content"]

            #数値の場合（写真を挙げた後の棚番号）
            elif message in ["0","1","2","3","4","5","6"]:
                body = {"mode":"int", "int":message}
                res = send_to_GAS(body)
                print(res)
                response_text = res["content"]

            #その他
            else: 
                response_text = "本の背表紙のアップロードをするか、\n「検索(スペース)(本の名前の一部)」で検索してください"

        #写真の場合、本の登録
        elif message_type == "image":

            #写真取得
            message_id = event.message.id
            message_content = line_bot_api.get_message_content(message_id)

            #OCRで文字を取得
            res_json = vision_api(message_content)

            try:
                #文字からISBN番号を取得
                res = res_json['responses'][0]['textAnnotations'][0]['description']
                num = extractISBNNumbers(res)

                #ISBN番号から書籍を特定し一時保存
                info_json = searchBooksFromISBN(num)
                res = send_to_GAS(info_json)

                #登録済の場合、警告を足す
                addition = ""
                if res["content"] >= 1:
                    addition = "\n※既に登録済の書籍となっています"
                else:
                    pass

                #確認レスポンス
                response_text = "「"+info_json["book"]["title"]+"」を登録します。登録先の棚番号を1～6の数字で記入してください。"+addition

            except KeyError:
                print('画像の品質が悪いようです')

        #スタンプはキレる
        elif message_type == "sticker":
            response_text = "は？？？？？？？"

        #その他はキレない
        else:
            response_text = "本の背表紙のアップロードをするか、\n「検索(スペース)(本の名前の一部)」で検索してください"

        #lineに返信
        line_bot_api.reply_message(
            event.reply_token,
            TextSendMessage(text=response_text))

    return jsonify({ 'message': 'ok'})

#共通method
#Google Apps ScriptとJSONのやり取りをする処理
def send_to_GAS(info_json):
    #基本パラメータ
    url = (Google Apps ScriptのURL)
    headers = {"Content-Type": "application/json"}

    #引数の内容をdumpsしてPOST
    body = json.dumps(info_json).encode("utf-8")
    post_request = urllib.request.Request(url, data=body, method="POST", headers=headers)

    #レスポンスをdictにparse
    with urllib.request.urlopen(post_request) as response:
        response_binary = response.read().decode("utf-8")
        response_dict = json.loads(response_binary)
        return response_dict

#ここから先は写真に対する処理
#取得した写真をcloud visionへ送って文字取得
def vision_api(image_content):

    #基本パラメータ
    GOOGLE_CLOUD_VISION_API_URL = 'https://vision.googleapis.com/v1/images:annotate?key='
    API_KEY = (cloud visionのAPI KEY)
    api_url = GOOGLE_CLOUD_VISION_API_URL + API_KEY

    #画像データをエンコード
    image_base64 = base64.b64encode(image_content.content).decode('utf-8')

    #POSTするJSONの用意
    req_body = json.dumps({
        'requests': [
            {
            'image': {
                'content': image_base64
            },
            'features': [
                {
                'type': 'TEXT_DETECTION',
                'maxResults': 1,
                }
            ]
        }]
    })
    res = requests.post(api_url, data=req_body)
    return res.json()

#取得した文字列からISBN番号を取得
def extractISBNNumbers(words):

    #ISBNが始まる文字の番号を取得し、そこから多めにとる
    startLetterNumber = words.find('ISBN')
    endLetterNumber = startLetterNumber + 21
    ISBN_Number = words[startLetterNumber:endLetterNumber]

    #数値のみ取り出す
    number = re.sub("\\D", "", ISBN_Number)
    if len(number)==13 or len(number)==10:
        return number
    else:
        print('ISBNナンバーが読み取れません')
        return 'null'

#取り出したISBN番号を利用して書籍情報を取得
def searchBooksFromISBN(num):
    #基本パラメータ
    API_URL = 'https://www.googleapis.com/books/v1/volumes?q=isbn:'
    FULL_API_URL = API_URL + num
    res = requests.get(FULL_API_URL).json()['items'][0]

    #取得したデータ
    title = res['volumeInfo']['title']
    authors_list = res['volumeInfo']['authors']
    authors_str = ''
    for author in authors_list:
        authors_str += author + ' '

    #returnするデータ
    res = {"mode":"input","book":
        {
        "box_num":"box1",
        "title":title,
        "authors":authors_str
        }}
    return res

Cloud Functionsこまごま

環境変数から取得

#環境変数から各トークンの取得
    channel_secret = os.environ.get('LINE_CHANNEL_SECRET')
    channel_access_token = os.environ.get('LINE_CHANNEL_ACCESS_TOKEN')

cloud functionsで環境変数に設定したものを取り出す処理です。
今回初めて知ったので備忘録的にメモさせてください。
QiitaとかGitHubに上げるときとかに、いちいちマスキングする必要がなくなるので便利そうですね。
参考：(https://qiita.com/spre55/items/da2ded18ac4652abb936)

Cloud Vision APIへのPOST処理

#取得した写真をcloud visionへ送って文字取得
def vision_api(image_content):

    #基本パラメータ
    GOOGLE_CLOUD_VISION_API_URL = 'https://vision.googleapis.com/v1/images:annotate?key='
    API_KEY = 'Cloud VisionのAPI Key'
    api_url = GOOGLE_CLOUD_VISION_API_URL + API_KEY

    #画像データをエンコード
    image_base64 = base64.b64encode(image_content.content).decode('utf-8')

    #POSTするJSONの用意
    req_body = json.dumps({
        'requests': [
            {
            'image': {
                'content': image_base64
            },
            'features': [
                {
                'type': 'TEXT_DETECTION',
                'maxResults': 1,
                }
            ]
        }]
    })
    res = requests.post(api_url, data=req_body)
    return res.json()

こちらがCloud Vision APIを叩く際の処理。
base64エンコードをしたり、jsonでdumpsするなどのお作法の実装に苦労しました。
テキスト検出がこんなに簡単にできるなんて便利な時代ですよね。
参考：https://qiita.com/atomyah/items/25db0c9c2ecd319218df
参考：「独学プログラマーのためのAIアプリ開発がわかる本」https://www.amazon.co.jp/%E7%8B%AC%E5%AD%A6%E3%83%97%E3%83%AD%E3%82%B0%E3%83%A9%E3%83%9E%E3%83%BC%E3%81%AE%E3%81%9F%E3%82%81%E3%81%AEAI%E3%82%A2%E3%83%97%E3%83%AA%E9%96%8B%E7%99%BA%E3%81%8C%E3%82%8F%E3%81%8B%E3%82%8B%E6%9C%AC-%E6%B2%B3%E5%90%88-%E5%A4%A7/dp/4046040076

Google Books APIへのPOST処理

#取り出したISBN番号を利用して書籍情報を取得
def searchBooksFromISBN(num):
    #基本パラメータ
    API_URL = 'https://www.googleapis.com/books/v1/volumes?q=isbn:'
    FULL_API_URL = API_URL + num
    res = requests.get(FULL_API_URL).json()['items'][0]

ISBNさえ手に入れば、書籍情報の引っこ抜きはお手軽にできるようです。
authorsやtitle以外の情報も何かに使ってみたいところ。
自分の読む本の傾向分析とかいいかもしれませんね。

Google Apps Script

こちらがスプレッドシートと直接やり取りをする処理になります。
言語はjavascriptですね。

function doPost(e){
  //シートオブジェクト
  var spreadsheet = SpreadsheetApp.openById(スプレッドシートのID);
  var sheet = spreadsheet.getSheetByName("mode");

  //POSTされた内容を確認
  var str = e.postData.contents;
  var json = JSON.parse(str);
  var mode = json["mode"];

  //①写真アップロードの場合
  //①A 一時セルに本情報を保存して確認する
  if (mode == "input"){
    inputTemp(json);
    res_list = searchTarget(json["book"]["title"])
    return returnAsJSON(res_list.length);

  //①B 棚番号を応えてきたら、そこに本情報を記入する
  } else if (mode == "int"){
    tempMode = sheet.getRange("B2").getValue();
    //写真アップロード後ならば、棚に記入
    if (tempMode == "input"){
      sheet.getRange("B2").setValue("")
      inputSheet(json);
      return returnAsJSON("完了しました");
    } 
    //写真をアップロードしていないならば、エラーを返す
    else {
      return returnAsJSON("本の背表紙のアップロードをするか、「検索(スペース)(本の名前の一部)」で検索してください");
    }

  //②検索の場合
  } else if (mode == "search"){
    res_list = searchTarget(json["target"]);
    res = buildResponse(res_list);
    return returnAsJSON(res);
  }
}

//共通パーツ
//引数をJSONでくるんでGoogle functionsに返す処理
function returnAsJSON(res){
  dict = {"content": res};

  // dictデータをjsonに変換
  // payloadをreturnするだけではだめ
  // ContentServiceを利用して、responseを作成
  payload = JSON.stringify(dict);

  //正味よくわからない
  ContentService.createTextOutput();
  var output = ContentService.createTextOutput();
  output.setMimeType(ContentService.MimeType.JSON);
  output.setContent(payload);
  return output;
}

//検索処理
function searchTarget(target){
  var ss = SpreadsheetApp.openById(スプレッドシートのID);

  //検索結果を入れるリスト
  var res_list = [];

  //検索してリストにぶち込む
  //シートを一つ一つ調べていく
  for (var sheetNum = 1; sheetNum < 6; sheetNum++){
    var sheet = ss.getSheets()[sheetNum];
    var textFinder = sheet.createTextFinder(target);
    var ranges = textFinder.findAll();

    //検索結果から取り出してリストにぶち込む
    for (var i = 0; i < ranges.length; i++ ) {
      var row = Math.round(ranges[i].getRow());
      var authorLocation = "A" + row;
      var titleLocation = "B" + row;
      author = sheet.getRange(authorLocation).getValue()
      title = sheet.getRange(titleLocation).getValue()
      res_list.push("\n棚"+sheetNum+"："+author+ "著 "+title);
    }
  }
  return res_list
}

//上記で作ったレスポンスのリストを文面にする処理
function buildResponse(res_list){

  //検索内容がある場合とない場合で返答を変える
  res = "検索結果："
  if (res_list.length == 0){
    res = "該当するものはありませんでした";
  } else {
    for (i = 0; i < res_list.length; i++){
      res = res + res_list[i];
    }
  }
  Logger.log(res);
  return res;
}

//一時セルにスプレッドシートに一時保存
function inputTemp(json) {
  var spreadsheet = SpreadsheetApp.openById(スプレッドシートのID);
  var modeLocation = "B2";
  var authorLocation = "B3";
  var titleLocation = "C3";
  var sheet = spreadsheet.getSheetByName("mode");
  var location = sheet.getLastRow() +1;

  //スプレッドシートに一時保存
  sheet.getRange(modeLocation).setValue("input");
  sheet.getRange(authorLocation).setValue(json["book"]["authors"]);
  sheet.getRange(titleLocation).setValue(json["book"]["title"]);
}

//一時セルから棚のシートに記入
function inputSheet(json) {
  var spreadsheet = SpreadsheetApp.openById(スプレッドシートのID);
  var sheet = spreadsheet.getSheetByName("mode");

  //一時セルから本情報を取る
  author = sheet.getRange("B3").getValue();
  title = sheet.getRange("C3").getValue();

  //記入先のセル情報
  var sheet = spreadsheet.getSheetByName("box"+json["int"]);
  var location = sheet.getLastRow()+1;
  var authorLocation = "A" + location;
  var titleLocation = "B" + location;

  //記入処理
  sheet.getRange(authorLocation).setValue(author);
  sheet.getRange(titleLocation).setValue(title);
}

スプレッドシートの構成

写真から書籍情報を取り出して、linebotに「この書籍をどこに入れますか」と返す際に、取り出した書籍情報をどこかに保持する必要があるなあと思いました。
そこで今回はスプレッドシートにmodeというシートを作りました。
もっとスマートにやりたいんですが、この辺り何か良いアイデアがありましたら教えてください・・・！

こちらが本棚になります。
box1～box6までそれぞれシートを分けて書いております。
検索処理もここを調べて結果を返します。

今後やってみたいこと

ランダムで棚の中の本を出してくれる機能欲しいなあと思ってます。
処理自体はそれほど難しくないと思うんですが、まだまだ不慣れでGASとの疎通がうまくいかないときがしばしば。
本当になんでcloud functions挟んだろうか（白目）

あとは本の情報を一元管理できるようになったら、自分の読む本の傾向とか分析してみたいなあと思います。
どんな傾向の本を読むのか分析して、違うジャンルの本を読み始めてみるとか。
機械学習モデルをどこかにデプロイして、自分向けリコメンドシステムを作ってみるとか面白いかも。

概要

Pythonのグラフ描画ライブラリ「seaborn」をベースにして、
相関係数や散布図などを一括で確認できる可視化ツールを作ってみました。

試行錯誤の結果、様々なデータパターンに対応した、汎用性の高いツールが出来た！
と感じています

背景と機能

本ツールの機能と、作成した背景を解説します

seabornとは？

Pythonのグラフ描画ライブラリで、ベースとなっているライブラリmatplotlibよりも、簡単なコードで綺麗なグラフを描くことができます

中でも、散布図とヒストグラムを組み合わせた「pairplot」は、
多変数の関係性を一度に可視化することができるため、
データ分析の初期段階で非常によく使われています。

pairplotの課題

とても便利なpairplotですが、下記のようにいくつか課題があります。

課題1：右上の散布図が情報量ゼロ

pairplotの左下（下の図の赤枠）と右上（青枠）の散布図を見比べてください

よく見ると右上の散布図は左下の散布図の軸を反転させただけで、表示している情報は全く同じです。

右上の散布図は情報量ゼロ‥むしろ分析者に意味のない情報を見せている分、マイナスの効果すら生み出していると言えます。
（一応、縦軸横軸どちらの要素からスタートしても目的の2変数に辿り着けるというメリットはありますが‥）

課題2：離散的な変数は、散布図だと挙動が分かりずらい

今まで扱ってきた「iris」データセットは全て連続的な変数なので散布図がフィットしますが、
「titanic」データセットではどうでしょう？

"adult_male"、"alone"などの、離散的でとる値の少ない変数（赤枠で囲った部分）では、
点が重なってしまって挙動がよく分からないですね。

しかも、このような離散的な変数こそ実際のデータ分析では重要な場面も多い（下の「余談」を参照ください）ので、無視できる課題ではありません。

追加した機能

上記課題1、2をクリアするため、
R言語の可視化ライブラリ「GGally」等を参考にしつつ、
下記の2つの機能を加えてデータの傾向を見やすくしたメソッド

pairanalyzer

を作成しました

機能1：相関係数の表示

「課題1：右上の散布図の情報量がゼロ」をクリアするため、意味のある情報を載せたいと思い、
右上には相関係数を表示することとしました

相関係数の大小を直感的に分かりやすくするため、下記の機能も付け加えました
・相関係数の大小に応じて文字サイズを変更
・全体の相関係数を黒で、hue(後で解説します)ごとの相関係数を色分けして表示

機能2：箱ひげ図、バブルチャートへの自動表示変更

課題2で問題となっていた離散的な変数の傾向を把握しやすいよう、

・X,Yいずれかの変数の取る値が2種類以下のとき、箱ひげ図で表示
・もう1つの変数が4種類以下のとき箱ひげ図が作れないので、バブルチャートの大きさでデータの重複数を表示

に自動で表示変更する機能を追加し、データの挙動を見やすくしました

hueによる色分け機能もあるので、元のpairplotとそう変わらない感覚で使えると思います

使用に必要なもの

・Python本体 (動作確認時は3.7.7を使用)
・Matplotlibで表示可能な環境 (Jupyter等)
・下記ライブラリ (参考として動作確認時のライブラリバージョンも記載)
　seaborn (0.10.1)
　numpy (1.18.5)
　pandas (1.0.5)
　matplotlib (3.2.2)
　scipy (1.5.0)

コード

モジュールcustom_pair_plot.py内のクラスCustomPairPlotに、必要な処理をまとめました。
GitHubにもアップロードしています

モジュール本体

custom_pair_plot.py

import seaborn as sns
import numpy as np
import pandas as pd
import matplotlib.pyplot as plt
from scipy import stats

class CustomPairPlot():
    #初期化
    def __init__(self):
        self.df = None
        self.hue = None
        self.hue_names = None
        self.corr_mat = None

    #hueごとに相関係数計算
    def _corrfunc(self, x, y, **kws):
        if self.hue_names==None:
            labelnum=0
            hue_num = 0
        else:
            labelnum=self.hue_names.index(kws["label"])
            hue_num = len(self.hue_names)
        #xまたはyがNaNの行を除外
        mask = ~np.logical_or(np.isnan(x), np.isnan(y))
        x, y = x[mask], y[mask]
        #相関係数算出＆0.4ごとにフォントサイズ拡大
        r, _ = stats.pearsonr(x, y)
        fsize = min(9, 45/hue_num) + min(4.5, 22.5/hue_num) * np.ceil(abs(r)/0.4)
        fsize = min(9, 45/hue_num) if np.isnan(fsize) else fsize
        #該当マスのaxを取得
        ax = plt.gca()
        #既に表示したhueの分だけ下にさげて相関係数表示
        ax.annotate("r={:.2f}".format(r), xy=(.1, .65-min(.15,.75/hue_num)*labelnum), xycoords=ax.transAxes, size=fsize, color=kws["color"])

    #hueを分けない相関係数計算して上半分に表示
    def _corrall_upper(self, g):
        #右上を1マスずつ走査
        for i, j in zip(*np.triu_indices_from(g.axes, 1)):
            #該当マスのaxesを取得
            ax = g.axes[i, j]
            plt.sca(ax)
            #フィールド名を取得
            x_var = g.x_vars[j]
            y_var = g.y_vars[i]
            #相関係数
            r = self.corr_mat[x_var][y_var]
            #相関係数0.2ごとにフォントサイズ拡大
            fsize = 10 + 5 * np.ceil(abs(r)/0.2)
            fsize = 10 if np.isnan(fsize) else fsize
            #一番上に表示
            ax.annotate("r={:.2f}".format(r), xy=(.1, .85), xycoords=ax.transAxes, size=fsize, color="black")

    #重複数に応じたバブルチャート
    def _duplicate_bubblescatter(self, data, x, y, hue=None, hue_names=None, hue_slide="horizontal", palette=None):
        #hueの要素数および値を取得
        if hue is not None:
            #hue_nameを入力していないとき、hueの要素から自動生成
            if hue_names is None:
                hue_names = data[hue].dropna().unique()
            hue_num = len(hue_names)
            hue_vals = data[hue]
        #hueを入力していないときも、groupby用にhue関係変数生成
        else:
            hue_names = ["_nolegend_"]
            hue_num = 0
            hue_vals = pd.Series(["_nolegend_"] * len(data),
                                      index=data.index)
        #hueで区切らない全データ数（NaNは除外）をカウント
        ndata = len(data[[x,y]].dropna(how="any"))

        ######hueごとにGroupByして表示処理######
        hue_grouped = data.groupby(hue_vals)
        for k, label_k in enumerate(hue_names):
            try:
                data_k = hue_grouped.get_group(label_k)
            except KeyError:
                data_k = pd.DataFrame(columns=data.columns,
                                      dtype=np.float)
            #X,Yごとに要素数をカウント
            df_xy = data_k[[x,y]]
            df_xy["xyrec"] = 1
            df_xycount = df_xy.dropna(how="any").groupby([x,y], as_index=False).count()
            #hueが2個以上存在するとき、表示位置ずらし量（対象軸のユニーク値差分最小値÷4に収まるよう設定）を計算
            if hue_num >=2:
                if hue_slide == "horizontal":
                    x_distinct_sort = sorted(data[x].dropna().unique())
                    x_diff_min = min(np.diff(x_distinct_sort))
                    x_offset = k * (x_diff_min/4)/(hue_num - 1) - x_diff_min/8
                    y_offset = 0
                else:
                    y_distinct_sort = sorted(data[y].dropna().unique())
                    y_diff_min = min(np.diff(y_distinct_sort))
                    x_offset = 0
                    y_offset = k * (y_diff_min/4)/(hue_num - 1) - y_diff_min/8
            else:
                x_offset = 0
                y_offset = 0
            #散布図表示（要素数をプロットサイズで表現）
            ax = plt.gca()
            ax.scatter(df_xycount[x] + x_offset, df_xycount[y] + y_offset, s=df_xycount["xyrec"]*1000/ndata, color=palette[k])

    #plotter=scatterかつ要素数が2以下なら箱ひげ図、それ以外ならscatterplotを使用
    def _boxscatter_lower(self, g, **kwargs):
        #kw_color = kwargs.pop("color", None)
        kw_color = g.palette
        #左下を走査
        for i, j in zip(*np.tril_indices_from(g.axes, -1)):
            ax = g.axes[i, j]
            plt.sca(ax)
            #軸表示対象のフィールド名を取得
            x_var = g.x_vars[j]
            y_var = g.y_vars[i]
            #XY軸データ抽出
            x_data = self.df[x_var]
            y_data = self.df[y_var]
            #XY軸のユニーク値
            x_distinct = x_data.dropna().unique()
            y_distinct = y_data.dropna().unique()

            #箱ひげ図(x方向)
            if len(x_distinct) ==2 and len(y_distinct) >= 5:
                sns.boxplot(data=self.df, x=x_var, y=y_var, orient="v",
                     hue=self.hue, palette=g.palette, **kwargs)
            #重複数に応じたバブルチャート(x方向)
            elif len(x_distinct) ==2 and len(y_distinct) < 5:
                self._duplicate_bubblescatter(data=self.df, x=x_var, y=y_var, hue=self.hue, hue_names=g.hue_names, hue_slide="horizontal", palette=g.palette)
            #箱ひげ図(y方向)
            elif len(y_distinct) ==2 and len(x_distinct) >= 5:
                sns.boxplot(data=self.df, x=x_var, y=y_var, orient="h",
                     hue=self.hue, palette=g.palette, **kwargs)
            #重複数に応じたバブルチャート(y方向)
            elif len(y_distinct) ==2 and len(x_distinct) < 5:
                self._duplicate_bubblescatter(data=self.df, x=x_var, y=y_var, hue=self.hue, hue_names=g.hue_names, hue_slide="vertical", palette=g.palette)
            #散布図
            else:
                if len(g.hue_kws) > 0:#マーカー指定あるとき
                    markers = dict(zip(g.hue_names, g.hue_kws["marker"]))
                else:#マーカー指定ないとき
                    markers = None
                sns.scatterplot(data=self.df, x=x_var, y=y_var, hue=self.hue,
                     palette=g.palette, style=self.hue, markers=markers)
            #凡例を追加
            g._clean_axis(ax)
            g._update_legend_data(ax)

        if kw_color is not None:
            kwargs["color"] = kw_color
        #軸ラベルを追加
        g._add_axis_labels()

    #メイン関数
    def pairanalyzer(self, df, hue=None, palette=None, vars=None,
             lowerkind="boxscatter", diag_kind="kde", markers=None,
             height=2.5, aspect=1, dropna=True,
             lower_kws={}, diag_kws={}, grid_kws={}, size=None):
        #メンバ変数入力
        if diag_kind=="hist":#ヒストグラム表示のとき、bool型の列を除外してデータ読込
            self.df = df.select_dtypes(exclude=bool)
        else:#kde表示のとき、bool型を含めデータ読込
            self.df = df
        self.hue = hue
        self.corr_mat = df.corr(method="pearson")
        #文字サイズ調整
        sns.set_context("notebook")

        #PairGridインスタンス作成
        plt.figure()
        diag_sharey = diag_kind == "hist"
        g = sns.PairGrid(self.df, hue=self.hue,
                 palette=palette, vars=vars, diag_sharey=diag_sharey,
                 height=height, aspect=aspect, dropna=dropna, size=None, **grid_kws)

        #マーカーを設定
        if markers is not None:
            if g.hue_names is None:
                n_markers = 1
            else:
                n_markers = len(g.hue_names)
            if not isinstance(markers, list):
                markers = [markers] * n_markers
            if len(markers) != n_markers:
                raise ValueError(("markers must be a singleton or a list of "
                                "markers for each level of the hue variable"))
            g.hue_kws = {"marker": markers}

        #対角にヒストグラム or KDEをプロット
        if diag_kind == "hist":
            g.map_diag(plt.hist, **diag_kws)
        elif diag_kind == "kde":
            diag_kws.setdefault("shade", True)
            diag_kws["legend"] = False
            g.map_diag(sns.kdeplot, **diag_kws)

        #左下に散布図etc.をプロット
        if lowerkind == "boxscatter":
            self._boxscatter_lower(g, **lower_kws)
        elif lowerkind == "scatter":
            g.map_lower(sns.scatterplot, **lower_kws)
        else:
            g.map_lower(sns.regplot, **lower_kws)

        #色分け（hue）有無で場合分けしてプロット＆相関係数表示実行
        #hueなし
        if self.hue == None:
            #右上に相関係数表示
            self.hue_names = None
            self._corrall_upper(g)
        #hueあり
        else:
            #右上に相関係数表示(hueごとに色分け＆全体の相関係数を黒表示)
            self.hue_names = g.hue_names
            g.map_upper(self._corrfunc)
            self._corrall_upper(g)
            g.add_legend()

各メソッドの解説

・pairanalyzer()：メインの処理。外部から呼び出すのはこのメソッド
・boxscatter_lower()：変数の取る値に応じ、散布図・箱ひげ図・バブルチャートを切り替えるメソッド（上記「機能2」）
・_duplicate_bubblescatter()：バブルチャート表示メソッド
・corrall_upper()：hueを分けない相関係数計算して上半分に表示
・_corrfunc()：hueごとに相関係数計算して表示

使用方法

実行方法と引数の解説をします

実行方法

実行元スクリプトと同フォルダcustom_pair_plot.pyを置き、下記のように実行します

#参考としてtitanicデータを読み込んでいます
import seaborn as sns
titanic = sns.load_dataset("titanic")

#ここから実行部分
from custom_pair_plot import CustomPairPlot
gp = CustomPairPlot()
gp.pairanalyzer(titanic, hue='survived')

引数の解説

hue、lowerkind以外の引数は、
ベースとしたseabornのクラス「PairGrid」の引数と同仕様なので、
こちらもご参照ください

引数を指定しないとき

下記の引数が自動入力されます
(df, hue=None, palette=None, vars=None, lowerkind="boxscatter", diag_kind="kde", markers=None, height=2.5, aspect=1, dropna=True, lower_kws={}, diag_kws={}, grid_kws={}, size=None)

・表示例

gp.pairanalyzer(titanic)

hue

ここで指定した列名で色分け表示します。相関係数もhueごとに計算されます。
離散変数以外を指定するととんでもない事になるので、注意してください‥(笑)

gp.pairanalyzer(titanic, hue='survived')

palette

hueによる色分け用のカラーパレットを指定します

gp.pairanalyzer(titanic, hue='survived', palette='Blues')

vars

グラフ化する列を選択する(指定しなければ全ての数値型＆Boolean型の列を使用)

gp.pairanalyzer(titanic, hue='survived', vars=['pclass', 'age', 'adult_male'])

lowerkind

左下に表示するグラフを下記3種類から選択します(指定しなければ、'boxscatter'を選択)

'boxscatter'：前記「機能2」に従い、散布図・箱ひげ図・バブルチャートを自動切替
'scatter'：散布図（通常のpairplotと同じ）
'reg'：回帰直線

boxscatter

gp.pairanalyzer(titanic, hue='survived', lowerkind='boxscatter')

scatter

gp.pairanalyzer(titanic, hue='survived', lowerkind='scatter')

reg

gp.pairanalyzer(titanic, hue='survived', lowerkind='reg')

diag_kind

対角に表示するグラフを下記2種類から選択します(指定しなければ、'kde'を選択)

'hist'：ヒストグラム
'kde'：ヒストグラムをカーネル密度推定で円滑化

hist

gp.pairanalyzer(titanic, hue='survived', lowerkind='hist')

※pairplotおよびベースとなるseabornのクラスPairGridには、bool型をヒストグラム表示するとエラーを吐くバグがあるので、pairanalyzerではbool型の列（titanicでは'adult_male','alone'）を事前に削除する処理を加えています

kde

gp.pairanalyzer(titanic, hue='survived', lowerkind='kde')

markers

hueにより色分けしたデータの、散布図プロット形状を指定します
指定方法はこちらを参照ください

gp.pairanalyzer(titanic, hue='survived', markers='+')

List指定することで、hueごとに形状を変えることもできます。

gp.pairanalyzer(titanic, hue='survived', markers=['s','X'])

height, aspect

グラフの高さと縦横比を指定します

gp.pairanalyzer(titanic, hue='survived', height=2, aspect=2)

その他の引数（dropna, lower_kws, diag_kws, grid_kws, size）

ベースとしたPairGridの仕様をそのまま使用していますが、
使いどころが分からなかったので本ページでは割愛します。
仕様はこちら参照ください
※その他の引数は動作テストも実施していないので、もしバグ等見つけた場合はコメント頂けるとありがたいです。

余談

本題とは直接関係ありませんが、タイタニック号のデータを本ツールで分析して面白い事実が可視化できたので、記載します

タイタニック号生還率と相関係数

titanicのデータで、生還を表す"survived"との相関係数を見てみます（下の図の赤枠）

相関係数の絶対値順位は下記のようになります

順位	変数名	相関係数
1	adult_male	-0.56
2	pclass	-0.34
3	fare	0.26

・2位のpclass（等級）、3位のfare（運賃）

どちらも乗船に支払った金額と関係するもので、

「金持ちの生還率が高い」
という結果が読み取れます（1等室はデッキが近く、避難距離が短く済んだそうです）
やはり世の中カネなのか‥というやるせない気分になります‥

・1位のadult_male（成人男性かどうか）

R = -0.56と生還率と強い相関がありそうです。
これは一見「成人男性は体力があるので生存率が高い」という、これまた当たり前の結論に見えます

しかしよく見ると、相関係数にマイナスがついています。
すなわち「体力のある成人男性の生存率が有意に低い」という、
感覚と矛盾した結果が導き出されます。
このことは上図緑枠で囲ったバブルチャートでもはっきりと確認できます

英国紳士はダテではなかった

気になって調べてみたところ、下のような記事が見付かりました。
https://www.afpbb.com/articles/fp/2564918

どうやら多くの乗客が、
女性や子供を優先して助ける
という行動をとった結果が、上記の相関として現れたようです。

驚くべきは、極限状況で数百人もの成人男性が、このような理性的な行動を取った事です。
下の記事のように、船長を始めとしたクルーの指揮が的確だったことも、秩序だった行動の理由として挙げられていますが、
いずれにせよ、英国紳士の自己犠牲の精神には頭が下がりますね
http://blog.livedoor.jp/science_q/archives/1652343.html

おわりに

以上のように分析からドラマが生まれる事もあるのだと、データの価値を再認識することができました。
私も100年後の分析者から後ろ指を差されないよう、清く正しく生きたいと思います…(笑)

1つのプログラミング言語ですべて完結すればいいけど、実際には複数の言語を使って組み合わせて使うのが一般的。そのときに直面するのが「あれ、これこの言語でどうやって書くのだろう？」の問題です。

実際に自分も仕事のメインプロジェクトではサーバーサイドはPython3でフロントエンドはTypeScriptを使っており、よくどっちがどっちかわからなくなって困ります。

この問題を解決するために最近、Hyperpolyglotを使い始めました。

Hyperpologlotは言語間のイディオムの違いを表でまとめてくれているサイトで、オブジェクトもしくは機能毎にイディオムをまとめてくれているサイトです。

自分のプロジェクトにずばりあう比較表は用意されていないのですが、Node.jsとPythonの比較でも基本的には問題ないので、自分はScripting Languages I: Node.js, Python, PHP, Ruby - Hyperpolyglotをよく使っています。node.jsではlodashを使って書いてあるところもあるので、今時そんなん使っているやついるんか…と思わんでもないですが。

余談

これをいちいち調べるのも面倒なので、エディタが間違ったらsuggestしてほしいところ。すでにそのようなプロジェクトはあるのか？なければ自分で作ろうかなと考えています。

参考

• Hyperpolyglot — A Useful Side-By-Side Programming Reference Sheet
• これは便利!プログラマーのためのチートシート集「Hyperpolyglot」 | マイナビニュース

0.はじめに

今回作るものがどういう感じで動くのか見てみたい、この記事を読むのが面倒くさい方はこちら(Youtubeの動画)をご覧ください。長くなってしまったので記事を読んだ方が早いかもしれません。

1.実装

space_invader.py

import pygame
import math
import numpy as np

win = pygame.display.set_mode((600,400))

class Ship:
    def __init__(self,win):
        self.x = 300
        self.y = 350
        self.width = 20
        self.height = 40
        self.vel = 1
        self.win = win

    def draw(self):
        pygame.draw.rect(self.win,(255,255,255),(self.x,self.y,self.width,self.height),0)

    def move(self,keys):
        if keys[pygame.K_RIGHT] and self.x < 600 - self.width - self.vel:
            self.x += self.vel
        elif keys[pygame.K_LEFT] and self.x > self.vel:
            self.x -= self.vel

class Flower:
    def __init__(self,win,x):
        self.x = x
        self.y = 100
        self.radius = 30
        self.win = win
        self.hitcircle = (self.x,self.y)
        self.xdir = 1
        self.ydir = 0
        self.edge = False
        self.moveloop = 0

    def draw(self):
        pygame.draw.circle(self.win,(255,0,200), (self.x,self.y), self.radius)
        self.hitcircle = (self.x,self.y)

    def grow(self,flower):
        self.radius += 2

    def move(self):
        self.x += self.xdir

    def shiftDown(self):
        self.xdir *= -1
        self.y += self.radius
        self.edge = False


class Drop:
    def __init__(self,win,x):
        self.win = win
        self.y =  350
        self.vel = 10
        self.x = x
        self.r = 8

    def draw(self):
        pygame.draw.rect(self.win,(150,0,255),(self.x,self.y,self.r*2,self.r*2),0)

    def collide(self,drop,flower):
        dist = math.sqrt(np.abs(flower.hitcircle[0]-drop.x)**2+np.abs(flower.hitcircle[1]-drop.y)**2)
        if dist < 38:
            return True
        return False 

def drawWindow(ship,drops):
    ship.draw()

    for i in drops:
        i.draw()

    for b in flowers:
        b.draw()
        b.move()  

    pygame.display.update()

drops = []
flowers = []
shootloop = 0
for i in range(6):
    x = i*80 + 80
    flowers.append(Flower(win,x))
ship = Ship(win)
run = True
while run:
    for event in pygame.event.get():
        if event.type == pygame.QUIT:
            run = False   

    keys = pygame.key.get_pressed()

    if shootloop > 0:
        shootloop += 1
    if shootloop > 20:
        shootloop = 0

    if keys[pygame.K_SPACE] and shootloop == 0:
        if len(drops) <= 10:
            drops.append(Drop(win,ship.x))

        shootloop = 1

    for drop in drops:
        if drop.y > 0:
            drop.y -= 1
        else:
            drops.pop(drops.index(drop))    

        for flower in flowers:
            if drop.collide(drop,flower):
                flower.grow(flower)
                drops.pop(drops.index(drop))

    for flower in flowers:
        if flower.x > 600 or flower.x < 0:
            flower.edge = True

        if flower.edge:
            flower.shiftDown()

    ship.move(keys)
    win.fill((51,51,51))
    drawWindow(ship,drops)

pygame.quit()

ここでは敵(Flower)、玉(Drop)、自分の船(Ship)の3つのクラスを作って動かしています。船は左右に動き、玉はスペースキーで発射され当たったかどうかの判定もし敵はだんだん近づいて来るようになっています。敵の近づいてくる処理は少し難しいかもしれませんがよく考えて見れば分かると思います。

最後に

今回作ったものはYoutubeでも解説しているのでそちらも良かったらご覧ください。質問等がございましたらその動画のコメント欄もしくは、この記事のコメント欄でどうぞ。また、いいなと思ったらチャンネル登録お願いします。

ぴえんという顔文字をご存じでしょうか。
2019年ぐらいからJKやJCの間で流行りはじめた顔文字で、2020年には上半期のインスタ流行語大賞に選ばれたらしいです。
実際に見てもらった方が早いですね。

いつからか誰かがこの顔文字と一緒に「ぴえん」という単語を使い始めて、それが定着してこの顔文字自体がぴえんと呼ばれるようになった・・・らしいです。

なんというかカルト的な人気を博したこのぴえん?ですが、この顔をした八頭身に追いかけられるようなゲームが出たり、「ぴえんこえてぱおん」というまた新しいよくわからない単語が登場したりしています。

さて、今回はこのぴえんをPythonとOpenCVを使ってカメラの映像に表示したいと思います。
まだどちらも触って1,2ヶ月程度なのでおかしな部分があるかもしれませんが、よろしくお願いします。

開発環境

• macOS Catalina(使っているのはMacBookPro Mid 2014)
• Python 3.7.7
• numpy 1.18.5
• OpenCV 3.4.2

Anacondaで仮想環境を作成しています。
カメラはeMeetのNovaを使っています。

ソース

pien.py

# -*- coding: utf-8 -*-
import cv2
import numpy as np

#カメラの取得
cap = cv2.VideoCapture(1)

while True:
    ret, frame = cap.read()
    #ハフ変換用にリサイズし、グレーカラーに変更
    frame = cv2.resize(frame, dsize=(640, 480))
    gray = cv2.cvtColor(frame, cv2.COLOR_RGB2GRAY)
    gray = cv2.GaussianBlur(gray, (33, 33), 1)

    #ハフ変換による円形の抽出
    circles = cv2.HoughCircles(gray, cv2.HOUGH_GRADIENT, 1, 60, param1=10, param2=85, minRadius=1, maxRadius=80)

    #変換結果がある場合にぴえんの描写を行う
    if circles is not None:
        circles = np.uint16(np.around(circles))
        for i in circles[0,:]:
            #i[0]=x座標 i[1]=y座標 i[2]=半径
            x = i[0]; y = i[1]; r = i[2]
            #cv2.circleは円形 cv2.ellipseは楕円や楕円弧
            #輪郭
            cv2.circle(frame, (x, y), r, (0, 215, 255), -1)
            #眉毛右
            cv2.ellipse(frame, (x+int(r*2/3), y-int(r*2/3)), (int(r/3), int(r/4)), 0, 90, 165, (19, 69, 139), 3)
            #眉毛左
            cv2.ellipse(frame, (x-int(r*2/3), y-int(r*2/3)), (int(r/3), int(r/4)), 0, 15, 90, (19, 69, 139), 3)
            #涙右
            cv2.circle(frame, (x+int(r*2/5), y), int(r*3/10), (255, 255, 255), -1)
            #涙左
            cv2.circle(frame, (x-int(r*2/5), y), int(r*3/10), (255, 255, 255), -1)
            #黒目右
            cv2.circle(frame, (x+int(r*2/5), y-int(r/15)), int(r*3/10), (0, 0, 0), -1)
            #黒目左
            cv2.circle(frame, (x-int(r*2/5), y-int(r/15)), int(r*3/10), (0, 0, 0), -1)
            #白目大右
            cv2.ellipse(frame, ((x+int(r/3), y-int(r/6)), (int(r/3), int(r/4)), 135), (255, 255, 255), -1)
            #白目大左
            cv2.ellipse(frame, ((x-int(r/2), y-int(r/6)), (int(r/3), int(r/4)), 135), (255, 255, 255), -1)
            #白目小右
            cv2.ellipse(frame, ((x+int(r/2), y), (int(r/10), int(r/15)), 135), (255, 255, 255), -1)
            #白目小左
            cv2.ellipse(frame, ((x-int(r/3), y), (int(r/10), int(r/15)), 135), (255, 255, 255), -1)
            #口
            cv2.ellipse(frame, (x, y+r), (int(r/4), int(r/2)), 0, 245, 295, (19, 69, 139), 5)

    #ウィンドウにカメラの映像を表示 この時点でframeにはぴえんが描写されている
    cv2.imshow("frame", frame)

    #qキーを押したら終了する
    if cv2.waitKey(1)&0xff == ord("q"):
        break

cap.release()
cv2.destroyAllWindows()

コードの説明はそのままコメントで残しました。
重要なのは中程のハフ変換による円形の検出部分と、検出した円の座標・半径をもとにぴえんを作成する部分です。
ぴえんは画像を貼り付けているわけではなく、全て円と線で描画しているので、どんな大きさにも対応できるようになっています。
文字列も描写できるので?をそのまま使えないかと思ったのですがダメでした。

やってみた結果

仮想環境をconda activateした上でpien.pyを実行すると、カメラからの映像がウィンドウで表示されるかと思います。
そこでカメラを丸いものに向けてみましょう。

ぴえんになりました?
しっかり大きさが違ってもそれに合わせて変換されていますね。
今回は円を検出指定いるので、円の中に何が入っているかは特に関係ありません。時計でもキャップでもメガネでもぴえんになります。
コードを丸くすればそれもぴえんになります。
ちなみに瞳もぴえんになりました。(?ω?)みたいな感じです。

OpenCVを使えば円だけでなく例えば人の顔も検出できます。
つまりカメラに移った顔を全て?にすることができるということです。
そこら辺はそのうち試してみたいと思います。

0.はじめに

今回作るものがどういう感じで動くのか見てみたい、この記事を読むのが面倒くさい方はこちら(Youtubeの動画)をご覧ください。

1.実装

purple_rain.py

import pygame
import random

WIDTH = 640
HEIGHT = 360

win = pygame.display.set_mode((WIDTH,HEIGHT))

class Drop:
    def __init__(self,win):
        self.x = random.uniform(0,WIDTH)
        self.y = -1
        self.yspeed = random.uniform(1,3)
        self.win = win
        self.length = random.uniform(10,20)

    def fall(self):
        self.y += self.yspeed

    def show(self):
        pygame.draw.rect(self.win,(138,43,226),(self.x,self.y,2,self.length))

def drawWindow(rain):
    for water in rain:
        water.show()
        if water.y <= 360:
            water.fall()
        else:
            rain.pop(rain.index(water))

    pygame.display.update()

rain = []
run = True
while run:
    for event in pygame.event.get():
        if event.type == pygame.QUIT:
            run = False

    win.fill((230,230,250))

    if len(rain) < 500:
        rain.append(Drop(win))

    drawWindow(rain)
pygame.quit()

クラスを使ったので長くなってしまいましたが、やってることは雨をランダムな長さ、位置、速度で落としていき画面の外に消えたら追加というのをやっています。簡単ですね！

最後に

今回作ったものはYoutubeでも解説しているのでそちらも良かったらご覧ください。質問等がございましたらその動画のコメント欄もしくは、この記事のコメント欄でどうぞ。また、いいなと思ったらチャンネル登録お願いします。

こんな経験ありませんか？

• なんのディレクトリか忘れた
• 先輩からもらったデータのディレクトリ構造がなんのこっちゃわからん
• 初めて使うフレームワークのディレクトリ構造のメモがほしい

つくったもの

ls-Improvedというコマンド上で動作するlsっぽいコマンドです．

どんなもの？

このように，ディレクトリの説明をつけることができます．また，少しだけlsをリッチに表示してくれます．
例はrails tutorialの説明をrailsのデフォルトディレクトリの説明文としてつけました．

こんなことができます！

• 機械学習等の実験パラメータの整理
  

• チーム開発におけるディレクトリ構造のコメント
  

• ターミナル映え
  

導入方法

ローカルにpython環境が必要です．一応2系でも3系でも動きます！
pip install ls-Improved
python環境さえあれば，コマンドプロンプト等でも動きます．

基本的な使い方

lsi

ファイルと説明文が付いたディレクトリを表示してくれます．説明文が無い時はDirがデフォルトで付きます．

lsi -F

ファイルのみの表示をしてくれます．

lsi -D

説明文が付いたディレクトリを表示してくれます．

lsi -a

隠しファイルも含めて全て表示してくれます．

lsi -s "<検索ワード>"

このようにして，説明文から該当するディレクトリを検索することが可能です．

ディレクトリと説明文の両方で検索することができます．

mkdiri <ディレクトリ名> "<説明文>"

説明文を付けたディレクトリを作成することができます．

説明文を装飾する

• \n：改行
• ;r;：赤色にする
• ;g;：緑色にする
• ;b;：青色にする
• ;w;：白色にする
• ;p;：紫にする
• ;_;：アンダーラインをつける
• ;e;：装飾を解除する

mkdiri -a <ディレクトリ名> "<説明文>"

すでに存在するディレクトリに説明文を上書きすることができます．

どうなってんの？

ディレクトリ内に隠しファイルとして.description.lsiというファイルが自動で作成されます．このファイルの中身を直接編集することも可能です．

最後に

筆者はvimが大好きなので，Vi-Improvedにあやかってls-Improvedと命名しました．ふざけた名前にしてしまい申し訳ありません．?‍♂️?‍♂️?‍♂️?‍♂️?‍♂️?‍♂️?‍♂️?‍♂️?‍♂️?‍♂️?‍♂️?‍♂️?‍♂️

こんな経験ありませんか？

• なんのディレクトリか忘れた
• 先輩からもらったデータのディレクトリ構造がなんのこっちゃわからん
• 初めて使うフレームワークのディレクトリ構造のメモがほしい

つくったもの

ls-Improvedというコマンド上で動作するlsっぽいコマンドです．

どんなもの？

このように，ディレクトリの説明をつけることができます．また，少しだけlsをリッチに表示してくれます．
例はrails tutorialの説明をrailsのデフォルトディレクトリの説明文としてつけました．

こんなことができます！

• 機械学習等の実験パラメータの整理
  

• チーム開発におけるディレクトリ構造のコメント
  

• ターミナル映え
  

導入方法

ローカルにpython環境が必要です．一応2系でも3系でも動きます！
pip install ls-Improved
python環境さえあれば，コマンドプロンプト等でも動きます．

基本的な使い方

lsi

ファイルと説明文が付いたディレクトリを表示してくれます．説明文が無い時はDirがデフォルトで付きます．

lsi -F

ファイルのみの表示をしてくれます．

lsi -D

説明文が付いたディレクトリを表示してくれます．

lsi -a

隠しファイルも含めて全て表示してくれます．

lsi -s "<検索ワード>"

このようにして，説明文から該当するディレクトリを検索することが可能です．

ディレクトリと説明文の両方で検索することができます．

mkdiri <ディレクトリ名> "<説明文>"

説明文を付けたディレクトリを作成することができます．

説明文を装飾する

• \n：改行
• ;r;：赤色にする
• ;g;：緑色にする
• ;b;：青色にする
• ;w;：白色にする
• ;p;：紫にする
• ;_;：アンダーラインをつける
• ;e;：装飾を解除する

mkdiri -a <ディレクトリ名> "<説明文>"

すでに存在するディレクトリに説明文を上書きすることができます．

どうなってんの？

ディレクトリ内に隠しファイルとして.description.lsiというファイルが自動で作成されます．このファイルの中身を直接編集することも可能です．

最後に

筆者はvimが大好きなので，Vi-Improvedにあやかってls-Improvedと命名しました．ふざけた名前にしてしまい申し訳ありません．?‍♂️?‍♂️?‍♂️?‍♂️?‍♂️?‍♂️?‍♂️?‍♂️?‍♂️?‍♂️?‍♂️?‍♂️?‍♂️

はじめに

　混ざった信号を分離する方法として、独立成分分析があります。
例えば、音源が3つあったとして、それらの混ざり具合の異なる信号が3つあれば分離できる場合があります。
ブラインド音源分離と呼ばれる分野です。
　ブラインド音源分離をやって見る前に、数学的な理論は置いておいて、独立成分分析の手順をグラフを書きながら学びたいと思います。

この投稿の大まかな流れは次の通りです。

1. 主成分分析 無相関化の話
2. 中心極限定理 どんな分布も足すとガウス分布になる話
3. 独立成分分析 非ガウス性を最大化するように変換する話

参考

独立成分解析の信号処理への応用

データ化学工学研究室 独立成分分析 (Independent Component Analysis, ICA) ～PCAの無相関より強力な ”独立” な成分を抽出～

使用するモジュールと関数

import numpy as np
import matplotlib.pyplot as plt
from scipy import stats
from sklearn.decomposition import FastICA

円を描くときに使います。

def circle(n,r=1):
    rad = np.linspace(0.0,2.0*np.pi,n)
    return np.asarray([np.cos(rad),np.sin(rad)]).T

データを回転させるときに使います。

def rotation_matrix(rad):
    return np.array([[np.cos(rad),-np.sin(rad)],[np.sin(rad),np.cos(rad)]])

独立成分分析

　無相関、独立という言葉はあまり日常では馴染みがありません。
数学で言う無相関とは、何の関係もないという意味ではなく、変数間に線形な関係がないことを表します。
非線形な関係があっても線形な関係がなければ無相関です。
独立は、無相関より厳しい条件です。非線形な関係もない状態を指します。
独立であるなら無相関となります。

独立な成分を抜き出したいのですが、独立であるなら無相関なので、まずは無相関化を行います。

無相関化(主成分分析)

　細かい導出はしませんが、データが多変量正規分布に従うとして、その分散共分散行列を対角化することを目指すか、基底の貼る空間に射影したときのデータの分散が最大になるような直交基底変換行列を探すことを目指します。
　結果的にはどちらも同じになり、分散共分散行列の固有値・固有ベクトルを求めることになります。

主成分分析の手順は以下のとおりです。

1. データから平均を引いて平均を0にする
2. 分散共分散行列を計算する
3. 分散共分散行列を固有値分解する

実際に主成分分析を行うと何がどうなるのかグラフで見てみます。
使用するデータは多変量ガウス分布です。

np.random.seed(0)
mean = np.array([0.0, 0.0])
cov = np.array([[1.0, 0.6], [0.6, 1.0]])
data = np.random.multivariate_normal(mean, cov, size=100)

主成分分析を行います。

data = data - np.mean(data,axis=0) #各次元の平均を0にする
cov = np.cov(data, rowvar=False) #分散共分散行列
u,w,_ = np.linalg.svd(cov) #固有値分解 uが固有ベクトル wが固有値 基底変換後のcovの対角になる

#分散共分散行列の楕円を描く　確率長円と違って大きさは適当
c = circle(200,r=1.0)
c = c*np.sqrt(w) #楕円にする
c = c.dot(u) #回転させる

fig,axes = plt.subplots(figsize=(6,8))
axes.scatter(data.T[0],data.T[1])
axes.quiver(0,0,u[0,0],u[0,1],color = "red",angles = "xy", scale_units = "xy",scale = 0.5)
axes.quiver(0,0,u[1,0],u[1,1],color = "red",angles = "xy", scale_units = "xy",scale = 0.5)
axes.plot(c.T[0]*3,c.T[1]*3)
axes.set_aspect("equal")
axes.set_ylim(-4.0,4.0)
axes.set_xlim(-4.0,4.0)

円は確率長円もどきです。大きさは適当です。

元のデータに分散共分散行列の固有ベクトルをかけて、基底変換します。

pca_data = data.dot(u)　#回転
pca_ax = u.dot(u) #赤い矢印の回転
c = c.dot(u) #楕円の回転

グラフの描画のコードは上とほとんど同じなので省略します。

軸が回転した様子がわかると思います。

続いて分散共分散行列が単位行列になるように正規化します。
基底変換した後のデータを固有値の平方根で割ります。

norm_pca_data = pca_data/np.sqrt(w) #データの正規化
norm_c = c / np.sqrt(w) #円の正規化

確認のため、このデータの分散共分散行列を計算してみます。

np.cov(norm_pca_data,rowvar=False)

array([[ 1.00000000e+00, -2.14306523e-17],
       [-2.14306523e-17,  1.00000000e+00]])

データを回転させても、分散共分散行列は単位行列のままです。

np.cov(norm_pca_data.dot(rotation_matrix(np.pi/2)),rowvar=False)

array([[1.00000000e+00, 3.23453187e-18],
       [3.23453187e-18, 1.00000000e+00]])

独立成分分析で残ったやることは、この回転だけです。

中心極限定理

どんな分布も足し合わせると正規分布に近づいていきます。
これを中心極限定理と言います。
試しに一様分布を足し合わせてみます。

np.random.seed(0)
uni_dist = np.random.random(10000)
uni_dist_5 = np.random.random(10000)+np.random.random(10000)+np.random.random(10000)+np.random.random(10000)+np.random.random(10000)

fig,axes = plt.subplots()
axes.hist(uni_dist,bins=30)

fig,axes = plt.subplots()
axes.hist(uni_dist_5,bins=30)

一様分布も足し合わせるとガウス分布に近づきました。

　独立成分分析では、分離後にガウス分布から離れるように変換を行います。
これは、混ざる前の分布が非ガウス分布であることを仮定しているためです。
　どれくらいガウス分布から離れたかの指標に、ここでは高次統計量の尖度を使います。
尖度は正規分布であれば定数ですが、尖った分布になると値が大きくなります。

　先程は多変量ガウス分布をテストデータに使いましたが、実は主成分分析した時点で独立になってしまうので次は違うデータでやります。

非ガウス性の最大化

ガウス分布に従わないデータを作ります。

x = 3*np.random.random(5000)
x -= x.mean()
y = 0.2*np.random.random(5000)
y -= y.mean()
data = np.array([x,y]).T
data = np.vstack([data,data.dot(rotation_matrix(np.pi/4))])

まずは主成分分析して無相関化します。

data = data - np.mean(data,axis=0) #各次元の平均を0にする
cov = np.cov(data, rowvar=False) #分散共分散行列
u,w,_ = np.linalg.svd(cov) #固有値分解

pca_data = data.dot(u) #無相関化

標準偏差が1になるように正規化します。

norm_pca_data = pca_data/np.sqrt(w)

回転させて最もガウス分布から離れる角度を調べます。
通常は勾配法などを使うそうですが、ここでは総当りです。
アニメーションで見てみます。グラフ描画のコードが煩雑になってしまいました。

rad_array = np.linspace(0.0,np.pi/2.0,100)

kurt_array = []
for rad in rad_array:
    rot_data = norm_pca_data.dot(rotation_matrix(rad))
    kurt = np.sum(stats.kurtosis(rot_data))
    kurt_array.append(kurt)

for i,rad in enumerate(rad_array):
    rot_data = norm_pca_data.dot(rotation_matrix(rad))
    kurt = np.sum(stats.kurtosis(rot_data))

    fig = plt.figure(figsize=(10,10))
    ax1,ax2,ax3,ax4 = fig.add_subplot(2,2,1),fig.add_subplot(2,2,2),fig.add_subplot(2,2,3),fig.add_subplot(2,2,4)

    ax1.plot(rad_array,kurt_array)
    ax1.scatter(rad,kurt,color="red")
    ax1.set_xlabel("Rotation angle rad")
    ax1.set_xlim(-0.1,1.6)
    ax1.set_ylim(-2.5,1.3)

    ax2.scatter(rot_data.T[0],rot_data.T[1],alpha=0.03) #元データ回転
    ax2.plot(c.T[0]*3,c.T[1]*3)
    ax2.set_aspect("equal")
    ax2.set_ylim(-4.0,4.0)
    ax2.set_xlim(-4.0,4.0)
    ax2.set_xlabel("s1")
    ax2.set_ylabel("s2")

    ax3.hist(rot_data.T[0],bins=30,label="s1")
    ax4.hist(rot_data.T[1],bins=30,label="s2")

    ax3.legend(loc="upper right")
    ax4.legend(loc="upper right")

    ax1.set_ylabel("kurtosis")
    fig.savefig("{}.png".format(i),dpi=100)
    plt.close()

尖度が最大になったときのデータはこれです。

合っているのか確認のためsklearnのFastICAでも独立成分分析を行ってみます。

decomposer = FastICA(n_components = 2)
decomposer.fit(data)
S = decomposer.transform(data)

fig,axes = plt.subplots(figsize=(6,6))
axes.scatter(S.T[0],S.T[1],alpha=0.1)
axes.set_aspect("equal")

絶対値は同じになりませんが、見た目は同じです。問題なさそうです。

まとめ

独立成分分析は、無相関化、正規化、非ガウス性の最大化の順に行えば良いことがわかりました。
次は音声信号で試してみたいと思います。