逆解析とは

• 広義には，出力から入力を推定したり，何らかの方程式の解を求めること．
• 狭義には，材料設計や化学などの分野において，欲しい物性を先に定めて，それを実現する素材の条件を求める解析のこと．

一般に，合成元の条件から，合成された物質の物性を求めることを順問題ということから，その逆方向ということで逆問題を解くとか表現することもあります．

この記事の目的

機械学習モデルの逆解析を行うこと．

機械学習によって物性が予測できるようになったなら，そのモデルの出力が所定の値になるような入力値を探索することができるはずです．

しかし，入力次元（説明変数の数）が多いほど探索すべき空間は膨大になり，探索時間や計算機の性能に応じて逆解析ができないケースが発生するはずです．

1. そこで，まずは単純なデータに対して予測モデルを作成し，逆解析が可能であることを確認します．
2. その後，説明変数の数を増加させながら，逆解析の精度がどのように落ちていくかを調査します．（後日追記予定）

基本設計

複雑なことはせずに，回帰モデルに対して出力が最小になるような入力値を探索することを試みます．

回帰モデルとしては差し当たりランダムフォレストを．

探索アルゴリズムとしてはSMBO(Sequential Model-based Global Optimization)を使用し，そのライブラリとしてhyperoptを使用します．（他にも様々な手法があります）．

1. トイモデルに対する逆解析

環境

• Python 3.6.10
• scikit-learn 0.22.0
• hyperopt 0.2.4

設定

簡単なモデルとして，

y= x_1 {}^2 + x_2 {}^2, \qquad (x_1, x_2) \in \mathbb{R} ^2

なる対応を考えます．明らかに最小値は$0$で，これを与える点は$(x_1, x_2) = (0,0)$です．

上のグラフ生成のためのコード

import matplotlib.pyplot as plt
import numpy as np
from mpl_toolkits.mplot3d import Axes3D

def true_function(x, y):
    """真の関数"""
    return x ** 2 + y ** 2

X, Y = np.mgrid[-100:100, -100:100]
Z = true_function(X, Y)

plt.rcParams["font.size"] = 10  # フォントサイズを大きくする
fig = plt.figure(figsize = (12, 9))
ax = fig.add_subplot(111, projection="3d", facecolor="w")
ax.plot_surface(X, Y, Z, cmap="rainbow", rstride=3, cstride=3)
ax.set_xlabel('x1', fontsize=15)
ax.set_ylabel('x2', fontsize=15)  
ax.set_zlabel('y', fontsize=15) 
plt.show()

1.1 トレーニング・テストデータの生成

上記の対応に基づき，入出力のサンプル群を生成します．

生成したトレーニングデータを描画します．

上のグラフ生成のためのコード

from sklearn.model_selection import train_test_split

def true_model(X):
    return true_function(X[:,[0]], X[:,[1]])

X = np.random.uniform(low=-100,high=100,size=(3000,2))
Y = true_model(X)

test_size = 0.3  # 分割比率

x_train, x_test, y_train, y_test = train_test_split(X, Y, test_size=test_size, random_state=0)

fig = plt.figure(figsize = (12, 9)) 
ax = plt.axes(projection ="3d")
sctt = ax.scatter3D(x_train[:,0], x_train[:,1], y_train[:,0], c=y_train[:,0], s=8, alpha = 0.6,
                    cmap = plt.get_cmap('rainbow'), marker ='^') 

plt.title("x_train, y_train") 
ax.set_xlabel('x1', fontsize=15)
ax.set_ylabel('x2', fontsize=15)  
ax.set_zlabel('y', fontsize=15) 
plt.show() 

1.2 学習・推論

先ほどのトレーニングデータでランダムフォレストを学習させ，テストデータに対して推論させた結果を描画します．

概ね正しい値を推定できているようです．

1.3 回帰モデルに対する最小値の探索

hyperoptによる最小値の探索を試みます．

最小化対象となる関数を定義したのち，最小値を与える点を探索し，得られた点を先ほどの図に重ねて描画します．

上のグラフ生成のためのコード

from hyperopt import hp
from hyperopt import fmin
from hyperopt import tpe

def objective_hyperopt_by_reg(args):
    """hyperopt用の目的関数"""
    global reg
    x, y = args
    return float(reg.predict([[x,y]]))

def hyperopt_exe():
    """hyperoptによる最適化の実行"""
    # 探索空間の設定
    space = [
        hp.uniform('x', -100, 100),
        hp.uniform('y', -100, 100)
    ]

    # 探索開始
    best = fmin(objective_hyperopt_by_reg, space, algo=tpe.suggest, max_evals=500)
    return best

best = hyperopt_exe()
print(f"best: {best}")

fig = plt.figure(figsize = (12, 9)) 
ax = plt.axes(projection ="3d")
sctt = ax.scatter3D(x_test[:,0], x_test[:,1], y_test[:,0], c=y_test[:,0], s=6, alpha = 0.5,
                    cmap = plt.get_cmap('rainbow'), marker ='^')
ax.scatter3D([best["x"]], [best["y"]], [objective_hyperopt_by_reg((best["x"], best["y"]))], 
                    c="red", s=250, marker="*", label="minimum") 

plt.title("x_test, y_pred", fontsize=18) 
ax.set_xlabel('x1', fontsize=15)
ax.set_ylabel('x2', fontsize=15)  
ax.set_zlabel('y', fontsize=15) 
plt.legend(fontsize=15)
plt.show() 

output

100%|██████████████████████████████████████████████| 500/500 [00:09<00:00, 52.54trial/s, best loss: 27.169204190118908]
best: {'x': -0.6924078319870626, 'y': -1.1731945130395605}

最小点に近い点が得られました．

まとめと課題

この記事では，回帰モデルの学習 ⇒ 逆解析 の手続きを単純なデータに対して実行しました．

今回は入力次元が小さかったため，偶然にもうまく最小値を探索できましたが，実際のデータに適用にするには様々な課題が生じると予想されます．

• データが少なすぎて学習が足りない．
• 不適切な回帰モデルを選択してしまったために現実にはあり得ない解を導いてしまう．
• 説明変数の次元が高すぎてうまく探索できない・あるいは極所解にトラップされる．
• データの分布に偏りがあり，疎な領域における学習が不十分．
• 過大なノイズを学習してしまう．

また，逆問題は適切に扱わないと極めてナンセンスな解析をしてしまう恐れがあると予想されます．

• そもそも解が存在しない
• 解が唯一ではない
• 真の分布が不連続であり，解が安定でない

このような問題があるにもかかわらず逆問題を設定してしまったが故に，無駄な労力を費やすことは絶対に避けたいところです．

参考

• 物質科学における新しい帰納的アプローチ
• 最適化を用いた逆問題解析
• hyperoptって何してんの？
• Hyperoptを使って関数最適化をしてみる

概要

時系列分析のライブラリを実際に使ってみました。
(statsmodels.api.tsa)
本記事は、筆者が時系列分析の理論を勉強してて、
理解を定着させるために書いた自己満の記事です。

分析概要

下記の(定常性を持つ)ARモデルでデータを作成し、
それをstatsmodelsライブラリ「ARMA」でパラメータ推定を行いました。
また、定常性を持つかをADF検定で行ってみました。

• 作成データ：下記モデルAR(1)で日単位のデータを作成(2018/1/1〜2019/12/31)
  $y_{t}=2+0.8y_{t-1}$
• 学習モデル：定数項ありAR(1)　※ARMA(1,0)
• 学習方法：最尤推定

前提

• ARモデル(自己回帰モデル Auto-Regression)
  
  下記のように、時点tの値が過去直近時点(t-1)〜(t-p)の値の線型結合で表されるモデル。
  $u_{t}$は誤差項であり、ホワイトノイズ(平均0の正規分布)。
  (t-p)までで表される場合、AR(p)モデルと表記する。
  今回はAR(1)モデルでデータを作成し、AR(1)モデルでパラメータ推定を行う。
  
  $y_{t}=c+a_{1}y_{t-1}+a_{2}y_{t-2}+\ldots +a_{p}y_{t-p}+u_{t}$

• 定常性
  「全時点において、平均が一定で、k時点前との共分散がkにのみ依存する」場合、
  その時系列は「定常性を持つ」という。
  今回の分析対象であるAR(1)モデルの場合、
  定常性を持つ条件は下記の通りである。
  「$y_{t}のモデル式における、y_{t-1}$の係数$a_{1}$ が $|a_{1}| < 1$を満たす。」

• DF検定
  単位根検定と呼ばれる検定の一つ。
  対象の時系列をAR(1)と仮定し、
  (帰無仮説を「単位根である」とし)
  対立仮説を「定常性である」として行う検定。
  検定量は標準正規分布。

• ADF検定(拡張DF検定)
  DF検定がAR(1)のみであるのに対し、
  それを拡張させ、AR(p)でも適用できるようにした検定。
  DF検定と同様に、
  対立仮説は「定常である」であり、
  検定量は標準正規分布。

分析詳細(コード)

1. ライブラリインポート

import os
import pandas as pd
import random
import matplotlib.pyplot as plt
import seaborn as sns
from IPython.display import display
import statsmodels.api as sm

2. データ作成

データ；ts_data

# 真パラメータ (定常にするため全て1未満)
params_list = [2 , -0.8]
params_num = len(params_list)
print("真パラメータ(c , a_(t-1) , a_(t-2))" , ":" , params_list)
print("真パラメータ数" , ":" , params_num)

#時系列データ作成
index_date = pd.date_range('2018-01-01' , '2019-12-31' , freq='D')
N = len(index_date)
init_y_num = params_num - 1
init_y_list = [random.randint(-1000 , 1000) for _ in range(init_y_num)]
print("index_date" , ":" , index_date[:6])
print("N" , ":" , N)
print("初期データ({}個)".format(init_y_num) , ":" , init_y_list)

ts_data_list = list()
for i in range(N):
    if i < init_y_num:
        ts_data_list.append(init_y_list[i])
    else:
        y = params_list[0] + sum([params_list[j+1] * ts_data_list[i-(j+1)] for j in range(params_num - 1)])
        ts_data_list.append(y)
print("ts_data_list" , ":" , ts_data_list[:5])

ts_data = pd.Series(ts_data_list , index=index_date)
print("ts_data" , ":")
print(ts_data)

3. グラフ化(折れ線)_データ確認

# グラフ作成
fig = plt.figure(figsize=(15 ,10))

data = ts_data[:10]
ax_1 = fig.add_subplot(221)
ax_1.plot(data.index , data , marker="o")

plt.title("ten days from 2018/01/01")
plt.xlabel("date")
plt.ylabel("value")
plt.xticks(rotation=45)

data = ts_data[-10:]
ax_2 = fig.add_subplot(222)
ax_2.plot(data.index , data , marker="o")

plt.title("ten days to 2019/12/31")
plt.xlabel("date")
plt.ylabel("value")
plt.xticks(rotation=45)

plt.show()

4. ARモデル学習

下記３種のデータでモデル学習し、結果を確認。

① 全期間(2018/1/1 ~ 2019/12/31)
② 2018/1/1 からの 50日間
③ 2019/12/31 までの 50日間

# AR学習結果_学習データ① (全期間)
print("① 全期間" , "-" * 80)
data = ts_data
arma_result = sm.tsa.ARMA(data , order=(1 , 0)).fit(trend='c' , method='mle')
print(arma_result.summary())
print()

# AR学習結果_学習データ② (2018/1/1 からの 50日間)
print("② 2018/1/1 からの 50日間" , "-" * 80)
data = ts_data[:50]
arma_result = sm.tsa.ARMA(data , order=(1 , 0)).fit(trend='c' , method='mle')
print(arma_result.summary())
print()

# AR学習結果_学習データ③ (2019/12/31 までの 50日間)
print("③ 2019/12/31 までの 50日間" , "-" * 80)
data = ts_data[-50:]
arma_result = sm.tsa.ARMA(data , order=(1 , 0)).fit(trend='c' , method='mle')
print(arma_result.summary())
print()

…

①と②について係数(coef)を比較すると、
定数項(const)と$y_{t-1}$の係数(ar.L1.y)共に、
①の方が真のモデルに近い。
③に関してはログにて「対象時系列は定常性を持たない。定常性の時系列を入力すべき。」と出力された。

①〜③の結果より、
始めの時点の方が後の時点に比べ、上手くモデルにフィット出来ている形になった。
何故だろう？

5. ADF検定

4.と同様のデータ①〜③について、ADF検定を行う。
P値を確認し、どれ程の有意水準で帰無仮説を棄却する形になるか確認。
※対立仮説：対象時系列は定常性を持つ。

# AR学習結果_学習データ① (全期間)
print("① 全期間" , "-" * 80)
data = ts_data
result = sm.tsa.stattools.adfuller(data)
print('value = {:.4f}'.format(result[0]))
print('p-value = {:.4}'.format(result[1]))
print()

# AR学習結果_学習データ② (2018/1/1 からの 50日間)
print("② 2018/1/1 からの 50日間" , "-" * 80)
data = ts_data[:50]
result = sm.tsa.stattools.adfuller(data)
print('value = {:.4f}'.format(result[0]))
print('p-value = {:.4}'.format(result[1]))
print()

# AR学習結果_学習データ③ (2019/12/31 までの 50日間)
print("③ 2019/12/31 までの 50日間" , "-" * 80)
data = ts_data[-50:]
result = sm.tsa.stattools.adfuller(data)
print('value = {:.4f}'.format(result[0]))
print('p-value = {:.4}'.format(result[1]))
print()

全て検定値(value)が絶対値的にとても大きく、
P値(p-value)が0.0になっている。
有意水準を1%にしたとしても、
①〜③全て、帰無仮説が棄却される形となった。

(全てp値が0.0であり、比較的意味の無い比較かもしれないが、)
検定量の絶対値を比較すると、
① > ② > ③
であり、(データが完全にAR(1)なので)
ADF検定の結果としても始めの時点の方がより正しく評価されている感じになった。

まとめ

モデル学習結果とADF検定より、
始めの時点の方が正しく評価される形であった。
特に③のモデル学習結果については、全くの想定外であった。
何故そのような結果になったのか、因果関係について筆者はまだ理解出来ていない。
勉強を続けていくうちに分かればいいなと思っている。

はじめに

Qiitaで投稿している記事を１記事１ファイルにエクスポートし、GithubにPushするコードです。
先人の知恵がありましたので参考にさせていただきました。参考にさせてもらった、Qiita API v2 を使って自身の全投稿をエクスポートする Python スクリプトを書いた が実行環境Python２.7でしたので、私が利用している3.7.7でも動くよう少しコードを修正しました。

実行環境

OS：macOS
Python：3.7.7

処理概要

1. ローカル環境でPythonでQiitaAPIを使い、１記事ずつ１ファイルに作成する。
2. 作成したファイルをGithubにPushする。

コード

# -*- coding: utf-8 -*-

import json
import os
import sys
import requests
import subprocess

def abort(msg):
    print('Error!: {0}'.format(msg))
    sys.exit(1)

def get(url, params, headers):
    r = requests.get(url, params=params, proxies=proxies, headers=headers)
    return r

def post(url, data_dict, headers_dict):
    r = requests.post(url, data=json.dumps(data_dict),
                      proxies=proxies, headers=headers_dict)
    return r

def print_response(r, title=''):
    c = r.status_code
    h = r.headers
    print('{0} Response={1}, Detail={2}'.format(title, c, h))

def assert_response(r, title=''):
    c = r.status_code
    h = r.headers
    if c<200 or c>299:
        abort('{0} Response={1}, Detail={2}'.format(title, c, h))

class Article:
    def __init__(self, d):
        self._title      = d['title']
        self._html_body  = d['rendered_body']
        self._md_body    = d['body']
        self._tags       = d['tags']
        self._created_at = d['created_at']
        self._updated_at = d['updated_at']
        self._url        = d['url']

        user = d['user']
        self._userid   = user['id']
        self._username = user['name']

    def save_as_markdown(self):

        title = self._title
        body  = self._md_body.encode('utf8')

        filename = '{0}.md'.format(title)   
        fullpath = os.path.join(MYDIR, filename)
        # バイナリモードに変更
        # 参考）https://go-journey.club/archives/7113
        with open(fullpath, 'wb') as f:
            f.write(body)

# ファイル出力先を指定。出力したいディレクトリを指定してください。
MYDIR = os.path.abspath("/Users/shin/github/Qiita")

proxies = {
    "http": os.getenv('HTTP_PROXY'),
    "https": os.getenv('HTTPS_PROXY'),
}

# Qiitaアクセストークン取得
token = os.getenv('QIITA_ACCESS_TOKEN')
# 環境変数で指定しない場合は以下のように設定する
# token = 'アクセストークン'

headers = {
    'content-type'  : 'application/json',
    'charset'       : 'utf-8',
    'Authorization' : 'Bearer {0}'.format(token)
}

# 認証ユーザの投稿一覧
url = 'https://qiita.com/api/v2/authenticated_user/items'
params = {
    'page'     : 1,
    'per_page' : 100,
}
r = get(url, params, headers)
assert_response(r)
# print_response(r)

items = r.json()
print('{0} entries.'.format(len(items)))
for i,item in enumerate(items):
    print('[{0}/{1}] saving...'.format(i+1, len(items)))
    article = Article(item)
    article.save_as_markdown()

# GithubにPush
# 参考）https://www.atmarkit.co.jp/ait/articles/2003/13/news031.html
subprocess.run(["cd", "/Users/shin/github/Qiita"])
# 更新内容をインデックスに追加（ステージングエリアに追加）→コミット対象にしている
subprocess.run(["git", "add", "-A"])
# ローカルリポジトリにコミット
subprocess.run(["git", "commit", "-a", "-m", "AutomaticUpdate"])
# ローカルリポジトリの内容をリモートリポジトリに反映
subprocess.run(["git", "push", "origin", "master"])

参考

• Qiita API v2 を使って自身の全投稿をエクスポートする Python スクリプトを書いた
• Qiitaの投稿をGitHubにバックアップ.md

AtCoder Beginner Contest 168 参戦記

700番切ったの初めてなのでイヤッッホォォォオオォオウ!! 入水!!!

ABC168A - ∴ (Therefore)

2分で突破. 書くだけ.

N = int(input())

if N % 10 in [2, 4, 5, 7, 9]:
    print('hon')
elif N % 10 in [0, 1, 6, 8]:
    print('pon')
elif N % 10 in [3]:
    print('bon')

ABC168B - ... (Triple Dots)

2分で突破. 書くだけ.

K = int(input())
S = input()

if len(S) <= K:
    print(S)
else:
    print(S[:K] + '...')

ABC168C - : (Colon)

9分半で突破. 分でも時針が動くことを忘れているアホが発生. 数学は苦手だけど流石にこのレベルならなんとか…….

from math import pi, sin, cos, sqrt

A, B, H, M = map(int, input().split())

y1 = A * cos(2 * pi * (H + M / 60) / 12)
x1 = A * sin(2 * pi * (H + M / 60) / 12)
y2 = B * cos(2 * pi * M / 60)
x2 = B * sin(2 * pi * M / 60)

print(sqrt((y1 - y2) * (y1 - y2) + (x1 - x2) * (x1 - x2)))

ABC168D - .. (Double Dots)

9分半で突破. 問題としては入り口から順に幅優先探索するだけで簡単なのだが、'No' の場合は無いんだと心を強く持って提出するのがきつかった.

from collections import deque

N, M = map(int, input().split())
AB = [map(int, input().split()) for _ in range(M)]

links = [[] for _ in range(N + 1)]
for a, b in AB:
    links[a].append(b)
    links[b].append(a)

result = [-1] * (N + 1)
q = deque([1])
while q:
    i = q.popleft()
    for j in links[i]:
        if result[j] == -1:
            result[j] = i
            q.append(j)
print('Yes')
print('\n'.join(str(i) for i in result[2:]))

ABC168E - ∙ (Bullet)

解けそうで解けなかった. 多分 A_i か B_i のどちらかが0の時の場合が詰めきれてない.

追記: (A_i, B_i) = (0, 0) の特別扱いの仕方が間違ってた. (0, 0) はすべての魚と仲が悪いので後から足し込まないと駄目だった.

b/a と -a/b の仲が悪いのは分かるが、残念ながら Python には有理数がないので (a, b) のタプルで代用する. ところで (1, 2) と (-4, 2) は仲が悪いがそれがぱっとわからないので、a, b それぞれを gcd(a, b) で割って通分しておく. こうすると (1, 2) と (-2, 1) になるので、(a, b) と仲が悪いのが (-b, a), (b, -a) だけに絞れる. また (-b, a), (b, -a) は (-a, -b) とも仲が悪いので、(a, b) と (-a, -b) はグループとなる. あとは存在する (a, b) 毎に場合の数は 2^((a, b) の個数 + (-a, -b) の個数) + 2^((-b, a) の個数 + (b, -a) の個数) - 1 (最後の -1 は無いがダブっている分) となるので乗算していき、最後に (0, 0) の個数を足し、一個も選ばなかった分を1つ差っ引けば答えになる.

理屈は簡単だけど、実装はカロリー高くてめんどくさいです…….

from math import gcd

N = int(input())
AB = [map(int, input().split()) for _ in range(N)]

t = []
d = {}
d[0] = {}
d[0][0] = 0
for a, b in AB:
    i = gcd(a, b)
    if i != 0:
        a //= i
        b //= i
    t.append((a, b))
    d.setdefault(a, {})
    d[a].setdefault(b, 0)
    d[a][b] += 1

used = set()
result = 1
for a, b in t:
    if (a, b) in used:
        continue
    used.add((a, b))
    if a == 0 and b == 0:
        continue
    i = d[a][b]
    j, k, l = 0, 0, 0
    if -a in d and -b in d[-a]:
        j = d[-a][-b]
        used.add((-a, -b))
    if -b in d and a in d[-b]:
        k = d[-b][a]
        used.add((-b, a))
    if b in d and -a in d[b]:
        l = d[b][-a]
        used.add((b, -a))
    result *= pow(2, i + j, 1000000007) + pow(2, k + l, 1000000007) - 1
    result %= 1000000007
result += d[0][0] - 1
result %= 1000000007
print(result)

まえおき

サーボモーターSG-90を使うときにも書きましたがずいぶん昔に購入してほったらかしだったPI HATを使ってみたら、どうも思った動きにならなかったので、試行した顛末です。

パーツ

1. RasPi3 / RasPi2
2. サーボモーター FS90R
3. モーター用の電源
4. モーターコントローラ Adafruit 16チャンネル PWM/サーボ HAT for Raspberry Pi

環境

1. python 3.7.3
2. adafruit-circuitpython-servokit 1.2.1

調べたこと、やったこと

ひとまず、最初にすることは、製品のページからサンプルコードを確認しました。

説明を超訳すると、1で正回転、-1で逆回転、0.5で半分のパワーで回転できると。
回転を止めるのは0でいいらしい。

ひとまず、全力での回転がどれぐらいかわからないけど、まずは1で回してみる。

kit.continuous_servo[1].throttle = 1

逆回転は、

kit.continuous_servo[1].throttle = -1

ん？とりあえず、止めよう。

kit.continuous_servo[1].throttle = 0

止まらん、、、止まって～～
ひとまず、モーター用の電源を抜こう。

で、以下のコードでいけそうな感じ。

# Adafruit 16-Channel PWM/Servo HAT & Bonnet for Raspberry Pi & FS90R sample
#
# see:
# https://learn.adafruit.com/adafruit-16-channel-pwm-servo-hat-for-raspberry-pi
#
# test system:
# python 3.7.3
# adafruit-circuitpython-servokit 1.2.1

import time
from adafruit_servokit import ServoKit

# Set channels to the number of servo channels on your kit.
# 8 for FeatherWing, 16 for Shield/HAT/Bonnet.
kit = ServoKit(channels=16)

ch = 1

def fs90r_convert(throttle):
    """
    Parameters
    ----------
    throttle : float
      require -1.0 .. 1.0, but no check

    Returns : float
      -0.4(right rotation) <= 0.1(stop) <= 0.6(left rotation)
    """
    return 0.1 + throttle / 2

# left rotation (0.1 .. 1.0(max))
for i in range(1,11):
    v = fs90r_convert(i/10)
    print( "i=%f v=%f" % (i/10, v) )
    kit.continuous_servo[ch].throttle = v
    time.sleep(1)

# right rotation (-0.1 .. -1.0(max))
for i in range(-1,-11,-1):
    v = fs90r_convert(i/10)
    print( "i=%f v=%f" % (i/10, v) )
    kit.continuous_servo[ch].throttle = v
    time.sleep(1)

# stop rotation
kit.continuous_servo[ch].throttle = fs90r_convert(0)
time.sleep(1)

# left rotation, max throttle
kit.continuous_servo[ch].throttle = fs90r_convert(1)
time.sleep(1)

# right rotation, half throttle
kit.continuous_servo[ch].throttle = fs90r_convert(-0.5)
time.sleep(1)

# stop rotation
kit.continuous_servo[ch].throttle = fs90r_convert(0)

ポイントは

def fs90r_convert(throttle):
    return 0.1 + throttle / 2

で、FS90R用の換算を挟みました。どうも、0では停止せず、0.1で停止するようです。
引数は、サンプルプログラムで解説されている1から-1の範囲を与えて、正回転、逆回転、0で停止できます。

参考

1. https://learn.adafruit.com/adafruit-16-channel-pwm-servo-hat-for-raspberry-pi
2. https://learn.adafruit.com/adafruit-16-channel-pwm-servo-hat-for-raspberry-pi/using-the-python-library
3. http://akizukidenshi.com/catalog/g/gM-13206/

はじめに

大事故です。

A問題

問題

考えたこと
やるだけ

n = input()


if n[-1] == '3':
    print('bon')
elif n[-1] == '0' or n[-1] == '1' or n[-1] == '6' or n[-1] == '8':
    print('pon')
else:
    print('hon')

B問題

問題

考えたこと
やるだけ

k = int(input())
s = input()
n = len(s)

if n <= k:
    print(s)
else:
    print(s[:k]+"...")

C問題

問題

考えたこと
時針と分針の角度を計算して余弦定理。←cosの対称性を勘違いして6WA()。cosの値は$\frac{\pi}{2}$に対して対称じゃないですよ?なにを考えてるんですか? 受験生なのに受験数学できない

import math
a, b, h, m = map(int,input().split())

a_s = (30 * h) % 360 + 0.5 * m
b_s = (6*m)

s = max(a_s,b_s) - min(a_s,b_s)
ans = math.sqrt(a**2+b**2-2*a*b*math.cos(math.radians(s)))
print(ans)

D問題

1から近い順に見ていって、それぞれの親ノード(1に近い方)の番号をつければ解けそう。BFSとか?

まとめ

私は雑魚です。

Slack API の公式 Python クライアント はよくできていると思うのだけど、諸事情あってこれを使わずに Python から Slack API を利用する必要があり、自前で超簡易的に Slack クライアントを書いてみた。

import urllib.request
import json

class SlackAPI:

    def __init__(self, token: str, api_base: str = 'https://slack.com/api/'):
        self.token = token
        self.api_base = api_base

    def __call__(self, name: str, charset: str = 'utf-8', **kwargs) -> dict:
        req = urllib.request.Request(
            url = self.api_base + name,
            data = json.dumps(kwargs).encode(charset),
            headers = {
                'Authorization': f'Bearer {self.token}',
                'Content-Type': f'application/json; charset={charset}',
            })
        with urllib.request.urlopen(req) as res:
            return json.load(res)

    def __getitem__(self, key: str):
        return lambda **kwargs: self(key, **kwargs)

こんなノリで使える。

token = 'xoxb-000000000000-0000000000000-xxxxxxxxxxxxxxxxxxxxxxxx'
slack_api = SlackAPI(token)

# ユーザ一覧を取得する
slack_api['users.list']()

# メッセージを投稿する
slack_api['chat.postMessage'](channel='XXXXXXXXX', text='Yo!', as_user=True)

もちろん RTM API などは使えないが、Web API であればほとんどこれで実行できるのではないか。(そこまでいろいろ試したわけではないので「この API は実行できない」などあればコメントして欲しい)

追記 (2020.05.18)

コメントにて、JSON のリクエストボディに対応していない API もあるとご指摘いただいたので、これに対応してみた。

import urllib.request
import json

class SlackAPI:

    def __init__(self, token: str, api_base: str = 'https://slack.com/api/'):
        self.token = token
        self.api_base = api_base

    def __getitem__(self, key: str):
        return lambda **kwargs: self.post(key, **kwargs)

    def get(self, name: str, **kwargs) -> dict:
        req = urllib.request.Request(
            url = self.api_base + name + '?' + urllib.parse.urlencode(kwargs),
            headers = {
                'Authorization': f'Bearer {self.token}',
            })
        with urllib.request.urlopen(req) as res:
            return json.load(res)

    def post(self, name: str, charset: str = 'utf-8', **kwargs) -> dict:
        req = urllib.request.Request(
            url = self.api_base + name,
            data = json.dumps(kwargs).encode(charset),
            headers = {
                'Authorization': f'Bearer {self.token}',
                'Content-Type': f'application/json; charset={charset}',
            })
        with urllib.request.urlopen(req) as res:
            return json.load(res)

明示的に get メソッドを使った場合は application/x-www-form-urlencoded でデータを送信する。

slack_api.get('conversations.list', limit=20)

まえおき

ずいぶん昔にサーボモーターを制御できるPI HATを購入して、ハンダ付けまでしていたのですが、それっきりすっかり忘れていました。電子部品の在庫確認をしていたら、見つけてしまったので動作確認してみました。

パーツ

1. パーツというか、RasPi3
2. サーボモーター SG-90
3. モーター用の電源
4. モーターコントローラ Adafruit 16チャンネル PWM/サーボ HAT for Raspberry Pi

確認したら、まだ現行の製品でした。

環境

1. python 3.7.3
2. adafruit-circuitpython-servokit 1.2.1

調べたこと、やったこと

サーボモーターは、180度回転するタイプ(左右90度ともいえる)と、360度ぐるぐる回転するタイプがあるようです。180度回転するタイプも360度回転するタイプも、製品の情報をたどると、サンプルコードに到達できたのですが、ここのコードをコピペしても、思ったように動きませんでした。まず、はんだ付け失敗かとも思ったんですが、サーボモーターを接続する場所(16か所あります)を変更しても、動きは同じ。うーむ、、、、

これは、ハンダ付けでダマができているのが問題ではないと思い(責任転嫁か！)、ちょっとパラメータを変えてみて試行してみました。

で、以下のコードでだいたいいけそうでした。

# Adafruit 16-Channel PWM/Servo HAT & Bonnet for Raspberry Pi & SG90 sample
#
# see:
# https://learn.adafruit.com/adafruit-16-channel-pwm-servo-hat-for-raspberry-pi
#
# test system:
# python 3.7.3
# adafruit-circuitpython-servokit 1.2.1

import time
from adafruit_servokit import ServoKit

# Set channels to the number of servo channels on your kit.
# 8 for FeatherWing, 16 for Shield/HAT/Bonnet.
kit = ServoKit(channels=16)

ch = 1

kit.servo[ch].set_pulse_width_range(500, 2400)

# 0..180 step 30 angle
for v in range(0,181,30):
    print( "value=", v )
    kit.servo[ch].angle = v
    time.sleep(1)

# 0, 180 step 90 angle x 3set
for i in range(1,3):
    for v in range(0,181,90):
        kit.servo[ch].angle = v
        time.sleep(1)

# stop(90 angle)
kit.servo[ch].angle = 90

ポイントは

kit.servo[ch].set_pulse_width_range(500, 2400)

で、サーボモーターSG-90のデータシートを確認して、下が0.5ms pulse、上が2.4ms pulseらしいので設定しました。このパラメータでも、ちょっと180度に足りていない気もしますが、ひとまずよしとしときます。

参考

1. https://learn.adafruit.com/adafruit-16-channel-pwm-servo-hat-for-raspberry-pi
2. https://learn.adafruit.com/adafruit-16-channel-pwm-servo-hat-for-raspberry-pi/using-the-python-library
3. http://akizukidenshi.com/catalog/g/gM-08761/

[Python]03章-01 グラフィック入門

本章では、今まで学んだ変数やメソッドなどの知識を用いて、習得した範囲でのグラフィックを作成していきたいと思います。

今後、Pythonで学ぶオブジェクト指向の話やメソッドに関する話が深く問われてきます。それらを学ぶ上で、グラフィックを用いることにより、理解が深まると考えています。

グラフィックでよく用いられるのがTurtle（タートル：亀）グラフィックスです。TurtleはPythonの基本的な文法がわかっていれば、記述が可能です。

小学校・中学校でもプログラミングが必須

2020年よりプログラミングが小学校で必須となりました。そこでよく用いられるのがスクラッチというプログラミングツールです。このプログラミングツールの目指すところはアルゴリズム（※）の能力を養成することにあります。

（※）アルゴリズムとは、プログラム等で行われる処理手順のことです。詳細は割愛しますが、プログラムを書いていくうえで重要な内容となってきます。

もし興味があれば操作ができますのでぜひ試してみてください。（無料）
スクラッチサイト

そのスクラッチでもそうですが、スクラッチは前述した通り、小中学校で使うツールです。グラフィックも特に難しくなく操作ができますが、ここではPythonで動かすことを考えていきましょう。

Turtleを作る

いくつか習っていないプログラムコードがありますが、コメントを添えつつ、また詳細は後述しますので、とりあえず今はおまじないと思っていてください。

今回のプログラムはプログラムコードをエディタで作成して実行していきたいと思います。フォルダchap03を作成し、その中にファイル名03-01-01.pyを作成します。

まずは、一番上に以下のコードを入力します。

03-01-01.py

import turtle

これはturtleプログラムを行う上で、外部から読み込んでいる（インポート）ことを意味します。詳細は後の章で後述します。
とりあえず今は、turtleプログラムを動かすために外部からプログラムを読み込んでいるという認識で構いません。

03-01-01.py

#turtleプログラムを動かすために外部からプログラムを読み込んでいる
import turtle

次もまたおまじないのようなものになりますが、肝心のturtle（亀）を作らないといけません。
そこで、以下のようにturtleを作ります。なお、亀に何か名前を付けてみるのもいいかもしれません。（今回自分はtaroという名前にしましたが、ここは自由で構いません）

03-01-01.py

#turtleプログラムを動かすために外部からプログラムを読み込んでいる
import turtle

#taroという名前でturtle（亀）を作る。
taro = turtle.Turtle()

そして実行してみてください。すると一瞬、白い画面が出たかと思います。
これだと実行結果がすぐ閉じられてしまうので、以下の個所にturtle.done()と記載してください。

これにより、turtle.done()の時点でいったんプログラムを止めることができます。これは最後に書きます。

03-01-01.py

#turtleプログラムを動かすために外部からプログラムを読み込んでいる
import turtle

#taroという名前でturtle（亀）を作る。
taro = turtle.Turtle()

#いったんここでプログラムを止める。
turtle.done()

実行すると、以下の結果になります。

これだと矢印の形であり、亀の形をしていません。また亀は本来緑色のイメージなので、形と色を変えていきたいと思います。

亀に対する処理命令

では亀の形と色を変えていきたいと思います。
以下のコードを入力してください。

03-01-01.py

#turtleプログラムを動かすために外部からプログラムを読み込んでいる
import turtle

#taroという名前でturtle（亀）を作る。
taro = turtle.Turtle()

#形を亀に、色を緑にする
taro.shape('turtle')
taro.color('green')

#いったんここでプログラムを止める。
turtle.done()

実行すると、以下のように亀の形と色の変更ができたと思います。

さて、追加したこの2行、どこかで見たことないでしょうか？
2章で文字列のメソッドを扱った時のことを思い出してください。

str.count('r')
str.lower()

といったメソッドがあったと思います。実はこれらはstrに対する処理命令と2章で述べましたが、今回もtaroというturtle（亀）に対して、何かしらの処理命令を行っているのです。

今回は「shape（形）を'turtle'（亀の形）に、color（色）を'green'（緑）にしなさい」という処理命令を行っているのです。

実際に動かすのは次回にしたいと思います。しかし結局動かすのはメソッドとなりますので、turtleを動かすための基本的なメソッドを次回習得していきたいと思います。

最後に

今回はいくつか見慣れないプログラムコードがありますが、これらについては重要であるため必ず後の章で説明します。
今回学んだ、taro.shape()とtaro.color()のメソッドについて、ほかにもいろいろな形や色があります。
以下のサイトに詳細がありますので、形を変えてみたり、色を変えてみたりしてみてください。
shape()メソッド

color()メソッド

【目次リンク】へ戻る

[Python]03章-01 turtleの作成

本章では、今まで学んだ変数やメソッドなどの知識を用いて、習得した範囲でのグラフィックを作成していきたいと思います。

今後、Pythonで学ぶオブジェクト指向の話やメソッドに関する話が深く問われてきます。それらを学ぶ上で、グラフィックを用いることにより、理解が深まると考えています。

グラフィックでよく用いられるのがTurtle（タートル：亀）グラフィックスです。TurtleはPythonの基本的な文法がわかっていれば、記述が可能です。

小学校・中学校でもプログラミングが必須

2020年よりプログラミングが小学校・中学校で必須となりました。そこでよく用いられるのがスクラッチというプログラミングツールです。このプログラミングツールの目指すところはアルゴリズム（※）の能力を養成することにあります。

（※）アルゴリズムとは、プログラム等で行われる処理手順のことです。詳細は割愛しますが、プログラムを書いていくうえで重要な内容となってきます。

もし興味があれば操作ができますのでぜひ試してみてください。（無料）
スクラッチサイト

そのスクラッチでもそうですが、スクラッチは前述した通り、小中学校で使うツールです。グラフィックも特に難しくなく操作ができますが、ここではPythonで動かすことを考えていきましょう。

Turtleを作る

いくつか習っていないプログラムコードがありますが、コメントを添えつつ、また詳細は後述しますので、とりあえず今はおまじないと思っていてください。

今回のプログラムはプログラムコードをエディタで作成して実行していきたいと思います。フォルダchap03を作成し、その中にファイル名03-01-01.pyを作成します。

まずは、一番上に以下のコードを入力します。

03-01-01.py

import turtle

これはturtleプログラムを行う上で、外部から読み込んでいる（インポート）ことを意味します。詳細は後の章で後述します。
とりあえず今は、turtleプログラムを動かすために外部からプログラムを読み込んでいるという認識で構いません。

03-01-01.py

#turtleプログラムを動かすために外部からプログラムを読み込んでいる
import turtle

次もまたおまじないのようなものになりますが、肝心のturtle（亀）を作らないといけません。
そこで、以下のようにturtleを作ります。なお、亀に何か名前を付けてみるのもいいかもしれません。（今回自分はtaroという名前にしましたが、ここは自由で構いません）

03-01-01.py

#turtleプログラムを動かすために外部からプログラムを読み込んでいる
import turtle

#taroという名前でturtle（亀）を作る。
taro = turtle.Turtle()

そして実行してみてください。すると一瞬、白い画面が出たかと思います。
これだと実行結果がすぐ閉じられてしまうので、以下の個所にturtle.done()と記載してください。

これにより、turtle.done()の時点でいったんプログラムを止めることができます。これは最後に書きます。

03-01-01.py

#turtleプログラムを動かすために外部からプログラムを読み込んでいる
import turtle

#taroという名前でturtle（亀）を作る。
taro = turtle.Turtle()

#いったんここでプログラムを止める。
turtle.done()

実行すると、以下の結果になります。

これだと矢印の形であり、亀の形をしていません。また亀は本来緑色のイメージなので、形と色を変えていきたいと思います。

亀に対する処理命令

では亀の形と色を変えていきたいと思います。
以下のコードを入力してください。

03-01-01.py

#turtleプログラムを動かすために外部からプログラムを読み込んでいる
import turtle

#taroという名前でturtle（亀）を作る。
taro = turtle.Turtle()

#形を亀に、色を緑にする
taro.shape('turtle')
taro.color('green')

#いったんここでプログラムを止める。
turtle.done()

実行すると、以下のように亀の形と色の変更ができたと思います。

さて、追加したこの2行、どこかで見たことないでしょうか？
2章で文字列のメソッドを扱った時のことを思い出してください。

str.count('r')
str.lower()

といったメソッドがあったと思います。実はこれらはstrに対する処理命令と2章で述べましたが、今回もtaroというturtle（亀）に対して、何かしらの処理命令を行っているのです。

今回は「shape（形）を'turtle'（亀の形）に、color（色）を'green'（緑）にしなさい」という処理命令を行っているのです。

実際に動かすのは次回にしたいと思います。しかし結局動かすのはメソッドとなりますので、turtleを動かすための基本的なメソッドを次回習得していきたいと思います。

最後に

今回はいくつか見慣れないプログラムコードがありますが、これらについては重要であるため必ず後の章で説明します。
今回学んだ、taro.shape()とtaro.color()のメソッドについて、ほかにもいろいろな形や色があります。
以下のサイトに詳細がありますので、形を変えてみたり、色を変えてみたりしてみてください。
shape()メソッド

color()メソッド

【目次リンク】へ戻る

はじめに

自分の備忘録用です
Docker ComposeでTensorFlow + Flask + Nginxの環境を作る時のメモです。
ちょうど、TensorFlowを使ったアプリの備忘録
を作っていましたが、切り出して整理しようと思った次第です。。。
この手順を実行すれば、TensorFlow使ったWeb APIが動くはずです
自分用に作った記事なので、分かりにくい点や情報、技術が古いかもしれませんがご了承ください

参考資料

この記事を作るにあたって参考にさせて頂きました

• docker-composeでgunicorn+nginx+flaskを動かしてみた話
• DockerでDjangoの開発環境を再構築！！！！
• Docker入門（第六回）〜Docker Compose〜
• 初心者向けdocker-composeコマンド逆引き
• docker-compose コマンドまとめ
• Dockerコマンド よく使うやつ
• Docker一括削除コマンドまとめ

環境 ^{※以下のVerでなくても動くと思いますが、古いのでご注意下さい}

Ubuntuバージョン

$ cat /etc/os-release
NAME="Ubuntu"
VERSION="18.04.4 LTS (Bionic Beaver)"
ID=ubuntu
ID_LIKE=debian
PRETTY_NAME="Ubuntu 18.04.4 LTS"
VERSION_ID="18.04"
HOME_URL="https://www.ubuntu.com/"
SUPPORT_URL="https://help.ubuntu.com/"
BUG_REPORT_URL="https://bugs.launchpad.net/ubuntu/"
PRIVACY_POLICY_URL="https://www.ubuntu.com/legal/terms-and-policies/privacy-policy"
VERSION_CODENAME=bionic
UBUNTU_CODENAME=bionic

Dockerバージョン

$ docker version
Client: Docker Engine - Community
 Version:           19.03.8
 API version:       1.40
 Go version:        go1.12.17
 Git commit:        afacb8b7f0
 Built:             Wed Mar 11 01:25:46 2020
 OS/Arch:           linux/amd64
 Experimental:      false

Server: Docker Engine - Community
 Engine:
  Version:          19.03.8
  API version:      1.40 (minimum version 1.12)
  Go version:       go1.12.17
  Git commit:       afacb8b7f0
  Built:            Wed Mar 11 01:24:19 2020
  OS/Arch:          linux/amd64
  Experimental:     false
 containerd:
  Version:          1.2.13
  GitCommit:        7ad184331fa3e55e52b890ea95e65ba581ae3429
 runc:
  Version:          1.0.0-rc10
  GitCommit:        dc9208a3303feef5b3839f4323d9beb36df0a9dd
 docker-init:
  Version:          0.18.0
  GitCommit:        fec3683

Docker-Composeバージョン

$ docker-compose version
docker-compose version 1.25.5, build unknown
docker-py version: 4.2.0
CPython version: 3.7.4
OpenSSL version: OpenSSL 1.1.1c  28 May 2019

^{※なぜかbuild unknown。時間掛かりそうだったので諦めました}

ディレクトリ構成

適当に作っています$\tiny{※凝視したらダメです}$
ゴミファイルが多いですが、Githubに置いてあります。
ソース

ディレクトリ構成

dk_tensor_fw
├── app_tensor
│   ├── Dockerfile
│   ├── exeWhatMusic.py
│   ├── inputFile
│   │   └── ans_studyInput_fork.txt
│   ├── mkdbAndStudy.py
│   ├── requirements.txt
│   ├── studyModel
│   │   ├── genre-model.hdf5
│   │   ├── genre-tdidf.dic
│   │   ├── genre.pickle
│   ├── tfidfWithIni.py
│   └── webQueApiRunServer.py
├── docker-compose.yml
├── web_nginx
    ├── Dockerfile
    └── nginx.conf

docker-composeでローカル環境作るのに必要なファイル

docker-compose.yml

version: '3'
services:
########### Appサーバ設定 ###########
  app_tensor:
    container_name: app_tensor
    # サービス再起動ポリシー
    restart: always
    # ビルドするdockerファイルが格納されたディレクトリ
    build: ./app_tensor
    volumes:
      # マウントするディレクトリ
      - ./app_tensor:/dk_tensor_fw/app_tensor
    ports:
      # ホスト側のポート：コンテナ側のポート
      - 7010:7010
    networks:
      - nginx_network
########### Appサーバ設定 ###########

########### Webサーバ設定 ###########
  web-nginx:
    container_name: web-nginx
    build: ./web_nginx
    volumes:
      # マウントするディレクトリ
      - ./web_nginx:/dk_tensor_fw/web_nginx
    ports:
      # ホストPCの7020番をコンテナの7020番にポートフォワーディング
      - 7020:7020
    depends_on:
      # 依存関係を指定。web-serverの起動より前にapp-serverを起動するようになる
      - app_tensor
    networks:
      - nginx_network
########### Webサーバ設定 ###########
networks:
  nginx_network:
    driver: bridge

※ （参考）上記でポート番号を指定していますが、以下のコマンドで確認してます。

（参考）空いているポートの調べ方

# 空いているポート調べる（何も表示されなければ空いてる）
netstat -an | grep 7010

Dockerfile←Apサーバ側(Gunicorn)

FROM ubuntu:18.04

WORKDIR /dk_tensor_fw/app_tensor
COPY requirements.txt /dk_tensor_fw/app_tensor

RUN apt-get -y update \
    && apt-get -y upgrade \
    && apt-get install -y --no-install-recommends locales curl python3-distutils vim ca-certificates \
    && curl https://bootstrap.pypa.io/get-pip.py -o get-pip.py \
    && python3 get-pip.py \
    && pip install -U pip \
    && localedef -i en_US -c -f UTF-8 -A /usr/share/locale/locale.alias en_US.UTF-8 \
    && apt-get clean \
    && rm -rf /var/lib/apt/lists/* \
    && pip install -r requirements.txt --no-cache-dir

ENV LANG en_US.utf8

CMD ["gunicorn", "webQueApiRunServer:app", "-b", "0.0.0.0:7010"]

requirements.txt

Flask==1.1.0
gunicorn==19.9.0
Keras>=2.2.5
numpy==1.16.4
pandas==0.24.2
pillow>=6.2.0
python-dateutil==2.8.0
pytz==2019.1
PyYAML==5.1.1
requests==2.22.0
scikit-learn==0.21.2
sklearn==0.0
matplotlib==3.1.1
tensorboard>=1.14.0
tensorflow>=1.14.0
mecab-python3==0.996.2

以下のpythonソースが機械学習済みのモデルを使ってある事柄を類推し、
Jsonのレスポンスを返すWeb API本体です。実際の類推しているモジュール（exeWhatMusic）
は外から読み込んでいます

webQueApiRunServer.py

import flask
import os
import exeWhatMusic

#ポート番号
TM_PORT_NO = 7010

# initialize our Flask application and pre-trained model
app = flask.Flask(__name__)
app.config['JSON_AS_ASCII'] = False  # <-- 日本語の文字化け回避

@app.route('/recommend/api/what-music/<how_music>', methods=['GET'])
def get_recom_music(how_music):
    recoMusicInfos = getRecoMusicMoji(how_music)
    return flask.jsonify({'recoMusicInfos': recoMusicInfos})

# オススメの楽曲名を返す
def getRecoMusicMoji(how_music):

    recMusicName, predict_val = exeWhatMusic.check_genre(how_music)

    #JSON作成
    recoMusicInfoJson = [
        {
            'id':1,
            'recoMusicMoji':recMusicName,
            'predict_val':predict_val,
            'how_music':how_music
        }
    ]
    return recoMusicInfoJson

if __name__ == "__main__":
    print(" * Flask starting server...")
    app.run(threaded=False, host="0.0.0.0", port=int(os.environ.get("PORT", TM_PORT_NO)))

Dockerfile←Webサーバ側(Nginx)

FROM nginx:latest

RUN rm /etc/nginx/conf.d/default.conf
COPY nginx.conf /etc/nginx/conf.d

nginx.conf

    upstream app_tensor_config {
        # コンテナのサービス名を指定すると名前解決してくれる
        server app_tensor:7010;
    }

    server {
        listen 7020;
        root /dk_tensor_fw/app_tensor/;
        server_name localhost;

        location / {
            try_files $uri @flask;
        }

        location @flask {
            proxy_set_header Host $host;
            proxy_set_header X-Real-IP $remote_addr;
            proxy_redirect off;

            proxy_pass http://app_tensor_config;
        }

        # redirect server error pages to the static page /50x.html
        error_page   500 502 503 504  /50x.html;
        location = /50x.html {
            root   /usr/share/nginx/html;
        }

        # 静的ファイルの要求をstaticにルーティング　←使ってませんので不要です。
        location /static/ {
            alias /dk_tensor_fw/app_tensor/satic/;
        }
    }

出来上がった環境の確認

ビルド&backgroundで起動

$ docker-compose up -d --build

docker-compose イメージ情報を表示

$ docker-compose images
Container          Repository           Tag       Image Id       Size  
-----------------------------------------------------------------------
app_tensor   dk_tensor_fw_app_tensor   latest   3b916ea797e0   2.104 GB
web-nginx    dk_tensor_fw_web-nginx    latest   175c2596bb8b   126.8 MB

^{作り方が悪いのか結構容量大きいような}

コンテナの一覧表示

$ docker-compose ps
   Name                 Command               State               Ports             
------------------------------------------------------------------------------------
app_tensor   gunicorn webQueApiRunServe ...   Up      0.0.0.0:7010->7010/tcp        
web-nginx    nginx -g daemon off;             Up      0.0.0.0:7020->7020/tcp, 80/tcp

コンテナに接続（Apサーバ側）

$ docker-compose exec app_tensor /bin/bash
root@ba0ce565430c:/dk_tensor_fw/app_tensor#

Apサーバ側のコンテナに入れました。。。

TensorFlowとかKeras入っているか中身を確認

^{出力結果の表示が長いのでいくつか省きました}

root@ba0ce565430c:/dk_tensor_fw/app_tensor# pip3 list
Package                Version
---------------------- -----------
absl-py                0.9.0
Flask                  1.1.0
gunicorn               19.9.0
Keras                  2.3.1
Keras-Applications     1.0.8
Keras-Preprocessing    1.1.2
matplotlib             3.1.1
mecab-python3          0.996.2
numpy                  1.16.4
pandas                 0.24.2
Pillow                 7.1.2
pip                    20.1
python-dateutil        2.8.0
pytz                   2019.1
PyYAML                 5.1.1
requests               2.22.0
requests-oauthlib      1.3.0
rsa                    4.0
scikit-learn           0.21.2
six                    1.14.0
sklearn                0.0
tensorboard            2.2.1
tensorboard-plugin-wit 1.6.0.post3
tensorflow             2.2.0
tensorflow-estimator   2.2.0
（省略）

TensorFlow、Kerasなど一通り入っているようです。。。

Webサーバ側のコンテナに接続

$ docker-compose exec web-nginx /bin/bash
root@d6971e4dc05c:/# 

Webサーバ側のコンテナにも入れました。

一応、Webサーバ(Nginx)が起動しているか確認します。

root@d6971e4dc05c:/# /etc/init.d/nginx status
[ ok ] nginx is running.

Nginxも起動しているようです。
一旦ここまでで実行環境の確認しました。
以下のようにWEB APIが叩ければWEB API側の実行環境できてると思います。。。

Web_API実行例

http://localhost:7020/recommend/api/what-music/切なくて誰かの幸せ願う歌

Web API実行例

ツールは色々あるので何でも良いと思いますが、GIFのようにJSONで返ってきます。

その他のコマンド（備忘です）

^{※参考資料そのままです。詳細は参考資料等見て下さい}

サービス停止

$ docker-compose stop      

サービス開始

$ docker-compose start

環境をクリーンにしたい時

# 停止＆削除
# コンテナ・ネットワーク
docker-compose down

コンテナ・ネットワーク・イメージ
docker-compose down --rmi all

# コンテナ・ネットワーク・ボリューム
docker-compose down -v

はじめに

VSCode「そう。Remote Developmentならね。」

ぼく「なん…やて…」

目次

• 前提条件
• Remote Developmentのインストール
• 設定ファイルの追加
• リモートデバッグの開始
• デバッグの開始

前提条件

VSCode「docker-composeでのデバッグをやっていくから、まずは下のわかりやすい記事を参考に環境構築を行ってな。」

ぼく「手前味噌やな。」

• DockerでDjangoの開発環境を再構築！！！！

VSCode「フォルダ構成は以下の通りになっているはずやで。」

tree

containers
├── django
│   ├── Dockerfile
│   ├── Pipfile
│   ├── Pipfile.lock
│   ├── config
│   │   ├── __init__.py
│   │   ├── asgi.py
│   │   ├── settings.py
│   │   ├── urls.py
│   │   └── wsgi.py
│   ├── db.sqlite3
│   ├── entrypoint.sh
│   ├── manage.py
│   └── static
├── docker-compose.yml
├── nginx
│   ├── Dockerfile
│   └── nginx.conf
└── postgres
    ├── Dockerfile
    └── sql
        └── init.sql

VSCode「ほんだら、containersディレクトリをワイ（VSCode）開いてな。」

ぼく「あいよ。」

Remote Developmentのインストール

VSCode「Remote Developmentをインストールしてな。左下にこんな感じの青いマークが出てればインストール完了や」

設定ファイルの追加

VSCode「次にデバッグ用の設定ファイルを追加していくで。」

VSCode「出てきた青いアイコンをクリックしてな。」

ぼく「あいよ。」

VSCode「したら上にメニューが出てくるやろ？そん中からRemote-Containers: Add Development Container configuration Files...を選択してな。」

VSCode「そのあとFrom 'docker-compose.yml'を選択や。」

• デバックしたいサービスを選択(今回はDjango)を選択

VSCode「するとプロジェクトのルートに.devcontainerディレクトリと、その中にdevcontainer.json及びdocker-compose.ymlが出来上がるから、devcontainer.jsonを以下のように書き換えてな！」

VSCode「この辺は実務で使ったりする場合は任意の環境に置き換えて使ってな！」

ぼく「設定ファイル周りはようハマるからきーつけなあかんな。」

devcontainer.json

{
  // 任意の名前を入力
  "name": "djnago containers",
  // Remoteでログインしたいコンテナを作成するためのdocker-composeファイルを指定してください。
  "dockerComposeFile": "docker-compose-debug.yml",
  // 起動したいサービスを選択
  "service": "django",
  // コンテナに入ったときに最初にここで指定したものがカレントディレクトリになります
  "workspaceFolder": "/usr/src/app/",
  // シェルを選択
  "settings": {
    "terminal.integrated.shell.linux": "/bin/bash"
  },
  // vscode拡張機能を選択
  "extensions": ["ms-azuretools.vscode-docker", "ms-python.python"],
  // vscodeを閉じた時のコンテナの挙動を設定
  // noneでコンテナの起動を継続する
  "shutdownAction": "none"
}

VSCode「次にデバッグ用のymlに書き換えていくで！.devcontainerディレクトリ内の自動生成されたdocker-compose.ymlをdocker-compose-debug.ymlとかに修正し、既存のdocker-compose.ymlの内容をコピーしてな。」

VSCode「今の段階ではサービスがdjangoとpostgresとnginxの3つあるけど、デバッグ時にいちいちnginxから配信しなくてええから、以下のように修正してな。これも環境に合わせて任意に変えてな。」

• 修正点
  • nginxサービスを削除
  • djangoサービスにデバッグ用のポート8888を開放
  • Dockerfileやマウントディレクトリなどのパスを修正

docker-compose-debug.yml

version: '3.7'
services:
    django:
        container_name: django
        build: ../django
        command: python3 manage.py runserver 0.0.0.0:8000
        volumes:
            - ../django:/usr/src/app/
        ports:
            - 8000:8000
            # デバッグ用にポートを追加
            - 8888:8888
        env_file:
            - ../django/.env
        depends_on:
            - postgres

    postgres:
        container_name: postgres
        build: ../postgres
        volumes:
            - sample_postgis_data:/var/lib/postgresql/data
            - ../postgres/sql:/docker-entrypoint-initdb.d
        env_file: ../postgres/.env_db
        ports:
            - 5433:5432

volumes:
    sample_postgis_data:

リモートデバッグの開始

VSCode「今はこんな感じのディレクトリになっとるはずやな。」

ぼく「せやな。」

tree

containers
├── .devcontainer
│   ├── devcontainer.json
│   └── docker-compose-debug.yml
├── django
│   ├── .env
│   ├── Dockerfile
│   ├── Pipfile
│   ├── Pipfile.lock
│   ├── config
│   │   ├── __init__.py
│   │   ├── asgi.py
│   │   ├── settings.py
│   │   ├── urls.py
│   │   └── wsgi.py
│   ├── db.sqlite3
│   ├── entrypoint.sh
│   ├── manage.py
│   └── static
├── docker-compose.yml
├── nginx
│   ├── Dockerfile
│   └── nginx.conf
└── postgres
    ├── .env_db
    ├── Dockerfile
    └── sql
        └── init.sql

VSCode「いよいよデバッグしていくわけやけど、すでにdocker-compose.ymlでコンテナを立ち上げている場合は一旦停止させておいてな。デバッグ時にコンテナを立て直すんやけど、元々のymlファイルが同じものを使っているから名前が競合してうまく立ち上がらんくなるで。」

VSCode「停止を確認したら下の青いアイコンを押して、次はRemote-Containers: Open Folder in Containers...をクリックして、.devcontainerが存在するディレクトリ（今回の例ではcontainers）を選択してな。」

VSCode「ちなみにすでにコンテナが立ち上がっている場合はRemote-Containers: Attach to Running Containers...を選択するとすでに起動中のコンテナにログインできるんやけど、devcontainer.jsonで作成した設定が反映されず、拡張機能がインストールされないから注意な」

ぼく「これもハマりポイントやな。メモメモ…」

VSCode「ディレクトリを選択すると新しいウィンドウが開いて、以下のような表示が画面右下に出るで。コンテナ起動中やからしばらく待ってな」

ぼく「結構長いで。気長にいこうな。せっかちは嫌われるで。」

VSCode「ちなみに青文字のStarting with Dev Containerをクリックするとコンテナ起動に必要なプロセスのログがリアルタイムでみれるで。エラーが起きたら停止してまうねんけど、このログでどこが悪いのか見れるで。」

VSCode「まぁ、大抵はパス間違いか、名前の競合やろけどな。」

VSCode「無事立ち上がったら、コンテナ内のディレクトリが表示されて、シェルも指定のディレクトリをカレントディレクトリとして開いており、起動したコンテナにアタッチされたことが確認できるで。」

VSCode「拡張機能もインストール済みや。」

ぼく「そもそも、拡張機能はインストールしたいものをdevcontainer.jsonで明示的に書いてあげないとダメなんやな…」

デバッグの開始

VSCode「実行とデバッグのアイコンをクリックし、launch.jsonファイルを作成しますをクリックして…」

VSCode「その後、Docker Debug ins Containerをクリックし…」

VSCode「んでlaunch.jsonの編集画面が開くので以下のように編集して完成や！」

launch.json

{
    "version": "0.2.0",
    "configurations": [
        {
            // 表示名
            "name": "django container",
            // 言語
            "type": "python",
            // デバッグ時の挙動。実行の他にもある
            "request": "launch",
            // 動作させるファイルへのパス
            "program": "${workspaceFolder}/manage.py",
            // デバッグで使用するターミナルを選択。VSCode外のターミナルを起動することもできる
            "console": "integratedTerminal",
            // プログラム実行時の引数
            "args": [
                "runserver",
                "--noreload",
                "0.0.0.0:8888"
            ],
            "django": true
        }
    ]
}

VSCode「最後にプログラムを実行するために、画面左下からインタープリタを選択するで(今回の例であればpython3.8を選択)」

VSCode「一通りの設定が終わると、実行とデバッグの項目が以下のようになり、再生ボタンのような緑色の三角アイコンをクリックすることで、指定した0.0.0.0:8888でデバッグサーバーが立ち上がるんや。」

VSCode「ボタンを押した後にブラウザからlocalhost:8888に接続するといつもの画面が見れるようになっているはずや」

ぼく「ほんまや。」

VSCode「あとはデバッグを行いたい箇所にブレークポイントを設定してブラウザなどからブレークポイントを設置した関数が実行されるようなURLにアクセスすると、VScode上でリクエストの内容がみれたり、変数が確認できたりするで！」

VSCode「VSCode デバッグとかでググったら細かいやり方たくさん出てくるから調べてみてな！」

ぼく「VSCode神やな！ほなさいなら。」

お　し　ま　い

はじめに

graphviz は scikit-learn でも使用されている、
グラフ（木）描画用のライブラリです。

https://www.graphviz.org/

このgraphvizを導入せずにライブラリを使用してしまうと、、、

FileNotFoundError: [WinError 2] 指定されたファイルが見つかりません。

アバー

graphviz.backend.ExecutableNotFound: failed to execute ['dot', '-Tpng', '-O', 'binary_tree'], make sure the Graphviz executables are on your systems' PATH

graphviz 内の dot.exe が見つからなくて怒られます。

というわけで、今回はgraphvizを導入していくわけですが、
タグを見ればわかる通り、今回もWinPythonを用いてポータブルに導入します。

インストール手順

今回の手順は
- Windows 10 Pro 64bit
- WinPython 3.8.10

で実施します。

graphvizのダウンロード

Windows用のダウンロードページが用意されています。

https://graphviz.gitlab.io/_pages/Download/Download_windows.html

何も考えずにインストールするのであれば、「graphviz-2.38.msi」のインストーラ形式を選べばよいのですが、
私はインストーラを使用してシステムを汚すのが嫌なので、
ポータブルに導入すべく、 「graphviz-2.38.zip」 をダウンロードしました。

graphvizのインストール

まずは先程ダウンロードした graphviz-2.38.zip を WinPython展開先の t フォルダに展開します。

展開した中を見ると、、、

dot.exe がある！

ということで、このフォルダをPATHに追加していきます。
んですが、何度も言うようにシステムを汚してしまうので、WinPythonを実行するときだけPATHが通るようにします。

そういうときに使うのが、
{winpythonInstallDir}\setttings\winpython.ini ファイルです。

ここにPATHを追加していきます。
追加するPATHは {winpythonInstallDir}\t\graphviz-2.38\release\bin\ ですが、
WinPythonを展開したフォルダのパスは環境変数WINPYDIRBASE に格納されるので、
D:\Applications\WPy64-3810\t\graphviz-2.38\release\bin\ を追加するためには下記のように記載します。

ここで、WINPYDIRBASE を使用せずにPATHを追加してしまうと、WinPythonフォルダを移動したときに使えなくなるので注意が必要です。
（USBメモリに入れて環境を持ち運んだりするとドライブレター変わってしまったりするので。）

動作確認

では、先程問題になった dot.exe が使用できるかチェックしてみましょう。

WinPython Command Prompt.exe をダブルクリックして、 dot -v コマンドを実行します。

いいぞ。

Jupyterでも使えます

こちらの記事を参考に、graphvizを試してみました↓

https://qiita.com/msuz/items/bd41a8fe67fd56707116

おわりに

WinPython、一番好きなPythonディストリビューションです！

目的

BERTを、ちょっと、動かしてみたいと思い、
ぐぐって、一瞬で動きそうな例を試してみた。

選んだ例

以下のサイトで、
https://www.ai-shift.jp/techblog/281

BERTを使って、TOEICのPart 5の問題を解く、例が示されていた。
30行程度のコードだったので、これを動かしてみた。

問題の作成

穴埋め問題として、
Pythonの英語の入門書
「introducing Python」 O'Reilly Media,Inc (First Edition 2016-02-26 Third release)
の文章を引用し、1文に対して、穴を一個開けてみた。

textが1個穴の開いた（*が穴）文章。
candidateが穴埋めの候補。5個程度。

以下、3問作ってみた。

text = "In Python, a lambda function is an anonymous function * as a single statement."
candidate = ["experssion", "used", "expressed", "using", "known"]

text = "Truncating integer division * you an integer answer."
candidate = ["gives", "makes", "presents", "takes", "give"]

text = "What * you get if you typed the following?"
candidate = ["did", "will", "would", "do", "are"]

1問追加。これは、Pythonの入門書ではなくて、tensorflow lite?か何かの
実行時のエラーメッセージ。

text = "Model provided has model identifier 'TFL2', * be 'TFL3'"
candidate = ["can", "could", "would", "shall", "should"]

結果発表！

以下のとおり、全問正解。

(3, 'expressed')
(0, 'gives')
(0, 'would')
(0, 'should')

まとめ

BERTのレベルの高さを感じた。
正解以外の候補は、ワタシが考えたが、ちょっと、BERTとの力の差がありました。。。（日本語で再度トライするか、別の問題を考えたいと思います。
雑談ですが、shouldとかwouldとか、とっても、簡単なんでしょうね。。。）
コメントなどあれば、お願いします。

※コードを修正して再投稿しています

AWS公式ブログの最新記事を毎日確認したいけど，時間がないしどうしよう．．．そうだ！Pythonにお任せしてみよう

主な使用ライブラリ

・BeautifulSoup(WEB解析)
・pysummarization(文章の要約)

Input

AWS公式ブログのニュース
https://aws.amazon.com/jp/blogs/news/

Output

・記事の発行日付
・記事のタイトル
・記事本文の要約

ソースコード

※必要なライブラリはpip install *** で適宜インストールしてください

#記事全文を要約する関数
def sum_text(document):
    from pysummarization.nlpbase.auto_abstractor import AutoAbstractor
    from pysummarization.tokenizabledoc.mecab_tokenizer import MeCabTokenizer
    from pysummarization.abstractabledoc.top_n_rank_abstractor import TopNRankAbstractor

    auto_abstractor = AutoAbstractor()
    auto_abstractor.tokenizable_doc = MeCabTokenizer()
    auto_abstractor.delimiter_list = ["。", "\n"]
    abstractable_doc = TopNRankAbstractor()
    result_dict = auto_abstractor.summarize(document, abstractable_doc)

    return ''.join(result_dict["summarize_result"])

if __name__ == '__main__':
    import re
    import requests
    from bs4 import BeautifulSoup
    import time
    import os
    import pandas as pd
    import codecs
    import sys
    from urllib.parse import urljoin
    from django.utils.html import strip_tags

    #「←Older Posts」ボタンと「Newer Posts」ボタン用にフラグを設定
    flag = 1
    df = pd.DataFrame()
    #csvファイルの保存名.例ではカレントディレクトリに出力する
    save_csv = './aws_pandas_normal.csv'

    base_url="https://aws.amazon.com/jp/blogs/news/"
    #後述．ページ遷移用のURLを保持する変数
    dynamic_url="https://aws.amazon.com/jp/blogs/news/"
    #csvに出力するカラムを設定
    data_col = ["information1", "information2", "information3"]

    #取得ページ分ループする.例では3ページ分取得する
    for _ in range(3):
        res = requests.get(dynamic_url)
        res.raise_for_status()

        html = BeautifulSoup(res.text, 'lxml')
        detail_url_list = html.find_all("section")

        #「←Older Posts」ボタンと「Newer Posts→」ボタンのリンクから次ページへのリンクを取得する
        #最初のページでは「←Older Posts」ボタンから次ページのリンクを取得する
        #2ページ目以降では「Newer Posts→」ボタンから次ページのリンクを取得する
        next_page = html.find_all("a",attrs={"class": "blog-btn-a"})[-1].get("href") if flag==1 else html.find_all("a",attrs={"class": "blog-btn-a"})[-2].get("href")
        flag = 0

        #ページ内の記事数分ループする
        #AWS公式ブログでは1ページに10記事あるため，10回ループする．
        for i in range(len(detail_url_list)):
            #取得記事を設定
            res2 = requests.get(urljoin(base_url, detail_url_list[i].a.get("href")))
            res2.raise_for_status()
            #取得記事を解析
            html2 = BeautifulSoup(res2.text, 'lxml')

            # 抜き出す情報に合わせて抽出するタグの変更
            #タイトル
            information1 = html2.title.string
            #本文，htmlタグ除去，文章を要約
            information2 = html2.find_all('p')
            information2 = strip_tags(information2)
            information2 = sum_text(information2)
            #発行日付
            information3 = html2.find_all('time')
            information3 = strip_tags(information3)

            #csvファイルへ出力
            s = pd.Series([information3, information1, information2],index=data_col)
            df = df.append(s, ignore_index=True)
            df.to_csv(save_csv)

            #sleep処理(WEBサーバに負荷をかけないため)
            print(str(len(df)) + "記事を取得しました。2秒待機します。")
            time.sleep(2)

        #最終ページのとき終了
        if bool(next_page) == False:
            break

        #次のページにURLを設定する
        #2ページ目の場合
        # dynamic_url = (~/news/) + (~/news/page/2/)
        # dynamic_url = ~/news/page/2/
        dynamic_url = urljoin(base_url, next_page)

参考サイト

・https://qiita.com/tomson784/items/88a3fd2398a41932762a
・https://zerofromlight.com/blogs/detail/35/

まとめ

抽出したcsvファイルをエクセルに貼り付けて管理するのも良いですし，
AWS資格系の試験前に，過去ニュースをチェックすることにも使えます．

ただし，AWS公式ブログのレイアウトが変更された場合は，
「information1~4」で抽出するhtmlタグの箇所を変更してください．

試しに250記事を抽出してみました
ttps://www.real-tomo.com/2020/05/17/aws逆引き一覧/

はじめに

Seleniumを利用する記事を探していると、ちょいちょい寿司打自動化の記事を見つけた。
手法としては基本的に以下のような感じ
・ゲームをスタートしたら全てのキーを入力し続ける
・ゲームをスタートしたらスクショをとりOCRで取得した文字列を入力
※寿司打はゲーム画面がCanvas要素に描画されているので直接文字列を取得できない

今回はOCR部分と事前処理としてOpenCVを使った簡単な画像処理を試してみた

事前準備

tesseractのインストール

tesseractはOCRエンジンです。
今回はこのOCRエンジンをpythonのpyocrモジュールで動かします
インストールは以下のコマンドで完了

$ brew install tesseract

このままだと日本語用のテストデータがないので以下のURLからダウンロード
https://github.com/tesseract-ocr/tessdata
↑このURLからjpn.traineddataを，/usr/local/share/tessdata/にダウンロード

pyocrとOpenCVのインストール

ターミナルで以下のコマンドを実行すれば完了

$ pip3 install pyocr
$ pip3 install opencv-python

とりあえずOCRしてみる

画像の準備

テスト用の画像は以下

↓トリミング

トリミングしたものをtest.pngという名前で保存

pyocrでOCR

import cv2
import pyocr
from PIL import Image
image = "test.png"

img = cv2.imread(image)
tools = pyocr.get_available_tools()
if len(tools) == 0:
    print("No OCR tool found")
    sys.exit(1)
tool = tools[0]
res = tool.image_to_string(
    Image.open("test.png")
    ,lang="eng")

print(res)

実行結果

全く正しく認識されてない…
やっぱり事前処理が必要そうだなぁ

OpenCVを触ってみる

OpenCVで事前処理をしたいが、OpenCVもはじめてなので遊んでみる
自分のアイコン画像を処理してみる

import sys
import cv2
import pyocr
import numpy as np
from PIL import Image
image = "test_1.png"
name = "test_1"

#original
img = cv2.imread(image)

#gray
img = cv2.cvtColor(img, cv2.COLOR_BGR2GRAY)
cv2.imwrite(f"1_{name}_gray.png",img)

#goussian
img = cv2.GaussianBlur(img, (5, 5), 0)
cv2.imwrite(f"2_{name}_gaussian.png",img)

#threshold
img = cv2.adaptiveThreshold(
    img
    , 255
    , cv2.ADAPTIVE_THRESH_GAUSSIAN_C
    , cv2.THRESH_BINARY
    , 11
    , 2
)
cv2.imwrite(f"3_{name}_threshold.png",img)

処理過程での画像はこんな感じ

OpenCV + OCR

先程OCRで使用した画像をOpenCVで事前処理して再度OCRを実行してみる
以下では事前処理としてグレースケール→閾値処理→色反転をしている

import sys
import cv2
import pyocr
import numpy as np
from PIL import Image
image = "test.png"
name = "test"

#original
img = cv2.imread(image)
cv2.imwrite(f"1_{name}_original.png",img)

#gray
img = cv2.cvtColor(img, cv2.COLOR_BGR2GRAY)
cv2.imwrite(f"2_{name}_gray.png",img)

#threshold
th = 140
img = cv2.threshold(
    img
    , th
    , 255
    , cv2.THRESH_BINARY
)[1]
cv2.imwrite(f"3_{name}_threshold_{th}.png",img)

#bitwise
img = cv2.bitwise_not(img)
cv2.imwrite(f"4_{name}_bitwise.png",img)

cv2.imwrite("target.png",img)

tools = pyocr.get_available_tools()
if len(tools) == 0:
    print("No OCR tool found")
    sys.exit(1)
tool = tools[0]
res = tool.image_to_string(
    Image.open("target.png")
    ,lang="eng")

print(res)

実行結果

うまく認識できてそう！
一旦今回はここまでで終わり

やったこと

くるっとtoio〜♪
開発者向けマットを白バックに#toio #おうちでロボット開発 pic.twitter.com/69BcmsuCMf

— 水落 大 mizumasa (@_mizumasa) May 17, 2020

toioの非公式ライブラリ toio.py に指定角度への回転コマンドを追加しました。

非公式 Python ライブラリ(https://github.com/mizumasa/toio.py.git)

できること

• スピードの指定(speed オプション)
• 回転方向の指定(clock オプション)
• 加減速の指定(ease オプション)

などの機能を盛り込んでいます

サンプルコード

import toio                                                                               17 import random

def main():
    T = toio.TOIO()
    T.connect()
    for i in range(4):
        T.turn_to(i,int(360*random.random()))
    for i in range(4):
        T.turn_to(i,int(360*random.random()))
    for i in range(4):
        T.turn_to(i,90)
    T.disconnect()
    return

if __name__ == '__main__':
    main()

https://github.com/mizumasa/toio.py/blob/master/example_turn.py

概要

みなさんご存知のフュージョンの動きを検出してみました。
AnyMotionを使用して関節の座標情報から角度の算出を行い、フュージョンっぽい姿勢かどうかを判定します。

AnyMotionとは

AnyMotionとは、AIを用いた姿勢推定による動作解析APIプラットフォームサービスです。現在はトライアル中ということで無料で利用できるようです。

人物が写っている画像や動画に対してその人物の骨格座標の推定を行い、それをもとに指定した部位の角度を算出することで、身体動作の可視化／定量化を行うことができます。

GitHubにてCLIやPython SDK、Jupyter Notebookで書かれたExamplesが公開されています。

目指すゴール

フュージョンは本来2人の戦士が対称のアクションを同じタイミングで行うことで成り立ちますが、現状AnyMotionでは2人以上の同時姿勢推定はできないという制約があります。そのため1人ずつ動作を解析することにします。

フュージョンは掛け声に合わせて3段階の動作があります。

1. 「フュー」腕を回しながらお互いにすり寄る動作
2. 「ジョン」腕を外側に、脚を内側にねじる動作
3. 「はっ！」上体を内側に曲げ指を合わせる動作

今回は簡単のために、動きが一瞬止まる2と3の姿勢をそれぞれ定義し、両方とも当てはまる動作がないかを解析します。指の高さなど細かい部分がズレていても気にしません。

上述の動作解析をフュージョンの左側の人と右側の人でそれぞれ行い、タイミングを問わず2人ともそれっぽい動きをしていればフュージョン成立！ということにします。

フュージョンの姿勢の定義

身体がどの状態であればフュージョンとみなすのか、以下の表にまとめてみました。

• フェーズ1:「ジョン」腕を外側に、脚を内側にねじる動作
• フェーズ2:「はっ！」上体を内側に曲げ指を合わせる動作

左側の人（右側の人）	「ジョン」	「はっ！」
左肩（右肩）	10〜90	130〜180
左ひじ（右ひじ）	90〜180	40〜130
右肩（左肩）	120〜200	50〜150
右ひじ（左ひじ）	150〜200	100〜170
左ひざ（右ひざ）	10〜80	-

注意事項

• 性質上、撮影環境などの理由により骨格座標の推定が行われない、または不正確なことがあります。
• 骨格座標の推定には数分かかります（動画の長さ、大きさに比例して時間がかかります）

Python SDKを使ってコードを書いてみた

使用したバージョン

• Python 3.8.0
• anymotion-sdk 1.0.1

事前準備

• AnyMotion APIのトークン発行
  • AnyMotionのページ右上 "Sign Up/Sign In" をクリックするとポータル画面に行くので、ユーザー登録してClient IDとSecretを取得する
• anymotion-sdkのインストール

  $ pip install anymotion-sdk

動画ファイルのアップロード〜骨格抽出

from anymotion_sdk import Client
from PIL import Image, ImageDraw
import cv2
import matplotlib.pyplot as plt
import ffmpeg
import numpy as np

# AnyMotion APIの準備
client = Client(client_id="CLIENT_ID", 
                client_secret="CLIENT_SECRET")
filename = "left.mp4"

# 動画のアップロード（左側）
left_filename = "fusion_left.mp4"
left_movie_id = client.upload(left_filename).movie_id
print(f"movie_id: {left_movie_id}")

# 骨格抽出（キーポイント抽出）（左側）
left_keypoint_id = client.extract_keypoint(movie_id=left_movie_id)
left_extraction_result = client.wait_for_extraction(left_keypoint_id)
print(f"keypoint_id: {left_keypoint_id}")

# 動画のアップロード（右側）
right_filename = "fusion_right.mp4"
right_movie_id = client.upload(right_filename).movie_id
print(f"movie_id: {right_movie_id}")

# 骨格抽出（キーポイント抽出）（右側）
right_keypoint_id = client.extract_keypoint(movie_id=right_movie_id)
right_extraction_result = client.wait_for_extraction(right_keypoint_id)
print(f"keypoint_id: {right_keypoint_id}")

角度の取得

角度を取得する部位を指定します。指定の仕方は公式ドキュメントに記載があります。

# 角度の解析ルールの定義
analyze_angles_rule = [
    # left arm
    {
        "analysisType": "vectorAngle",
        "points": ["rightShoulder", "leftShoulder", "leftElbow"]
    },
    {
        "analysisType": "vectorAngle",
        "points": ["leftShoulder", "leftElbow", "leftWrist"]
    },
    # right arm
    {
        "analysisType": "vectorAngle",
        "points": ["leftShoulder", "rightShoulder", "rightElbow"]
    },
    {
        "analysisType": "vectorAngle",
        "points": ["rightShoulder", "rightElbow", "rightWrist"]
    },
    # left leg
    {
        "analysisType": "vectorAngle",
        "points": ["rightHip", "leftHip", "leftKnee"]
    },
    # right leg
    {
        "analysisType": "vectorAngle",
        "points": ["leftHip", "rightHip", "rightKnee"]
    },
]
# 角度の解析開始（左側）
left_analysis_id = client.analyze_keypoint(left_keypoint_id, rule=analyze_angles_rule)
# 角度情報の取得
left_analysis_result = client.wait_for_analysis(left_analysis_id).json
# dict形式の結果をlist形式へ変換（同時に数値をfloatからintへ変換）
left_angles = [list(map(lambda v: int(v) if v else None, x["values"])) for x in left_analysis_result["result"]]
print("angles analyzed.")

# 角度の解析開始（右側）
right_analysis_id = client.analyze_keypoint(right_keypoint_id, rule=analyze_angles_rule)
right_analysis_result = client.wait_for_analysis(right_analysis_id).json
right_angles = [list(map(lambda v: int(v) if v else None, x["values"])) for x in right_analysis_result["result"]]
print("angles analyzed.")

フュージョン検出

def is_fusion_phase1(pos, a, b, c, d, e, f):
    # pos: left or right
    # print(a, b, c, d, e, f)
    if pos == "left":  # 左側に立つ人をチェックする
        if not e:
            e = 70  # 脚の角度が取れていない場合を考慮
        return (a in range(10, 90) and \
               b in range(90, 180) and \
               c in range(120, 200) and \
               d in range(150, 200) and \
               e in range(10, 80))
    else:  # 右側に立つ人をチェックする
        if not f:
            f = 70  # 脚の角度が取れていない場合を考慮
        return (c in range(10, 90) and \
               d in range(90, 180) and \
               a in range(120, 200) and \
               b in range(150, 200) and \
               f in range(10,80))

def is_fusion_phase2(pos, a, b, c, d, e, f):
    # pos: left or right
    # print(a, b, c, d, e, f)
    if pos == "left":  # 左側に立つ人をチェックする
        return a in range(130, 180) and \
               b in range(40, 130) and \
               c in range(50, 150) and \
               d in range(100, 170)
    else:
        return c in range(130, 180) and \
               d in range(40, 130) and \
               a in range(50, 150) and \
               b in range(100, 170)

def check_fusion(angles, position):
    """
        angles: 角度情報
        position: left or right
    """
    # 各ステップを検出したかを格納するフラグ
    phase1 = False
    phase2 = False
    # 該当フレームを格納するリスト
    p1 = []
    p2 = []
    for i in range(len(angles[0])):
        if is_fusion_phase1(position, angles[0][i], angles[1][i], angles[2][i], angles[3][i],
                            angles[4][i], angles[5][i]):
            print(i, "Phase1!!!")
            phase1 = True
            p1.append(i)
        elif phase1 and is_fusion_phase2(position, angles[0][i], angles[1][i], angles[2][i], angles[3][i],
                              angles[4][i], angles[5][i]):
            print(i, "Phase2!!!")
            phase2 = True
            p2.append(i)

    if phase1 and phase2:
        print("Fusion!!!!!!")

    return ((phase1 and phase2), p1, p2)

left_result, left_p1, left_p2 = check_fusion(left_angles, "left")
right_result, right_p1, right_p2 = check_fusion(right_angles, "right")

検出したフュージョンのフレームを使ってGIFアニメーションを生成する

# 動画の向きを確認する
def check_rotation(path_video_file):
    meta_dict = ffmpeg.probe(path_video_file)

    rotateCode = None
    try:
        if int(meta_dict['streams'][0]['tags']['rotate']) == 90:
            rotateCode = cv2.ROTATE_90_CLOCKWISE
        elif int(meta_dict['streams'][0]['tags']['rotate']) == 180:
            rotateCode = cv2.ROTATE_180
        elif int(meta_dict['streams'][0]['tags']['rotate']) == 270:
            rotateCode = cv2.ROTATE_90_COUNTERCLOCKWISE
    except:
        pass

    return rotateCode

# 動画の指定したフレームを取得する
def get_frame_img(filename, frame_num):
    reader = cv2.VideoCapture(filename)
    rotateCode = check_rotation(filename)
    reader.set(1, frame_num)
    ret, frame_img = reader.read()
    reader.release()

    if not ret:
        return None
    if rotateCode:
        frame_img = cv2.rotate(frame_img, rotateCode)

    return frame_img

# 2つのフレームを横に連結する
def get_frame_img_hconcat(l_filename, r_filename, l_framenum, r_framenum):
    l_img = get_frame_img(l_filename, l_framenum)
    r_img = get_frame_img(r_filename, r_framenum)

    img = cv2.hconcat([l_img, r_img])
    return img

# 検出したフレームの中央値を取得
left_p1_center = left_p1[int(len(left_p1)/2)]
left_p2_center = left_p2[int(len(left_p2)/2)]
right_p1_center = right_p1[int(len(right_p1)/2)]
right_p2_center = right_p2[int(len(right_p2)/2)]

# Phase1の画像を横方向に結合する
p1_img = get_frame_img_hconcat(left_filename, right_filename, left_p1_center, right_p1_center)

# Phase2の画像を横方向に結合する
p2_img = get_frame_img_hconcat(left_filename, right_filename, left_p2_center, right_p2_center)

# numpy arrayからPILのImageに変換する
im1 = Image.fromarray(cv2.cvtColor(p1_img, cv2.COLOR_BGR2RGB))
im2 = Image.fromarray(cv2.cvtColor(p2_img, cv2.COLOR_BGR2RGB))

# GIFアニメを生成する
im1.save('fusion.gif', save_all=True, append_images=[im2], optimize=False, duration=700, loop=0)

（手が物と被ってしまったり指の位置がズレてたり、いろいろ言いたいことはあると思いますが大目に見てください…）

ソースコード全体

gistにJupyter Notebookの形式でアップロードしました。

おわりに

AnyMotionを使って推定した姿勢情報を活用してフュージョンの姿勢を検出してみました。
このようなことを行うことで筋トレのフォームチェックをするといったパーソナルトレーナー的なことも出来るようです（いえとれ）。
他にもどんなことができるのかいろいろ試していきたいと思います。

参考

• OpenPoseを使って、かめはめ波を撃ってみた
• python - Frame from video is upside down after extracting - Stack Overflow
• Python, OpenCVで画像を縦・横に連結 (hconcat, vconcat, np.tile)