ディレクトリ作成時にディレクトリが存在する場合エラーになる。

FileExistsError: [WinError 183] 既に存在するファイルを作成することはできません。

存在チェックする方法

import os

DIR_NAME = 'dirname'
if not os.path.exists(DIR_NAME):
    os.mkdir(DIR_NAME)

例外処理する方法

DIR_NAME = 'dirname'
try:
    os.mkdir(DIR_NAME)
except OSError as ex:
    print(ex)

アプリケーション追加編の続き

Djangoのリクエスト処理フロー

Djangoのリクエスト処理フローは下記のようになっています。
今回は、ルーティング・ビューだけを使い、ビューの関数に記載した「Hello, World!」を表示する。
フロートしては、ブラウザからのリクエスト→project1.urls→posts.urls→views.indexとなる。

ルーティング(urls.py)

ブラウザからのリクエストを受けたURLパターンとルーティングファイル内に記述されているパターンからどのファイルを呼び出すかを決める。
アプリ内とプロジェクト内でそれぞれ2つのurls.pyが存在し、それぞれがアプリ内とプロジェクト内の動作振り分けを定義している。

ビュー(views.py)

ルーティングで呼び出された関数の動作を返す。
データベースからデータを呼び出す必要があればデータベースへアクセスする記述などを記載する。また、そのデータを必要な形に加工しテンプレートに渡す動作を記述する。

Hello, World!を表示させてみよう！

今回作成したproject1フォルダ内にあるpostsフォルダの中あるviews.pyにリクエストを受けた際にHello, World!を返す関数を記述する。

views.py

from django.shortcuts import render
from django.http import HttpResponse #この行を追加

def index(request): #この行を追加
    return HttpResponse("Hello, World!") #この行を追加

次に、postsフォルダ内にurls.pyを作成し、アプリ(posts)内での定義を行う。

アプリ名/urls.py

from django.urls import path
from . import views

urlpatterns = [
    path('', views.index, name='index'),
]

最後に、project1フォルダ内のurls.pyを編集していく。

プロジェクト名/urls.py

from django.contrib import admin
from django.urls import path,include #includeを追加

urlpatterns = [
    path('admin/', admin.site.urls),
    path('posts/', include('posts.urls')), #この行を追加
]

サーバーを起動し、「http://127.0.0.1:8000/アプリ名/」(今回の場合posts)にアクセスし、「Hello, World!」が表示されていれば成功です。

はじめに

今回の記事では、僕が実際に「ImageField」の反映の際に悩まされたエラーについて解決方法を通して書いていきたいと思います。

kadaikun.Image.image: (fields.E210) Cannot use ImageField because Pillow is not installed.HINT: Get Pillow at https://pypi.org/project/Pillow/ or run command "pip install Pillow"

最初はこのエラーで悩まされていました。
pillowをインストールしたのに、インストールされていないと言われ「？」状態でした。
とりあえず次のコマンドで対処を試みました。

terminal

$ python3 -m pip uninstall pillow

$ python3 -m pip install pillow

そしてマイグレイトしました。

terminal

$ python manage.py migrate

結果...

terminal

kadaikun.Image.image: (fields.E210) Cannot use ImageField because Pillow is not installed.
        HINT: Get Pillow at https://pypi.org/project/Pillow/ or run command "pip install Pillow"

ダメでした...。

このときに自分がDockerを使っていることに気がつきました...。

Dockerは今回が使うのは初めてだったので、「Dockerfile」とか「requirementes.txt」あたりを変更させればいいのかなくらいしかわかっていませんでした。

そのためググりにググって出てきたものは片っ端からDockerfileに書き込んで、「docker-compose up」をひたすら繰り返していました。

/bin/sh: 1: apk: not found

繰り返した結果...

terminal

/bin/sh: 1: apk: not found

とエラーが出るだけで、全く解決しませんでした。

そんな中ついに解決しそうな記事を見つけました。

それがこの記事です。
Docker+djangoで詰まった所

この記事のようにDockerfileに

Dockerfile

RUN pip install pillow

と記入し、「equirementes.txt」に、

equirementes.txt

Pillow==7.2.0

と記入します。

そしてターミナルに次のように打ち込みます。

terminal

$ python manage.py makemigrations

$ python manage.py migrate

$ docker-compose up

これで完了！と言いたいところなのですが、ブラウザを開いたときにエラーが出ました...。

OperationalError

エラーが出たものの、この対処法は簡単でした。

terminal

$ rm -d -r db.sqlite3
$ rm -d -r app/migrations/*
$ python manage.py migrate

これでOKです！

最後に

terminal

$ docker-compose up

と打ち込むときれいに反映されているはずです。

ちなみに参考にした記事はこちらです。

webページを開くと django.db.utils.OperationalError: no such column: app_action.author_idエラー

最後に

今回は僕が体験したエラーについて書いていきました。
Djnagoについての記事もこれから上げていくので、参考になれば幸いです。

はじめに

今回の記事では、僕が実際に「ImageField」の反映の際に悩まされたエラーについて解決方法を通して書いていきたいと思います。

kadaikun.Image.image: (fields.E210) Cannot use ImageField because Pillow is not installed.HINT: Get Pillow at https://pypi.org/project/Pillow/ or run command "pip install Pillow"

最初はこのエラーで悩まされていました。
pillowをインストールしたのに、インストールされていないと言われ「？」状態でした。
とりあえず次のコマンドで対処を試みました。

terminal

$ python3 -m pip uninstall pillow

$ python3 -m pip install pillow

そしてマイグレイトしました。

terminal

$ python manage.py migrate

結果...

terminal

kadaikun.Image.image: (fields.E210) Cannot use ImageField because Pillow is not installed.
        HINT: Get Pillow at https://pypi.org/project/Pillow/ or run command "pip install Pillow"

ダメでした...。

このときに自分がDockerを使っていることに気がつきました...。

Dockerは今回が使うのは初めてだったので、「Dockerfile」とか「requirementes.txt」あたりを変更させればいいのかなくらいしかわかっていませんでした。

そのためググりにググって出てきたものは片っ端からDockerfileに書き込んで、「docker-compose up」をひたすら繰り返していました。

/bin/sh: 1: apk: not found

繰り返した結果...

terminal

/bin/sh: 1: apk: not found

とエラーが出るだけで、全く解決しませんでした。

そんな中ついに解決しそうな記事を見つけました。

それがこの記事です。
Docker+djangoで詰まった所

この記事のようにDockerfileに

Dockerfile

RUN pip install pillow

と記入し、「equirementes.txt」に、

equirementes.txt

Pillow==7.2.0

と記入します。

そしてターミナルに次のように打ち込みます。

terminal

$ python manage.py makemigrations

$ python manage.py migrate

$ docker-compose up

これで完了！と言いたいところなのですが、ブラウザを開いたときにエラーが出ました...。

OperationalError

エラーが出たものの、この対処法は簡単でした。

terminal

$ rm -d -r db.sqlite3
$ rm -d -r app/migrations/*
$ python manage.py migrate

これでOKです！

最後に

terminal

$ docker-compose up

と打ち込むときれいに反映されているはずです。

ちなみに参考にした記事はこちらです。

webページを開くと django.db.utils.OperationalError: no such column: app_action.author_idエラー

最後に

今回は僕が体験したエラーについて書いていきました。
Djnagoについての記事もこれから上げていくので、参考になれば幸いです。

地元割＋GoTo対象のホテルを探してみる。

完全に岩手県民向けのスクリプト。価格もろもろの情報をＣＳＶに出力します。

goto.py

import requests
from bs4 import BeautifulSoup
from selenium import webdriver
import chromedriver_binary
import time
import os
from selenium.webdriver.common.by import By
from selenium.webdriver.chrome.options import Options

def getBFData_onHTML(html):
    sp=BeautifulSoup(html,'html.parser')
    return sp

def getBFData(ul):
    html=requests.get(ul)
    sp=BeautifulSoup(html.content,'html.parser')
    return sp

def getBFData_onSelenium(driver):
    html = driver.page_source.encode('utf-8')
    sp = BeautifulSoup(html, 'lxml')
    return sp

urlbase="https://www.jalan.net"
urlSearch_Shizukuishi= urlbase + "/030000/LRG_030100/"
urlJimoto = "https://jimotowari-iwate.jp/list/#travelagency_morioka"

if False == os.path.isfile('jimowari.txt'):
    f = open('jimowari.csv', 'w')
    spJimoto = getBFData(urlJimoto)
    spjimoHotel = spJimoto.find_all('section')
    strHotels = []

    for section in spjimoHotel:
        hotelsec = section.find('h2', id="hotel")
        if hotelsec != None:
            hotels = section.find_all('ruby')
            for hotel in hotels:
                for script in hotel(["rt"]):
                    script.decompose()
                Nm = hotel.get_text().replace("\n", "").replace(" ", "")
                f.write(Nm + "\n")
                strHotels.append(Nm)
    f.close()
else:
    strHotels = []
    with open('jimowari.csv') as f:
        while True:
            line = f.readline()
            if line:
                strHotels.append(line.replace("\n", "").replace("\u3000", " "))
            else:
                break

options = Options()
options.add_argument('--headless')
f = open('data.csv', 'w')

f.write("ホテル名(真),ホテル名(検索結果),URL,プラン内容１,プラン内容２,プラン内容３,部屋種類,食事,価格,そのほか")
cnt = 0
for hotel in strHotels:
    time.sleep(7)
    # driver = webdriver.Chrome(chrome_options=options)
    driver = webdriver.Chrome()
    driver.get(urlbase)
    cnt+=1
    # if cnt ==3:break
    driver.find_element_by_id('searchAreaStn').send_keys(hotel)
    time.sleep(2)
    driver.find_element_by_id('image1').click()
    time.sleep(2)

    spSerachResult = getBFData(driver.current_url)


    listres = spSerachResult.find_all('div', class_="p-yadoCassette__body p-searchResultItem__body")
    if len(listres)==0:
        print("No Matching Resulr")
        continue
    item = listres[0]
    hotel_res = item.find('h2', class_="p-searchResultItem__facilityName").text
    Goto = item.find('span', class_="c-label p-searchResultItem__campaignLabelEm")
    if Goto != None:
        strGoto = Goto.text
    else:
        strGoto=""

    driver.find_element_by_link_text(hotel_res).click()
    time.sleep(5)
    # タブ
    driver.switch_to.window(driver.window_handles[1])
    spSerach = getBFData(driver.current_url)
    time.sleep(5)
    driver.find_element_by_class_name('tab_02').click()
    time.sleep(5)

    spHotel = getBFData(driver.current_url)
    syosaiURL = driver.current_url
    listPlan = spHotel.find_all('li', class_="p-planCassette p-searchResultItem js-searchResultItem")

    for whole_plan in listPlan:
        Nmplan = whole_plan.find('p', class_="p-searchResultItem__catchPhrase").text.replace("\n", "")
        listPlan_Child1 = whole_plan.find('div', class_="p-planCassette__body p-searchResultItem__body")
        listPlan_Child2 = listPlan_Child1.find_all('td', class_="p-searchResultItem__perPersonCell")
        listpricestring = []
        for price in listPlan_Child2:
            listpricestring.append(price.text.replace("\n", "").replace(" ", "").replace(",", ""))

        listplan = whole_plan.find_all('div', class_="p-searchResultItem__planNameAndHorizontalLabels")
        listPlanString = []
        idx = 0
        for plan in listplan:
            stroutputCSV = []
            stroutputCSV.append(hotel)
            stroutputCSV.append(hotel_res)
            stroutputCSV.append(syosaiURL)
            stroutputCSV.append(strGoto)
            stroutputCSV.append(Nmplan)
            strroom = plan.text.replace("\n", "")
            stroutputCSV.append(strroom)

            strroomtype = whole_plan.find('li', class_="c-label--room")
            if strroomtype!= None:
                stroutputCSV.append(strroomtype.text.replace("\n", ""))
            else:
                stroutputCSV.append("不明")

            streat = whole_plan.find('dd', class_="c-label c-label--meal p-mealType__value")
            if streat!= None:
                stroutputCSV.append(streat.text.replace("\n", ""))
            else:
                stroutputCSV.append("飯無し")

            strNumberPeople = whole_plan.find('th',
                                              class_="p-searchResultItem__headCell p-searchResultItem__headCell--numberOfPeople")
            if strNumberPeople!= None:
                strNumberPeople.append(strNumberPeople.text.replace("\n", ""))
            else:
                stroutputCSV.append("何人単位の金額か不明")
            stroutputCSV.append(listpricestring[idx])

            stroption = plan.find_all('li', class_="c-label p-searchResultItem__horizontalLabel")
            stropt = ""
            for opt in stroption:
                stropt += opt.text.replace("\n", "") + " "
            stroutputCSV.append(stropt)
            idx += 1

            print(stroutputCSV)
            f.write(",".join(stroutputCSV) + "\n")

    driver.quit()
f.close()

地元割＋GoTo対象のホテルを探してみる。

岩手県民向けスクリプト。価格もろもろの情報をＣＳＶに出力します。

goto.py

import requests
from bs4 import BeautifulSoup
from selenium import webdriver
import chromedriver_binary
import time
import os
from selenium.webdriver.common.by import By
from selenium.webdriver.chrome.options import Options

def getBFData_onHTML(html):
    sp=BeautifulSoup(html,'html.parser')
    return sp

def getBFData(ul):
    html=requests.get(ul)
    sp=BeautifulSoup(html.content,'html.parser')
    return sp

def getBFData_onSelenium(driver):
    html = driver.page_source.encode('utf-8')
    sp = BeautifulSoup(html, 'lxml')
    return sp

urlbase="https://www.jalan.net"
urlSearch_Shizukuishi= urlbase + "/030000/LRG_030100/"
urlJimoto = "https://jimotowari-iwate.jp/list/#travelagency_morioka"

if False == os.path.isfile('jimowari.txt'):
    f = open('jimowari.csv', 'w')
    spJimoto = getBFData(urlJimoto)
    spjimoHotel = spJimoto.find_all('section')
    strHotels = []

    for section in spjimoHotel:
        hotelsec = section.find('h2', id="hotel")
        if hotelsec != None:
            hotels = section.find_all('ruby')
            for hotel in hotels:
                for script in hotel(["rt"]):
                    script.decompose()
                Nm = hotel.get_text().replace("\n", "").replace(" ", "")
                f.write(Nm + "\n")
                strHotels.append(Nm)
    f.close()
else:
    strHotels = []
    with open('jimowari.csv') as f:
        while True:
            line = f.readline()
            if line:
                strHotels.append(line.replace("\n", "").replace("\u3000", " "))
            else:
                break

options = Options()
options.add_argument('--headless')
f = open('data.csv', 'w')

f.write("ホテル名(真),ホテル名(検索結果),URL,プラン内容１,プラン内容２,プラン内容３,部屋種類,食事,価格,そのほか")
cnt = 0
for hotel in strHotels:
    time.sleep(7)
    # driver = webdriver.Chrome(chrome_options=options)
    driver = webdriver.Chrome()
    driver.get(urlbase)
    cnt+=1
    # if cnt ==3:break
    driver.find_element_by_id('searchAreaStn').send_keys(hotel)
    time.sleep(2)
    driver.find_element_by_id('image1').click()
    time.sleep(2)

    spSerachResult = getBFData(driver.current_url)


    listres = spSerachResult.find_all('div', class_="p-yadoCassette__body p-searchResultItem__body")
    if len(listres)==0:
        print("No Matching Resulr")
        continue
    item = listres[0]
    hotel_res = item.find('h2', class_="p-searchResultItem__facilityName").text
    Goto = item.find('span', class_="c-label p-searchResultItem__campaignLabelEm")
    if Goto != None:
        strGoto = Goto.text
    else:
        strGoto=""

    driver.find_element_by_link_text(hotel_res).click()
    time.sleep(5)
    # タブ
    driver.switch_to.window(driver.window_handles[1])
    spSerach = getBFData(driver.current_url)
    time.sleep(5)
    driver.find_element_by_class_name('tab_02').click()
    time.sleep(5)

    spHotel = getBFData(driver.current_url)
    syosaiURL = driver.current_url
    listPlan = spHotel.find_all('li', class_="p-planCassette p-searchResultItem js-searchResultItem")

    for whole_plan in listPlan:
        Nmplan = whole_plan.find('p', class_="p-searchResultItem__catchPhrase").text.replace("\n", "")
        listPlan_Child1 = whole_plan.find('div', class_="p-planCassette__body p-searchResultItem__body")
        listPlan_Child2 = listPlan_Child1.find_all('td', class_="p-searchResultItem__perPersonCell")
        listpricestring = []
        for price in listPlan_Child2:
            listpricestring.append(price.text.replace("\n", "").replace(" ", "").replace(",", ""))

        listplan = whole_plan.find_all('div', class_="p-searchResultItem__planNameAndHorizontalLabels")
        listPlanString = []
        idx = 0
        for plan in listplan:
            stroutputCSV = []
            stroutputCSV.append(hotel)
            stroutputCSV.append(hotel_res)
            stroutputCSV.append(syosaiURL)
            stroutputCSV.append(strGoto)
            stroutputCSV.append(Nmplan)
            strroom = plan.text.replace("\n", "")
            stroutputCSV.append(strroom)

            strroomtype = whole_plan.find('li', class_="c-label--room")
            if strroomtype!= None:
                stroutputCSV.append(strroomtype.text.replace("\n", ""))
            else:
                stroutputCSV.append("不明")

            streat = whole_plan.find('dd', class_="c-label c-label--meal p-mealType__value")
            if streat!= None:
                stroutputCSV.append(streat.text.replace("\n", ""))
            else:
                stroutputCSV.append("飯無し")

            strNumberPeople = whole_plan.find('th',
                                              class_="p-searchResultItem__headCell p-searchResultItem__headCell--numberOfPeople")
            if strNumberPeople!= None:
                strNumberPeople.append(strNumberPeople.text.replace("\n", ""))
            else:
                stroutputCSV.append("何人単位の金額か不明")
            stroutputCSV.append(listpricestring[idx])

            stroption = plan.find_all('li', class_="c-label p-searchResultItem__horizontalLabel")
            stropt = ""
            for opt in stroption:
                stropt += opt.text.replace("\n", "") + " "
            stroutputCSV.append(stropt)
            idx += 1

            print(stroutputCSV)
            f.write(",".join(stroutputCSV) + "\n")

    driver.quit()
f.close()

記事概要

※記載内容についてご指摘いただき、内容を大幅修正中の為注意(2020/09/17 20:30)※

Pythonを少しでも読めるようになってみようと思い、参考書に沿って学習した備忘録になります。
Javaと比較して自身が気になった点、便利と感じた点をまとめております。
その1はこちら
その2はこちら
※かなり基礎的な内容になります。

クラス

クラスの概念自体はそこまで大きく違わない認識です。
クラス定義方法については、例を下記に記載してみます。

例

java

class SampleClass {
    //クラス処理
}

python

class SampleClass:
    #クラス処理

インスタンス化

クラスをインスタンス化する。
扱いはJavaとほとんど変わらない。はず

java

SampleClass sClass = new SampleClass();

python

sClass = SampleClass()

アトリビュート

Javaで言うインスタンス変数のようなもの（？）。
インスタンスに対してアトリビュートを追加できる。

python

sClass.attr = "あとりびゅーと"
print(sClass.attr)
>>あとりびゅーと

クラスのメソッド定義

クラスメソッドに引数を追加する場合には、第一引数にselfを追加する。

selfを使うとインスタンス自体を操作できる

例

java

class SampleClass {
    int counter = 0;

    int count(int a) {
        counter += a;
    }
}

python

class SampleClass:
    counter = 0;

    def count(self, a):
        self.counter += a

初期化メソッド

初期化メソッドは__init__(特殊メソッド)を使用する。

例

java

publiv class Human {
    String name;
    String birthday;

    public Human(String name, String birthday) {
        this.name = name;
        this.birthday = birthday;
    }
}

python

class Human:
    name = None
    birthday = None

    def __init__(self, name, birthday):
        self.__name = name
        self.__birthday = birthday

カプセル化

カプセル化を行うにはメソッドやアトリビュートの前に__(アンダースコア2つ)をつける。
__を付けることで外部からのアクセスを禁止することが出来る。
メソッドやアトリビュートの前に_(アンダースコア1つ)を付けた場合には慣習として、
「クラス内部でのみ使用するので、外部からアクセスしないでね」といった意味を持つ(らしい)。

※調べていたらアンダースコアは色々意味があるそうです。参考文献に調べた際の記事などリンク載せています。
初学者のためのPython講座　オブジェクト指向編7　カプセル化
Lesson 12　クラスの定義 ― Python基礎文法入門
pythonのアンダーバーこれなんやねん

例

java

publiv class Human {
    private String name;
    private String birthday;

    public Human(String name, String birthday) {
        this.name = name;
        this.birthday = birthday;
    }

    public getName() {
        return this.name;
    }

    public getBirthday() {
        return this.birthday;
    }

    public setName(String name) {
        this.name = name;
    }

    public setBirthday(String birthday) {
        this.birthday = birthday;
    }
}

python

class Human:
    __name = None
    __birthday = None

    def __init__(self, name, birthday):
        self.__name = name
        self.__birthday = birthday

    def getName(self):
        return self.__name

    def getAge(self):
        return self.__birthday

    def setName(self, name):
        self.__name = name

    def setAge(self, birthday):
        self.__birthday = birthday    

継承

Pythonは多重継承が可能。
多重継承する場合には、,で区切ってクラス名を指定する。

例

java

public class SuperMan extends Human {
    private String ability;

    public getAbility() {
        return this.age;
    }

    public setAbility(String ability) {
        this.ability = ability;
    }

python

class SuperMan(Human): #多重継承の場合SuperMan(Human, Man)のような感じで定義する
    __ability = None

    def getAbility(self):
        return self.__ability

    def setAbility(self, ability):
        self.__ability = ability

スロット

アトリビュートの追加を制限することが出来る特殊メソッド
__slots__ = [アトリビュート名1, アトリビュート名2, ...]

メモリの使用効率をよくする

python

class Profile:
    __slots__ = ['height', 'weight', 'bloodType']

    def __init__(self, bloodType):
        self.bloodType = bloodType

a = Profile('A')
print(a.bloodType)
>>A

#slotsに定義されているアトリビュート
a.height = 170
a.weight = 60

a.constellation = 'Aries'
>>エラーが発生する

プロパティ

getter,setterを簡単に定義するための組み込み関数。
非公開のアトリビュートへのアクセス制御を簡単に行う。
property(getterメソッド名, [setterメソッド名])

python

class Human:
    __name = None    
    def __init__(self, name):
        self.__name = name

    def getName(self):
        return self.__name

    def setName(self, name):
        self.__name = name
    propName = property(getName, setName)

#代入を行うと、propertyで設定したsetterが動作する
propName = 'takeshi'
#取り出しを行うと、propertyで設定したsetterが動作する
print(propName)
>>takeshi

あとがき

Pythonのデメリットについて調べると、実行速度の遅さが出てきました。
今回まとめた__slots__はそのデメリットを改善するために必要なことだと感じました。
Pythonらしい機能を適切に使えるよう理解を進めていきたいと思います。

参考文献

参考書
柴田淳(2016)「みんなのPython 第4版」SBクリエイティブ株式会社

公式リファレンス
Python公式リファレンス

データ型について
Pythonの組み込みデータ型の分類表（ミュータブル等）

アンダースコアについて
初学者のためのPython講座　オブジェクト指向編7　カプセル化
Lesson 12　クラスの定義 ― Python基礎文法入門
pythonのアンダーバーこれなんやねん

要約

• 目的：異なる時系列データの類似度を測る
• キーワード：動的時間伸縮法 / Dynamic Time Warping (以下、DTW),Derivative Dynamic Time Warping (以下、DDTW)
• 参照1.：Derivative DTW ~時系列パターンの類似度計算の手法~ by Tech Blog
• 参照2.：DTW(Dynamic Time Warping)動的時間伸縮法 by S-Analysis
• 参照3.：DTW (動的時間伸縮法)の実装 by ksknw
• 参照4.：fastdtwの使い方

DTW

DTWの求め方

1. ２つの時系列の各点の距離(データの次元にもよるが、今回は絶対値)を計算した(コスト)行列を作成

   \begin{align}
   time\ series\ T&:t_0,t_1,...,t_N,\\
   time\ series\ S&:s_0,s_1,...,s_M,\\
   \boldsymbol{W}&:=(\delta(i,j)) ,\\
   where\ \delta(t_i,s_j)&:=|t_i-s_j|,i \in \{0,1,...,N\},j\in\{0,1,...,M\} 
   \end{align}
   

2. この行列上を(0,0)から(N,M)を通るパスで単調性増加性を満たすものを考える。

   \begin{align}
   path\ \tau :\tau(0)=(0,0),\tau(1),...,\tau(p)=(p_i,p_j),...,\tau(K),\\
   where\ p_i \in \{0,1,...,N\},p_j\in\{0,1,...,M\}.
   \end{align}
   

   特に、この$path\ \tau$で単調性増加性を満たすようなものを考える。

   \tau(p) \leq \tau(q) \Longleftrightarrow^{def} p_i\leq q_i\ or\ p_j\leq q_j.\\
   if\ p\leq q,then\ \tau(p) \leq \tau(q).
   

3. この$path$が通る行列$\boldsymbol{W}$の要素の和で最少となる値をDTWのコストとする。

   \begin{align}
   cost(\tau)&:=\sum_{p}\delta(p_i,p_j)\\
   Dist(T,S)&:=min_{\tau}cost(\tau)
   \end{align}
   

   下図はDerivative Dynamic Time Warping by Eamonnから
   

公式の式とは違うが、こんな感じでしょう。
テストコード：参照3

# 準備
pip install fastdtw # <= pipは実際こいつだけでよい
pip install numpy
pip install scipy

##code##
import numpy as np
from scipy.spatial.distance import euclidean
from fastdtw import fastdtw
A = np.sin(np.array(range(T)) / 10)
B = np.sin((np.array(range(T)) / 10 + t * np.pi))
C = np.zeros((T))
distance, path = fastdtw(A, B, dist=euclidean)
print(distance)
plt.plot(A)
plt.plot(B)
for i, j in path:
   plt.plot([i, j], [A[i], B[j]],color='gray', linestyle='dotted')
plt.legend(["sin(θ)", "sin(θ+150*pi)"], fontsize=10, loc=2)
plt.show()

##結果##
sin(θ)-sin(θ+150*pi): 0.6639470476737607
sin(θ)-constant: 0.5150026855435942
DTW(sin(θ), sin(θ+150*pi)): 16.720461687388624
DTW(sin(θ), constant): 97.26964355198544

DTWのメリット

時系列同士の長さや周期が違っても類似度が求まる

DTWのデメリット

時間軸に関して局所的に加速、減速した部分がある時系列データに対して、直観とは違うアライメントが行われてしまう：
参照：Derivative Dynamic Time Warping by Eamonn等

例えば、一方がs高になった場合、DTWはデータ形状を無視してアライメントするため、s高のデータ点はs高前のデータ点とペアの物と対応付けてしまうのが原因

DDTW

DTWを受けて、形状を捉えた情報加味して類似度を測る。
実際には時系列データ$time\ series\ T:t_0,t_1,...,t_N$を以下のように加工した後、DTWする:

T^*:t^*_0,t^*_1,...,t^*_N,\\
where\ t^*_i :=  \frac{t_i-t_{i-1}+\frac{t_{i+1}-t_{i-1}}{2}}{2}=  \frac{t_i-t_{i-1}+\frac{(t_{i+1}-t_i)+(t_i-t_{i-1})}{2}}{2}

この加工は、注目する点$t_i$に関して、左微分$t_i-t_{i-1}$と右微分$t_{i+1}-t_i$の平均と左微分の平均を出したものである。
この加工をDTWするのがDDTWである。

DDTWのメリット

上昇トレンドや下降トレンドなどの形状を考慮した類似度が算出できる

DDTWのデメリット

傾きの平均でよいのだろうか？

code

from concurrent.futures import ProcessPoolExecutor
from concurrent.futures import ThreadPoolExecutor
import time
import numpy as np
import pylab as plt
import seaborn as sns
from fastdtw import fastdtw
from scipy.spatial.distance import euclidean


def get_test_curves(view=False):
    T = 150
    t = .4

    A = np.sin(np.array(range(T)) / 10)
    B = np.sin((np.array(range(T)) / 10 + t * np.pi))
    C = np.zeros((T))
    if view:
        plt.plot(A)
        plt.plot(B)
        plt.plot(C)
        plt.legend(['sin(θ)', 'sin(θ+150*pi)', 'constant'], fontsize=10, loc=2)
        plt.show()

    return {'name': 'sin(θ)', 'data': A}, {'name': 'sin(θ+150*pi)', 'data': B}, {'name': 'constant', 'data': C}


def mse(a, b):
    return ((a-b)**2).mean()


def get_DWT_results(T, S, skip=1, view=False):
    T_data, S_data = T['data'], S['data']
    T_name, S_name = T['name'], S['name']
    distance, path = fastdtw(T_data, S_data, dist=euclidean)
    print("DTW({}, {}):".format(T_name, S_name), distance)
    if view:
        plt.plot(T_data)
        plt.plot(S_data)
        k = -1
        for i, j in path:
            k += 1
            if k % skip == 0:
                plt.plot([i, j], [T_data[i], S_data[j]],
                         color='gray', linestyle='dotted')
        plt.legend([T_name, S_name], fontsize=10, loc=2)
        plt.title('DWT plot result')
        plt.show()

    return distance, path


def get_derivative(T):
    diff = np.diff(T)
    next_diff = np.append(np.delete(diff, 0), 0)
    avg = (next_diff + diff) / 2
    avg += diff
    avg /= 2
    return np.delete(avg, -1)


def get_DDWT_results(T, S, skip=1, view=False):
    T_data, S_data = T['data'], S['data']
    dT_data = get_derivative(T_data)
    dS_data = get_derivative(S_data)
    T_name, S_name = T['name'], S['name']
    distance, path = fastdtw(dT_data, dS_data, dist=euclidean)
    print("DDTW({}, {}):".format(T_name, S_name), distance)
    if view:
        plt.plot(T_data)
        plt.plot(S_data)
        k = -1
        for i, j in path:
            k += 1
            if k % skip == 0:
                plt.plot([i+1, j+1], [T_data[i+1], S_data[j+1]],
                         color='gray', linestyle='dotted')
        plt.legend([T_name, S_name], fontsize=10, loc=2)
        plt.title('DDWT plot result')
        plt.show()

    return distance, path


def get_test_curves_DDTWvsDWT(view=False):
    T = 150
    t = .4
    A = np.zeros((T))
    B = np.zeros((T))
    # A = np.sin(np.array(range(T)) / 10)
    # B = np.sin(np.array(range(T)) / 10+2)+50
    s_i = 50
    e_i = 60
    for i in range(s_i, e_i, 1):
        A[i] = np.sin(np.pi*(i-s_i)/(e_i-s_i))
    #     B[i] = -2.2
    if view:
        plt.plot(A)
        plt.plot(B)
        plt.legend(['sin(θ)', 'sin(θ+150*pi)'], fontsize=10, loc=2)
        plt.show()

    return {'name': 'down', 'data': A}, {'name': 'up', 'data': B}


def main():
    print("=== main ===")
    # A, B, C = get_test_curves()
    A, B = get_test_curves_DDTWvsDWT()

    # A["data"] = np.array([2, 0, 1, 1, 2, 4, 2, 1, 2, 0])
    # B["data"] = np.array([1, 1, 2, 4, 2, 1, 2, 0])

    print("{}-{}:".format(A['name'], B['name']), mse(A['data'], B['data']))
    # print("{}-{}:".format(A['name'], C['name']), mse(A['data'], C['data']))
    # DTWを計算
    get_DWT_results(A, B, skip=5)
    get_DDWT_results(A, B, skip=5)


if __name__ == "__main__":
    main()

応用記事

DTW(Dynamic Time Warping)動的時間伸縮法 by 白浜公章で2,940社の日本企業の株価変動のクラスタリングをDTWとDDTWを使い、結果の違いを比較。使用データは"トムソン・ロイター　データストリーム"を使用。DTW+DDTWが株価データを分類・解析するには最適な類似尺度であることを（目視による）定性的評価により結論付けている。

参照3はコードも実験も載っていてかなり参考になる。気温のデータに適用。

また、k-shapeなるものがあるそうです。これは読んでいないが、距離を相互相関とし、k-meansを使いクラスタリングを行う。

感想

実際に時系列データをDTW/DDTWを使ってクラスタリングをしてみたが上手くいかなかった。
あまり、理解ができていないのが原因である。
ご指摘等ありましたらよろしくお願いいたします。

最近強化学習にハマってます。強化学習やってると, やっぱり棒を立てたくなってしまうのが男ってもんですよね。というわけで, 前回に引き続きOpenAIGymのCartPoleをやってみたので紹介します。

前回の記事　強化学習で山を登りたい

SARSA学習法とは

前回の記事で触れたQ学習ですが, 今回はSARSAという手法を用いたいと思います。ではおさらいです。強化学習における状態行動価値Qの更新は,

$$\begin{aligned}Q\left( s_{t},a_{t}\right) \ \leftarrow Q\left( s_{t},a_{t}\right) \ +\alpha \left( G_{t}-Q\left( s_{t},a_{t}\right) \right) \end{aligned}$$

を一回の状態遷移ごとに行います。SARSAとQ学習の違いは, この$G_{t}$の決め方です。

Q学習の場合
$$G_{t}=r_{t+1}+\gamma\max_{a\in At}[Q(s_{t+1},a)]$$

SARSAの場合
$$G_{t}=r_{t+1}+\gamma Q(s_{t+1},a_{t+1}^{\pi})$$

ここで, $a_{t+1}^{\pi}$とは, 状態$s_{t+1}$において方策に従って次の行動を選んだときの行動を示しています。以上からわかることは, Q学習では値の更新にmaxを使っている, つまり得られるであろう最大の状態価値を用いて更新を行っているいはば楽観的な学習方法であることに対し, SARSAでは, 次の行動を考慮に入れているため, より現実的な方策の決定方法になっています。今回は, これらの比較も行っていきます。

CartPoleルール

この棒を長い間(200step)立て続ければクリアという形式です。与えられる状態は四つで, 台車の位置, 台車の速度, ポールの角度, ポールの角速度が与えられます。行動は, 左に台車を押す:0, 右に押す:1の2つに制限されます。ポールの角度が12度以上傾くか, 200ステップ耐久で終了です。

実装

まずはライブラリをインポートします。

import gym
from gym import logger as gymlogger
gymlogger.set_level(40) #error only
import numpy as np
import matplotlib
import matplotlib.pyplot as plt
%matplotlib inline
import math
import glob
import io
import base64

学習を実装するクラスSARSAを定義します。

class SARSA:
    def __init__(self, env):
        self.env = env
        self.env_low = self.env.observation_space.low # 状態最小値
        self.env_high = self.env.observation_space.high #　状態最大値

        tmp = [7,7,7,7] #状態を7つの状態に分ける
        self.env_dx = [0,0,0,0]
        self.env_dx[0] = (self.env_high[0] - self.env_low[0]) / tmp[0]
        self.env_dx[1] = (self.env_high[1] - self.env_low[1]) / tmp[1]
        self.env_dx[2] = (self.env_high[2] - self.env_low[2]) / tmp[2]
        self.env_dx[3] = (self.env_high[3] - self.env_low[3]) / tmp[3]

        self.q_table = np.zeros((tmp[0],tmp[1],tmp[2],tmp[3],2)) #状態価値関数の初期化

    def get_status(self, _observation): #状態を離散化する

        s1 = int((_observation[0] - self.env_low[0])/self.env_dx[0]) #7つの状態のいづれかに落とし込む

        if _observation[1] < -1.5: #自分で分類する
          s2 = 0
        elif -1.5 <= _observation[1] < - 1:
          s2 = 1
        elif -1 <= _observation[1] < -0.5:
          s2 = 2
        elif -0.5 <= _observation[1] < 0.5:
          s2 = 3
        elif 0.5 <= _observation[1] < 1.5:
          s2 = 4
        elif 1.5 <= _observation[1] < 2:
          s2 = 5
        elif 2 <= _observation[1]:
          s2 = 6

        s3 = int((_observation[2] - self.env_low[2])/self.env_dx[2]) #7つの状態のいづれかに落とし込む

        if _observation[3] < -1: #自分で分類する
          s4 = 0
        elif -1 <= _observation[3] < -0.7:
          s4 = 1
        elif -0.7 <= _observation[3] < -0.6:
          s4 = 2
        elif -0.6 <= _observation[3] < -0.5:
          s4 = 3
        elif -0.5 <= _observation[3] < -0.4:
          s4 = 4
        elif -0.4 <= _observation[3] < -0.4:
          s4 = 5
        else:
          s4 = 6

        return s1, s2, s3, s4

    def policy(self, s, epi): #状態sにおける行動を選択する

        epsilon = 0.5 * (1 / (epi + 1))

        if np.random.random() <= epsilon:
            return np.random.randint(2) #ランダムに選ぶ
        else:
            s1, s2, s3, s4 = self.get_status(s)
            return np.argmax(self.q_table[s1][s2][s3][s4]) #行動価値が最大の行動を選択する

    def learn(self, time = 200, alpha = 0.5, gamma = 0.99): #time回数だけ学習を行う

        log = [] #1エピソードごとの合計報酬を記録
        t_log = [] #1エピソードごとのステップ数を記録

        for j in range(time+1):
            t = 0 #ステップ数
            total = 0 #合計報酬
            s = self.env.reset()
            done = False

            while not done:
                t += 1
                a = self.policy(s, j)
                next_s, reward, done, _ = self.env.step(a)

                reward = t/10 #長い間耐久すればするほど報酬は増える

                if done:
                  if t < 195:
                    reward -= 1000 #耐久に失敗したら罰則
                  else:
                    reward = 1000 #成功時はもっと報酬を与える

                total += reward


                s1, s2, s3, s4 = self.get_status(next_s)
                G = reward + gamma * self.q_table[s1][s2][s3][s4][self.policy(next_s, j)] #累積報酬の計算

                s1, s2, s3, s4 = self.get_status(s)
                self.q_table[s1][s2][s3][s4][a] += alpha*(G - self.q_table[s1][s2][s3][s4][a]) #Qの更新
                s = next_s

            t_log.append(t)
            log.append(total)

            if j %1000 == 0:
              print(str(j) + " ===total reward=== : " + str(total))

        return plt.plot(t_log)

    def show(self): #学習結果を表示
        s = self.env.reset()
        img = self.env.render()
        done = False
        t = 0
        while not done:
          t += 1
          a = self.policy(s, 10000)
          s, _, done, _ = self.env.step(a)
          self.env.render()

        print(t)
        self.env.reset()
        self.env.close()

困ったポイント

ここで自分がつまずいたところを紹介します。initのところで, env_dxで四つの状態それぞれについて, 離散化するための前準備をしているのですが, ここである問題が生じました. レファレンスをよく見ると,

速度の値の可変領域がinfです。そう, 無限なんです!

これでは, env_dxの値も無限になってしまって, 連続値の離散化がうまくいきません。そこで,

from random import random
env.step(random.randint(2))

を何度も実行して, 台車の速度, それからポールの角速度の変異を観察しました。すると,

if _observation[1] < -1.5: #台車の速度
          s2 = 0
        elif -1.5 <= _observation[1] < - 1:
          s2 = 1
        elif -1 <= _observation[1] < -0.5:
          s2 = 2
        elif -0.5 <= _observation[1] < 0.5:
          s2 = 3
        elif 0.5 <= _observation[1] < 1.5:
          s2 = 4
        elif 1.5 <= _observation[1] < 2:
          s2 = 5
        elif 2 <= _observation[1]:
          s2 = 6

        if _observation[3] < -1: #ポールの角速度
          s4 = 0
        elif -1 <= _observation[3] < -0.7:
          s4 = 1
        elif -0.7 <= _observation[3] < -0.6:
          s4 = 2
        elif -0.6 <= _observation[3] < -0.5:
          s4 = 3
        elif -0.5 <= _observation[3] < -0.4:
          s4 = 4
        elif -0.4 <= _observation[3] < -0.4:
          s4 = 5
        else:
          s4 = 6

こんな感じで分類できそうということに気づきました。

学習

そんなこんなで学習。3000回くらいで余裕っしょってことで。

env = gym.make('CartPole-v0')
agent = SARSA(env)
agent.learn(time = 3000)

ステップ数の変化はこんな感じです。

さて, agent.show()でアニメーションで確認してみましょう。

かなり安定していて持続力がすごいですね。これでめでたく男になれました。

Q学習vsSARSA

この環境においてQ学習とSARSAを比較してみます。Q学習ではGを

G = reward + gamma * max(self.q_table[s1][s2][s3][s4])

のようにします。これで学習してみると,

収束の安定性が, SARSAの方が一枚上手に見えます。男ならSARSAのように現実をみろってことですね。はい。

感想

この環境だと, 状態の離散化が一番大変なところなのかなと思いました。そこを解決していくという点でDQNが誕生したみたいですね。次回はDQNを組んでみようかなと思います。ではまた！

最近強化学習にハマってます。強化学習やってると, やっぱり棒を立てたくなってしまうのが男ってもんですよね。というわけで, 前回に引き続きOpenAIGymのCartPoleをやってみたので紹介します。

前回の記事　強化学習で山を登りたい

SARSA学習法とは

前回の記事で触れたQ学習ですが, 今回はSARSAという手法を用いたいと思います。ではおさらいです。強化学習における状態行動価値Qの更新は,

$$\begin{aligned}Q\left( s_{t},a_{t}\right) \ \leftarrow Q\left( s_{t},a_{t}\right) \ +\alpha \left( G_{t}-Q\left( s_{t},a_{t}\right) \right) \end{aligned}$$

を一回の状態遷移ごとに行います。SARSAとQ学習の違いは, この$G_{t}$の決め方です。

Q学習の場合
$$G_{t}=r_{t+1}+\gamma\max_{a\in At}[Q(s_{t+1},a)]$$

SARSAの場合
$$G_{t}=r_{t+1}+\gamma Q(s_{t+1},a_{t+1}^{\pi})$$

ここで, $a_{t+1}^{\pi}$とは, 状態$s_{t+1}$において方策に従って次の行動を選んだときの行動を示しています。以上からわかることは, Q学習では値の更新にmaxを使っている, つまり得られるであろう最大の状態価値を用いて更新を行っているいはば楽観的な学習方法であることに対し, SARSAでは, 次の行動を考慮に入れているため, より現実的な方策の決定方法になっています。今回は, これらの比較も行っていきます。

CartPoleルール

この棒を長い間(200step)立て続ければクリアという形式です。与えられる状態は四つで, 台車の位置, 台車の速度, ポールの角度, ポールの角速度が与えられます。行動は, 左に台車を押す:0, 右に押す:1の2つに制限されます。ポールの角度が12度以上傾くか, 200ステップ耐久で終了です。

実装

まずはライブラリをインポートします。

import gym
from gym import logger as gymlogger
gymlogger.set_level(40) #error only
import numpy as np
import matplotlib
import matplotlib.pyplot as plt
%matplotlib inline
import math
import glob
import io
import base64

学習を実装するクラスSARSAを定義します。

class SARSA:
    def __init__(self, env):
        self.env = env
        self.env_low = self.env.observation_space.low # 状態最小値
        self.env_high = self.env.observation_space.high #　状態最大値

        tmp = [7,7,7,7] #状態を7つの状態に分ける
        self.env_dx = [0,0,0,0]
        self.env_dx[0] = (self.env_high[0] - self.env_low[0]) / tmp[0]
        self.env_dx[1] = (self.env_high[1] - self.env_low[1]) / tmp[1]
        self.env_dx[2] = (self.env_high[2] - self.env_low[2]) / tmp[2]
        self.env_dx[3] = (self.env_high[3] - self.env_low[3]) / tmp[3]

        self.q_table = np.zeros((tmp[0],tmp[1],tmp[2],tmp[3],2)) #状態価値関数の初期化

    def get_status(self, _observation): #状態を離散化する

        s1 = int((_observation[0] - self.env_low[0])/self.env_dx[0]) #7つの状態のいづれかに落とし込む

        if _observation[1] < -1.5: #自分で分類する
          s2 = 0
        elif -1.5 <= _observation[1] < - 1:
          s2 = 1
        elif -1 <= _observation[1] < -0.5:
          s2 = 2
        elif -0.5 <= _observation[1] < 0.5:
          s2 = 3
        elif 0.5 <= _observation[1] < 1.5:
          s2 = 4
        elif 1.5 <= _observation[1] < 2:
          s2 = 5
        elif 2 <= _observation[1]:
          s2 = 6

        s3 = int((_observation[2] - self.env_low[2])/self.env_dx[2]) #7つの状態のいづれかに落とし込む

        if _observation[3] < -1: #自分で分類する
          s4 = 0
        elif -1 <= _observation[3] < -0.7:
          s4 = 1
        elif -0.7 <= _observation[3] < -0.6:
          s4 = 2
        elif -0.6 <= _observation[3] < -0.5:
          s4 = 3
        elif -0.5 <= _observation[3] < -0.4:
          s4 = 4
        elif -0.4 <= _observation[3] < -0.4:
          s4 = 5
        else:
          s4 = 6

        return s1, s2, s3, s4

    def policy(self, s, epi): #状態sにおける行動を選択する

        epsilon = 0.5 * (1 / (epi + 1))

        if np.random.random() <= epsilon:
            return np.random.randint(2) #ランダムに選ぶ
        else:
            s1, s2, s3, s4 = self.get_status(s)
            return np.argmax(self.q_table[s1][s2][s3][s4]) #行動価値が最大の行動を選択する

    def learn(self, time = 200, alpha = 0.5, gamma = 0.99): #time回数だけ学習を行う

        log = [] #1エピソードごとの合計報酬を記録
        t_log = [] #1エピソードごとのステップ数を記録

        for j in range(time+1):
            t = 0 #ステップ数
            total = 0 #合計報酬
            s = self.env.reset()
            done = False

            while not done:
                t += 1
                a = self.policy(s, j)
                next_s, reward, done, _ = self.env.step(a)

                reward = t/10 #長い間耐久すればするほど報酬は増える

                if done:
                  if t < 195:
                    reward -= 1000 #耐久に失敗したら罰則
                  else:
                    reward = 1000 #成功時はもっと報酬を与える

                total += reward


                s1, s2, s3, s4 = self.get_status(next_s)
                G = reward + gamma * self.q_table[s1][s2][s3][s4][self.policy(next_s, j)] #累積報酬の計算

                s1, s2, s3, s4 = self.get_status(s)
                self.q_table[s1][s2][s3][s4][a] += alpha*(G - self.q_table[s1][s2][s3][s4][a]) #Qの更新
                s = next_s

            t_log.append(t)
            log.append(total)

            if j %1000 == 0:
              print(str(j) + " ===total reward=== : " + str(total))

        return plt.plot(t_log)

    def show(self): #学習結果を表示
        s = self.env.reset()
        img = self.env.render()
        done = False
        t = 0
        while not done:
          t += 1
          a = self.policy(s, 10000)
          s, _, done, _ = self.env.step(a)
          self.env.render()

        print(t)
        self.env.reset()
        self.env.close()

困ったポイント

ここで自分がつまずいたところを紹介します。initのところで, env_dxで四つの状態それぞれについて, 離散化するための前準備をしているのですが, ここである問題が生じました. レファレンスをよく見ると,

速度の値の可変領域がinfです。そう, 無限なんです!

これでは, env_dxの値も無限になってしまって, 連続値の離散化がうまくいきません。そこで,

from random import random
env.step(random.randint(2))

を何度も実行して, 台車の速度, それからポールの角速度の変異を観察しました。すると,

if _observation[1] < -1.5: #台車の速度
          s2 = 0
        elif -1.5 <= _observation[1] < - 1:
          s2 = 1
        elif -1 <= _observation[1] < -0.5:
          s2 = 2
        elif -0.5 <= _observation[1] < 0.5:
          s2 = 3
        elif 0.5 <= _observation[1] < 1.5:
          s2 = 4
        elif 1.5 <= _observation[1] < 2:
          s2 = 5
        elif 2 <= _observation[1]:
          s2 = 6

        if _observation[3] < -1: #ポールの角速度
          s4 = 0
        elif -1 <= _observation[3] < -0.7:
          s4 = 1
        elif -0.7 <= _observation[3] < -0.6:
          s4 = 2
        elif -0.6 <= _observation[3] < -0.5:
          s4 = 3
        elif -0.5 <= _observation[3] < -0.4:
          s4 = 4
        elif -0.4 <= _observation[3] < -0.4:
          s4 = 5
        else:
          s4 = 6

こんな感じで分類できそうということに気づきました。

学習

そんなこんなで学習。3000回くらいで余裕っしょってことで。

env = gym.make('CartPole-v0')
agent = SARSA(env)
agent.learn(time = 3000)

ステップ数の変化はこんな感じです。

さて, agent.show()でアニメーションで確認してみましょう。

かなり安定していて持続力がすごいですね。これでめでたく男になれました。

Q学習vsSARSA

この環境においてQ学習とSARSAを比較してみます。Q学習ではGを

G = reward + gamma * max(self.q_table[s1][s2][s3][s4])

のようにします。これで学習してみると,

収束の安定性が, SARSAの方が一枚上手に見えます。男ならSARSAのように現実をみろってことですね。はい。

感想

この環境だと, 状態の離散化が一番大変なところなのかなと思いました。そこを解決していくという点でDQNが誕生したみたいですね。次回はDQNを組んでみようかなと思います。ではまた！

概要

勉強会にて以下の本を参考に、画像データを用いた教師あり学習Webアプリを構築しました。

実践で学ぶ機械学習活用ガイド

作成したアプリは以下になります。
URL:https://pokemonclassfication.herokuapp.com/

ポケモンの画像をアップロードすると画像を分類し、推測されるポケモンの情報を表示します。分析モデルにAzureのCustom Visionを活用し、WebフレームワークにはFlaskを活用しています。

本記事では主に以下を記載します。
1. GoogleImageCrawlerで画像データ収集スクリプトの作成
2. Custom Visonで分析モデルの構築
3. モデルの検証
4. Custom Vision APIを活用する実装

Flaskの実装に関する詳細な解説などは、参考にした本「実践で学ぶ機械学習活用ガイド」や「公式リファレンス」を読むことを推奨します。

Webアプリのコードはこちら：ポケモン画像分類アプリのコード

1. GoogleImageCrawlerで画像データ収集スクリプトの作成

教師あり学習で画像分類モデルを構築するためには、大量の画像が必要です。
やはり画像を手動で集めるのは、工数の無駄なのである程度は自動化したいです。
※自動で収集した画像、モデルに有用ではない画像も含まれてしまうので最終的にはある程度手動で選抜する作業など必要になります。

画像収集スクリプトはPythonのパッケージである icrawler を活用します。
ただ収集するのではなく、収集した画像の2割をテストデータとするため、フォルダを分けて収集しています。
活用したコードは以下になります。

collect_img_poke.py

import os
import glob
import random
import shutil
from icrawler.builtin import GoogleImageCrawler

#画像を保存するルートディレクトリ
root_dir = 'pokemon/'
#ポケモン画像検索キーワードリスト
pokemonnames = ['ピカチュウ','ゼニガメ','ヒトカゲ','フシギダネ','カビゴン']

#収集画像データ数
data_count = 100

for pokemonname in pokemonnames:
    crawler = GoogleImageCrawler(storage={'root_dir':root_dir + pokemonname + '/train'})

    filters = dict(
        size = 'large',
        type = 'photo'
    )

    #クローリングの実行
    crawler.crawl(
        keyword=pokemonname,
        filters=filters,
        max_num=data_count
    )

    #前回実行時のtestディレクトリが存在する場合、ファイルをすべて削除する

    if os.path.isdir(root_dir + pokemonname + '/test'):
        shutil.rmtree(root_dir + pokemonname + '/test')
    os.makedirs(root_dir + pokemonname + '/test')

    #ダウンロードファイルのリストを取得
    filelist = glob.glob(root_dir + pokemonname + '/train/*')
    #ダウンロード数の2割をtestデータとして抽出
    test_ratio = 0.2
    testfiles = random.sample(filelist, int(len(filelist) * test_ratio))

    for testfile in testfiles:
        shutil.move(testfile, root_dir + pokemonname + '/test/')

上記は、実践で学ぶ機械学習活用ガイドに記載している内容とほぼ同じです。
しかし、このコードだけでは2020年9月13日時点ではうまくいきません。

Google画像検索のAPIが変更されたのが原因だそうです。
この回避策を記載します。参考: Google Crawler is down #65

/icrawler/builtin/google.py の parseメソッドを以下のように変更すれば良いそうです。
コメントアウトしている内容が変更前の内容になります。

def parse(self, response):
    soup = BeautifulSoup(
        response.content.decode('utf-8', 'ignore'), 'lxml')
    #image_divs = soup.find_all('script')
    image_divs = soup.find_all(name='script')
    for div in image_divs:
        #txt = div.text
        txt = str(div)
        #if not txt.startswith('AF_initDataCallback'):
        if 'AF_initDataCallback' not in txt:
            continue
        if 'ds:0' in txt or 'ds:1' not in txt:
            continue
        #txt = re.sub(r"^AF_initDataCallback\({.*key: 'ds:(\d)'.+data:function\(\){return (.+)}}\);?$",
        #             "\\2", txt, 0, re.DOTALL)
        #meta = json.loads(txt)
        #data = meta[31][0][12][2]
        #uris = [img[1][3][0] for img in data if img[0] == 1]

        uris = re.findall(r'http.*?\.(?:jpg|png|bmp)', txt)
        return [{'file_url': uri} for uri in uris]

icrawlerが実際にあるディレクトリは以下の方法などで確認できます。

>>import icrawler
>>icrawler.__path__
['/~~~~~~~~/python3.7/site-packages/icrawler']

ちなみに以下のような階層になっているとおもいます。

├── pokemon
│   ├── ピカチュウ
│   │   ├── test
│   │   └── train
│   ├── ヒトカゲ
│   │   ├── test
│   │   └── train
│   ├── ゼニガメ
│   │   ├── test
│   │   └── train
│   ├── フシギダネ
│   │   ├── test
│   │   └── train
│   └── カビゴン
│       ├── test
│       └── train
│
└── collect_img_poke.py

2. Custom Visonで分析モデルの構築

Custom VisionはAzureサービスの1つで画像分類分析モデルをノンプログラミングで構築することができます。
また、APIとして公開が容易なのも特徴です。
こちら活用する場合、Azureのサブスクリプションを持つ必要があります。一ヶ月は無料で使えます。
Azure 登録
Custom Visionポータル

Custom VisionをGUIで構築する手順は以下を参考にしています。
クイック スタート:Custom Vision で分類子を構築する方法

以下、Custom VisionポータルにSign IN後の簡単な手順です。
1. 最初のプロジェクトを作成するには、 [新しいプロジェクト] を選択します。 [新しいプロジェクトの作成] ダイアログ ボックスが表示されます。テキストボックスには、任意の設定、チェックボックスは以下の設定を参考にしてください。

2.Add Imageをクリックします。

1. 画像にタグをつけてアップロードします。今回はピカチュウ、ヒトカゲ、ゼニガメ、フシギダネ、カビゴンの画像をアップロードしてます。

4.右上のTrainをクリックし、Quick Trainingを選択後、モーダルウィンドウのTrainをクリックします。

上記の手順で画像分類アプリが構築されます。
構築モデルの情報は以下になります。

今回精度がガバガバなのは、自動収集した画像を精査せずにアップロードしているからです。
精度をあげたい場合、自動収集した画像を精査してください。多分ピカチュウとかコスプレしている人とかが混じってたりしてます。

5.次に左上のPublishボタンをクリックするだけで、この分析モデルはAPIとしてWebで公開されます。

6.Prediction URLをクリックすると、APIと接続するための情報が記載されています。

今回は、画像をアップロードして活用するため、画像における下に記載してあるURLとPrediction-Keyを活用します。

上記の手順で簡単に画像分類モデルを構築することができ、またAPIとしてWebに公開できるのがAzure Custom Visionの特徴です。

3.モデルの検証

テスト用にダウンロードした画像を構築モデルに分析させ、その正解率を調べます。
collect_img_poke.pyと同じ階層に以下のファイルを作成します。
作成したモデルの公開URLとKeyを設定後にファイルを実行します。

predictions_poke_test.py

import glob
import requests
import json

base_url = '<API URL>'
prediction_key = '<Key>'

poke_root_dir = 'pokemon/'
# 検証対象のポケモン名一覧
pokemonnames = ['ピカチュウ','ゼニガメ','ヒトカゲ','フシギダネ','カビゴン']

for pokename in pokemonnames:
    testfiles = glob.glob(poke_root_dir + pokename + '/test/*')
    data_count = len(testfiles)
    true_count = 0

    for testfile in testfiles:
        headers = {
            'Content-Type': 'application/json',    
            'Prediction-Key': prediction_key
        }

        params = {}
        predicts = {}
        data = open(testfile, 'rb').read()
        response = requests.post(base_url, headers=headers, params=params, data=data)
        results = json.loads(response.text)

        try:
            # 予測結果のタグの数だけループ
            for prediction in results['predictions']:
                # 予測したポケモンとその確率を紐づけて格納
                predicts[prediction['tagName']] = prediction['probability']
            # 一番確率の高いポケモンを予測結果として選択
            prediction_result = max(predicts, key=predicts.get)

            # 予測結果が合っていれば正解数を増やす
            if pokename == prediction_result:
                true_count += 1

        #画像サイズ > 6MB だとCustom Vision の制限にひっかりエラーが出るまで握り潰し
        except KeyError:
            data_count -= 1
            continue

    # 正解率の算出
    accuracy = (true_count / data_count) * 100
    print('ポケモン名:' + pokename)
    print('正解率:' + str(accuracy) + '%')

以下のような結果が出力されていればOKです。
モデルの精度は低いですが、おそらく色で大雑把に判断しているんでしょうんね。

>>>python predictions_poke_test.py 
ポケモン名:ピカチュウ
正解率:95.45454545454545%
ポケモン名:ゼニガメ
正解率:95.23809523809523%
ポケモン名:ヒトカゲ
正解率:81.81818181818183%
ポケモン名:フシギダネ
正解率:85.0%
ポケモン名:カビゴン
正解率:95.83333333333334%

4. Custom Vision APIを活用する実装

このアプリはFlaskで実装しています。
アプリの概要を簡単に図で表すと以下になります。

Webアプリはアップロードされた画像をCustom Visionで分析させ、その分析結果を取得します。
分析結果から、DBにある詳細な情報を取得し、その情報をHTMLに埋め込んで画面に表示しています。
このMTVモデルは、FlaskやDjangoで採用されています。
Flaskの詳細は「実践で学ぶ機械学習活用ガイド」や「公式リファレンス」を確認してください。
ここでは、図の②〜⑤に該当するCusom Visionとの連携からDB情報取得までを記載します。

全コードはこちら：ポケモン画像分類アプリのコード

以下、該当コードです。

models.py

import flaski.database
import requests
import json
import os


base_url = '<API URL>'
prediction_key = '<Key>'
POKEMON_FOLDER =  './static/images/pokemon/'

# 予測確率のしきい値（パーセント）
threshold = 60

# ポケモン情報をDBから取得し辞書型で返す
def get_pokemon_data(pokemonname):
    ses = flaski.database.db_session()
    pokemon = flaski.database.Pokemon
    pokemon_data = ses.query(pokemon).filter(pokemon.pokemon_name == pokemonname).first()

    pokemon_data_dict = {}
    if not pokemon_data is None:
        pokemon_data_dict['pokemon_name'] = pokemon_data.pokemon_name
        pokemon_data_dict['wiki_url']        = pokemon_data.wiki_url
        pokemon_data_dict['picture_path']    = os.path.join(POKEMON_FOLDER, pokemon_data.pokemon_name + '.png')

    return pokemon_data_dict

# モデルAPIの呼び出し
def callAPI(uploadFile):
    # 予測実行
    headers = {
        'Content-Type': 'application/json',
        'Prediction-Key': prediction_key
    }
    params = {}
    predicts = {}
    data = open(uploadFile, 'rb').read()
    response = requests.post(base_url, headers=headers, params=params, data=data)
    response_list = json.loads(response.text)
    result = []

    try:
        # 予測結果のタグの数だけループ
        for prediction in response_list['predictions']:
            if len(get_pokemon_data(prediction['tagName'])) != 0:
            # 確率がしきい値より大きいものを採用する
                if prediction['probability'] * 100 > threshold:
                    result.append(get_pokemon_data(prediction['tagName']))
        return result

    #画像サイズ > 6MB だとCustom Vision の制限にひっりエラーが出るまで握り潰し
    except KeyError:
        return result

def callAPI(uploadFile)はCustom Visionに画像をアップロードし、データを取得する処理になり、3.モデルの検証で記載したスクリプトの内容とほぼ同じです。
異なる点は、予測確率のしきい値（パーセント）:threshold を設定しており、これ以上の適合率の情報しか取得しないようにしています。上記のコードの場合、適合率が60%以上のポケモンの情報を取得しています。

def get_pokemon_data(pokemonname)は、以下の処理でFlaskで作成したDBのテーブルに接続しています。
そして、filter処理で特定のポケモンの情報を取得しています。

ses = flaski.database.db_session()
pokemon_data = ses.query(pokemon).filter(pokemon.pokemon_name == pokemonname).first()

このようにFlaskではSQLを使わずDBの情報を取得が容易です。
DBテーブルの作成などもコードで実行可能です。

上記したコードでCustom Visionから分析結果を取得し活用しています。
このようにCustom Visionを活用したアプリ開発は非常に簡単です。

最後に

Azure Custom Visionは簡単に画像分類モデルを構築できるため、機械学習アプリを開発する入門に大変良い題材でした。
参考にした本に詳細な解説があるにも関わらず、記事を書いた理由としましては、去年出版した本のため様々な仕様変更に対応できていない部分があったからです(crawlerなど)。そこで新たに実装にした内容を本記事では書いています。Flaskの実装などに関して、あまり言及していないのは、本を読んでいただければ理解できる内容だからです。

本記事で機械学習アプリの作成概要がふわ〜っとでもわかれば幸いです。

初めに

僕がスライスをどう読んでるかの解説になると思います。
初心者がサッサとスライス使いたいと思ったら読んで見てください。

「python　スライス　使い方」でググると、細かく書いてる記事ばっかりだったので、ざっくり書きます。

解説

3点だけおさえれば大丈夫です。

１. インデックスの理解

インデックスが文字と文字の あいだ (between) を指しており、最初の文字の左端が 0 になっていると考えましょう。

 +---+---+---+---+---+---+
 | P | y | t | h | o | n |
 +---+---+---+---+---+---+
 0   1   2   3   4   5   6
-6  -5  -4  -3  -2  -1

２. 指定の仕方　→　リスト名[から：まで：間隔]　

頭の中で、コメントのようにコードを読めます。

>>> num_list = [1, 5, 2, 3, 4]
>>> num_list[1:4:1] #１で紹介したインデックスを指定します。１番目「から」４番目「まで」を1「間隔」で選択 
[5, 2, 3]

３.「：」が一つのときは「から:まで」の間の「：」

>>> num_list = [1, 5, 2, 3, 4]
>>> num_list[-4:] # 後ろ4番目「から」選択
[5, 2, 3]

これでざっくりコードを読めます。

練習

あとは、例を二点をおさえながら読んで見てください。
書き方を網羅できるはずです。

>>> num_list = [1, 5, 2, 3, 4]
>>> num_list[:4:1] # 「から」を省略すると最初の要素から選択
[1, 5, 2, 3]
>>> num_list[1::1] # 「まで」を省略すると最後の要素まで選択
[5, 2, 3, 4]
>>> num_list[1:4:] # 「間隔」を省略することで1個間隔で選択
[5, 2, 3]
>>> num_list[1:4] # 「から：まで」の「：」（「間隔」を省略する場合は2つ目のコロンを省略可能）
[5, 2, 3]
>>> num_list[-4:] # 後ろ4番目から選択
[5, 2, 3, 4]

終わりに

わかりにくかったらすみません。

ディクショナリ型

ディクショナリ型
ディクショナリ型は、1組のデータを「キー」と呼ばれる識別子とそれに対応する「値」とともに管理するデータ型。
タプルは「 () 」カッコ、リストは「 [] 」大カッコで作成しますが、ディクショナリは「 {} 」波カッコを使用します
オブジェクトを作成するには以下のように記述します。

hatamoto = {"kokugo":65,"suugaku":82,"eigo":70"}
次の要素との間は「 , 」で区切ります。
自分はSQLのテーブル操作の様な使い方だと認識しています。

dict()

hatamoto = {"kokugo”:65,”suugaku”:82,”eigo”:70}
print( hatamoto)

実行結果：

{"kokugo":65,"suugaku":82,"eigo":70"}

dict()を使ってコピーなどもできる。

hatamoto = {"kokugo":65,"suugaku":82,"eigo":70"}
hatamoto2 = dict(hatamoto)
print(hatamoto2)

{"kokugo”:65,”suugaku”:82,”eigo”:70}

同じキーとバリューのディクショナリが作成される。

len()
Python のディクショナリはリストと同じように len で長さが確認できます。

hatamoto = {"kokugo":65,"suugaku":82,"eigo":70"}
len(hatamoto)

実行結果：

3

update()

ディクショナリ.update(結合するディクショナリ)

hatamoto = {"kokugo":65,"suugaku":82,"eigo":70"}
hatamoto2 = {"rika":"90", "syakai":"51"} 
hatamoto.update(hatamoto2)
 
print(hatamoto)

実行結果：
{'kokugo':'65','suugaku':'82','eigo':70,'rika':'90','syakai':'51'}

新規キーを指定した場合は項目が追加され、既存のものを指定すると上書きされる。

キーを指定して要素を削除

hatamoto = {"kokugo":65,"suugaku":82,"eigo":70"}

del hatamoto['kokugo']
print(hatamoto)

実行結果：

{'suugaku':'82','eigo':'70'}

存在しないキーを指定すると「KeyError」が発生する。

keys()
すべてのキーを取得する

hatamoto = {"kokugo":65,"suugaku":82,"eigo":70"}
print(hatamoto.keys())

dict_keys(['kokugo', 'suugaku', 'eigo'])

リスト

• 複数の値をまとめることができる
• [ ]（ブラケットの角括弧）を使う
• 各要素は , （カンマ）で区切る

a = [apple, banana, orange]

各要素の取り出し

変数名の直後に[ ]をつけ、数値を代入すると各要素が取り出せる。

a = ['フシギダネ', 'ヒトカゲ', 'ゼニガメ']

print(a[0]) # フシギダネ
print(a[1]) # ヒトカゲ
print(a[2]) # ゼニガメ

: を使うことでリストのまま取り出せる。

a = ['フシギダネ', 'ヒトカゲ', 'ゼニガメ']

print(a[0:3]) # ['フシギダネ', 'ヒトカゲ', 'ゼニガメ']

リストの中のリスト

リストの中にリストを収納できる。このとき、[ ] で取り出せるのは、
リストの中のリストだけであることに注意。

a = [['フシギダネ', 'ヒトカゲ', 'ゼニガメ'], ['チコリータ', 'ヒノアラシ', 'ワニノコ']]

print(a[0]) # ['フシギダネ', 'ヒトカゲ', 'ゼニガメ']
print(a[1]) # ['チコリータ', 'ヒノアラシ', 'ワニノコ']

タプル

• リストと同じく複数の値をまとめることができる ※ただし、各要素の追加や消去、場所の移動などはできない
• ( )（パーレンの丸括弧）を使う
• 各要素は , （カンマ）で区切る

b = {'キモリ', 'アチャモ', 'ミズゴロウ'}

リストとタプルの違いは？

リストとタプルの大きな違いはmutable(変更可能)か
ということである。

「変更可能のほうが便利じゃないか」と思われるかもしれないが、
タプルにすると変わってほしくないデータに対して便利になる。

例えば、地図の緯度経度など半不変的なデータは変更して欲しくないので、
このようなときにタプルが使われる。

辞書

• key(キー)とvalue(バリュー)の組合わせで使われる ※これをkey value pair(キーバリューペア)という
• リストと同じくmutable(変更可能)
• { }（ブレースの波括弧）を使う

c = {'ナエトル': 'Grass', 'ヒコザル': 'Fire', 'ポッチャマ': 'Water'}

print(c['ナエトル']) # 'Grass'
print(c) # {'ナエトル': 'Grass', 'ヒコザル': 'Fire', 'ポッチャマ': 'Water'}

要素の入れ替え・追加

キー自体に代入することで、要素の入れ替えができる。

c['ナエトル'] = '草'
print(c['ナエトル']) # '草'

同様にキーとバリューをセットにすると、要素の追加ができる。

c = {'ナエトル': 'Grass', 'ヒコザル': 'Fire', 'ポッチャマ': 'Water'}

c['ピカチュウ'] = 'Electric'
print(c) # {'ナエトル': 'Grass', 'ヒコザル': 'Fire', 'ポッチャマ': 'Water', 'ピカチュウ': 'Electric'}