What's New Qiita

20200317のTensorFlowに関する記事は3件です。

  • 投稿日：2020-03-17T18:03:44+09:00

機械学習に関する個人的なメモとリンク集②（DeepLearning編）

はじめに

何をするにあたってもゼロからできることは限られています。
「巨人の肩の上に立つ」という言葉もありますが、先人の知恵として参考になる記事を活用して、レベルアップを図りたいものです。

DeepLearning

DeepLearningは、Tensorflowを中心に色々と勉強はする（した）のですが、構造化データを使うのが主な小売りではあまり使い道がなく。
結局、時間が掛かる割には機械学習（Scikit-learnでできるレベル）と精度が変わらない・勝てないレベルなんですよね。もちろん、もっと上手くニューラルネットワークを作ると違うのかもしれませんが。
ですので、Tensorflow2.xになってからは、情報が追えていません。今後勉強しないと。

「お客様の声」とかで、自然言語処理を使ってみたりはしたいですね。。。

機械学習（ニューラルネットワーク）モデル

CNN

RNN

バッチノーマライゼーション・バックプロパゲーション

半教師あり学習

強化学習

転移学習

Tensorflow

Tensorflow1.x関連

Tensorflowの活用事例

自然言語処理

形態素解析

自然言語は、数値のような構造化されたデータでないために、構造化することが重要。
特に日本語の場合は、英語等と異なり単語の切れ目が明確でないため、どこまでを１つの単語と見做すのかといった問題を解決するために、形態素解析が行われる。

JUMAN+;

形態素解析のライブラリは、JUMAN++を利用
他にMecabやJanomeといったライブラリもあるが、それらに比べてJUMAN++は遅いけど正確性が高い

Mecab

予測モデル構築

ナイーブベイズ

RNN

Character-Level CNN

機械学習の世界で、画像等の分類で有名なCNN（畳み込みニューラルネットワーク）を、自然言語処理にも対応する様に用いた手法。

自然言語処理なら、前後の関係性が重要になるため、RNN（再帰型ニューラルネットワーク）だろうと言われているが、Twitterレベルの文字数制限であれば、CNNでも充分使い物になるらしい。
形態素解析→単語レベルでのCNN（Word-Level CNN）と、単純に文字で分けて行うCNN（Character-Level CNN）がある。

その他

地理情報処理

地図作成

Open Street Map

ArcMap

BigQuery GIS

  • このエントリーをはてなブックマークに追加
  • Qiitaで続きを読む
  • 投稿日：2020-03-17T18:03:44+09:00

機械学習に関する個人的なメモとリンク集②

はじめに

機械学習に関する個人的なメモとリンク集①に引き続き、先人の知恵をまとめていきます。

DeepLearningは、Tensorflowを中心に色々と勉強はする（した）のですが、構造化データを使うのが主な小売りではあまり使い道がなく。
結局、時間が掛かる割には機械学習（Scikit-learnでできるレベル）と精度が変わらない・勝てないレベルなんですよね。もちろん、もっと上手くニューラルネットワークを作ると違うのかもしれませんが。
ですので、Tensorflow2.xになってからは、情報が追えていません。今後勉強しないと。

「お客様の声」とかで、自然言語処理を使ってみたりはしたいですね。。。

DeepLearning

機械学習（ニューラルネットワーク）モデル

CNN

RNN

バッチノーマライゼーション・バックプロパゲーション

半教師あり学習

強化学習

転移学習

Tensorflow

Tensorflow1.x関連

Tensorflowの活用事例

自然言語処理

形態素解析

自然言語は、数値のような構造化されたデータでないために、構造化することが重要。
特に日本語の場合は、英語等と異なり単語の切れ目が明確でないため、どこまでを１つの単語と見做すのかといった問題を解決するために、形態素解析が行われる。

JUMAN+;

形態素解析のライブラリは、JUMAN++を利用
他にMecabやJanomeといったライブラリもあるが、それらに比べてJUMAN++は遅いけど正確性が高い

Mecab

予測モデル構築

ナイーブベイズ

RNN

Character-Level CNN

機械学習の世界で、画像等の分類で有名なCNN（畳み込みニューラルネットワーク）を、自然言語処理にも対応する様に用いた手法。

自然言語処理なら、前後の関係性が重要になるため、RNN（再帰型ニューラルネットワーク）だろうと言われているが、Twitterレベルの文字数制限であれば、CNNでも充分使い物になるらしい。
形態素解析→単語レベルでのCNN（Word-Level CNN）と、単純に文字で分けて行うCNN（Character-Level CNN）がある。

その他

地理情報処理

地図作成

Open Street Map

ArcMap

BigQuery GIS

  • このエントリーをはてなブックマークに追加
  • Qiitaで続きを読む
  • 投稿日：2020-03-17T15:06:49+09:00

TensorFlow Dev Summit 2020 Recap

What's this?

2020/3/11に開催されたTensorFlow Dev Summit 2020（オンラインイベント）のストリーミングを見て自分の気になったところをまとめたメモ

TensorFlow Dev Summit とは

2017年から毎年開催されているTensorFlowの開発者向けイベント

TensorFlowの新しいプロダクトはだいたい毎年このイベントで発表されることが多い

全動画

The TensorFlow Ecosystem

eco2.png

TensorFlow Quantum

tf_quantum_circle.jpg

TensorFlow Dev Summitに先立って公開されたライブラリ
https://www.tensorflow.org/quantum
https://github.com/tensorflow/quantum

  • 「Cirq」を、既存のTensorFlowライブラリに統合した
  • TensorFlow APIと互換性をもつ量子コンピューティングを実現

紹介記事
https://gigazine.net/news/20200310-google-tensorflow-quantum/

TensorFlow 2.2

Performance Profiler

Overview Page

Screen Shot 2020-03-17 at 13.13.03.png

Input Pipeline Analyzer

Screen Shot 2020-03-17 at 13.13.48.png

Trace Viewer

Screen Shot 2020-03-17 at 13.15.25.png

TensorFlow Stats

Screen Shot 2020-03-17 at 13.14.51.png

Profiling

Step 1: Keras TensorBoard callback

Screen Shot 2020-03-17 at 13.16.18.png

Step 2: Launch TensorBoard

Screen Shot 2020-03-17 at 13.17.18.png

Step 3: Check Overall Analysis

Screen Shot 2020-03-17 at 13.17.25.png

Screen Shot 2020-03-17 at 13.18.10.png

Screen Shot 2020-03-17 at 13.17.50.png

Step 4: Input Pipeline Recommendation

Screen Shot 2020-03-17 at 13.21.46.png

Step 5: Optimize the "Data Preprocessing"

Screen Shot 2020-03-17 at 13.22.41.png

Step 6: Capture a new profile

Screen Shot 2020-03-17 at 13.23.32.png

Next Steps

Screen Shot 2020-03-17 at 13.24.47.png

TensorFlow Developer Certificate

TensorFlow Developer Certificate

https://www.tensorflow.org/certificate

  • 5時間のテストで5つのモデルを作る
  • 全体で100点満点中90点で合格

カテゴリ

  1. ベーシック/シンプル
  2. データセットからのモデル
  3. 画像データからCNNモデル
  4. テキストデータからNLPテキスト分類
  5. 数値データセットからシーケンスモデル

受講者に必要なスキルセット

  1. ML/DLの基礎的な知識
  2. TensorFlowを用いた機械学習モデルの実装
  3. DNNとCNNを使った画像認識アルゴリズムの実装
    • 異なる画像サイズの扱い
    • 畳み込みレイヤーの視覚化
    • lossやaccuracyのプロット
    • オーバーフィッティングを防ぐ方法
  4. 画像認識、物体検出、テキスト認識
  5. 自然言語処理へのニューラルネットワークの適用

環境

  • PyCharm
  • インターネット接続環境
  • TensorFlow Examプラグイン
  • テスト中のドキュメント参照は可能

コスト

  • $100 USD

再受験

  • 一回目から14日後に再受験
  • 二回目から2ヶ月後に再受験
  • 三回目から1年後に再受験（それ以降は同じ）

有効期限

  • 36ヶ月
  • 更新不可、要再受験

Google Cloud AI Platform Pipelines

  • ベータ版をリリース
  • Notebookでの課題解決はシンプル
  • ワークフローの構築やスケールは複雑
  • データの準備と分析、トレーニング、評価、展開

TensorFlow.js

Facemesh

facemesh_final_3.gif!

facemesh_3d_demo.gif

demo

https://storage.googleapis.com/tfjs-models/demos/facemesh/index.html

Handpose

Screen Shot 2020-03-17 at 11.27.47.png

demo

https://storage.googleapis.com/tfjs-models/demos/handpose/index.html

実行速度

Screen Shot 2020-03-08 at 2.53.22 PM.png

　MobileBERT

Screen Shot 2020-03-17 at 12.17.08.png

Use cases

Screen Shot 2020-03-17 at 12.20.34.png

AR Beauty

Screen Shot 2020-03-17 at 12.22.17.png

Multiple Backends

Screen Shot 2020-03-17 at 12.24.00.png

TensorBoard.dev

tensorboard.png

TensorFlow Hub

Screen Shot 2020-03-17 at 12.55.31.png

https://tfhub.dev/

TensorFlow Hub

Screen Shot 2020-03-17 at 12.55.59.png

Ready to use

Screen Shot 2020-03-17 at 12.58.22.png

Easy to Search

Screen Shot 2020-03-17 at 12.58.59.png

With Notebook

Screen Shot 2020-03-17 at 12.59.14.png

Style transfer

Screen Shot 2020-03-17 at 13.01.34.png

Text Classification

Screen Shot 2020-03-17 at 13.02.21.png

Audio

Screen Shot 2020-03-17 at 13.03.13.png

Improved Search & Discovery

Screen Shot 2020-03-17 at 13.04.36.png

Expanded Support for TF Formats

Screen Shot 2020-03-17 at 13.06.04.png

Colab

Screen Shot 2020-03-17 at 12.38.31.png

Top 10 Colab Tricks for TensorFlow Users

10

10: Specify TensorFlow version

Screen Shot 2020-03-17 at 12.39.22.png

9: Use TensorBoard right in Colab

Screen Shot 2020-03-17 at 12.39.41.png

8: TFLite? No problem!

Screen Shot 2020-03-17 at 12.45.59.png

7: Use TPUs

Screen Shot 2020-03-17 at 12.41.21.png

6: Use local runtimes

Screen Shot 2020-03-17 at 12.41.43.png

5: The Colab scratchpad

Screen Shot 2020-03-17 at 12.42.02.png

https://colab.research.google.com/notebooks/empty.ipynb

4: Copy data to Colab VMs

Screen Shot 2020-03-17 at 12.42.43.png

3: Mind your memory

Screen Shot 2020-03-17 at 12.43.00.png

2: Close tabs when done

Screen Shot 2020-03-17 at 12.43.40.png

1: Only use GPUs when needed

Screen Shot 2020-03-17 at 12.43.58.png

Colab Pro

Colab Pro

Screen Shot 2020-03-17 at 12.53.55.png

Colab Pro

Screen Shot 2020-03-17 at 12.52.56.png

Kaggle x TensorFlow 2.x

Screen Shot 2020-03-17 at 13.09.04.png

TensorFlow Lite

Android Studio Integration

Screen Shot 2020-03-17 at 12.30.06.png

Profiler for Android

Screen Shot 2020-03-17 at 12.33.15.png

iOS Core ML support

Screen Shot 2020-03-17 at 12.31.48.png

Language support

Screen Shot 2020-03-17 at 12.34.46.png

Hardware support

Screen Shot 2020-03-17 at 12.36.02.png

Arduino Suppoort

Screen Shot 2020-03-17 at 12.36.16.png

Thank you

  • このエントリーをはてなブックマークに追加
  • Qiitaで続きを読む

日付別

タグ一覧