- 投稿日：2019-05-06T22:06:35+09:00
[2019年5月版] 機械学習・深層学習を学び、トレンドを追うための厳選リンク150選
これは何?
5月6日週に発刊予定の
図解速習DEEP LEARNINGの書籍中で参照しているリソースをサポートページ用にまとめたものです。
もともとは本を読みながら各リンクを眺めてもらうため、飛びやすくしようとリンクを整理しましたが、本が手元にない方にも役立つのではと思い、Qiitaで公開することにしました。
凡例
YouTubeなどのビデオ
論文、サーベイ資料
プレゼンスライド
GitHubリポジトリ
ニュース
メールニュース
- リンクは本の章立てに沿って並んでいます
- .ipynbノートブックへのリンクは掲載していません
- 書籍自体のサポートページは GitHub です(準備中)
1章 機械学習・深層学習を学ぶための地図を持とう
「知る・わかる」から「できる」へのロードマップ
「Why/What/How」 - 地図3: 適用分野と手法
- NIPS 2017 Art Gallery | Machine Learning for Creativity and Design
- Art Gallery – NIPS Machine Learning for Creativity and Design
- Machine Learning for Artists
「必要な道具と実装」 - 地図6: システム、アーキテクチャと権利
さまざまな分野と最先端の事例
各分野の広がりと最新状況を知る
数値・表形式 - 推論: データから、対象を予測する
- 【KDD2018】論文『Customized Regression Model for Airbnb Dynamic Pricing』を読んでまとめた - 港区で苦しむデータサイエンティストのメモ帳
- Kaggle: Your Home for Data Science
- SIGNATE - Data Science Competition
- Kaggle Past Competitions
画像／映像系 - 認識: AIの目にうつるもの
- ImageNet Large Scale Visual Recognition Competition 2012 (ILSVRC2012)
- AI Experiments: Move Mirror
- Google Landmark Recognition Challenge | Kaggle
画像／映像系 - 生成: AIの描き出すもの
- PaintsChainer -線画自動着色サービス-
画像／映像系 - 認識と生成の間
- NIPS 2017 Competition Track
- NIPS 2018 Competition Track
- NIPS’17 Adversarial Learning Competition に参戦しました | Preferred Research
- Activation Atlas
文章／言語系 - 言葉を操るAI
- Google Translate
- りんな
- Studio OusiaのAIがクイズチャンピオン達と対戦し勝利 | Studio Ousia
- コンピュータが小説を書く日
- Better Language Models and Their Implications
音声／音楽系 - AIが聴き・話し・演奏するもの
- Magenta
- AI Experiments | Experiments with Google
- ISMIR 2018
グラフを扱う
その他の領域
- 東大と日立の研究者、素材に触れた時の触振動を画像からそれっぽく生成し、効率的な触感デザインを可能とする手法「TactGAN」を発表 | Seamless
強化学習: 行動を学ぶAI
最新の知見についていくために
新しい情報を取り入れるには
フォローすべきメディア
arXiv.org e-Print archive
- Machine Learning - Reddit
- Hacker News
- POSTD | プログラミングするエンジニアに向けたトレンドメディア
- cvpaper.challenge
- nlpaper.challenge (@NlpaperChalleng) | Twitter
- Distill — Latest articles about machine learning
- OpenAI Blog
- News & Blog | DeepMind
- 私のブックマーク – 人工知能学会
学会、勉強会、発表会などの1年
多様な講座と学びのアプローチ
- グローバル消費インテリジェンス寄附講座演習コンテンツ 公開ページ | 東京大学松尾研究室 - Matsuo Lab
英語情報をうまく活用するには
2章 機械学習・深層学習の基礎を学ぼう
手書き数字識別で機械学習の流れを体感する
Colaboratoryを使ってみる
まとめと発展
- MNIST handwritten digit database, Yann LeCun, Corinna Cortes and Chris Burges
インタラクティブに学ぶ機械学習の舞台裏
Playgroundで学習とチューニングを行う
- A Neural Network Playground
- Google Cloud Platform Japan 公式ブログ: TensorFlow Playground でわかるニューラルネットワーク
- TensorFlow Playgroundの仕組み
画像認識コンペの世界を覗く
下ごしらえ
学習、評価、チューニングを繰り返す
- Literate Programming - OSF | Millman_Perez_chapter.pdf
まとめと発展
機械学習の流れ
データセットを準備する
3章 さまざまな事例を実践してみよう
数値・表形式のデータを使った機械学習を試す
東大松尾研データサイエンス講座に取り組む
まとめと発展
- Kaggler Slack作りました - tkm2261's blog
- Kaggleに登録したら次にやること ～ これだけやれば十分闘える！Titanicの先へ行く入門 10 Kernel ～ - Qiita
画像／映像を扱う深層学習を試す
概要
まとめと発展
自然言語を扱う深層学習を試す
概要
まとめと発展
- BERT with SentencePiece を日本語 Wikipedia で学習してモデルを公開しました – 原理的には可能 – データ分析界隈の人のブログ、もとい雑記帳
- Jay Alammar – Visualizing machine learning one concept at a time
音を扱う深層学習を試す
概要
まとめと発展
- 音声翻訳システムの実用化と課題
- 音声翻訳システムにおける音声変換の利用 など
- 音声認識技術の変遷と最先端
- テキスト音声合成技術の変遷と最先端
- 音響信号処理の変遷と最先端 など
強化学習系を試す
概要
- OpenAI Gym
まとめと発展
深層学習を使ったアプリのPrototyping
JavaScriptのMLライブラリ
プロトタイプの開発環境
いろいろな作例を動かしてみる
既存のアプリ作例を見る
- Pose Net - リンク切れ
まとめと発展
- Machine Learning for Artists
4章 Colaboratory使いこなしガイド
Colabを開いてみよう
ノートブックの基本操作
ノートブックのランタイム
ファイルの読み込みと保存
Colabの制約を外したい
- Google Colaboratory の ローカルランタイムへの接続 - Qiita
- Cloud Datalab - インタラクティブなデータ分析ツール | Cloud Datalab | Google Cloud
- Cloud ML Notebooks のドキュメント | Cloud Machine Learning Engine（Cloud ML Engine） | Google Cloud
以上
各分野を概観し、お役にたつものがあれば幸いです。
- 投稿日：2019-05-06T22:06:35+09:00
[2019年5月版] 機械学習・深層学習を学び、トレンドを追うためのリンク150選
これは何?
5月6日週に発刊予定の
もともとは本を読みながら各リンクを眺めてもらうため、飛びやすくしようとリンクを整理しましたが、本が手元にない方にも役立つのではと思い、Qiitaで公開することにしました。
凡例
- リンクは本の章立てに沿って並んでいます
- .ipynbノートブックへのリンクは掲載していません
- 書籍自体のサポートページは GitHub です(準備中)
1章 機械学習・深層学習を学ぶための地図を持とう
1.1 「知る・わかる」から「できる」へのロードマップ
「Why/What/How」 - 地図3: 適用分野と手法
- NIPS 2017 Art Gallery | Machine Learning for Creativity and Design
- Art Gallery – NIPS Machine Learning for Creativity and Design
- Machine Learning for Artists
「必要な道具と実装」 - 地図6: システム、アーキテクチャと権利
1.2 さまざまな分野と最先端の事例
各分野の広がりと最新状況を知る
数値・表形式 - 推論: データから、対象を予測する
- 【KDD2018】論文『Customized Regression Model for Airbnb Dynamic Pricing』を読んでまとめた - 港区で苦しむデータサイエンティストのメモ帳
- Kaggle: Your Home for Data Science
- SIGNATE - Data Science Competition
- Kaggle Past Competitions
画像／映像系 - 認識: AIの目にうつるもの
- ImageNet Large Scale Visual Recognition Competition 2012 (ILSVRC2012)
- AI Experiments: Move Mirror
- Google Landmark Recognition Challenge | Kaggle
画像／映像系 - 生成: AIの描き出すもの
- PaintsChainer -線画自動着色サービス-
画像／映像系 - 認識と生成の間
- NIPS 2017 Competition Track
- NIPS 2018 Competition Track
- NIPS’17 Adversarial Learning Competition に参戦しました | Preferred Research
- Activation Atlas
文章／言語系 - 言葉を操るAI
- Google Translate
- りんな
- Studio OusiaのAIがクイズチャンピオン達と対戦し勝利 | Studio Ousia
- コンピュータが小説を書く日
- Better Language Models and Their Implications
音声／音楽系 - AIが聴き・話し・演奏するもの
- Magenta
- AI Experiments | Experiments with Google
- ISMIR 2018
グラフを扱う
その他の領域
- 東大と日立の研究者、素材に触れた時の触振動を画像からそれっぽく生成し、効率的な触感デザインを可能とする手法「TactGAN」を発表 | Seamless
強化学習: 行動を学ぶAI
1.3 最新の知見についていくために
新しい情報を取り入れるには
フォローすべきメディア
- Machine Learning - Reddit
- Hacker News
- POSTD | プログラミングするエンジニアに向けたトレンドメディア
- cvpaper.challenge
- nlpaper.challenge (@NlpaperChalleng) | Twitter
- Distill — Latest articles about machine learning
- OpenAI Blog
- News & Blog | DeepMind
- 私のブックマーク – 人工知能学会
学会、勉強会、発表会などの1年
多様な講座と学びのアプローチ
- グローバル消費インテリジェンス寄附講座演習コンテンツ 公開ページ | 東京大学松尾研究室 - Matsuo Lab
英語情報をうまく活用するには
2章 機械学習・深層学習の基礎を学ぼう
2.1 手書き数字識別で機械学習の流れを体感する
Colaboratoryを使ってみる
まとめと発展
- MNIST handwritten digit database, Yann LeCun, Corinna Cortes and Chris Burges
2.2 インタラクティブに学ぶ機械学習の舞台裏
- A Neural Network Playground
- Google Cloud Platform Japan 公式ブログ: TensorFlow Playground でわかるニューラルネットワーク
- TensorFlow Playgroundの仕組み
2.3 画像認識コンペの世界を覗く
- 概要 - 人工知能技術戦略会議等主催 第1回AIチャレンジコンテスト | SIGNATE
- 評価方法 - 人工知能技術戦略会議等主催 第1回AIチャレンジコンテスト | SIGNATE
- Literate Programming - OSF | Millman_Perez_chapter.pdf
- 入賞モデル - 人工知能技術戦略会議等主催 第1回AIチャレンジコンテスト | SIGNATE
2.4 機械学習の流れ
3章 さまざまな事例を実践してみよう
3.1 数値・表形式のデータを使った機械学習を試す
東大松尾研データサイエンス講座に取り組む
まとめと発展
- Kaggler Slack作りました - tkm2261's blog
- Kaggleに登録したら次にやること ～ これだけやれば十分闘える！Titanicの先へ行く入門 10 Kernel ～ - Qiita
3.2 画像／映像を扱う深層学習を試す
概要
まとめと発展
3.4 自然言語を扱う深層学習を試す
概要
まとめと発展
- BERT with SentencePiece を日本語 Wikipedia で学習してモデルを公開しました – 原理的には可能 – データ分析界隈の人のブログ、もとい雑記帳
- Jay Alammar – Visualizing machine learning one concept at a time
3.5 音を扱う深層学習を試す
概要
まとめと発展
- 音声翻訳システムの実用化と課題
- 音声翻訳システムにおける音声変換の利用 など
- 音声認識技術の変遷と最先端
- テキスト音声合成技術の変遷と最先端
- 音響信号処理の変遷と最先端 など
3.6 強化学習系を試す
概要
- OpenAI Gym
まとめと発展
3.7 深層学習を使ったアプリのPrototyping
JavaScriptのMLライブラリ
プロトタイプの開発環境
いろいろな作例を動かしてみる
既存のアプリ作例を見る
- Pose Net - リンク切れ
まとめと発展
- Machine Learning for Artists
4章 Colaboratory使いこなしガイド
Colabを開いてみよう
ノートブックの基本操作
ノートブックのランタイム
ファイルの読み込みと保存
Colabの制約を外したい
- Google Colaboratory の ローカルランタイムへの接続 - Qiita
- Cloud Datalab - インタラクティブなデータ分析ツール | Cloud Datalab | Google Cloud
- Cloud ML Notebooks のドキュメント | Cloud Machine Learning Engine（Cloud ML Engine） | Google Cloud
以上
各分野を概観し、お役にたつものがあれば幸いです。
- 投稿日：2019-05-06T01:22:41+09:00
[備忘録]Keras.layersリファレンス
密結合層
- Keras-コア層リファレンス
- 密結合ニューラルネットワークを作成する
Dense(units, activation=None, use_bias=True, kernel_initializer='glorot_uniform', bias_initializer='zeros', kernel_regularizer=None, bias_regularizer=None, activity_regularizer=None, kernel_constraint=None, bias_constraint=None)
- 引数
引数 型 説明 units 正の整数 出力次元 activation 列挙型(relu,softmax,sigmoidなど) 使用する活性化関数 畳み込みレイヤー
- Keras-畳み込みレイヤーリファレンス
- 通常は3*3ウィンドウでストライドなし（1）で実行される。
Conv1D(filters, kernel_size, strides, padding, data_format, dilation_rate, activation)
- 一次元畳み込み層を生成する
- 引数
引数 型 説明 filters 整数型 出力フィルタの数（出力次元数） kernel_size 整数型または整数のタプル（リスト）型 畳み込みウィンドウの長さを指定 strides 整数型または整数のタプル（リスト）型 ストライド長を指定 padding 列挙型（valid,causal,same） valid=パディングなし,same=入力と出力の長さを同じにする,causal=拡張畳み込みを行う？ data_format 列挙型（channels_last,channels_first） デフォルトはchannels_last dilation_rate 整数型または整数のタプル（リスト）型 拡張畳み込みに使用する拡張率を指定 activation 列挙型(relu,softmax,sigmoidなど) 活性化関数を指定 指定しなかった場合は活性化関数は使われない（=linear）活性化関数リファレンス input_shape 整数のタプルまたはNone モデルの最初のレイヤに使う時にはinput_shapeを指定する 例：data_format='chanel_last'であればinput_shape=(10, 128)はバッチごとに1ステップ128の特徴量で10タイムステップのシーケンスとなる※chanel_firstでは特徴量が10でタイムステップ数が128になるのかな？ output_shape テンソル型 chanel_lastで3Dテンソルの場合：(batch, new_steps, filters) Conv2D(filters, kernel_size, strides, padding, data_format, dilation_rate, activation)
- 二次元畳み込み層を生成する
- 引数
引数 型 説明 filters 整数型 出力フィルタの数（出力次元数） kernel_size 整数型または整数のタプル（リスト）型 畳み込みウィンドウの長さを指定 strides 整数型または整数のタプル（リスト）型 ストライド長を指定 padding 列挙型（valid,causal,same） valid=パディングなし,same=入力と出力の長さを同じにする,causal=拡張畳み込みを行う？ data_format 列挙型（channels_last,channels_first） デフォルトはchannels_last dilation_rate 整数型または整数のタプル（リスト）型 拡張畳み込みに使用する拡張率を指定 activation 列挙型(relu,softmax,sigmoidなど) 活性化関数を指定 指定しなかった場合は活性化関数は使われない（=linear）活性化関数リファレンス input_shape 整数のタプルまたはNone モデルの最初のレイヤに使う時にはinput_shapeを指定する 例：data_format='chanel_last'であればinput_shape=(28,28,1)はバッチごとに28行×28列×1次元ののシーケンスとなる※chanel_firstではinput_shape=(1,28,28)と指定 output_shape テンソル型 chanel_lastで4Dテンソルの場合：(batch, new_rows, new_cols, filters)、channels_firstで4Dテンソルの場合：(batch, filters, new_rows, new_cols) プールレイヤー
- Keras-プール層リファレンス
- 次元のダウンサンプルを行う
- 最大値プールリングは通常、2*2ウインドウのストライド2を使って行われるので特徴マップのサイズが半分にダウンサンプリングされる。
MaxPooling1D(pool_size=2, strides=None, padding='valid', data_format='channels_last')
- 一次データの最大プールを行う
- 引数
引数 型 説明 pool_size 整数 最大プールウィンドウのサイズ strides 整数またはNone 縮小係数 例：2なら入力を半分にする。Noneの場合はpool_size padding 列挙型（valid,same） valid=パディングなし,same=入力と出力の長さを同じにする data_format 列挙型（channels_last,channels_first） テンソルデータの形状 例：channels_last=(batch, steps, features), channels_first=(batch, features, steps) input_shape 整数のタプルまたはNone data_format='channels_last'形状が3次元テンソルの 場合(batch_size, steps, features), data_format='channels_first'形状が3次元テンソルの 場合(batch_size, features, steps) output_shape 整数のタプルまたはNone data_format='channels_last'形状が3次元テンソルの 場合(batch_size, downsampled_steps, features), data_format='channels_first'形状が3次元テンソルの 場合(batch_size, features, downsampled_steps) MaxPooling2D(pool_size=2, strides=None, padding='valid', data_format='channels_last')
- ２D（空間）データの最大プールを行う
- 引数
引数 型 説明 pool_size 整数 最大プールウィンドウのサイズ strides 整数またはNone 縮小係数 例：2なら入力を半分にする。Noneの場合はpool_size padding 列挙型（valid,same） valid=パディングなし,same=入力と出力の長さを同じにする data_format 列挙型（channels_last,channels_first） テンソルデータの形状 例：channels_last=(batch, steps, features), channels_first=(batch, features, steps) input_shape 整数のタプルまたはNone channels_lastで4D：(batch_size, rows, cols, channels),channels_firstで4Dテンソル：(batch_size, channels, rows, cols) output_shape 整数のタプルまたはNone channels_lastで4Dテンソル：(batch_size, pooled_rows, pooled_cols, channels)、channels_firstで4Dテンソル：(batch_size, channels, pooled_rows, pooled_cols) MaxPooling3D(pool_size=2, strides=None, padding='valid', data_format='channels_last')
- 3Dデータ（空間または時空間）に対する最大プール操作。