ニューラルネットによる自然言語処理技術

数学をなまけた人のために、ニューラルネットによる自然言語処理技術を解説しています。

高校数学をなまけた人のために、数学最低限度で、基本から最先端の技術までを、解説しました。 DeepLearningに関しては、論文をなぞった解説記事とは異なり、ネットワークのパーツの直感的な意味から説明しているため、世界一わかりやすいと思う。 課題として言語処理100本ノックという問題集から選んだもの、サンプルコードとしてPyTorchのTutorial Sampleの自然言語を扱ったもの、を利用させてもらっています。

学習ロードマップ

導入

導入スライド

準備

Pythonリスト処理スライド

Pythonリスト処理課題ノート
解答

Pythonリスト処理確認クイズ
解答

Pandasスライド

Pandas課題ノート
解答

Pandas確認クイズ
解答

正規表現スライド

正規表現課題ノート
解答

正規表現確認クイズ
解答

数学復習スライド

数学復習_確認クイズ (docx)

国文法スライド

国文法_確認クイズ (txt)

形態素解析スライド
ノート込み印刷

形態素解析課題ノート
解答

形態素解析_確認クイズ (txt)

サブワードスライド
ノート込み印刷

サブワードのサンプルコードのノート

データ作成スライド

データ準備課題ノート
解答

基礎

機械学習スライド
ノート込み印刷

機械学習課題ノート
解答

機械学習_確認クイズ (txt)

ニューラルネットワークスライド
ノート込み印刷)

ニューラルネットワーク課題ノート
解答

ニューラルネットワーク_確認クイズ (txt)

単語ベクトルスライド
ノート込み印刷

単語ベクトル課題ノート
解答

CBOW, Skipgram, NegativeSamplingサンプルコードノート
gensimで単語ベクトルを作るサンプルコードノート
日本語Wikipediaから単語ベクトルを作るサンプルコードのノート(実行時間大)

単語ベクトル_確認クイズ (txt)

ネットワークアーキテクチャ

RNNスライド
ノート込み印刷

rnnを使って翻訳するサンプルコードのノート
jpn.txt
rnnを使って次単語を予測するサンプルコードのノート

RNN_確認クイズ (txt)

CNNスライド
(ノート込み印刷

CNNを使ったMNISTサンプルコードのノート

CNN_確認クイズ (txt)

Attention、Transformerスライド
ノート込み印刷

Attentionを使って翻訳するサンプルコードのノート
Attentionを使って次単語を予測するサンプルコードのノート

RNN、CNN、Transformer課題ノート
解答

Transformer_確認クイズ (txt)

強化学習

強化学習入門スライド