ニューラルネットによる自然言語処理技術

数学をなまけた人のために、ニューラルネットによる自然言語処理技術を解説しています。

高校数学をなまけた人のために、数学最低限度で、基本から最先端の技術までを、解説しました。

深層学習（Deep Learning）に関しては、論文をなぞった解説記事とは異なります。 ネットワークのパーツの直感的な意味から説明しています。そのため、世界一わかりやすいと思う。 課題として言語処理100本ノックという問題集から選んだもの、 およびサンプルコードとしてPyTorchのTutorial Sampleの自然言語を扱ったもの、を利用させてもらっています。

最後に強化学習の入門教材を置きます。 国内の解説は、古典的なアルゴリズムの部分だけか、最近のを数式てんこ盛りで扱ったものしかありません。 そこで、わかりやすい、米国のMITの入門動画の流れをベースに、 初心者が入りやすいように概念の流れを構成しました。 ただし、これは深層学習を把握していることを前提にしているので、深層学習になじんでから見てください。

ChatGPTや生成AIに関しては、世の中の注目度がバカ高いので、わかりやすい解説記事が急速に沢山書かれ始めています。

学習ロードマップ

導入

導入スライド

準備

Pythonリスト処理スライド		Pythonリスト処理課題ノート （解答）	Pythonリスト処理確認クイズ （解答）
Pandasスライド		Pandas課題ノート （解答）	Pandas確認クイズ （解答）
正規表現スライド		正規表現課題ノート （解答）	正規表現確認クイズ （解答）
数学復習スライド			数学復習_確認クイズ (docx) (解答)
国文法スライド			国文法_確認クイズ (txt)
形態素解析スライド （ノート込み印刷）		形態素解析課題ノート （解答）	形態素解析_確認クイズ (txt)
サブワードスライド （ノート込み印刷）		サブワードのサンプルコードのノート
データ作成スライド		データ準備課題ノート （解答）

基礎

機械学習スライド （ノート込み印刷）		機械学習課題ノート （解答）	機械学習_確認クイズ (txt)
ニューラルネットワークスライド （ノート込み印刷)		ニューラルネットワーク課題ノート （解答）	ニューラルネットワーク_確認クイズ (txt)
単語ベクトルスライド （ノート込み印刷）		単語ベクトル課題ノート （解答） CBOW, Skipgram, NegativeSamplingサンプルコードノート gensimで単語ベクトルを作るサンプルコードノート 日本語Wikipediaから単語ベクトルを作るサンプルコードのノート（実行時間大）	単語ベクトル_確認クイズ (txt)

ネットワークアーキテクチャ

RNNスライド （ノート込み印刷）		rnnを使って翻訳するサンプルコードのノート jpn.txt rnnを使って次単語を予測するサンプルコードのノート	RNN_確認クイズ (txt)
CNNスライド (ノート込み印刷）		CNNを使ったMNISTサンプルコードのノート	CNN_確認クイズ (txt)
Attention、Transformerスライド （ノート込み印刷）		Attentionを使って翻訳するサンプルコードのノート Attentionを使って次単語を予測するサンプルコードのノート RNN、CNN、Transformer課題ノート （解答）	Transformer_確認クイズ (txt)

強化学習

強化学習入門スライド

Singularity

LLM概観スライド 画像生成AI概観スライド