Udemy オンライン学習で始める機械学習のススメ(1)[PR]
機械学習のために『プログラミング言語 Python 3 入門』を動画で学んでみた[PR]
機械学習(特にディープラーニング)を始める人にとって、Python言語を習得しているのは必須となっている。Udemyの人気講座で実際に学んだ感想を紹介する。
書籍転載:Thinking Machines ― 機械学習とそのハードウェア実装(15)
国別(中国/米国/欧州/日本)の機械学習・AI関連の研究開発動向
機械学習(AIを含む)関連の研究開発を行っている主要な国・地域(中国、米国、ヨーロッパ、日本)における国家水準での取り組みを紹介する。
書籍転載:Thinking Machines ― 機械学習とそのハードウェア実装(14)
CNN(畳み込みニューラルネットワーク)/RNN(再帰型ニューラルネットワーク)/AE(自動符号化器)の応用モデル
CNN、RNN、AEといったネットワークモデルを拡張あるいは組み合わせた「Deep Convolutional Generative Adversarial Networks」「Highway Networks」「Stacked Denoising Autoencoders」「Ladder Networks」「Residual Networks(ResNet)」を紹介する。
書籍転載:Thinking Machines ― 機械学習とそのハードウェア実装(13)
ネットワークモデル開発時の課題 ― 深層学習の基本
訓練と交差検証で誤差率が高い場合は、バイアスが強い「未適応状態」もしくはバリアンスが強い「過適応状態」である。このバイアス・バリアンス問題の調整について概説。
書籍転載:Thinking Machines ― 機械学習とそのハードウェア実装(12)
深層学習と行列演算 ― ディープラーニングの基本
「深層学習の行列表現とそのデータサイズ」「行列演算のシーケンス」「パラメーターの初期化」について説明する。
書籍転載:Thinking Machines ― 機械学習とそのハードウェア実装(11)
機械学習ハードウェアモデル ― 深層学習の基本
深層学習における、パラメーター空間と順伝播・逆伝播演算の関係を説明。また、代表的な学習の最適化方法と、パラメーターの数値精度についても紹介する。
書籍転載:Thinking Machines ― 機械学習とそのハードウェア実装(10)
ディープラーニング(深層学習)の基本: 数式モデル
ディープラーニング(深層学習)の一般的なネットワークモデルである「順伝播型ニューラルネットワーク」の、各ユニットにおける演算を表現する数式モデルを示しながら、その意味を説明する。
書籍転載:Thinking Machines ― 機械学習とそのハードウェア実装(9)
機械学習ハードウェアとは? 実装基盤となるメニーコアプロセッサ/DSP/GPU/FPGAのアーキテクチャ概説
機械学習ハードウェアとは、設計開発した機械学習モデルを実行するハードウェアプラットフォームのことだ。その実装プラットフォームとなる「CPUを含むメニーコアプロセッサ」「DSP」「GPU」「FPGA」のアーキテクチャについて概説する。
書籍転載:Thinking Machines ― 機械学習とそのハードウェア実装(8)
ディープラーニングを含むニューラルネットワーク・モデルと、そのハードウェア実装
一般的なニューラルネットワークモデルとディープラーニング(深層学習)について紹介。さらにそのハードウェアを実装するための一般的な方法を説明する。
書籍転載:Thinking Machines ― 機械学習とそのハードウェア実装(7)
機械学習のニューロモルフィック・コンピューティング・モデル
機械学習ハードウェアの「ニューロモルフィック・コンピューティング」(前者)と「ニューラル・ネットワーク」という大分類のうち、脳の構造と神経細胞(ニューロン)発火の仕組みを模倣した前者のモデルを説明する。
書籍転載:Thinking Machines ― 機械学習とそのハードウェア実装(6)
機械学習のハードウェア化の歴史と、深層学習の登場
1980年代~現在まで、機械学習のハードウェア実装の歴史を振り返る。計算機アーキテクチャの行き詰まりと深層学習の登場により、機械学習ハードウェアの研究が進んできたことを紹介する。
書籍転載:Thinking Machines ― 機械学習とそのハードウェア実装(5)
機械学習ハードウェアの基礎知識: 特定用途向け集積回路「ASIC」
特定アプリケーションに特化した回路を集積する方法であるASICについて概説。アプリケーションを表現するアルゴリズムのソフトウェア実装とASIC実装を比較しながらASIC実装の特徴と制約を説明する。
書籍転載:Thinking Machines ― 機械学習とそのハードウェア実装(4)
マイクロプロセッサからGPU/FPGAの利用へ ― 機械学習ハードウェア実装に関する時代変遷
計算機システムのハードウェア実装では、従来の主要要素であるマイクロプロセッサの性能向上が停滞してきたことから、GPUやFPGAが採用されるように時代が変遷してきた。その内容について概説する。
書籍転載:Thinking Machines ― 機械学習とそのハードウェア実装(3)
第4次産業革命とは? 機械学習とブロックチェーンの役割
機械学習の新技術活用は第4次産業革命と呼ばれるが、その意味を説明。さらに、機械学習がデータ処理系であれば手続き処理系に相当するブロックチェーンについても概説する。
書籍転載:Thinking Machines ― 機械学習とそのハードウェア実装(2)
機械学習における学習方法と性能評価の基礎知識
機械学習の基礎知識として、学習用データセットの準備と加工、学習方法(勾配降下法/誤差逆伝播法)やその分類(教師あり学習/教師なし学習/強化学習)、性能評価と検証について概説する。
書籍転載:Thinking Machines ― 機械学習とそのハードウェア実装(1)
機械学習の定義と応用範囲、認知されるキッカケとなった出来事
機械学習はいまなぜ広く認知され注目されているのか。知っておきたい代表的な出来事を紹介。また、機械学習とは何かを定義し、その適用範囲を分類する。