読者です 読者をやめる 読者になる 読者になる

ごちきか - ご注文は機械学習ですか?

2次元から3次元への埋め込みをしていくブログ。

進化したGoogle Translateの性能限界はどこか? ー文法・表現力についてー

乗り遅れた感のあるGoogle Translateの性能改善調査ですー これまでの流れとしては、 1.グーグル先生すごいや! 翻訳前:グーグル先生すごすぎるんやが。マジやばいっす。 翻訳後:Mr. Google is too great. It is really serious. 2.いや、文脈理解が問…

CNN - Convolutional Neural Net - 畳み込み層の実装

普通のニューラルネットの各層を全結合層とよぶ(全てのノードは次の層のノードにつながっている) なぜ全結合では不満があるか 全結合層では、2次元的・3次元的構造を保持しない。これは1次元ベクトルとして入力する仕様のため。これでは2次元的構造(…

「進化計算と深層学習」まとめノート 3

第2章 ニューラルネット ー 多層パーセプトロン ー 多層パーセプトロンは、パーセプトロンの収束定理では得られなかった学習、例えば線形分離不可能なXOR関数の学習を行える。 問題設定 入力ベクトル x を第1層めとして、第 n 層における脳細胞に対応する…

確率的勾配微分法とは

前提 ニューラルネットの重みとバイアスを訓練データを予測できるよう調整したい(学習の定義) Step 1 訓練データの中から、一定数を無作為抽出する。得られたデータをミニバッチといい、ミニバッチの損失関数の値を最小化したい Step 2 勾配を求めることで…

「進化計算と深層学習」まとめノート 2

第2章 ニューラルネット 学習の定義 ある状況における繰り返された経験によるその状況に対する動作の変化のこと(Hilgard 1975) 過学習を防いでうまく学習するには データセットを3つに分ける 学習用の訓練データ 学習の終了判断を行うための評価用のデー…

「進化計算と深層学習」まとめノート 1

2つの本 1. 進化計算と深層学習 -創発する知能― (理論中心) 2. ゼロから作るDeep Learning ―Pythonで学ぶディープラーニングの理論と実装 (ゴリゴリ計算) を 1. を中心に読み比べていくシリーズです。 第1章 進化計算入門 27億年の歴史がある世界最古の…

事業計画勉強会@Hiveshibuya まとめ

事業計画の作り方 Hiveshibuyaワークショップ@10/7 まとめ 0.最初に書くべきこと ミッション・解決すべき問題を定義するのは特にサービス開始前に重要 1.金目鯛を売るには? ただ旬ですよといっても、いくらだよ!となって結局買わない。値段を言うべき…

tst

はてなブログを今から始めるとか正直どうなのと思うが、人体錬成の実験記録としてのブログ、始まります。 現段階の人工知能の技術はDNNも含めて意味の理解を目的としていないし、正規化項の計算が重すぎで脳で動いているはずのアルゴリズムより随分非効率だ…