乗り遅れた感のあるGoogle Translateの性能改善調査ですー これまでの流れとしては、 １．グーグル先生すごいや！ 翻訳前：グーグル先生すごすぎるんやが。マジやばいっす。 翻訳後：Mr. Google is too great. It is really serious. ２．いや、文脈理解が問…

普通のニューラルネットの各層を全結合層とよぶ（全てのノードは次の層のノードにつながっている） なぜ全結合では不満があるか 全結合層では、２次元的・３次元的構造を保持しない。これは１次元ベクトルとして入力する仕様のため。これでは２次元的構造（…

第２章 ニューラルネット ー 多層パーセプトロン ー 多層パーセプトロンは、パーセプトロンの収束定理では得られなかった学習、例えば線形分離不可能なXOR関数の学習を行える。 問題設定 入力ベクトル x を第１層めとして、第 n 層における脳細胞に対応する…

前提 ニューラルネットの重みとバイアスを訓練データを予測できるよう調整したい（学習の定義） Step 1 訓練データの中から、一定数を無作為抽出する。得られたデータをミニバッチといい、ミニバッチの損失関数の値を最小化したい Step 2 勾配を求めることで…

第２章 ニューラルネット 学習の定義 ある状況における繰り返された経験によるその状況に対する動作の変化のこと（Hilgard 1975） 過学習を防いでうまく学習するには データセットを３つに分ける 学習用の訓練データ 学習の終了判断を行うための評価用のデー…

２つの本 1. 進化計算と深層学習 -創発する知能― (理論中心) 2. ゼロから作るDeep Learning ―Pythonで学ぶディープラーニングの理論と実装 (ゴリゴリ計算) を 1. を中心に読み比べていくシリーズです。 第１章 進化計算入門 ２７億年の歴史がある世界最古の…

事業計画の作り方 Hiveshibuyaワークショップ@10/7 まとめ ０．最初に書くべきこと ミッション・解決すべき問題を定義するのは特にサービス開始前に重要 １．金目鯛を売るには？ ただ旬ですよといっても、いくらだよ！となって結局買わない。値段を言うべき…

はてなブログを今から始めるとか正直どうなのと思うが、人体錬成の実験記録としてのブログ、始まります。 現段階の人工知能の技術はDNNも含めて意味の理解を目的としていないし、正規化項の計算が重すぎで脳で動いているはずのアルゴリズムより随分非効率だ…