毎日テキストマイニング

180日間、毎日テキストマイニングをするブログです

2018/09/03【72日目】Pythonとkerasによるディープラーニングを学んでいく

ディープラーニングの勉強メモ

機械学習は明示的にプログラムされているのではなく、訓練されている。 機械学習モデルの本質は入力データに適した有益な表現を見つけだすこと。

機械学習アルゴリズムは、あらかじめ定義された演算の集まり(仮説空間)に入力するので、結果として数学的な理論が影を薄めがちになる。

ディープラーニングでは層の学習に重点が置かれている。層にはそれぞれ、層で何を行うか指定されており、層の重みに格納されている(層の重みはパラメータともよばれる)。

出力を制御するための目安として、出力が期待されているものからどれくらいかけ離れているのかを計測するのが損失関数。損失率が低くなるように調整していく。この重みを調整していく作業がオプティマイザ(最適化)と呼ばれる

データ分析に統計学の原理を応用することを確率モデリングとよぶ。このカテゴリにおいて最もよく知られているアルゴリズムがナイーブベイズ、ロジスティック回帰。

ディープラーニングの斬新さは特徴量を順番に学習していくのではなく、同時に学習できるようにすること。 ディープラーニングの学習する方法には次の2つの特性がある

  • 層から層への斬新的な学習により、複雑な表現を徐々に作成していくこと
  • そうした斬新的な表現を同時に学習すること

多次元のNumpy配列に格納されたでーたをテンソルという。数値が1つの場合はスカラー。数値の配列はベクトル

ディープラーニングのデータセットは一度に処理するのではなく、いくつかのまとまりに分けて処理をする。これをバッチサイズという。

Kerasの特徴 Kerasの特徴は以下の通り。

  • CPUでもGPUでも同じコードでシームレスに実行できる。
  • ディープラーニングのプロトタイプを簡単に素早く作れる
  • 畳み込みネットワーク、RNNを組み込みでサポートしてる
  • ほぼ全てのディープラーニングに対応している

今日は座学だけでした。

今日の結果

AKBの呟きは66件でした。 要約するとこんな感じでした。

全て を 包み込ん で くれる よう な さ やや が 大好き  ☺ ️ # 川本 紗 矢 生誕 祭 # 手 を つなぎ ながら 公演 # 村山 4 へ " " で も 1 日 リハ で 今 すっぴん で ボロボロ だ から 明日 しよ う か な 明日 も その 気分 だっ たら ! 笑 " すっごく ショールーム で みんな と 話し たい 気分 曇っ てる のに 暑 さ が すごい … 晴れ てる ? " 今日 は 2つ も @ sweet _ twjp の 撮影 でし た ?
" お 会い でき て 嬉しかっ た  ✨ さき さん と 話し て わ ー って なっ て  た ! ! ! 来 て 下さっ て ありがとう ござい  た " " ボブ に なり  た ?
お 仕事 で 一緒 に なる 機会 は 少なかっ た けど 、 会っ た 時 に いつも 手 を 振っ て くれ て 優しく 話し て くれる み ゆ さん が ずっと 好き  ?♡ この 前 の 握手 会 の 帰り の 新幹線 が 隣 の 席 で 嬉しかっ た なぁ ( ;_;)" " えり い ありがとう ーー 終始 かわいかっ た ! ! 楽しめ た の なら すごく 良かっ た … せい ちゃん 呼び が 浸透 する の を 待つ のみ ?? "
'嬉しい': 10, 'すごい': 5, '優しい': 4, '楽しい': 3, '良い': 2, 'ない': 2, 'かわいい': 2, '欲しい': 1, 'すっごい': 1, '暑い': 1, '宜しい': 1, '美味しい': 1, '無い': 1, '可愛い': 1, '危ない': 1, '暖かい': 1, 'つよい': 1, '少ない': 1}
'さん': 19, '嬉しい': 10, 'ちゃん': 9, '今日': 9, '生誕': 8, '祭': 8, '公演': 7, '大好き': 7, '昨日': 6, '私': 6, '夏': 6, '菜': 6, 'すごい': 5, '明日': 5, 'たくさん': 5, 'よう': 5, 'お願い': 5, '回': 5, '福岡': 5, '聖': 5, '放送': 5, 
'する': 36, 'さん': 19, 'くださる': 12, 'なる': 11, '嬉しい': 10, '見る': 10, 'ちゃん': 9, '今日': 9, '生誕': 8, '祭': 8, '公演': 7, '大好き': 7, '昨日': 6, '私': 6, '夏': 6, '菜': 6, 'てる': 6, '会う': 6, 

f:id:rimt:20180908000158p:plain

f:id:rimt:20180908000241p:plain