2019-01-01から1年間の記事一覧
先日、「ProbSpace」というプラットフォームで開催された「給与推定」コンペに参戦したので、振り返っていきたいと思います。 私にとって、初めて公式の結果が確定したコンペとなり、最終順位は参加310チーム中、46位でした。全体の15%以内に入れたので、ま…
E資格(JDLA Deep Learning for ENGINEER 2019 #2)対策として学習した応用数学の分野のうち、今回は、情報理論-クロスエントロピーを振り返ります。 深層学習では、以下の4つが既知のものとして登場してきます。 自己情報量 エントロピー カルバック・ライ…
E資格(JDLA Deep Learning for ENGINEER 2019 #2)対策として学習した応用数学の分野のうち、今回は、情報理論-カルバック・ライブラー情報量(KLダイバージェンス)を振り返ります。 深層学習では、以下の4つが既知のものとして登場してきます。 自己情報量…
E資格(JDLA Deep Learning for ENGINEER 2019 #2)対策として、今回は、応用数学の分野のうち、情報理論-エントロピーを振り返ります。 深層学習では、以下の4つが既知のものとして登場してきます。 自己情報量 エントロピー カルバック・ライブラー情報量…
E資格(JDLA Deep Learning for ENGINEER 2019 #2)対策として、今回は、応用数学の分野のうち、情報理論-自己情報量を振り返ります。 深層学習では、以下の4つが既知のものとして登場してきます。 自己情報量 エントロピー カルバック・ライブラー情報量(K…
E資格(JDLA Deep Learning for ENGINEER 2019 #2)対策として、今回は、応用数学の分野のうち、対数関数を振り返ります。 高校時代にならったわかったようで、よくわからない関数ですが、深層学習では必要不可欠な関数なので、今一度、定義と法則を振り返っ…
E資格(JDLA Deep Learning for ENGINEER 2019 #2)対策として、今回は、応用数学の分野のうち、確率を振り返ります。直接確率を求める問題が出るかはわかりませんが、過去問や例題等を解くうえでは、確率の考え方が理解できたほうがすっと入ってきます。 で…
E資格(JDLA Deep Learning for ENGINEER 2019 #2)対策として、今回は、応用数学の分野のうち、特異値分解を振り返ります。特異値分解は、過去問に言及されている受験者の方のサイト等を拝見する限りでは、前回掲載した、固有値分解とともに頻出問題のよう…
本日、8月31日に受験したE資格(JDLA Deep Learning for ENGINEER 2019 #2)の結果発表があり、無事合格しました! 約半年間取り組んできた努力が実りました! させてくれた家族と会社の皆さんに感謝です。 今後、合格に向けて取り組んできた対策、例題、…
E資格(JDLA Deep Learning for ENGINEER 2019 #2)対策の振り返りです。今回は、応用数学の分野のうち、固有値、固有ベクトル、固有値分解を振り返ります。 固有値分解は、過去問に言及されている受験者の方のサイト等を拝見する限りでは、次回掲載予定の特…
E資格(JDLA Deep Learning for ENGINEER 2019 #2)の試験が終わりました。 3月にG検定合格した後、E資格対策として取り組んできた勉強と、参考にした書籍などを紹介していきたいと思います。 3月 G検定に合格し、E検定受験を決意 4月 認定講座受講開始ま…
本日、E資格(JDLA Deep Learning for ENGINEER 2019 #2)を受験してきました。 かなり苦戦しましたが、今の自分の実力の汎化性能が測定できたと思って、あとは、9月9日の結果発表を待ちたいと思います。 これまでの取り組みついては、落ち着いたら、まっ…
試験勉強に注力していたので、なかなか更新できていませんでしたが、久々の投稿です。 E資格受験に向けて、最適化(Optimizer)について、以下の書籍を参考にして、自分なりに頭の中を整理してみました。 ゼロから作るDeep Learning Pythonで学ぶディープラ…
E資格受験に向けて、一通りの分野を学習したので、現在は、 IanGoodfellow著の「深層学習」で全体を復習しています。 深層学習【電子書籍】[ 岩澤 有祐 ] とても分厚くて、勉強を始めた当初は、ビビッていましたが、ここまで学習を進めてきて、なんとも頼も…
受験資格を得るための課題は完了したので、一旦実装はお休みして、知識学習に力を入れています。今は、「 ゼロから作るDeep Learning 2 自然言語処理編」を購入して、苦手なRNNやLSTMなど系列データを使ったディープラーニングを学習しています。 ゼロから作…
今年、G検定に合格できたので、JDLA資格試験合格者の会に参加できました!参加した感想をレポートさせていただきます。 合格までの道のりは、以下にて公開中です。 g-kentei.hatenablog.com 今回、はじめて参加させていただきましたが、700人以上の方が参…
オライリージャパン社の「実践 機械学習システム」に取り組んでいます。 今回は、多項式の次数を上げて近似します。 前回の直線で近似した記事は以下の通りです。 oregin-ai.hatenablog.com 実践機械学習システム [ ウィリ・リチャート ] では、順に取り組ん…
オライリージャパン社の「実践 機械学習システム」に取り組んでいます。 今回は、「単純な直線で近似する」を学びます。 実践機械学習システム [ ウィリ・リチャート ] では、順に取り組んでいきます。 1.まずは、誤差を計算する関数を定義する。 #誤差を定…
「Kaggle」のデータセット「Kickstarter Projects」の取り組みで、かなり苦戦したので、今一度、基礎から学ぶために、オライリージャパン社の「実践 機械学習システム」に取り組んでまいります。 今回は、データの読み込みと欠損値の処理を学びます。 実践機…
「Kaggle」のデータセット「Kickstarter Projects」に取り組んでいます。 前回挑戦した、木モデルのAdaBoostのコードをまとめました。 前回の記事は、以下にありますので、ご参照ください。 oregin-ai.hatenablog.com では、さっそくまとめです。 1.まずは、…
「Kaggle」のデータセット「Kickstarter Projects」に取り組んでいます。 今回は、一度NNモデルから離れて、木モデルのAdaBoostに挑戦します。 NNモデルの記事は、以下にありますので、ご参照ください。 oregin-ai.hatenablog.com では、さっそく取り組んで…
「Kaggle」のデータセット「Kickstarter Projects」に取り組んで、前回、LassoCVを使った特徴量選択を実施したので、その特徴量を使ってNNモデルを作り学習率をグリッドサーチします。 前回の記事は、以下にありますので、ご参照ください。 oregin-ai.hatena…
「Kaggle」のデータセット「Kickstarter Projects」に取り組んで、Leakageにハマってしまいましたが、気を取り直して、再度取り組み開始です。 ハマってしまった「Leakage」については、以下にまとめてあるのでご参照ください。 oregin-ai.hatenablog.com さ…
「Kaggle」のデータセット「Kickstarter Projects」に取り組んで、順調に精度を向上させているかに見えたのですが、ここにきて、知人に「それ、Leakageじゃない?」と指摘され、今回は、Leakageの回避に取り組みました。 これまでの流れは以下にまとめてある…
「Kaggle」のデータセット「Kickstarter Projects」にて、更に精度を向上させるために異常値の除去についても検討します。 これまでの流れは以下にまとめてあるのでご参照ください。 oregin-ai.hatenablog.com 国別とカテゴリーは成功率なので異常値はないと…
「Kaggle」のデータセット「Kickstarter Projects」にて、更に精度を向上させるためにほかの説明変数についても検討します。 これまでの流れは以下にまとめてあるのでご参照ください。 oregin-ai.hatenablog.com 1.【仮説1】'country' によって成功、失敗が…
「Kaggle」のデータセット「Kickstarter Projects」にて、ロジスティック回帰で分類するところまできたので、とりあえず実装コードをまとめておこうと思います。 これまでの流れは以下の記事をご参照ください。 oregin-ai.hatenablog.com 1.ロジスティック回…
現在取り組み中の「Kaggle」のデータセット「Kickstarter Projects」にて、分類に採用する説明変数を選択したので、ロジスティック回帰で分類していきたいと思います。 0.これまでの続きなので、ライブラリのインポートや、データ読み込み、データの前処理が…
前回から取り組み始めた「Kaggle」の過去問「Kickstarter Projects」にて、分類に採用する説明変数を選択していきたいと思います。 0.前回の続きなので、ライブラリのインポートや、データ読み込み、データの前処理が実施されている前提です。前回をご覧にな…
前回、「Kaggle」のアカウントを作成したものの、何から手をつけていいかわからないので、まずは、知り合いの勧めで「Kickstarter Projects」に挑戦したいと思います。 0. まずは、「Kaggle」のホームページにアクセスする。 1.検索窓に「Kickstarter Projec…