Pythonでニューラルネットワークを書いてみよう

2022/02/08 168 users ニューラルネットワーク DNN Python スクラッチ 他者

連載目次 本連載（基礎編）の目的 スクラッチ（＝他者が書いたソースコードを見たりライブラリーを使ったりせずに、何もないゼロの状態からコードを記述すること）でディープラーニングやニューラルネットワーク（DNN：Deep Neural Network、以下では「ニューラルネット」と表記）を実装して学ぶ系の書籍や動画講座、記... 続きを読む

教師あり学習の精度を超えた！？相互情報量の最大化による教師なし学習手法IICの登場！ | AI-SCHOLAR

2020/02/01 68 users AI-SCHOLAR クラスタリング 精度 クラスタ 要点

3つの要点 相互情報量を最大化する枠組みでニューラルネットを学習する教師なし学習手法IICの提案 予測値をそのまま出力するニューラルネットを学習可能であるため、クラスタリングが不要 従来の教師なし学習手法の「クラスタが一つにまとまってしまう問題」および「ノイズに弱いという問題」を解決 Invariant Informati... 続きを読む

Googleがここ数年で最大の検索アルゴリズム更新、ニューラルネットのBERTテクノロジー投入 | TechCrunch Japan

2019/10/26 311 users ニューラルネットワーク アルゴリズム 当面米国 グーグル 精度

米国時間10月25日、Google（グーグル）は検索エンジンのアルゴリズムをアップデートしたことを発表した。ここ数年で最大で、検索者の意図の推測精度を改善するためにニューラルネットワークを利用する。 Googleでは「検索10回のうち1回の精度をアップさせた」としている。このアップデートは当面米国における英語の検索... 続きを読む

深層学習の最新テクニック、AIコンペの成績上位5人が披露 | 日経 xTECH（クロステック）

2018/06/18 77 users xTech 多層 クロステック 深層学習 日経

有料会員限定記事　現在はどなたでも閲覧可能です 人工知能学会は2018年6月5日、同学会が主催した画像認識コンペティション「JSAI Cup 2018」の結果を発表し、入賞者5人を表彰した。1位～5位の入賞者が実施したプレゼンテーションを通じ、深層学習（多層のニューラルネットを使った機械学習）で画像認識AIの精度を高める... 続きを読む

ニューラルネットを0から作り、仕組みを基礎から理解する - プロクラシスト

2017/12/16 67 users ディープラーニング プロクラシスト 深層学習 一方 魔法

2017 - 12 - 16 ニューラルネットを0から作り、仕組みを基礎から理解する スポンサーリンク データ分析ガチ勉強アドベントカレンダー 16日目。 今日からは少し ディープラーニング の勉強。 ここ数年間、深層学習用ライブラリも猛烈に整備され、誰でも簡単に ディープラーニング を使えるようになりました。 その一方で、 整備されすぎて、魔法の箱 だという認識も多いですよね。 けれど、深層学習... 続きを読む

勾配ブースティング決定木を理解する - hiyoko9t’s blog

2017/12/03 55 users コンペ ライブラリ MNISTデータ 精度 手法

2017 - 12 - 03 勾配ブースティング決定木を理解する 本記事では、 機械学習 コンペなどでよく見られる 勾配ブースティング決定木(gradient boosting decision tree) を説明します。勾配ブースティング決定木は、MNISTデータに対して、 ニューラルネット の最高精度と同等の精度を出したり、また高速な実装xgboostなどで有名な手法です。ライブラリを使用して... 続きを読む

ニューラルネットの逆襲から５年後 | Preferred Research

2017/11/28 465 users Preferred Research 逆襲 5年後

続きを読む

ディープラーニングの応用のための具体的方針まとめ - HELLO CYBERNETICS

2017/09/21 493 users ディープラーニング HELLO CYBERNETICS

2017 - 09 - 21 ディープラーニングの応用のための具体的方針まとめ 人工知能 人工知能-ディープラーニング Follow @ML_deep SNSでこの記事をシェアする Bookmark! Facebook Twitter Google+ Pocket はじめに 目標の設定と指標の決定 目標の設定 指標の決定 評価指標に対する最低限の知識 機械学習における知識（補足） ニューラルネット... 続きを読む

第8回　TensorFlow で○×ゲームの AI を作ってみよう｜Tech Book Zone Manatee

2017/07/03 68 users TensorFlow 棋譜 盤面 筆者 ノート数

複雑なゲームの場合は人間が実際に打った棋譜などを膨大な量用意することになりますが、今回は○×ゲームという簡単なお題を使った練習なので、筆者が予め最善手を打った場合のデータを作成しておきました。 モデルの詳細 盤面のデータをニューラルネットに入力する際には、×は「-1」、○は「+1」、空いている場合は0として扱うことにします。○×ゲームの盤面は 9マスなので、ニューラルネットの最初の層のノード数は ... 続きを読む

最近のスパースなニューラルネットワークについて - SmartNews 開発者ブログ

2017/06/01 150 users スパーズ GaN ニューラルネットワーク SmartNews

こんにちは、スマートニュースの徳永です。深層学習業界はGANだとか深層強化学習だとかで盛り上がっていますが、今日は淡々と、スパースなニューラルネットワークの話をします。 要約すると ニューラルネットのスパース化によって、精度はほとんど犠牲にせずに、計算効率は3〜5倍程度まで向上できる スパース化にはまだ課題が多く、ニューラルネットの高速化という意味では、次の戦場はたぶんここになる スパースとは、ス... 続きを読む

SVM、ニューラルネットなどに共通する分類問題における考え方 - "機械学習","信号解析","ディープラーニング"の勉強

2017/03/07 55 users SVM bookmark 曲面 線形 線形分離

2017 - 03 - 08 SVM、ニューラルネットなどに共通する分類問題における考え方 人工知能 人工知能-機械学習 シェアする Bookmark! Facebook Twitter Google+ Pocket はじめに 分類問題の基本 分類における困難：線形分離不可能 非線形な分類問題 曲線、曲面によって境界を定める＝空間を捻じ曲げて線形な境界を定める 素朴な疑問とその回答 次元に自由度が... 続きを読む

畳み込みニューラルネットワークの可視化 - 人工知能に関する断創録

2017/02/16 127 users ニューラルネットワーク 人工知能 断創録 重み 可視化

2017 - 02 - 16 畳み込みニューラルネットワークの可視化 Deep Learning Keras コンピュータビジョン Deep Learningの学習結果（重み）はブラックボックスで、隠れ層のユニット（特に深い層の！）が一体何を学習したのかがよくわからないと長年言われてきた。しかし、今回紹介する方法を使うとニューラルネットが何を学習したのか目で見える形で表現できる。 畳み込みニューラ... 続きを読む

GANによるノイズ・モザイク等の除去 - にほんごのれんしゅう

2017/01/24 62 users GaN れんしゅう ブレーガ ケトル ノイズ

2017 - 01 - 24 GANによるノイズ・モザイク等の除去 GANによるノイズ・モザイク等の除去 近況 眠い。 実は今月、三回も停電が起きてそのたびに 機械学習 のモデルが飛んでいます。原因は電子レンジとケトルを両方利用したとか、そういった当たり前のことなのですが...(ブレーカを飛ばしているの私でないです)。 モチベーション pix2pixなどの ニューラルネット での画像変換は、通常の... 続きを読む

DeepLearning系ライブラリ、Kerasがあまりにも便利だったので使い方メモ - プロクラシスト

2017/01/07 468 users Keras プロクラシスト 使い方メモ 活性化関数 練習

2017 - 01 - 07 DeepLearning系ライブラリ、Kerasがあまりにも便利だったので使い方メモ IT/機械学習系 Google+ Pocket スポンサーリンク こんにちは、ほけきよです。 以前練習として、1から ニューラルネット をプログラムで書いたことがあります。 それはそれでデータの流れだとか、活性化関数の働きだとか得るものは多かったのですが、 今回 Keras と言うも... 続きを読む

Google翻訳の精度がニューラル・ネットワーク導入で劇的に向上!これはすごい - shi3zの長文日記

2016/11/11 606 users 精度 長文日記 google翻訳 向上 https

タイムラインがざわついていた。 ついにGoogle翻訳の英日翻訳にもニューラルネットが採用されたらしい。 https://translate.google.co.jp/#au さっそく、いつものMoon speechを訳してみる 原文 We choose to go to the moon. We choose to go to the moon in this decade and do the... 続きを読む

そろそろニューラルネットやディープラーニングを「人間の脳を模倣してる」というのをやめませんか？ - 病みつきエンジニアブログ

2016/05/12 401 users シンギュラリティ ディープラーニング 人工知能 深層学習 人間

2016 - 05 - 13 そろそろニューラルネットやディープラーニングを「人間の脳を模倣してる」というのをやめませんか？ 最近(？) ニューラルネット (Neural Network)やらディープラーニング(Deep Learning; 深層学習)やらが流行ってきて、 人工知能 やらシンギュラリティやら言われるようになって、その中でよく言われるのが「ディープラーニングは人間の脳を模倣してる」と... 続きを読む

TensorFlow Playgroundはニューラルネットを理解するのにおススメ - 西尾泰和のはてなダイアリー

2016/04/14 473 users 西尾泰和 はてなダイアリー

ネットワークの重みや各ニューロンがどういう入力の時に発火するのかが、学習していく過程で各時刻可視化されてとても良い教材です。 http://playground.tensorflow.org/ うずまきのデータセットに関して「中間層が1層しかないとうずまき（線形非分離な問題）は解けない」という誤解があるようなので、まずは1層でできるという絵を紹介。なお僕のタイムライン上では id:a2c が僕より... 続きを読む

Python - Chainerでファインチューニングするときの個人的ベストプラクティス - Qiita

2015/12/26 61 users Qiita Chainer ベストプラクティス Python

メリークリスマス！！！！ @tabe2314 です。 この記事では、明日から使えるChainerテクニックとして、既存モデルをファインチューンして新しいモデルをつくる際の個人的なベストプラクティスを紹介します。 ニューラルネットを学習するために、別の問題、別のデータセットで学習済みのモデルのパラメータをコピーして、それを新しいニューラルネットのパラメータの初期値として使うことをファインチューニング... 続きを読む

Chainerで顔イラストの自動生成 - Qiita

2015/12/24 433 users Qiita pfn Chainer mattya DCGAN

PFNのmattyaです。chainerを使ったイラスト自動生成をやってみました(上の画像もその一例です)。 20日目の @rezoolab さんの記事( Chainerを使ってコンピュータにイラストを描かせる )とネタが被っちゃったので、本記事ではさらに発展的なところを書いていきたいと思います。一緒に読んでいただくとよいかと。 概要 Chainerで画像を生成するニューラルネットであるDCGAN... 続きを読む

機械学習 - 『日本人「だけ」読めないフォント』が本当に日本人だけ読めないのか、ニューラルネットの力を借りて確認してみた - Qiita

2015/10/19 105 users Qiita フォント 機械学習 日本人

test models. [PATTERN1]: English only. 2015-10-19 08:08:39,112 [INFO] #data: 26 2015-10-19 08:08:39,186 [INFO] correct: v, answer: capsV => RIGHT 2015-10-19 08:08:39,186 [INFO] correct: g, answer: cap... 続きを読む

機械学習 - Chainerで始めるニューラルネットワーク - Qiita

2015/09/24 224 users ニューラルネットワーク Qiita Chainer CUDA

Chainerは、Preferred Networksが開発したニューラルネットワークを実装するためのライブラリです。その特徴としては、以下のような点があります(ホームページより)。 高速: CUDAをサポートし、GPUを利用した高速な計算が可能 柔軟: 柔軟な記法により、畳み込み、リカレントなど、様々なタイプのニューラルネットを実装可能 直観的: ネットワーク構成を直観的に記述できる 個人的には... 続きを読む

ニューラルネットに基づく機械翻訳 Graham Neubig 奈良先端科学技術大学院大学 (NAIST) 2015-9-15

2015/09/20 51 users NAIST Graham Neubig 推測 機械翻訳 講演

1 ニュラールネットに基づく機械翻訳 ニューラルネットに 基づく機械翻訳 Graham Neubig 奈良先端科学技術大学院大学 (NAIST) 2015-9-15 2 ニュラールネットに基づく機械翻訳 I am giving a talk at Kyoto University 私 は 京都 大学 で 講演 を しています ( 終 ) 3 ニュラールネットに基づく機械翻訳 次の単語確率を推測 ... 続きを読む

Python - 【ディープラーニング】ChainerでAutoencoderを試して結果を可視化してみる。 - Qiita

2015/07/05 118 users Qiita Chainer Encode Python 可視化

ChainerでAutoencoderを試してみる記事です。前回の記事、「【機械学習】ディープラーニング フレームワークChainerを試しながら解説してみる。」の続きとなります。ディープラーニングの事前学習にも使われる技術ですね。 1.最初に AutoencoderとはAuto(自己) encode(符号化)er(器)で、データを2層のニューラルネットに通して、自分自身のデータと一致する出力がさ... 続きを読む

chainerでニューラルネットを学んでみるよ(chainerでニューラルネット2) - 人工言語処理入門

2015/06/27 165 users Chainer インストール サンプルコード 前回 画像分類

2015-06-27 chainerでニューラルネットを学んでみるよ(chainerでニューラルネット2) chainer 前回の記事ではchainerのインストールからサンプルコードを使って画像識別問題を解くところまでやりました。 PFN発のディープラーニングフレームワークchainerで画像分類をするよ(chainerでニューラルネット1) - 人工言語処理入門hi-king.hatenabl... 続きを読む

分散深層強化学習でロボット制御 | Preferred Research

2015/06/10 341 users Preferred Research ロボット制御 松元

新入社員の松元です。はじめまして。 “分散深層強化学習”の技術デモを作成し、公開いたしました。ロボットカーが0から動作を学習していきます！ まずはこの動画を御覧ください。 以下で、動画の見どころと、使っている技術を紹介します。 動画の見どころ Car 0(○の付いている車)が右折カーブの手前で減速する様子(右画面の白いバーのところが、ブレーキのところで赤くなっている。ニューラルネットはブレーキが最... 続きを読む