ニューラルネットのレコメンドをメモ化して高速にする - エムスリーテックブログ

2024/08/06 16 users rookzeno レコメンド エムスリーテックブログ 農見

こんにちは、AI・機械学習チーム(AIチーム)の農見(@rookzeno)です。最近作ったニューラルネットのレコメンドが遅くて困ってました。その時ふと推論してるデータを見ると、これ同じユーザーとアイテムが多発してるなと気づいたので、メモ化をして高速化しました。メモ化して高速化は基礎の基礎ですが、ニューラルネットで... 続きを読む

AIも睡眠をとると学習が改善すると判明！ - ナゾロジー

2022/11/24 10 users ナゾロジー 睡眠 判明 学習 生物

AIにも睡眠が必要なようです。 米国のカリフォルニア大学（University of California）で行われた研究によって、人間の脳を模したAI「ニューラルネット」に生物の睡眠を模倣する「オフライン期間」を導入することで、古い仕事を忘れずに新しい仕事をこなせるようになったことが示されました。 人間の脳は睡眠中、目や耳... 続きを読む

Pythonでニューラルネットワークを書いてみよう

2022/02/08 168 users ニューラルネットワーク DNN Python スクラッチ 他者

連載目次 本連載（基礎編）の目的 スクラッチ（＝他者が書いたソースコードを見たりライブラリーを使ったりせずに、何もないゼロの状態からコードを記述すること）でディープラーニングやニューラルネットワーク（DNN：Deep Neural Network、以下では「ニューラルネット」と表記）を実装して学ぶ系の書籍や動画講座、記... 続きを読む

nerman: AllenNLP と Optuna で作る固有表現抽出システム - クックパッド開発者ブログ

2020/11/06 14 users Optuna NER クックパッド開発者ブログ 本稿 由来

事業開発部の @himkt です．好きなニューラルネットは BiLSTM-CRF です． 普段はクックパッドアプリのつくれぽ検索機能の開発チームで自然言語処理をしています． 本稿では，レシピテキストからの料理用語抽出システム nerman について紹介します． nerman の由来は ner (固有表現抽出 = Named Entity Recognition) + ma... 続きを読む

教師あり学習の精度を超えた！？相互情報量の最大化による教師なし学習手法IICの登場！ | AI-SCHOLAR

2020/02/01 68 users AI-SCHOLAR クラスタリング 精度 クラスタ 要点

3つの要点 相互情報量を最大化する枠組みでニューラルネットを学習する教師なし学習手法IICの提案 予測値をそのまま出力するニューラルネットを学習可能であるため、クラスタリングが不要 従来の教師なし学習手法の「クラスタが一つにまとまってしまう問題」および「ノイズに弱いという問題」を解決 Invariant Informati... 続きを読む

Googleがここ数年で最大の検索アルゴリズム更新、ニューラルネットのBERTテクノロジー投入 | TechCrunch Japan

2019/10/26 311 users ニューラルネットワーク アルゴリズム 当面米国 グーグル 精度

米国時間10月25日、Google（グーグル）は検索エンジンのアルゴリズムをアップデートしたことを発表した。ここ数年で最大で、検索者の意図の推測精度を改善するためにニューラルネットワークを利用する。 Googleでは「検索10回のうち1回の精度をアップさせた」としている。このアップデートは当面米国における英語の検索... 続きを読む

MIT襲うエプスタイン疑惑の深い闇 没後性スキャンダルに見舞われるニューラルネットの父(1/5) | JBpress（Japan Business Press）

2019/09/19 22 users JBpress 深い闇

8月10日に怪死したジェフリー・エプスタインとの関係で大いに揺れるマサチューセッツ工科大学（MIT）、前回は、メディア・ラボの伊藤穣一前所長の疑惑と辞任に触れましたが、もう一つ、大いに問題になっているポイントがあります。 すでに故人ながら、具体的な固有名詞が上がっているアカデミシャンにまつわる性的な「疑... 続きを読む

深層学習の最新テクニック、AIコンペの成績上位5人が披露 | 日経 xTECH（クロステック）

2018/06/18 77 users xTech 多層 クロステック 深層学習 日経

有料会員限定記事　現在はどなたでも閲覧可能です 人工知能学会は2018年6月5日、同学会が主催した画像認識コンペティション「JSAI Cup 2018」の結果を発表し、入賞者5人を表彰した。1位～5位の入賞者が実施したプレゼンテーションを通じ、深層学習（多層のニューラルネットを使った機械学習）で画像認識AIの精度を高める... 続きを読む

CuPyをOpenCLで動かすフレームワーク ClPy を先行リリースしました - Fixstars Tech Blog /proc/cpuinfo

2018/06/07 27 users Proc OpenCL cpuinfo GitHub 先行

本日、フィックスターズは、PythonからNVIDIA GPUを使うためのライブラリCuPyをOpenCLでも使えるようにした ClPy をGitHubにて公開しました！ ClPyを使えば、例えば Chainer のようなニューラルネットを用いた機械学習を、OpenCLが動くデバイス（例えばAMD Radeonなど）でも動作させることができるようになります。 詳細 CuPy とは、Python上で... 続きを読む

ニューラルネットの共通フォーマット対決！ NNEF vs ONNX - Fixstars Tech Blog /proc/cpuinfo

2018/04/20 44 users Proc cpuinfo

遠藤です。 ニューラルネット界隈では、Caffe、TensorFlow、Chainer をはじめ、数々のフレームワークが群雄割拠の様相を呈しております。弊社でも、プロジェクトに応じて適宜フレームワークを使い分け、日々の業務にあたっております。 多数のフレームワークを扱っていると「あっちのフレームワークで学習したモデルを、こっちのフレームワークで使いたい！」といった、フレームワーク間をまたいでモデル... 続きを読む

Common Lispでゼロから作るディープラーニング （1）行列演算とニューラルネットのフォワード計算 - Qiita

2018/03/27 26 users LISP 構文 Qiita Python AIプログラミング

Common Lispは非常に単純でありながら簡単に拡張可能な構文を持つ高水準言語です。Lispは昔からAIプログラミングに活用されてきましたが、最近では記号処理ベースのAIから機械学習ベースのAIへと世の中の関心が移っており、Pythonなどが主に用いられるようになっています。 とはいえ、Common Lispは機械学習のような科学計算にも向いています（ Common Lispが機械学習に向いて... 続きを読む

ニューラルネットを0から作り、仕組みを基礎から理解する - プロクラシスト

2017/12/16 67 users ディープラーニング プロクラシスト 深層学習 一方 魔法

2017 - 12 - 16 ニューラルネットを0から作り、仕組みを基礎から理解する スポンサーリンク データ分析ガチ勉強アドベントカレンダー 16日目。 今日からは少し ディープラーニング の勉強。 ここ数年間、深層学習用ライブラリも猛烈に整備され、誰でも簡単に ディープラーニング を使えるようになりました。 その一方で、 整備されすぎて、魔法の箱 だという認識も多いですよね。 けれど、深層学習... 続きを読む

勾配ブースティング決定木を理解する - hiyoko9t’s blog

2017/12/03 55 users コンペ ライブラリ MNISTデータ 精度 手法

2017 - 12 - 03 勾配ブースティング決定木を理解する 本記事では、 機械学習 コンペなどでよく見られる 勾配ブースティング決定木(gradient boosting decision tree) を説明します。勾配ブースティング決定木は、MNISTデータに対して、 ニューラルネット の最高精度と同等の精度を出したり、また高速な実装xgboostなどで有名な手法です。ライブラリを使用して... 続きを読む

ニューラルネットの逆襲から５年後 | Preferred Research

2017/11/28 465 users Preferred Research 逆襲 5年後

続きを読む

pytorchで行列分解　〜行列分解をふんわり理解する〜 - Qiita

2017/11/15 23 users Qiita PyTorch 行列分解 フレームワーク うち

はじめに IBIS2017のチュートリアル で，林先生が「テンソル分解をニューラルネットのフレームワークでやれば楽チンではないか」みたいなことを言っていて，確かに便利そうだと思ったのでそれを試す． ここではフレームワークとしてpytorchを使う． まずは前段階として単純行列分解をやってみる． テンソル分解はそのうちやりたい．（余裕があれば） 環境 Python 3.6.1 torch (0.2.... 続きを読む

AlphaGo と AlphaGo Zero の自己対戦による学習部分の違い - うどん記

2017/10/29 16 users AlphaGo AlphaGo Zero 盤面 勝率 自己対戦

2017 - 10 - 29 AlphaGo と AlphaGo Zero の自己対戦による学習部分の違い 流し読みだとちゃんと分からなかったのでメモ。 準備(AlphaGo) policy network : 盤面とその特徴量を入力として受け取り、各マスに打つ確率を返す ニューラルネット 。 value network: 盤面とその特徴量を入力として受け取り、その盤面での勝率を返す ニューラルネ... 続きを読む

ビデオゲームのテクノロジーがニューラルネットの実用化に貢献した | TechCrunch Japan

2017/10/28 25 users テクノロジー TechCrunch JAPAN 実用化

国際送金のヒドさに憤慨して起業―、英FintechユニコーンTransferWise CEOがTC Tokyoに登壇 続きを読む

ディープラーニングの応用のための具体的方針まとめ - HELLO CYBERNETICS

2017/09/21 493 users ディープラーニング HELLO CYBERNETICS

2017 - 09 - 21 ディープラーニングの応用のための具体的方針まとめ 人工知能 人工知能-ディープラーニング Follow @ML_deep SNSでこの記事をシェアする Bookmark! Facebook Twitter Google+ Pocket はじめに 目標の設定と指標の決定 目標の設定 指標の決定 評価指標に対する最低限の知識 機械学習における知識（補足） ニューラルネット... 続きを読む

ニューラルネットによる構文解析 ー Dependency Parsingについて - scouty AI LAB

2017/09/20 28 users scouty LAB 構文解析 島田 人工知能

2017 - 09 - 20 ニューラルネットによる構文解析 ー Dependency Parsingについて Deep Learning 人工知能 技術者向け 自然言語処理 論文まとめ 論文翻訳 scouty代表の島田です。 実はscoutyではサービス上で実用するに至れていませんが、技術選定の段階で調査したので、最近人気も出ている ニューラルネット による Dependency Parsing... 続きを読む

Pythonではじめる機械学習(scikit-learnで学ぶ特徴量エンジニアリングと機械学習の基礎)を読んだ | Futurismo

2017/09/02 49 users Futurismo scikit-learn Python

O’Reilly Japan – Pythonではじめる機械学習 を読んだ。 副題: scikit-learnで学ぶ特徴量エンジニアリングと機械学習の基礎 Pythonではじめる機械学習 ―scikit-learnで学ぶ特徴量エンジニアリングと機械学習の基礎 posted with amazlink at 17.09.01 Andreas C. Muller Amazon 動機 ニューラルネットを... 続きを読む

［CEDEC 2017］ニューラルネットがキャラの動きを自然に，処理負荷を低くする？ キャラクターアニメーション品質向上に向けた新提案 - 4Gamer.net

2017/08/30 45 users 情況 米田 ゲーマー 地面 違和感

［CEDEC 2017］ニューラルネットがキャラの動きを自然に，処理負荷を低くする？ キャラクターアニメーション品質向上に向けた新提案 ライター：米田 聡 ゲームパッドを使ってキャラクターを操作しているとき，キャラクターの動きになんとなく違和感を覚えたり，足が地面に着いてないように見える情況に遭遇したりといった経験をしたことがあるゲーマーは多いだろう。 ゲームが3D化を果たして以降，キャラクターの... 続きを読む

CNN で colorization - まんぼう日記

2017/08/15 33 users CNN TensorFlow 実験 ネットワーク 研究

2017 - 08 - 15 CNN で colorization 研究 久しぶりの更新です．3月後半頃からめっちゃ忙しなってまいまして... まあそれはそれとして．畳み込みニューラルネットでグレイスケール画像に色を付ける実験をやってみました． 上記左の画像を入力したら，右の画像を出力するようにしたい，っちうわけです．TensorFlow で CNN 作って試してみたら，単純なネットワークでもそれ... 続きを読む

第8回　TensorFlow で○×ゲームの AI を作ってみよう｜Tech Book Zone Manatee

2017/07/03 68 users TensorFlow 棋譜 盤面 筆者 ノート数

複雑なゲームの場合は人間が実際に打った棋譜などを膨大な量用意することになりますが、今回は○×ゲームという簡単なお題を使った練習なので、筆者が予め最善手を打った場合のデータを作成しておきました。 モデルの詳細 盤面のデータをニューラルネットに入力する際には、×は「-1」、○は「+1」、空いている場合は0として扱うことにします。○×ゲームの盤面は 9マスなので、ニューラルネットの最初の層のノード数は ... 続きを読む

最近のスパースなニューラルネットワークについて - SmartNews 開発者ブログ

2017/06/01 150 users スパーズ GaN ニューラルネットワーク SmartNews

こんにちは、スマートニュースの徳永です。深層学習業界はGANだとか深層強化学習だとかで盛り上がっていますが、今日は淡々と、スパースなニューラルネットワークの話をします。 要約すると ニューラルネットのスパース化によって、精度はほとんど犠牲にせずに、計算効率は3〜5倍程度まで向上できる スパース化にはまだ課題が多く、ニューラルネットの高速化という意味では、次の戦場はたぶんここになる スパースとは、ス... 続きを読む

Googleの敵対的AI（GANs）はAI開発における現実データへの依存を減らす | TechCrunch Japan

2017/04/12 22 users GANs OpenAI TechCrunch JAPAN

AIの開発で最大の難関が、人間による大量の入力が必要なことだ。最初に、AIに解かせるための適切なデータを見つけて入力しなければならないし、さらにそれ以前に、AIを有能にするための訓練で大量のデータ入力が必要だ。GoogleのAI研究者Ian Goodfellowは、Elon Muskらが率いるOpenAIに出向したあと、最近またGoogle Brainに戻った人物だが、彼によると、ニューラルネット... 続きを読む