【文系でもわかる】ChatGPTのキモ「Transformer」「Attention」のしくみ

2023/09/26 518 users Transformer GPT attention 文脈 根幹

第1回は、さまざまなタスクをこなす万能型ジェネレーティブAIツール「ChatGPT」の性能の鍵を握る「トークン長（GPTが文脈を意識できる過去の単語数）」やGPTの歴史的経緯について解説しました。第2回はGPTを支える自然言語処理 の分野で使用される深層学習モデル「Transformer」とその根幹となる「Attention機構（そのタ... 続きを読む

深層距離学習(Deep Metric Learning)の基礎から紹介 - OPTiM TECH BLOG

2021/10/01 120 users deep metric learning 検知 河野 基礎

こんにちは、R&Dチームの河野です。深層学習モデルの開発を担当しております。 今回は、画像分類、画像検査、顔認識や異常検知など様々な分野に利用されている深層距離学習(Deep Metric Learning)について紹介したいと思います。 ※ 一部モバイル端末で式が崩れることがあるようです。その際はPC等での閲覧をお願いします... 続きを読む

グーグルの機械学習フレームワーク「TensorFlow」が「Raspberry Pi」を正式にサポート - ZDNet Japan

2018/08/07 77 users TensorFlow Linux グーグル コンピュータ

シングルボードのコンピュータ「Raspberry Pi」で、Googleの機械学習フレームワーク「TensorFlow」を利用するのがますます簡単になりそうだ。 開発者はすでに、Raspberry PiでTensorFlowをさまざまに活用し、深層学習モデルを追加して、画像分類などを行うことが可能だった。 TensorFlowは「Linux」「Windows」「Android... 続きを読む

SONYの本気！AI開発ツール『Neural Network Console』が現場の常識をぶっ壊す - BITA デジマラボ

2017/08/17 267 users BITA CAFFE デジマラボ Theano Keras

SONYの本気！AI開発ツール『Neural Network Console』が現場の常識をぶっ壊す TOP AI:人工知能 SONYの本気！AI開発ツール『Neural Network Console』が現場の常識をぶっ壊す SONY『深層学習モデルの開発ハードル無くそう』 TensorFlow、Keras、Theano、Caffeなど。これまでディープラーニング向けライブラリといえば、海外勢が... 続きを読む

Facebook、機械学習の訓練時間を大幅に短縮――視覚的認識処理に大きな進歩 | TechCrunch Japan

2017/06/08 52 users Facebook ImageNet 進歩 短縮 機械学習

スピードが問題となる検索テクノロジーの世界では深層学習モデルの訓練に割く時間は1分ずつがきわめて貴重だ。今朝（米国時間6/8）、Facebookは論文を発表し、この問題に対する独自のアプローチを紹介した。Facebookによれば、ImageNetのResNet-50深層学習モデルの訓練時間を29時間から1時間に短縮することに成功したという。 Facebookがこのようにドラスティックな進歩を遂げる... 続きを読む

モデル圧縮 - nico-opendata

2017/05/19 62 users アプリケーション 精度 需要 従来 ネットワーク経由

深層学習モデルをアプリケーションなどに組み込む需要が増えてきています。 しかしながら、深層学習モデルは従来の機械学習モデルと比べデータサイズが巨大となることが多く、ネットワーク経由でアプリケーションを配布する場合などに問題となります。そのため、学習済みの深層学習モデルを精度を落とさないように圧縮し、データサイズを削減する モデル圧縮（Model Compression） [Bucilua2006]... 続きを読む

SSD: Single Shot MultiBox Detector 高速リアルタイム物体検出デモをKerasで試す - Qiita

2017/02/13 88 users Qiita Keras レポジトリ SSD 物体検出

リアルタイムに物体検出するのってどうやるんだろう？と思い調べてみたら、想像以上に高機能なモデルが公開されていたので試してみました。こんな感じです。 自動運転で良く見るようなリアルタイムの物体認識をしています。このモデルは「Single Shot MultiBox Detector（SSD）」という深層学習モデルで、Kerasで動いています。 環境さえ整えればレポジトリをクローンして簡単に実行できま... 続きを読む