タグ ビット演算
人気順 10 users 50 users 100 users 500 users 1000 usersビット (bit 演算) の使い方を総特集! 〜 ビットマスクから bit DP まで 〜 - Qiita
はじめに はじめまして。 NTTデータ数理システム でリサーチャーをしている大槻 (Ken/drken) です。 C や C++ を使用しているとしばしば ビット 演算を行う場面が出て来ます。 計算機リソースが限られている状況では、ビットを用いることでデータ量を少なく済ませたり、計算コストを小さく抑えたりすることができるメリットがあります。 本記事では、ビット演算を用いて実現できる処理について、簡... 続きを読む
ニューラルネットワークの量子化についての最近の研究の進展と、その重要性 - SmartNews 開発者ブログ
こんにちは、スマートニュースの徳永です。深層学習業界はGANだとか深層強化学習だとかで盛り上がっていますが、今日は淡々と、ニューラルネットワークの量子化の話をします。 TL;DR パラメータだけを量子化するのであれば、ほぼ精度を落とさずに、パラメータのデータ容量は1/16程度にまで削減できる パラメータ、アクティベーション、勾配のすべてを量子化し、推論だけでなく学習までもビット演算だけで実現する研... 続きを読む
プログラムを高速化する話
Transcript 1. プログラムを高速化する話 @KMC 春合宿 2015 KMC2 回生 prime 2. 2 目次 1.はじめに / 最適化について 2.キャッシュを考慮した最適化 3.ビット演算による高速化 4.SIMD 命令による高速化 3. 3 はじめに 現代ではそこまで頑張ってプログラムを高速化する必要 は無くなってきている コンピュータの性能向上・省電力化 既存の高速なライブラ... 続きを読む