画像認識の大革命。AI界で話題爆発中の「Vision Transformer」を解説！ - Qiita

2020/10/12 351 users Qiita Vision Transformer frac

0. 忙しい方へ 完全に畳み込みとさようならしてSoTA達成したよ Vision Transformerの重要なことは次の3つだよ 画像パッチを単語のように扱うよ アーキテクチャはTransformerのエンコーダー部分だよ 巨大なデータセットJFT-300Mで事前学習するよ SoTAを上回る性能を約$\frac{1}{15}$の計算コストで得られたよ 事前学習デ... 続きを読む

ビット (bit 演算) の使い方を総特集！ 〜 ビットマスクから bit DP まで 〜 - Qiita

2018/02/19 327 users Qiita リサーチャー KEN 演算 大槻

はじめに はじめまして。 NTTデータ数理システム でリサーチャーをしている大槻 (Ken/drken) です。 C や C++ を使用しているとしばしば ビット 演算を行う場面が出て来ます。 計算機リソースが限られている状況では、ビットを用いることでデータ量を少なく済ませたり、計算コストを小さく抑えたりすることができるメリットがあります。 本記事では、ビット演算を用いて実現できる処理について、簡... 続きを読む