日本に拠点を置くAI企業「Sakana AI」がキャッシュメモリの使用量を最大75％削減する技術「NAMM」を開発

2024/12/18 14 users キャッシュメモリ NAMM コンテキスト 論文 拠点

Sakana AIが「進化したユニバーサルトランスフォーマーメモリ」という論文を発表しました。論文によると、ニューラルアテンションメモリーモデル(NAMM)という新たな仕組みを導入することでコンテキストにおいて冗長な情報を削減でき、推論時のメモリ効率を高めることができたとのことです。 An Evolved Universal Transf... 続きを読む

Googleがリアルタイムに高精度なレンダリングを実現する新技術「SMERF」を発表

2023/12/14 13 users Nerf レンダリング センチメートル単位 精度 リアルタイム

画像や映像から立体的なイメージを生み出せる「NeRF(Neural Radiance Fields：ニューラル輝度場)」や「MERF(Memory-Efficient Radiance Fields：メモリ効率のいい輝度場)」をさらに発展させ、センチメートル単位の精度のレンダリングを行いつつも必要スペックはMERF並みな「SMERF」という技術を、Googleの開発者チームが... 続きを読む

Small String Optimization で Rust ライブラリ ratatui を最適化した話 - はやくプログラムになりたい

2023/11/30 14 users rust SSO プログラム 実行効率 文字列型

最近 ratatui という crate に Small String Optimization を利用した最適化を入れたので，その話を書きます． 目次 Small String Optimization (SSO) とは（SSO を既に知っている人は読み飛ばして大丈夫です） Rust で SSO を適用した文字列型を提供する crate 比較 SSO を利用して ratatui のメモリ効率と実行効率を最... 続きを読む

大規模言語モデルの出力スピードを最大24倍に高めるライブラリ「vLLM」が登場、メモリ効率を高める新たな仕組み「PagedAttention」とは？

2023/06/22 14 users Transformers vLLM スループット ライブラリ

大規模言語モデルを利用する際には、モデルそのものだけでなく、モデルを扱うためのライブラリが必要になってきます。多くの場合Transformersというライブラリが使用されていますが、「PagedAttention」という仕組みを導入した新たなライブラリ「vLLM」を利用することでスループットを最大24倍に向上できることが大規模... 続きを読む

Rubyでアドベンチャーゲーム用DSL(ドメイン固有言語)を作る

2021/02/17 12 users Ruby ドメイン固有言語 DSL 言語選定 言語

新しくプロダクト開発を始める時、あなたはどの言語でコードを書くことを選ぶでしょうか？ シンプルに、スピーディーに開発が行える言語？メモリ効率や実行速度に優れた言語？はたまた一生使い続けると愛を誓った言語でしょうか。 今回は、そんな言語選定における選択肢としてのDSL(ドメイン固有言語)とその作り方につい... 続きを読む

縦タブのVivaldiこそがウェブブラウザ - 本しゃぶり

2017/11/26 38 users Vivaldi Quantum ウェブブラウザ Chrome

2017 - 11 - 26 縦タブのVivaldiこそがウェブブラウザ やったこと 縦タブこそがウェブブラウザのあるべき姿である。 つまり Vivaldi こそがウェブブラウザだ。 これは Firefox から移住した者による記録である。 Quantumのふるい 57になって Firefox は生まれ変わった。従来比2倍の処理性能となりながら、メモリ効率は Chrome より30%も優れている。... 続きを読む

ファミコンのグラフィックスの省メモリ化テクニックとは？ | コンピュータサイエンス | POSTD

2015/06/03 671 users POSTD グラフィックス ファミコン ピクチャー NES

1983年に発売されたファミコンは、独自設計のピクチャー･プロセシング･ユニットを使うことで、当時としては驚きの映像を生み出すことができました。特に目を見張るべきはそのメモリ効率で、ほんの数キロバイトで高クオリティの映像を生み出しました。その手法はどのようなものだったのでしょう？1983年に発売されたNintendo Entertainment System（NES、日本での商品名は「ファミリーコ... 続きを読む