タグ 最適化手法
人気順 10 users 50 users 100 users 500 users 1000 usersLLMが別のLLMを何度も改善 より良い回答を出す最適化手法をAIが発見する技術 Sakana AIなどが開発
2024/06/17
17 users
LLM
何度
改善
開発
このコーナーでは、2014年から先端テクノロジーの研究を論文単位で記事にしているWebメディア「Seamless」（シームレス）を主宰する山下裕毅氏が執筆。新規性の高いAI分野の科学論文を山下氏がピックアップし、解説する。 X： ＠shiropen2 AIベンチャーのSakana AI（東京都港区）やFLAIR、英ケンブリッジ大学、オックス... 続きを読む
Arxiv RAGによる論文サーベイの自動生成 | Shikoan's ML Blog
2024/04/27
54 users
自動生成
LLM
Claude
ＴＳＰ
GPT
178{icon} {views} 複数のLLM（GPT/Claude3）とArxivの検索APIをRAGで統合し、論文サーベイの自動生成を作りました。検索結果の前処理や、サーベイ特有のプロンプトエンジニアリングやソートが重要で、最適化手法として古くからある巡回セールスマン問題（TSP）が有効に機能しました。また、生成部分ではGPTよりClaude3... 続きを読む
Radeon上でStable Diffusionの性能を9.9倍にする最適化手法。AMD公開
2023/08/21
27 users
Stable Diffusion
性能
『モンスターハンターライズ』Nintendo Switch向け最適化で施した工夫を、開発者が海外メディアに語る。描画処理手法から作り変える開発者の意地 | AUTOMATON
2021/06/29
44 users
カプコン
AUTOMATON
意地
モンスターハンターライズ
カプコンが今年3月26日に発売した、Nintendo Switch向け新作『モンスターハンターライズ』。同作に施された最適化手法については、具体的に語られている。 『モンスターハンターライズ』Nintendo Switch向け最適化で施した工夫を、開発者が海外メディアに語る。描画処理手法から作り変える開発者の意地 続きを読む
GCP Shared VPCを利用した全社共通ネットワークの運用におけるDedicated Interconnect利用設定の最適化手法 - ZOZO Technologies TECH BLOG
2021/03/24
14 users
ZOZO Technologies TECH BLOG
はじめに こんにちは。気がつけば4月でZOZOTOWNに関わって9年目を迎えるSRE部の横田です。普段はSREとしてZOZOTOWNのリプレイスや運用に携わっています。 本記事ではGoogle Cloud PlatformでShared VPCを採用し全社共通ネットワークを構築した背景とその運用方法について説明します。 ZOZOTOWNとパブリッククラウド専用... 続きを読む
Adam の学習係数の分散を考えた RAdam の論文を読んだよ! - nykergoto’s blog
2019/08/16
36 users
SGD
ヒューリスティック
Adam
表題
枠組み
表題の通り噂の最適化手法 RAdam の論文を読んだので, そのまとめです!! 概要 一言でいうと「今までヒューリスティックに行っていた SGD 学習開始時の LR 調整を自動化できるような枠組みをつくったよ」ということになると思います. 考える問題 この論文で, 考えていくのは機械学習のように多数のデータから成る目的関数... 続きを読む
MKL-DNNで学ぶIntel CPUの最適化手法 - Cybozu Inside Out | サイボウズエンジニアのブログ
2019/04/15
56 users
DNN
サイボウズエンジニア
GPU
Intel
ライブラリ
初めに サイボウズ・ラボの光成です。 DNN（deep neural network : 深層学習）といえばGPUや専用プロセッサを使うのが主流です。 しかしIntelはCPUで高速にDNNをするためのライブラリ MKL-DNN を提供しています。 MKL-DNNはIntelの最新CPUに対応したオープンソースソフトウェアなのでコードを見ると勉強になります。 こ... 続きを読む
Optunaでハイパーパラメータチューニング - HELLO CYBERNETICS
2018/12/22
39 users
ニューラルネットワーク
Optuna
引数
関数
実装
はじめに：Optunaとは 使い方 インストール 最適化問題の例 問題設定 最適化 最適化の結果 ニューラルネットワークのハイパーパラメータチューニング 問題設定 実装 ハイパーパラメータを引数に取り、ニューラルネットワークを構成する関数 ハイパーパラメータを引数にとり、最適化手法を返す関数 ハイパーパラメータを... 続きを読む
Linuxは優れたアーキテクチャーしかサポートしない | THE ZERO/ONE
2016/12/19
42 users
アーキテクチャー
Linux
マイクロカーネル
One
CPU
CPUの欠陥設計はLinuxでは採用しない リーナスは、DEC社のAlphaへの移植作業を1993年に始めて、ほぼ1年で完成させた。マイクロカーネルではなく、マイクロカーネルの最適化手法を使って、なおかつ移植性を高める独自の工夫をしていった。リーナスは、この時点で、他のプラットフォームにも移植することを視野に入れCPUの欠陥設計はLinuxでは採用しない リーナスは、DEC社のAlphaへの移植作... 続きを読む
映像奮闘記: ノンパラメトリック平均場近似と確率伝播法の提案
2013/12/31
21 users
提案
CVPR
確率変数
論文
貢献
2013/12/31 ノンパラメトリック平均場近似と確率伝播法の提案 2013年も残り少なくなってきました．そこで，今回は研究の締めくくりとして，今年のCVPRで発表した論文について紹介したいと思います． 僕の研究は，大雑把に言うとグラフィカルモデルの最適化手法に関するものです．本研究の貢献を簡単にまとめると，次のようになります． グラフィカルモデル内の確率変数が連続的である場合，計算上の理由から... 続きを読む
O'Reilly Japan - バンディットアルゴリズムによる最適化手法
2013/07/30
92 users
バンディットアルゴリズム
アルゴリズム
本書
探索
自力
本書は、「多腕バンディット問題」と呼ばれる問題を解くためのアルゴリズムを、Webサイトの最適化という例をもとに解説する書籍です。 バンディットアルゴリズムに関する基本的な知識について、既存研究についての理解を十分に得て、多腕バンディット問題についての資料を自力で読めるようにすることを目的としています。 A/Bテストのような2者択一ではなく、新しいアイデアの探索と、既存のアイデアから最大限の利益を引... 続きを読む
宮代 隆平 の web ページ（整数計画法メモ）
2013/04/10
39 users
宮代
web
筆者
整数計画法
おことわり
整数計画法メモ トップページへ戻る はじめに このページには，整数計画問題をソルバーで解く際に，知っていると役に立つかもしれない情報を雑多に記しています． 整数計画法は強力な最適化手法の一つなのですが，「実際に解きたい」時に日本語の情報があまり無い，と耳にしたのがこのページを作ったきっかけです． おことわり このページに書いてある情報は無保証であり，筆者は一切の責任を持ちません． 自己責任でご利用... 続きを読む
劣微分を用いた最適化手法について(5) : Preferred Research
2011/02/04
12 users
Preferred Research
正則
徳永
正則化
一方
もう2月ですが、新年明けましておめでとうございます。徳永です。残り11ヶ月、頑張ってまいりましょう。前回までで、劣微分を使った最適化手法として劣勾配法やFOBOS, Truncated Gradientを紹介しました。更新式を見るとわかるのですが、FOBOS/Truncated Gradientでは、前半でよく出現する要素に対して厳しく正則化がかかる一方、後半でよく出現する要素に対してはあまり正則... 続きを読む
PNG画像をいい感じに最適化してくれる『punypng』 - IDEA*IDEA ～ 百式管理人のライフハックブログ
2009/08/18
218 users
PunyPNG
IDEA
before
After
おー
PNG画像の最適化手法についてはたまに話題に上りますが（ここらへん）、そうした処理を自動でやってくれるっぽいツールのご紹介。 punypngを使えば画像をアップするだけでささっと変換してくれますよ。 ↑ 変換中。 ↑ おー、確かに。 実際やってみたのでBefore＆Afterをば。上にもあるように約8%圧縮されています。 ↑ Before。 ↑ After。 まったく遜色ないですね。覚えておいて損... 続きを読む