GPTのモデル構造を可視化した｜shi3z

2023/06/10 391 users GPT Tokenizer shi3z 可視化 気持ち

GPTのモデル構造を目で見てみたい! そんな気持ち、わかるでしょ? 技研フリマをやりながら、どうにかこうにか出力したよ ご覧あれ 22世紀に残したい図やり方メモ from transformers import AutoTokenizer, AutoModelForCausalLM from torchviz import make_dot tokenizer = AutoTokenizer.from_pretrained("gpt2") from t... 続きを読む

SSH defaults, config, and priorities | Root

2020/11/29 23 users SSH root config this is what

SSH defaults, config, and priorities Over the years I’ve collected a rather messy ~/.ssh/config which resulted in some undesired behavior as a result of me misunderstanding how the config file prioritizes its options. Today I investigated that. In short, this is what I found: Priority goes from t... 続きを読む

日々の覚書: そのvarchar型のカラムに入っている値が数字だけかどうかを確認する方法

2019/03/29 18 users カラム 覚書 select バッチ 数字

TL;DRなんか SELECT * FROM t1 WHERE CONCAT('',c1 * 1) != c1 であぶりだせるらしいけどなんで？ と聞かれたのでその解説。俺は↑のやり方初めて聞いた。。個人的には WHERE c1 NOT RLIKE '^[0-9][0-9]*$' でいいんじゃない？ と思う。前提（？）「数値しか入らないはずのカラムに文字列が入っていてバッチが転けてるの... 続きを読む

高難易度アクションゲーム『Cuphead』が売り上げ100万本を達成。発売からわずか2週間強で大台を突破 | AUTOMATON

2017/10/14 113 users AUTOMATON SteamSpy Cuphead 大台

Studio MDHRは10月14日、2Dシューティング・アクションゲーム『 Cuphead 』の売り上げが100万本を突破したと 発表した 。本作は9月29日にPC（ Steam /Windows 10）および Xbox One 向けに発売され、これまで弊誌でもSteamSpyが集計したSteam版の数字をもとにその快進撃をお伝えしてきたが、発売から2週間強で早くも大台を突破した。 From t... 続きを読む

日々の覚書: Mroonga + MySQL 5.6とMariaDB 10.0だとスピードが結構違う？

2014/11/17 10 users mroonga 覚書 count MySQL スピード

2014年11月17日月曜日 Mroonga + MySQL 5.6とMariaDB 10.0だとスピードが結構違う？ あんま真面目に調べてないんですがメモ。 mysql> SELECT COUNT(*) FROM t1 WHERE MATCH(text_column) AGAINST('*D+ xxx' IN BOOLEAN MODE); +----------+ | COUNT(*) | +-... 続きを読む