ファッションドメインにおけるLLMの未知の知識獲得可能性 - DROBEプロダクト開発ブログ

2024/05/23 6 users LLM ハルシネーション 定量 未知 事後学習

概要 背景・目的 関連研究 事後学習を通じた知識の獲得 未知の知識をどう定義するか 実験 ある情報がLLMにとって新知識であるかの確認 QAデータセット 実験の設定 結果 自作したQAデータセットでの結果 相対的な汎化性能（定量） 相対的な汎化性能（定性） 考察 未知の知識の定義の難しさ ハルシネーションの対策の難し... 続きを読む

改めて、汎化性能と交差検証のはなし - 渋谷駅前で働くデータサイエンティストのブログ

2020/04/12 16 users はなし データサイエンティスト 交差検証 渋谷駅前 ブログ

以前こんな記事を書きました。 この辺の話はとっくの昔に常識になっていると思っていたのですが、昨今様々な「モデル」が提唱されて公の場で喧伝されることが増えてきており、その中には明らかにこれらの記事で指摘されている問題に引っかかっているものがあるようなので、注意喚起も兼ねて改めてブログ記事として書いて... 続きを読む

Rでスパースモデリング：Elastic Net回帰についてまとめてみる - データサイエンティスト(仮)

2017/11/19 48 users スパースモデリング データサイエンティスト 正則化 強い相関

2017 - 11 - 18 Rでスパースモデリング：Elastic Net回帰についてまとめてみる R スパースモデリング 導入 回帰モデル構築の際、汎化性能を向上させるために 正則化 の手法がたびたび用いられます。これは、考えているデータ数に対して特徴量の数が非常に多い場合や、特徴量間に強い相関（多重共線性）がある場合に有効な方法となっています。このような場合に、通常の回帰モデル構築の際に用い... 続きを読む

不均衡データをdownsampling + baggingで補正すると汎化性能も確保できて良さそう - 六本木で働くデータサイエンティストのブログ

2017/08/11 48 users 不均衡データ 六本木 データサイエンティスト https 対処

2017 - 08 - 11 不均衡データをdownsampling + baggingで補正すると汎化性能も確保できて良さそう R 機械学習 弊社のランチゲストにお招きしたことのある@ tmaehara さんが、こんなことをツイートしておられました。 imbalanced data に対する対処を勉強していたのだけど，[Wallace et al. ICDM'11] https://t.co/l... 続きを読む