生成AIに「夢」を見せる→“過学習”を防ぐ　「人間が夢（合成データ）を見る理由も同じか？」　米研究者が21年に提唱

2024/08/29 149 users 提唱 生成AI seamless 人間 シームレス

このコーナーでは、2014年から先端テクノロジーの研究を論文単位で記事にしているWebメディア「Seamless」（シームレス）を主宰する山下裕毅氏が執筆。通常は新規性の高い、AI領域の科学論文を解説しているが、ここでは番外編として“ちょっと昔”に発表された個性的な科学論文を取り上げる。 X： ＠shiropen2 夢を見る目... 続きを読む

過学習（過剰適合）のはなし - 渋谷駅前で働くデータサイエンティストのブログ

2024/05/02 12 users はなし データサイエンティスト 渋谷駅前 テクニカルターム

すっかりおじさんになってしまった身としては近年の日本のミュージックシーンに極めて疎くなって久しいのですが、最近になってAdoさん*1の楽曲に『過学習』というタイトルのものがあるということを知ったのでした。 一体どこで「過学習」なんてマニアックなテクニカルタームが存在することを知って、あまつさえ楽曲のタ... 続きを読む

SDXLでコピー機学習法を試す｜Kohya S.

2023/09/10 8 users LoRa SDXL 手法 コピー機 成功

はじめにコピー機学習法は、LoRAを教師画像と同様の画像しか出力されないレベルまで過学習し（コピー機と呼ばれる理由です）、そこから目的のLoRAを取り出す手法です。詳細は以下の月須和・那々氏の記事をご覧ください。 今回、SDXLでコピー機学習法を試してみました。品質的にはいまひとつですが、一応成功はしましたの... 続きを読む

深層学習の原理を説明する新理論――ニューラルネットワークのエネルギー曲面上の滞留現象 | 東京大学

2023/01/24 20 users ニューラルネットワーク Professor 准教授 原理 理論

発表者 今泉　允聡（東京大学 大学院総合文化研究科 広域科学専攻　准教授） Johannes Schmidt-Hieber（University of Twente, Professor） 発表のポイント 深層学習が過学習を起こさない原理を、ニューラルネットワークがエネルギー曲面上で滞留する数学的理論を開発して説明した。 深層学習が大自由度にも関わらず過学... 続きを読む

学習データに最適化されすぎて本来の目的が達成できなくなる「過学習」と同様の現象はAIだけでなく社会全体で起こっているという主張

2023/01/01 186 users 主張 現象 本来 未知 学習データ

機械学習における過学習(過剰適合／オーバーフィッティング)とは、AIが学習データのみに最適化されてしまい、未知のデータに対する予測能力が低くなってしまうという現象です。そんな過学習と同様の現象が機械学習分野だけでなく社会全体のさまざまな場面でも発生していると、Google傘下の人工知能研究所・Google Brain... 続きを読む

「過学習で差別」はデタラメ？、問題ツイート受けAIの公平性を専門家が議論 | 日経 xTECH（クロステック）

2020/01/17 20 users xTech pfn クロステック 差別 日経

「このシンポジウムを企画したのは、ある『AI研究者』の差別発言がきっかけだった」。Preferred Networks（PFN）の丸山宏フェローはシンポジウム冒頭でこのように語った。 日本の人工知能（AI）関連の研究会3団体は2020年1月9日、「機械学習と公平性に関するシンポジウム」を開催した。AI技術やAI倫理の専門家が登壇し、... 続きを読む

東大最年少准教授×すぐバレた大澤氏の嘘！？音声の文字起こしあり : からあげ速報

2019/12/15 12 users 東大最年少准教授 からあげ速報 大澤昇平氏 寄稿 音声

からあげ速報 からあげ速報、略して「か速」 社会問題や政治・時事ネタからかわいい動物動画まで幅広いジャンルを取り扱うブログです。寄稿も募集しております。 「中国人とわかれば書類審査で落とす」など、それを差別であるとわからずもツイートして炎上した東大最年少准教授の大澤昇平氏。AIの過学習という言い訳を使... 続きを読む

嘆きの能町みね子 on Twitter: "過学習の人といい丸山穂高といい、あれ？この人ヤバいのでは？くらいの状態で世間に気づかれて批判されると、反動なのか、特撮モノの怪獣みたいにぐんぐん

2019/12/12 22 users 怪獣 反動 丸山穂高 能町みね子 特撮もの

過学習の人といい丸山穂高といい、あれ？この人ヤバいのでは？くらいの状態で世間に気づかれて批判されると、反動なのか、特撮モノの怪獣みたいにぐんぐん醜悪に膨らみつづけていく 続きを読む

東大特任准教授が「行き過ぎた言動」を謝罪　原因は「AIの過学習によるもの」 - ITmedia NEWS

2019/12/02 273 users 東大特任准教授 言動 Twitter 大澤昇平特任准教授 波紋

「中国人は採用しない」などと不適切発言を繰り返していた東大特任准教授が謝罪。ツイートの原因は「AIの『過学習』」とし、ネットでは更に波紋が広がっている。 「弊社Daisyでは中国人は採用しません」などとTwitterで発言していた東京大学大学院情報学環・学際情報学府の大澤昇平特任准教授が12月1日、自身のTwitterで... 続きを読む

ブルドッグ on Twitter: "技術者の1人として看過できないので言及しますが、まず『過学習』の使い方も誤用です。そのうえ今回の問題と全く関係がありません。 今回の問題は、国籍や出自に

2019/12/01 111 users 誤用 ブルドッグ 出自 国籍 偏見

技術者の1人として看過できないので言及しますが、まず『過学習』の使い方も誤用です。そのうえ今回の問題と全く関係がありません。 今回の問題は、国籍や出自に対する偏見を（たかだか母集団2桁3桁のデータを根拠に）実社会に持ち込んで機会均… https://t.co/RuXiRysAqW 続きを読む

大澤昇平 :: AI 救国論 ?? on Twitter: "[Apology] この度は当職による行き過ぎた言動が、皆様方にご迷惑、不快感を与えた点について、深く陳謝します。 ①一連のツイートの中で当職が言及した、

2019/12/01 574 users apology 大澤昇平 救国論 一連 言動

[Apology] この度は当職による行き過ぎた言動が、皆様方にご迷惑、不快感を与えた点について、深く陳謝します。 ①一連のツイートの中で当職が言及した、特定国籍の人々の能力に関する当社の判断は、限られたデータにAIが適合し過ぎた結果である「過学習」によるものです。 続きを読む

MasaKato on Twitter: "人工知能学会論文「LSTMを用いた株価変動予測」のまとめ「実験の結果、LSTM は 1 分後利益率の時系列をモデル化できることが確認された。ただし、過学習が生じ、テストデ

2019/09/18 25 users LSTM 時系列 予測 実験 https

人工知能学会論文「LSTMを用いた株価変動予測」のまとめ「実験の結果、LSTM は 1 分後利益率の時系列をモデル化できることが確認された。ただし、過学習が生じ、テストデータに対する予測ができない点が課題である」． これが月間アク… https://t.co/B23T8K4OnA 続きを読む

データに欠損がある場合の教師あり学習 - 作って遊ぶ機械学習。

2017/08/30 83 users 欠損 ベイス 枠組み パラメータ 教師

2017 - 08 - 30 データに欠損がある場合の教師あり学習 おはようございます． 今回は教師あり学習モデルを題材に， 入力データが欠損している場合の ベイズ 流の対処法 を解説します． ベイズ モデルというと，たいていの場合は事前分布の設定の仕方云々だとか， 過学習 を抑制できるだとかに議論が注目されがちですが，個人的には， パラメータや潜在変数を推論することとまったく同じ枠組みで欠損値も... 続きを読む

そのモデル、過学習してるの？未学習なの？と困ったら - once upon a time,

2016/05/29 397 users once upon a time モデル わたし 機械学習

Q: うわっ...ワタシのモデル 過学習 してる…？ 機械学習 をしていると、「やったほぼ100％の性能でました！」みたいな話がちょこちょこでて、その度に「あー、はいはい 過学習 乙」とか「 leakageじゃね？ 」とかいう話になると思います。 過学習 というのは、とても雑に言うと「学習に使ったデータに対してはバッチリ正解できるけど、知らないデータに対しては全然当たらない」というモデルのことを指... 続きを読む

私は如何にしてKaggleで9位から600位台まで順位を落とし，private leaderboardでベンチマークすら下回ったか？ - Wolfeyes Bioinformatics beta

2014/10/23 8 users コンペ 要約 Kaggle 糞ネット弁慶 アフリカ

タイトルは釣りです（元ネタ：過学習の恐怖，またはいかにして私は1分間でランキングを50位も落としたか(要約) - 糞ネット弁慶） Africa Soil Property Prediction Challenge 8月終わりから行われていた”Africa Soil Property Prediction Challenge”，通称AfSISが終わりました．このコンペは衛星から取得したアフリカの各地... 続きを読む