AIのスケーリング則が限界に直面、「学習データや学習量を増やせばAIの性能が上がる」という状況はすでに終わっている

2024/11/26 23 users スケーリング則 直面 OpenAI 限界 性能

AIのスケーリング則は2020年1月にOpenAIが提唱した法則で、「AIモデルの性能は、『学習に使われるデータの規模』『学習に使われる計算量』『モデルのパラメーター数』が増加するほど強化される」というものです。この法則について、AIの動向に詳しいゲイリー・マーカス氏が「AI業界ではスケーリング則が通用しなくなって... 続きを読む

東大発のスタートアップ企業 “国内最大規模 国産生成AI完成” | NHK

2024/03/12 20 users 東大発 NHK 生成AI 基盤 各社

東京大学発のスタートアップ企業が国内最大規模の国産の生成AIを開発し、完成したと発表しました。アメリカの企業が先行するなか、日本語に特化する戦略で対抗するねらいです。 この生成AIは、基盤となる大規模言語モデルの学習量を示す「パラメータ数」が700億で、これまで各社が手がけた国産の生成AIとしては最大規模... 続きを読む

「みんな、ChatGPTの扱いがもったいない…」ほとんどの日本人がチャットAIを使いこなせていない“決定的要因” | 文春オンライン

2023/03/08 8 users chatgpt 文脈 将棋 単語 チャットAI

5兆語におよぶ単語の学習量 ――将棋のAIに近いものなんでしょうか？ 深津　ChatGPTは単に言葉と文脈のつながりを確率で判断しているだけなんです。学習してきた単語の中で「5三金」という文章のあとに「4六歩」という文章がたまたま超多かった場合を考えてみましょう。すると、ChatGPTは、良い手かどうかに関係なく、「5... 続きを読む

AIの進化が止まる気配はなく、6年間で約30万倍以上の学習が可能に - GIGAZINE

2018/05/17 59 users GIGAZINE OpenAI コンピューター 気配 人工知能

人工知能(AI)を使ったコンピューターに、より正確な判断を行わせるには学習が不可欠とされています。学習の量が増えれば増えるほど、より高度な判断を行うことができるのですが、学習量を増やすためには大規模な処理をこなせる「計算量の高い」システムが必要です。AIの非営利の研究機関として設立された OpenAI によると、AIの学習で使用される計算量は2012年から3.5カ月で倍になるスピードで進化し続けて... 続きを読む

大学の卒業認定厳格化へ　留年増でも補助金減額せず - 47NEWS（よんななニュース）

2013/10/29 31 users 知識偏重 入試 定員 成績 政府

政府の教育再生実行会議は２９日、留年する学生が増えて定員を超過した場合、大学への補助金などが減額される現在の制度を緩和するよう提言する方針を固めた。成績の悪い学生でも留年させにくいという現状を改め、大学の卒業認定を厳しくするよう促して「出口管理」を強めるのが狙い。 「入学しにくく、卒業しやすい」と指摘される日本の大学の在り方を見直し、知識偏重の入試を変えると同時に、大学生の学習量を増加させることを... 続きを読む

プロ・アマ・プログラミング言語を問わずに今までの4倍のスピードで学習する方法 - Craftworks Tech Blog - Branch

2009/07/16 957 users Programming ソーシャ branch Java プロ

programming, lifehack, c, vb, vc, perl, php, python, ruby, java | 20:01 | 私が実践して、とても効果が上がった学習方法を紹介します。どんなプログラミング言語でも関係なく通用するやり方だと思います。この学習方法に切り替えてからの 1 年の学習量は、それ以前の 4 年分に匹敵すると感じています。以下にその方法を紹介します。ソーシャ... 続きを読む