LLMの「創発」は幻影か

2023/10/17 10 users LLM 幻影 要点 示唆 特定

3つの要点 ✔️ 大規模言語モデルで観察される創発を検証 ✔️ LLMの創発は評価指標が見せる幻影である可能性を示唆 ✔️ LLM以外のモデルにおいて特定の評価指標を用いることで意図的に実際には発生していない創発を再現することに成功 Are Emergent Abilities of Large Language Models a Mirage? written by Rylan Schaeffer, ... 続きを読む

AIの権威すら「生成AI」を恐れるのは、意識を生み出す「創発」が起きているから

2023/07/05 100 users 権威 生成AI 意識

1963年、群馬県生まれ。作家・ジャーナリスト、KDDI総合研究所・リサーチフェロー、情報セキュリティ大学院大学客員准教授。東京大学理学部物理学科卒業。同大学院理学系研究科を修了後、雑誌記者などを経てボストン大学に留学、マスコミ論を専攻。ニューヨークで新聞社勤務、慶應義塾大学メディア・コミュニケーション... 続きを読む

GPT-4やPaLMなどの大規模言語モデルは規模が大きくなると突然予想外の能力を開花させることがある

2023/03/25 16 users Palm GPT-4 物体 タスク 昨今

AIが予想外の能力を開花させることを「創発(emergent)」と言います。生物学の世界で「創発」とは、大量の物体が1つになって機能する自己組織化や集団行動を意味しますが、人工知能研究の世界では「突然これまで不可能だと思われていたタスクをこなせるようになること」を意味します。昨今の大規模言語モデルを研究する専... 続きを読む

失敗と試行錯誤をさせれば、センスがなくても全員成功する　AI時代に“創発”を起こす方法 - ログミーBiz

2020/01/21 6 users ログミーBiz 試行錯誤 センス AI時代 全員

東京は緊密な関係を築くには大きすぎる 島本久美子氏（以下、島本）：京都という場所は、世界から人を惹きつける非常に魅力的な場所だと思うんですね。その上、ある意味ですごくしっかりした伝統とか、考え方、ものづくりの風土という枠もしっかりあります。 いろいろな人たちが京都に集まったときに、京都というしっか... 続きを読む

この宇宙で最も謎に包まれた現象「創発」とは？取るに足らないものが集まることでなぜ「個体の集合」以上の意味を持つのか - GIGAZINE

2017/11/17 263 users GIGAZINE スイミー YouTube 軍隊 個体

by Jelene Morris アリのように小さな脳を持つ生き物が集団となることで、単なる「個体の集団」を超えた特性を持ち、複雑な構造の巣を作ったり軍隊を形成して戦ったりできるようになる現象を「 創発 」と呼びます。絵本「 スイミー 」も創発の1つの形と言えそうですが、この創発は分子レベルや人間社会などあらゆるところで観察できます。宇宙の根本的な原則とも言える「創発」について、YouTubeの科... 続きを読む

この宇宙で最も謎に包まれた現象「創発」とは？取るに足らないものが集まることでなぜ「個体の集合」以上の意味を持つのか - GIGAZINE

2017/11/17 263 users GIGAZINE スイミー YouTube 軍隊 個体

by Jelene Morris アリのように小さな脳を持つ生き物が集団となることで、単なる「個体の集団」を超えた特性を持ち、複雑な構造の巣を作ったり軍隊を形成して戦ったりできるようになる現象を「 創発 」と呼びます。絵本「 スイミー 」も創発の1つの形と言えそうですが、この創発は分子レベルや人間社会などあらゆるところで観察できます。宇宙の根本的な原則とも言える「創発」について、YouTubeの科... 続きを読む

進化計算と深層学習 創発する知能 | オーム社eStore

2015/10/22 27 users オーム社eStore ニューラルネット 知能 深層学習 本書

本書は、ディープラーニングの基礎となるニューラルネットワークの理論的背景から人工知能との関わり、最近の進展や成果、課題にいたるまでを詳しく説明します。「進化」と「学習」をキーワードとして、人工知能の実現へのアプローチや知能の創発についてを説明する、ニューラルネットや進化計算による学習の基礎的なところから分かりやすく説明する、「進化計算」を用いた「深層学習」への取り組みを説明する、などです。 このよ... 続きを読む

マラテール『生命起源論の科学哲学』：すばらしい。創発批判本！ - 山形浩生 の「経済のトリセツ」

2013/03/12 98 users 起源 トリセツ 作者 生命 単行本クリック

生命起源論の科学哲学―― 創発か、還元的説明か作者: クリストフ・マラテール,佐藤直樹出版社/メーカー: みすず書房発売日: 2013/01/19メディア: 単行本クリック: 2回この商品を含むブログ (5件) を見る生命の起源をめぐる各種議論についての本。ここしばらく、科学哲学というのは基本的にアホダラ経であって読む価値がない、という思いをだんだん強くしていたんだけれど、この本で多少は見直した。... 続きを読む

誠 Biz.ID：脱ガンジガラメの働き方：単なる“場所貸し”ではない新しいセカンドオフィス――他者（社）と一緒に働くこと

2011/06/29 53 users 脱ガンジガラメ 他者 他力 パーソナルクラウドサービス 働き方

社外にもう1つの職場を――。東日本大震災以降、自社オフィスにしばられるような働き方を見直す動きが目立ってきた。そうした動きの1つがセカンドオフィスだ。これまでセカンドオフィスというと、レンタルオフィスのようなサービスを思い浮かべるが、単なる“場所貸し”ではない新しいセカンドオフィスが登場している。 他力を結集して創発へ――オフィス・コロボックル コロボックルの会議室。パーソナルクラウドサービス「E... 続きを読む

羨望は無知 - 全く解せないのは、なぜ「創発」という汎用の言葉を用いずに、ゲームに対して「web2.0」というwebの言葉を用いているのか、という点だ。

2005/12/24 28 users 羨望 汎用 反論 etc 意図

■[gamedesign][web][etc]全く解せないのは、なぜ「創発」という汎用の言葉を用いずに、ゲームに対して「web2.0」というwebの言葉を用いているのか、という点だ。 先日、「安易にWebの流行に流される人は、「web 2.0 = game 0.5」である可能性に留意しておいた方がよい」という記事を書いたら意外にも言及されたので、さらに反論というか、あの記事の裏の意図をさらに書こう... 続きを読む