OpenAIのAI危険対策チームトップが「限界に達し」退社　「安全確保が後回しになっている」

2024/05/17 48 users OpenAI 米OpenAI 後回し 退社 賢いAI

米OpenAIで人間よりもはるかに賢いAI「Superintelligence」（超知能）の制御を目指して昨年結成されたSuperalignmentチームのトップ、ヤン・ライケ氏は5月17日（現地時間）、退社するとXで発表した。 「私がOpenAIに参加したのは、ここが超知能の研究を行うのに世界で最適だと思ったからだ。だが、OpenAIの幹部チームと... 続きを読む

超知能ＡＩが人類を滅ぼす…？ - デマこい！

2024/04/14 10 users デマこい 近未来 サイエンス フィクション 知能

超知能ＡＩの暴走リスク このブログではＡＩの歴史と現在、そして近未来について考察してきました。 今回の記事では、もう少し先の未来――ＡＩが人間と同等かそれ以上の知能を身に着けて、「超知能」となった時代の話をしましょう。 超知能ＡＩの暴走は、サイエンス・フィクションでは定番のテーマの１つです。 たとえば... 続きを読む

OpenAI、人間を超えるAIの暴走を防ぐために同社の計算能力の20％を使えるスーパーチームを結成し研究を進めると発表 | TEXAL

2023/07/05 7 users OpenAI TEXAL インパク スケーラブル 暴走

OpenAIは、トップクラスの機械学習研究者とエンジニアで構成される新チーム「Superalignment」を社内に設立する事を発表した。このチームの目的は、「人間を超える超知能を持つ人工知能が暴走しないよう」に、スケーラブルな学習方法を開発することである。 発表の中でOpenAIは、超知能は人類が生み出した「最もインパク... 続きを読む

リスクがあるのはChatGPTではなく｢超知能｣。OpenAIの提言を読み解いてみた

2023/05/24 6 users OpenAI chatgpt 福田ミホ 統治 提言

リスクがあるのはChatGPTではなく｢超知能｣。OpenAIの提言を読み解いてみた2023.05.24 21:00 福田ミホ できるのかな。 ChatGPTの開発元であるOpenAIが、既存のAIの進化形・｢超知能（superintelligence）｣の出現を見据えて、人類がとるべき対策を提案してます。｢超知能の統治｣と題したそのポストには｢AIシステムは10年以内... 続きを読む

ChatGPTの開発元OpenAIが「10年以内にAIがほとんどの分野で専門家のスキルレベルを超える」という懸念に基づき「超知能AI」の登場に備えるべく世界的な規制機関を立ち上げる必要があると主

2023/05/23 37 users OpenAI chatgpt スキルレベル GPT-4 懸念

現地時間の2023年5月22日、対話型AI「ChatGPT」や大規模言語モデル「GPT-4」などを開発したAI研究団体のOpenAIが、専門家のスキルレベルを超え、高度な生産活動を行うAI「超知能(Superintelligence)」の登場を予期し、AIの安全な開発を進めるためには国際的な規制機関の立ち上げが必要になると提唱しています。 Governan... 続きを読む

人工知能と社会

2018/03/03 74 users 人工知能 中川裕志 アーキテクチャ シンギュラリティ 社会

人工知能と社会 1. 人工知能と社会 中川裕志 (東京大学 情報基盤センター) 最終講義 2018年3月1日 1 2. 目次 • 汎用人工知能、超知能、シンギュラリティ • 人工知能のアーキテクチャと意識 • AI脅威論の深層 • 人工知能倫理基準 • 人工知能が人間の仕事を奪うか？ • 弱そうに見えるAIの脅威 • プライバシー • AI自律兵器 • 汎用人工知能の倫理 • 人工知能の個人への影... 続きを読む

遺伝子改造によるトランスヒューマン誕生 - シンギュラリティ教徒への論駁の書

2017/11/18 11 users シンギュラリティ教徒 シンギュラリティ 論駁 汎用 遺伝子工学

2017 - 11 - 18 遺伝子改造によるトランスヒューマン誕生 近年のシンギュラリティに関する議論ではほとんど注目されることはありませんが、 ヴァーナー・ヴィンジ氏が1993年に提唱したシンギュラリティ論 においては、いわゆる汎用 人工知能 の発明以外にも、薬剤や 遺伝子工学 による人間の知能増強が、シンギュラリティを引き起こす 仮説上の 超知能の発生方法として提唱されていました。 近年では... 続きを読む

知能爆発派における超知能の出現について - シンギュラリティ教徒への論駁の書

2017/11/11 65 users カーツワイル氏 シンギュラリティ教徒 論点 仮定 論駁

2017 - 11 - 11 知能爆発派における超知能の出現について 第6章 シンギュラリティ論における重要な論点は、ひとたび汎用 人工知能 が作られると、何らかの形で「超知能」が発生し、それが科学技術や社会を高速で変化させることによって、予測不能かつ断絶的な進歩が起きるという仮定です。 前回のエントリでは、主にカーツワイル氏の説である「収穫加速派」における超知能について検討しました。 今回は、残... 続きを読む

DeepMind：AlphaGoをつくった「4億ドルの超知能」はいかにして生まれたのか？ « WIRED.jp

2016/03/15 913 users DeepMind AlphaGo エイリ Wired 半生

グーグルが4億ドルで買収をした ロンドンの人工知能スタートアップ、DeepMind。 ついに人間を破った囲碁AIをも生み出した彼らは、 いかにして生まれ、何を目指しているのか。 AI研究のために生まれてきたような3人の天才創業者の、 半生とヴィジョンに迫る。 （2015年12月1日発売『WIRED』VOL.20より転載） 未来の人工知能は、 「 スペースインベーダー」から始まった。最初は敵のエイリ... 続きを読む

「囲碁の謎」を解いたグーグルの超知能は、人工知能の進化を10年早めた « WIRED.jp

2016/01/31 621 users 囲碁 グーグル 人工知能 NEWS コンピュータープログラム

PHOTOGRAPHS COURTESY OF GOOGLE, DEEPMIND VIDEO COURTESY OF DEEPMIND TEXT BY CADE METZ TRANSLATION BY CHIHIRO OKA WIRED NEWS (US) 人工知能（AI） の世界で大事件が起こった。イギリスに拠点を置くグーグルの研究者たちが開発したコンピュータープログラムが、囲碁の試合で 一流棋... 続きを読む

「アルジャーノンに花束を」ダニエル・キイスさんが死去　86歳 （シネマトゥデイ） - Yahoo!ニュース

2014/06/18 30 users アルジャーノン シネマトゥデイ 花束 死去 Yahoo

小説「アルジャーノンに花束を」で知られる作家ダニエル・キイスさんが現地時間15日、死去したとLocus Onlineが報じた。 ダニエルさんは1927年、アメリカ・ニューヨーク生まれ。雑誌の編集者、コミック原作者、ファッションフォトグラファーなどを経た後、小説家としてデビューした。超知能を手に入れた青年の悲哀を描いた小説「アルジャーノンに花束を」は1959年に中編小説として発表され、1966年に長... 続きを読む

「アルジャーノンに花束を」ダニエル・キイスさんが死去　86歳 - シネマトゥデイ

2014/06/18 240 users アルジャーノン シネマトゥデイ 花束 死去 悲哀

[シネマトゥデイ芸能ニュース]　小説「アルジャーノンに花束を」で知られる作家ダニエル・キイスさんが現地時間15日、死去したとLocus Onlineが報じた。 ダニエルさんは1927年、アメリカ・ニューヨーク生まれ。雑誌の編集者、コミック原作者、ファッションフォトグラファーなどを経た後、小説家としてデビューした。超知能を手に入れた青年の悲哀を描いた小説「アルジャーノンに花束を」は1959年に中編小... 続きを読む

イルカはあなたが思うほど賢くない - WSJ.com

2013/12/23 58 users 知能 体系 半ば WSJ.com 世間

1961年、偉大な科学者であるカール・セーガン氏は「イルカの騎士団」という半ば秘密の組織に参加した。イルカの騎士団は知能を持つ地球外生物とコミュニケーションをとることを目指していて、参加者の中には、イルカが独自の言語と人間の知能に匹敵するある種の「超知能」を持つという説を世間に広めたことで知られるジョン・リリーという神経科学者もいた。「イルカ語」の体系を解明すれば、異星人の言語も解読できる、という... 続きを読む