OpenAIを「限界点に達した」と退社したライケ氏、競合Anthropicで安全チーム結成へ

2024/05/29 26 users OpenAI Anthropic 米OpenAI 制御 共同

「Anthropicに参加し、スーパーアラインメントミッションを継続できて嬉しい」──米OpenAIを退社したばかりのヤン・ライケ氏は5月28日（現地時間）、Xにこうポストした。 ライケ氏はOpenAIで、人間より賢いAIの制御を目指すSuperalignmentチームのトップをチーフサイエンティストだったイリヤ・サツケバー氏と共同で務め... 続きを読む

OpenAIのAI危険対策チームトップが「限界に達し」退社　「安全確保が後回しになっている」

2024/05/17 189 users OpenAI Superintelligence 後回し

米OpenAIで人間よりもはるかに賢いAI「Superintelligence」（超知能）の制御を目指して昨年結成されたSuperalignmentチームのトップ、ヤン・ライケ氏は5月17日（現地時間）、退社するとXで発表した。 「私がOpenAIに参加したのは、ここが超知能の研究を行うのに世界で最適だと思ったからだ。だが、OpenAIの幹部チームと... 続きを読む

OpenAIの「超知性」誕生に備える研究チームがGPT-2のような弱いAIモデルでGPT-4のように強力なAIを制御する方法を詳しく説明

2023/12/15 20 users OpenAI chatgpt GPT-2 GPT-4 超知性

チャットAI「ChatGPT」などの開発で知られるOpenAIは、人間よりもはるかに賢いAIである「超知性」が2033年までの10年間で開発されると推測しています。しかし、超知性を確実に制御する方法は現状構築されていません。OpenAIでは「スーパーアライメントチーム」を立ち上げ、超知性を制御するための研究が行われており、そ... 続きを読む

OpenAI、“汎用人工知能”の開発に4日の遅れ　理由はあのゲーム

2023/08/04 14 users OpenAI AGI chatgpt 王手 汎用人工知能

AGIは、さまざまなシーンで活躍できる汎用的なAIを指す概念だ。それが4日遅れた──という冗談は、ChatGPTなどの開発により、AGIの誕生に王手をかける人物として注目を浴びるアルトマンCEOならではだろう。 関連記事 OpenAI、AGI（人間より賢いAI）へのロードマップを公表　「世界に深刻な害を及ぼす可能性」回避のために ... 続きを読む

OpenAI、AGI（人間より賢いAI）へのロードマップを公表　「世界に深刻な害を及ぼず可能性」回避のために

2023/02/27 23 users AGI OpenAI chatgpt 汎用人工知能 回避

OpenAI、AGI（人間より賢いAI）へのロードマップを公表　「世界に深刻な害を及ぼず可能性」回避のために 会話型AIサービス「ChatGPT」を手掛けるOpenAIは、AGI（Artificial General Intelligence；汎用人工知能）実現のロードマップを公開した。同社はAGIを「一般的に人間より賢いAIシステム」と定義する。AGIが世界に害... 続きを読む

「AIへの信頼」不可欠に　SF作家・長谷敏司さん、「BEATLESS」の世界語る - ITmedia NEWS

2018/06/27 50 users BEATLESS 長谷敏司さん 人工知能 作者 SF作家

人間より賢いAI（人工知能）が誕生した時代では、人間はAIを理解できなくても信頼するしかない。SF小説「BEATLESS」の作者・長谷敏司さんが、AI・ロボット時代の人間の在り方について語った。 「高度なAIを制御するためには、AIをモノとして扱うしかない。たとえ理解できなくてもAIを信頼することが重要だ」――SF小説「BE... 続きを読む

「すごく賢いAIが存在」「ディープラーニングは最強」は誤り――AIに関する“10のよくある誤解”、ガートナーが発表 - ITmedia ニュース

2016/12/22 103 users ガートナー ガートナージャパン ディープラーニング 誤解 最強

「すごく賢いAIが存在」「ディープラーニングは最強」は誤り――AIに関する“10のよくある誤解”、ガートナーが発表 「すごく賢いAIがすでに存在する」「機械学習などを使えば、誰でもすぐに『すごいこと』ができる」――IT調査会社のガートナージャパンは12月22日、人工知能 (AI) に関する10個の「よくある誤解」を 発表した 。AIは現在「過度な期待」を受けているとした上で、日本企業は今後AI開発... 続きを読む