超知能ＡＩが人類を滅ぼす…？ - デマこい！

2024/04/14 10 users デマこい 近未来 サイエンス フィクション 知能

超知能ＡＩの暴走リスク このブログではＡＩの歴史と現在、そして近未来について考察してきました。 今回の記事では、もう少し先の未来――ＡＩが人間と同等かそれ以上の知能を身に着けて、「超知能」となった時代の話をしましょう。 超知能ＡＩの暴走は、サイエンス・フィクションでは定番のテーマの１つです。 たとえば... 続きを読む

ChatGPTの開発元OpenAIが「10年以内にAIがほとんどの分野で専門家のスキルレベルを超える」という懸念に基づき「超知能AI」の登場に備えるべく世界的な規制機関を立ち上げる必要があると主

2023/05/23 37 users chatgpt OpenAI スキルレベル GPT-4 懸念

現地時間の2023年5月22日、対話型AI「ChatGPT」や大規模言語モデル「GPT-4」などを開発したAI研究団体のOpenAIが、専門家のスキルレベルを超え、高度な生産活動を行うAI「超知能(Superintelligence)」の登場を予期し、AIの安全な開発を進めるためには国際的な規制機関の立ち上げが必要になると提唱しています。 Governan... 続きを読む

DeepMindの研究者が「AIが人類を滅ぼす可能性は高い」との論文を発表

2022/10/09 149 users 脅威 絵画コンテスト 画像生成AI DeepMind 専門誌

by Dick Thomas Johnson 画像生成AIが人間を差し置いて絵画コンテストで優勝するなどAIが近年目覚ましい進歩を遂げる中、査読付の専門誌であるAI Magazineに、将来的に超知能AIが現れて人類に対する脅威となる可能性は高いと結論付ける論文が掲載されました。 Advanced artificial agents intervene in the provision of... 続きを読む

銀河サイズの超知能ＡＩはどのように思考するか？　などはるか未来の知能の在り方が模索される──『LIFE3.0――人工知能時代に人間であるということ』 - 基本読書

2020/01/11 14 users 知能 単行本 マックス 作者 著者

LIFE3.0──人工知能時代に人間であるということ 作者:マックス・テグマーク出版社/メーカー: 紀伊國屋書店発売日: 2019/12/27メディア: 単行本この『LIFE3.0』は人間の知能を遥かに超えた超知能ＡＩが出現したら何が起こり得るのかを、ＡＩの安全性研究や有識者会議をとりまとめる著者が記した一冊になる。 超知能ＡＩや... 続きを読む

超知能AIの出現は人類を滅ぼすか - shi3zの長文日記

2015/08/04 93 users shi3z 人類 出現 長文日記 単行本

人工知能が人類の脅威となるか、という本をまだ読んでる。　人工知能 人類最悪にして最後の発明作者: ジェイムズ・バラット,水谷淳出版社/メーカー: ダイヤモンド社発売日: 2015/06/19メディア: 単行本この商品を含むブログ (2件) を見る 　この本によると、人工知能が万能化し、一般人工知能(AGI;Artificial General Intelligence)が完成したとき、この一般人工... 続きを読む