OpenAIの文字起こしAI「Whisper」が幻覚を起こし文章を捏造すると研究者が指摘

2024/10/27 10 users whisper OpenAI 捏造 欠点 ＡＰ通信

OpenAIは文字起こしAIのWhisperを「人間レベルの堅牢性と正確性を持ったツール」と宣伝していますが、これには大きな欠点があると専門家たちが指摘しています。十数人のソフトウェアエンジニア、開発者、学術研究者にインタビューしたというAP通信によると、Whisperは文字起こしにおいて一部のテキストや文章全体を捏造... 続きを読む

OpenAIの文字起こしAI「Whisper」、医療現場での利用に研究者らが警鐘

2024/10/26 151 users whisper OpenAI 警鐘 米OpenAI 欠陥

米OpenAIが2022年に発表した音声テキスト変換AI「Whisper」に、文章の一部または全部を捏造してしまういわゆる「幻覚」による重大な欠陥があると、米Associated Pressは10月26日（現地時間）、多数のエンジニアや研究者へのインタビューに基づいて報じた。 Whisperは、インタビューの翻訳や文字起こし、消費者向け技術で... 続きを読む

インターネット原風景を見に来ました。満足です。「情報量が無いはずなのにめちゃくちゃ情報量がある幻覚がﾐｴﾙ」

2024/10/07 21 users 無い 情報量

ぬま @Toritetsu2016 これを見てああ、アレね！とすぐわかる程度にはネット中毒である😅おもしろ画像好きだから。しかしあの一枚からどこか分かるの凄いなぁ。 x.com/mrt_misutatei/… 続きを読む

統合失調症の患者が「幻聴」を聞いてしまう脳のメカニズムが明らかに

2024/10/04 463 users メカニズム 幻聴 統合失調症 患者 妄想

思考や行動にまとまりがなくなる精神疾患である統合失調症の患者には、幻覚や妄想などさまざまな症状が現れます。統合失調症患者の中にも幻聴がある人とそうでない人が存在するとのことで、中国の研究チームが「統合失調症患者が幻聴を聴くメカニズム」を明らかにしました。 Impaired motor-to-sensory transformation m... 続きを読む

「ここは人間も失敗するしAIでもいいのでは」――生成AIの業務導入で外せない“幻覚”との付き合い方

2024/09/30 9 users chatgpt 生成AI マルチモーダル生成AI 黎明期 見方

ChatGPTの登場から1年以上が経過し、生成AIへの期待は膨らむ一方だ。しかし、その実用性や具体的な活用方法を巡り、懐疑的な見方も広がっている。「幻滅期に入った」との声すら聞かれる中、金融業界では実業務に活用する動きが本格化している。 米Gartnerはマルチモーダル生成AIなどが黎明期にある一方で、「大規模言語... 続きを読む

OpenAIのGPTシリーズ・MetaのLlama・BigScienceのBLOOMのような新しくて大きなバージョンの大規模言語モデルを使ったAIは無知を認めるよりも間違った答えを与える傾向が強い

2024/09/29 9 users Meta Bloom Llama ハルシネーション 無知

近年急速な発展を遂げる生成AIは、複雑な計算や文書の要約などをわずか数秒で遂行してくれます。一方で生成AIには「幻覚(ハルシネーション)」と呼ばれる、虚偽または誤解を招く情報を事実として提示してしまうという問題が存在しています。バレンシア人工知能研究所の研究チームがOpenAIのGPTシリーズや、MetaのLLaMAな... 続きを読む

中国製AIはハルシネーションレートですでに世界一

2024/09/14 9 users LLM GitHub ハルシネーション 指標 精度

AIがあたかも本当のように事実と異なることを言ってしまうハルシネーション（幻覚）。どのくらい幻覚を見るかを示すハルシネーションレートは、各社がしのぎを削る大規模言語モデル（LLM）の精度の高さを証明する1つの指標となっている。 さて、各LLMのハルシネーションレートを比較すべくAI企業Vectaraが開発したGitHub... 続きを読む

Google、AIの“幻覚”に対処する「DataGemma」をオープンモデルでリリース

2024/09/15 18 users LLM GEMINI Gemma ハルシネーション リリース

米Googleは9月13日（現地時間）、LLMが不正確な回答を出してしまういわゆる幻覚（ハルシネーション）を軽減するためのAIモデル「DataGemma」を発表した。オープンモデルとしてHugging Faceで公開した。 Gemmaは、Googleが今年2月にオープンモデルとして発表した「Gemini」の軽量版LLM。DataGemmaは、このGemmaのオープン... 続きを読む

そうか…ままごとのやり方は国によって違いが出るのか→「美味しそうな炒飯の幻覚が見える」「中華一番！」

2024/06/29 10 users 炒飯 中華一番 やり方

ラムさん @China🇨🇳 @houseingcal 2015年から中国で生活している食いしん坊🍙右上の🔍で「ごはん」「おやつ」を最新検索するとおふとり様が普段何を食べているかわかります🌝 古い石段が好き。17年くらい前からラムさんと一緒におでかけしています🐑 *･゜ﾟ* ＃ラム散歩 ＃ラムさんの旅 🐑✨新入りの #麦ぴよの冒険 ＃カッ... 続きを読む

解説：生成AIのハルシネーションはなぜ起きるのか

2024/06/24 11 users ハルシネーション LLM 生成AI チャットボット 解説

大規模言語モデルが「ハルシネーション（幻覚）」を生成することはよく知られている。ただ、その仕組みから明らかのように、LLMの出力は本質的にはすべてハルシネーションであり、間違いが発覚したものがそう呼ばれているだけだ。 by Will Douglas Heaven2024.06.24 4 この記事の3つのポイント チャットボットは間違った... 続きを読む

精神障害をテーマにしたゲームが好き。

2024/06/03 305 users 精神障害 テーマ ゲーム バーンアウト Hellblade

ただ、適応障害とかバーンアウトをテーマにしたゲームが思いつかない。 ナイト イン ザ ウッズは未プレイだから気になってる。 今月から適応障害で休職が決まったから、そんなゲームがしたい。 以下は、知っていたり、触ったりしてきたゲーム。 Hellblade: Senua’s Sacrifice 主人公センアが幻覚や幻聴に苦しむ過程を通... 続きを読む

一人語りのえっちなボイスドラマって落語のメソッドだと思う→落語家が蕎麦を啜る要領でASMRをする幻覚が見えてきてしまった

2024/05/03 19 users ボイスドラマ ASMR 落語 要領 脚本

金巻ともこ @tomoco 一人語りのえっちなボイスドラマって落語のメソッドだと思うっていう発見をしました。脚本書く時にみなさん心がけてください、落語です。聞く時は落語だというのを忘れてください。ひとりで全部やって状況説明するの完全に落語 2024-05-01 21:28:12 John＠マ力口2号 @Jack_O_H_Nielse ＞一人語りのえ... 続きを読む

統合失調症などの患者に幻覚や妄想を引き起こす脳のネットワークがAIを使った研究で明らかに

2024/04/17 7 users 統合失調症 妄想 ネットワーク 患者 脳スキャン

幻覚や妄想といった症状群を指す「psychosis(サイコーシス、精神症)」は、統合失調症などの重篤な精神疾患によくみられるほか、定義された精神疾患とは独立して発生することもあります。脳スキャンとAIによるパターン分析を組み合わせた新たな研究により、サイコーシスを引き起こす脳内のネットワークが明らかになりまし... 続きを読む

ChatGPTが同時多発的に奇妙なことを言い始めて「ChatGPTが発狂した」「発作を起こした」という報告が相次ぎOpenAIが慌てて修正

2024/02/22 25 users OpenAI chatgpt ハルシネーション 発作 返答

OpenAIが開発したChatGPTは非常に高い精度で人間とチャットをすることができますが、時には「ハルシネーション(幻覚)」と呼ばれる見当違いな回答をする場合もあります。2024年2月20日頃、ChatGPTが突如として多くのユーザーに奇妙な返答をするようになり、「ChatGPTが発狂した」「発作を起こした」といった報告が相次ぐ... 続きを読む

大規模言語モデルの「幻覚」を軽減する32の最新テクニック　バングラデシュなどの研究者らが発表

2024/01/22 15 users バングラデシュ Twitter seamless シームレス

このコーナーでは、2014年から先端テクノロジーの研究を論文単位で記事にしているWebメディア「Seamless」（シームレス）を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。 Twitter: ＠shiropen2 バングラデシュのIslamic University of Technology、米サウスカロライナ大学、米ス... 続きを読む

「お前ならできる」恩師に支えられた青葉被告　幻覚も自然に消えた：朝日新聞デジタル

2024/01/21 13 users 恩師 青葉被告 朝日新聞デジタル お前

《（街中を歩いていると誰かが）寄ってきて何か言ってくるようなのを感じた。人混みの中だとそういうのがあった》 青葉真司被告（45）は公判で弁護士から中学生のころの体験を問われ、こう語った。 しかし兄に相談すると「根性がないからいけないんだ。根性で治せ」と言われ、医師にも相談しなかったという。 この時期、... 続きを読む

「技術力が高い」という幻覚｜zy

2024/01/08 9 users エンジニア 従業員 言葉 会社 自分

こんな言葉を聞いたことあるだろうか。 「あの人は技術力が低い」 「あの人は技術力が高い優秀なエンジニアだ」 「あの人は偉いポジションにいるが技術力は低い」 「あの有名な人は，きっと技術力が高いから働いたら色々と学べそうだ」 ある人が言った。 「この会社の従業員は自分より技術力が低い。技術力が高い俺の言... 続きを読む

さまざまなチャットAIがどれくらい幻覚を見るのかをランキングにした「Hallucination Leaderboard」が公表される

2023/12/24 6 users chatgpt チャットAI 一方 ランキング 事実

ChatGPTなどの大規模言語モデルは、まるで人間かのようにすらすらと言葉を操ることができますが、一方で事実とは異なる内容をあたかも真実であるかのように話す「幻覚」が発生することもあります。AI企業のVectaraが、さまざまな大規模言語モデルにおいてどれくらい幻覚が発生するのかを調査した結果を公表しました。 ve... 続きを読む

Google DeepMind、LLM採用AIシステム「FunSearch」で数学的難問を解決

2023/12/15 14 users 難問 LLM ハルシネーション LLM採用 アルゴリズム

Google DeepMindは、LLM採用のAIシステム「FunSearch」を発表した。LLMとLLMによる幻覚を防止する“評価器”を組み合わせたもので、「ビンパッキング問題」向けの実用的なアルゴリズムも出力できる。 米Google傘下のGoogle DeepMindは12月14日（現地時間）、LLM（大規模言語モデル）とLLMによる幻覚（ハルシネーション）を... 続きを読む

猫を飼うと統合失調症のリスクが2倍になるという研究結果

2023/12/11 172 users 統合失調症 リスク 研究結果 ２倍 発症

統合失調症は幻覚や妄想、支離滅裂な思考や行動といった症状が現れる精神障害のひとつです。猫を飼育することと統合失調症の発症についての関連を調査した新たな研究で、「猫を飼うと統合失調症のリスクが2倍になる」という結果が示されました。 Cat Ownership and Schizophrenia-Related Disorders and Psychotic-Like ... 続きを読む

AmazonのAI「Amazon Q」は重度の幻覚によってAWSデータセンターの場所などの機密データを漏えいしているとの指摘

2023/12/04 13 users 重度 ハルシネーション Has AIチャットサービス 指摘

2023年11月29日に発表されたばかりのAIチャットサービス「Amazon Q」にプライバシーの問題がある可能性が報じられました。一部の従業員によるとAmazon Qはひどい幻覚(ハルシネーション)に襲われることがあり、Amazon Web Services(AWS)のデータセンターの場所などを漏らすことがあるそうです。 Amazon’s Q has ‘severe h... 続きを読む

Anthropicが大規模言語モデル「Claude 2.1」をリリース、最大20万トークン・15万ワードを読込可能で幻覚が半減し新しいAPI統合などを提供

2023/11/22 8 users Anthropic index 元OpenAIエンジニア

元OpenAIエンジニアによって設立されたAIスタートアップのAnthropicが、大規模言語モデルの「Claude 2.1」を発表しました。Claude 2.1は処理可能なトークン数が倍増し最大20万トークンを受け付けるようになったほか、精度も大幅に向上しています。 Anthropic \ Introducing Claude 2.1 https://www.anthropic.com/index/... 続きを読む

グミの販売店に立ち入り 体調不良相次ぎ 厚労省麻薬取締部 | NHK

2023/11/17 23 users グミ 大麻 毒性 厚労省麻薬取締部 立ち入り検査

大麻に近い成分の名前が表示されているグミを食べた人が相次いで体調不良を訴えている問題で、厚生労働省の麻薬取締部はこれらのグミに法律で規制された指定薬物と同じような毒性がある疑いがあるとして、東京・豊島区の販売店に立ち入り検査を始めました。 麻薬取締部は幻覚などの健康被害を引き起こす成分がグミに含ま... 続きを読む

これって、オタクの幻覚……？ついに18タイプの初音ミクが出揃った「ポケミク」こと『ポケモン feat. 初音ミク Project VOLTAGE』の話がしたすぎるので18人分の感想書く

2023/10/03 6 users 初音ミク ポケミク ポケモン オタク タイトル通り

ホーム特集記事 これって、オタクの幻覚……？ついに18タイプの初音ミクが出揃った「ポケミク」こと『ポケモン feat. 初音ミク Project VOLTAGE』の話がしたすぎるので18人分の感想書く もう、タイトル通りの記事です。 「ポケモン」と「初音ミク」がコラボした『ポケモン feat. 初音ミク Project VOLTAGE』の全18タイプの... 続きを読む

AIがハルシネーション（Hallucination）を起こす最大の理由 - Qiita

2023/07/10 23 users Qiita ハルシネーション 文脈 知覚 ウソ

ハルシネーション（Hallucination）とは？ もっともらしいウソ（＝事実とは異なる内容や、文脈と無関係な内容）の出力が生成されることである。人間が現実の知覚ではなく脳内の想像で「幻覚」を見る現象と同様に、まるでAIが「幻覚」を見て出力しているみたいなので、このように呼ばれる。 なぜハルシネーションを起こす... 続きを読む