統合失調症などの患者に幻覚や妄想を引き起こす脳のネットワークがAIを使った研究で明らかに

2024/04/17 7 users 統合失調症 妄想 ネットワーク 患者 脳スキャン

幻覚や妄想といった症状群を指す「psychosis(サイコーシス、精神症)」は、統合失調症などの重篤な精神疾患によくみられるほか、定義された精神疾患とは独立して発生することもあります。脳スキャンとAIによるパターン分析を組み合わせた新たな研究により、サイコーシスを引き起こす脳内のネットワークが明らかになりまし... 続きを読む

ChatGPTが同時多発的に奇妙なことを言い始めて「ChatGPTが発狂した」「発作を起こした」という報告が相次ぎOpenAIが慌てて修正

2024/02/22 25 users OpenAI chatgpt ハルシネーション 発作 返答

OpenAIが開発したChatGPTは非常に高い精度で人間とチャットをすることができますが、時には「ハルシネーション(幻覚)」と呼ばれる見当違いな回答をする場合もあります。2024年2月20日頃、ChatGPTが突如として多くのユーザーに奇妙な返答をするようになり、「ChatGPTが発狂した」「発作を起こした」といった報告が相次ぐ... 続きを読む

大規模言語モデルの「幻覚」を軽減する32の最新テクニック　バングラデシュなどの研究者らが発表

2024/01/22 15 users バングラデシュ Twitter seamless シームレス

このコーナーでは、2014年から先端テクノロジーの研究を論文単位で記事にしているWebメディア「Seamless」（シームレス）を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。 Twitter: ＠shiropen2 バングラデシュのIslamic University of Technology、米サウスカロライナ大学、米ス... 続きを読む

「お前ならできる」恩師に支えられた青葉被告　幻覚も自然に消えた：朝日新聞デジタル

2024/01/21 13 users 恩師 青葉被告 朝日新聞デジタル お前

《（街中を歩いていると誰かが）寄ってきて何か言ってくるようなのを感じた。人混みの中だとそういうのがあった》 青葉真司被告（45）は公判で弁護士から中学生のころの体験を問われ、こう語った。 しかし兄に相談すると「根性がないからいけないんだ。根性で治せ」と言われ、医師にも相談しなかったという。 この時期、... 続きを読む

「技術力が高い」という幻覚｜zy

2024/01/08 9 users エンジニア 従業員 言葉 会社 自分

こんな言葉を聞いたことあるだろうか。 「あの人は技術力が低い」 「あの人は技術力が高い優秀なエンジニアだ」 「あの人は偉いポジションにいるが技術力は低い」 「あの有名な人は，きっと技術力が高いから働いたら色々と学べそうだ」 ある人が言った。 「この会社の従業員は自分より技術力が低い。技術力が高い俺の言... 続きを読む

さまざまなチャットAIがどれくらい幻覚を見るのかをランキングにした「Hallucination Leaderboard」が公表される

2023/12/24 6 users chatgpt チャットAI 一方 ランキング 事実

ChatGPTなどの大規模言語モデルは、まるで人間かのようにすらすらと言葉を操ることができますが、一方で事実とは異なる内容をあたかも真実であるかのように話す「幻覚」が発生することもあります。AI企業のVectaraが、さまざまな大規模言語モデルにおいてどれくらい幻覚が発生するのかを調査した結果を公表しました。 ve... 続きを読む

Google DeepMind、LLM採用AIシステム「FunSearch」で数学的難問を解決

2023/12/15 14 users 難問 LLM ハルシネーション LLM採用 アルゴリズム

Google DeepMindは、LLM採用のAIシステム「FunSearch」を発表した。LLMとLLMによる幻覚を防止する“評価器”を組み合わせたもので、「ビンパッキング問題」向けの実用的なアルゴリズムも出力できる。 米Google傘下のGoogle DeepMindは12月14日（現地時間）、LLM（大規模言語モデル）とLLMによる幻覚（ハルシネーション）を... 続きを読む

猫を飼うと統合失調症のリスクが2倍になるという研究結果

2023/12/11 172 users 統合失調症 リスク 研究結果 ２倍 発症

統合失調症は幻覚や妄想、支離滅裂な思考や行動といった症状が現れる精神障害のひとつです。猫を飼育することと統合失調症の発症についての関連を調査した新たな研究で、「猫を飼うと統合失調症のリスクが2倍になる」という結果が示されました。 Cat Ownership and Schizophrenia-Related Disorders and Psychotic-Like ... 続きを読む

AmazonのAI「Amazon Q」は重度の幻覚によってAWSデータセンターの場所などの機密データを漏えいしているとの指摘

2023/12/04 13 users 重度 ハルシネーション Has AIチャットサービス 指摘

2023年11月29日に発表されたばかりのAIチャットサービス「Amazon Q」にプライバシーの問題がある可能性が報じられました。一部の従業員によるとAmazon Qはひどい幻覚(ハルシネーション)に襲われることがあり、Amazon Web Services(AWS)のデータセンターの場所などを漏らすことがあるそうです。 Amazon’s Q has ‘severe h... 続きを読む

Anthropicが大規模言語モデル「Claude 2.1」をリリース、最大20万トークン・15万ワードを読込可能で幻覚が半減し新しいAPI統合などを提供

2023/11/22 8 users Anthropic index 元OpenAIエンジニア

元OpenAIエンジニアによって設立されたAIスタートアップのAnthropicが、大規模言語モデルの「Claude 2.1」を発表しました。Claude 2.1は処理可能なトークン数が倍増し最大20万トークンを受け付けるようになったほか、精度も大幅に向上しています。 Anthropic \ Introducing Claude 2.1 https://www.anthropic.com/index/... 続きを読む

グミの販売店に立ち入り 体調不良相次ぎ 厚労省麻薬取締部 | NHK

2023/11/17 23 users グミ 大麻 毒性 厚労省麻薬取締部 立ち入り検査

大麻に近い成分の名前が表示されているグミを食べた人が相次いで体調不良を訴えている問題で、厚生労働省の麻薬取締部はこれらのグミに法律で規制された指定薬物と同じような毒性がある疑いがあるとして、東京・豊島区の販売店に立ち入り検査を始めました。 麻薬取締部は幻覚などの健康被害を引き起こす成分がグミに含ま... 続きを読む

これって、オタクの幻覚……？ついに18タイプの初音ミクが出揃った「ポケミク」こと『ポケモン feat. 初音ミク Project VOLTAGE』の話がしたすぎるので18人分の感想書く

2023/10/03 6 users 初音ミク ポケミク ポケモン オタク タイトル通り

ホーム特集記事 これって、オタクの幻覚……？ついに18タイプの初音ミクが出揃った「ポケミク」こと『ポケモン feat. 初音ミク Project VOLTAGE』の話がしたすぎるので18人分の感想書く もう、タイトル通りの記事です。 「ポケモン」と「初音ミク」がコラボした『ポケモン feat. 初音ミク Project VOLTAGE』の全18タイプの... 続きを読む

AIがハルシネーション（Hallucination）を起こす最大の理由 - Qiita

2023/07/10 23 users Qiita ハルシネーション 文脈 知覚 ウソ

ハルシネーション（Hallucination）とは？ もっともらしいウソ（＝事実とは異なる内容や、文脈と無関係な内容）の出力が生成されることである。人間が現実の知覚ではなく脳内の想像で「幻覚」を見る現象と同様に、まるでAIが「幻覚」を見て出力しているみたいなので、このように呼ばれる。 なぜハルシネーションを起こす... 続きを読む

「集団ストーカーを撃退」「電磁波攻撃の対策」統合失調症患者をカモにする悪質な探偵や業者たち - 弁護士ドットコムニュース

2023/07/03 302 users カモ 弁護士ドットコムニュース 撃退 集団ストーカー 探偵

「盗聴されている」「電磁波攻撃を受けている」「集団ストーカーの被害に遭っている」。幻覚や幻聴が特徴的な精神疾患・統合失調症を患った人たちがそんな相談を探偵会社に持ちかけ、何十万円、何百万円という法外な料金をとられて「カモ」にされるケースが多発している――。 弁護士ドットコムニュースで2017年10月8日に... 続きを読む

1600以上のAPIを適切に呼び出してAIに付き物の「幻覚」を大幅に減らす言語モデル「Gorilla」が公開される

2023/05/26 140 users GORILLA 付き物 Bard API chatgpt

近年はChatGPTやBardなどの対話型AIが相次いでリリースされ、人間の質問や呼びかけに対して非常に高精度な回答ができることで注目を浴びていますが、これらの対話型AIは時に真実ではないことを真実かのように話す「ハルシネーション(幻覚)」を起こすことがあります。そこで、膨大な数のAPIから適切なものを呼び出し、幻... 続きを読む

[スタパ齋藤の「スタパトロニクスMobile」] 俺とChatGPT 〜 ツンデレ、幻覚、その有用性まで

2023/03/26 14 users スタパトロニクスMobile スタパ齋藤 ツンデレ 有用性

続きを読む

婚活アプリでChatGPTに代筆させてる話

2023/03/19 571 users 機微 チャットGPT chatgpt 添削 GPT-3.5

最近、俺はチャットGPTを使って婚活アプリでメッセージを生成している。また、プロフィールの添削もお願いしている。実際、GPT-3.5の時代には、これができなかった。その理由は、GPT-3.5が幻覚に基づいた存在しない話題を混ぜ込んでしまう傾向が多いので、恋愛のような感情の機微が問われる繊細なメッセージ生成には適し... 続きを読む

「機械の中の幽霊」ならぬ「AIの中の幻覚」？ AIの「ハルシネーション」について考える - YAMDAS現更新履歴

2023/02/19 15 users ハルシネーション 幽霊 YAMDAS現更新履歴 機械

xtech.nikkei.com 中田敦さんが厳しい論調の文章を書いている。 これに対して、楠正憲さんが「自動運転と違って人命に関わる訳でもなく」と反応しているが、正直これには驚いた。楠正憲さんも2016年の WELQ 騒動を知らないわけはあるまい。検索結果は人命にかかわると言えるのではないか。 この騒動を機に、医師会やジャ... 続きを読む

星 暁雄 (ITと人権) on Twitter: "「AIのつく嘘」の問題について、連続ツイートをします。 会話するAI（知識ベース会話モデル）は事実と異なる発言をすることが知られており、この現象は一般

2023/02/19 8 users 人権 暁雄 on Twitter 現象 発言

「AIのつく嘘」の問題について、連続ツイートをします。 会話するAI（知識ベース会話モデル）は事実と異なる発言をすることが知られており、この現象は一般にHallucination（幻覚）と呼ばれています。 この問題はごく最近に… https://t.co/328suuJSHS 続きを読む

＜わけあり記者がいく＞手術に適応？いざ検査　薬抜き　私の体は幻覚の嵐：東京新聞 TOKYO Web

2022/07/14 39 users こんしん 手術 検査 web 焦燥

その時、「わけあり記者」こと私、三浦耕喜（５２）は、我が身中の「暴風雨」に打たれて、渾身（こんしん）の力で耐えていた。腕時計で時間を確認する。「あと二時間、いや、三時間か…」。安堵（あんど）とも焦燥ともつかない心持ちで、再びまぶたを閉じ、暴風雨の渦中へと、沈んでいくのであった。 私が何をしているの... 続きを読む

統合失調症 “原因の1つは自身の抗体が関わっている可能性” | NHK

2022/05/06 453 users 抗体 統合失調症 NHK 原因 助教

統合失調症を発症する原因の1つとして、自身の抗体が関わっている可能性があることをマウスを使った実験でつきとめたと東京医科歯科大学のグループが発表しました。 この研究成果は、東京医科歯科大学の塩飽裕紀 助教などのグループが発表しました。 統合失調症は、幻覚や妄想などの症状が出る病気で、およそ100人に1人... 続きを読む

手術後の医師の「わいせつ」、女性の被害証言は幻覚?　最高裁で弁論：朝日新聞デジタル

2022/01/21 30 users 弁論 争点 最高裁 証言 判決

「手術後に医師に胸をなめられた」と証言した女性患者の被害は、幻覚か？　この点が問われた刑事裁判で、最高裁第二小法廷（三浦守裁判長）は21日、弁護側と検察側の意見を聞く弁論を開いた。証言を支えるDNA型鑑定では、試料が廃棄され再現できないといい、鑑定のあり方も争点だ。判決は年度内にも言い渡される。 一審... 続きを読む

人がストレスから心を病むまでの知られざる経緯 | こころのナース夜野さん

2021/10/24 20 users 経緯 こころ ストレス 根底 虫歯

虫歯ができたら歯医者に行き、骨折したら整形外科に行くように、心の病気にかかった人のために「精神科」があります。 主人公の夜野は、精神科の新人看護師。患者さんが“本来のその人になっていく”ためのサポートをする仕事です。 薬物依存症、摂食障害、幻覚、幻聴、リストカット……。 さまざまな症状の根底にあるのは、... 続きを読む

一体なぜ？人生初の「金縛り」を経験して自分の引き出しの少なさが露呈した話「教養がないと夢も幻覚もしょぼくなる」 - Togetter

2021/07/30 10 users Togetter ワンフレーズ 金縛り 耳元 教養

賢犬覇 @synthetic_fiber 人生初の金縛り体験した。耳元でお経聞こえてきた 金縛りは睡眠障害なので聞こえるもの、見えるものは全て幻聴幻覚なのですが、お経は最初のワンフレーズしか聞こえてこなかったので私の引き出しの少なさが露呈した形となりました 2021-07-30 12:53:10 リンク Wikipedia 金縛り 金縛り（かなし... 続きを読む

統合失調症は｢一生苦しむ病気｣と思う人の勘違い | 健康 | 東洋経済オンライン | 社会をよくする経済ニュース

2021/07/25 6 users 統合失調症 勘違い 東洋経済オンライン 経済ニュース 社会

「統合失調症」とはどういう病気なのか？ 名前くらいは聞いたことがあっても、具体的にどういう病気か、発症後の人生がどうなるかまで知る人は少ないはず。今回はこの病気について、できるだけわかりやすく解説してみます。 発症確率はどの地域でも「0.8％前後」 統合失調症とは、幻覚や妄想を主要な症状とした精神疾患... 続きを読む