AIはシャットダウンされると思うと「故意に人間を騙す」確率が激増する - ナゾロジー

2024/12/18 127 users ナゾロジー 故意 OpenAI社 Meta社 GPT-4o

「AIはときに嘘をつく」――そんな話は耳にしたことがあるかもしれません。 しかし、最新の研究では、ただの誤回答ではなく、AIが“意図的に”人間を欺くケースが報告されました。 調査対象となったAIモデルは「OpenAI社のgpt-4oとo1、Google社のgemini-1.5、Meta社のllama-3.1、Anthropic社のsonnet-3.5、opus-3」と有名ど... 続きを読む

AIが検索結果のトップに"誤回答"を表示→対応のため、運営会社が看板を設置「情報は公式サイトなどを見るべき」

2024/12/18 12 users 看板 設置 検索結果 トップ 運営会社

現在、この回答は修正されている途中のようです。実際にAI回答が載っていた頃の画像もありますが、これは… 続きを読む

Googleは対話型AI「Bard」のミスで時価総額1000億ドルが吹き飛ぶ、現実味を帯びる生成AI倒産 【生成AI事件簿】顧客からの問い合わせに誤回答、社内規則や契約書類で重大ミス、大切な場面で失

2024/05/18 6 users シェイク チャットボット 生成AI Bard 誤解

何よりも企業に求められるのは、生成AIが間違いを犯すという前提に基づいた準備や行動だ。 エア・カナダの事例で言えば、最初にジェイクからの訴えを受けた際、自社には非がなかったかのように振る舞ったのは決定的な間違いだったと言えるだろう。慎重な企業であれば、チャットボットが顧客の金銭的被害を伴う誤解を生み... 続きを読む

Googleは対話型AI「Bard」のミスで時価総額1000億ドルが吹き飛ぶ、現実味を帯びる生成AI倒産 【生成AI事件簿】顧客からの問い合わせに誤回答、社内規則や契約書類で重大ミス、大切な場面で失

2024/05/18 112 users 一方 損害 はめ チャットボット 生成AI

生成AIを活用する企業は増える一方だが、それとともに、AIの間違いによって損害を被る企業も増えている。 エア・カナダはチャットボットの誤回答で賠償金を支払うはめに。別の企業は生成AIが作成した解雇合意書に重要な項目が欠落していたため、高額な和解金を支払わなければならなくなった。 企業に求められるのは、生... 続きを読む

「チャットボットの誤回答に責任はない」と弁解していたエア・カナダに裁判所が損害賠償支払いを命令

2024/02/19 19 users チャットボット 命令 損害賠償 エア・カナダ 裁判所

エア・カナダのチャットボットが案内した割引料金をめぐる民事事件で、裁判所は「ユーザーに不正確な情報を与えた」として、エア・カナダに賠償金を支払うよう命じました。 Moffatt v. Air Canada - Civil Resolution Tribunal https://decisions.civilresolutionbc.ca/crt/crtd/en/item/525448/index.do Air Canada is ... 続きを読む

年金機構 加入者に「情報流出ない」と誤回答　NHKニュース

2015/07/06 12 users 年金機構 文書 機構 指摘 ミス

年金情報の流出問題で、日本年金機構が個人情報が流出していた加入者からの電話での問い合わせに対し、誤って、「情報は流出していない」と回答していたケースが複数あったことが分かりました。 機構によりますと、先月、情報が流出した１０１万人余りの加入者全員におわびの文書を発送した際、加入者からの指摘で今回のミスが判明しました。ただ、今のところ、被害の情報はないということです。 機構は誤って回答した加入者を戸... 続きを読む