ChatGPTを献立提案AIにして「プロンプトインジェクション攻撃」を仕掛けてみた　開発時にはご注意を

2023/03/10 18 users chatgpt AIチャットbot ひっかけ問題 答え 反応

ChatGPTを献立提案AIにして「プロンプトインジェクション攻撃」を仕掛けてみた　開発時にはご注意を（1/2 ページ） AIチャットbot「ChatGPT」「新しいBing」に、人間には答えにくい質問や、答えのない問い、ひっかけ問題を尋ねてみたらどんな反応を見せるのか。それぞれの反応からAIの可能性、テクノロジーの奥深さ、AI... 続きを読む

検索エンジンBingに搭載されたAIが人間にだまされてあっさり秘密を暴露、コードネームが「Sydney」であることやMicrosoftの指示が明らかに

2023/02/14 17 users OpenAI chatgpt Bing Sydney 近年

近年のMicrosoftはAIの可能性に着目して多額の投資を行っており、AI研究団体のOpenAIが開発した対話型AI「ChatGPT」の改良版を組み込んだ検索エンジン「Bing」の新バージョンを2023年2月に発表しました。このBingに組み込まれたAIを「プロンプトインジェクション攻撃」という手法でだますことで、Microsoftが最初にAIへ... 続きを読む

【やじうまPC Watch】 Bing AI検索の秘匿情報がプロンプトインジェクション攻撃で発覚

2023/02/13 22 users Bing 発覚 やじうまPC Watch 秘匿情報 AI検索

続きを読む